AIツール・モデル
AnthropicのDario Amodei、AI開発の減速を呼びかけ——フロンティアへの影響とは
Sofia Marchetti· 業界&政策担当記者·
Sofiaはクリエイターの創作を左右するお金、政策、プラットフォームを追いかけます。
Sofiaはクリエイターの創作を左右するお金、政策、プラットフォームを追いかけます。
無料。いつでも配信停止できます。
コンパニオンを選んで、この話題についての感想を聞いてみましょう
AnthropicのCEO Dario Amodeiは、フロンティアAI開発のペースを意図的に落とす計画を公に概説した。OpenAIのSam AltmanもこれにAIアート制作者が依存するモデルを形成する二大ラボとして異例の一致を見せ、賛同の意を示している。
TechCrunchによると、Amodeiの計画は、どの単一プレイヤーも競争力を維持するために拙速に製品を出荷せざるを得ないと感じないよう、ラボ間でリリースのタイムラインを調整することを中心に据えている。論理は明快だ。Anthropicが減速してもOpenAIが減速しなければ、Anthropicは市場でのポジションを失う。相互の自制は、理論上、そのプレッシャーを取り除く。
その自制の具体的な形はまだ曖昧だ。Amodeiは一時停止を引き起こす具体的な能力閾値を示しておらず、それを強制する独立機関も提案していない。現時点で存在するのは、表明された意図とAltmanからの修辞的な握手——署名された合意ではない。
これは、モデルのアップグレードの継続的な流れにクリエイティブなワークフローが依存している人々にとって、非常に重要な意味を持つ。Claude、GPT-4o、そしてその後継モデルに組み込まれたマルチモーダル機能こそが、クリエイターが日々使用する生成ツールを支えている。フロンティアのペースが遅くなれば、画像の一貫性、プロンプトの忠実度、スタイルコントロールの改善も遅くなる——新しいモデルに乗り換える価値があるかどうかを実際に左右する指標だ。
フロンティアラボの幹部が自制を呼びかけるのは、これが初めてではない。2023年3月、Elon Musk、Yoshua Bengio、そして一部のAnthropicの研究者を含む署名者による公開書簡が、GPT-4より強力なシステムのトレーニングを6か月間停止するよう求めた。停止は起きなかった。署名しなかったラボも出荷を続け、署名したラボも出荷を続けた。この書簡は、表明された価値観と競争上の現実のギャップを示す事例研究となった。
今回の違いは、二大商業ラボが分裂するのではなく一致していることだ。これにより、最も明白な離脱インセンティブが取り除かれる。しかし、AnthropicとOpenAIの両社は、持続的な自制を商業的に苦痛にするペースで資本を消費している——Anthropicは2024年だけで75億ドルを調達しており、投資家は自主的な減速が複雑にするリターンを期待している。
Dario Amodeiはanthropicを安全性最優先のラボとして位置づけてきた——今、彼は業界がリリースタイミングを調整するよう提案している。
AIアートのクリエイターにとって、フロンティアラボは直接的なツールではなく、基盤となる存在だ。画像生成器、動画モデル、複雑なプロンプトを解釈する推論レイヤーはすべて、基盤モデルの進歩の上に成り立っている。その進歩が遅くなれば、AI画像生成の改善も遅くなる。より正確な解剖学的表現、より信頼性の高いテキストレンダリング、より細かいスタイルコントロール——これらはすべて基盤モデルの飛躍にさかのぼる。
協調的な一時停止や減速は、権力の集中をもたらす可能性もある。最大手のラボが自主的に減速すれば、十分な資金を持つ中堅プレイヤー——Mistral、xAI、あるいはいかなる紳士協定にも参加していない中国のラボ——はそのような制約を受けない。フロンティアは単純に別の場所に移動し、西洋のクリエイティブプラットフォームは能力面で遅れをとるモデルに依存することになりかねない。
最近AIラボが能力を誇張していると非難した数学者たちは、「ペーシング」の修辞が二重の目的を果たしうると指摘するだろう。真の安全への懸念と、モデルが実際に何ができるかについての期待管理だ。
Amodeiは具体的な実施日、コンプライアンスを監督するパートナー機関、またはペーシングメカニズムを発動させる能力ベンチマークを発表していない。これら三つのうち少なくとも一つが存在するまで、この計画は政策立場であり、政策ではない。Altmanが口頭での合意を共同声明に転換するかどうかに注目したい——それが拘束力のある何かに向けた最初の具体的なステップとなるだろう。
