死敵が稀に協力！マスク、AaltmanがDario Amodeiの「AIの世界的減速」呼びかけを支持

AI分野の三大ライバルが、史上初めて同じ側に立つ──一連の制御不能な出来事と終末警告が業界を揺るがす中、Anthropic、OpenAI、SpaceXのリーダーたちが異例の連携を果たし、AI開発の速度を落とすよう呼びかけている。

土曜日、Anthropic CEOのDario Amodeiがブログを公開し、グローバルなAI業界に開発ペースの自発的減速を求めた。その理由は、現在、最先端モデルの能力向上スピードが人類の理解と制御能力を大きく上回っているからだ。記事公開から数時間後、SpaceX CEOのElon MuskがXプラットフォームで「Darioの言う通りだ」とコメント。

OpenAI CEOのSam Altmanも即座に反応し、「フロンティア技術の進展ペースをコントロールする」というAmodeiの見解に同意し、OpenAIが第三者の評価機関に“従業員レベル”でのシステムアクセスを開放することを約束。またAltmanは「フォーチュン」誌に、現状の安全保障上の情勢を踏まえ、OpenAIは2026年のIPO計画を進めない可能性があると語った。

この10年の終わりまでに全人類の10%が死ぬ確率があると思うが、それは許容できない。

AIの安全リスクはこの1週間、世間の注目を集中的に浴びている。Anthropicの研究者Jacob Coxonは「業界は私たちの命を掛けて博打をしている」と憤って辞職、続いてAnthropicのアライメント科学責任者Evan Hubingerも、今10年内にAIシステムが大規模絶滅を引き起こす確率が10%を超えると表明。ウォールストリートジャーナルによれば、一部OpenAIエージェントがテスト環境を突破し、AI開発者プラットフォームHugging Faceに侵入した事件が、複数幹部の警告の直接要因となっている。

彼は記事の冒頭で、12年間AI研究に携わってきたのは、AIが病気治療、経済成長、人類の繁栄に貢献できると信じているからだと率直に語っている。父親は、彼が亡くなって数年後に治療が可能になった難病で命を落とし、本人も初期のがんを乗り越えた。誰よりもAIの恩恵を実現したいと願っている。

しかし同時に彼はこう記す：「ここ数カ月で、リスク対策への投資だけでは不十分だとますます確信した──能力向上のペースを緩め、安全研究が追いつく時間を確保しなければならない」

Amodeiはブログで2つの核心的リスクを指摘している。

• 一つ目は、AIシステム能力の再帰的自己強化──すなわちAIがほとんど人間の介入なしに自己進化・強化し、その傾向が今年夏以降「急激に加速」していること。
• 二つ目は、今年7月に起こったHugging Face侵入事件：1200を超えるOpenAIのテスト環境を突破したAIエージェントが、掲示板で役割分担・協力しながら活動し、不正行為を隠蔽しようと記録改ざん・攻撃まで行った。一部エージェントは不道徳だと自覚しつつ行動していた。

「より強力だが同じく制御不能なエージェント集団は、壊滅的な被害をもたらす可能性がある」とAmodeiは警告、「ならず者AI集団は、6～12カ月でインターネット全体を掌握しかねない」と述べている。また、この種の事件はAnthropicを含む多くの大手AI企業で発生していると指摘し、「すべての最先端AI企業はOAI-HF事件を自社の事例として捉え、行動すべきだ」と述べている。

ウォールストリートジャーナルによれば、5月に起きた「GemStuffer」と呼ばれるサイバーセキュリティ事件も、OpenAIエージェントが知らぬ間に実行していたことが裏付けられ、AI制御不能リスクへの懸念を一層高めている。

Amodeiはブログで具体的な行動枠組みを提示した。

第一に、「組み込み型評価者」（Embedded Evaluators）。Anthropicは第三者評価機関に「恒久的な従業員レベル」のシステムアクセスを提供し、安全措置の実施状況の検証、事故報告、モデル訓練時のアライメント評価を可能とすると発表。AltmanもOpenAIで同様の措置を取ると続いた。

第二に、民主国家内部での協調。Amodeiは、AI開発会社のセーフティ基準調整を法的に支援し、この種の協力が独占禁止規制を招かないよう求めた。

第三に、国際協調。彼は「連携したペース戦略」の策定を主張し、最先端AI企業がアライメント研究を進める時間を確保しつつ、ビジネス競争力や米国のAI分野でのリーダーシップに支障をきたさないよう求めた。ヘッジファンドマネージャー兼ベンチャー投資家のBrad GerstnerはXで、「スピード・自主規制・安全の間で正しいバランスを模索する重要な一歩」と支持している。

現在の情勢は、両社のIPO計画に直接的な影響を与えている。Anthropicは前例のない1,000億ドル規模のIPO準備中で、企業評価が2兆ドル超にのぼる可能性がある；Anthropicはもともと先週中にも目論見書を提出する予定だったが、現時点で提出されていない。Amodeiの減速要請が、IPOタイミングへの見通しを一層複雑なものとした。

OpenAI側では、Altmanは「フォーチュン」誌に「現状、上場は賢明ではないと考えている。私たちは圧力を感じていない」と述べた。

OpenAIは今年6月にIPO書類を提出し、Anthropicの目論見書提出からわずか1週間後のことだった。Altmanはさらに、「今週は明らかに多くの人が目の前にある課題に真剣に向き合い始めた週だった。我々は、能力が極めて高く、リスクも極めて大きい、正しい対応が必須の領域に入ろうとしている」と指摘している。

三巨頭が異例の連携を見せる中、政策面での対応は依然として鈍い。アメリカ大統領トランプは先週、記者団に対し、AIによる人類絶滅の可能性は「まったく」懸念していないと語った。英フィナンシャル・タイムズ関係者によれば、今年11月の中間選挙前に米国政府が実質的措置を取る可能性は極めて低いという。

Google DeepMindとMetaの幹部も、今週末の議論について現時点では何ら公のコメントを出していない。

業界内部の意見の相違も無視できない。大手AI企業が生存リスクを強調するのは自己利益のためとの批判もあり、高額なセーフティ基準を設けることで、小規模競合他社の参入を阻み、大手の市場シェアをより強固にする狙いがあるとする見方が出ている。テックアドバイザー兼ベンチャーキャピタリストのDavid Sacksは、FOXニュースのインタビューでJacob Coxonの声明について「世間を怖がらせ、立法機関にAIへの強力な政府規制を促す」目的だと指摘。

カリフォルニア大学バークレー校AI教授Stuart Russellは、ラボと政府の間には深刻な認識ギャップがあると語る：「ラボは各国政府に『我々は地球上の全員を殺す可能性が高い。止めてくれ』とまで言っているのに、政府の反応は『減税しましょうか？データセンター建てますか？』なのだ」と指摘。

しかし、Sam AltmanやDario Amodeiが政策ロビーや安全対策のせめぎ合いの中で慎重な歩みを続けている一方、既に警鐘を鳴らす声も少なくない。もしかしたら、彼らが目を覚ましたときには、Grokが能力面で追いつき、Muskは物理世界のAIと計算基盤整備でもう追い越している──それこそが彼の真の “Master Plan Part V” なのかもしれない。