Meta（META.US）のザッカーバーグがAIの「スローダウン」論争に対して回答：モデルの能力向上とセキュリティの強化を引き続き推進

智通财经APPによると、Meta Platforms（META.US）のCEOマーク・ザッカーバーグと同社AI責任者アレクサンダー・ワンがAI開発速度をめぐる論争についてコメントし、AIラボはモデル能力の向上を引き続き進める一方で、ますます強力になるモデルへの強固な防御策の構築も主張しました。

両者の発言はXプラットフォームで発表されました。現在、業界では「AIの安全がさらに進展するまで能力開発を遅らせるべきか否か」をめぐり幅広い議論が行われています。AIの安全とは、AIシステムが人間の意図や価値観を確実に遵守することを指します。

Metaの株価は火曜日まで3営業日連続で上昇し、累計4.2%上げ、ナイトセッションでもわずかに上昇しました。Stocktwitsでの最新確認時点で、個人投資家のセンチメントは「極度に弱気」となっています。

ザッカーバーグ：「ラボはより安全なAIの構築に動機付けられている」

ザッカーバーグは、AI企業にはモデルの安全性とユーザーとの整合性を推進する強い商業的および法的インセンティブがあると述べました。「人々は自分と一致せず、要求通りに行動しないエージェントを使いたいとは思わない」とザッカーバーグは記しました。「整合性に注力しないラボは遅れを取るだろう。」

彼は、整合性そのものがAI開発の制約ではなく、重要な競争力となっていると考えています。「私の見解は、信頼と整合性がエージェントやモデルを区別する最も重要な能力になりつつあるということだ」と述べています。

また、Metaは過去にMuseモデルのリリースを数か月延期し、安全性と保障の問題に対処したことにも言及しました。

Metaは外部監督を支持

ザッカーバーグとアレクサンダー・ワンは、AIモデルがますます強力になる中で、さらなる独立評価者と外部監督の導入を提唱しました。

「独立評価者やアドバイザーの導入は業界のベストプラクティスだ」とザッカーバーグは述べ、より大きく多様な評価者のエコシステムがAI安全対策の改善につながると考えています。

アレクサンダー・ワンもまた、「AIラボは訓練から展開まで全プロセスにわたり強固なガバナンスフレームワークを維持すべきであり、外部評価者やモデル公開の安全基準を独立して監督することが含まれる」と述べました。

さらに彼は、「すべてのラボは民主国家の制度的保護下で運営すべきだ……つまり、もしモデルが害を及ぼした場合、ラボは重大な法的責任を負うことになる」と補足しました。

Metaは計算資源の割当て方針を擁護

両経営者の主張の重要な部分として、Metaは大部分の計算資源をユーザーへのサービスに割り当て、自己進化（RSI）を加速させるためには使っていません。

「圧倒的多数の計算資源を人類支援に投じ、自己帰納的な自己改良競争に使わないことは、この技術を安全に開発するための最善策の1つだ」とザッカーバーグは述べました。

懸念されているのは、RSIがAIシステムの能力を急速に高め、人間の監督を超えて、強力なモデルの暴走リスクを高めることかもしれません。

アレクサンダー・ワンもRSI競争について「強力なモデルの暴走を引き起こす最も危険な道の一つ」と表現しています。

AIの進行ペースを巡る論争がテック業界を二極化

AI開発ペースを巡る論争は大きく分かれています。AnthropicのCEOダリオ・アモダイは、セーフティ機構の整備が遅れているため最先端AI開発を減速すべきだと主張。一方、OpenAIのCEOサム・アルトマン、MicrosoftのCEOサティア・ナデラ、SpaceXのイーロン・マスクは、開発を止めず、より慎重かつ安全重視で進めるべきだと支持しています。

一方、アメリカ大統領ドナルド・トランプは、中国の先行を懸念し、米国AI競争の減速に反対。トランプ前政権のAI顧問デヴィッド・サックスは、企業はリスク管理を自主的に行うべきで政府規制に頼るべきでないとし、Anthropicのセーフティ警告に疑義を示しています。

投資家マイケル・バーリは、開発減速の主張が、既存AI企業が競争から守られる利己的な利益も含まれていないか疑問を呈しています。