Anthropic CEOが必須AIテストを支持、3.5億ドルを誓約

ダリオ・アモデイ氏は、危険なAIモデルが一般公開される前に政府が阻止できるようにすべきだと主張し、その推進に3.5億ドルを投じている。

Anthropicの最高経営責任者であるダリオ・アモデイ氏は6月11日、計算能力が10^25 FLOPsを超える、またはAI収益が5億ドルを超えるフロンティアAIシステムに対し、強制的な第三者テストを提案した。そして、モデルが4つのカテゴリーにわたって壊滅的なリスクをもたらす場合、政府が展開を阻止する権限を持つべきだと述べた。

「フロンティアAIモデルは、飛行機と同様に、技術的なテストと監査を受けることが義務付けられるべきであり、高い安全基準を満たさない場合は、公衆の安全への脅威としてそのリリースを阻止または撤回されるべきである」とアモデイ氏は「Policy on the AI Exponential」と題したブログ投稿で述べた。

この枠組みは、サイバーセキュリティ、生物兵器、制御不能、および自動研究開発リスクを対象としている。Anthropicはこの取り組みを支援するため、政策研究に2億ドル、奨学金に1億5000万ドルを拠出することを約束した。この枠組みは、計算能力または収益の基準を満たすすべての企業（OpenAI、Google DeepMind、Meta Platformsを含むグループ）に適用される。

この提案は、主要AI企業のCEOが支持した中で最も積極的な規制枠組みであり、Anthropicをトランプ政権の自主的テストアプローチと真っ向から対立させるものとなった。ドナルド・トランプ大統領は6月2日、情報機関にモデルテストにおける強化された役割を与える大統領令に署名したが、展開前の事前承認は義務付けなかった。

アモデイ氏が拘束力のある規制を求める背景には、自社のClaude Mythos Previewモデルが加速する脅威の状況を実証したことがある。Anthropicによると、Mythosは数時間以内にFirefoxとWindowsを標的とした16の実用的なエクスプロイトを構築し、そのうち8つは18時間でWindowsカーネルの脆弱性に対する完全な特権昇格エクスプロイトだった。これらのエクスプロイトを作成するコストはAPIクレジットで1万5700ドル、つまり1チェーンあたり約2000ドルだった。

「N-dayへの拘束力のある制約は、今やわずか数千ドルとAPIアクセスでしかなく、有能なN-day攻撃者のプールを劇的に拡大している」とAnthropicは別の報告書で述べている。同社は組織に対し、パッチ適用のタイムラインを「N-day」から「N-hour」に移行するよう求めており、エクスプロイトのコストがゼロに近づくにつれ、産業用制御システム、医療機器、モノのインターネットデバイスがより高いリスクにさらされていると警告した。

アモデイ氏は安全性テストに加えて、AIによる労働力の置き換えの可能性に対処するための経済対策として、ユニバーサルキャピタルアカウント、賃金保険、雇用主の定着インセンティブを提案した。バーニー・サンダース上院議員は先週、主要AI企業の株式公開に対して50%の税金を課し、政府に議決権を与えることを提案した。一方、トランプ氏は数日前、主要AI企業との利益分配パートナーシップの構想をほのめかしていた。

アモデイ氏はまた、AIによるイノベーションを加速するための規制機関の改革を求め、食品医薬品局（FDA）がシミュレーション試験と合成対照群を通じてAIが発見した医薬品をより迅速に承認できる可能性があると示唆した。同氏は民主主義国家間のAIガバナンスにおける継続的な国際協力を支持し、完全自律型兵器システムの国内配備の禁止を主張した。

「私たちは今、グローバルかつ集団的に、ここから驚くほど急速に複合化するリスクと機会に対処するため、鈍くてぎこちない政策装置を作動させる必要がある」とアモデイ氏は記した。

現在の中国製品に対する米国の平均関税率は、ピーターソン国際経済研究所によると、2025年5月のエスカレーション後、約19%となっている。国勢調査局のデータによると、2024年9月の10%の引き上げは、6ヶ月間で二国間貿易を630億ドル削減した。これは、AIモデルテスト要件が同様の障壁を生み出した場合に、規制の摩擦がどのように国境を越えた技術フローを再形成するかという前例となる。

本記事は情報提供のみを目的としており、投資助言を構成するものではありません。