Anthropic、連邦AI法案を提案 危険モデルを裁判官が停止可能に

Anthropicの代表者は最先端AI安全に関する連邦法案草案を米議員に提示したと、Politicoが2026年10月16日に3人の関係者情報源を引用して報じた[1][2]。草案の下で、政府がモデルのリリースまたは使用を阻止できるのは、10億ドル超の損害または50人超の死亡・重傷の予見可能な差し迫ったリスクがある場合のみである[1]。

Anthropicの法案草案で政府に認められる措置とは

商務省はコロンビア地区連邦地方裁判所の連邦裁判官に対し、モデル停止を要請できると、Politicoを引用してReutersが報じた[1]。草案は他の米省庁・機関・職員による開発・展開・内部利用の停止を明示的に禁じている[1]。

商務省に登録された独立評価者が各ラボと最先端モデルを定期的に評価する[1]。ラボは評価者に報酬を支払えるが、支払いは結果と連動してはならず、「差し迫った列挙リスク」を発見した評価者は72時間以内に商務省へ報告しなければならない[1]。

同広報担当者は、法案は開発者に対し最先端モデルのテスト、調査結果の透明化、独立評価の実施も義務付けると述べた[1]。

草案はAnthropicの枠組みとどう関連するか

Anthropicの広報担当者はReutersに対し、法案は同社が今年初めに公表したAdvanced AI Frameworkの提案を反映すると述べた[1]。同枠組みは、10^25浮動小数点演算を超える訓練を受けたモデルで、AI収益5億ドル超またはAI研究支出10億ドル超の企業を対象とする[3]。

草案はカリフォルニア州法を含む一部州法を無効化すると、Reutersが報じた[1]。Anthropicは6月に「強力な連邦法がなければ、州は立法権限を完全に保持すべき」と記した[1]。同枠組みは、連邦法が枠組みと同等かそれ以上でない限り、議会が州法を先取りすべきでないと定めている[3]。

Institute for Law & AIのCharlie Bullockは提案を「かなり合理的」と評しつつ、X上で今夏提出された競合する下院法案FRONTIER Actより「弱い」との見解を示した[1]。

Anthropicが今、連邦規則を求める理由

6月にワシントンがAnthropicの最先端モデルを約3週間停止させ、CEOのDario Amodeiは先月、業界に対し開発の減速を呼びかけたと、Reutersが報じた[1]。議会は連邦AI法をまだ可決しておらず、11月中間選挙後まで休会中である[1]。

共同創業者Jack Clarkは2026年10月17日、バンコクでのIMF・世界銀行会合で、AIに関する「異例で重大な規則」には国際協力が必要と述べた[4]。同氏はAnthropicの内部予測を挙げ、一定条件下で2030年の米GDPが44兆ドルに達する可能性があるとし、現在は30兆ドル強だと指摘した[4]。

本記事の見解

意見: 他の全機関を排除した裁判官のみの停止は、破局防止と同様に6月型の停止を防ぐための措置と読める。他の最先端ラボが文書化したどの提案よりも具体的である。

未検証の点

• Politicoの報道および草案本文を確認できなかったため、本記事の詳細は同報道に関するReutersの記述による。
• Anthropicは草案を公表しておらず、どの議員が受け取ったかも不明。
• Clarkの44兆ドルという数字はAnthropic内部モデルの予測であり、独立した推計ではない。