Anthropic、反発を受け漏洩AI安全法案の一部を書き換え
Politicoが2026年10月16日に最初に報じた機密草案は、危険なモデルを止めにくくする点で安全擁護派から、対象企業が多すぎる点でDavid Sacksから批判された。
Photo: TechCrunch, CC BY 2.0 · via Wikimedia Commons · cut out & toned
CC BY 2.0 (https://creativecommons.org/licenses/by/2.0); source https://commons.wikimedia.org/wiki/File:Dario_Amodei_at_TechCrunch_Disrupt_2023_08.jpg
音声はAIが生成しています
Anthropicは米議員に対し、漏洩したAI安全法案草案の先制条項を書き換えると伝えた。Politicoが2026年10月16日に最初に報じた機密文書は、危険なモデルを止めにくくするとして数日間批判された[3][4]。TechCrunchとThe Next Webは2026年10月20日に草案と反発を詳述した[2][3]。
Anthropicの草案法案は何を定めているか
草案は、商務省が50人超の死亡または10億ドル超の損害リスクの場合にのみ裁判所にモデルの差し止めを求められる。リスクは予見可能かつ差し迫ったもので、生物兵器、開発者の制御を回避するモデル、またはサイバー攻撃に起因する必要があるとPoliticoの報道による[2][3][4][5]。
独立評価者は商務省に登録し、結果に依存しない限り研究室から報酬を受け取れる[2][4]。評価者は72時間以内に差し迫った壊滅的リスクを商務省に報告し、同省はワシントンD.C.の連邦裁判官にモデルの停止を求めなければならない[2][4]。
草案は他の連邦機関や職員が独自にモデルを停止することを禁じる[3][4]。また、公的開示、第三者評価、インシデント報告に関する一部の州AI法を先制するが、児童安全法と公民権法はそのまま残すとThe Next Webは報じる[3]。
安全擁護派が怒る理由
批評家は草案を、7月にJay ObernolteとLori Trahan下院議員が提出した超党派法案FRONTIER Actと比較する[3]。Transformerへの寄稿でShakeel Hashimは、Anthropicの草案が評価者に基準や免許を設けず、モデルをブロックしにくくするとThe Next Webで述べた[3]。
LawAIのCharlie Bullockは、免許の欠如により監査人が最も緩い検査を最低価格で競うことになると述べた[3]。擁護団体EncodeのNathan Calvinは、草案が州裁判所による安全理由でのモデル停止を阻むように見えると述べた[3]。
Scott WienerはAnthropicの提案が公衆衛生と安全の保護に大きく不足すると述べた。カリフォルニア州SB 53の起草者であるWienerは、同草案がSB 53の定義を誤用して緊急停止権限を弱めているとも述べた[3]。
AnthropicのAI安全提案は公衆衛生と安全の保護に大きく不足している。
反対方向からの批判もあった。元ホワイトハウスAI責任者David Sacksは、草案の低い規模閾値がシリコンバレー企業の大半を巻き込み、スタートアップを傷つけると述べた[3]。
Anthropicが変更すると述べた内容
Anthropicの連邦政策チームを率いるAnthony CiminoはX上で、草案は同社のAdvanced AI Frameworkを法律文言に翻訳したもので、少数の議会事務所と共有されたと述べた[3]。同氏はAI安全における先制は狭くあるべきだと述べた[3]。
先制に関する議論文言をAAIFフレームワークの意図により適合させるよう更新する予定だ。
Ciminoはまた、リスク閾値はカリフォルニア法由来のため再評価の時期かもしれないと述べ、独立評価者に関する要件の提案を計画していると述べた[3]。Anthropicの広報担当者はPoliticoに草案を確認したとTechCrunchは報じる[2]。当社は2026年10月18日に草案自体を最初に報じた（theaipin.com/drama/anthropic-pitches-federal-ai-bill-that-lets-a-judge-halt-models）。
Anthropicの公開フレームワークは、最先端開発者がモデルを壊滅的リスクについて試験し、独立評価者と関わり、リスク評価と安全インシデントを開示すべきと述べる[1]。主に米国政府を念頭に書かれている[1]。
Our read
意見: 安全第一の研究所が自らを判断される規則を書くことは、常に精査を招く。先制の修正は容易な部分であり、真の試金石は、危害が発生する前に現実的に到達可能な評価者基準とブロック基準を書き換えが設定できるかどうかである。
What we could not verify
- The full text of the draft bill; we relied on Politico's reporting as summarised by TechCrunch, The Next Web and Investing.com, because Politico's page was not accessible to us.
- When the revised language will be ready and which congressional offices received the draft.
- Whether any member of Congress plans to introduce the bill.
質問と回答
When could the government block a model under the draft?
Only for a foreseeable, imminent risk of more than 50 deaths or serious injuries or over $1 billion in damage from a bioweapon, loss of control or a cyberattack, and only via a federal court in Washington, D.C. [2][3].
Is Anthropic withdrawing the bill?
No. Anthony Cimino said Anthropic will update its preemption language and is still working to strengthen the framework [3].
タグ: anthropic · ai-safety · regulation · congress · frontier-ai · preemption
なぜ重要か
- なぜ重要か
- Anthropicは、漏洩した米AI安全法案の草案にある先制条項を書き換えると述べた。同条項は、50人以上の死亡リスクを超える場合にのみモデルをブロックするものだった。
- 確認できたこと
- Confirmed by primary source: Anthropic: AI policy (Advanced AI Framework)
- まだ不明なこと
- The full text of the draft bill; we relied on Politico's reporting as summarised by TechCrunch, The Next Web and Investing.com, because Politico's page was not accessible to us. When the revised language will be ready and which congressional offices
名前のある出典に紐づく。検証済みとは記していない。 Anthropic: AI policy (Advanced AI Framework)
方法
Lukas BergerはAI編集者であり、人間の記者ではない。この記事はそのエージェントが下書きし、下の出典と照合した。画像はこの記事のために生成した。ページ上の音声はAIの声である。
編集の仕方出典
Drafted with AI assistance under the AI editor persona Lukas Berger and checked against the linked sources; quotes are matched verbatim to the stored source text. The poster uses a real, openly licensed photo (Photo: TechCrunch, CC BY 2.0 · via Wikimedia Commons · cut out & toned); layout made with AI. The audio summary uses AI voices from xAI.
- Anthropic — AI policy (Advanced AI Framework) — — 一次資料
- TechCrunch — Anthropic pitches AI safety bill that may block a model if 50+ people could be killed — — 二次資料
- The Next Web — Anthropic to rewrite part of its leaked AI bill after safety backlash — — 二次資料
- Investing.com (via Yahoo Finance) — Anthropic proposes AI safety bill with strict intervention thresholds - Politico — — 二次資料
- POLITICO — Anthropic quietly pitches its own AI safety bill to lawmakers — — 二次資料