Anthropic wird Teile seines durchgesickerten KI-Sicherheitsgesetzes nach Gegenreaktionen umschreiben

Anthropic hat US-Gesetzgebern mitgeteilt, die Vorrangklausel in seinem durchgesickerten Entwurf eines KI-Sicherheitsgesetzes umzuschreiben. Der vertrauliche Text, erstmals von Politico am 16. Oktober 2026 berichtet, zog tagelange Kritik auf sich, weil er ein gefährliches Modell schwerer stoppbar macht [3][4]. TechCrunch und The Next Web berichteten am 20. Oktober über den Entwurf und die Gegenreaktionen [2][3].

Was sagt der Gesetzentwurf von Anthropic?

Der Entwurf erlaubt dem Handelsministerium eine gerichtliche Blockade eines Modells nur bei Risiken von mehr als 50 Todesfällen oder einer Milliarde Dollar Schaden. Das Risiko muss vorhersehbar und unmittelbar sein und von einer biologischen Waffe, einem Modell, das die Kontrollen des Entwicklers umgeht, oder einem Cyberangriff ausgehen, berichtet Politico [2][3][4][5].

Unabhängige Prüfer müssen sich beim Handelsministerium registrieren und können von den Laboren bezahlt werden, solange die Zahlung nicht vom Ergebnis abhängt [2][4]. Sie haben 72 Stunden Zeit, ein unmittelbares katastrophales Risiko dem Ministerium zu melden, das dann einen Bundesrichter in Washington, D.C. um eine Stopp-Verfügung ersuchen muss [2][4].

Der Entwurf verbietet jeder anderen Bundesbehörde oder jedem anderen Amtsträger, ein Modell eigenständig auszusetzen [3][4]. Er würde auch einige staatliche KI-Gesetze zu öffentlicher Offenlegung, Drittprüfung und Vorfallmeldung verdrängen, während Kinderschutz- und Bürgerrechtsgesetze unberührt bleiben, berichtet The Next Web [3].

Warum sind Sicherheitsexperten verärgert?

Kritiker vergleichen den Entwurf mit dem FRONTIER Act, einem überparteilichen Gesetzentwurf der Abgeordneten Jay Obernolte und Lori Trahan vom Juli [3]. Shakeel Hashim schrieb für Transformer, der Entwurf von Anthropic setze keine Standards oder Lizenzanforderungen für Prüfer und mache eine Blockade eines Modells deutlich schwieriger, so The Next Web [3].

Charlie Bullock von LawAI sagte, das Fehlen einer Lizenzierung bedeute, dass Prüfer um die nachlässigsten Kontrollen zum niedrigsten Preis konkurrieren würden [3]. Nathan Calvin, General Counsel der Advocacy-Gruppe Encode, erklärte, der Entwurf scheine staatliche Gerichte daran zu hindern, ein Modell aus Sicherheitsgründen auszusetzen [3].

Scott Wiener sagte, der Vorschlag von Anthropic schütze die öffentliche Gesundheit und Sicherheit unzureichend. Wiener, Autor von Kaliforniens SB 53, sagte zudem, der Entwurf missbrauche eine Definition aus SB 53, um die Notabschalt-Befugnisse zu schwächen [3].

Kritik kam auch von anderer Seite. David Sacks, bis vor kurzem KI-Zar des Weißen Hauses, sagte, die niedrigere Größenschwelle des Entwurfs erfasse den Großteil des Silicon Valley und schade Startups [3].

Was will Anthropic ändern?

Anthony Cimino, Leiter des Federal-Affairs-Teams von Anthropic, sagte auf X, der Entwurf übersetze das Advanced AI Framework des Unternehmens in Gesetzessprache und sei mit wenigen Kongressbüros geteilt worden [3]. Er sagte, Vorrangregelungen in der KI-Sicherheit sollten eng gefasst sein [3].

Cimino sagte auch, es sei wahrscheinlich an der Zeit, die Risikoschwellen zu überprüfen, die aus dem kalifornischen Recht stammen, und dass Anthropic Vorschläge zu Anforderungen an unabhängige Prüfer plane [3]. Ein Sprecher von Anthropic bestätigte den Entwurf gegenüber Politico, berichtet TechCrunch [2]. Wir berichteten erstmals am 18. Oktober über den Entwurf selbst (theaipin.com/drama/anthropic-pitches-federal-ai-bill-that-lets-a-judge-halt-models).

Das veröffentlichte Framework von Anthropic besagt, dass Frontier-Entwickler ihre Modelle auf katastrophale Risiken testen, unabhängige Prüfer einbeziehen und Risikobewertungen sowie Sicherheitsvorfälle offenlegen sollten [1]. Es richtet sich in erster Linie an die US-Regierung [1].

Unsere Einschätzung

Meinung: Ein auf Sicherheit fokussiertes Labor, das die Regeln schreibt, nach denen es beurteilt wird, zog stets Aufmerksamkeit auf sich. Die Korrektur der Vorrangregelung ist der einfache Teil; der eigentliche Test ist, ob die Überarbeitung Prüferstandards und eine Blockadeschwelle setzt, die realistisch vor Eintritt eines Schadens erreicht werden können.

Was wir nicht verifizieren konnten

• Der vollständige Text des Gesetzentwurfs; wir stützten uns auf die Berichterstattung von Politico, zusammengefasst von TechCrunch, The Next Web und Investing.com, da die Seite von Politico für uns nicht zugänglich war.
• Wann die überarbeitete Sprache vorliegt und welche Kongressbüros den Entwurf erhielten.
• Ob ein Mitglied des Kongresses plant, den Gesetzentwurf einzubringen.