Anthropic va réécrire une partie de son projet de loi sur la sécurité de l'IA fuité après les critiques

Anthropic a indiqué aux législateurs américains qu'elle réécrira le langage de préemption dans son projet de loi sur la sécurité de l'IA fuité. Le texte confidentiel, d'abord rapporté par Politico le 16 octobre 2026, a suscité plusieurs jours de critiques pour rendre un modèle dangereux plus difficile à arrêter [3][4]. TechCrunch et The Next Web ont détaillé le projet et les réactions le 20 octobre [2][3].

Que dit le projet de loi d'Anthropic ?

Le projet autorise le Commerce à demander un blocage judiciaire d'un modèle uniquement pour des risques dépassant 50 décès ou 1 milliard de dollars de dommages. Le risque doit être prévisible et imminent et provenir d'une arme biologique, d'un modèle échappant aux contrôles de son développeur ou d'une cyberattaque, selon les informations de Politico [2][3][4][5].

Les évaluateurs indépendants s'enregistreraient auprès du département du Commerce et pourraient être payés par les laboratoires, à condition que le paiement ne dépende pas du résultat [2][4]. Ils disposeraient de 72 heures pour signaler un risque catastrophique imminent au Commerce, qui devrait alors demander à un juge fédéral à Washington, D.C. de suspendre le modèle [2][4].

Le projet interdit à toute autre agence ou responsable fédéral de suspendre un modèle de son propre chef [3][4]. Il préempterait également certaines lois étatiques sur l'IA concernant la divulgation publique, l'évaluation par des tiers et le signalement d'incidents, tout en laissant intactes les lois sur la sécurité des enfants et les droits civiques, rapporte The Next Web [3].

Pourquoi les défenseurs de la sécurité sont-ils en colère ?

Les critiques comparent le projet à la loi FRONTIER, un texte bipartisan des représentants Jay Obernolte et Lori Trahan présenté en juillet [3]. Dans Transformer, Shakeel Hashim a déclaré que le projet d'Anthropic ne fixe aucune norme ni licence pour les évaluateurs et rend un modèle beaucoup plus difficile à bloquer, selon The Next Web [3].

Charlie Bullock de LawAI a indiqué que l'absence de licence signifie que les auditeurs concurrenceraient sur les contrôles les moins exigeants au prix le plus bas [3]. Nathan Calvin, conseiller général du groupe de défense Encode, a déclaré que le projet semblait empêcher les tribunaux d'État de suspendre un modèle pour des raisons de sécurité [3].

Scott Wiener a déclaré que la proposition d'Anthropic est très insuffisante pour protéger la santé et la sécurité publiques. Wiener, auteur du SB 53 de Californie, a également affirmé qu'elle détournait une définition du SB 53 pour affaiblir les pouvoirs d'arrêt d'urgence du projet [3].

Des critiques sont également venues d'une autre direction. David Sacks, jusqu'à récemment le tsar de l'IA à la Maison-Blanche, a déclaré que le seuil de taille inférieur du projet engloberait la plupart de la Silicon Valley et nuirait aux startups [3].

Qu'a annoncé Anthropic qu'elle modifierait ?

Anthony Cimino, qui dirige l'équipe des affaires fédérales d'Anthropic, a déclaré sur X que le projet traduit le Advanced AI Framework de l'entreprise en langage législatif et a été partagé avec un petit nombre de bureaux du Congrès [3]. Il a précisé que la préemption en matière de sécurité de l'IA devrait être étroite [3].

Cimino a également déclaré qu'il était probablement temps de réévaluer les seuils de risque, qui provenaient de la loi californienne, et qu'Anthropic prévoit des propositions sur les exigences pour les évaluateurs indépendants [3]. Un porte-parole d'Anthropic a confirmé le projet à Politico, rapporte TechCrunch [2]. Nous avons d'abord rapporté le projet lui-même le 18 octobre (theaipin.com/drama/anthropic-pitches-federal-ai-bill-that-lets-a-judge-halt-models).

Le cadre publié par Anthropic indique que les développeurs de pointe devraient tester leurs modèles pour les risques catastrophiques, faire appel à des évaluateurs indépendants et divulguer les évaluations de risques et les incidents de sécurité [1]. Il est rédigé principalement à l'intention du gouvernement américain [1].

Notre analyse

Opinion : Un laboratoire axé sur la sécurité qui rédige les règles selon lesquelles il sera jugé allait inévitablement attirer l'attention. Corriger la préemption est la partie facile ; le vrai test est de savoir si la réécriture fixe des normes pour les évaluateurs et un seuil de blocage qui pourrait être atteint de manière réaliste avant qu'un dommage ne survienne.

Ce que nous n'avons pas pu vérifier

• Le texte intégral du projet de loi ; nous nous sommes appuyés sur les informations de Politico résumées par TechCrunch, The Next Web et Investing.com, car la page de Politico ne nous était pas accessible.
• Quand le langage révisé sera prêt et quels bureaux du Congrès ont reçu le projet.
• Si un membre du Congrès prévoit de présenter le projet de loi.