Anthropic reescribirá parte de su proyecto de ley filtrado sobre seguridad de la IA tras las críticas

Anthropic ha informado a legisladores de Estados Unidos que reescribirá el lenguaje de preempción en su borrador filtrado de ley de seguridad de la IA. El texto confidencial, reportado primero por Politico el 16 de octubre de 2026, recibió días de críticas por dificultar la detención de un modelo peligroso [3][4]. TechCrunch y The Next Web detallaron el borrador y las reacciones el 20 de octubre [2][3].

¿Qué dice el proyecto de ley de Anthropic?

El borrador permite a Comercio solicitar un bloqueo judicial de un modelo solo por riesgos superiores a 50 muertes o 1000 millones de dólares en daños. El riesgo debe ser previsible e inminente y derivar de un arma biológica, un modelo que evade los controles de su desarrollador o un ciberataque, según el informe de Politico [2][3][4][5].

Los evaluadores independientes se registrarían en el Departamento de Comercio y podrían ser pagados por los laboratorios, siempre que el pago no dependa del resultado [2][4]. Dispondrían de 72 horas para notificar un riesgo catastrófico inminente a Comercio, que luego debería pedir a un juez federal en Washington, D.C. que detenga el modelo [2][4].

El borrador prohíbe que cualquier otra agencia u funcionario federal suspenda un modelo por sí mismo [3][4]. También anularía algunas leyes estatales de IA sobre divulgación pública, evaluación por terceros e informes de incidentes, sin afectar las leyes de seguridad infantil y derechos civiles, según The Next Web [3].

¿Por qué están enfadados los defensores de la seguridad?

Los críticos comparan el borrador con la FRONTIER Act, un proyecto bipartidista de los representantes Jay Obernolte y Lori Trahan presentado en julio [3]. En un artículo para Transformer, Shakeel Hashim señaló que el borrador de Anthropic no establece normas ni licencias para los evaluadores y dificulta mucho bloquear un modelo, según The Next Web [3].

Charlie Bullock de LawAI dijo que la falta de licencias implica que los auditores competirían con las comprobaciones menos exigentes al precio más bajo [3]. Nathan Calvin, abogado general del grupo de defensa Encode, afirmó que el borrador parecía impedir que los tribunales estatales suspendieran un modelo por motivos de seguridad [3].

Scott Wiener afirmó que la propuesta de Anthropic queda muy por debajo de la protección de la salud y seguridad públicas. Wiener, autor de la SB 53 de California, también señaló que se utilizó de forma indebida una definición de la SB 53 para debilitar los poderes de apagado de emergencia del borrador [3].

Las críticas también llegaron desde otra dirección. David Sacks, hasta hace poco zar de la IA de la Casa Blanca, dijo que el umbral de tamaño más bajo del borrador abarcaría a la mayor parte de Silicon Valley y perjudicaría a las startups [3].

¿Qué dijo Anthropic que cambiará?

Anthony Cimino, responsable del equipo de asuntos federales de Anthropic, declaró en X que el borrador traduce el Marco de IA Avanzada de la empresa a lenguaje legislativo y se compartió con un pequeño número de oficinas del Congreso [3]. Añadió que la preempción en seguridad de la IA debería ser limitada [3].

Cimino también dijo que probablemente es momento de reevaluar los umbrales de riesgo, que proceden de la ley de California, y que Anthropic presentará propuestas sobre requisitos para evaluadores independientes [3]. Un portavoz de Anthropic confirmó el borrador a Politico, según TechCrunch [2]. Informamos por primera vez sobre el propio borrador el 18 de octubre (theaipin.com/drama/anthropic-pitches-federal-ai-bill-that-lets-a-judge-halt-models).

El marco publicado por Anthropic indica que los desarrolladores de frontera deberían probar sus modelos en busca de riesgos catastróficos, involucrar a evaluadores independientes y divulgar evaluaciones de riesgo e incidentes de seguridad [1]. Está escrito principalmente pensando en el gobierno de Estados Unidos [1].

Nuestra lectura

Opinión: Que un laboratorio que prioriza la seguridad redacte las normas por las que será juzgado siempre iba a atraer escrutinio. Arreglar la preempción es la parte fácil; la prueba real es si la reescritura establece normas para evaluadores y un umbral de bloqueo que pueda alcanzarse de forma realista antes de que ocurra un daño.

Lo que no pudimos verificar

• El texto completo del proyecto de ley; nos basamos en el informe de Politico resumido por TechCrunch, The Next Web e Investing.com, porque la página de Politico no estaba accesible para nosotros.
• Cuándo estará listo el lenguaje revisado y qué oficinas del Congreso recibieron el borrador.
• Si algún miembro del Congreso planea presentar el proyecto de ley.