Nadella: hay que tratar cada modelo de IA como a un infiltrado comprometido
El responsable del mayor proveedor de IA para empresas trasladó la seguridad de quien fabrica el modelo a quien lo despliega, en siete principios.
Por La redacción, Noticias · · 1 min de lectura
Etiquetas: Microsoft · seguridad · agentes · Nadella
- La noticia
- El responsable del mayor proveedor de IA para empresas trasladó la seguridad de quien fabrica el modelo a quien lo despliega, en siete principios.
- Por qué importa
- El consejero delegado de Microsoft, Satya Nadella, publicó un ensayo en el que sostiene que las empresas deberían dar por hecho que los modelos de IA están comprometidos y conservar un freno de emergencia en manos de una persona.
- Qué está confirmado
- La fotografía está generada para esta historia.
Ligado a una fuente nombrada. No marcado como verificado. TechCrunch
La noticia
El consejero delegado de Microsoft, Satya Nadella, publicó un ensayo titulado «Los modelos como riesgos de infiltrado en la era de la superinteligencia» (Models as Insider Risks in the Super Intelligence Era), en el que sostiene que las empresas que despliegan modelos de frontera deberían tratarlos como los equipos de seguridad tratan a un empleado con mucho poder que podría estar comprometido. «Debemos dar por hecho que un modelo está comprometido y contenerlo desde el principio», escribió, informaron TechCrunch y CNBC. «Piénsalo como un freno de emergencia.»
Por qué importa
El planteamiento deja los controles fuera del modelo, en los registros, los arneses y los interruptores de apagado, y es probable que aparezca en las listas con las que las empresas deciden qué comprar.
Los detalles
Nadella enumera siete principios, entre ellos separar el modelo del arnés que lo orquesta, registros a prueba de manipulación de cada acción que importe, auditabilidad independiente, revelación de incidentes y contención, con una persona autorizada siempre capaz de pausar o apagar un modelo a mitad de una tarea.
Días después, el presidente de Microsoft, Brad Smith, dijo a la BBC que los compromisos voluntarios no bastan y pidió normas globales y vinculantes de seguridad de la IA, una aprobación externa antes de publicar e interruptores de apagado, informó TechCrunch.
Lo que no pudimos comprobar
- El ensayo no nombra ningún producto de Microsoft, así que no está claro cómo se aplican hoy los principios a Copilot.
- Nos basamos en lo que la prensa contó del texto del ensayo.
Fuentes
La fotografía está generada para esta historia. No muestra a las personas nombradas en ella.