Tres investigadores de seguridad despedidos de OpenAI dicen que las razones no cuadran

La noticia

Jasmine Wang, Tomek Korbak y Mikita Balesni, tres investigadores de seguridad a los que OpenAI despidió a principios de octubre, publicaron una carta abierta en la que niegan la afirmación de la empresa de que manejaron mal información sensible fuera de los procedimientos establecidos, y advirtieron de un efecto disuasorio sobre la cultura de la empresa, informó TechCrunch el 8 de octubre.

Por qué importa

Cómo trata un laboratorio de frontera a sus críticos internos de seguridad pone a prueba si sus compromisos de seguridad aguantan la presión. Reguladores de Washington y de Bruselas preguntan ahora a esos mismos laboratorios por los incidentes.

Los detalles

OpenAI dijo a NPR que los tres incumplieron más de una vez normas claras sobre el manejo de información sensible, y que ese mal manejo fue más allá de su trabajo con un grupo externo de evaluación. Un memorando interno de un responsable de investigación decía que la empresa estaba muy de acuerdo con las recomendaciones de los investigadores y que no despide a empleados por plantear inquietudes.

Wang escribió en X que le dijeron que la despedían por acceder al correo de un ejecutivo. Dijo que le habían dado acceso delegado a esa bandeja para seleccionar personal, que pidió a informática que lo retirara y que, a los pocos minutos, avisó de haber abierto por error un correo sensible.

Por separado, David Robinson, que redactaba informes de seguridad para los grandes lanzamientos de OpenAI antes de dimitir, dijo a NPR que el despliegue iterativo servía para los chatbots, pero no para los agentes que actúan en el mundo.

Lo que no pudimos comprobar

• No pudimos verificar el relato de ninguna de las dos partes sobre la investigación interna.
• OpenAI no ha publicado las normas que dice que se incumplieron.