Três pesquisadores de segurança demitidos da OpenAI dizem que os motivos não batem

A notícia

Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança que a OpenAI demitiu no início de outubro, publicaram uma carta aberta negando a alegação da empresa de que trataram de forma indevida informações sensíveis fora dos procedimentos estabelecidos, e alertaram para um efeito inibidor sobre a cultura da empresa, informou a TechCrunch em 8 de outubro.

Por que importa

O modo como um laboratório de fronteira trata críticos internos de segurança é um teste de se os compromissos de segurança sobrevivem à pressão. Reguladores em Washington e em Bruxelas agora perguntam aos mesmos laboratórios sobre incidentes.

Os detalhes

A OpenAI disse à NPR que os três violaram mais de uma vez políticas claras sobre o tratamento de informações sensíveis, e que o tratamento indevido foi além do trabalho deles com um grupo externo de avaliação. Um memorando interno de um líder de pesquisa disse que a empresa concordava fortemente com as recomendações dos pesquisadores e não demite funcionários por levantarem preocupações.

Wang escreveu no X que lhe disseram que foi demitida por acessar o e-mail de um executivo. Ela disse que tinha recebido acesso delegado àquela caixa de entrada para recrutamento, pediu à TI que o removesse e comunicou, em minutos, ter aberto um e-mail sensível por engano.

Separadamente, David Robinson, que escreveu relatórios de segurança para os grandes lançamentos da OpenAI antes de pedir demissão, disse à NPR que a implantação iterativa funcionou para chatbots, mas não para agentes que agem no mundo.

O que não conseguimos checar

• Não conseguimos verificar o relato de nenhum dos lados sobre a investigação interna.
• A OpenAI não publicou as políticas que diz terem sido violadas.