Trois chercheurs en sûreté licenciés d'OpenAI disent que les motifs ne tiennent pas
OpenAI dit les avoir licenciés pour des violations de règles, et ne pas mettre fin au contrat de personnes qui soulèvent des inquiétudes. Eux disent que les licenciements vont dissuader la contestation.
Par La rédaction, Actualités · · 2 min de lecture
Tags: openai · sûreté · lanceurs d'alerte · travail
- L'essentiel
- OpenAI dit les avoir licenciés pour des violations de règles, et ne pas mettre fin au contrat de personnes qui soulèvent des inquiétudes.
- Pourquoi cela compte
- Eux disent que les licenciements vont dissuader la contestation.
- Ce qui est établi
- La photographie a été générée pour cet article.
Lié à une source nommée. Non marqué comme vérifié. TechCrunch: Fired OpenAI safety researchers dispute misconduct claims
L'actualité
Jasmine Wang, Tomek Korbak et Mikita Balesni, trois chercheurs en sûreté qu'OpenAI a licenciés début octobre, ont publié une lettre ouverte niant l'affirmation de la société selon laquelle ils auraient mal géré des informations sensibles en dehors des procédures établies, et ont mis en garde contre un effet dissuasif sur la culture de la société, a rapporté TechCrunch le 8 octobre.
Pourquoi c'est important
La façon dont un laboratoire de frontière traite ses critiques internes de la sûreté mesure si ses engagements de sûreté tiennent sous la pression. Les régulateurs, à Washington et à Bruxelles, interrogent désormais les mêmes laboratoires sur les incidents.
Les détails
OpenAI a déclaré à NPR que les trois avaient, plus d'une fois, enfreint des règles claires sur le traitement des informations sensibles, et que ce manquement allait au-delà de leur travail avec un groupe d'évaluation extérieur. Une note interne d'un responsable de la recherche disait que la société était fortement d'accord avec les recommandations des chercheurs et ne licencie pas les employés pour avoir soulevé des inquiétudes.
Wang a écrit sur X qu'on lui avait dit avoir été licenciée pour avoir accédé à la messagerie d'un dirigeant. Elle a dit avoir reçu un accès délégué à cette boîte pour le recrutement, avoir demandé au service informatique de le retirer, et avoir signalé, en quelques minutes, l'ouverture par erreur d'un message sensible.
Par ailleurs, David Robinson, qui rédigeait les rapports de sûreté des grands lancements d'OpenAI avant de démissionner, a déclaré à NPR que le déploiement itératif fonctionnait pour les chatbots, mais pas pour les agents qui agissent dans le monde.
Ce que nous n'avons pas pu vérifier
- Nous n'avons pas pu vérifier le récit de l'une ou l'autre partie sur l'enquête interne.
- OpenAI n'a pas publié les règles qu'elle dit avoir été enfreintes.
Sources
La photographie a été générée pour cet article. Elle ne montre pas les personnes qui y sont nommées.