Drei entlassene Sicherheitsforscher von OpenAI sagen, die Gründe gingen nicht auf

Die Nachricht

Jasmine Wang, Tomek Korbak und Mikita Balesni, drei Sicherheitsforscher, die OpenAI Anfang Oktober entlassen hat, veröffentlichten einen offenen Brief. Darin bestreiten sie die Behauptung des Unternehmens, sie hätten sensible Informationen außerhalb festgelegter Verfahren falsch gehandhabt, und sie warnten vor einem abschreckenden Effekt auf die Kultur des Unternehmens, berichtete TechCrunch am 8. Oktober.

Warum es zählt

Wie ein Frontier-Labor interne Kritiker der Sicherheit behandelt, ist eine Probe dafür, ob seine Zusagen zur Sicherheit unter Druck halten. Aufsichtsbehörden in Washington und in Brüssel fragen dieselben Labore nun nach Vorfällen.

Die Einzelheiten

OpenAI sagte NPR, die drei hätten klare Richtlinien zum Umgang mit sensiblen Informationen mehr als einmal verletzt, und die falsche Handhabung sei über ihre Arbeit mit einer externen Gruppe für Bewertungen hinausgegangen. Ein internes Memo einer Forschungsleitung sagte, das Unternehmen stimme den Empfehlungen der Forscher nachdrücklich zu und kündige Beschäftigten nicht, weil sie Bedenken äußerten.

Wang schrieb auf X, man habe ihr gesagt, sie sei entlassen worden, weil sie auf die E-Mail einer Führungskraft zugegriffen habe. Sie sagte, man habe ihr für die Personalgewinnung einen delegierten Zugang zu diesem Postfach gegeben, sie habe die IT gebeten, ihn zu entfernen, und innerhalb von Minuten gemeldet, eine sensible E-Mail versehentlich geöffnet zu haben.

Gesondert sagte David Robinson, der vor seinem Ausscheiden Sicherheitsberichte für die großen Einführungen von OpenAI schrieb, gegenüber NPR, iteratives Deployment habe bei Chatbots funktioniert, nicht aber bei Agenten, die in der Welt handeln.

Was wir nicht prüfen konnten

• Keinen der beiden Berichte über die interne Untersuchung konnten wir prüfen.
• Die Richtlinien, gegen die verstoßen worden sein soll, hat OpenAI nicht veröffentlicht.