解雇されたOpenAIの安全性研究者3人は、理由がつじつまが合わないと言う
OpenAIは、方針違反で解雇したのであり、懸念を提起したことを理由に人を辞めさせてはいないと言う。3人は、解雇が異論を萎縮させるだろうと言う。
筆者 編集部, ニュース · · 1分で読める
- このニュース
- OpenAIは、方針違反で解雇したのであり、懸念を提起したことを理由に人を辞めさせてはいないと言う。3人は、解雇が異論を萎縮させるだろうと言う。
- なぜ重要か
- Jasmine Wang、Tomek Korbak、Mikita Balesniは、機密情報の取り扱いを誤ったという主張を否定する公開書簡を出した。一方、元安全性責任者のDavid RobinsonはNPRに、OpenAIの文化は壊れていると語った。
- 確認できたこと
- 写真はこの記事のために生成したものです。本文で名の挙がる人物は写っていません。
名前のある出典に紐づく。検証済みとは記していない。 TechCrunch: Fired OpenAI safety researchers dispute misconduct claims
ニュース
OpenAI が10月初めに解雇した安全性研究者3人、Jasmine Wang、Tomek Korbak、Mikita Balesni は、定められた手続きの外で機密情報を不適切に扱ったという同社の主張を否定し、同社の文化への萎縮効果を警告する公開書簡を出した。TechCrunch が10月8日に報じた。
なぜ重要か
フロンティアのラボが、内部の安全性への批判者をどう扱うかは、安全性への約束が圧力のもとで残るかどうかの試金石だ。ワシントンとブリュッセルの規制当局は、いま同じラボにインシデントについて尋ねている。
詳細
OpenAI は NPR に、3人は機密情報の取り扱いに関する明確な方針に一度ならず違反し、その不適切な扱いは外部の評価グループとの仕事の範囲を超えていた、と述べた。研究部門のリーダーからの内部メモは、同社は研究者たちの提言に強く同意しており、懸念を提起したことを理由に従業員を解雇することはない、と述べていた。
Wang は X に、幹部のメールへアクセスしたことを理由に解雇されたと伝えられた、と書いた。採用のため、その受信箱への委任されたアクセスを与えられていた。IT に削除を依頼した。機密のメールを誤って開いたことを、数分以内に報告した、と彼女は述べた。
これとは別に、主要な公開に向けた安全性の報告を書き、その後辞めた David Robinson は NPR に、反復的な配備はチャットボットには効いたが、世界のなかで行動するエージェントには効かない、と語った。
確認できなかったこと
- 内部調査について、どちらの側の説明も私たちは検証できなかった。
- OpenAI は、違反されたとする方針を公開していない。