Nadella：すべてのAIモデルを、侵害された内部者として扱え
最大の企業向けAIベンダーのトップは、安全性の置き場所を、モデルを作る側から配備する側へ移した。原則は7つだ。
筆者 編集部, ニュース · · 1分で読める
タグ: Microsoft · 安全性 · エージェント · Nadella
- このニュース
- 最大の企業向けAIベンダーのトップは、安全性の置き場所を、モデルを作る側から配備する側へ移した。原則は7つだ。
- なぜ重要か
- Microsoftの最高経営責任者Satya Nadellaは、企業はAIモデルが侵害されていると想定し、人が握る緊急ブレーキを残すべきだ、と論じるエッセイを公開した。
- 確認できたこと
- 写真はこの記事のために生成したものです。本文で名の挙がる人物は写っていません。
名前のある出典に紐づく。検証済みとは記していない。 TechCrunch
ニュース
Microsoft の最高経営責任者 Satya Nadella は、「超知能の時代における内部者リスクとしてのモデル」（Models as Insider Risks in the Super Intelligence Era）と題したエッセイを公開し、フロンティアモデルを配備する企業は、侵害されているかもしれない有力な従業員をセキュリティチームが扱うのと同じように、モデルを扱うべきだと論じた。「モデルは侵害されていると想定し、最初から封じ込めなければならない」と彼は書いた、と TechCrunch と CNBC が報じた。「緊急ブレーキのようなものだと考えてほしい。」
なぜ重要か
この枠組みは、制御をモデルの外、ログ、ハーネス、停止スイッチに置く。企業の調達チェックリストに載るようになるだろう。
詳細
Nadella は7つの原則を挙げている。モデルと、それを統括するハーネスとを分けること、意味のある行動すべての改ざんできないログ、独立して監査できること、インシデントの開示、そして封じ込めである。権限を持つ人間が、作業の途中でも常にモデルを一時停止し、または停止できるようにする。
その数日後、Microsoft の社長 Brad Smith は BBC に、自主的な誓約では足りない、と述べた。拘束力のある世界的な AI 安全の規則、公開前の外部による承認、キルスイッチが必要だ、と呼びかけた。TechCrunch が報じた。
確認できなかったこと
- エッセイは Microsoft の製品名を挙げておらず、これらの原則が今日の Copilot にどう当てはまるかは不明だ。
- 私たちは、エッセイ本文についての報道に依った。