Nadella: Behandelt jedes KI-Modell wie einen kompromittierten Insider
Der Chef des größten Anbieters von KI für Unternehmen verlagerte die Sicherheit vom Erbauer des Modells zum Betreiber, in sieben Grundsätzen.
Von Die Redaktion, Nachrichten · · 1 Min. Lesezeit
Verantwortet von Dimitri Gärtner
Tags: Microsoft · Sicherheit · Agenten · Nadella
- Die Nachricht
- Der Chef des größten Anbieters von KI für Unternehmen verlagerte die Sicherheit vom Erbauer des Modells zum Betreiber, in sieben Grundsätzen.
- Warum es zählt
- Der Vorstandschef von Microsoft, Satya Nadella, veröffentlichte einen Essay. Darin argumentiert er, Unternehmen sollten annehmen, KI-Modelle seien kompromittiert, und eine Notbremse in menschlicher Hand behalten.
- Was belegt ist
- Das Foto ist für diese Geschichte generiert.
An eine genannte Quelle gebunden. Nicht als geprüft markiert. TechCrunch
Die Nachricht
Der Vorstandschef von Microsoft, Satya Nadella, veröffentlichte einen Essay mit dem Titel Models as Insider Risks in the Super Intelligence Era. Darin argumentiert er, Unternehmen, die Frontier-Modelle einsetzen, sollten sie so behandeln, wie Teams für Sicherheit einen mächtigen Beschäftigten behandeln, der kompromittiert sein könnte. „Wir müssen annehmen, dass ein Modell kompromittiert ist, und es von Anfang an eindämmen“, schrieb er, berichteten TechCrunch und CNBC. „Stellen Sie es sich wie eine Notbremse vor.“
Warum es zählt
Die Einordnung legt die Kontrollen außerhalb des Modells, in Logs, in Harnesses und in Ausschaltern, und sie wird voraussichtlich in Checklisten für die Beschaffung in Unternehmen auftauchen.
Die Einzelheiten
Nadella nennt sieben Grundsätze, darunter die Trennung des Modells von dem Harness, der es orchestriert, manipulationssichere Protokolle jeder bedeutsamen Handlung, unabhängige Prüfbarkeit, die Offenlegung von Vorfällen und Eindämmung, wobei ein befugter Mensch ein Modell mitten in einer Aufgabe stets anhalten oder abschalten können muss.
Tage später sagte der Präsident von Microsoft, Brad Smith, der BBC, freiwillige Zusagen reichten nicht, und forderte verbindliche globale Regeln für die Sicherheit von KI, eine externe Freigabe vor der Veröffentlichung und Kill-Switches, berichtete TechCrunch.
Was wir nicht prüfen konnten
- Der Essay nennt kein Produkt von Microsoft, daher ist unklar, wie die Grundsätze heute für Copilot gelten.
- Wir stützten uns auf die Berichterstattung über den Text des Essays.
Quellen
Das Foto ist für diese Geschichte generiert. Es zeigt nicht die darin genannten Personen.