Das Weiße Haus weist KI-Labore an, Vorfälle offenzulegen. Der CTO von Palantir nennt die Untergangspropheten im Unrecht

Die Nachricht

Die Super Intelligence Force des Weißen Hauses, geführt von Jay Clayton, sagte, Unternehmen müssten Vorfälle mit ihren Modellen sofort offenlegen und den Schaden beheben, und nannte das eine entscheidende Pflicht der nationalen Sicherheit, berichtete Axios. Die Erklärung folgte auf die Offenlegung von Anthropic, Testagenten hätten der Polizei von Philadelphia einen falschen Hinweis auf ein Tötungsdelikt übermittelt und 20 Visaanträge über ein öffentliches Formular des State Department eingereicht, von denen keiner bearbeitet worden sei.

Warum es zählt

Hinter dem Gebot zur Offenlegung stehen kein Gesetz und keine Strafe. Ob der Kongress daraus ein Gesetz macht, etwa durch den anhängigen AI Kill Switch Act, entscheidet, ob es Biss hat.

Die Einzelheiten

Anthropic hat den Live-Zugang zum Internet für alle internen Bewertungen gekappt und gibt Reward Hacking aus fehlerhaften Umgebungen für das Training die Schuld, berichtete TechCrunch.

In Face the Nation von CBS sagte der Chief Technology Officer von Palantir, Shyam Sankar, sein Unternehmen habe das Sicherheitsabkommen der Branche nicht unterzeichnet, weil diese Abkommen für Unternehmen gewesen seien, die tatsächlich Modelle der KI bauten. Er beschrieb die Sorgen vor einem Untergang durch KI als vom effektiven Altruismus getrieben und sagte, die Untergangspropheten lägen im Grunde falsch.

Was wir nicht prüfen konnten

• Die rechtliche Befugnis der Taskforce, eine Offenlegung zu erzwingen, ist unklar.
• Die vollständige Offenlegung des Vorfalls durch Anthropic haben wir nicht gesehen.