OpenAI schreibt seine Model Spec um fünf Kernwerte neu und streicht Stilregeln

OpenAI hat seine Model Spec, das öffentliche Regelwerk für das Verhalten seiner Modelle, um fünf Kernwerte neu geschrieben [1]. Das Update fügt Anleitungen zu Kontext, Aufsicht und Handlungsfähigkeit hinzu, da Modelle folgenreichere Aktionen übernehmen, und lässt die meisten detaillierten Stilregeln weg [1].

Was sind die fünf Werte?

OpenAI reorganisierte seine Model Spec am 29. Oktober um fünf Werte. Es handelt sich um Treue zur menschlichen Absicht, Schadensminimierung, Ehrlichkeit und Transparenz, menschliche Handlungsfähigkeit sowie Fürsorge [1].

OpenAI bezeichnet Treue zur menschlichen Absicht als Grundlage: über wörtliche Anweisungen hinausgehen, um zu verstehen, was OpenAI, Entwickler und Nutzer beabsichtigen, und weise handeln, wenn dieses Verständnis unvollständig ist [1]. Die Befehlskette bleibt erhalten: OpenAI setzt Grenzen, Entwickler arbeiten innerhalb dieser, und Nutzer lenken das Modell innerhalb dieser Einschränkungen [1].

Was ändert sich in der Praxis?

Ein neuer Unterabschnitt weist Modelle an, den Kontext sorgfältig zu berücksichtigen und Gespräche, Erinnerungen sowie weitere Hinweise zu nutzen, um die Absichten und Präferenzen der Menschen zu verstehen [1]. OpenAI hat außerdem Standardvorgaben zur Unterstützung menschlicher Handlungsfähigkeit und zur Einhaltung sozialer Normen hinzugefügt sowie die Anleitungen zu Nebenwirkungen erweitert [1].

OpenAI verzichtet auf die meisten detaillierten Stilrichtlinien der Spec. Der Stil soll sich an den Präferenzen der Menschen anpassen, sagt das Unternehmen, während stärkere Standardvorgaben wie eine objektive Herangehensweise an Fragen erhalten bleiben [1].

OpenAI bezeichnet das Modell nun als "GPT" statt als "the assistant" in der Spec. OpenAI sagt, dies spiegele die wachsende Vielfalt der Einsatzbereiche seiner Modelle wider [1].

Verhalten sich die Modelle bereits so?

Nicht vollständig, wie OpenAI selbst einräumt: Die Spec beschreibt das angestrebte Verhalten, und die Modelle spiegeln es noch nicht vollständig wider [1]. Das Unternehmen erforscht neue Trainingsmethoden zur Vermittlung der Werte und wird Ergebnisse später teilen [1].

Unsere Einschätzung

Meinung: Der Wechsel von Stilregeln zu Werten ist die richtige Richtung für Agenten, die eigenständig handeln, doch Werte sind schwerer zu prüfen als Regeln. Der eigentliche Test wird sein, ob OpenAI Belege dafür veröffentlicht, dass seine Modelle der neuen Spec folgen, was das Unternehmen noch in Aussicht stellt.

Was wir nicht verifizieren konnten

• Wir haben OpenAIs Ankündigung geprüft, nicht jeden geänderten Abschnitt des vollständigen Spec-Texts.
• Welche aktuellen OpenAI-Modelle mit der aktualisierten Spec trainiert wurden; OpenAI sagt, sie spiegeln diese noch nicht vollständig wider.
• Ergebnisse der neuen Wert-Trainingsmethoden, die OpenAI noch nicht veröffentlicht hat.