OpenAI réécrit son Model Spec autour de cinq valeurs fondamentales et abandonne les règles de style

OpenAI a réécrit son Model Spec, le règlement public sur la manière dont ses modèles doivent se comporter, autour de cinq valeurs fondamentales [1]. La mise à jour ajoute des consignes sur le contexte, la supervision et l'agence alors que les modèles entreprennent des actions plus conséquentes, et supprime la plupart des règles de style détaillées [1].

Quelles sont les cinq valeurs ?

OpenAI a réorganisé son Model Spec autour de cinq valeurs le 29 octobre. Ce sont la fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, l'agence humaine et le soin [1].

OpenAI présente la fidélité à l'intention humaine comme le fondement : aller au-delà des instructions littérales pour comprendre ce qu'OpenAI, les développeurs et les utilisateurs entendent, et agir judicieusement lorsque cette compréhension est incomplète [1]. La chaîne de commandement demeure : OpenAI fixe les limites, les développeurs travaillent dans ces limites, et les utilisateurs dirigent le modèle dans ces contraintes [1].

Quels changements en pratique ?

Une nouvelle sous-section indique aux modèles de prendre soigneusement en compte le contexte, en utilisant les conversations, les mémoires et d'autres éléments pour comprendre les intentions et préférences des personnes [1]. OpenAI a également ajouté des valeurs par défaut sur le soutien à l'agence humaine et le respect des normes sociales, et a étendu les consignes sur les effets secondaires [1].

OpenAI abandonne la plupart des conseils de style détaillés du Spec. Le style doit s'adapter à ce que les gens préfèrent, indique la société, tandis que des valeurs par défaut plus fortes comme l'approche objective des questions demeurent [1].

OpenAI désigne désormais le modèle par « GPT » plutôt que par « the assistant » dans le Spec. OpenAI indique que cela reflète la gamme croissante de contextes dans lesquels ses modèles sont utilisés [1].

Les modèles se comportent-ils déjà ainsi ?

Pas entièrement, selon OpenAI elle-même : le Spec décrit le comportement visé, et ses modèles ne le reflètent pas encore pleinement [1]. La société indique qu'elle explore de nouvelles méthodes d'entraînement pour enseigner les valeurs et partagera les résultats ultérieurement [1].

Notre analyse

Opinion : Passer des règles de style aux valeurs est la bonne direction pour des agents qui agissent de manière autonome, mais les valeurs sont plus difficiles à auditer que les règles. Le vrai test sera de savoir si OpenAI publiera des preuves que ses modèles suivent le nouveau Spec, ce qu'elle indique être encore à venir.

Ce que nous n'avons pas pu vérifier

• Nous avons examiné l'annonce d'OpenAI, et non chaque section modifiée du texte complet du Spec.
• Quels modèles actuels d'OpenAI ont été entraînés sur le Spec mis à jour ; OpenAI indique qu'ils ne le reflètent pas encore pleinement.
• Résultats des nouvelles méthodes d'entraînement aux valeurs, qu'OpenAI n'a pas encore publiés.