OpenAI reescreve seu Model Spec em torno de cinco valores centrais e descontinua regras de estilo

A OpenAI reescreveu seu Model Spec, o manual de regras público sobre como seus modelos devem se comportar, em torno de cinco valores centrais [1]. A atualização adiciona orientações sobre contexto, supervisão e agência à medida que os modelos realizam ações mais consequentes, e elimina a maior parte das regras detalhadas de estilo [1].

Quais são os cinco valores?

A OpenAI reorganizou seu Model Spec em torno de cinco valores em 29 de outubro. Eles são fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado [1].

A OpenAI chama de fidelidade à intenção humana a base: ir além das instruções literais para entender o que a OpenAI, os desenvolvedores e os usuários pretendem, e agir com sabedoria quando essa compreensão está incompleta [1]. A cadeia de comando permanece: a OpenAI define os limites, os desenvolvedores trabalham dentro deles e os usuários direcionam o modelo dentro dessas restrições [1].

O que muda na prática?

Uma nova subseção instrui os modelos a considerar o contexto com cuidado, usando conversas, memórias e outras evidências para entender as intenções e preferências das pessoas [1]. A OpenAI também adicionou padrões sobre apoiar a agência humana e seguir normas sociais, e expandiu as orientações sobre efeitos colaterais [1].

A OpenAI está descontinuando a maior parte das orientações detalhadas de estilo do Spec. O estilo deve se adaptar ao que as pessoas preferem, diz a empresa, enquanto padrões mais fortes, como abordar perguntas de forma objetiva, permanecem [1].

A OpenAI agora se refere ao modelo como "GPT" em vez de "the assistant" no Spec. A OpenAI diz que isso reflete a crescente variedade de contextos em que seus modelos são usados [1].

Os modelos já se comportam assim?

Não completamente, segundo a própria OpenAI: o Spec descreve o comportamento que está sendo buscado, e seus modelos ainda não o refletem plenamente [1]. A empresa diz que está explorando novos métodos de treinamento para ensinar os valores e compartilhará os resultados posteriormente [1].

Nossa leitura

Opinião: Passar de regras de estilo para valores é a direção certa para agentes que atuam por conta própria, mas valores são mais difíceis de auditar que regras. O verdadeiro teste é se a OpenAI publica evidências de que seus modelos seguem o novo Spec, o que ela diz que ainda virá.

O que não pudemos verificar

• Revisamos o anúncio da OpenAI, não todas as seções alteradas do texto completo do Spec.
• Quais modelos atuais da OpenAI foram treinados no Spec atualizado; a OpenAI diz que eles ainda não o refletem plenamente.
• Resultados dos novos métodos de treinamento de valores, que a OpenAI ainda não publicou.