OpenAI reescribe su Model Spec en torno a cinco valores fundamentales y retira las reglas de estilo

OpenAI ha reescrito su Model Spec, el reglamento público sobre cómo deben comportarse sus modelos, en torno a cinco valores fundamentales [1]. La actualización añade orientación sobre contexto, supervisión y agencia a medida que los modelos realizan acciones más trascendentales, y elimina la mayor parte de las reglas de estilo detalladas [1].

¿Cuáles son los cinco valores?

OpenAI reorganizó su Model Spec en torno a cinco valores el 29 de octubre. Son la fidelidad a la intención humana, la minimización del daño, la honestidad y la transparencia, la agencia humana y el cuidado [1].

OpenAI considera la fidelidad a la intención humana como la base: ir más allá de las instrucciones literales para comprender lo que OpenAI, los desarrolladores y los usuarios pretenden, y actuar con prudencia cuando esa comprensión es incompleta [1]. La cadena de mando se mantiene: OpenAI establece los límites, los desarrolladores trabajan dentro de ellos y los usuarios dirigen el modelo dentro de esas restricciones [1].

¿Qué cambia en la práctica?

Una nueva subsección indica a los modelos que consideren el contexto con atención, utilizando conversaciones, memorias y otras evidencias para comprender las intenciones y preferencias de las personas [1]. OpenAI también añadió valores predeterminados sobre el apoyo a la agencia humana y el seguimiento de las normas sociales, y amplió la orientación sobre efectos secundarios [1].

OpenAI está retirando la mayor parte de la guía de estilo detallada del Spec. El estilo debe adaptarse a lo que las personas prefieran, dice la empresa, mientras que se mantienen valores predeterminados más fuertes como abordar las preguntas de forma objetiva [1].

OpenAI ahora se refiere al modelo como "GPT" en lugar de "el asistente" en el Spec. OpenAI afirma que esto refleja la creciente variedad de entornos en los que se utilizan sus modelos [1].

¿Ya se comportan así los modelos?

No del todo, según el propio OpenAI: el Spec describe el comportamiento hacia el que se está trabajando y sus modelos aún no lo reflejan plenamente [1]. La empresa indica que está explorando nuevos métodos de entrenamiento para enseñar los valores y compartirá los resultados más adelante [1].

Nuestra lectura

Opinión: Pasar de las reglas de estilo a los valores es la dirección correcta para agentes que actúan por sí solos, pero los valores son más difíciles de auditar que las reglas. La prueba real será si OpenAI publica evidencia de que sus modelos siguen el nuevo Spec, algo que aún está por venir.

Lo que no pudimos verificar

• Revisamos el anuncio de OpenAI, no todas las secciones modificadas del texto completo del Spec.
• Qué modelos actuales de OpenAI se han entrenado con el Spec actualizado; OpenAI afirma que aún no lo reflejan plenamente.
• Resultados de los nuevos métodos de entrenamiento en valores, que OpenAI aún no ha publicado.