OpenAI riscrive il suo Model Spec intorno a cinque valori fondamentali e ritira le regole di stile

OpenAI ha riscritto il suo Model Spec, il regolamento pubblico su come i suoi modelli dovrebbero comportarsi, intorno a cinque valori fondamentali [1]. L'aggiornamento aggiunge indicazioni su contesto, supervisione e agenzia mentre i modelli intraprendono azioni più significative, e elimina la maggior parte delle regole dettagliate sullo stile [1].

Quali sono i cinque valori?

OpenAI ha riorganizzato il suo Model Spec intorno a cinque valori il 29 ottobre. Essi sono la fedeltà all'intento umano, la minimizzazione del danno, l'onestà e la trasparenza, l'agenzia umana e la cura [1].

OpenAI definisce la fedeltà all'intento umano la base: andare oltre le istruzioni letterali per comprendere cosa intendono OpenAI, gli sviluppatori e gli utenti, e agire saggiamente quando tale comprensione è incompleta [1]. La catena di comando resta: OpenAI stabilisce i confini, gli sviluppatori lavorano al loro interno e gli utenti dirigono il modello entro tali vincoli [1].

Cosa cambia nella pratica?

Una nuova sottosezione indica ai modelli di considerare attentamente il contesto, usando conversazioni, memorie e altre prove per comprendere le intenzioni e le preferenze delle persone [1]. OpenAI ha inoltre aggiunto impostazioni predefinite sul supporto dell'agenzia umana e sul rispetto delle norme sociali, ed ha ampliato le indicazioni sugli effetti collaterali [1].

OpenAI sta ritirando la maggior parte delle indicazioni dettagliate sullo stile del Spec. Lo stile deve adattarsi a ciò che le persone preferiscono, afferma l'azienda, mentre restano impostazioni predefinite più forti come l'approccio oggettivo alle domande [1].

OpenAI ora si riferisce al modello come "GPT" anziché "l'assistente" nel Spec. OpenAI afferma che ciò riflette la crescente varietà di contesti in cui i suoi modelli vengono utilizzati [1].

I modelli si comportano già così?

Non completamente, secondo lo stesso OpenAI: il Spec descrive il comportamento verso cui si sta lavorando e i suoi modelli non lo riflettono ancora pienamente [1]. L'azienda afferma di stare esplorando nuovi metodi di addestramento per insegnare i valori e condividerà i risultati in seguito [1].

La nostra lettura

Opinione: Passare dalle regole di stile ai valori è la direzione giusta per agenti che agiscono in autonomia, ma i valori sono più difficili da verificare rispetto alle regole. La vera prova è se OpenAI pubblicherà evidenze che i suoi modelli seguono il nuovo Spec, cosa che afferma essere ancora in arrivo.

Cosa non abbiamo potuto verificare

• Abbiamo esaminato l'annuncio di OpenAI, non ogni sezione modificata del testo completo del Spec.
• Quali modelli attuali di OpenAI sono stati addestrati sul Spec aggiornato; OpenAI afferma che non lo riflettono ancora pienamente.
• Risultati dei nuovi metodi di addestramento sui valori, che OpenAI non ha ancora pubblicato.