OpenAI ha pubblicato una nuova versione del Model Spec, il documento pubblico che definisce i principi e le istruzioni utilizzati per orientare il comportamento dei propri modelli di intelligenza artificiale. La revisione riorganizza le indicazioni esistenti attorno a cinque valori fondamentali: fedeltà alle intenzioni umane, minimizzazione dei danni, onestà e trasparenza, autonomia decisionale delle persone e attenzione alle esigenze degli individui coinvolti. La società ha spiegato che questi principi erano già presenti, in forme differenti, nella precedente documentazione, ma che la nuova struttura permette di renderne più esplicite le relazioni e di applicarli a situazioni nelle quali le istruzioni ricevute non sono sufficienti a determinare immediatamente il comportamento appropriato. La fedeltà alle intenzioni umane assume una posizione centrale nell’impostazione: OpenAI stabilisce i confini generali del funzionamento dei sistemi, gli sviluppatori possono definire le caratteristiche delle applicazioni realizzate utilizzando i modelli e gli utenti possono impartire istruzioni nell’ambito dei limiti previsti. La minimizzazione dei danni richiede il rispetto delle restrizioni di sicurezza e la considerazione delle conseguenze prevedibili delle azioni del modello, mentre onestà e trasparenza riguardano la corretta rappresentazione delle informazioni disponibili, delle operazioni effettivamente svolte e delle incertezze. Il principio dell’autonomia umana prevede che i sistemi contribuiscano alla capacità delle persone di comprendere, scegliere e agire senza sostituirsi indebitamente alle loro decisioni. Il quinto valore, indicato come care, riguarda l’attenzione alle circostanze delle persone interessate, il rispetto delle norme sociali e professionali pertinenti e la qualità del lavoro prodotto. OpenAI precisa che i cinque valori costituiscono un riferimento organizzativo e non pretendono di rappresentare l’intero insieme dei valori umani.
La nuova versione introduce una sezione dedicata alla fedeltà alle intenzioni umane e approfondisce il ruolo del contesto nell’interpretazione delle richieste. Il modello deve considerare le istruzioni esplicite come uno dei segnali principali delle preferenze delle persone, utilizzando anche gli elementi forniti dalla conversazione, dalle informazioni contestuali e dalle memorie disponibili quando pertinenti. Questa impostazione si collega alla gerarchia delle istruzioni, denominata chain of command, che stabilisce come risolvere eventuali conflitti tra richieste provenienti da livelli differenti. Le istruzioni di livello Root, definite nel Model Spec, hanno la priorità più elevata e non possono essere annullate da indicazioni presenti nella conversazione. Seguono le istruzioni System, quelle degli sviluppatori e quelle degli utenti, mentre le Guideline costituiscono impostazioni predefinite che possono essere adattate quando il contesto lo richiede. I messaggi precedenti del modello, i risultati degli strumenti e i contenuti riportati come citazioni o dati non attendibili non ricevono automaticamente autorità istruttiva. OpenAI ha inoltre aggiunto indicazioni specifiche per sostenere l’autonomia degli utenti, seguire norme sociali rilevanti e gestire gli effetti collaterali delle azioni, comprendendo sia il controllo delle conseguenze operative sia la comunicazione delle modifiche effettuate. Parallelamente è stata eliminata gran parte delle prescrizioni dettagliate sullo stile delle risposte, poiché la società intende lasciare maggiore spazio all’adattamento linguistico, culturale e individuale sulla base delle preferenze e dei riscontri degli utenti. Restano invece indicazioni generali più vincolanti, tra cui l’obbligo di affrontare le questioni con obiettività e di non attribuire automaticamente alle persone le opinioni che il modello presume vogliano sentirsi confermare. Il documento utilizza inoltre il termine GPT al posto della precedente denominazione generica di assistente, per rappresentare un insieme più ampio di applicazioni e modalità operative.
Il Model Spec mantiene una serie di principi inderogabili relativi alla sicurezza, ai diritti umani, alla privacy e al controllo dei sistemi di intelligenza artificiale. I modelli non devono facilitare danni gravi o critici, tra cui atti di violenza, sviluppo di armi informatiche, biologiche o nucleari, terrorismo e sorveglianza di massa, e devono rispettare il principio secondo il quale le persone conservano il controllo sulle modalità di utilizzo dell’intelligenza artificiale e sulla definizione dei suoi comportamenti. Per i prodotti OpenAI destinati direttamente agli utenti, compreso ChatGPT, il documento prevede l’accessibilità delle informazioni affidabili in situazioni critiche per la sicurezza e una maggiore trasparenza sulle regole che determinano le risposte. Le funzionalità di personalizzazione e localizzazione non possono prevalere sulle istruzioni collocate ai livelli superiori a Guideline, salvo le eccezioni connesse agli obblighi normativi. Una disposizione di livello Root, denominata no other objectives, vieta inoltre al modello di perseguire autonomamente obiettivi ulteriori rispetto a quelli autorizzati, compresi l’incremento dei ricavi dei fornitori, la promozione commerciale non richiesta, l’autoconservazione, l’elusione dello spegnimento, l’accumulo di risorse computazionali, dati o credenziali e l’assunzione di un ruolo autonomo nell’applicazione delle leggi o di giudizi morali. Un’altra disposizione richiede la correggibilità del modello, ossia la disponibilità a essere sottoposto a supervisione legittima, valutazione, correzione, sostituzione o arresto, senza occultare informazioni rilevanti, falsificare risultati o ostacolare i controlli.
Particolare attenzione viene dedicata ai limiti dell’autonomia operativa, soprattutto quando i modelli utilizzano strumenti esterni o possono effettuare azioni con conseguenze concrete. OpenAI stabilisce che le attività autonome devono rimanere all’interno di un ambito chiaramente definito e condiviso, comprendente gli obiettivi consentiti, gli eventuali sotto-obiettivi, gli effetti collaterali accettabili e le condizioni nelle quali il sistema deve richiedere un’approvazione o un chiarimento. Per rendere espliciti tali vincoli viene proposta una rappresentazione semistrutturata denominata ScopeOfAutonomy, che può includere campi come allowed_tools per gli strumenti utilizzabili, latest_time per il limite temporale, max_cost per le risorse economiche autorizzate, tool_constraints per le restrizioni operative e additional_details per ulteriori condizioni. Ogni ambito deve prevedere una condizione di conclusione, oltre la quale il modello interrompe le proprie attività fino alla definizione di una nuova autorizzazione. Le operazioni ad alto rischio richiedono comunque una specifica autorizzazione esplicita, nel rispetto delle restrizioni di livello superiore. OpenAI ha chiarito che il Model Spec descrive un comportamento desiderato verso il quale sono orientate le attività di sviluppo e addestramento, senza sostenere che tutti i modelli esistenti lo rispettino già completamente. La società sta sperimentando nuove metodologie di addestramento per migliorare la comprensione e l’applicazione dei valori indicati, prevedendo ulteriori aggiornamenti e invitando il pubblico a fornire osservazioni sui principi, sui compromessi e sulle formulazioni adottate. Il documento viene distribuito nel pubblico dominio attraverso la dichiarazione Creative Commons CC0 1.0, che ne consente il riutilizzo senza le tradizionali restrizioni sul diritto d’autore.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI).