OpenAI ha descritto l’architettura di GPT-Live, un sistema vocale progettato per sostenere conversazioni full-duplex nelle quali l’intelligenza artificiale può continuare ad ascoltare mentre parla e reagire alle interruzioni senza attendere rigidamente la conclusione di ogni intervento. La struttura supera il funzionamento sequenziale adottato da molti assistenti vocali, nei quali il sistema deve prima determinare che l’utente abbia terminato di parlare, convertire l’audio in testo, elaborare la risposta con un modello linguistico e trasformarla nuovamente in voce. GPT-Live affida invece la gestione diretta della conversazione a un modello vocale in tempo reale e richiama modelli di ragionamento più avanzati, come GPT-5.5, soltanto quando l’attività richiede analisi complesse o l’utilizzo di strumenti esterni.
L’eliminazione del tradizionale rilevatore dei turni consente al modello di interpretare autonomamente il ritmo dello scambio, comprendendo quando continuare a parlare, quando fermarsi e come gestire sovrapposizioni, esitazioni o brevi interruzioni. Nei sistemi convenzionali, il rilevatore deve stabilire con sufficiente certezza che una frase sia terminata prima di avviare l’elaborazione, introducendo inevitabilmente una pausa. Un’attivazione troppo rapida può interrompere l’utente, mentre una soglia troppo prudente produce attese percepibili. GPT-Live evita questo passaggio separato e utilizza il modello vocale stesso per regolare la dinamica della conversazione.
L’architettura distingue il percorso dedicato all’audio dalle funzioni accessorie. Il flusso vocale attraversa una linea di elaborazione ottimizzata per la latenza minima, mentre le operazioni esterne vengono eseguite in modo asincrono. Se una ricerca, una chiamata a uno strumento o un’elaborazione complessa richiede più tempo, il ritardo non blocca automaticamente la voce e non interrompe la continuità dello scambio. Il modello può continuare a interagire, fornire segnali di ascolto o gestire il dialogo mentre il risultato viene preparato in un processo separato.
OpenAI ha sostituito parte dell’infrastruttura multimediale precedentemente basata su Python con un sistema sviluppato in Go e ha adottato WebRTC per il trasporto audio a bassa latenza. Questa configurazione riduce il tempo necessario per elaborare i flussi in ingresso e in uscita e aiuta a mantenere la continuità della voce anche in presenza di connessioni instabili. La qualità percepita della conversazione dipende infatti non soltanto dal modello e dalla potenza delle GPU, ma anche dalla gestione dei processi sulla CPU, dalla distribuzione dei server e dal percorso seguito dai pacchetti attraverso la rete.
La separazione tra voce e ragionamento permette di mantenere sempre disponibile un modello ad alte prestazioni per le operazioni più impegnative senza obbligarlo a gestire ogni passaggio della conversazione. Quando è necessario affrontare un problema complesso, il sistema può attivare il modello di ragionamento in background e utilizzare tecniche di prompt caching e session pinning per riutilizzare il contesto già elaborato e mantenere la richiesta sullo stesso ambiente di calcolo. Questa impostazione riduce i tempi di preparazione e limita le interruzioni quando l’assistente deve passare da una risposta immediata a un’attività più articolata.
GPT-Live integra inoltre meccanismi specifici per le conversazioni prolungate. Quando la cronologia diventa troppo estesa, il sistema prepara preventivamente una nuova istanza del modello e trasferisce la sessione prima che quella corrente raggiunga i propri limiti. La sintesi dei messaggi precedenti e la riorganizzazione dei dati vengono eseguite in background, permettendo di contenere il volume del contesto senza rallentare una chiamata già in corso. La nuova istanza può quindi subentrare mantenendo le informazioni necessarie per proseguire il dialogo.
Il collegamento con ChatGPT utilizza una gestione differenziata tra audio in tempo reale e cronologia testuale. Il contenuto della conversazione viene registrato temporaneamente mentre l’utente sta parlando e viene trasformato in un messaggio completo soltanto al termine dell’intervento. Brevi segnali vocali come “sì”, “mh” o altre espressioni utilizzate per mostrare attenzione possono essere esclusi dalla cronologia, evitando che riempiano il contesto pur rimanendo parte naturale dell’interazione. Questo consente di conservare una registrazione più pulita dello scambio senza eliminare il comportamento tipico di una conversazione umana.
Per ridurre il tempo necessario ad avviare una sessione, OpenAI ha sviluppato WARP, un protocollo che semplifica il processo di connessione WebRTC, e una funzione denominata Instant Connect. Quest’ultima consente di iniziare la sessione utilizzando un solo pacchetto UDP, limitando i passaggi preliminari richiesti prima dell’apertura del canale audio. WARP è stato pubblicato come specifica aperta, con l’obiettivo di rendere disponibili questi miglioramenti anche all’interno dell’ecosistema WebRTC.
Prima dell’introduzione nei servizi operativi, GPT-Live è stato eseguito per diversi mesi in parallelo con la precedente modalità vocale attraverso uno shadow test. Le due architetture hanno gestito contemporaneamente gli stessi scenari, permettendo di confrontarne il comportamento senza affidare immediatamente agli utenti il nuovo sistema. Questa fase ha consentito di individuare problemi legati alla memoria, alle riconnessioni e alla stabilità delle sessioni di lunga durata e di verificare l’influenza esercitata dall’intera infrastruttura sulla qualità finale della voce.
GPT-Live è già in fase di applicazione nella modalità vocale di ChatGPT e nelle funzioni dell’applicazione desktop dedicate al controllo del computer e alla collaborazione con gli agenti. OpenAI prevede inoltre di renderlo disponibile attraverso API per consentire agli sviluppatori di integrare la stessa architettura in assistenti, servizi vocali e applicazioni capaci di sostenere dialoghi continui, gestire interruzioni e utilizzare strumenti esterni senza compromettere il flusso della conversazione.