OpenAI pubblica il technical deep-dive di GPT-Live, il sistema che abilita la voce continua negli agenti. Il modello ascolta e parla nello stesso flusso, senza turni di conversazione, con un’architettura costruita in sei mesi per abbattere la latenza sotto la soglia della conversazione naturale.

Perché ti riguarda. Se valuti o costruisci agenti vocali, ora hai la fondazione tecnica documentata di quello che è già in produzione. Il 2 agosto raccontavamo di avatarin, che ha messo 30.000 clienti a parlare con un agente vocale basato su GPT-Realtime nei negozi Yamada Denki. GPT-Live descrive l’architettura che sta sotto quel tipo di sistema: cosa significa togliere i turni dalla voce, quale latenza serve, quali trade-off comporta.

La differenza fra voce a turni e voce continua è la differenza fra un walkie-talkie e una telefonata. Il primo obbliga a dire “pronto”, aspettare, rispondere. Il secondo lascia che le parole si sovrappongano, che tu interrompa, che l’interlocutore reagisca mentre ancora parli. Per un agente che assiste un cliente al telefono o in negozio, questa è la soglia che separa una demo da uno strumento usabile.

Il documento arriva mentre la voce si consolida come canale operativo per gli agenti: Anthropic ha esteso la modalità vocale a Opus e Sonnet, e OpenAI Presence punta sulla voce nella piattaforma enterprise.

Nel dettaglio

La conversazione vocale con un’AI ha un problema che il testo non ha: la latenza. Quando scrivi in chat, un secondo di attesa è normale. Quando parli al telefono, un secondo di silenzio dopo la tua frase suona come un vuoto, e due secondi suonano come se l’interlocutore non stesse ascoltando.

I sistemi vocali tradizionali risolvono il problema a fasi: registrano l’audio, lo convertono in testo, generano una risposta testuale, la convertono in voce, la riproducono. Ogni fase aggiunge latenza, e il turno è rigido: tu parli, l’AI sta zitta, poi l’AI parla e tu stai zitto. È il modello del walkie-talkie.

Cosa cambia con GPT-Live. Il sistema descritto da OpenAI elimina la struttura a turni. Il modello ascolta l’audio in streaming e genera voce in streaming, nello stesso flusso continuo. Questo significa che l’agente può iniziare a rispondere prima che tu abbia finito di parlare, può essere interrotto, e può gestire sovrapposizioni come farebbe una persona in una chiamata. Il documento descrive l’architettura costruita in sei mesi per raggiungere questo risultato, con l’obiettivo esplicito di tenere la latenza sotto la soglia della percezione.

Per un non ingegnere. Il salto tecnico sta nel collegare direttamente l’audio in entrata all’audio in uscita, senza passare per la trascrizione come step separato. Il modello elabora frammenti di voce invece di frammenti di parola scritta. L’architettura deve gestire il flusso bidirezionale in tempo reale, bufferizzare abbastanza da non perdere parole, e mantenere la latenza costante anche quando il carico varia.

Il collegamento con avatarin. Il caso di avatarin nei negozi Yamada Denki, raccontato il 2 agosto, è la prima dimostrazione su scala reale di un agente vocale basato su GPT-Realtime in produzione 24/7, con 30.000 clienti e il 92% di soddisfazione dichiarata. Quello che mancava era la documentazione dell’architettura sottostante. Ora c’è: chi valuta di costruire un sistema simile ha un riferimento tecnico invece di un case study di marketing.

I limiti di quello che si sa. Il documento pubblicato da OpenAI è un technical deep-dive, ma dall’estratto si conoscono l’approccio generale e i risultati, non i dettagli implementativi completi. Le metriche di latenza specifiche, i costi per minuto di conversazione, e i confronti diretti con sistemi concorrenti (come la modalità vocale di Claude su Opus e Sonnet) non emergono dal sommario. Quello che si sa è che il sistema esiste, funziona in produzione, e OpenAI ha scelto di documentarne l’architettura. Quello che non si sa è quanto sia replicabile da terzi con strumenti aperti, e quale infrastruttura di compute richieda per reggere il carico di una distribuzione di massa.

Per chi segue il filo della voce come canale operativo degli agenti, GPT-Live è il pezzo tecnico che avatarin dava per scontato e che Anthropic ha introdotto senza documentare. Ora il riferimento esiste.