Immagine AI

Amazon Web Services ha integrato Dialog-RSN-1, il modello di intelligenza artificiale sviluppato da PolyAI per la gestione delle conversazioni vocali in tempo reale, nel catalogo di Amazon SageMaker JumpStart. L’integrazione introduce procedure preconfigurate per la valutazione, l’installazione e l’ottimizzazione del modello all’interno dell’infrastruttura cloud del cliente. Dialog-RSN-1, presentato il 30 luglio 2026 e reso disponibile per l’implementazione attraverso AWS Marketplace nel successivo mese di ottobre, è progettato per elaborare direttamente i segnali audio provenienti dalle conversazioni telefoniche. L’architettura integra in un unico modello il riconoscimento del parlato, il ragionamento sul contenuto della conversazione, la gestione dell’alternanza degli interlocutori e la generazione delle risposte. L’elaborazione diretta dell’audio permette di utilizzare informazioni paralinguistiche, come il tono della voce, le esitazioni, le pause e le variazioni nel ritmo del parlato, per interpretare le richieste e individuare il momento opportuno per intervenire.

Dialog-RSN-1 utilizza un rilevatore di attività vocale per attivare l’elaborazione del segnale, mentre il primo token generato dal modello indica lo stato dell’interazione attraverso i valori EMPTY, ONGOING oppure COMPLETE. Questa classificazione consente al sistema di stabilire se l’interlocutore abbia concluso il proprio intervento o stia ancora formulando la richiesta. Il modello restituisce risposte testuali in streaming oppure chiamate a funzioni esterne, producendo separatamente la trascrizione del parlato. La sintesi vocale rimane affidata a un componente distinto, selezionabile dal cliente in funzione delle caratteristiche della voce e dei requisiti applicativi. PolyAI indica una latenza mediana inferiore a 300 millisecondi per la produzione del primo token e un tempo di circa 390 millisecondi per un tipico turno conversazionale in produzione. A questi valori devono essere associati, nella configurazione completa, i tempi richiesti dai componenti di sintesi vocale, dall’infrastruttura telefonica e dall’eventuale esecuzione di strumenti esterni.

L’implementazione attraverso SageMaker JumpStart può essere effettuata dalla console di Amazon SageMaker AI oppure mediante il relativo SDK Python, consentendo l’integrazione nelle pipeline CI/CD. Il catalogo mette a disposizione quattro profili di ottimizzazione, orientati rispettivamente alla riduzione della latenza, alla massimizzazione del throughput, al contenimento del costo per richiesta e al bilanciamento delle prestazioni complessive. Prima dell’installazione, gli sviluppatori possono consultare indicatori quali la latenza P50, il tempo di generazione del primo token e la quantità di token elaborati nell’unità di tempo. PolyAI fornisce inoltre notebook dimostrativi attraverso i quali trasmettere registrazioni audio all’endpoint e analizzare le trascrizioni, le risposte e le decisioni relative all’alternanza degli interlocutori. L’endpoint viene eseguito nella Virtual Private Cloud del cliente, utilizzando le autorizzazioni AWS IAM e gli strumenti di monitoraggio Amazon CloudWatch.

La comunicazione con il modello utilizza il protocollo OpenAI Realtime, attraverso un bridge software che collega i client WebSocket al flusso bidirezionale HTTP/2 di SageMaker. L’input audio deve utilizzare il formato PCM16 monofonico a 16 o 24 kHz, codificato in Base64; i flussi G.711 e Opus richiedono pertanto una conversione preventiva. Il modello dispone di una finestra di contesto di 32.000 token, supporta attualmente la lingua inglese e prevede sessioni della durata massima di 30 minuti, con disconnessione dopo cinque minuti di inattività. Lo stato conversazionale non viene conservato automaticamente tra connessioni successive. Le tariffe pubblicate per l’inferenza in tempo reale ammontano a 45 dollari per ora di funzionamento delle istanze ml.p4d.24xlarge e 110 dollari per le istanze ml.p5.48xlarge, cui possono aggiungersi ulteriori costi infrastrutturali. La fatturazione prosegue per l’intero periodo di disponibilità dell’endpoint, indipendentemente dalla presenza di conversazioni attive, fino alla sua eliminazione.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy