Google Creative Lab ha sviluppato Gemma Translator, un prototipo di traduttore vocale basato su intelligenza artificiale progettato per funzionare interamente sul dispositivo, senza necessità di mantenere una connessione a Internet durante l’utilizzo. Il sistema combina un Raspberry Pi 5 con il modello open-weight Gemma 4 E2B e una pipeline locale per riconoscimento vocale, traduzione e sintesi della voce, trasformando un computer a scheda singola di dimensioni ridotte in un dispositivo autonomo per la comunicazione multilingue.
Il funzionamento segue una pipeline composta da più passaggi eseguiti localmente. La voce dell’utente viene acquisita attraverso un microfono e convertita in testo; il contenuto viene quindi elaborato dal modello linguistico per produrre la traduzione nella lingua selezionata, mentre un sistema di text-to-speech genera nuovamente l’audio e lo riproduce attraverso un altoparlante o un’uscita audio collegata al dispositivo. L’intera sequenza può essere completata senza inviare la registrazione o il testo verso un servizio cloud esterno.
Il componente centrale della traduzione è Gemma 4 E2B, una variante della famiglia Gemma progettata per l’esecuzione su dispositivi con risorse limitate. Il modello viene eseguito tramite LiteRT-LM, il framework utilizzato da Google per portare modelli linguistici su hardware edge, consentendo l’inferenza direttamente sul Raspberry Pi anziché demandare l’elaborazione a server remoti. La configurazione indicata per il progetto prevede un Raspberry Pi 5 con 8 GB di memoria RAM.
La componente vocale viene gestita attraverso tecnologie Moonshine. Il backend utilizza Moonshine per la trascrizione speech-to-text e moonshine-voice per la generazione dell’audio, mentre Gemma si occupa dell’elaborazione linguistica e della traduzione. La separazione tra riconoscimento vocale, modello linguistico e sintesi permette di costruire una pipeline completamente locale nella quale ogni fase può essere avviata sullo stesso dispositivo.
L’interfaccia è stata progettata pensando a piccoli display integrati, compresi pannelli con risoluzione di circa 480 x 320 pixel, e può essere utilizzata anche in configurazioni nelle quali due persone si trovano una di fronte all’altra. Il software mette a disposizione due aree di interazione distinte, associate ai due interlocutori, e permette di selezionare le rispettive lingue prima di registrare la frase da tradurre.
Nella configurazione standard viene utilizzato un sistema push-to-talk: l’utente mantiene premuto il comando di registrazione mentre parla e, al rilascio, il dispositivo avvia la trascrizione, la traduzione e la successiva riproduzione nella lingua dell’interlocutore. Il progetto supporta inoltre due modalità di controllo, una pensata per un singolo operatore che passa alternativamente da una persona all’altra e una seconda configurazione nella quale ciascun interlocutore dispone di comandi dedicati.
La struttura software comprende un frontend realizzato con React e Vite, un server API in Python e un servizio separato dedicato all’esecuzione del modello attraverso LiteRT-LM. Nella configurazione di produzione, l’interfaccia può essere eseguita localmente su Chromium in modalità kiosk, trasformando il Raspberry Pi in un apparecchio dedicato che si avvia direttamente nell’ambiente del traduttore senza richiedere l’utilizzo di un normale desktop.
Google ha reso disponibile anche uno script di deployment specifico per Raspberry Pi, capace di installare le dipendenze necessarie, configurare l’ambiente Python, preparare l’interfaccia, scaricare il modello e registrare Gemma Translator come servizio systemd. Una volta completata la configurazione iniziale e scaricati i componenti richiesti, l’inferenza può essere eseguita direttamente sul dispositivo senza connessione Internet.
L’aspetto hardware è stato sviluppato con la stessa impostazione aperta. Il repository contiene i file STL necessari per stampare in 3D il contenitore del dispositivo, oltre al codice del frontend, del backend e agli script utilizzati per l’installazione. Sono quindi disponibili gli elementi necessari per ricostruire il prototipo utilizzando un Raspberry Pi 5, un microfono, un sistema di uscita audio e, se desiderato, un piccolo display. Il codice viene distribuito con licenza Apache 2.0.
La possibilità di eseguire l’intera pipeline sul dispositivo cambia soprattutto la modalità con cui vengono gestiti i dati vocali. Una soluzione cloud richiede normalmente che almeno una parte dell’audio o del testo venga trasmessa verso infrastrutture remote per l’elaborazione; Gemma Translator mantiene invece registrazione, trascrizione, traduzione e sintesi nell’ambiente locale, riducendo la dipendenza dalla rete e rendendo il sistema utilizzabile anche quando la connettività è assente o instabile.
Questa architettura può essere rilevante in contesti nei quali una connessione Internet affidabile non è disponibile, come aree remote, viaggi, strutture temporanee o situazioni di emergenza, e può essere interessante anche quando l’invio di conversazioni verso servizi esterni non è desiderato. L’elaborazione locale non elimina naturalmente la necessità di proteggere il dispositivo e i dati eventualmente memorizzati, ma evita che il funzionamento ordinario del traduttore dipenda da una trasmissione continua verso il cloud.
Il progetto è stato realizzato anche con l’assistenza di Google Antigravity, l’ambiente agentico utilizzato nello sviluppo del software. In questo caso l’impiego degli agenti AI non coincide con il funzionamento del traduttore, ma riguarda il processo di costruzione del progetto stesso, mostrando come strumenti di sviluppo agentico possano essere utilizzati per produrre un sistema che combina modello linguistico, software e hardware fisico.
Gemma Translator non viene presentato come un prodotto commerciale pronto per la vendita. Il repository specifica che il progetto non costituisce un prodotto Google ufficialmente supportato, configurandolo quindi come dimostrazione tecnica e piattaforma sperimentale aperta a sviluppatori e ricercatori.
Il valore tecnico del progetto risiede soprattutto nella possibilità di eseguire una catena completa di elaborazione vocale su hardware economico e compatto. Raspberry Pi gestisce l’acquisizione dell’audio, Moonshine trasforma la voce in testo, Gemma 4 E2B produce la traduzione attraverso LiteRT-LM e il sistema di sintesi converte nuovamente il risultato in voce, mantenendo l’intero processo all’interno dello stesso dispositivo. Gemma Translator diventa così un esempio concreto di come i modelli AI di dimensioni ridotte possano essere utilizzati per costruire applicazioni vocali autonome senza affidarsi necessariamente a un’infrastruttura cloud permanente.