Nel mondo dell’intelligenza artificiale, spesso si parla di potenza, prestazioni, velocità, possibilità quasi illimitate. Ma dietro a queste parole, c’è un’altra esigenza che diventa sempre più urgente: la privacy, la protezione dei dati, la certezza che chi sviluppa questi strumenti pensi fin dall’inizio a che cosa accade ai nostri dati, a chi li vede, li usa, o possa usarli. VaultGemma è il nome scelto da Google Research (insieme a DeepMind) per un progetto che non vuole essere solo un modello linguistico generativo “potente”, ma qualcosa che abbia la privacy nel suo DNA.
VaultGemma è descritto come il modello linguistico di dimensioni relativamente contenute — un miliardo di parametri — ma addestrato da zero con privacy differenziale (“differential privacy”, DP). Questo vuol dire che, fin dal processo di addestramento, sono adottate tecniche matematiche che inseriscono “rumore” controllato nei dati: il rumore non è un difetto, ma un meccanismo che protegge gli individui, impedendo che un’analisi sui dati possa risalire ai singoli membri del dataset.
La vera sfida che Google affronta con questo progetto è dimostrare che un modello addestrato con privacy differenziale possa essere utile nella pratica, non solo un esperimento accademico. Addestrare con DP comporta infatti compromessi: rallentamenti, maggiore complessità nel calcolo, problemi di stabilità, la necessità di usare batch (insiemi di dati processati insieme) molto grandi, bilanciare il rumore e la precisione.
Ecco perché VaultGemma non è solo un nome nuovo da aggiungere alla lunga lista dei modelli IA: è un tentativo di tracciare la strada verso un’IA che non debba correggere il problema della privacy come dopo, ma lo incorpori fin dall’inizio. Google Research e DeepMind presentano anche nuove “leggi di scalabilità” (scaling laws) che descrivono matematicamente come cambiano le prestazioni, i costi, la qualità del modello al variare di parametri come la dimensione del batch, il rumore inserito, la lunghezza delle sequenze di testo con cui si “allenano” i modelli. Sono leggi che aiutano a prevedere quanto “pagherai” in termini di costo computazionale o efficienza se vuoi che la privacy sia realmente forte.
Un altro aspetto importante è che VaultGemma è un modello open source: i pesi del modello, cioè la parte che contiene la “memoria” appresa, sono stati pubblicati su piattaforme come Hugging Face e Kaggle, accompagnati da report tecnici che spiegano come è stato costruito, quali sono i compromessi, quali le sfide. Non è un prodotto chiuso, ma una base per chi lavora sull’IA e vuole costruire qualcosa che sia responsabile.
Naturalmente VaultGemma non è perfetto: i ricercatori stessi riconoscono che c’è ancora un divario tra modelli addestrati con DP e quelli che non lo sono, in termini di qualità o performance in certe applicazioni. Alcune funzioni legate alla generazione di testi, alla fluidità, alla capacità di rispondere a prompt molto complessi potrebbero essere meno accurate. Ma l’idea è che questo divario possa ridursi mano a mano che la ricerca progredisce, che i meccanismi migliorino, che si capisca meglio come distribuire i costi computazionali, come bilanciare privacy e utilità.
Quello che VaultGemma testimonia è che il paradigma “privato per progettazione” (privacy by design) sta diventando essenziale non solo come slogan, ma come pratica concreta nell’IA: un modello che deve servire le persone, non sfruttarle inconsapevolmente, che deve offrire risposte utili ma nel rispetto degli individui. È un segnale che le grandi aziende si rendono conto che il pubblico, gli utenti, le leggi (soprattutto in Europa) richiedono sempre più trasparenza, tutela, responsabilità.