Immagine AI

Together AI ha comunicato il 21 novembre 2026 un incidente di sicurezza che ha consentito a un soggetto non autorizzato di scaricare campioni di prompt appartenenti a una parte dei clienti del proprio servizio di inferenza serverless. L’accesso è stato reso possibile dall’esposizione accidentale di una credenziale durante lo sviluppo di xorl, un progetto pubblico ospitato su GitHub. La credenziale, utilizzata per accedere a un repository privato di Hugging Face, era stata inserita in un commit da un agente di intelligenza artificiale impiegato nelle attività di programmazione. Together AI ha individuato il problema attraverso i propri controlli automatici e ha successivamente annullato il commit, ma durante l’intervallo di esposizione un soggetto esterno aveva già acquisito la credenziale e l’aveva utilizzata per scaricare i dati. L’incidente riguarda quindi la gestione dei segreti nei processi di sviluppo assistiti da AI e l’accesso a informazioni conservate per attività tecniche autorizzate.

I dati coinvolti erano campioni di richieste precedentemente inviate al servizio di inferenza e conservate in un repository privato per operazioni ordinarie di test del software, secondo le autorizzazioni fornite dai clienti. Le richieste interessavano principalmente i modelli MiniMax M3, GLM-5.2 e Kimi K2.6 e risultavano associate soprattutto alle date del 24 giugno, 4 luglio, 8 luglio e 14 luglio 2026. La presenza di questi contenuti nel repository ha creato una seconda superficie di esposizione rispetto al normale utilizzo dei servizi di inferenza. Una volta ottenuta la credenziale di accesso, l’attaccante ha potuto recuperare direttamente i campioni archiviati. L’annullamento del commit ha eliminato l’esposizione dal codice corrente, ma non ha impedito l’utilizzo della credenziale durante il periodo in cui era accessibile. Questo dettaglio distingue la correzione di un errore nel repository dalla revoca effettiva delle possibilità di accesso già compromesse.

Le attività rilevate non si sono limitate alla consultazione dei prompt. Dopo il download, il soggetto non autorizzato ha esaminato i campioni alla ricerca di ulteriori credenziali utilizzabili per accedere ad altri servizi, verificandone anche la validità. Cinque delle credenziali sottoposte a controllo erano canary credentials, ossia credenziali predisposte per individuare tentativi di utilizzo non autorizzato, associate a un esperimento di sicurezza condotto da Dragos. La ricerca di questi elementi indica che i contenuti dei prompt potevano essere utilizzati non soltanto per acquisire informazioni testuali, ma anche per cercare accessi tecnici eventualmente presenti nelle richieste degli utenti. Il rischio dipende quindi dalla natura dei dati effettivamente inclusi nei campioni, dalla presenza di segreti operativi e dall’eventuale possibilità di riutilizzarli su infrastrutture esterne.

Together AI ha avviato un’indagine con il supporto di una società specializzata in analisi forense informatica e delle autorità competenti. In base alle verifiche comunicate, non sono state individuate evidenze di ulteriori esposizioni di prompt riconducibili ad altri incidenti. L’azienda ha inoltre dichiarato di non avere elementi per ritenere che i dati siano stati diffusi ulteriormente e di aver ricevuto informazioni secondo cui i contenuti sottratti sarebbero stati eliminati. Rimane tuttavia in corso l’analisi delle informazioni effettivamente presenti nei campioni, necessaria per stabilire se fossero inclusi dati personali sensibili o altre informazioni riservate dei clienti. Together AI ha previsto comunicazioni dirette ai soggetti interessati quando l’indagine consentirà di determinare gli effetti specifici dell’incidente.

Le misure correttive comprendono l’adozione di credenziali con privilegi limitati o durata ridotta, l’impiego di accessi senza chiavi permanenti quando tecnicamente disponibili e il rafforzamento delle verifiche sulle credenziali in tutte le pull request. Sono state inoltre aggiornate le procedure interne che regolano l’utilizzo degli agenti AI per lo sviluppo software. Sul versante della conservazione dei dati, la modalità Zero Data Retention, indicata con la sigla ZDR, è diventata l’impostazione predefinita per i nuovi account. Ai clienti che elaborano prompt contenenti informazioni sensibili viene raccomandata l’attivazione di questa modalità nelle impostazioni del proprio account. Per richieste relative all’incidente è disponibile l’indirizzo security@together.ai. Le modifiche intervengono su due elementi distinti dell’infrastruttura: la protezione degli accessi durante lo sviluppo e la riduzione della quantità di contenuti conservati che potrebbero essere esposti in caso di compromissione.

Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)

Di Fantasy