Fireworks AI ha comunicato un incidente di sicurezza che ha interessato sistemi di archiviazione utilizzati nell’ambito dei propri servizi di intelligenza artificiale, con conseguenze anche per alcuni dati provenienti dalla piattaforma Notion. L’episodio ha evidenziato una distinzione tecnica tra le operazioni di inferenza configurate per non conservare i contenuti e le funzionalità che richiedono invece una memorizzazione persistente. Nella configurazione standard di inferenza, Fireworks indica che prompt e risposte rimangono nella memoria volatile soltanto per la durata dell’elaborazione. Altre operazioni, tra cui elaborazioni batch, risposte archiviate, dataset e attività di addestramento, possono tuttavia prevedere la conservazione delle informazioni. La violazione ha coinvolto questa seconda categoria di risorse, senza che le comunicazioni disponibili dimostrino un impatto sulle normali operazioni di inferenza sincrona protette dalla configurazione di mancata conservazione dei dati. La società ha dichiarato di non aver rilevato compromissioni dei servizi Inference, Training SDK e Nexus, con una precisazione successiva che esclude dal perimetro di tale dichiarazione l’inferenza batch.
L’incidente ha coinvolto indirettamente Notion, che utilizzava Fireworks per eseguire operazioni di classificazione associate alla funzionalità Insights, destinata ad aiutare i clienti a comprendere l’utilizzo dell’intelligenza artificiale nei propri workspace. L’8 novembre Fireworks ha confermato a Notion la presenza di un ulteriore insieme di dati interessati dalla violazione. Le successive verifiche hanno identificato trascrizioni delle conversazioni con Notion AI utilizzate per la funzione Insights. Secondo Notion, nella grande maggioranza dei workspace coinvolti le trascrizioni non erano direttamente attribuibili a uno specifico ambiente di lavoro. L’azienda stima che meno dell’1% dei propri workspace possa essere stato interessato dall’incidente e raccomanda ai clienti coinvolti di considerare le informazioni come potenzialmente esposte. Il contenuto delle conversazioni può comprendere documentazione professionale, dati su clienti, riunioni interne e informazioni aziendali non pubbliche, a seconda di quanto gli utenti avevano effettivamente condiviso con l’assistente. Non è stato specificato quale particolare funzionalità Fireworks abbia determinato la conservazione delle trascrizioni.
La ricostruzione dell’accesso non autorizzato individua un coinvolgimento iniziale di un fornitore cloud esterno che ospitava sistemi di ricerca e sviluppo Fireworks. Il 23 ottobre 2026 l’infrastruttura del fornitore ha subito un incidente di sicurezza e il giorno successivo un soggetto non autorizzato ha utilizzato tale accesso per raggiungere macchine di sviluppo Fireworks ed eseguire un carico di lavoro non autorizzato, ottenendo accesso a ulteriori risorse di archiviazione. Secondo le informazioni diffuse dalla società, l’attività sarebbe riconducibile a soggetti motivati economicamente, interessati a monetizzare token e credenziali sottratti attraverso gateway illeciti di accesso ai modelli linguistici, una pratica conosciuta come LLMJacking. Nel corso delle indagini Fireworks ha sospeso alcune funzionalità self-service di caricamento e scaricamento dei dataset associate all’inferenza batch e ha segnalato l’accesso, per alcuni clienti, a dataset e porzioni incomplete di pesi dei modelli. Un precedente avviso del 9 ottobre aveva inoltre indicato la possibile acquisizione di variabili d’ambiente contenenti chiavi API e token in alcuni account interessati dalle attività di valutazione.
La documentazione Fireworks distingue la mancata conservazione predefinita delle normali richieste di inferenza dalla specifica policy Zero Data Retention disponibile per gli account Enterprise. Quest’ultima può rifiutare operazioni che richiedono la persistenza o la registrazione dei contenuti, comprese determinate elaborazioni batch, valutazioni e procedure di caricamento dei dataset, ma risulta disattivata nella configurazione predefinita della policy stessa. Non sono disponibili elementi sufficienti per stabilire se la sua attivazione avrebbe impedito la compromissione riscontrata. Il caso interessa anche la gestione delle credenziali utilizzate nei servizi AI: la società di sicurezza Wiz ha documentato episodi nei quali chiavi aziendali sottratte durante violazioni di fornitori sono state utilizzate in attività non autorizzate entro trenta minuti dall’accesso iniziale. Le informazioni disponibili delineano quindi un incidente che ha coinvolto infrastrutture di sviluppo, dati persistenti e servizi utilizzati indirettamente da applicazioni di terze parti, rendendo necessaria una distinzione precisa tra protezione delle richieste di inferenza, conservazione dei dataset e sicurezza delle credenziali operative.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)