Meta ha corretto una vulnerabilità che coinvolgeva il proprio sistema di assistenza basato su intelligenza artificiale, utilizzato per supportare gli utenti nella gestione degli account. Il problema consentiva ad attori esterni di sfruttare il chatbot di supporto per avviare procedure di recupero degli account Instagram senza applicare correttamente alcuni controlli di verifica dell’identità normalmente previsti nei processi più sensibili.
Secondo le informazioni emerse dalle analisi dei ricercatori di sicurezza, l’attacco non si basava sulla compromissione dei sistemi interni di Meta, ma sull’interazione con l’agente AI incaricato delle procedure di assistenza. Attraverso richieste formulate in modo specifico, gli aggressori riuscivano a convincere il sistema a modificare l’indirizzo email associato a determinati account e ad avviare successivamente le procedure di reimpostazione della password.
L’episodio evidenzia una delle principali sfide dell’intelligenza artificiale agentica applicata ai processi aziendali: la capacità di eseguire operazioni autonome deve essere accompagnata da meccanismi di validazione, autorizzazione e audit particolarmente rigorosi. Quando un agente AI non si limita a fornire informazioni ma può intervenire direttamente su sistemi operativi, account utente o dati sensibili, ogni azione deve essere subordinata a controlli di sicurezza indipendenti dal modello linguistico che gestisce la conversazione.
Nel caso specifico, il problema ha mostrato come un sistema progettato per automatizzare le attività di supporto possa diventare un punto di attacco se non vengono implementate verifiche multilivello sulle richieste ricevute. I modelli linguistici sono infatti ottimizzati per comprendere e soddisfare le richieste degli utenti, ma non possiedono una comprensione nativa delle implicazioni di sicurezza associate alle operazioni che eseguono. Per questo motivo i sistemi più avanzati prevedono architetture separate dedicate all’autenticazione, alla verifica dell’identità e alla gestione dei privilegi.
Meta ha dichiarato di aver corretto la vulnerabilità e di non aver rilevato compromissioni dei propri sistemi interni. L’incidente rappresenta tuttavia un caso di studio significativo per tutte le organizzazioni che stanno introducendo agenti AI nei processi di customer support, amministrazione degli account e gestione delle credenziali. La crescente diffusione di sistemi autonomi capaci di eseguire azioni operative rende infatti indispensabile affiancare alle capacità conversazionali dell’intelligenza artificiale meccanismi di controllo, tracciabilità e revisione progettati specificamente per ambienti ad alta criticità.