Le politiche di sicurezza di Meta hanno portato all’introduzione di strumenti di supervisione avanzati all’interno del Centro per le famiglie, focalizzati specificamente sull’interazione tra utenti minorenni e l’assistente virtuale Meta AI. Questo aggiornamento, integrato nell’ecosistema che comprende Instagram, Facebook e Messenger, risponde alla necessità di fornire ai genitori una visibilità strutturata sull’utilizzo dell’intelligenza artificiale generativa senza tuttavia compromettere l’integrità dei dati personali dei ragazzi attraverso la lettura diretta dei messaggi. Il sistema si basa su una funzione denominata “Informazioni sugli argomenti”, che aggrega le conversazioni avvenute negli ultimi sette giorni in categorie semantiche predefinite, permettendo ai tutori legali di identificare i macro-temi di interesse, come l’istruzione, il benessere psicofisico, il tempo libero o la pianificazione di attività.
La supervisione opera attraverso un pannello di controllo centralizzato che riflette l’attività dell’intelligenza artificiale su tutti i dispositivi associati all’account del teenager. La tecnologia di analisi non si limita a un semplice filtro di parole chiave, ma utilizza algoritmi di elaborazione del linguaggio naturale per classificare il contesto delle domande poste dai giovani. Sebbene i genitori non abbiano accesso al log testuale completo della chat, il sistema offre dettagli granulari all’interno delle categorie: ad esempio, nella sezione dedicata alla salute, possono essere evidenziati sottotemi specifici, consentendo agli adulti di avviare un dialogo informato con i figli. Questa funzione è opzionale e richiede un processo di attivazione reciproco tra genitore e figlio, garantendo che la supervisione sia un atto consensuale e trasparente per entrambe le parti.
Oltre al monitoraggio dei temi, Meta ha implementato restrizioni tecniche alla capacità di risposta del modello quando interagisce con profili identificati come adolescenti (fascia 13-17 anni). L’intelligenza artificiale è programmata per adottare standard di risposta paragonabili ai rating cinematografici per un pubblico giovane, evitando la generazione di contenuti inerenti a temi sensibili come l’autolesionismo, i disturbi alimentari o le relazioni sentimentali adulte. In caso di tentativi di interazione su argomenti ad alto rischio, il sistema è progettato per reindirizzare automaticamente l’utente verso risorse di supporto esterne e organizzazioni di assistenza specializzate. Parallelamente, i genitori hanno ora la facoltà di bloccare completamente l’accesso alle chat individuali con specifici personaggi o modelli AI, o di disabilitare del tutto la funzione di conversazione assistita se ritenuto necessario per il profilo del minore.
L’efficacia di questi strumenti è supportata da una collaborazione con esperti del settore, come il Cyberbullying Research Center e il neonato AI Wellbeing Expert Council, che contribuiscono a definire le linee guida per uno sviluppo etico dei modelli. La strategia di Meta punta a trasformare l’assistente AI da un semplice chatbot a un ambiente protetto che faciliti l’apprendimento e la creatività, mitigando i rischi di manipolazione o dipendenza digitale. Sebbene il rollout completo delle funzioni di monitoraggio dei temi sia attualmente concentrato in mercati specifici come Stati Uniti, Regno Unito e Brasile, l’infrastruttura tecnica è predisposta per un’espansione globale, posizionando la supervisione dell’intelligenza artificiale come una componente fissa e imprescindibile della governance della sicurezza per i minori sulle piattaforme digitali.