Uno dei limiti più discussi dell’intelligenza artificiale è la natura di “scatola nera” dei modelli, specialmente quando si tratta di compiti delicati come l’analisi dei sentimenti o il giudizio psicologico. Spesso, i sistemi di IA forniscono risultati senza che sia possibile comprendere appieno il percorso logico che li ha generati, rendendo difficile verificare se un’analisi sia basata su una comprensione reale o su semplici correlazioni superficiali. Per rispondere a questa sfida, il team del dottor Sang-Baek Kim, presso il French Lion Research Institute, ha sviluppato DefMoN, un framework progettato per generare dati sintetici che non solo addestrano l’intelligenza artificiale, ma permettono di monitorare e giustificare ogni sua conclusione basandosi su solide fondamenta teoriche.
Il cuore di questa innovazione risiede nel collegamento diretto tra la tecnologia e le scienze del comportamento umano. Invece di affidarsi a dati generici etichettati in modo vago, DefMoN costruisce il proprio processo di giudizio seguendo i meccanismi di difesa definiti dallo psichiatra George Vaillant e le teorie sulle emozioni e sulle motivazioni di Robert Plutchik. Questo approccio permette di definire linee guida chiare che l’intelligenza artificiale deve seguire durante il processo decisionale. In questo modo, quando il modello analizza un testo e vi attribuisce un valore emotivo o psicologico, lo fa attraverso una struttura logica che riproduce i meccanismi psichici umani, rendendo il risultato finale trasparente e, soprattutto, verificabile dagli esperti.
Un aspetto tecnico cruciale del progetto riguarda il controllo della qualità dei dati sintetici prodotti. Il team di ricerca ha implementato procedure rigorose per prevenire problemi comuni come la deviazione concettuale, ovvero quando il modello si allontana dai parametri psicologici stabiliti, o la perdita di etichetta, un fenomeno per cui l’intelligenza artificiale deduce la risposta corretta basandosi solo sulla presenza di parole specifiche anziché sul significato profondo della frase. Per garantire la massima integrità scientifica, i ricercatori hanno reso pubblici tutti gli script, i registri e i parametri utilizzati, permettendo alla comunità internazionale di riprodurre l’esperimento e confermarne la validità.
I risultati ottenuti con DefMoN sono stati sorprendenti per precisione e capacità di adattamento. Utilizzando indicatori di accuratezza come il punteggio Macro F1, il framework ha raggiunto livelli vicini alla perfezione, con punteggi di 0,96 per i dati in coreano e 0,97 per quelli in inglese. Ancora più significativa è stata la capacità del modello di generalizzare le proprie conoscenze: un sistema addestrato esclusivamente su dati in lingua inglese è stato in grado di analizzare correttamente testi in coreano con un’efficacia notevole, dimostrando che la struttura logica della psicologia umana, se ben codificata, può trascendere le barriere linguistiche.
Oltre alle prestazioni in ambienti controllati, la ricerca ha esplorato come questi dati sintetici possano essere applicati al mondo reale. Sebbene un’IA addestrata solo su dati creati artificialmente presenti inizialmente qualche difficoltà con il linguaggio umano naturale, l’aggiunta di una piccola quantità di dati reali permette di elevare rapidamente le prestazioni, dimostrando che DefMoN può fungere da solida base per sistemi pronti all’uso industriale. Come sottolineato dal dottor Kim, questo framework apre la strada a un’intelligenza artificiale affidabile, capace di fornire prove concrete dei propri giudizi. Questa caratteristica è fondamentale in settori ad alto rischio o in contesti aziendali dove le organizzazioni hanno il dovere etico e legale di spiegare come e perché un algoritmo ha preso una determinata decisione psicologica o emotiva.