L’Intelligenza Artificiale, in particolare il deep learning, è spesso paragonata a una “scatola nera”: un sistema capace di fornire risultati eccezionali, ma il cui processo decisionale interno rimane opaco e incomprensibile. Questa mancanza di trasparenza rappresenta una delle sfide più significative per l’adozione dell’AI in settori critici come la medicina e la finanza. Superare questo limite è l’obiettivo della Explainable AI (XAI), e un passo da gigante in questa direzione è stato compiuto dal team di ricerca del KAIST (Korea Advanced Institute of Science and Technology), guidato dai professori Jae-Sik Choi e Jae-Cheol Kim. Il team ha sviluppato una tecnologia rivoluzionaria che promette di aprire la scatola nera, visualizzando il vero e proprio “processo di pensiero” dell’AI.
La novità concettuale introdotta dal KAIST non si concentra più sul singolo neurone, unità fondamentale di calcolo nei modelli di deep learning, ma sul circuito. I modelli di intelligenza artificiale, infatti, emulano il cervello umano, dove i neuroni rilevano caratteristiche elementari—come un contorno, un colore specifico o una forma di base—e trasmettono segnali alla fase successiva. Tuttavia, il significato complesso di un oggetto, o un concetto, non viene riconosciuto da un singolo neurone isolato, ma da una struttura interconnessa di più neuroni che lavorano in sequenza. Ad esempio, per riconoscere il concetto di “orecchie di gatto”, è necessario che si attivino in modo coordinato i neuroni responsabili della forma triangolare, quelli sensibili al colore del pelo e quelli che definiscono il contorno dell’organo. L’insieme di questi neuroni che operano in successione forma un circuito, la vera unità funzionale di riconoscimento concettuale all’interno del modello.
Tenendo conto di questa dinamica intrinseca, il team di ricerca ha scelto di ampliare l’unità di rappresentazione concettuale dell’AI: dal neurone al circuito. Hanno quindi sviluppato una nuova metodologia chiamata “Granified Concept Circuit (GCC)” che permette di analizzare e visualizzare in dettaglio il processo interno con cui i modelli di classificazione delle immagini formano i concetti.
L’analisi di questo processo è resa possibile dal tracciamento automatico di due indicatori chiave. Il primo è la sensibilità neuronale, che misura quanto un neurone specifico sia reattivo a una particolare caratteristica visiva. Il secondo è il punteggio del flusso semantico, un parametro che quantifica la forza con cui una determinata caratteristica viene trasmessa e incorporata nel concetto successivo. Calcolando e mappando questi punteggi, la tecnologia rende possibile visualizzare passo dopo passo come le caratteristiche più basilari, come la trama o la tonalità cromatica, si assemblano progressivamente fino a strutturare un concetto di ordine superiore, tracciando in modo preciso l’intera catena logica.
L’efficacia della metodologia GCC è stata dimostrata attraverso un esperimento illuminante: disattivando temporaneamente un circuito specifico all’interno del modello, i ricercatori hanno potuto osservare che le previsioni dell’AI cambiavano in modo diretto e prevedibile, proprio come se il concetto di cui quel circuito era responsabile fosse stato improvvisamente rimosso dalla conoscenza del modello. Questo risultato fornisce la prova inconfutabile che il metodo ha individuato con precisione le unità di significato interne.
Il Professor Choi Jae-sik ha sottolineato l’unicità di questo approccio: “A differenza dei metodi attuali che tentano di spiegare modelli complessi in modo semplificato, questo è il primo approccio a focalizzarsi sull’analisi accurata della struttura interna del modello fino al livello dettagliato del circuito.” La ricerca non si limita a interpretare, ma dimostra che l’Intelligenza Artificiale può, di fatto, tracciare e visualizzare automaticamente i concetti che ha appreso, fornendo una comprensione senza precedenti di come l’AI percepisce e classifica il mondo. Lo studio, frutto della collaborazione con i dottorandi Dahee Kwon e Sehyun Lee, è stato presentato alla prestigiosa International Conference on Computer Vision (ICCV), confermando l’importanza internazionale della scoperta nel campo della visione artificiale e della trasparenza algoritmica. Questa metodologia spiana la strada verso modelli di deep learning non solo più potenti, ma finalmente comprensibili e, di conseguenza, più affidabili e responsabili.