Il Korea Advanced Institute of Science and Technology (KAIST), presieduto da Kwang-Hyung Lee, ha recentemente ricevuto il prestigioso “Best Research Record Award” all’International Symposium on Computer Architecture (ISCA 2024) svoltosi a Buenos Aires dal 29 giugno al 3 luglio 2024.
Il premio è stato conferito al gruppo di ricerca del professor Jong-Se Park del Dipartimento di Informatica per il suo innovativo lavoro sullo sviluppo di una struttura NPU (Neural Processing Unit) e di un sistema software per l’ “apprendimento continuo”. Questa tecnologia di intelligenza artificiale adattiva è progettata per funzionare direttamente sui dispositivi, senza necessità di risorse computazionali esterne. Inoltre, il codice e i dati sono stati rilasciati come open source per favorire ulteriori sviluppi nel campo dell’IA.
Questo approccio potrebbe avere applicazioni significative in vari settori, come nei veicoli autonomi e nei robot, dove l’IA integrata potrebbe migliorare le prestazioni e l’efficienza.
L’apprendimento continuo, che consente ai modelli di intelligenza artificiale di aggiornarsi e migliorare continuamente con nuovi dati, è particolarmente importante in ambienti dinamici. Il team di KAIST ha sviluppato un sistema di apprendimento continuo che è sia a basso consumo energetico che altamente efficiente. Questo sistema supera le limitazioni delle metodologie esistenti, come la sicurezza dei dati, la connettività di rete e la latenza.
Il sistema progettato utilizza una NPU spazialmente divisibile e allocca risorse minime per l’inferenza, riservando le risorse rimanenti per la riqualificazione e l’etichettatura. Inoltre, l’algoritmo di allocazione delle risorse è in grado di adattarsi rapidamente ai cambiamenti nei dati di input, migliorando l’efficienza dell’apprendimento.
Per ottimizzare le prestazioni, è stata applicata la “quantizzazione” dei dati e progettata una microarchitettura adeguata. I test condotti hanno dimostrato che questo sistema offre prestazioni di inferenza superiori rispetto agli studi precedenti, anche in ambienti con vari cambiamenti nei dati di input.
Il professor Jong-Se Park ha dichiarato: “Siamo entusiasti di aver dimostrato che l’intelligenza artificiale adattiva può essere realizzata esclusivamente con risorse locali. Questo risultato è il frutto del duro lavoro degli studenti e della nostra stretta collaborazione con ricercatori di Google e Meta. Continueremo a esplorare nuove soluzioni hardware e software per l’IA sui dispositivi.”
Il progetto di ricerca è stato supportato da varie istituzioni, tra cui la Fondazione Nazionale di Ricerca Coreana, l’Istituto per la Pianificazione e la Valutazione delle Tecnologie dell’Informazione e della Comunicazione (IITP), il Centro di Ricerca ICT dell’Università (ITRC), e progetti di supporto alla scuola di specializzazione in intelligenza artificiale e semiconduttori.
Il team di ricerca include anche gli studenti Kim Yun-seong, Oh Chang-hoon, Hwang Jin-woo, Kim Won-woong, Oh Seong-ryong e Yu-bin Lee, oltre ai dottori Hardik Sharma di Meta e Amir Yazdanbakshi di Google DeepMind.