Google DeepMind ha avviato il DeepMind Institute, una nuova struttura dedicata allo studio delle conseguenze tecniche e sociali dell’intelligenza artificiale generale e dei meccanismi necessari per svilupparla e utilizzarla in condizioni di maggiore sicurezza. L’iniziativa è stata presentata mentre Shane Legg, cofondatore di DeepMind e Chief AGI Scientist dell’azienda, ha sottolineato la necessità di evitare che l’aumento delle capacità dei sistemi AI proceda più rapidamente degli strumenti disponibili per controllarne i rischi, osservando che le prestazioni dei modelli stanno crescendo molto velocemente e che la ricerca sulla sicurezza deve mantenere un ritmo comparabile. Legg ha inoltre commentato la recente proposta di Dario Amodei, CEO di Anthropic, di rallentare il rilascio dei modelli di frontiera, definendone interessante la direzione generale e meritevole di attenzione, pur sottolineando che sarebbe necessario esaminare molto più attentamente le modalità concrete con cui un simile approccio potrebbe funzionare.
Il DeepMind Institute nasce con l’obiettivo di affrontare l’AGI da una prospettiva più ampia rispetto alla sola ingegneria dei modelli, coinvolgendo ricercatori e studiosi provenienti da Google DeepMind, Google e istituzioni esterne e lavorando su temi che comprendono scienza, istruzione, società, politiche pubbliche, filosofia e benessere umano. Il primo consiglio direttivo comprende Shane Legg, Demis Hassabis, presidente di Google DeepMind, e James Manyika, vicepresidente senior di Google, mentre l’impostazione dichiarata prevede che la discussione sulle conseguenze dell’AGI non rimanga confinata ai gruppi che sviluppano direttamente i sistemi. Legg ha osservato che la possibilità di arrivare a forme molto potenti di intelligenza generale viene ormai considerata con maggiore serietà e che, proprio per questo, è arrivato il momento di ampliare il confronto pubblico, coinvolgendo governi, società civile, arti e discipline umanistiche oltre agli specialisti dell’AI.
La creazione dell’istituto non coincide però con una dichiarazione secondo cui l’AGI sarebbe già stata raggiunta. Legg ha preso le distanze dalle interpretazioni più aggressive emerse di recente da parte di dirigenti di Nvidia e OpenAI, che hanno indicato i progressi dei modelli più recenti come segnali dell’ingresso in una nuova fase dell’intelligenza artificiale, sostenendo invece che al momento non esistano ancora elementi sufficienti per affermare che sia stata raggiunta una vera intelligenza artificiale generale. Ha inoltre confermato la propria precedente stima secondo cui esisterebbe una probabilità del 50% che una forma minima di AGI possa comparire entro il 2028, precisando quindi che si tratta di una previsione personale e non dell’indicazione che Google DeepMind consideri già realizzato questo traguardo.
Tra i primi argomenti di ricerca resi pubblici dal DeepMind Institute figurano la sicurezza dell’intelligenza artificiale, le conseguenze economiche dell’AGI e il tema di un nuovo utopismo legato alle tecnologie avanzate, con un’attenzione particolare anche alla trasparenza dei modelli di ragionamento più recenti. Alcuni ricercatori di DeepMind hanno infatti evidenziato che la rapidità con cui vengono sviluppati e distribuiti nuovi sistemi potrebbe ridurre la disponibilità di informazioni tecniche sul loro funzionamento, mentre la pressione competitiva tra i principali laboratori potrebbe rendere più difficile mantenere standard elevati di sicurezza e trasparenza durante le fasi di rilascio. Il lavoro dell’istituto dovrebbe quindi affiancare l’analisi tecnica dei rischi a una valutazione delle conseguenze economiche e sociali derivanti dall’impiego su larga scala di sistemi con capacità sempre maggiori.
Google DeepMind dispone già di strutture dedicate alla gestione dei rischi dei modelli avanzati, tra cui un AGI Safety Council e il Frontier Safety Framework, utilizzati per valutare capacità potenzialmente pericolose e stabilire misure di mitigazione prima della distribuzione dei sistemi. Il DeepMind Institute amplia questa impostazione oltre il perimetro strettamente tecnico, partendo dal presupposto che l’avvicinamento a sistemi più generali richiederà parallelamente discussioni su governance, politiche pubbliche, impatto economico e conseguenze culturali. James Manyika ha riassunto questa impostazione affermando che l’unica competizione sull’intelligenza artificiale che l’azienda intende sostenere è quella volta a svilupparla correttamente, collegando quindi il progresso delle capacità dei modelli alla necessità di continuare a lavorare contemporaneamente su sicurezza e trasparenza.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)