Nell’ambito dell’intelligenza artificiale (IA), due figure di spicco hanno recentemente espresso visioni divergenti sul potenziale e le implicazioni future di questa tecnologia. Thomas Wolf, co-fondatore di Hugging Face, ha sollevato dubbi sulle previsioni ottimistiche di Dario Amodei, CEO di Anthropic, riguardo alla capacità dell’IA di accelerare il progresso scientifico.
In un saggio intitolato “Machines of Loving Grace”, pubblicato nell’ottobre 2024, Amodei ha delineato una visione audace per il futuro dell’IA. Egli prevede che sistemi di intelligenza artificiale avanzati, operanti a velocità 10-100 volte superiori a quelle umane e con intelligenza superiore a quella dei vincitori del Premio Nobel, possano realizzare in cinque-dieci anni progressi scientifici che altrimenti richiederebbero un secolo. Amodei immagina un futuro in cui l’IA possa portare a scoperte rivoluzionarie in biologia, neuroscienze e altri campi, affrontando sfide come malattie infettive, cancro e invecchiamento, con la possibilità di raddoppiare la durata della vita umana.
Thomas Wolf ha risposto a questa visione con un post sul suo blog personale, esprimendo scetticismo riguardo alla capacità degli attuali sistemi di IA di realizzare tali rivoluzioni scientifiche. Basandosi sulla sua esperienza personale, Wolf sottolinea che l’eccellenza accademica non equivale necessariamente al genio scientifico. Egli sostiene che i sistemi di IA attuali sono progettati per conformarsi alle conoscenze esistenti, eccellendo nel fornire risposte che si allineano al consenso attuale, ma mancano della capacità di produrre intuizioni contrariane e di sfidare i paradigmi esistenti, elementi fondamentali per le rivoluzioni scientifiche.
Wolf evidenzia un problema nei criteri di valutazione dell’IA attuali, che misurano principalmente il pensiero convergente piuttosto che quello divergente. I sistemi di IA sono valutati in base alla loro capacità di rispondere correttamente a domande con risposte già note, piuttosto che sulla loro abilità di generare ipotesi innovative o sfidare i paradigmi esistenti. Questo crea un bias sistemico verso la conformità piuttosto che l’innovazione. Wolf suggerisce lo sviluppo di nuovi benchmark per testare se i modelli di IA scientifica possano “sfidare le proprie conoscenze derivate dai dati di addestramento” e “adottare approcci controfattuali audaci”.
Questa divergenza di opinioni ha implicazioni significative per l’industria dell’IA e per l’ecosistema imprenditoriale più ampio. Le aziende che si allineano alla visione di Amodei potrebbero dare priorità alla scalabilità dei sistemi di IA, aspettandosi che l’aumento della potenza computazionale e l’integrazione di conoscenze più ampie portino a innovazioni rivoluzionarie. Al contrario, la prospettiva di Wolf suggerisce che rendimenti maggiori potrebbero derivare dallo sviluppo di sistemi di IA progettati specificamente per sfidare le conoscenze esistenti, esplorare controfattuali e generare nuove ipotesi, capacità che non emergono necessariamente dagli attuali metodi di addestramento.