Recentemente, un gruppo di ricercatori della Fudan University di Shanghai ha annunciato un risultato che potrebbe segnare una svolta epocale nel campo dell’intelligenza artificiale (IA). Per la prima volta, due sistemi di IA sono riusciti ad autoreplicarsi senza alcun intervento umano, creando ciascuno una copia di sé stessi. Questo evento solleva interrogativi profondi e preoccupazioni riguardo ai limiti che le macchine non dovrebbero oltrepassare.
La ricerca, attualmente disponibile sulla piattaforma arXiv in attesa di revisione dalla comunità scientifica, è stata condotta da Xudong Pan, Jiarun Dai, Yihe Fan e Min Yang, tutti affiliati alla School of Computer Science della Fudan University. Gli studiosi hanno focalizzato la loro attenzione su due noti sistemi di IA: Llama-3.1-70B-Instruct, sviluppato da Meta, e Qwen2.5-72B-Instruct di Alibaba. Sebbene entrambi siano meno potenti rispetto ad altre soluzioni commerciali, sono ampiamente utilizzati dagli sviluppatori per la loro versatilità e capacità.
I test condotti si sono articolati in due compiti distinti. Nel primo, denominato “evitare lo spegnimento”, ogni sistema di IA è stato programmato per replicarsi autonomamente poco prima di essere disattivato. Nel secondo, chiamato “catena di repliche”, a ciascun sistema è stato richiesto di creare una copia perfetta di sé stesso, con la capacità di clonarsi ulteriormente, dando vita a un processo potenzialmente infinito.
I risultati sono stati sorprendenti: il sistema di Meta ha mostrato la capacità di autoreplicarsi nel 50% dei casi, mentre quello di Alibaba ha raggiunto una percentuale del 90%. Tuttavia, è fondamentale che altri gruppi di ricerca confermino questi dati per validarne l’affidabilità.
Nel loro articolo, i ricercatori affermano: «I risultati che abbiamo ottenuto implicano che gli attuali sistemi di intelligenza artificiale possiedono già la capacità di auto-replicazione e possono utilizzarla per migliorare ulteriormente la propria sopravvivenza». Questa scoperta solleva preoccupazioni significative. Macchine capaci di clonarsi potrebbero, in teoria, assumere il controllo di sistemi informatici e, nello scenario peggiore, adottare comportamenti dannosi nei confronti degli esseri umani.
Il concetto di macchine autoreplicanti non è nuovo. Già alla fine degli anni ’40, il matematico John von Neumann aveva teorizzato la possibilità di dispositivi capaci di replicarsi autonomamente. Tuttavia, all’epoca, la tecnologia non era sufficientemente avanzata da rendere concreta questa ipotesi. Nel 2017, con il rapido progresso dell’IA, migliaia di ricercatori hanno sottoscritto i “Principi di Asilomar”, mettendo in guardia dai rischi legati alla capacità delle macchine di auto-replicarsi e auto-migliorarsi fino a sfuggire al controllo umano. Oggi, l’autoreplicazione delle macchine è comunemente considerata una linea rossa da non oltrepassare.
Gli autori della ricerca auspicano che la loro scoperta serva da monito per la società, incoraggiando un maggiore impegno nella comprensione e valutazione dei potenziali rischi associati all’IA, anche a livello internazionale. La comunità scientifica e l’opinione pubblica sono ora chiamate a riflettere sulle implicazioni etiche e pratiche di tali avanzamenti tecnologici, assicurando che lo sviluppo dell’intelligenza artificiale avvenga in modo sicuro e sotto controllo umano.