Negli ultimi tempi, la comunità tecnologica ha assistito a esperimenti sorprendenti che dimostrano la capacità di eseguire modelli avanzati di intelligenza artificiale su hardware obsoleto. Un esempio notevole è l’esecuzione del modello Llama 2 su un Xbox del 2005, un’impresa che segue la recente esecuzione dello stesso modello su un PC con processore Pentium II del 1997.
Andrei David, Chief Technology Officer di Summer Finance, ha annunciato di aver eseguito con successo il modello Llama 2 su una console Xbox originale del 2005. Ispirato dall’esperimento precedente di EXO, una startup che ha eseguito Llama 2 su un PC con processore Pentium II e 128 MB di RAM, David ha utilizzato il codice ‘llama2.c’ sviluppato da Andrej Karpathy, co-fondatore di OpenAI, scritto in linguaggio C.
L’esecuzione di Llama 2 su Xbox ha richiesto adattamenti significativi a causa delle differenze architetturali tra i sistemi. In particolare, l’Xbox utilizza un’architettura PowerPC con un sistema di memorizzazione ‘big endian’, mentre il Pentium II utilizza un sistema ‘little endian’. Questo ha reso necessaria una riorganizzazione della gestione della memoria. Inoltre, l’Xbox dispone di 512 MB di RAM, rispetto ai 128 MB del Pentium II, ma l’esecuzione di Llama 2 ha richiesto un’ottimizzazione per gestire efficacemente l’allocazione della memoria condivisa.
Questi esperimenti dimostrano che è possibile eseguire modelli di intelligenza artificiale avanzati su hardware datato, sfidando l’idea che l’IA richieda necessariamente risorse computazionali moderne e potenti. Ciò apre la strada a una maggiore accessibilità e democratizzazione dell’IA, permettendo a un numero più ampio di persone di sperimentare e sviluppare applicazioni IA senza la necessità di hardware costoso.