In una dichiarazione rivelatrice, il capo dell’intelligenza artificiale di Meta, Yann LeCun, ha confermato che Meta ha ottenuto GPU NVIDIA del valore di 30 miliardi di dollari per addestrare i propri modelli di intelligenza artificiale. Questo sarebbe sufficiente per gestire una piccola nazione o mandare un uomo sulla Luna nel 1969.
Al Summit Forging the Future of Business with AI organizzato da Imagination in Action, LeCun ha annunciato che verranno rilasciate ulteriori varianti di Llama-3 nei prossimi mesi, con il processo di formazione e messa a punto attualmente in corso.
È stato rivelato che Meta ha acquistato altre 500.000 GPU da NVIDIA, portando il totale a un milione di GPU del valore di 30 miliardi di dollari.
Il costo dell’addestramento dei modelli ha superato il costo dell’intero programma spaziale Apollo degli anni ’60, che ammontava a circa 25,4 miliardi di dollari.
LeCun ha commentato che gran parte del costo è dovuta alle capacità computazionali, evidenziando la necessità di una maggiore disponibilità e di costi più contenuti delle GPU.
Anche se, corretto per l’inflazione, il programma Apollo continua a costare di più rispetto a Meta in termini di spesa effettiva, con circa 257 miliardi di dollari spesi.
Sam Altman di OpenAI ha dichiarato di non essere preoccupato se l’azienda spende più di 50 miliardi di dollari all’anno nello sviluppo di AGI (intelligenza generale artificiale).
Tutte le principali aziende tech stanno cercando di aumentare il numero di GPU che possono ottenere entro la fine dell’anno o entro il 2025.
NVIDIA sta continuando a sviluppare nuove GPU, con la sua ultima GPU DGX H200 consegnata di persona dal CEO Jensen Huang a Sam Altman di OpenAI.
LeCun ha evidenziato che l’obiettivo attuale è migliorare gli algoritmi di apprendimento in modo che possano essere eseguiti in parallelo su diverse GPU. Ha concluso che i progressi in questo settore sono stati lenti.
In questo modo, i costi potrebbero potenzialmente diminuire per le aziende di intelligenza artificiale, anche se con una crescita complessiva sempre più rapida, la domanda di GPU potrebbe rimanere elevata.