NVIDIA ha introdotto una tecnologia per accelerare l’addestramento di “AlphaFold”, un modello di intelligenza artificiale sviluppato da DeepMind per generare proteine. Originariamente, l’addestramento richiedeva 7 giorni, ma grazie alla nuova tecnologia di NVIDIA, è stato completato in soli 10 ore.
I ricercatori di NVIDIA hanno pubblicato un articolo sull’archivio online riguardante la tecnologia “ScaleFold”, che ha permesso di ridurre notevolmente il tempo di addestramento di AlphaFold.
ScaleFold ha ridotto il tempo di addestramento iniziale di AlphaFold da 7 giorni a 10 ore, completando una parte del processo in soli 7,51 minuti, sei volte più velocemente rispetto allo standard di riferimento.
La tecnologia ha risolto problemi come la comunicazione inefficiente e i calcoli sovraccarichi, introducendo una nuova pipeline di dati, monitorando l’addestramento con il grafico CUDA e ottimizzando i calcoli per ridurre i costi complessivi.
Con l’uso di kernel Triton dedicati e altre ottimizzazioni, ScaleFold ha ottenuto un nuovo record di velocità nell’addestramento parziale del modello AlphaFold, completando l’operazione in soli 7,51 minuti.
Questo studio risolve i problemi di scalabilità nell’addestramento di AlphaFold, offrendo una soluzione efficace per migliorare i metodi computazionali utilizzati nella ricerca bioinformatica.