Impedisci ai tuoi progetti di intelligenza artificiale nel cloud pubblico di sgocciolarti
L’anno scorso, Andreessen Horowitz ha pubblicato un provocatorio post sul blog intitolato ” The Cost of Cloud, a Trillion Dollar Paradox “. In esso, la società di venture capital ha sostenuto che la spesa cloud fuori controllo sta portando le aziende pubbliche a lasciare sul tavolo miliardi di dollari di potenziale capitalizzazione di mercato. Un’alternativa, suggerisce l’azienda, è ricalibrare le risorse cloud in un modello ibrido. Un tale modello può incrementare i profitti di un’azienda e liberare il capitale per concentrarsi su nuovi prodotti e crescita.
Resta da vedere se le aziende seguiranno questa guida, ma una cosa che sappiamo per certo è che i CIO richiedono maggiore agilità e prestazioni dalla loro infrastruttura di supporto. Ciò è particolarmente vero in quanto cercano di utilizzare applicazioni di intelligenza artificiale / apprendimento automatico (AI/ML) sofisticate e ad alta intensità di calcolo per migliorare la loro capacità di prendere decisioni basate sui dati in tempo reale.
Accelerare la trasformazione e sbloccare il tuo talento con lo sviluppo dei cittadini – Summit Low-Code/No-Code
A tal fine, il cloud pubblico è stato fondamentale nell’aiutare a introdurre l’IA nel mainstream. Ma i fattori che hanno reso il cloud pubblico un banco di prova ideale per l’IA (ovvero, prezzi elastici, la facilità di flessione verso l’alto o verso il basso, tra gli altri fattori) stanno effettivamente impedendo all’IA di realizzare il suo pieno potenziale.
Ecco alcune considerazioni per le organizzazioni che cercano di ottimizzare i vantaggi dell’IA nei loro ambienti.
Per l’intelligenza artificiale, il cloud non è adatto a tutti
I dati sono la linfa vitale dell’impresa moderna, il carburante che genera insight di intelligenza artificiale. E poiché molti carichi di lavoro IA devono costantemente acquisire volumi di dati grandi e crescenti, è fondamentale che l’infrastruttura possa supportare questi requisiti in modo economico e ad alte prestazioni.
Quando decidono come affrontare al meglio l’IA su larga scala, i leader IT devono considerare una varietà di fattori. La prima è se la colocation, il cloud pubblico o un mix ibrido siano i più adatti a soddisfare le esigenze specifiche delle moderne applicazioni di intelligenza artificiale.
Anche se il cloud pubblico ha avuto un valore inestimabile nel portare l’IA sul mercato, non è privo di sfide. Questi includono:
Blocco del fornitore : la maggior parte dei servizi basati su cloud presenta alcuni rischi di blocco. Tuttavia, alcuni servizi di intelligenza artificiale basati su cloud oggi disponibili sono altamente specifici per piattaforma, ognuno con le proprie sfumature particolari e integrazioni distinte relative ai partner. Di conseguenza, molte organizzazioni tendono a consolidare i propri carichi di lavoro IA con un unico fornitore. Ciò rende difficile per loro cambiare fornitore in futuro senza incorrere in costi significativi.
Prezzi elastici: la possibilità di pagare solo per ciò che si utilizza è ciò che rende il cloud pubblico un’opzione così allettante per le aziende, in particolare quelle che sperano di ridurre la spesa CapEx. E il consumo di un servizio di cloud pubblico a goccia spesso ha un buon senso economico a breve termine. Ma le organizzazioni con una visibilità limitata sul loro utilizzo del cloud troppo spesso scoprono che lo stanno consumando a palate. A quel punto diventa una tassa che soffoca l’innovazione.
Tariffe di uscita : con i trasferimenti di dati nel cloud, un cliente non deve pagare per i dati che invia al cloud. Ma ottenere quei dati dal cloud richiede loro di pagare tariffe di uscita, che possono sommarsi rapidamente. Ad esempio, i sistemi di ripristino di emergenza saranno spesso distribuiti in aree geografiche per garantire la resilienza. Ciò significa che in caso di interruzione, i dati devono essere continuamente duplicati nelle zone di disponibilità o su altre piattaforme. Di conseguenza, i leader IT stanno arrivando a capire che a un certo punto, più dati vengono inseriti nel cloud pubblico, più è probabile che finiscano in un angolo finanziario.
Sovranità dei dati : la sensibilità e la località dei dati è un altro fattore cruciale nel determinare quale fornitore di servizi cloud sarebbe la soluzione più appropriata. Inoltre, con l’entrata in vigore di una serie di nuove normative sulla privacy dei dati imposte dallo stato , sarà importante garantire che tutti i dati utilizzati per l’intelligenza artificiale negli ambienti cloud pubblici siano conformi alle normative sulla privacy dei dati prevalenti.
Tre domande da porsi prima di trasferire l’AI nel cloud
Le economie di scala offerte dai fornitori di cloud pubblico ne hanno fatto un banco di prova naturale per i progetti di intelligenza artificiale aziendali più impegnativi di oggi. Detto questo, prima di dedicarsi completamente al cloud pubblico, i responsabili IT dovrebbero prendere in considerazione le seguenti tre domande per determinare se si tratta davvero dell’opzione migliore.
A che punto il cloud pubblico smette di avere senso dal punto di vista economico?
Le offerte di cloud pubblico come AWS e Azure offrono agli utenti la possibilità di ridimensionare in modo rapido ed economico i propri carichi di lavoro IA poiché paghi solo per ciò che usi. Tuttavia, questi costi non sono sempre prevedibili, soprattutto perché questi tipi di carichi di lavoro ad alta intensità di dati tendono ad aumentare di volume man mano che assorbono voracemente più dati da fonti diverse, come l’addestramento e il perfezionamento dei modelli di intelligenza artificiale. Mentre “pagare a goccia” è più facile, veloce ed economico su scala ridotta, non ci vuole molto perché queste gocce si accumulino in secchi, spingendoti a una fascia di prezzo più costosa.
Puoi mitigare il costo di questi secchi impegnandoti in contratti a lungo termine con sconti sul volume, ma l’economia di questi contratti pluriennali raramente viene cancellata. L’ascesa di AI Compute-as-a-Service al di fuori del cloud pubblico offre opzioni per coloro che desiderano la convenienza e la prevedibilità dei costi di un modello di consumo OpEx con l’affidabilità di un’infrastruttura dedicata.
Tutti i carichi di lavoro IA dovrebbero essere trattati allo stesso modo?
È importante ricordare che l’IA non è un gioco a somma zero. Spesso c’è spazio sia per il cloud che per l’infrastruttura dedicata o qualcosa di intermedio (ibrido). Invece, inizia osservando gli attributi delle tue applicazioni e dei tuoi dati e investi il tempo in anticipo per comprendere i requisiti tecnologici specifici per i singoli carichi di lavoro nel tuo ambiente e i risultati aziendali desiderati per ciascuno. Quindi cerca un modello architetturale che ti consenta di abbinare il modello di distribuzione delle risorse IT che si adatta a ogni fase del tuo percorso di sviluppo dell’IA.
Quale modello di cloud ti consentirà di implementare l’IA su larga scala?
Nella terra dell’addestramento dei modelli di intelligenza artificiale, nuovi dati devono essere inseriti regolarmente nello stack di calcolo per migliorare le capacità di previsione delle applicazioni di intelligenza artificiale che supportano. Pertanto, la vicinanza dei repository di dati e di calcolo è diventata un criterio di selezione sempre più importante. Naturalmente, non tutti i carichi di lavoro richiederanno una connettività dedicata e persistente a larghezza di banda elevata. Ma per coloro che lo fanno, un’indebita latenza di rete può ostacolare gravemente il loro potenziale. Oltre ai problemi di prestazioni, esiste un numero crescente di normative sulla privacy dei dati che determinano come e dove è possibile accedere ed elaborare determinati dati. Queste normative dovrebbero anche far parte del processo decisionale del modello cloud.
Il cloud pubblico è stato essenziale per portare l’IA nel mainstream. Ma ciò non significa che abbia senso che ogni applicazione IA venga eseguita nel cloud pubblico. Investire il tempo e le risorse all’inizio del tuo progetto di intelligenza artificiale per determinare il giusto modello di cloud contribuirà notevolmente a proteggerti dal fallimento del progetto di intelligenza artificiale.
Holland Barry è SVP e Field CTO di Cyxtera .
