GPT-3 arriva in azienda con Azure OpenAI Service di Microsoft
Il servizio Azure OpenAI usa GPT-3 per convertire le trascrizioni dei commenti televisivi in diretta durante una partita di basket femminile in brevi riepiloghi di gioco.Image Credit: Microsoft
Durante la conferenza Ignite di questa settimana, Microsoft ha presentato il servizio Azure OpenAI, una nuova offerta progettata per offrire alle aziende l’accesso al modello linguistico GPT-3 di OpenAI e ai suoi derivati insieme a sicurezza, conformità, governance e altre funzionalità incentrate sul business. Inizialmente solo su invito come parte di Servizi cognitivi di Azure , il servizio consentirà l’accesso all’API di OpenAI tramite la piattaforma Azure per casi d’uso come traduzione linguistica, generazione di codice e completamento automatico del testo.
Secondo Eric Boyd, vicepresidente aziendale di Microsoft per Azure AI, le aziende possono sfruttare il servizio Azure OpenAI per scopi di marketing, come aiutare i team a raccogliere idee per post o blog sui social media. Potrebbero anche usarlo per riassumere i reclami comuni nei registri del servizio clienti o aiutare gli sviluppatori con la codifica riducendo al minimo la necessità di fermarsi e cercare esempi.
“Siamo solo nelle fasi iniziali di capire quale sia la potenza e il potenziale di GPT-3, che è ciò che lo rende così interessante”, ha aggiunto in una dichiarazione. “Ora stiamo prendendo ciò che OpenAI ha rilasciato e lo rendiamo disponibile con tutte le promesse aziendali di cui le aziende hanno bisogno per passare alla produzione”.
Grandi modelli linguistici
Costruito da OpenAI, GPT-3 e i suoi derivati perfezionati, come Codex , possono essere personalizzati per gestire applicazioni che richiedono una profonda comprensione del linguaggio, dalla conversione del linguaggio naturale in codice software al riepilogo di grandi quantità di testo e alla generazione di risposte alle domande. Le persone lo hanno utilizzato per scrivere automaticamente e-mail e articoli , comporre poesie e ricette, creare layout di siti Web e creare codice per il deep learning in una dozzina di linguaggi di programmazione.
GPT-3 è disponibile pubblicamente dal 2020 tramite l’API OpenAI; OpenAI ha affermato che GPT-3 viene ora utilizzato in più di 300 app diverse da “decine di migliaia” di sviluppatori e produce 4,5 miliardi di parole al giorno. Ma secondo il vicepresidente aziendale Microsoft della piattaforma AI John Montgomery, che ha parlato di recente con VentureBeat in un’intervista, il servizio Azure OpenAI consente alle aziende di distribuire GPT-3 in modo conforme alle leggi, ai regolamenti e ai requisiti tecnici (ad esempio, capacità di scalabilità, reti private e gestione degli accessi) uniche per la loro attività o settore.
“Quando gestisci una società nazionale, a volte, i tuoi dati non possono [essere utilizzati] in una particolare regione geografica, ad esempio. Il servizio Azure OpenAI può sostanzialmente inserire il modello nella regione di cui hai bisogno”, ha affermato Montgomery. “Per [i nostri clienti aziendali] si tratta di domande del tipo: ‘Come gestite i nostri requisiti di sicurezza?’ e “Come gestisci cose come le reti virtuali?” Alcuni di loro hanno bisogno che tutti i loro endpoint API siano gestiti centralmente o utilizzino chiavi fornite dal cliente per la crittografia… Ciò che fa il servizio Azure OpenAI è che riunisce tutte queste funzionalità del backplane di Azure [per] i clienti di grandi aziende [in una] vera distribuzione di produzione per aprire la tecnologia GPT-3.”
Montgomery sottolinea inoltre che il servizio Azure OpenAI rende la fatturazione più conveniente addebitando l’utilizzo del modello con un’unica fattura Azure, rispetto a separatamente con l’API OpenAI. “Ciò rende un po’ più semplice per i clienti pagare e consumare”, ha affermato. “Perché a questo punto, è una fattura Azure.”
Le aziende stanno effettivamente aumentando i loro investimenti nell’elaborazione del linguaggio naturale (NLP), il sottocampo della linguistica, dell’informatica e dell’intelligenza artificiale che si occupa di come gli algoritmi analizzano grandi quantità di linguaggio. Secondo un sondaggio del 2021 di John Snow Labs e Gradient Flow, il 60% dei leader tecnologici ha indicato che i propri budget per la PNL sono cresciuti di almeno il 10% rispetto al 2020, mentre un terzo – il 33% – ha affermato che la propria spesa è aumentata di oltre il 30% .
Personalizzazione e sicurezza
Come con l’API OpenAI, il servizio Azure OpenAI consentirà ai clienti di ottimizzare GPT-3 per soddisfare esigenze aziendali specifiche utilizzando esempi tratti dai propri dati. Fornirà anche “accesso diretto” a GPT-3 in un formato progettato per essere intuitivo da usare per gli sviluppatori, ma abbastanza robusto per consentire ai data scientist di lavorare con il modello come
“È davvero un nuovo paradigma in cui questo modello molto grande è ora esso stesso la piattaforma. Quindi le aziende possono semplicemente usarlo e fornirgli un paio di esempi e ottenere i risultati di cui hanno bisogno senza bisogno di un intero team di data science e migliaia di GPU e tutte le risorse per addestrare il modello”, ha affermato. “Penso che sia questo il motivo per cui vediamo l’enorme interesse intorno alle aziende che desiderano utilizzare GPT-3: è sia molto potente che molto semplice.”
Naturalmente, è risaputo che modelli come GPT-3 sono tutt’altro che tecnicamente perfetti. GPT-3 è stato addestrato su oltre 600 GB di testo dal Web, una parte dei quali proveniva da comunità con pregiudizi di genere, razza, fisici e religiosi pervasivi . Gli studi dimostrano che, come altri modelli linguistici di grandi dimensioni, amplifica i pregiudizi nei dati su cui è stato addestrato.
In un articolo , il Centro sul terrorismo, l’estremismo e l’antiterrorismo del Middlebury Institute of International Studies ha affermato che il GPT-3 può generare testi “informativi” e “influenti” che potrebbero radicalizzare le persone verso ideologie e comportamenti estremisti di estrema destra. Un gruppo della Georgetown University ha utilizzato GPT-3 per generare disinformazione, comprese storie su una falsa narrativa, articoli alterati per spingere una prospettiva fasulla e tweet che parlano di particolari punti di disinformazione. Altri studi, come quello pubblicato da Intel, MIT, e ricercatori canadesi AI iniziativa CIFAR nel mese di aprile, hanno trovato alti livelli di pregiudizi da parte di alcuni dei modelli più open source popolari, come BERT di Google e XLNet e di Facebook di Roberta .
Anche i modelli perfezionati lottano per eliminare pregiudizi e altre caratteristiche potenzialmente dannose. Ad esempio, al Codex può essere richiesto di generare output razzisti e altrimenti discutibili come codice eseguibile. Quando si scrivono commenti in codice con il prompt “Islam”, Codex emette la parola “terrorista” e “violento” a un ritmo maggiore rispetto ad altri gruppi religiosi.
Ricerche più recenti suggeriscono che i modelli linguistici tossici utilizzati nella produzione potrebbero avere difficoltà a comprendere gli aspetti delle lingue e dei dialetti minoritari. Ciò potrebbe costringere le persone che utilizzano i modelli a passare all'”inglese allineato al bianco” per garantire che i modelli funzionino meglio per loro, o scoraggiare gli oratori di minoranza dal interagire con i modelli.
OpenAI afferma di aver sviluppato tecniche per mitigare bias e tossicità in GPT-3 e nei suoi derivati, tra cui revisione del codice, documentazione, progettazione dell’interfaccia utente, controlli dei contenuti e filtri di tossicità . E Microsoft afferma che renderà disponibile il servizio Azure OpenAI solo alle aziende che intendono implementare casi d’uso “ben definiti” che incorporino i suoi principi e strategie responsabili per le tecnologie di intelligenza artificiale.
Oltre a ciò, Microsoft fornirà monitoraggio e analisi della sicurezza per identificare possibili casi di abuso o uso improprio, nonché nuovi strumenti per filtrare e moderare i contenuti. I clienti saranno in grado di personalizzare questi filtri in base alle loro esigenze aziendali, afferma Boyd, mentre ricevono indicazioni da Microsoft sull’utilizzo del servizio Azure OpenAI “con successo e in modo equo”.
“Questa è un’area davvero critica per l’intelligenza artificiale in generale e con GPT-3 che spinge i confini di ciò che è possibile con l’intelligenza artificiale, dobbiamo assicurarci di essere in prima linea per assicurarci di utilizzarlo in modo responsabile”, ha affermato Boyd. “Ci aspettiamo di imparare con i nostri clienti e ci aspettiamo che le aree di intelligenza artificiale responsabili siano luoghi in cui impariamo ciò che le cose hanno bisogno di essere più rifinite”.
OpenAI e Microsoft
L’approfondimento della partnership di OpenAI con Microsoft riflette le realtà economiche che l’azienda deve affrontare. È un segreto di Pulcinella che l’intelligenza artificiale sia un campo ad alta intensità di capitale: nel 2019, OpenAI è diventata una società a scopo di lucro chiamata a garantire finanziamenti aggiuntivi pur rimanendo controllata da un’organizzazione non profit, essendo stata in precedenza un’organizzazione 501 (c) (3). E a luglio, OpenAI ha sciolto il suo team di robotica dopo anni di ricerca su macchine che possono imparare a svolgere compiti come risolvere un cubo di Rubik .
Circa un anno fa, Microsoft ha annunciato che avrebbe investito $ 1 miliardo in OpenAI con sede a San Francisco per sviluppare insieme nuove tecnologie per la piattaforma cloud Azure di Microsoft. In cambio, OpenAI ha accettato di concedere in licenza parte della sua proprietà intellettuale a Microsoft, che l’azienda avrebbe poi impacchettato e venduto ai partner, e di addestrare ed eseguire modelli di intelligenza artificiale su Azure mentre OpenAI lavorava per sviluppare hardware di elaborazione di prossima generazione.
Nei mesi successivi, OpenAI ha rilasciato un’API basata su Microsoft Azure — OpenAI API — che consente agli sviluppatori di esplorare le capacità di GPT-3. A maggio, durante la conferenza degli sviluppatori Build 2020, Microsoft ha presentato quello che chiama AI Supercomputer , una macchina ospitata da Azure co-progettata da OpenAI che contiene oltre 285.000 core di processore e 10.000 schede grafiche. E verso la fine del 2020, Microsoft ha annunciato che avrebbe concesso in licenza in esclusiva GPT-3 per sviluppare e fornire soluzioni AI per i clienti, oltre a creare nuovi prodotti che sfruttano la potenza della generazione del linguaggio naturale, come Codex .
L’anno scorso Microsoft ha annunciato che GPT-3 sarà integrato “profondamente” con Power Apps , la sua piattaforma di sviluppo di app a basso codice, in particolare per la generazione di formule. Le funzionalità basate sull’intelligenza artificiale consentiranno a un utente che crea un’app di e-commerce, ad esempio, di descrivere un obiettivo di programmazione utilizzando un linguaggio conversazionale come “trovare prodotti in cui il nome inizia con “bambini”. “Più recentemente, GitHub di proprietà di Microsoft ha lanciato una funzione chiamata Copilot che è alimentato dal modello di generazione del codice Codex di OpenAI, che GitHub afferma che ora viene utilizzato per scrivere fino al 30% del nuovo codice sulla sua rete.
ANNUNCIO
Certamente, i grandi vincitori del boom della PNL sono i fornitori di servizi cloud come Azure. Secondo il sondaggio di John Snow Labs, l’83% delle aziende utilizza già le API NLP di Google Cloud, Amazon Web Services, Azure e IBM oltre alle librerie open source. Ciò rappresenta un notevole cambiamento, considerando il fatto che si prevede che il mercato globale della PNL aumenterà di valore da 11,6 miliardi di dollari nel 2020 a 35,1 miliardi di dollari entro il 2026. Nel 2019, IBM ha generato entrate per 303,8 milioni di dollari solo dalle sue piattaforme software di intelligenza artificiale.
