OpenAI inizia a consentire ai clienti di mettere a punto GPT-3
OpenAI, il laboratorio con sede a San Francisco, California, che sviluppa tecnologie di intelligenza artificiale tra cui modelli linguistici di grandi dimensioni, ha annunciato oggi la possibilità di creare versioni personalizzate di GPT-3 , un modello in grado di generare testo e codice simili a quelli umani. Gli sviluppatori possono utilizzare la messa a punto per creare modelli GPT-3 su misura per il contenuto specifico nelle loro app e servizi, portando a risultati apparentemente di qualità superiore attraverso attività e carichi di lavoro, afferma la società.
” Secondo Gartner, l’80% dei prodotti e servizi tecnologici sarà realizzato da coloro che non sono professionisti della tecnologia entro il 2024. Questa tendenza è alimentata dall’adozione accelerata dell’IA nella comunità aziendale, che a volte richiede carichi di lavoro di intelligenza artificiale specificamente personalizzati”, un OpenAI il portavoce ha scritto in una e-mail. “Con una singola riga di codice, GPT-3 personalizzato consente agli sviluppatori e ai team aziendali di eseguire e addestrare potenti modelli di intelligenza artificiale basati su set di dati specifici, eliminando la necessità di creare e addestrare i propri sistemi di intelligenza artificiale da zero, che può essere piuttosto costoso e in termini di tempo -intensivo.”
GPT-3 . personalizzato
Costruito da OpenAI, GPT-3 e i suoi derivati perfezionati, come Codex , possono essere personalizzati per gestire applicazioni che richiedono una profonda comprensione del linguaggio, dalla conversione del linguaggio naturale in codice software al riepilogo di grandi quantità di testo e alla generazione di risposte alle domande. GPT-3 è disponibile pubblicamente dal 2020 tramite l’API OpenAI; a marzo, OpenAI ha affermato che GPT-3 veniva utilizzato in più di 300 app diverse da “decine di migliaia” di sviluppatori e produceva 4,5 miliardi di parole al giorno.
La nuova funzionalità di messa a punto di GPT-3 consente ai clienti di addestrare GPT-3 a riconoscere uno schema specifico per carichi di lavoro come la generazione di contenuti, la classificazione e il riepilogo del testo all’interno dei confini di un particolare dominio. Ad esempio, un cliente, Keeper Tax, utilizza il GPT-3 perfezionato per interpretare i dati degli estratti conto bancari per aiutare a trovare spese potenzialmente deducibili dalle tasse. L’azienda continua a mettere a punto GPT-3 con nuovi dati ogni settimana in base alle prestazioni del suo prodotto nel mondo reale, concentrandosi su esempi in cui il modello è sceso al di sotto di una certa soglia di prestazioni. Keeper Tax afferma che il processo di messa a punto sta producendo un miglioramento di circa l’1% di settimana in settimana, il che potrebbe non sembrare molto, ma si sta aggravando nel tempo.
“[Una cosa di cui] siamo stati molto consapevoli e che abbiamo enfatizzato durante il nostro sviluppo di questa API è renderla accessibile agli sviluppatori che potrebbero non avere necessariamente un background di apprendimento automatico”, ha detto il membro dello staff tecnico di OpenAI Rachel Lim a VentureBeat in un colloquio telefonico. “Il modo in cui questo si manifesta è che puoi personalizzare un modello GPT-3 utilizzando un’invocazione della riga di comando. [Stiamo] sperando che, grazie alla sua accessibilità, saremo in grado di raggiungere un insieme più diversificato di utenti che possono portare la loro serie più diversificata di problemi alla tecnologia.
Lim afferma che la capacità di messa a punto del GPT-3 può anche portare a risparmi sui costi, perché i clienti possono contare su una frequenza più elevata di output di qualità superiore da modelli perfezionati rispetto a un modello GPT-3 vanigliato. (OpenAI addebita l’accesso all’API in base al numero di token, o parole, che i modelli generano.) Mentre OpenAI impone un premio sui modelli ottimizzati, Lim afferma che la maggior parte dei modelli ottimizzati richiede prompt più brevi contenenti meno token, il che può comportare anche un risparmio.
La messa a punto può anche essere vantaggiosa, secondo Lim, in quanto può consentire alle aziende di mantenere i modelli GPT-3 personalizzati “più freschi”. Ad esempio, Koko, una piattaforma di supporto tra pari che fornisce terapia cognitiva crowdsourcing, è stata in grado di mettere a punto un modello GPT-3 per riflettere un numero crescente di disturbi alimentari durante la pandemia.
In un esperimento interno, OpenAI ha messo a punto due dimensioni di GPT-3 su 8.000 esempi di problemi di matematica della scuola elementare, un set di dati creato dal laboratorio contenente problemi a livello di matematica della scuola elementare. OpenAI afferma che i modelli perfezionati hanno più che raddoppiato la precisione quando testati su domande dallo stesso set di dati, rispondendo correttamente a domande come “Carla ha bisogno di lavare a secco 80 capi di biancheria entro mezzogiorno. Se inizia a lavorare alle 8 del mattino, quanti capi di biancheria deve pulire all’ora?”
“[Siamo] continuamente alla ricerca di modi per migliorare l’esperienza dell’utente per rendere più facile per le persone ottenere buoni risultati sufficientemente robusti da poter essere utilizzati in applicazioni di qualità produttiva”, ha affermato Lim. “La messa a punto è un modo per allineare maggiormente i modelli a dati specifici”.
Crescita nell’utilizzo
Il lancio della messa a punto di GPT-3 arriva dopo che OpenAI ha rimosso la lista d’ attesa per l’API GPT-3. Nell’ultimo anno, la società afferma di aver sviluppato endpoint per risposte alle domande “più veritiere”, fornito un filtro dei contenuti per aiutare a mitigare la tossicità e implementato modelli – modelli “istruiti” – che apparentemente aderiscono meglio alle istruzioni umane.
Quest’estate, OpenAI ha collaborato con Microsoft per lanciare il servizio Azure OpenAI, un’offerta progettata per offrire alle aziende l’accesso a GPT-3 e ai suoi derivati insieme a sicurezza, conformità, governance e altre funzionalità incentrate sul business. Microsoft ha uno stretto rapporto con OpenAI, avendo investito $ 1 miliardo nell’azienda nel 2020 e concesso in licenza esclusiva a GPT-3 per sviluppare soluzioni di intelligenza artificiale per i clienti di Azure.
