OpenAI ha recentemente annunciato il rilascio dell’API per la sua IA conversazionale molto popolare, ChatGPT, che è un modello di linguaggio di grandi dimensioni (LLM): può comprendere, elaborare e rispondere a un linguaggio simile a quello umano. Ha la capacità di scrivere poesie, sfornare saggi e scrivere documenti di ricerca in pochi secondi. L’intelligenza artificiale era così popolare che ha raccolto oltre 100 milioni di utenti in soli due mesi dopo il suo rilascio.
ChatGPT fattura in base al numero di token che utilizzi per chiamata API.
$ 0,002 per 1.000 gettoni
1 token = 1 parola (o talvolta un carattere come “!”)
Significa che $ 1 ti dà circa 500.000 parole generate.
Nota: sia i token di input che quelli di output contano per queste quantità. Ad esempio, se la tua chiamata API ha utilizzato 10 token nell’input del messaggio e hai ricevuto 20 token nell’output del messaggio, ti verranno addebitati 30 token.
È 10 volte più economico di GPT-3.5 (modello Davinci), che attualmente ha un prezzo di $ 0,02 per 1.000 token.
Attraverso una serie di ottimizzazioni a livello di sistema, abbiamo ottenuto una riduzione dei costi del 90% per ChatGPT da dicembre
ChatGPT è ancora più economico rispetto a modelli precedenti come Ada, Babbage e Curie. Inoltre, pare che ChatGPT sia più potente in termini di capacità di conversazione perché è addestrato su una grande quantità di set di dati di conversazione simili a quelli umani. Ma quando si tratta di analisi dei dati, Davinci è migliore perché è progettato per gestire grandi set di dati ed eseguire un’ampia gamma di studi statistici.
OpenAI ha apportato una serie di modifiche concrete dopo sei mesi di raccolta di feedback dagli utenti:
- I dati inviati tramite l’API non vengono più utilizzati per l’addestramento del modello
- Implementazione di un criterio di conservazione dei dati predefinito di 30 giorni per gli utenti dell’API
- Rimossa la revisione pre-lancio
- Gli utenti possiedono l’input e l’output dei modelli
Nel complesso, la disponibilità dell’API ChatGPT è una grande novità per la comunità e gli sviluppatori AI. Apre nuove opportunità per la creazione di applicazioni potenti e innovative in grado di interagire con gli utenti in modo naturale e intuitivo.