OpenAI ha lanciato un nuovo modello di linguaggio, il GPT-4o Long Output, in grado di generare risposte fino a 64.000 token, una capacità 16 volte superiore rispetto al modello GPT-4o originale.
Il GPT-4o Long Output è una variante del GPT-4o, introdotto a maggio, che aumenta drasticamente la dimensione dell’output da 4.000 a 64.000 token. Questa estensione è stata sviluppata in risposta alle richieste dei clienti che necessitavano di contesti più lunghi per le loro applicazioni
I token rappresentano unità numeriche di concetti e costruzioni grammaticali. Ad esempio, la parola “Ciao” è un token. OpenAI ha creato un modello che permette di generare risposte molto più lunghe, equiparabili a un romanzo di circa 200 pagine.
Questo nuovo modello è particolarmente utile per applicazioni che richiedono output dettagliati e lunghi, come l’editing del codice e il miglioramento della scrittura. Il portavoce di OpenAI ha dichiarato: “Abbiamo ascoltato i nostri clienti che volevano un contesto di output più lungo. Stiamo sempre cercando nuovi modi per servire al meglio le loro esigenze.”
Il GPT-4o Long Output mantiene una finestra di contesto massima di 128.000 token, ma ora permette di ricevere fino a 64.000 token in output. Gli utenti devono decidere se sacrificare parte dei token di input per ottenere risposte più lunghe, rimanendo entro il limite totale di 128.000 token.
Prezzi Competitivi
Il GPT-4o Long Output è offerto a un prezzo di:
- 6 USD per 1 milione di token di input
- 18 USD per 1 milione di token di output
Rispetto ai prezzi del GPT-4o standard (5 USD per 1 milione di token di input e 15 USD per 1 milione di token di output), il nuovo modello è posizionato in modo aggressivo per essere accessibile a una vasta gamma di sviluppatori.
Attualmente, l’accesso al modello è limitato a un gruppo ristretto di partner di fiducia per una fase di test alfa. Se i risultati saranno positivi, OpenAI prevede di estendere l’accesso a una base clienti più ampia, permettendo a più utenti di beneficiare delle capacità estese del modello.
Con il GPT-4o Long Output, OpenAI mira a soddisfare una gamma ancora più ampia di richieste dei clienti, supportando applicazioni che necessitano di risposte dettagliate e prolungate.