Together AI sta affrontando le preoccupazioni legate alla privacy e alla sicurezza dei dati che le aziende incontrano nell’uso dell’intelligenza artificiale (IA) nel cloud pubblico. Per questo motivo, l’azienda ha lanciato la Together Enterprise Platform, che permette l’implementazione dell’IA in ambienti cloud privati virtuali e on-premise.
Fondata nel 2023, Together AI si propone di semplificare l’uso di modelli linguistici open source (LLM) per le aziende. La nuova piattaforma estende le capacità di implementazione dell’IA in ambienti controllati dai clienti, affrontando preoccupazioni chiave come prestazioni, costi ed efficienza dei dati.
Vipul Prakash, CEO di Together AI, ha spiegato che le aziende sono molto attente alla privacy dei dati e hanno già politiche di conformità stabilite. La piattaforma promette di migliorare le prestazioni dell’inferenza AI e ridurre i costi.
La Together Enterprise Platform permette alle aziende di gestire modelli di IA nella propria infrastruttura cloud privata, migliorando notevolmente le prestazioni. Prakash ha affermato che l’azienda riesce spesso a raddoppiare o triplicare l’efficienza dell’inferenza, riducendo del 50% l’hardware necessario.
Questi miglioramenti derivano da un utilizzo ottimizzato di software e hardware, attraverso tecniche come la decodifica speculativa, che prevede i risultati di un modello più grande utilizzando un modello più piccolo, riducendo così il carico computazionale.
Un’altra caratteristica chiave della piattaforma è la capacità di orchestrare diversi modelli di IA in un’unica applicazione. Le aziende utilizzano spesso una combinazione di modelli open source, personalizzati e di terze parti, e la piattaforma Together facilita questa integrazione.
Prakash ha introdotto il concetto di Mixture of Agents, un approccio che combina diversi modelli di IA per fornire risposte migliori. I modelli “più deboli” generano risposte ai prompt, mentre un modello “aggregatore” combina queste risposte per ottenere un risultato ottimale.