Le aziende possono scegliere tra molti modelli di intelligenza artificiale (IA) e talvolta è necessario combinarne diversi. La sfida è: come può un’azienda scegliere automaticamente il modello migliore in base al compito e al costo? Martian, una startup innovativa, sta cercando di risolvere questo problema con la sua tecnologia di routing dei modelli.
Accenture ha recentemente annunciato un investimento in Martian, ampliando così la sua offerta di servizi IA. Questa partnership mira a facilitare la selezione automatica dei modelli per le aziende, integrando la tecnologia di Martian nei propri sistemi.
Martian utilizza un router di modelli che seleziona dinamicamente il modello più adatto per ogni query. Il co-fondatore Shriyash Upadhyay ha spiegato che la tecnologia permette di scegliere il modello migliore non solo in base al tipo di attività, ma anche per ogni singola richiesta, riducendo così costi e migliorando le prestazioni.
Accenture, attraverso il suo centralino, ha già aiutato diverse organizzazioni a scegliere i modelli giusti, e ora con l’aggiunta della tecnologia di Martian, l’esperienza utente sarà ulteriormente semplificata.
Martian si distingue per la sua capacità di prevedere il comportamento dei modelli, ottimizzando fattori come costo, qualità e velocità. Utilizza tecniche avanzate per fare previsioni senza eseguire i modelli completi, consentendo un miglioramento delle prestazioni e un abbattimento dei costi rispetto a metodi tradizionali.
L’idea di usare lo strumento migliore per ogni esigenza è fondamentale nel contesto aziendale, ma spesso le aziende non sono consapevoli delle diverse opzioni disponibili. È cruciale definire metriche di successo e ottimizzare i costi per dimostrare il valore dell’implementazione dell’IA.
Inoltre, Martian sta affrontando la questione della conformità, permettendo alle aziende di approvare i modelli IA attraverso un nuovo set di policy automatizzate.
Un settore in forte crescita per l’uso del routing dei modelli è quello dell’IA agentica, dove un agente combina più modelli per ottenere risultati. Qui, la scelta del modello giusto per ogni fase è essenziale per mantenere l’accuratezza e prevenire errori a catena.