IBM ha svelato Granite 3.0, la sua famiglia di modelli di intelligenza artificiale più avanzata fino ad oggi, durante l’evento annuale TechXchange. Questi modelli, denominati Granite 3.0 8B e 2B, sono stati progettati per eccellere in numerosi benchmark accademici e aziendali, superando o eguagliando le prestazioni di modelli di dimensioni simili.
Caratteristiche principali di Granite 3.0:
- Licenza Open Source: I nuovi modelli sono rilasciati sotto la licenza permissiva Apache 2.0, garantendo prestazioni, flessibilità e autonomia ai clienti aziendali.
- Sicurezza e Affidabilità: Granite Guardian 3.0 offre funzionalità di protezione avanzate, assicurando un’intelligenza artificiale sicura.
- Efficienza di Inferenza: I modelli Granite 3.0 Mixture-of-Experts sono ottimizzati per l’inferenza efficiente e bassa latenza, ideali per l’edge computing.
- Previsioni Avanzate: Il modello Granite Time Series ha raggiunto prestazioni eccezionali, superando modelli 10 volte più grandi in previsioni zero/pochi scatti.
Granite 3.0 è progettato per applicazioni aziendali come Retrieval Augmented Generation (RAG), classificazione, riepilogo ed estrazione di entità. La combinazione di modelli più piccoli con dati aziendali consente alle aziende di ottenere prestazioni superiori a costi inferiori, grazie alla tecnica InstructLab.
IBM ha rilasciato report tecnici e linee guida per l’uso responsabile di Granite 3.0, descrivendo i set di dati utilizzati per l’addestramento e i metodi di filtraggio adottati. Inoltre, è stata introdotta un’indennità IP per garantire che i clienti possano unire i propri dati ai modelli senza preoccupazioni.
Granite 3.0 ha ottenuto risultati promettenti nei benchmark di Hugging Face e AttaQ, superando modelli open source simili. Questi modelli sono stati addestrati su oltre 12 trilioni di token in 12 lingue naturali e 116 linguaggi di programmazione, utilizzando un innovativo metodo di addestramento in due fasi.
I nuovi modelli Granite Guardian 3.0 offrono un set completo di funzionalità di rilevamento dei rischi, affrontando problemi come pregiudizio sociale, tossicità e violenza. Questi modelli possono essere utilizzati per implementare barriere di sicurezza anche con altri modelli AI.
I modelli Granite 3.0 sono disponibili per il download su Hugging Face e per uso commerciale sulla piattaforma watsonx di IBM. Saranno disponibili anche su microservizi NVIDIA NIM e Google Cloud.
IBM sta sviluppando assistenti AI e strumenti per migliorare l’efficienza operativa delle aziende, compresi gli agenti AI in grado di eseguire compiti complessi. La nuova generazione di watsonx Code Assistant, basata su Granite, offre assistenza nella codifica e modernizzazione delle applicazioni.
Inoltre, IBM sta espandendo la sua piattaforma Consulting Advantage, rendendo Granite 3.0 il modello predefinito per i suoi 160.000 consulenti, migliorando la rapidità e l’efficienza nelle soluzioni offerte ai clienti.
Con Granite 3.0, IBM riafferma il suo impegno nell’innovazione e nella responsabilità nell’AI, fornendo strumenti avanzati per le aziende di tutto il mondo.