KiteFishAI, azienda indiana specializzata nello sviluppo di modelli linguistici destinati alle organizzazioni operanti in settori regolamentati, ha annunciato NanoI1, un modello a pesi aperti composto da 155 milioni di parametri e progettato per l’esecuzione di attività specialistiche su infrastrutture informatiche locali. Il sistema è destinato prevalentemente ai processi di estrazione documentale, classificazione delle informazioni e automazione delle attività di assistenza alla clientela, con requisiti computazionali compatibili con l’impiego di computer portatili e server aziendali. La distribuzione dei pesi con licenza Apache 2.0 consente alle organizzazioni di utilizzare e adattare il modello all’interno delle proprie applicazioni, mantenendo il controllo sull’infrastruttura impiegata per l’elaborazione.
Secondo le informazioni diffuse da KiteFishAI, NanoI1 è stato addestrato da zero utilizzando un corpus di circa mille miliardi di token e un’infrastruttura costituita da otto acceleratori NVIDIA H100, impiegati presso Gurgaon, in India. Le dimensioni del file contenente il modello ammontano a circa 311 MB, un valore compatibile con la distribuzione su sistemi dotati di risorse hardware relativamente contenute. Il dato si riferisce alle dimensioni dell’artefatto distribuito, mentre l’effettivo fabbisogno di memoria dipende anche dall’ambiente di esecuzione, dalla lunghezza delle sequenze elaborate e dalle risorse utilizzate dal software di inferenza. KiteFishAI rende disponibili una versione Base, destinata all’adattamento mediante ulteriori procedure di addestramento, e una versione Instruct, ottimizzata per l’esecuzione di istruzioni espresse in linguaggio naturale.
NanoI1 supporta il framework di inferenza vLLM e dispone di una finestra contestuale di 2.048 token. Tale dimensione circoscrive la quantità di informazioni elaborabili nell’ambito di una singola richiesta, rendendo necessaria la predisposizione di procedure di segmentazione quando il sistema viene utilizzato per analizzare documenti particolarmente estesi. Tra le applicazioni individuate dall’azienda rientra l’estrazione delle informazioni dai documenti utilizzati nelle procedure Know Your Customer (KYC), attraverso cui gli operatori finanziari verificano l’identità della clientela. Il modello può inoltre essere integrato nei sistemi di gestione dei ticket per classificare le richieste, identificare la tipologia dei reclami e indirizzare le pratiche verso i reparti competenti. Il supporto linguistico comprende inglese, hindi e altre otto lingue indiane, con capacità multilingue dichiaratamente limitate.
KiteFishAI ha pubblicato alcuni risultati sperimentali ottenuti confrontando NanoI1 con Gemma-3-270M di Google mediante configurazioni di valutazione equivalenti. Nel benchmark HumanEval, dedicato alla generazione di codice, NanoI1 ha raggiunto il 9,1%, rispetto al 2,4% del sistema concorrente. In EvalPlus i risultati ammontano rispettivamente al 4,3% e all’1,2%, mentre nel benchmark GSM8K, relativo alla risoluzione di problemi matematici, NanoI1 ha ottenuto il 4%, rispetto all’1,8% di Gemma. Si tratta di misurazioni comunicate dal produttore, caratterizzate da valori assoluti contenuti e insufficienti per attestare un’affidabilità generalizzata nelle attività di programmazione o ragionamento matematico.
La distribuzione locale di NanoI1 permette di predisporre applicazioni nelle quali i documenti aziendali vengono elaborati senza ricorrere necessariamente a servizi di inferenza esterni. L’integrazione nei processi documentali richiede comunque una validazione specifica sulle tipologie di informazioni trattate, considerando la precisione nell’estrazione dei singoli campi, le omissioni, gli errori di classificazione e la gestione dei risultati caratterizzati da un livello di affidabilità insufficiente. La disponibilità dei pesi consente di intervenire direttamente sull’adattamento del modello alle caratteristiche dei flussi informativi aziendali.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)
