La startup indiana NimbleEdge ha recentemente lanciato DeliteAI, una piattaforma open-source che promette di rivoluzionare l’interazione tra utenti e dispositivi mobili. A differenza delle tradizionali soluzioni basate sul cloud, DeliteAI permette l’esecuzione di modelli di intelligenza artificiale direttamente sullo smartphone, garantendo prestazioni elevate, privacy e autonomia.
DeliteAI è una piattaforma di intelligenza artificiale “agente” progettata per l’esecuzione completamente on-device. Questo significa che l’elaborazione dei dati avviene direttamente sul dispositivo mobile, senza la necessità di connessione al cloud. La piattaforma supporta l’esecuzione di modelli transformer, modelli linguistici di grandi dimensioni (LLM) e intelligenza artificiale multimodale, il tutto ottimizzato per dispositivi mobili e senza dipendenze da GPU cloud.
Le vomponenti principali di DeliteAI sono:
- SDK e runtime Python on-device. Al cuore di DeliteAI c’è un SDK di produzione con un stack di inferenza ottimizzato e il primo runtime Python on-device per orchestrare flussi di lavoro agentici. Questo consente agli sviluppatori di creare e gestire esperienze AI direttamente sul dispositivo, senza la necessità di infrastrutture cloud.
- Agent Marketplace. DeliteAI introduce un marketplace dedicato dove gli sviluppatori possono scoprire e integrare agenti AI pre-costruiti nelle loro applicazioni mobili. Questo facilita l’adozione di funzionalità avanzate senza la necessità di svilupparle da zero.
- NimbleEdge Assistant. Il NimbleEdge Assistant è il primo assistente conversazionale completamente on-device con strumenti di produttività integrati. Funziona senza connessione a Internet, garantendo privacy e autonomia all’utente.
Tra i vantaggi dell’approccio on-device, troviamo:
- Privacy e sicurezza. Eseguendo l’intelligenza artificiale direttamente sul dispositivo, DeliteAI elimina la necessità di inviare dati sensibili al cloud, riducendo i rischi associati alla privacy e alla sicurezza.
- Prestazioni ottimizzate. L’elaborazione locale consente tempi di risposta più rapidi e un’esperienza utente più fluida, anche su dispositivi meno potenti.
- Autonomia. Le applicazioni alimentate da DeliteAI possono funzionare anche in assenza di connessione a Internet, offrendo funzionalità avanzate in qualsiasi situazione.
DeliteAI trova applicazione in diversi settori, tra cui:
- E-commerce: per offrire esperienze di shopping personalizzate e assistenza clienti intelligente.
- Intrattenimento: per suggerimenti personalizzati e interazioni vocali avanzate.