Oggi Snowflake, l’azienda con base nel Montana specializzata in servizi di cloud storage e data-as-a-service, ha lanciato Cortex, un innovativo servizio gestito che integra la potenza dei Large Language Models (LLM) nel suo ecosistema di data cloud.
Durante l’evento Snowday, che segna il punto di incontro annuale dell’azienda, è stata introdotta la piattaforma Cortex. Questo servizio permette ai clienti di Snowflake di sfruttare un insieme di strumenti AI, tra cui LLM open source, per analizzare dati e sviluppare applicazioni su misura per specifiche necessità aziendali.
Sridhar Ramaswamy, il Senior Vice President di AI presso Snowflake, ha commentato: “Snowflake Cortex offre alle imprese la possibilità di utilizzare modelli linguistici avanzati rapidamente, sviluppare applicazioni LLM personalizzate in pochi minuti e, allo stesso tempo, mantenere la piena autonomia e controllo sui propri dati, trasformando così il modo in cui l’intelligenza artificiale generativa viene sfruttata per creare valore commerciale.”
Il servizio è attualmente disponibile in anteprima privata e viene offerto con una selezione di modelli predittivi per semplificare determinate operazioni all’interno del data cloud. Snowflake inoltre lo applica in tre delle sue principali iniziative AI: il copilota Snowflake, la ricerca universale e Document AI.
In un’era dove le imprese sono ansiose di adottare l’intelligenza artificiale generativa, le sfide legate alla necessità di esperti in AI e alla gestione complessa delle infrastrutture GPU rendono difficile il lancio di applicazioni produttive. Snowflake Cortex mira a facilitare questo processo.
Gli utenti avranno accesso a una varietà di funzionalità AI serverless sia specialistiche che generaliste, accessibili tramite codice SQL o Python, per implementare soluzioni AI all’avanguardia sull’infrastruttura Cortex a costi contenuti.
Le funzioni specialistiche utilizzano modelli di linguaggio e machine learning per facilitare compiti analitici specifici tramite input in linguaggio naturale. I modelli possono, ad esempio, estrarre risposte, sintetizzare informazioni o tradurre lingue. Possono anche assistere nella previsione di tendenze o nell’identificazione di anomalie.
Per quanto riguarda le funzioni generiche, queste offrono una gamma più vasta di modelli, dagli LLM open source come Llama 2 a quelli proprietari di Snowflake, utili per convertire input testuali in SQL per interrogazioni dati.
Queste funzioni sono arricchite da capacità di incorporamento di vettori e funzioni di ricerca avanzate, permettendo agli utenti di contestualizzare le risposte del modello rispetto ai propri dati e creare applicazioni personalizzate per diversi scenari.
“Questo rappresenta un enorme vantaggio per i nostri clienti, in quanto non necessitano di alcun provisioning”, ha spiegato Ramaswamy in una conferenza stampa, menzionando anche Neeva, la compagnia di AI acquisita da Snowflake. “Gestiamo noi il provisioning e l’implementazione. È come un’API, simile a ciò che offre OpenAI, ma integrata direttamente in Snowflake. I dati rimangono sicuri, isolati e non sono soggetti a training condiviso. Garantiamo un ambiente sicuro, protetto e di alta competitività”.
Ramaswamy ha sottolineato che il servizio non necessita di vasta programmazione e gli utenti possono operare direttamente nell’ambiente SQL.
Per quanto riguarda le applicazioni, ha evidenziato la facilità con cui gli utenti possono sviluppare chatbot conversazionali, quali copiloti specializzati su specifici contenuti aziendali.
Con l’introduzione di Cortex per uso aziendale, Snowflake ha già iniziato ad utilizzare il servizio per potenziare le funzionalità della sua piattaforma attraverso esperienze LLM integrate, lanciando funzioni basate su Cortex come il copilota Snowflake, la ricerca universale e Document AI.
Altre aziende del settore dati, come Databricks con il suo LakehouseIQ e i programmi LLM di Informatica e Dremio, stanno sviluppando offerte simili.
Oltre a Cortex, Snowflake ha annunciato miglioramenti al supporto per Iceberg Tables e nuove funzionalità nella soluzione di governance Horizon, nonché il lancio di un fondo di investimento per startup che sviluppano app native per Snowflake, con il sostegno della divisione VC di Snowflake e di vari capitali di rischio.