Durante l’evento re:Invent, AWS ha suscitato grande attenzione presentando Amazon Q, un chatbot basato su intelligenza artificiale generativa sviluppato specificamente per soddisfare le necessità aziendali. Secondo AWS, Amazon Q si distingue per maggiore sicurezza e protezione rispetto a ChatGPT di OpenAI. Tuttavia, nonostante queste affermazioni, il chatbot ha attirato critiche negative poco dopo il suo debutto.
Solo tre giorni dopo il suo lancio, sono sorte preoccupazioni tra i dipendenti di AWS riguardo all’accuratezza e alla privacy di Q. Il chatbot è stato accusato di produrre “allucinazioni significative” e di essere coinvolto nella divulgazione di informazioni riservate, tra cui la localizzazione dei data center AWS e dettagli su sconti interni e funzionalità non ancora annunciate.
AWS ha rapidamente risposto, affermando che non sono stati identificati problemi di sicurezza e che apprezzano il feedback ricevuto, impegnandosi a migliorare Q prima del suo rilascio ufficiale. Tra le funzionalità distintive di Amazon Q c’è la possibilità di integrarsi con sistemi come Jira, Salesforce, ServiceNow e Zendesk, come dimostrato a re:Invent.
Tuttavia, prima ancora del suo rilascio ufficiale, Amazon Q sta già affrontando critiche. Essendo in fase di anteprima, è previsto che il chatbot subirà modifiche e miglioramenti necessari.
Nektarios Kalogridis, fondatore e CEO di DeepTrading AI, ha commentato la questione, sottolineando la difficoltà di prevenire le allucinazioni nei grandi modelli linguistici (LLM), un’impresa che anche OpenAI ha affrontato con GPT-4.
Amazon Q può operare con vari modelli disponibili su Amazon Bedrock, il repository AI di AWS, che include modelli come Llama 2 di Meta e Claude 2 di Anthropic. I clienti possono scegliere il modello preferito e utilizzarlo attraverso l’API Bedrock. Pertanto, le allucinazioni potrebbero derivare da questi modelli.
Anche ChatGPT ha avuto i suoi problemi, come la recente fuga di dati sensibili. Nonostante ciò, il suo utilizzo aziendale continua a crescere, con il COO di OpenAI, Brad Lightcap, che ha rivelato l’interesse di molte aziende per ChatGPT Enterprise.
Nonostante le critiche, Amazon Q promette grandi benefici. Similmente a ChatGPT Enterprise, permetterà ai clienti di collegarsi ai propri dati aziendali, fornendo assistenza personalizzata. Queste funzionalità derivano dall’uso di RAG (Retrieval-Augmented Generation), che però presenta rischi di fuga di dati.
Ethan Mollick, professore alla Wharton, ha evidenziato sia i vantaggi sia gli svantaggi di RAG. OpenAI ha presentato una funzionalità simile con le sue API Assistant durante Devday.
In aggiunta a OpenAI e AWS, Cohere sta collaborando con le aziende per integrare l’intelligenza artificiale generativa, avendo introdotto la Chat API con RAG a settembre.
Nonostante le preoccupazioni per le allucinazioni e le fughe di dati, l’uso dei chatbot generativi è destinato a migliorare nel tempo, segnando solo l’inizio di questa tecnologia.