Arthur, una piattaforma di monitoraggio dell’IA, utilizzata da alcune delle più grandi organizzazioni del mondo per garantire la corretta gestione e l’implementazione responsabile dei loro sistemi di intelligenza artificiale, ha lanciato una nuova aggiunta alla sua suite di strumenti di monitoraggio: Arthur Shield, il primo firewall per modelli linguistici di grandi dimensioni (LLM). Questa tecnologia brevettata consente alle aziende di implementare applicazioni LLM, come ChatGPT, in modo più veloce e sicuro all’interno dell’organizzazione, aiutando a identificare e risolvere i problemi prima che diventino costosi problemi aziendali o, ancora peggio, danneggino i propri clienti.
Negli ultimi anni, i modelli di linguaggio di grandi dimensioni sviluppati da OpenAI, Google, Meta e altri hanno spinto molte aziende di tutti i settori a integrare LLM nelle loro operazioni. Tuttavia, insieme alla straordinaria potenza di questa nuova tecnologia, ci sono rischi significativi e problemi di sicurezza. Arthur Shield aiuta le aziende a implementare LLM in modo più sicuro rilevando e bloccando i principali rischi, come la perdita di dati sensibili, la generazione di linguaggio tossico, offensivo o problematico e la generazione di risposte errate, conosciute anche come “allucinazioni”. La piattaforma rileva e blocca anche i prompt degli utenti malintenzionati, come i tentativi di ottenere una risposta che non riflette bene sull’azienda, gli sforzi per ottenere dati di addestramento sensibili o i tentativi di aggirare i controlli di sicurezza.
“LLM è una delle tecnologie più rivoluzionarie dai tempi di Internet. Tuttavia, come tutte le nuove tecnologie, comporta numerosi rischi potenziali per le aziende e per il pubblico”, ha affermato Adam Wenchel, co-fondatore e CEO di Arthur. “Arthur ha creato gli strumenti necessari per implementare questa tecnologia in modo più veloce e sicuro, in modo che le aziende possano stare al passo con i concorrenti senza esporre le loro attività o i loro clienti a rischi inutili”.
Arthur è attualmente utilizzato da leader del settore come Humana, il Dipartimento della Difesa (DoD), Expel, Axios HQ e tre delle cinque principali banche statunitensi per affrontare questioni critiche affrontate dagli sviluppatori di intelligenza artificiale, come accuratezza, spiegabilità ed equità. Inoltre, Arthur ha ottenuto accordi di co-vendita con le principali aziende tecnologiche, tra cui Google, Amazon e Microsoft.
Grazie alla piattaforma di Arthur, le aziende di tutti i settori hanno potuto proteggere i propri clienti e garantire che la loro intelligenza artificiale fosse conforme ai severi requisiti normativi, oltre a risparmiare centinaia di milioni di dollari in spese operative e ottenere al contempo una significativa crescita dei ricavi.