Con l’aumento dell’adozione dell’intelligenza artificiale (IA) nelle aziende, cresce anche la necessità di proteggersi dai rischi associati ai malfunzionamenti dei sistemi automatizzati. In risposta a questa esigenza, è stata introdotta una nuova polizza assicurativa che copre i danni derivanti da errori nei chatbot basati su IA.
Il prodotto è stato sviluppato dalla startup americana Armilla, supportata dall’acceleratore Y Combinator, e viene offerto attraverso il mercato assicurativo di Lloyd’s of London. Questa polizza è progettata per proteggere le aziende da perdite finanziarie causate da malfunzionamenti degli strumenti di IA, come i chatbot, che possono fornire informazioni errate o inappropriate ai clienti.
A differenza delle tradizionali polizze di responsabilità civile tecnologica, che spesso offrono coperture limitate per i danni causati dall’IA, la polizza di Armilla offre una protezione più ampia. Essa copre non solo i danni diretti, ma anche le spese legali sostenute dall’azienda in caso di controversie legate a errori dell’IA. Inoltre, la polizza prevede un meccanismo di valutazione delle prestazioni dell’IA: se un sistema mostra una riduzione significativa delle sue capacità rispetto agli standard iniziali, l’assicurazione può entrare in gioco per coprire le perdite.
Questa iniziativa arriva in un momento in cui gli incidenti legati all’IA stanno diventando sempre più frequenti. Ad esempio, in passato, un chatbot di Virgin Money ha ammonito un cliente per aver utilizzato la parola “vergine”, mentre un altro ha offerto uno “sconto inesistente”. Tali errori possono danneggiare la reputazione di un’azienda e comportare conseguenze legali.