Anthropic si è trovata in una posizione scomoda dopo che, durante un’importante causa per violazione di copyright, è emerso che alcuni dei materiali presentati come prova erano in realtà frutto di “allucinazioni” della sua intelligenza artificiale Claude. L’imbarazzante episodio è stato riportato da Bloomberg, che il 15 maggio ha reso noto come gli avvocati di Anthropic abbiano dovuto ammettere di fronte a un giudice federale della California che il loro testimone aveva portato in aula titoli di articoli e nomi di autori completamente inventati dall’IA.
Pur riconoscendo che il link alla pubblicazione citata fosse corretto, la difesa di Anthropic ha parlato di un semplice errore di citazione, chiarendo che non c’era l’intenzione di fuorviare il tribunale o minare la sua autorità.
L’episodio si inserisce nella causa intentata nel 2023 da Universal Music Group e altre etichette discografiche contro Anthropic, accusata di aver utilizzato senza permesso i nomi di artisti e titoli di canzoni nei suoi modelli di intelligenza artificiale. La questione si è accesa dopo che Universal ha segnalato alcune dichiarazioni rilasciate in tribunale da Olivia Chen, dipendente di Anthropic e testimone esperta, che contenevano informazioni errate prodotte da Claude. A seguito di queste scoperte, il giudice federale ha chiesto all’azienda di fornire ulteriori spiegazioni.
Quello delle cosiddette “allucinazioni” dell’intelligenza artificiale in ambito giudiziario è un tema sempre più attuale. Non si tratta infatti di un caso isolato: solo pochi giorni prima, un altro giudice della California aveva criticato duramente due studi legali per aver presentato ricerche fittizie basate su IA. Anche a gennaio, un avvocato australiano era stato colto in fallo per aver usato ChatGPT nella preparazione di documenti destinati a un tribunale, incappando in errori simili.
Nonostante questi rischi, la diffusione degli strumenti di intelligenza artificiale generativa in ambito legale continua a crescere. Un esempio è Harvey, piattaforma che supporta gli avvocati attraverso modelli avanzati di IA e che, secondo indiscrezioni, sarebbe in trattativa per un nuovo round di investimenti da oltre 250 milioni di dollari, portando la sua valutazione a 5 miliardi. Harvey è già considerato uno dei principali protagonisti nel settore dell’AI applicata al mondo legale.