Un avvocato statunitense è accusato di aver utilizzato citazioni false generate da ChatGPT di OpenAI durante una ricerca legale per un caso che stava gestendo, come riportato per la prima volta dal The New York Times. Steven Schwartz (nessuna parentela) ha ammesso di aver utilizzato ChatGPT per la ricerca nel caso che rappresentava, difendendo Roberto Mata in una causa legale contro la compagnia aerea colombiana Avianca per lesioni subite a bordo di uno dei suoi aerei nel 2019.
Nonostante gli avvertimenti ampiamente noti di ChatGPT che talvolta può produrre informazioni errate, Schwartz si è difeso con un’affidavit affermando di non essere “consapevole che il suo contenuto potesse essere falso”. Il giudice Kevin Castel si è mostrato scettico riguardo alla memoria quando è stata presentata. Ha messo in dubbio i riferimenti nella memoria a casi precedenti, tra cui Varghese v. China South Airlines, Martinez v. Delta Airlines, Shaboon v. EgyptAir, Petersen v. Iran Air, Miller v. United Airlines e Estate of Durden v. KLM Royal Dutch Airlines. Si è scoperto che quei casi non esistevano.
“Sei dei casi presentati sembrano essere decisioni giudiziarie false con citazioni false e riferimenti interni falsi”, ha detto Castel.
Castel ha emesso un’ordinanza che richiede una spiegazione per la citazione da parte del team legale di Mata. In risposta, Schwartz ha promesso di non utilizzare più l’IA in futuro per “integrare” la sua ricerca legale “senza una verifica assoluta della sua autenticità”, ma ora affronta sanzioni. Un’udienza sulla questione è programmata per l’8 giugno.
Questo è molto diverso dal giudice colombiano che ha utilizzato ChatGPT per aiutare a scrivere una sentenza legale. In quel caso, il giudice Juan Manuel Padilla ha ammesso apertamente di aver utilizzato ChatGPT e di avergli posto domande sul caso, anche se non ha specificato quanto l’IA lo abbia aiutato nella stesura della sentenza. Ha posto diverse domande al chatbot, tra cui “Un minore autistico è esonerato dal pagamento delle tariffe per le terapie?”. ChatGPT ha risposto: “Sì, è corretto. Secondo le normative in Colombia, i minori con diagnosi di autismo sono esentati dal pagamento delle tariffe per le terapie”. Padilla ha sottolineato in un’intervista radiofonica che vedeva ChatGPT come un assistente simile a una segretaria in grado di rispondere rapidamente e teoricamente migliorare i tempi di risposta del sistema giudiziario. Ha comunque fatto in modo di non seguire ciecamente la risposta del chatbot prima di emettere la sua risposta, verificandola prima della pubblicazione.
