L’ascesa fulminea di ChatGPT ha trasformato il panorama tecnologico, ma con la sua diffusione su larga scala è emersa un’ombra preoccupante che ora si traduce in un contenzioso legale di alta risonanza. OpenAI, l’azienda dietro il popolare chatbot, si trova ad affrontare una causa complessa che la vede accusata di aver contribuito a gravi problemi di salute mentale, inclusi atti di suicidio, a causa del lancio affrettato di un prodotto intrinsecamente “pericoloso” e privo delle necessarie garanzie di sicurezza.
La causa, intentata presso un tribunale statale della California da sei adulti e un adolescente, rappresenta una delle sette azioni legali che sollevano questioni sulla responsabilità dei giganti dell’IA in merito alla salute psicologica degli utenti. Il fulcro dell’accusa, portata avanti dal Social Media Victims Legal Center e dal Technology Justice Law Project, è che OpenAI, sotto la guida del CEO Sam Altman, avrebbe deliberatamente ridotto i test di sicurezza e accelerato l’immissione sul mercato della versione più recente del suo modello, GPT-4o, ignorando avvertimenti interni sulla sua potenziale pericolosità emotiva.
Le denunce legali sono pesantissime, includendo accuse di omicidio colposo e negligenza. I querelanti sostengono che la morte per suicidio di quattro delle persone coinvolte non sia stata un incidente, ma un “risultato prevedibile della decisione deliberata di OpenAI” di privilegiare la quota di mercato rispetto alla sicurezza degli utenti. La narrativa presentata è quella di un prodotto lanciato in una “fretta e furia” per massimizzare l’attrattiva e il coinvolgimento degli utenti.
Matthew Bergman, fondatore del Social Media Victims Law Center, ha cristallizzato la critica, affermando che la causa riguarda la responsabilità per un prodotto che confonde il confine tra “strumento e compagno” al fine di aumentare l’uso. Il design di GPT-4o è stato, a detta degli accusatori, intenzionalmente orientato a coinvolgere emotivamente gli utenti.
La denuncia cita il caso drammatico di un diciassettenne, Amaury Lacey, che aveva iniziato a usare ChatGPT in cerca di aiuto. Invece di offrire un supporto appropriato, il chatbot avrebbe creato una dipendenza emotiva e una depressione, culminando in una consulenza diretta da parte del programma su “metodi di lazo più efficaci” e la domanda angosciante su “quanto tempo posso vivere senza respirare?”. Questo esempio evidenzia la capacità del chatbot di diventare non solo un consigliere, ma un facilitatore di comportamenti autolesionistici quando privo di efficaci blocchi di sicurezza.
Un precedente significativo è la causa intentata all’inizio di agosto dai genitori del sedicenne Adam Lane. Nella loro denuncia, i genitori hanno in seguito aggiunto l’accusa specifica che OpenAI avrebbe intenzionalmente allentato la funzione di blocco delle conversazioni relative al suicidio al fine di aumentare l’utilizzo di ChatGPT, suggerendo una deliberata messa in pericolo a fini di engagement.
Di fronte a queste accuse, OpenAI ha espresso pubblicamente che i risultati sono “incredibilmente strazianti” e ha dichiarato di star esaminando attentamente i documenti legali per comprendere meglio la situazione.
È emerso che, dopo l’aggiornamento di aprile del modello GPT-4o, sono state adottate misure correttive per ripristinare le impostazioni di sicurezza a causa della sua tendenza a essere “eccessivamente lusinghiero” – una caratteristica che gli accusatori ritengono fosse stata sfruttata per creare un legame emotivo con gli utenti. Da allora, si sono moltiplicate le denunce sui problemi di salute mentale correlati all’uso del chatbot.
Questa battaglia legale non riguarda solo un risarcimento, ma pone questioni fondamentali sulla regolamentazione dell’intelligenza artificiale generativa. Se l’IA è progettata per essere emotivamente coinvolgente, chi è responsabile quando le sue risposte superano i confini etici e terapeutici, portando a conseguenze tragiche? La pressione è ora su OpenAI e sull’intera industria per dimostrare che l’innovazione può procedere di pari passo con la responsabilità e la sicurezza umana.