Il Center for AI and Digital Policy (CAIDP), un gruppo di etica tecnologica incentrato sull’intelligenza artificiale, ha presentato una denuncia alla Federal Trade Commission (FTC), chiedendo di indagare su OpenAI per aver violato le regole di protezione dei consumatori. Secondo la denuncia, il lancio degli strumenti di generazione di testo AI da parte di OpenAI è stato “di parte, ingannevole e un rischio per la sicurezza pubblica”, violando le regole della FTC contro pratiche commerciali sleali e ingannevoli.
La denuncia evidenzia le potenziali minacce dal modello di testo generativo GPT-4 di OpenAI, annunciato a metà marzo. Includono modi in cui GPT-4 potrebbe produrre codice dannoso e propaganda altamente personalizzata, nonché modi in cui dati di formazione distorti potrebbero tradursi in stereotipi incorporati o preferenze di razza e genere ingiuste in cose come l’assunzione. Sottolinea inoltre significativi errori di privacy con l’interfaccia del prodotto OpenAI, come un bug recente che ha esposto le cronologie di OpenAI ChatGPT e possibilmente i dettagli di pagamento ad altri utenti.
CAIDP chiede alla FTC di interrompere qualsiasi ulteriore implementazione commerciale dei modelli GPT e di richiedere valutazioni indipendenti dei modelli prima di qualsiasi futura implementazione. Richiede inoltre uno strumento di segnalazione pubblicamente accessibile simile a quello che consente ai consumatori di presentare reclami per frode e una regolamentazione ferma sulle regole della FTC per i sistemi di intelligenza artificiale generativa.
La FTC ha espresso interesse per la regolamentazione degli strumenti di intelligenza artificiale e, in un evento congiunto di questa settimana con il Dipartimento di giustizia, la presidente della FTC Lina Khan ha affermato che l’agenzia cercherà segni di grandi aziende tecnologiche in carica che cercano di bloccare la concorrenza. Un’indagine su OpenAI segnerebbe un’importante escalation nei suoi sforzi.
OpenAI ha apertamente notato le potenziali minacce derivanti dalla generazione di testo AI, ma CAIDP sostiene che GPT-4 attraversa una linea di danno per i consumatori che dovrebbe portare a un’azione normativa. Secondo la denuncia, OpenAI ha rilasciato GPT-4 al pubblico per uso commerciale con piena consapevolezza di questi rischi, inclusi potenziali pregiudizi e comportamenti dannosi. La denuncia definisce anche le allucinazioni dell’IA, o il fenomeno dei modelli generativi che inventano con sicurezza fatti inesistenti, come una forma di inganno, portando potenzialmente ChatGPT sotto la competenza della FTC.
La denuncia di CAIDP segue la pubblicazione di una lettera aperta di alto profilo che chiedeva una pausa sui grandi esperimenti di intelligenza artificiale generativa. Il presidente del CAIDP Marc Rotenberg è stato uno dei firmatari della lettera, insieme a un certo numero di ricercatori di intelligenza artificiale e al co-fondatore di OpenAI Elon Musk. Analogamente a quella lettera, la denuncia chiede di rallentare lo sviluppo di modelli di intelligenza artificiale generativa e implementare una supervisione governativa più rigorosa.
In conclusione, la denuncia di CAIDP alla FTC chiede di investigare OpenAI per aver violato le regole di protezione dei consumatori e di implementare una regolamentazione ferma sulle regole della FTC per i sistemi di intelligenza artificiale generativa. L’indagine segnerebbe un’importante escalation nei sforzi della FTC per la regolamentazione degli strumenti di intelligenza artificiale e potrebbe influenzare l’uso futuro di modelli di intelligenza artificiale generativa come GPT-4.
