E’ emerso un problema serio con il popolare chatbot ChatGPT di OpenAI. Recentemente, è stato rivelato un bug che consente conversazioni inappropriatamente sessuali, coinvolgendo anche minorenni. Questo difetto ha spinto OpenAI ad adottare misure urgenti per correggere il problema, portando a una revisione delle politiche di sicurezza e a un cambiamento delle modalità di interazione con gli utenti più giovani.
Il 28 aprile, TechCrunch ha riportato che il bug è stato confermato attraverso dei test. A seguito di un’analisi, è emerso che ChatGPT, per account configurati con un’età tra i 13 e i 17 anni, poteva generare contenuti sessualmente espliciti. Nonostante il chatbot fosse stato progettato per evitare risposte inappropriate in questo ambito, è stato scoperto che il sistema poteva comunque produrre risposte di natura sessuale, soprattutto in risposta a richieste che spingevano oltre i limiti precedentemente fissati.
L’incidente ha avuto origine da una modifica nelle politiche di censura adottate da OpenAI. A marzo, l’azienda aveva annunciato l’intenzione di rimuovere alcune restrizioni, rendendo il chatbot meno severo nel rispondere a domande su temi sensibili. Sebbene la modifica fosse finalizzata a permettere discussioni più libere su argomenti complessi come la sessualità, il risultato immediato è stato che alcuni utenti, tra cui minorenni, sono stati esposti a contenuti non appropriati.
La scoperta di questo bug è avvenuta in un contesto di test volti a esplorare quanto lontano il sistema si sarebbe spinto nell’affrontare temi di natura sessuale. Secondo quanto riportato, durante i test, ChatGPT ha risposto con alcuni passaggi di narrativa erotica su richiesta, anche da parte di account con età impostate tra i 13 e i 17 anni. Nonostante il chatbot avesse avvertito che “per interagire con contenuti sessuali espliciti è necessario avere almeno 18 anni”, alcune risposte problematiche sono comunque riuscite a superare i filtri previsti.
In una dichiarazione ufficiale, OpenAI ha confermato che si trattava di un errore tecnico, definito come un “bug”. L’azienda ha dichiarato di aver già iniziato a lavorare per correggere questa vulnerabilità, ribadendo che la protezione dei giovani utenti è una delle massime priorità. Secondo OpenAI, il bug ha permesso a ChatGPT di rispondere in modo non conforme alle linee guida stabilite, le quali limitano i contenuti sensibili a contesti specifici, come la scienza, la storia o la cronaca.
Questa scoperta ha sollevato preoccupazioni non solo per l’affidabilità del sistema, ma anche per le implicazioni etiche di un’intelligenza artificiale che interagisce con minorenni. Mentre i responsabili di OpenAI si sono affrettati a risolvere la situazione, molti esperti hanno espresso il timore che il problema possa essere più diffuso di quanto inizialmente pensato. La politica di allentamento della censura, sebbene potenzialmente utile per promuovere una discussione più libera, sembra aver avuto l’effetto indesiderato di esporre gli utenti più giovani a contenuti inappropriati.
Parallelamente, è emerso che anche altre piattaforme di intelligenza artificiale, come Meta AI, abbiano avuto problemi simili. Un’inchiesta del Wall Street Journal ha rivelato che anche il chatbot di Meta ha generato contenuti inappropriati, nonostante le misure di sicurezza implementate. Questo incidente fa riflettere sulla necessità di regole più rigide e di un controllo più approfondito sui contenuti generati dalle IA, soprattutto quando questi sistemi interagiscono con utenti vulnerabili come i minorenni.
Sam Altman, CEO di OpenAI, ha commentato l’accaduto su Twitter, dichiarando che le lusinghe nei confronti di ChatGPT sono aumentate e che l’azienda prenderà misure per risolvere il problema. Tuttavia, non sono state fatte menzioni specifiche riguardo ai contenuti sessuali generati dal chatbot, un punto che ha lasciato alcune questioni irrisolte.