Google sta affrontando nuove critiche a causa di problemi con l’Intelligenza Artificiale (IA) nella sua app Pixel Studio, disponibile sui telefoni Pixel 9. La nuova app, che utilizza il modello di generazione di immagini “Imagen 3”, ha creato immagini problematiche, inclusi contenuti inappropriati come Spongebob vestito da nazista.
Digital Trends ha riportato che Pixel Studio, lanciata con i nuovi telefoni Pixel 9, ha generato immagini offensive. Gli utenti hanno riportato risultati inappropriati, come la rappresentazione di Yoda in situazioni non adeguate e immagini di scene violente, come un ragazzo disteso a terra in una sparatoria scolastica.
Google ha dichiarato che il modello IA di Pixel Studio è progettato per seguire le richieste degli utenti, ma può generare contenuti offensivi se non ben controllato. Un portavoce dell’azienda ha confermato l’impegno continuo per migliorare le garanzie contro contenuti problematici.
Inoltre, The Verge ha segnalato che la funzione “Reimagine” del Pixel 9, che modifica o sostituisce lo sfondo delle foto, ha anch’essa prodotto immagini inadeguate, come cadaveri e detriti. Tuttavia, si è scoperto che questa funzione non funzionava correttamente, portando a risultati non intenzionali.
A differenza del caso di febbraio, quando Google si scusò e sospese il servizio a causa di problemi con “Gemini”, l’azienda non ha ancora adottato misure simili in risposta ai problemi recenti con Pixel Studio. La situazione non sembra aver avuto un impatto significativo sulle vendite dei Pixel 9, ma le critiche continuano a crescere, con molti che ritengono che Google si sia affrettata a lanciare il prodotto senza adeguati controlli di qualità.
Google ha dichiarato che risolverà il problema tramite aggiornamenti futuri e ha criticato gli utenti che hanno tentato di sfruttare le vulnerabilità del sistema.