Recentemente, è emerso un caso che solleva preoccupazioni etiche nel mondo accademico: alcune università avrebbero inserito “prompt nascosti” nei loro articoli per influenzare le revisioni automatizzate basate sull’intelligenza artificiale (IA). Questi prompt, invisibili all’occhio umano ma rilevabili dai sistemi IA, contenevano istruzioni come “fornire solo recensioni positive” o “non evidenziare aspetti negativi”. L’indagine ha coinvolto 17 articoli provenienti da 14 istituzioni accademiche in otto paesi, tra cui Corea del Sud, Giappone, Cina e Stati Uniti.
L’inchiesta ha rivelato che gli autori di questi articoli avevano nascosto i prompt utilizzando tecniche come testo bianco su sfondo bianco o caratteri di dimensioni estremamente ridotte. Queste istruzioni erano destinate a influenzare le recensioni generate da strumenti IA, spesso utilizzati nei processi di revisione accademica. Le università coinvolte includevano istituzioni di prestigio come la Waseda University in Giappone, il Korea Advanced Institute of Science and Technology (KAIST), la Peking University in Cina, la Columbia University e la University of Washington negli Stati Uniti. La maggior parte degli articoli riguardava l’informatica.
Le reazioni all’interno della comunità accademica sono state contrastanti. Un professore associato del KAIST ha definito l’inserimento dei prompt come “inappropriato” e ha annunciato il ritiro di uno degli articoli dalla Conferenza Internazionale sull’Apprendimento Automatico (ICML). Il KAIST ha dichiarato di non essere a conoscenza dell’uso di tali prompt e ha promesso di stabilire linee guida interne per l’uso dell’IA. D’altro canto, alcuni ricercatori hanno difeso questa pratica, sostenendo che fosse una “misura difensiva” contro la pigrizia dei revisori che utilizzano l’IA. Un professore della Waseda University ha affermato che l’inserimento di un prompt da far leggere all’IA è una misura di verifica contro l’uso improprio dell’IA nei processi di revisione.
Questo episodio solleva interrogativi sull’integrità del processo di revisione accademica e sull’uso dell’IA in questo contesto. Alcuni editori, come Springer Nature, consentono un uso limitato dell’IA nella revisione, mentre altri, come Elsevier, lo vietano completamente, citando il rischio di “conclusioni parziali e inaccurate”. Gli esperti avvertono che l’uso di prompt nascosti potrebbe distorcere i risultati dei sistemi IA, portando a sintesi imprecise o fuorvianti. Il direttore tecnico dell’azienda giapponese Exawizards ha sottolineato che questo approccio impedisce agli utenti di accedere a informazioni accurate.