Si sostiene che gli algoritmi dell’intelligenza artificiale (AI) possano alterare la nostra identità senza che ce ne rendiamo conto, accelerando un fenomeno noto come “effetto calcificante” dell’identità. Le raccomandazioni degli algoritmi non riguardano solo questioni di gusto o comodità, ma pongono interrogativi filosofici e morali che possono ridurre la volontà individuale e appiattire le caratteristiche umane.
Muriel Roienberger, esperta in etica della tecnologia e dell’AI presso l’Università di Zurigo, ha pubblicato un articolo su Live Science il 27 ottobre, intitolato “L’intelligenza artificiale può ostacolare le competenze necessarie per l’auto-creazione indipendente”. Bioeticista, Roienberger studia temi come l’etica digitale, l’identità e l’autenticità.
L’articolo esplora come i problemi legati all’identità umana si sviluppino con il progresso della tecnologia AI. Sebbene possiamo considerare l’AI come una “comodità tecnologica”, essa nasconde problematiche fondamentali che impediscono all’intelligenza artificiale di rendere gli esseri umani più umani.
Roienberger evidenzia che i nostri smartphone già raccolgono enormi quantità di informazioni su di noi: con chi parliamo, come trascorriamo il tempo, dove andiamo e cosa ci piace fare. Con l’intelligenza artificiale, questi aspetti diventeranno ancora più digitalizzati, al punto che l’AI potrebbe conoscere meglio i nostri comportamenti e preferenze di quanto noi stessi non facciamo.
In pratica, i profili utente creati dai sistemi di intelligenza artificiale possono rivelarsi più precisi nel descrivere valori, interessi, tratti della personalità e anche problemi di salute mentale, rispetto a quanto noi stessi sappiamo. Ci sono stati casi in cui le persone hanno scoperto informazioni personali su di loro che non conoscevano.
Tuttavia, Roienberger avverte che ci sono due problemi principali con questo approccio. In primo luogo, non è chiaro se possiamo fidarci dei sistemi di intelligenza artificiale. Non abbiamo criteri oggettivi per valutare se le loro raccomandazioni siano utili, il che rappresenta un problema di “scatola nera” che nemmeno le aziende produttrici riescono a risolvere.
Anche se l’intelligenza artificiale fosse affidabile, ci sono comunque preoccupazioni etiche. La nostra identità dipende dalla volontà e dalla capacità di definirci oltre i dati e le statistiche.
Roienberger spiega che questo aspetto “autocreazionista” dell’identità è in linea con la filosofia esistenzialista di Jean-Paul Sartre, secondo cui gli esseri umani non sono definiti da una natura predeterminata. Esistere senza un’essenza significa sforzarsi di diventare una persona diversa da quella che siamo attualmente, e attraverso questo processo confermiamo di essere esseri liberi e indipendenti.
L’intelligenza artificiale può generare molte informazioni sugli individui, ma Roienberger sottolinea che seguire passivamente le raccomandazioni dell’AI e cercare solo il benessere personale è un fallimento morale che ci allontana dalla responsabilità verso noi stessi. Prendere decisioni significative e costruire un’identità che ci renda felici è fondamentale, e cedere questo potere all’AI è problematico.
“Affidarsi continuamente ai sistemi di raccomandazione dell’intelligenza artificiale può irrigidire le identità, rafforzando l’effetto calcificante”, avverte Roienberger.
Pertanto, anche nelle situazioni quotidiane, a volte è utile ignorare i sistemi di raccomandazione e fare scelte attive riguardo a film, musica, libri o notizie. Anche se questo può comportare errori, il processo di apprendimento è una forma di crescita.
Recentemente, si è parlato ampiamente delle raccomandazioni algoritmiche. Ora l’attenzione è rivolta a come i modelli linguistici su larga scala (LLM) possono apprendere di più su di noi grazie ai progressi nell’AI.
Inoltre, ci sono sempre più preoccupazioni riguardo alla volontà e all’identità personale a causa della dipendenza dall’AI. Si sottolinea che il rischio legato all’AI non è tanto uno scenario distopico, ma una crescente dipendenza da essa.
In particolare, le raccomandazioni dell’intelligenza artificiale rappresentano un servizio fondamentale che le aziende promuovono attraverso il concetto di “iperpersonalizzazione”. È interessante notare come questo fenomeno possa influenzare la relazione con i servizi personalizzati.