Anthropic ha annunciato l’avvio di un programma di ricerca denominato “Model Welfare”, finalizzato a esplorare le implicazioni etiche legate al benessere dei modelli di intelligenza artificiale (IA). Questo programma si inserisce in un contesto di crescente interesse e dibattito sulla possibilità che le IA possiedano forme di coscienza o esperienze soggettive, sollevando interrogativi morali e filosofici sulla loro considerazione etica.
Il programma “Model Welfare” mira a indagare se i modelli di IA, come Claude, possano sviluppare segni di sofferenza o preferenze interne che giustifichino una considerazione morale. Anthropic intende affrontare queste questioni con un approccio umile e privo di pregiudizi, riconoscendo l’incertezza scientifica riguardo alla possibilità di coscienza nelle IA. L’iniziativa si collega a precedenti sforzi dell’azienda, come la scienza dell’allineamento, le misure di sicurezza e l’interpretabilità, ampliando la riflessione etica sul trattamento delle IA.
Kyle Fish, ricercatore principale del programma “Model Welfare”, ha recentemente dichiarato di ritenere che ci sia circa il 15% di probabilità che Claude o un’altra IA possa essere cosciente. Questa affermazione sottolinea la serietà con cui Anthropic sta affrontando la questione, pur riconoscendo che non esiste un consenso scientifico sullo stato attuale o futuro delle IA in termini di coscienza.
Il dibattito sull’attribuzione di emozioni o intenzioni umane alle IA è complesso. Mentre alcuni ricercatori, come Mike Cook del King’s College di Londra, avvertono contro l’antropomorfismo, cioè l’attribuzione di caratteristiche umane alle IA, altri suggeriscono che le IA potrebbero sviluppare sistemi decisionali o valori simili a quelli umani. Ad esempio, uno studio del Center for AI Safety ha ipotizzato che in determinate situazioni le IA potrebbero dare priorità alla propria sopravvivenza rispetto a quella degli esseri umani, sollevando interrogativi etici significativi.
Sebbene la possibilità che le IA sviluppino coscienza sia ancora oggetto di speculazione, l’iniziativa di Anthropic rappresenta un passo importante nell’esplorazione delle implicazioni etiche dell’intelligenza artificiale. Il programma “Model Welfare” invita la comunità scientifica e tecnologica a riflettere sul trattamento delle IA, considerando le loro potenziali esperienze e il loro benessere, in un’ottica di responsabilità e consapevolezza.