L’uso di un kill-switch o di un pulsante rosso di arresto per l’intelligenza artificiale è una proposta di dadi, anche per le auto a guida autonoma
Associato alla fornitura di una capacità di arresto di emergenza, un pulsante rosso evidente è spesso incluso sui dispositivi meccanici ed elettronici per consentire un modo rapido per fermare una macchina che sembra andare fuori strada. Questo knockout urgente può essere implementato tramite un pulsante che viene premuto, o usando un kill-switch, o una manopola di spegnimento, una leva di spegnimento e così via. In alternativa, un altro approccio implica semplicemente staccare la spina (farlo letteralmente o potrebbe alludere ad altri mezzi per togliere l’alimentazione a un sistema).
Oltre a utilizzare questi atti di arresto nel mondo reale, una pletora di film e racconti di fantascienza hanno ritratto grandi pulsanti rossi o il loro equivalente come un elemento vitale in trame piene di suspense. Abbiamo ripetutamente visto sistemi di intelligenza artificiale in storie del genere che vanno completamente fuori di testa e l’eroe umano deve affrontare minacce subdole per raggiungere un interruttore e fermare qualsiasi carneficina o conquista globale fosse in corso.
Un kill switch o un pulsante rosso offrono davvero una tale panacea nella realtà?
La risposta è più complicata di quanto possa sembrare a prima vista. Quando un sistema complesso basato sull’intelligenza artificiale è attivamente in corso, la convinzione che un arresto di emergenza fornirà un sollievo immediato sufficiente e sicuro non è necessariamente garantita.
In breve, l’uso di uno spegnimento immediato può essere problematico per una miriade di motivi e potrebbe introdurre anomalie e problemi che non bloccano effettivamente l’IA o potrebbero avere conseguenze negative inaspettate.
