Sta crescendo il numero di casi in cui conducenti Tesla utilizzano FSD o Autopilot mentre dormono al volante, affidando di fatto al sistema l’intera gestione della guida nonostante queste tecnologie richiedano ancora una supervisione costante da parte dell’uomo. Un’indagine di NBC News ha individuato almeno 43 video pubblicati online nei quali il conducente appare addormentato durante la marcia, di cui 17 caricati nel corso di quest’anno. A questi episodi si aggiungono diversi casi analoghi che non sono stati ripresi in video ma hanno comunque portato a indagini di polizia o sanzioni.
Uno dei problemi principali riguarda il Driver Monitoring System utilizzato da Tesla per verificare che chi si trova al posto di guida rimanga vigile. Il sistema si basa in parte sulla telecamera interna dell’abitacolo, ma il monitoraggio può diventare meno efficace quando il conducente indossa occhiali da sole oppure quando l’illuminazione è insufficiente. In queste condizioni l’auto può ricorrere al precedente sistema di controllo, che verifica la presenza periodica di una coppia applicata al volante. Secondo quanto emerso dai casi analizzati, un guidatore può riuscire ad aggirare gli avvisi semplicemente mantenendo una mano appoggiata in modo rilassato sul volante mentre indossa gli occhiali da sole.
Questa vulnerabilità si inserisce in un problema più ampio legato alla cosiddetta automation complacency, cioè la tendenza degli utenti a ridurre progressivamente il livello di attenzione quando un sistema automatizzato appare sufficientemente affidabile. Più l’auto riesce a gestire senza difficoltà traffico, cambi di corsia e altre situazioni stradali complesse, maggiore può diventare la propensione del conducente a fidarsi eccessivamente dell’automazione e a diminuire la vigilanza. In un sistema di assistenza di livello 2, però, questa riduzione dell’attenzione è incompatibile con il funzionamento previsto della tecnologia.
Tesla FSD rimane infatti classificato secondo lo standard SAE come sistema di assistenza alla guida di livello 2. Il conducente deve quindi mantenere costantemente l’attenzione sulla strada ed essere pronto a intervenire immediatamente in caso di errore del sistema o situazione imprevista. Dormire durante la guida non è compatibile con questa responsabilità e costituisce sia una violazione delle regole di circolazione sia un comportamento che può trasformare rapidamente un errore del software in un incidente grave.
La questione coinvolge anche il modo in cui Tesla presenta la tecnologia. La denominazione Full Self-Driving è da tempo oggetto di critiche perché può suggerire un livello di autonomia superiore a quello effettivamente disponibile, nonostante il sistema richieda ancora la supervisione continua del conducente. I casi dei guidatori addormentati stanno quindi aumentando la pressione sull’azienda affinché renda più robusti i meccanismi di controllo dell’attenzione e riduca le possibilità di eludere il monitoraggio interno.
Il punto critico non riguarda quindi soltanto la capacità del software di guidare autonomamente per lunghi tratti, ma la relazione tra affidabilità percepita e comportamento umano. FSD e Autopilot possono gestire numerose operazioni di guida senza intervento continuo, ma proprio questa capacità può indurre alcuni utenti a trattarli come sistemi completamente autonomi. Finché Tesla rimarrà a livello 2, la sicurezza dipenderà invece dalla capacità del veicolo di mantenere il conducente realmente coinvolto e di impedire che i sistemi di monitoraggio vengano aggirati con comportamenti relativamente semplici.
Questo articolo è stato redatto con il supporto di strumenti di intelligenza artificiale (AI)