La Federal Communications Commission (FCC) e il Dipartimento di Giustizia del New Hampshire hanno recentemente scoperto e preso provvedimenti contro la Life Corporation, una società con sede in Texas, per le sue chiamate robotizzate che utilizzavano una voce artificiale imitante il presidente Joe Biden. Queste chiamate, indirizzate agli elettori del New Hampshire, avevano l’obiettivo di ridurre la partecipazione alle elezioni primarie dello stato, utilizzando la tecnologia di sintesi vocale di ElevenLabs.
Le chiamate includevano una voce simile a quella di Biden, che suggeriva agli elettori di “non sprecare il loro voto” nelle primarie, definendole “sciocchezze”. Questa situazione ha sollevato preoccupazioni immediate sulla repressione degli elettori. La tecnologia deepfake di ElevenLabs utilizzata per le chiamate è stata rapidamente identificata dai ricercatori di Pindrop Security. Un’indagine successiva ha collegato le chiamate a un provider di telecomunicazioni, Lingo, che le ha trasmesse per conto della Life Corporation. La FCC ha rilevato che la Life Corporation è stata coinvolta in pratiche illegali di robocall fin dal 2003.
La presidente della FCC, Jessica Rosenworcel, ha sottolineato l’importanza per i consumatori di sapere che chi parla al telefono è realmente chi afferma di essere. La FCC sta lavorando con i procuratori generali statali per combattere l’uso di tecnologie di clonazione vocale in chiamate ingannevoli che mirano a disinformare gli elettori e a truffare le vittime.
L’uso di tecnologie deepfake in ambito politico ha spinto aziende come OpenAI e Google a sviluppare strategie per limitare l’abuso di Large Language Models (LLM). Molti sviluppatori hanno adottato principi di sicurezza e responsabilità, con OpenAI che ha addirittura vietato un GPT personalizzato associato a un candidato presidenziale.
Nonostante gli ordini di cessazione e desistenza emessi dalle autorità del New Hampshire e dalla FCC, gli ufficiali considerano questi passi solo l’inizio, con ulteriori documenti di conservazione e citazioni emesse a Life Corporation e ad altri soggetti coinvolti. Le indagini sono in corso e potrebbero portare a future accuse legali per il tentativo di repressione degli elettori.
Il procuratore generale del New Hampshire, John Formella, ha sottolineato l’importanza di proteggere il processo elettorale democratico da tentativi di inganno tramite intelligenza artificiale. Ha incoraggiato gli elettori a essere vigili nei confronti di messaggi sospetti e disinformazione, segnalandoli immediatamente. La collaborazione e l’azione rapida della FCC in questo caso inviano un chiaro messaggio che le autorità restano attente e lavorano insieme per monitorare e indagare su qualsiasi uso dannoso dell’IA che possa minacciare il processo democratico.