Se abbiamo imparato qualcosa sulla tecnologia negli ultimi decenni, è che non ci prepariamo agli svantaggi finché i problemi non sono così gravi da non poterli ignorare. L’esempio ovvio sono i social media, che sono stati salutati come utopici quando sono arrivati, ma ora sono ampiamente considerati una forza distruttiva e destabilizzante nella società che può amplificare la disinformazione, l’odio, le molestie e la polarizzazione. Ci è voluto più di un decennio perché i danni si facessero davvero sentire, ma in questi giorni oltre il 65% degli americani crede che i social media abbiano un effetto prevalentemente negativo sul nostro mondo.
Naturalmente, non c’è nulla nella tecnologia stessa che crea questi problemi. Sono i modelli di business alla base dei social media che guidano le piattaforme per mediare il flusso di informazioni attraverso la società, filtrando e amplificando i contenuti in modi che distorcono il nostro pensiero. Questa è una forma di controllo mentale e sta per peggiorare MOLTO. Sto parlando del metaverso .
Il Metaverso ha il potenziale per sbloccare ondate sconfinate di creatività e produttività umana. Ma se non regolamentato, il metaverso potrebbe anche essere lo strumento di persuasione più pericoloso mai creato. Non faccio questo avvertimento alla leggera. Sono un tecnologo in questo campo da oltre 30 anni, iniziando come ricercatore a Stanford, alla NASA e all’Air Force e fondando una serie di prime società nello spazio. Credo sinceramente che il metaverso possa essere una forza positiva per l’umanità. Ma se aspettiamo che i problemi diventino eclatanti come i social media, sarà troppo tardi per riparare il danno.
E il metaverso è molto più pericoloso dei social media di oggi.
Per rendere il pericolo il più chiaro possibile, vorrei introdurre un concetto ingegneristico di base chiamato Teoria del controllo , che è il metodo utilizzato dagli ingegneri per controllare i comportamenti di qualsiasi sistema. Pensa al termostato di casa tua. Imposti una temperatura e se la tua casa scende al di sotto di tale obiettivo, il riscaldamento si accende. Se la tua casa diventa troppo calda, si spegne. Come per magia, mantiene la tua casa vicina all’obiettivo che ti sei prefissato. Questo è il controllo del feedback .
Diagramma generico del “sistema di controllo” – (credito) Wikipedia
Nell’esempio del riscaldamento, la tua casa sarebbe il SISTEMA, un termometro sarebbe il SENSORE e il termostato sarebbe il CONTROLLER. Un segnale di ingresso chiamato Riferimento è la temperatura impostata come obiettivo. L’obiettivo viene confrontato con la temperatura effettiva nella tua casa (ad es. Output misurato ). La differenza tra l’obiettivo e la temperatura misurata viene immessa nel termostato che determina cosa dovrebbe fare il riscaldatore. Se la casa è troppo fredda, si accende il riscaldamento. Se fa troppo caldo il riscaldamento si spegne. Questo è un classico sistema di controllo.
Naturalmente, i sistemi di controllo possono diventare molto sofisticati, consentendo agli aeroplani di volare con il pilota automatico e alle auto di guidare da sole, consentendo persino ai rover robotici di atterrare su Marte. Questi sistemi necessitano di sensori sofisticati per rilevare le condizioni di guida o di volo o qualsiasi altra cosa sia appropriata per il compito. Questi sistemi necessitano anche di potenti controller per elaborare i dati dei sensori e influenzare i comportamenti del sistema in modi sottili. Al giorno d’oggi, i controllori utilizzano sempre più algoritmi di intelligenza artificiale al loro interno.
Con questo background, torniamo indietro nel metaverso .
Riprendendo lo schema standard di cui sopra, vediamo che bastano pochi elementi per controllare efficacemente un impianto, sia esso un semplice termostato o un sofisticato robot. I due elementi più importanti sono un SENSORE per rilevare i comportamenti in tempo reale del sistema e un CONTROLLER che può influenzare tali comportamenti. Gli unici altri elementi necessari sono i cicli di feedback che rilevano continuamente comportamenti e impartiscono influenze, guidando il sistema verso gli obiettivi desiderati.
Come avrai intuito, considerando il pericolo del metaverso, il sistema controllato sei tu, l’umano nel giro. Dopotutto, quando indossi una cuffia e affondi nel metaverso, ti stai immergendo in un ambiente che ha il potenziale per agire su di te più di quanto tu agisca su di esso . Detto in altro modo, diventi un abitante di un mondo artificiale gestito da una terza parte che può monitorare e influenzare i tuoi comportamenti in tempo reale. È una situazione molto pericolosa.
Diagramma del sistema di controllo con “Human” nel loop
Nella figura sopra, l’ input di sistema per l’utente umano sono le immagini, i suoni e le sensazioni tattili coinvolgenti che vengono immessi negli occhi, nelle orecchie, nelle mani e nel corpo. Questo è un input travolgente, forse l’input più ampio e intimo che potremmo immaginare oltre all’uso di impianti cerebrali chirurgici. Ciò significa che la capacità di influenzare il sistema (cioè te) è altrettanto ampia e intima. Dall’altro lato dell’utente nel diagramma sopra c’è l’ output di sistema : sono le tue azioni e reazioni.
Questo ci porta alla casella SENSORE nel diagramma sopra. Nel metaverso, i sensori monitoreranno tutto ciò che fai in tempo reale: i movimenti fisici della testa, delle mani e del corpo. Ciò include la direzione in cui stai guardando, per quanto tempo indugi il tuo sguardo, il debole movimento dei tuoi occhi, la dilatazione delle tue pupille, i cambiamenti nella tua postura e andatura – è probabile che anche i tuoi segni vitali vengano tracciati nel metaverso, incluso il tuo frequenza cardiaca, frequenza respiratoria e pressione sanguigna.
Inoltre, il metaverso monitorerà le tue espressioni facciali e le inflessioni vocali per tracciare le tue emozioni in tempo reale. Questo va oltre le espressioni sensoriali che altre persone notano, ma include anche espressioni subconsce che sono troppo sottili per essere riconosciute dagli umani. Conosciuti come ” microespressioni “, questi eventi possono rivelare emozioni che gli utenti non intendono trasmettere. Gli utenti potrebbero anche non essere consapevoli di provare quelle emozioni, consentendo alle piattaforme del metaverso di conoscere i tuoi sentimenti interiori meglio di te.
Ciò significa che quando ti immergi nel metaverso, i sensori seguiranno quasi tutto ciò che fai e sapranno esattamente come ti senti mentre lo fai. Possiamo rappresentarlo nel diagramma sostituendo la casella SENSOR con il METAVERSE (Behavioral and Emotional Tracking in real-time) come mostrato:
Diagramma del sistema di controllo per ambienti Metaverse
Naturalmente, in un metaverso non regolamentato, i dati comportamentali ed emotivi non verranno solo tracciati, ma verranno archiviati nel tempo creando un database che riflette il modo in cui è probabile che gli individui reagiscano a un’ampia gamma di stimoli durante la loro vita quotidiana. Se elaborati dagli algoritmi di intelligenza artificiale, questi dati estesi potrebbero essere trasformati in modelli comportamentali ed emotivi che consentono alle piattaforme di prevedere con precisione come reagiranno gli utenti quando vengono presentati stimoli target (ad es. Input di sistema) da un controller. E perché il metaverso non è solo realtà virtuale ma anche realtà aumentata, il tracciamento e la profilazione degli utenti avverrà non solo in mondi completamente simulati, ma all’interno del mondo reale impreziosito da contenuti virtuali. In altre parole, le piattaforme del metaverso saranno in grado di tracciare e profilare comportamenti ed emozioni durante la nostra vita quotidiana, dal momento in cui ci svegliamo al momento in cui andiamo a dormire.
Ovviamente, il pericolo non è che le piattaforme possano tracciarci e profilarci, è quello che possono fare con quei dati. Questo ci porta alla casella CONTROLLER nel diagramma sopra. Il controller riceve un errore misurato, che è la differenza tra un obiettivo di riferimento (un comportamento desiderato) e l’uscita misurata (un comportamento rilevato). Se le piattaforme metaverse sono autorizzate ad adottare modelli di business simili ai social media, l’obiettivo di riferimento sarà l’AGENDA di terze parti che mirano a impartire influenza sugli utenti (vedere lo schema seguente). La terza parte potrebbe essere uno sponsor pagante che desidera persuadere un utente ad acquistare un prodotto o servizio, o a credere a un pezzo di propaganda, ideologia o disinformazione.
Diagramma del sistema di controllo con agenda di terze parti
Naturalmente, la pubblicità e la propaganda esistono da sempre e possono essere molto efficaci utilizzando le tradizionali tecniche di marketing. La particolarità del metaverso è la capacità di creare cicli di feedback ad alta velocità in cui i comportamenti e le emozioni degli utenti vengono continuamente immessi in un controller che può adattare la propria influenza in tempo reale per ottimizzare la persuasione. Questo processo può facilmente attraversare la linea dal marketing alla manipolazione . Per apprezzare i rischi, scaviamo nel controller.
Fondamentalmente, il CONTROLLER mira a “ridurre l’errore” tra il comportamento desiderato di un sistema e il comportamento misurato del sistema. Lo fa impartendo input di sistema come mostrato nel diagramma sopra come una freccia dall’aspetto innocente. Nel metaverso, questa freccia innocente rappresenta la capacità delle piattaforme di modificare l’ambiente virtuale o aumentato in cui è immerso l’utente.
In altre parole, in un metaverso non regolamentato, il controllore può alterare il mondo intorno all’utente, modificando ciò che vede, sente e sente per guidare quell’utente verso l’obiettivo desiderato. E poiché il controller può monitorare in tempo reale come reagisce l’utente, sarà in grado di regolare continuamente le sue tattiche, ottimizzando l’impatto persuasivo, momento per momento, proprio come un termostato ottimizza la temperatura di una casa.
Per chiarire, facciamo alcuni esempi:
Immagina un utente seduto in un caffè nel metaverso (virtuale o aumentato). Uno sponsor di terze parti vuole indurre quell’utente ad acquistare un particolare prodotto o servizio o credere a un messaggio, propaganda o disinformazione. Nel metaverso, la pubblicità non sarà la pubblicità pop-up e i video di oggi, ma sarà esperienze coinvolgenti che si integrano perfettamente nel nostro ambiente. In questo particolare esempio, il controller crea una coppia virtuale seduta al tavolo accanto. Quella coppia virtuale sarà l’input di sistema utilizzato per influenzare l’utente.
Innanzitutto, il controller progetterà la coppia virtuale per ottenere il massimo impatto. Ciò significa che l’età, il sesso, l’etnia, gli stili di abbigliamento, i modi di parlare, i manierismi e altre qualità della coppia saranno selezionati dagli algoritmi AI per essere persuasivi in modo ottimale per l’utente target in base al profilo storico di quell’utente. Successivamente, la coppia si impegnerà in una conversazione controllata dall’intelligenza artificiale tra di loro che è a portata d’orecchio dell’utente target. Quella conversazione potrebbe riguardare un’auto che l’utente target sta valutando di acquistare, possibilmente inquadrata come la coppia virtuale che discute di quanto sia felice del proprio recente acquisto.
All’inizio della conversazione, il controller monitora l’utente in tempo reale, valutando le microespressioni, il linguaggio del corpo, i movimenti degli occhi, la dilatazione della pupilla e la pressione sanguigna per rilevare quando l’utente inizia a prestare attenzione. Questo potrebbe essere semplice come rilevare un sottile cambiamento fisiologico nell’utente correlato ai commenti fatti dalla coppia virtuale. Una volta impegnato, il controller modificherà gli elementi della conversazione per aumentare il coinvolgimento. Ad esempio, se l’attenzione dell’utente aumenta mentre la coppia parla della potenza dell’auto, la conversazione si adatterà in tempo reale per concentrarsi sulle prestazioni.
Mentre la conversazione ascoltata continua, l’utente potrebbe non essere consapevole di essere diventato un partecipante silenzioso, rispondendo attraverso microespressioni inconsce, postura del corpo e cambiamenti nei segni vitali. Il controller AI evidenzierà gli elementi del prodotto a cui l’utente target risponde in modo più positivo e fornirà controargomentazioni conversazionali quando le reazioni dell’utente sono negative. E poiché l’utente non esprime apertamente obiezioni, le controargomentazioni potrebbero essere profondamente influenti. Dopotutto, la coppia virtuale potrebbe affrontare verbalmente le preoccupazioni emergenti prima che tali preoccupazioni siano completamente emerse nella mente dell’utente target. Questo non è marketing, è manipolazione.
E in un metaverso non regolamentato, l’utente target può credere che la coppia virtuale sia avatar controllati da altri clienti. In altre parole, l’utente target potrebbe facilmente credere di ascoltare una conversazione autentica tra gli utenti e non rendersi conto che si tratta di un’esperienza alterata dal punto di vista promozionale mirata specificamente a loro, iniettata nell’ambiente circostante per raggiungere una particolare agenda. (Nota: nei videogiochi potremmo riferirci agli avatar controllati dall’IA come “Personaggi non giocanti” o NPC, ma nel metaverso questi agenti IA non stanno giocando. Possono impartire una seria influenza. Pertanto, preferisco chiamarli NHC o ” personaggi non umani”.)
E non saranno solo gli adulti a essere presi di mira in questo modo, ma anche i bambini che hanno già difficoltà a distinguere tra contenuti autentici e materiale promozionale. Già Roblox, fornitore di un metaverso utilizzato da 50 milioni di bambini , ha annunciato l’intenzione di lanciare “annunci immersivi” nel prossimo futuro. Che possibilità ha un bambino se viene avvicinato da un adorabile orsacchiotto gigante (NHC) che lo segue mentre tiene in mano una particolare marca di giocattolo o mangia una particolare marca di cereali?
Realtà aumentata: rappresentazione del marketing immersivo (L Rosenberg / Midjourney)
E questo è un esempio relativamente benigno. Invece di spingere le caratteristiche di una nuova auto o giocattolo, l’agenda di terze parti potrebbe essere quella di influenzare l’utente target su un’ideologia politica, una propaganda estremista o una vera e propria disinformazione o disinformazione. Inoltre, l’esempio sopra si rivolge all’utente come osservatore passivo di un’esperienza promozionale nel suo ambiente metaverso. In esempi più aggressivi, il controller coinvolgerà attivamente l’utente in esperienze promozionali mirate.
Ad esempio, considera la situazione in cui un avatar controllato dall’intelligenza artificiale che sembra e suona come qualsiasi altro utente in un ambiente coinvolge l’utente target in una conversazione promozionale guidata dall’agenda . In un metaverso non regolamentato, l’utente potrebbe non essere del tutto consapevole di essere stato avvicinato da una pubblicità mirata, ma potrebbe invece credere di essere in una conversazione con un altro utente. La conversazione potrebbe iniziare in modo molto informale ma potrebbe mirare a un ordine del giorno prestabilito.
Inoltre, il responsabile del trattamento avrà probabilmente accesso a una grande quantità di dati sull’utente target, inclusi interessi, valori, hobby, istruzione, affiliazione politica, ecc., e li utilizzerà per creare un dialogo che ottimizzi il coinvolgimento. Inoltre, il controller avrà accesso a informazioni in tempo reale sull’utente, tra cui espressioni facciali, inflessioni vocali, postura del corpo, movimenti degli occhi, dilatazione della pupilla, schemi sanguigni facciali e potenzialmente pressione sanguigna, frequenza cardiaca e frequenza respiratoria. Il controller adatterà le sue tattiche di conversazione in tempo reale in base alle risposte verbali evidenti dell’utente target in combinazione con microespressioni e segni vitali sottili e potenzialmente subconsci.
È risaputo che i sistemi di intelligenza artificiale possono battere i migliori concorrenti umani a scacchi, go, poker e molti altri giochi di strategia. Da questo punto di vista, quali possibilità ha un consumatore medio quando è impegnato in una conversazione promozionale con un agente di intelligenza artificiale che ha accesso al background e agli interessi personali di quell’utente e può adattare le sue tattiche di conversazione in tempo reale sulla base di sottili cambiamenti nella dilatazione della pupilla nel sangue pressione? Il potenziale per violare la libertà cognitiva di un utente attraverso questo tipo di controllo di feedback nel metaverso è così significativo che probabilmente rasenta il controllo mentale totale.
Per completare il diagramma per il controllo del feedback basato sul metaverso, possiamo sostituire il controller di parole generico con un software basato sull’intelligenza artificiale che altera l’ambiente o inietta avatar conversazionali che impartiscono un’influenza ottimizzata sugli utenti target. Ciò è espresso utilizzando la frase AGENTI AI di seguito.
Scenario di Rosenberg per il controllo mentale del metaverso
Come espresso nei paragrafi precedenti, il pubblico dovrebbe essere consapevole che le grandi piattaforme del metaverso potrebbero essere utilizzate per creare sistemi di controllo del feedback che monitorano i loro comportamenti ed emozioni in tempo reale e impiegano agenti di intelligenza artificiale per modificare le loro esperienze immersive per massimizzare la persuasione. Ciò significa che piattaforme grandi e potenti potrebbero tracciare miliardi di persone e impartire influenza su ognuna di esse alterando il mondo che le circonda in modi mirati e adattivi.
Questo scenario è spaventoso ma non inverosimile.
In effetti, potrebbe essere la cosa più vicina al “gioco di Dio” che qualsiasi tecnologia mainstream abbia mai raggiunto. Per proteggersi da questo scenario, i leader del settore, i politici e i responsabili delle politiche devono agire, implementando salvaguardie normative , promuovendo gli standard del settore e garantendo i diritti immersivi ai consumatori prima che le piattaforme adottino modelli di business pericolosi per il pubblico. Se tali tutele fossero state messe in atto all’inizio dell’evoluzione dei social media, il mondo potrebbe essere un posto più sicuro.
Louis Rosenberg, PhD è uno dei primi pionieri della realtà virtuale e aumentata. Il suo lavoro è iniziato oltre 30 anni fa nei laboratori di Stanford e della NASA. Nel 1992 ha sviluppato il primo sistema interattivo di realtà aumentata presso l’Air Force Research Laboratory. Nel 1993 ha fondato la prima società di realtà virtuale Immersion Corporation (pubblica sul Nasdaq). Nel 2004 ha fondato la prima società AR Outland Research. Ha conseguito il dottorato di ricerca a Stanford, ha ottenuto oltre 300 brevetti per la tecnologia VR, AR e AI ed è stato professore di ruolo presso la California State University. Attualmente è CEO di Unanimous AI, Chief Scientist della Responsible Metaverse Alliance e Global Technology advisor di XRSI.
di Louis Rosenberg
