Se nel 2018 abbiamo imparato qualcosa, è che gli algoritmi e le piattaforme sociali anche se regolamentate, possono essere facilmente armate e che la sicurezza informatica è una minaccia crescente.
Abbiamo appreso che Huawei, una società tecnologica sponsorizzata dallo stato in Cina, è considerata un rischio per la sicurezza nazionale da Stati Uniti, Australia, Nuova Zelanda, Giappone, Germania e forse Canada e Regno Unito.
Abbiamo anche appreso che Google e Microsoft vendono i loro servizi al governo degli Stati Uniti, molte volte contro i desideri dei propri dipendenti e il miglior giudizio etico. La tendenza a mettere i profitti sull’etica e sull’integrità è molto pericolosa per l’umanità.
Invece di pensare al clamore dell’intelligenza artificiale, dobbiamo essere più scettici riguardo a dove l’intelligenza artificiale potrebbe dirigerci come civiltà. Viviamo in un’epoca in cui le minacce esistenziali alla nostra sopravvivenza saranno sempre più esponenziali con i nostri esperimenti tecnologici.
Tutto ciò per dire, i pericoli dell’intelligenza artificiale (anche nella sua infanzia) appaiono molto reali. Non è necessario ascoltare Elon Musk o Stephen Hawking per vedere come l’ IA non regolamentata potrebbe portare a disastri e crimini contro l’umanità.
Se l’IA diventasse un dittatore immortale (se si è modellato sul governo cinese, è uno scenario credibile). Sicuramente non si tratta solo di Musk.
Quindi, seguendo gli interessi del mio amico Travis Kellerman , ho deciso di dare una rapida occhiata ad alcuni dei pericoli mentre li vedo.
- Google, Microsoft e Facebook non regolamentati
Se Google, Microsoft e Facebook continuano sulle linee dell’IA senza norme interne ed esterne, controllo e monitoraggio ravvicinato, potrebbero sviluppare e vendere tecnologie che potrebbero rappresentare un rischio per i cittadini globali. Con Amazon che vende la tecnologia di riconoscimento facciale alla polizia nel 2018, abbiamo intrapreso una strada pericolosa. Con le voci di Google che cercano di sviluppare un motore di ricerca censurato per la Cina, c’è una sfocatura delle linee di etica nella Silicon Valley. - La Cina vince la Razza verso l’IA con il suo senso autoritario di etica nell’IA
È più che probabile che Huawei, Alibaba, Baidu, Tencent, ByteDance e altri vincano la corsa alle implementazioni tecnologiche dell’intelligenza artificiale. Questo perché la Cina ha
Un maggior numero di dati sui consumatori per addestrare l’apprendimento automatico
Avere startup di riconoscimento facciale superiori
Avere l’inizio di un sistema di credito sociale che valuta i cittadini
Pratica la sorveglianza di massa, in particolare a partire dal settore dell’istruzione nel 2019
Questo significa che se la Cina raggiungerà l’intelligenza artificiale, i talenti dell’intelligenza artificiale e con un’implementazione più audace di tali tecnologie, la futura superpotenza dominante nel campo e i loro valori (la Cina si discosta dalle norme sui diritti umani), il loro sistema di valori vincerebbe come standard globale per Regolazione AI (qualunque cosa possa essere).
Megvii (Face ++) e SenseTime, solo un paio dei migliori riconoscimenti facciali e di come il ridimensionamento a livello globale.
- Se il riconoscimento facciale viene ridimensionato a uno stato di sorveglianza globale
Non devi leggere il 1984 per capire come potrebbe apparire un grande stato mondiale fratello. È molto probabile che la prossima superpotenza globale con un chip in spalla vorrebbe implementare una cosa del genere. Data la guerra commerciale e le molte incomprensioni della Cina diplomaticamente sfidata, e che sarà la superpotenza economica e tecnologica del 21 ° secolo, è molto probabile che la Nuova Cina realizzerà una cosa del genere. La Cina possiede le migliori startup tecnologiche per il riconoscimento facciale nel mondo e l’infrastruttura di capitale di rischio per scalare le aziende che possono implementare il più imponente stato di sorveglianza della raccolta dei dati nel mondo.
La rete CCTV cinese e il programma di riconoscimento sono ben documentati. Quando la raccolta dei dati è la via per la supremazia, sembra che la Cina non lascerà che una piccola cosa come “etica” o libertà dei diritti individuali interferisca con i suoi piani. Il problema con questo, naturalmente, è che i più ricchi pianificano un esodo dalla Cina. In che modo i cinesi attraggono il talento dell’IA a livello globale in un clima simile?
- Apprendimento approfondito è dato accesso ai nostri dati sanitari
Ci sono tutte le indicazioni che Amazon e Google hanno l’apprendimento automatico per fare analisi predittive sulle nostre cartelle cliniche elettroniche (EMR). Questo è un grave pericolo per il modo in cui l’AI scala con i nostri dati sulla salute senza il nostro permesso. Le ambizioni di Google MedicalBrain potrebbero diventare pericolose in un’epoca in cui può alimentare il progresso senza le dovute norme, con la dovuta cautela e una severa supervisione da parte di organismi neutrali.
Che Amazon sta perseguendo l’assistenza sanitaria e Google sta rinforzando un progetto di ricerca in fase iniziale chiamato Medical Digital Assist mentre esplora i modi di usare l’intelligenza artificiale per migliorare le visite all’ambulatorio del dottore, sembra abbastanza innocente, ma potrebbe andare storto molto rapidamente. In particolare, Google tra i leader nell’apprendimento automatico ha mostrato errori etici ai più alti livelli della sua leadership e strategia esecutiva.
L’utilizzo dell’apprendimento automatico per le macchine per uccidere è un esempio notevole nel 2018. La spinta delle aziende tecnologiche verso l’assistenza sanitaria significa che stanno mettendo le mani sui nostri dati di “vita-e-morte”. Questo movimento è già iniziato e potrebbe significare che le nostre vulnerabilità più spaventose potrebbero essere violate. Che cosa potrebbe andare storto?
- Armi autonome
Non è necessario essere Bill Gates o aver visto la serie Terminator per rendersi conto che dare una supervisione AI alle armi potrebbe essere una cattiva idea. Quando Google ha aiutato i militari a utilizzare l’apprendimento automatico per migliorare i droni assassini, ci si chiedeva se la Silicon Valley prendesse sul serio questi pericolosi.
I dittatori vedono l’IA come un’opportunità
Il presidente della Russia Vladimir Putin ha dichiarato: ” L’intelligenza artificiale è il futuro, non solo per la Russia, ma per tutta l’umanità. Viene fornito con enormi opportunità, ma anche minacce difficili da prevedere. Chi diventa il leader in questa sfera diventerà il governante del mondo . “
E se i dittatori del futuro non fossero uomini in viaggio di potere, ma una vera IA con la capacità di hackerare qualsiasi sistema? Il mondo deve prepararsi a questa possibilità, l’apprendimento automatico si evolverebbe in modo più indipendente e aggressivo in futuro. Come faresti a spegnere un simile sistema?
I droni assassini sono un primo esempio, ma le armi autonome sono uno spettro piuttosto ampio in un mondo in cui siamo manipolati e sfruttati a scopo di lucro da tutte le parti. Le organizzazioni militari e le agenzie per la sicurezza nazionale di questo mondo non sono in grado di usare l’intelligenza artificiale in modo benevolo.
Il nazionalismo sull’intelligenza artificiale è come i nostri bambini che assumono droghe (l’epidemia di oppioidi), una combinazione letale.
- Le interazioni tra umani e umani dirottano l’intimità umana
Abbiamo già visto quali sono i tassi di dipendenza mobile da affrontare per affrontare gli incontri tra i giovani (che stanno avendo meno sesso di qualsiasi generazione in assoluto). Cosa succede all’intimità umana in un mondo di onnipresenti “compagni di intelligenza artificiale”, robot sessuali e tecnologia ancora più avvincente e coinvolgente?
Le società tecnologiche stanno ora creando assistenti personali che non solo saranno in grado di aiutarci a organizzare ogni aspetto della nostra vita, ma alla fine ci daranno un senso di compagnia, supporto psicologico e forse anche connessione emotiva.
Le persone potrebbero diventare dipendenti da questi assistenti Voice-AI per qualcosa di più della semplice convenienza in un mondo stentato dalla solitudine tecnologica. Gli ingegneri lo stanno costruendo e le aziende tecnologiche contano su di esso per grandi profitti futuri. La compagnia AI è un affare redditizio per il futuro.
- Amazon scala per diventare l’americano Huawei
Ci sono tutte le indicazioni che Amazon otterrà il contratto del JEDI $ 10 miliardi di dollari del Pentagono. Con una parte del loro HQ2 in Virginia, fare lobbying a Washington diventerà ancora più intenso. Amazon Prime è in procinto di lanciare un canone di abbonamento per la tecnologia sanitaria 1492 un giorno per tutti i benefici che offrirà in termini di salute digitale nella casa intelligente, che Amazon detiene sempre più con Alexa.
L’America può diventare un agente governativo proprio come Huawei è stata associata a una “porta di servizio” autoritaria del governo cinese nelle reti, negli switch e nelle reti 5G. Se Huawei diventasse Cisco e Apple della Cina, potrebbe davvero diventare Amazon?
Amazon potrebbe essere molto più di una consegna di generi alimentari e un gigante commerciale, potrebbe diventare troppo potente per il suo bene e portare l’intelligenza artificiale al consumatore, in un modo che potrebbe facilmente essere abusato ed essere una storia di specchio nero per il futuro. Quando inizieranno ad aumentare nella pubblicità, ciò diventerà più evidente.
Un’Amazzonia che è un leader di Biotech, l’aumento umano, la compagnia aerea e la pubblicità personalizzata non è così difficile da immaginare. Dov’è il danno in quello giusto?
Michael Spencer da Medium