Chi incolpare quando un robot perde la tua fortuna
Il primo caso noto di persone che vanno in tribunale per perdite di investimento innescate da macchine autonome verificherà i limiti di responsabilità.
I robot diventano ogni giorno più umanoidi, ma non possono essere citati in giudizio.
Quindi un magnate di Hong Kong sta facendo la cosa migliore. Sta inseguendo il venditore che lo convinse ad affidare un pezzo della sua fortuna al supercomputer i cui commerci gli costarono più di 20 milioni di dollari.
La causa è Samathur Li Kin-kan, il cui padre è un importante investitore in Shaftesbury Plc, che possiede gran parte della Chinatown di Londra, Covent Garden e Carnaby Street, contro Raffaele Costa, che ha speso gran parte della sua carriera nella vendita di fondi di investimento per artisti del calibro di Man Group Plc e GLG Partners Inc. È il primo caso conosciuto di esseri umani che vanno in tribunale per le perdite di investimento innescate da macchine autonome e getta l’attenzione sul problema della “scatola nera”: se la gente non sa come il computer sta prendendo decisioni , chi è il responsabile quando le cose vanno male?
“Le persone tendono ad assumere che gli algoritmi siano più veloci e migliori dei responsabili delle decisioni rispetto ai commercianti umani”, ha detto Mark Lemley, professore di legge alla Stanford University che dirige il programma di legge, scienza e tecnologia dell’università. “Questo può spesso essere vero, ma quando non lo è, o quando si perdono rapidamente, gli investitori vogliono che qualcuno biasimi”.
La cronologia che portava alla battaglia legale è stata presa dai documenti depositati presso il tribunale commerciale di Londra, dove il processo dovrebbe iniziare il prossimo aprile. Tutto è iniziato a pranzo in un ristorante di Dubai il 19 marzo 2017. Era la prima volta che il 45enne Li, conobbe Costa, il 49enne italiano che è spesso conosciuto dai coetanei del settore come “Captain Magic”. “Durante il loro pasto, Costa ha descritto un robot di hedge fund che la sua società con sede a Londra Tyndaris Investments avrebbe presto offerto di gestire i soldi interamente utilizzando l’intelligenza artificiale .
Sviluppato dalla compagnia IA 42.cx basata in Austria, il supercomputer denominato K1 avrebbe sfruttato fonti online come notizie in tempo reale e social media per valutare il sentimento degli investitori e fare previsioni sui future azionari statunitensi. Avrebbe quindi inviato istruzioni a un broker per eseguire operazioni, adeguando la propria strategia nel tempo in base a ciò che aveva appreso.
La battaglia legale è un segno di ciò che verrà, poiché l’intelligenza artificiale è incorporata in tutti gli aspetti della vita
L’idea di un money manager completamente automatizzato ha ispirato Li immediatamente. Incontrò Costa per cena tre giorni dopo, dicendo in una e-mail in anticipo che il fondo AI “è esattamente il mio genere di cose”.
Nei mesi successivi, Costa ha condiviso simulazioni con Li, mostrando K1 con rendimenti a due cifre, anche se i due contestano ora l’accuratezza dei test retrospettivi. Alla fine, Li ha permesso a K1 di gestire $ 2,5 miliardi – $ 250 milioni del proprio denaro e il resto di fare leva da Citigroup Inc. Il piano era di raddoppiarlo nel tempo.
Ma l’affetto di Li per K1 è diminuito non appena il computer ha iniziato a fare trading verso la fine del 2017. A febbraio 2018, stava perdendo regolarmente denaro, compresi oltre $ 20 milioni in un solo giorno, febbraio. 14-a causa di un ordine di stop-loss Gli avvocati di Li sostengono che non sarebbe stato attivato se K1 fosse sofisticato come Costa lo ha indotto a credere.
Li sta facendo causa a Tyndaris per circa $ 23 milioni per presumibilmente esagerando ciò che il supercomputer potrebbe fare. Gli avvocati di Tyndaris, che hanno fatto causa a Li per $ 3 milioni in tasse non pagate, negano che Costa abbia sfruttato eccessivamente le capacità del K1. Dicono che non è mai stato garantito che la strategia di IA avrebbe fatto soldi.
Sarah McAtominey, un avvocato che rappresenta la società di investimento di Li che ha citato in giudizio Tyndaris, ha rifiutato di commentare a suo nome. Rob White, portavoce di Tyndaris, ha rifiutato di rendere disponibile a Costa un’intervista.
La battaglia legale è un segno di ciò che è in serbo dato che l’intelligenza artificiale è incorporata in tutti gli aspetti della vita, dalle auto che guidano da sè agli assistenti virtuali. Quando la tecnologia fallisce, dove la colpa è aperta all’interpretazione. A marzo, i pubblici ministeri statunitensi hanno messo fuori uso Uber Technologies Inc. per la morte di un pedone di 49 anni ucciso da una delle sue auto autonome.
Il 2019 guadagna fino a marzo per ogni $ 100 investiti nel 2014; I rendimenti di S & P 500 sono con reinvestimento dei dividendi; * Indice composito ponderato del fondo HFRI
Nel mondo degli hedge fund, perseguire l’intelligenza artificiale è diventato una questione di necessità dopo anni di sottoperformance da parte di manager umani. Gli investitori quantitativi – computer progettati per identificare ed eseguire operazioni – sono già popolari. Più rari sono i fondi IA puri che imparano e migliorano automaticamente dall’esperienza anziché essere programmati esplicitamente. Una volta che un’intelligenza artificiale sviluppa una propria mente, anche i suoi creatori non capiranno perché prende le decisioni che prende.
“Potresti trovarti in una posizione in cui non riesci a spiegare perché hai una posizione”, ha detto Anthony Todd, il co-fondatore di Aspect Capital, con sede a Londra, che sta sperimentando strategie AI prima di lasciare che investano i soldi dei clienti . “Una delle nostre preoccupazioni sull’applicazione delle tecniche di tipo machine learning è che stai perdendo qualche ipotesi esplicita sul comportamento del mercato”.
“È un bel pezzo di software che è stato scritto”
Gli avvocati di Li sostengono che Costa ha conquistato la sua fiducia esaltando le qualifiche dei tecnici che costruiscono l’algoritmo di K1, dicendo, ad esempio, che erano coinvolti in Deep Blue, il computer di scacchi progettato da IBM Corp. che segnava l’alba dell’era dell’IA quando ha battuto il campione del mondo nel 1997. Tyndaris ha rifiutato di rispondere alle domande di Bloomberg su questa affermazione, che è stata fatta in uno dei documenti più recenti di Li.
Parlando con Bloomberg, il fondatore del 42.cx Daniel Mattes ha detto che nessuno degli informatici che lo consigliavano erano coinvolti con Deep Blue, ma uno, Vladimir Arlazarov , ha sviluppato un programma di scacchi degli anni ’60 nell’Unione Sovietica noto come Kaissa. Ha riconosciuto che l’esperienza potrebbe non essere del tutto rilevante per gli investimenti. Gli algoritmi sono diventati davvero bravi a sconfiggere gli umani nei giochi perché ci sono regole chiare che possono essere simulate, qualcosa che i mercati azionari decisamente mancano. Arlazarov ha detto a Bloomberg di aver dato un consiglio generale a Mattes, ma non ha lavorato specificamente su K1.
Ispirato da uno studio della Banca centrale europea del 2015 che misura il sentimento degli investitori su Twitter, 42.cx ha creato un software in grado di generare segnali di sentimento, ha detto Mattes, che ha recentemente accettato di pagare $ 17 milioni alla Securities and Exchange Commission degli Stati Uniti per liquidare le accuse di frodare investitori al suo società di pagamenti mobili, Jumio Inc., all’inizio di questo decennio. Ha detto che se e come agire su quei segnali era compito di Tyndaris.
“È un bel pezzo di software che è stato scritto”, ha detto Mattes al telefono. “I segnali che ci sono stati forniti hanno una solida base scientifica. Penso che abbiamo fatto un lavoro abbastanza decente. So di poter individuare il sentimento. Non sono un commerciante. “
L’intelligenza artificiale diventa reale per gli investitori: una cronologia
C’è un sacco di avanti e indietro nei documenti di tribunale sul fatto che Li sia stato ingannato riguardo alle capacità del K1. Ad esempio, la macchina ha generato un singolo trade al mattino se decifrava un chiaro segnale di sentimento, mentre Li afferma che aveva l’impressione che avrebbe fatto scambi in momenti ottimali durante il giorno. In confutazione, gli avvocati di Costa dicono che ha detto a Li che l’acquisto o la vendita di futures basati su segnali di trading multipli era un’ambizione finale, ma non sarebbe accaduto immediatamente.
Per giorni, K1 non ha fatto alcun scambio perché non ha identificato una tendenza abbastanza forte. In un messaggio a Costa, Li si è lamentato del fatto che K1 si è seduto indietro mentre faceva movimenti negativi “sul mento, sperando che non colpirà lo stop loss”. Uno stop loss è un livello prestabilito al quale un broker venderà per limitare il danno quando i prezzi cadono improvvisamente.
“La falsa dichiarazione riguarda ciò che una persona ti ha detto. Cosa succede quando non siamo venduti da un umano? “
È quello che è successo a San Valentino nel 2018. Al mattino, K1 ha emesso un ordine con il proprio broker, Goldman Sachs Group Inc., per $ 1,5 miliardi di futures S & P 500, prevedendo che l’indice avrebbe guadagnato. Andò nella direzione opposta quando i dati mostrarono che l’ inflazione degli Stati Uniti era aumentata più rapidamente del previsto, innescando l’stop loss dell’1,4% del K1 e lasciando il fondo più basso di $ 20,5 milioni. Ma l’S & P ha rimbalzato in poche ore, cosa che gli avvocati di Li sostengono mostra che la soglia di stop loss della K1 per il giorno era “rozza e inappropriata”.
Li afferma che gli è stato detto che il K1 avrebbe utilizzato quotidianamente la propria “capacità di apprendimento approfondito” per determinare un’appropriata perdita di arresto basata su fattori di mercato come la volatilità. Costa nega di aver detto questo e afferma di aver detto a Li che il livello sarebbe stato stabilito dagli umani.
Nella sua intervista, Mattes ha detto che K1 non è stato progettato per decidere su stop loss a tutti – solo per generare due tipi di segnali di sentimento: uno generale che Tyndaris avrebbe potuto usare per inserire una posizione e una dinamica che avrebbe potuto usare per esci o cambia posizione. Mentre Tyndaris commercializzava anche un fondo azionato dal K1 ad altri investitori, un portavoce ha rifiutato di commentare se il fondo avesse mai gestito denaro. Ogni riferimento al supercomputer è stato rimosso dal suo sito web il mese scorso.
Investitori come Marcus Storr dichiarano di essere cauti quando i finanziatori di fondi AI vengono a bussare, soprattutto considerando che i fondi che incorporano l’intelligenza artificiale nella loro strategia principale hanno prodotto meno della metà dei rendimenti dello S & P 500 nei tre anni fino al 2018, secondo i dati dell’indice Eurekahedge AI Hedge Fund .
“Non possiamo giudicare i codici”, ha detto Storr, che decide di investire in hedge fund per conto di Feri Homburg, con sede a Bad Homburg, con sede in Germania. “Per noi si tratta quindi di giudicare le impostazioni e la capacità di ricerca”.
Ma cosa succede quando i chatbots autonomi vengono utilizzati dalle aziende per vendere prodotti ai clienti? Anche denunciare il venditore potrebbe non essere possibile, ha aggiunto Karishma Paroha, un avvocato con sede a Londra a Kennedys, specializzato in responsabilità di prodotto.
“La falsa dichiarazione riguarda ciò che una persona ti ha detto”, ha detto. “Cosa succede quando non ci viene venduto da un essere umano?”
Da Bloomberg.com