Deep North, che utilizza l’intelligenza artificiale per tracciare le persone dai filmati delle telecamere, raccoglie $ 16,7 milioni
Deep North , una startup con sede a Foster City, in California, che applica la visione artificiale ai filmati delle telecamere di sicurezza, ha annunciato oggi di aver raccolto 16,7 milioni di dollari in un round di serie A-1. Guidato da Celesta Capital e Yobi Partners, con la partecipazione di Conviction Investment Partners, Deep North prevede di utilizzare i fondi per effettuare assunzioni ed espandere i propri servizi “su larga scala”, secondo il CEO Rohan Sanil.
Deep North, precedentemente noto come Vmaxx, afferma che la sua piattaforma può aiutare i rivenditori fisici ad “abbracciare il digitale” e proteggersi dal COVID-19 aggiornando i sistemi di sicurezza per tenere traccia degli acquisti e garantire la conformità con le regole di mascheramento. Ma il sistema dell’azienda, che si basa su algoritmi con potenziali difetti, solleva preoccupazioni sia sulla privacy che sui pregiudizi.
“Anche prima che una pandemia globale costringesse i rivenditori a chiudere i battenti… le aziende stavano lottando per competere con una base di consumatori online in rapida crescita”, ha affermato Sanil in una nota. “Man mano che i negozi riaprono, i rivenditori devono abbracciare soluzioni digitali creative con soluzioni di visione artificiale e intelligenza artificiale basate sui dati e basate sui risultati, per competere meglio con i rivenditori online e, allo stesso tempo, soddisfare le pratiche a prova di COVID”.
Monitoraggio basato sull’intelligenza artificiale
Deep North è stata fondata nel 2016 da Sanil e Jinjun Wang, esperti in elaborazione di segnali multimediali, riconoscimento di modelli, visione artificiale e analisi. Wang, ora professore alla Xi’an Jiaotong University di Xi’an, in Cina, era precedentemente un ricercatore scientifico al NEC prima di entrare a far parte della divisione R&S di Epson come membro dello staff tecnico senior. Sanil ha fondato una serie di aziende prima di Deep North, tra cui Akirra Media Systems, dove un tempo Wang era impiegato come ricercatore.
“Nel 2016 sono stato pioniere della tecnologia di rilevamento degli oggetti per favorire la pubblicità mirata dai video online. Quando un importante marchio ha visto questo, mi ha sfidato a creare un mezzo per identificare, analizzare e ordinare gli oggetti catturati dalle loro videocamere di sicurezza nei loro parchi a tema”, ha detto Sanil a VentureBeat via e-mail. “La mia esplorazione ha ispirato uno sviluppo che avrebbe sbloccato il potenziale delle telecamere CCTV e di sicurezza installate all’interno dell’ambiente fisico del cliente e applicato il rilevamento e l’analisi degli oggetti in qualsiasi forma di video”.
Dopo l’apertura di uffici in Cina e Svezia e il rebranding nel 2018, Deep North ha ampliato la disponibilità dei suoi prodotti di visione artificiale e analisi video, che offrono funzionalità di rilevamento di oggetti e persone. La società afferma che il suo software in tempo reale, basato sull’intelligenza artificiale e indipendente dall’hardware è in grado di comprendere le preferenze, le emozioni, le azioni, le interazioni e le reazioni dei clienti “praticamente in qualsiasi ambiente fisico” in “una varietà di mercati”, inclusi rivenditori, negozi di alimentari, aeroporti, drive-thrus, centri commerciali, ristoranti ed eventi.
Deep North afferma che rivenditori, centri commerciali e ristoranti in particolare possono utilizzare la sua soluzione per analizzare gli “hotspot”, i posti a sedere, l’occupazione, i tempi di permanenza, la direzione dello sguardo e i tempi di attesa dei clienti, sfruttando queste informazioni per capire dove assegnare i dipendenti del negozio o la cucina personale. I negozi possono prevedere la conversione correlando i dati di monitoraggio con l’ora del giorno, la posizione, gli eventi di marketing, il meteo e altro, mentre i centri commerciali possono attingere alle statistiche degli inquilini per comprendere le tendenze e identificare le “sinergie” tra gli inquilini, ottimizzando il posizionamento dei negozi e promozioni per gli inquilini.
“I nostri algoritmi sono addestrati per rilevare oggetti in movimento e generare ricchi metadati su ambienti fisici come coinvolgimento, percorso e dimora. La nostra pipeline di inferenza riunisce feed della telecamera e algoritmi per l’elaborazione in tempo reale”, spiega Deep North sul suo sito web. “[Possiamo] implementare sia tramite cloud che on-premise e diventare operativi nel giro di poche ore. La nostra appliance GPU edge scalabile consente alle aziende di portare l’elaborazione dei dati direttamente nei loro ambienti e di convertire la loro proprietà in una proprietà AI digitale. Le risorse video non lasciano mai la premessa, garantendo il massimo livello di sicurezza e privacy”.
Oltre a queste soluzioni, Deep North ha sviluppato prodotti per casi d’uso particolari come il distanziamento sociale e i servizi igienico-sanitari. L’azienda offre prodotti che monitorano il lavaggio delle mani e stimano i tempi di attesa ai banchi check-in degli aeroporti, ad esempio, oltre a rilevare la presenza di mascherine e tracciare lo stato degli addetti alla manutenzione in asfalto.
“Con la capacità di rilevamento della maschera di Deep North, i rivenditori possono facilmente monitorare grandi folle e ricevere avvisi in tempo reale”, spiega Deep North sui suoi prodotti per il distanziamento sociale. “Inoltre, Deep North … monitora i programmi e la copertura delle misure di sanificazione, nonché il tempo totale impiegato per ogni attività di pulizia … Utilizzando i dati estesi di Deep North, [i centri commerciali possono] creare scorecard di conformità degli inquilini per confrontare gli sforzi, tenere traccia dei progressi complessivi, correggere se necessario. [Essi] possono anche garantire che i limiti di occupazione siano rispettati in diverse proprietà, sia a livello locale che regionale, monitorando l’occupazione in tempo reale sulla nostra dashboard e sulle app mobili.
Preoccupazioni di pregiudizio
Come la maggior parte dei sistemi di visione artificiale, i Deep North sono stati addestrati su set di dati di immagini e video che mostrano esempi di persone, luoghi e cose. Una scarsa rappresentazione all’interno di questi set di dati può causare danni, in particolare dato che il campo dell’intelligenza artificiale generalmente manca di descrizioni chiare di distorsione .
Ricerche precedenti hanno scoperto che ImageNet e Open Images – due grandi set di dati di immagini disponibili pubblicamente – sono statunitensi ed eurocentrici, codificando pregiudizi simili a quelli umani su razza, etnia, genere, peso e altro. I modelli addestrati su questi set di dati hanno prestazioni peggiori sulle immagini dei paesi del Sud del mondo . Ad esempio, le immagini degli sposi sono classificate con minore precisione quando provengono dall’Etiopia e dal Pakistan, rispetto alle immagini degli sposi dagli Stati Uniti. E a causa del modo in cui immagini di parole come “matrimonio” o “spezie” sono presentate in culture nettamente diverse, i sistemi di riconoscimento degli oggetti possono non classificare molti di questi oggetti quando provengono dal Sud del mondo.
La distorsione può derivare da altre fonti, come differenze nel percorso del sole tra gli emisferi nord e sud e variazioni nello scenario di sfondo. Gli studi dimostrano che anche le differenze tra i modelli di fotocamera, ad esempio risoluzione e proporzioni, possono rendere un algoritmo meno efficace nella classificazione degli oggetti per cui è stato addestrato a rilevare.
Le aziende tecnologiche hanno storicamente implementato modelli difettosi nella produzione. È stato scoperto che la piattaforma di riconoscimento facciale e rilevamento delle armi di ST Technologies identificava erroneamente i bambini neri a un tasso più elevato e spesso scambiava i manici di scopa per pistole . Nel frattempo, la tecnologia anti-taccheggio a base di fotocamera AI- e di Walmart, che è fornito da Everseen , è venuto sotto esame lo scorso maggio sui suoi riferito tassi di rilevamento poveri.
Deep North non rivela sul suo sito web come ha addestrato i suoi algoritmi di visione artificiale, incluso se ha utilizzato dati sintetici (che hanno i suoi difetti) per integrare i set di dati del mondo reale. L’azienda rifiuta inoltre di dire se tiene conto dell’accessibilità e degli utenti con importanti problemi di mobilità. Le persone disabili potrebbero avere andature o schemi di movimenti degli arti che appaiono diversi da un algoritmo addestrato su filmati di persone normodotate, ad esempio.
In una e-mail, Sanil ha affermato che Deep North “ha uno dei più grandi set di dati di addestramento al mondo”, derivato da implementazioni e scenari del mondo reale. “I nostri algoritmi di rilevamento e analisi di oggetti umani sono stati addestrati con oltre 130 milioni di rilevamenti, migliaia di feed di telecamere e varie condizioni ambientali, fornendo al contempo informazioni accurate per i nostri clienti”, ha affermato. “La nostra metodologia di formazione automatizzata e semi-supervisionata ci aiuta a costruire rapidamente nuovi modelli di apprendimento automatico, con la minima quantità di dati di formazione e intervento umano”.
Privacy e polemiche
Mentre l’obiettivo presunto di prodotti come Deep North sono la salute, la sicurezza e l’analisi, la tecnologia potrebbe essere cooptata per altri intenti meno umanitari. Molti esperti di privacy temono che normalizzeranno livelli maggiori di sorveglianza, catturando dati sui movimenti dei lavoratori e consentendo ai manager di castigare i dipendenti in nome della produttività.
Deep North non è estraneo alle polemiche, avendo riferito di aver lavorato con distretti scolastici e università in Texas, Florida, Massachusetts e California per pilotare un sistema di sicurezza che utilizza l’intelligenza artificiale e le telecamere per rilevare le minacce. Deep North afferma che il sistema, che da allora ha interrotto, funzionava con telecamere con risoluzioni fino a 320p e poteva interpretare il comportamento delle persone identificando oggetti come borse incustodite e potenziali armi.
Deep North sta anche testando la biometria, compresi i portali di auto-screening presso l’aeroporto della contea di Detroit Metropolitan Wayne, in collaborazione con la US Transportation Security Administration, che lo ha fornito con una sovvenzione lo scorso marzo. La società ha ricevuto quasi $ 200.000 in finanziamenti per fornire parametri come il flusso di passeggeri, il rispetto del distanziamento sociale, le interazioni con gli agenti e le zone con colli di bottiglia, nonché la segnalazione di bagagli incustoditi, movimenti nella direzione sbagliata o occupazione di aree riservate.
“Siamo onorati ed entusiasti di poter applicare le nostre innovazioni per aiutare la TSA a realizzare la sua visione di migliorare l’esperienza dei passeggeri e la sicurezza in tutto l’aeroporto”, ha affermato Sanil in una nota. “Ci impegniamo a fornire al Dipartimento per la sicurezza interna degli Stati Uniti e ad altri enti governativi le migliori tecnologie di intelligenza artificiale per costruire una patria più sicura e migliore attraverso investimenti e innovazione continui”.
Deep North ha ammesso in un’intervista con la pubblicazione svedese Breakit di offrire servizi di riconoscimento facciale ad alcuni clienti. E sul suo sito web, la startup pubblicizza la capacità delle sue tecnologie di personalizzare i materiali di marketing in base ai dati demografici di una persona, come il genere. Ma Deep North è fermamente convinto che le sue protezioni interne gli impediscano di accertare l’identità di qualsiasi persona catturata tramite le riprese della telecamera.
“Non abbiamo la capacità di collegare i metadati a un singolo individuo. Inoltre, Deep North non acquisisce informazioni di identificazione personale (PII) ed è stato sviluppato per governare e preservare l’integrità di ogni individuo secondo i più alti standard possibili di anonimizzazione”, ha dichiarato Sanil a TechCrunch nel marzo 2020. “Deep North non conserva alcun PII di qualsiasi tipo e memorizza solo i metadati derivati che producono metriche come numero di voci, numero di uscite, ecc. Deep North si impegna a rimanere conforme a tutte le politiche sulla privacy esistenti, inclusi GDPR e California Consumer Privacy Act. “
Ad oggi, Deep North, 47 dipendenti, ha raccolto 42,3 milioni di dollari in capitale di rischio.
