Una startup che comprende un comitato consultivo di ex luminari militari del governo ha rilasciato una nuova piattaforma progettata per valutare la sicurezza e la dispiegabilità delle applicazioni di intelligenza artificiale. Si dice che i primi ad adottare il sistema includano la US Air Force e il Department of Homeland Security.
La piattaforma si chiama VESPR, di CalypsoAI, fondata nel 2018, con sede nella Silicon Valley, Dublino, e una località ufficialmente “riservata” in Virginia, terra ferma per la CIA a Langley.
VESPR è un modello di sistema di gestione del rischio (MRM) progettato per facilitare un sistema di accreditamento conforme alle norme federali per gli algoritmi implementati. Offre sia un ambiente GUI in stile dashboard intuitivo che un’interfaccia CLI per un utilizzo più avanzato.
VESPR si basa sugli standard di convalida, verifica e accreditamento dell’apprendimento automatico di CalypsoAI e presenta librerie di apprendimento automatico contraddittorie realizzate a mano. Offre anche routine di stress test automatizzate per potenziali algoritmi implementabili.
Task Force nazionale per le risorse di ricerca sull’intelligenza artificiale
La tempistica del rilascio potrebbe riguardare il lancio di ieri da parte dell’amministrazione Biden di una nuova task force nazionale per le risorse di ricerca sull’intelligenza artificiale, un organismo progettato per fungere da comitato consultivo federale ai sensi del National AI Initiative Act del 2020 del Congresso .
Negli Stati Uniti e in tutto il mondo è aumentata la pressione per standard normativi significativi per i sistemi di apprendimento automatico, non da ultimo in aree mission-critical come le infrastrutture chiave e l’utilizzo militare. Poiché i sistemi di ML stanno ancora subendo una fase formativa e un rapido tasso di progresso, rappresentano un ricorso relativamente instabile e spesso controverso dal quale è ora essenziale identificare algoritmi analitici replicabili e affidabili, se ciò risulta possibile.
Ad aprile CalypsoAI ha pubblicato il suo sostegno all’Endless Frontiers Act , un disegno di legge del Congresso progettato per riformare il finanziamento della scienza di fronte alla crescente eminenza della Cina come potenza dell’intelligenza artificiale, anche se l’atto è stato infine annacquato al Senato.
Convalida per l’AI federale
Secondo il comunicato stampa VESPR , le aree coperte dal framework includono la visione artificiale e l’elaborazione del linguaggio naturale (NLP).
CalypsoAI afferma che VESPR è stato creato “con il contributo critico dei clienti della sicurezza nazionale esistenti e nato da anni di ricerca finanziata in modo indipendente sull’apprendimento automatico contraddittorio”.
Le immagini del sistema viste in un video promozionale (vedi fine articolo) sembrano includere routine di rilevamento e/o simulazione per l’avvelenamento dei dati e l’iniezione di rumore, fornendo simulazioni per le azioni di potenziali aggressori sui sistemi implementati.
Il sistema sembra utilizzare dati storici dell’azione nazionale e straniera. Le classi target presentate includono “Proteste” e “Rivolte”, oltre ai meno chiari “Sviluppi strategici”. Anche gli incidenti di terrorismo nazionale sembrano essere inclusi nei database di riferimento del sistema, con “Violenza contro i civili un’altra classe di obiettivi disponibile”. Altre classi target disponibili includono “Battaglie” ed “Esplosioni/Violenza a distanza”.
Il sistema sembra consentire la protezione delle funzionalità in una sezione di configurazione di “gestione BIAS”, apparentemente progettata per combattere l’overfitting o per evitare l’eliminazione indesiderata di eventi anomali minori che potrebbero essere di interesse in una routine analitica. Nel video, VESPR sta elaborando dati storici tabulari su “Ucraina”.
Al di là di questo blitz promozionale iniziale, non è probabile (forse per progettazione) che sentiremo molto di più su questo prodotto SaaS rivolto al governo, comunque vada; condivide il suo nome con un franchising di bar, un’app di social dating e un album in streaming, ed è inesorabilmente sconfitto nei risultati classificati dal modello di chimica VSEPR.
CalypsoAI ha ricevuto 13 milioni di dollari in una raccolta fondi di serie A da Paladin Capital Venture Group nel luglio 0f 2020. Altri investitori includevano 8VC, Lockheed Martin Ventures, Manta Ray Ventures, Frontline Ventures, Lightspeed Venture Partners e Pallas Ventures.
In un post sul blog sul sito dell’azienda, il fondatore di CalypsoAI Neil Serebryany, che ha svolto un lavoro di ricerca non specificato presso il Dipartimento della Difesa nel 2018, afferma che l’azienda è stata fondata come una possibile soluzione alla paura dei governi di implementare sistemi algoritmici avanzati in un clima non regolamentato :
‘La ragione principale di questa paura dei progetti di intelligenza artificiale, che li porta ad essere abbandonati all’interno del governo, sembra banale, ma in realtà è piuttosto complessa. Erano stati abbandonati a causa della mancanza di garanzia di qualità […] I modelli di intelligenza artificiale non possono essere valutati allo stesso modo dei modelli software tradizionali. Ciò è dovuto alla natura sottostante della struttura del modello e ai modi estremamente complessi in cui possono fallire. In mancanza di un meccanismo per valutare questi sistemi non deterministici in modo deterministico e verificabile, le organizzazioni all’interno del governo non sono state in grado di valutare la cosiddetta “qualità” dei modelli di intelligenza artificiale rispetto a un benchmark. Ciò ha portato a temere che potessero fallire, potrebbero funzionare male o potrebbero essere violati da un avversario nel momento in cui sono più necessari, ad esempio in combattimento, in volo o durante una complessa procedura medica. ‘
Comitato consultivo
Un mese prima del round di investimenti, la società ha creato un comitato consultivo per la sicurezza nazionale che comprendeva Tony DeMartino , ex assistente del segretario alla Difesa Jim Mattis, e ora partner fondatore della società di consulenza strategica Pallas Advisors con sede a Washington ; l’ex vice principale sottosegretario alla Difesa per l’intelligence (sotto il presidente Trump) Kari Bingen ; l’ex vicedirettore associato per l’innovazione digitale della CIA Sean Roche , un ex specialista di cyber-intelligence in quell’organizzazione; e Michael Molino, ex vicepresidente esecutivo dello sviluppo aziendale presso ASRC Federal, che fornisce consulenza, ricerca e capacità tecniche di migrazione attraverso una gamma di servizi federali critici.
Secondo il comunicato:
‘VESPR fornisce funzionalità avanzate di test AI con un flusso di lavoro semplificato per garantire che ogni algoritmo di machine learning messo in produzione sia stato verificato come sicuro. VESPR fornisce sicurezza e garanzia senza precedenti a una varietà di sistemi di intelligenza artificiale, dalla visione artificiale all’elaborazione del linguaggio naturale. Il processo VESPR garantisce test, valutazione, verifica e convalida (TEVV) durante l’intero ciclo di vita dell’apprendimento automatico (SMLC), dalla fase di ricerca e sviluppo fino alla distribuzione del modello. Il risultato finale sono sistemi di intelligenza artificiale che forniscono monitoraggio e reporting accurati e completi su capacità, vulnerabilità e prestazioni del modello.’
