In che modo l’IA sta aiutando Nvidia a migliorare la consegna del servizio postale degli Stati Uniti
Nvidia questa settimana ha dettagliato una partnership con il servizio postale degli Stati Uniti per trasformare le operazioni di posta di quest’ultimo con l’intelligenza artificiale. Secondo Nvidia, le sue risorse e strumenti di apprendimento automatico hanno consentito al servizio postale di elaborare oltre 20 terabyte di immagini al giorno da più di 1.000 macchine di elaborazione della posta utilizzando 195 server periferici.
Nel 2019, il servizio postale aveva l’obbligo di identificare e tracciare gli articoli nei suoi oltre 100 milioni di pezzi di posta giornaliera. I data scientist dell’organizzazione pensavano di poter espandere un sistema di analisi delle immagini sviluppato internamente in qualcosa di più ampio, con server AI edge strategicamente posizionati nei centri di elaborazione dell’ufficio postale. La speranza era che il sistema consentisse al servizio postale di analizzare miliardi di immagini di posta e condividere rapidamente le intuizioni sulla rete.
Reclutando una mezza dozzina di architetti presso Nvidia e altre società, il servizio postale è arrivato ai modelli di deep learning di cui aveva bisogno dopo uno sprint di tre settimane. Il lavoro è stato la genesi del programma Edge Compute Infrastructure Program, un sistema di intelligenza artificiale edge distribuito in esecuzione sulla piattaforma NVIDIA EGX presso il servizio postale oggi.
Il software open source di Nvidia, il Triton Inference Server, agisce come una sorta di postino digitale tra i server periferici, fornendo i modelli di intelligenza artificiale necessari su richiesta. Secondo l’analisi del servizio postale, un’attività di visione artificiale che avrebbe richiesto due settimane su una rete di server con 800 processori può ora essere eseguita in 20 minuti sulle quattro GPU NVIDIA V100 Tensor Core in uno dei server edge, HPE Apollo 6500s .
Modello di servizio
Triton automatizza la consegna di modelli di intelligenza artificiale a diversi sistemi di servizi postali che possono avere configurazioni uniche di GPU e CPU che supportano framework di apprendimento profondo. Un’app che controlla solo gli elementi di posta richiede il coordinamento del lavoro di più di una mezza dozzina di modelli di deep learning, ciascuno dei quali verifica funzionalità specifiche.
Credito immagine: servizio postale degli Stati Uniti
I dipartimenti del servizio postale, dall’analisi aziendale alla finanza e al marketing, hanno generato idee per ben 30 app per ECIP, afferma Nvidia. Uno determinerebbe se un pacco trasporta l’affrancatura giusta per le sue dimensioni, peso e destinazione. Un altro decifrerebbe un codice a barre, anche in presenza di danni.
Il piano è di mettere in funzione diverse nuove app basate sull’intelligenza artificiale quest’anno. Nvidia e il servizio postale affermano che il modello di codice a barre potrebbe essere su ECIP già quest’estate.
OCR di nuova generazione
Alla ricerca di ulteriori miglioramenti alla sua pipeline di elaborazione della posta, il servizio postale ha presentato una richiesta per quella che potrebbe essere la prossima app per ECIP, una che utilizza il riconoscimento ottico dei caratteri (OCR). In passato, l’agenzia avrebbe acquistato nuovi costosi hardware e software o utilizzato un servizio di cloud pubblico, che richiede molta larghezza di banda e ha costi significativi. Questa volta, appoggiandosi all’esperienza di Nvidia, la società ha implementato un sistema OCR basato su AI in un container su ECIP gestito da Kubernetes e servito da Triton.
Nelle prime settimane della pandemia, gli operatori hanno implementato i container per far funzionare i primi sistemi mentre altri venivano consegnati, aggiornandoli man mano che l’intera rete veniva installata. Nvidia si è aggiudicata il contratto a settembre 2019, ha iniziato a distribuire i sistemi lo scorso febbraio e ha completato la maggior parte dell’hardware entro agosto.
Le nuove soluzioni potrebbero aiutare il servizio postale a migliorare gli standard di consegna, che sono diminuiti nell’ultimo anno. A metà dicembre, durante le ultime festività natalizie, l’agenzia ha consegnato puntualmente solo il 62% della posta di prima classe, il livello più basso da anni. Il tasso è rimbalzato all’84% entro la settimana del 6 marzo, ma è rimasto al di sotto dell’obiettivo dell’agenzia di circa il 96%.
Il servizio postale ha incolpato la pandemia e i periodi di picco record per gran parte della scarsa prestazione del servizio.
“I modelli che abbiamo implementato finora aiutano a gestire la posta e il servizio postale – ci aiutano a mantenere la nostra missione”, ha detto in un comunicato stampa Todd Schimmel, il manager che sovrintende ai sistemi del servizio postale, incluso ECIP. “Prima ci volevano otto o 10 persone diversi giorni per rintracciare gli oggetti, ora ci vogliono una o due persone un paio d’ore. Questo ha un vantaggio per noi e per i nostri clienti, facendoci sapere dove si trova un pacco specifico – non è un proiettile d’argento, ma colmerà una lacuna e aumenterà le nostre prestazioni … Siamo all’inizio del nostro viaggio con l’IA edge . “
