COSA SONO LE DPU E PERCHÉ NE ABBIAMO BISOGNO
Abbiamo sentito parlare di CPU e TPU, ora NVIDIA con l’aiuto della sua recente acquisizione Mellanox sta portando una nuova classe di processori per potenziare le applicazioni di deep learning – DPU o unità di elaborazione dati.
DPU o unità di elaborazione dati, originariamente rese popolari da Mellanox, ora indossano un nuovo look con NVIDIA; Mellanox è stata acquisita da NVIDIA all’inizio di quest’anno. Le DPU sono una nuova classe di processori programmabili costituiti da motori di accelerazione flessibili e programmabili che migliorano le prestazioni delle applicazioni di intelligenza artificiale e machine learning, sicurezza, telecomunicazioni, archiviazione, tra gli altri.
Il team di Mellanox ha già implementato la prima generazione di DPU BlueField nei principali data center di elaborazione ad alte prestazioni, deep learning e cloud per offrire nuovi livelli di prestazioni, scalabilità ed efficienza con una migliore agilità operativa.
Il miglioramento delle prestazioni è dovuto alla presenza di CPU multi-core programmabile ad alte prestazioni e software e di un’interfaccia di rete in grado di analizzare, elaborare e trasferire in modo efficiente i dati a velocità di linea su GPU e CPU.
Secondo NVIDIA , una DPU può essere utilizzata come processore incorporato autonomo. Le DPU sono generalmente incorporate in uno SmartNIC , un controller di interfaccia di rete. Le SmartNIC sono ideali per server Web ad alto traffico.
W3Schools
Una SmartNIC basata su DPU è una scheda di interfaccia di rete che scarica le attività di elaborazione normalmente gestite dalla CPU del sistema. Utilizzando il proprio processore di bordo, SmartNIC basato su DPU potrebbe essere in grado di eseguire qualsiasi combinazione di crittografia / decrittografia, firewall, elaborazione TCP / IP e HTTP.
“LA CPU È PER IL CALCOLO PER SCOPI GENERICI, LA GPU È PER IL CALCOLO ACCELERATO E LA DPU, CHE SPOSTA I DATI ALL’INTERNO DEL DATA CENTER, ESEGUE L’ELABORAZIONE DEI DATI”.
CEO di NVIDIA
Perché abbiamo bisogno di DPU
Queste DPU sono conosciute con il nome di BlueField che hanno un design unico che può consentire l’esecuzione della programmabilità a velocità fino a 200 Gb / s. BlueField DPU integra l’adattatore di rete NVIDIA Mellanox Connect best-in-class, che comprende acceleratori hardware con programmabilità software avanzata per fornire diverse soluzioni definite dal software.
Le organizzazioni che si affidano a soluzioni basate su cloud, in particolare, possono trarre enormi vantaggi dalle DPU. Ecco alcuni di questi casi, in cui fioriscono DPU: –
Consentire l’archiviazione, la rete e la sicurezza come parte dell’infrastruttura componibile per i fornitori di servizi cloud
Consentire all’operatore di facilitare il bare metal per l’inquilino cloud come servizio preservando il controllo sul server e proteggendo l’ambiente
L’AMBIENTE BARE METAL È UNA RETE IN CUI È INSTALLATA UNA MACCHINA VIRTUALE
Può abilitare e isolare l’ambiente per accelerare le funzioni di sicurezza ad alta intensità di calcolo
Può archiviare, calcolare e proteggere i dati alle massime velocità, riducendo al contempo costi e tempi analizzando i dati ai margini
Il passaggio all’architettura dei microservizi ha completamente trasformato il modo in cui le aziende spediscono applicazioni su larga scala. Le applicazioni basate sul cloud hanno molta attività o generazione di dati, anche per l’elaborazione di una singola richiesta dell’applicazione. Secondo Mellanox , un’applicazione chiave di DPU è la protezione dei carichi di lavoro nativi del cloud.
Ad esempio, la sicurezza di Kubernetes è una sfida immensa che comprende molte parti altamente correlate. L’intensità dei dati rende difficile implementare soluzioni di sicurezza a rischio zero, e questo crea sfide per il team di sicurezza per proteggere i dati e la privacy dei clienti.
A partire dalla fine dello scorso anno, il team di Mellanox ha dichiarato che stanno attivamente ricercando varie piattaforme e integrando schemi per sfruttare i motori di accelerazione all’avanguardia nelle SmartNIC basate su DPU per garantire carichi di lavoro nativi cloud a 100 Gb / s.
Secondo NVIDIA, una DPU ha le seguenti caratteristiche:
Analisi, abbinamento e manipolazione di pacchetti di dati
Acceleratori GPU-Direct per bypassare la CPU e inviare dati di rete direttamente alle GPU
Acceleratore di “pacing dei pacchetti” che modella il traffico per consentire lo streaming di video 4K / 8K
Acceleratori di precisione per capacità 5G
Accelerazione crittografica
Supporto per la virtualizzazione
Isolamento sicuro
