Nvidia ha anche annunciato le piattaforme Superchip Nvidida GB200: B100+Grace per GB200.

 

Abbiamo annunciato nella precedente notizia GPU Nvidia Blackwell: ufficiale, Il Superchip di NVIDIA è stato concepito come la piattaforma definitiva per i carichi di lavoro AI e HPC. Come abbiamo già discusso, questa piattaforma è disponibile in due configurazioni: una con sola CPU e una variante con CPU+GPU. I prodotti Superchip sono stati annunciati inizialmente con GPU Hopper H100 accoppiate alla CPU Grace di prima generazione, basata su Arm. Oggi, NVIDIA presenta il prossimo capitolo del Superchip.

L’azienda ha annunciato due nuove soluzioni: il GB200, che rappresenta una combinazione della CPU Grace con la GPU Blackwell B100. Il lancio di questa soluzione è previsto per il 2024 e manterrà la stessa capacità di memoria HBM3e da 192 GB, raggiungendo un TDP fino a 2700 W. Approfondiamo le specifiche in modo più dettagliato. Inoltre, è stata introdotta la compatibilità con il protocollo più recente PCIe 6.0, offrendo un throughput di 2x 256 GB/s. Le GPU Blackwell B200 saranno compatibili sia con le piattaforme Hopper esistenti che con le ultime soluzioni dei produttori di data center.

Ogni Superchip GB200 Grace Blackwell sarà equipaggiato con due GPU AI B200 e una singola CPU Grace con 72 core ARM Neoverse V2. Questa potente piattaforma offrirà 40 PetaFlops di prestazioni di elaborazione (INT8) e disporrà di un vasto pool di memoria pari a 864 GB grazie alla presenza esclusiva di HBM, con una larghezza di banda di memoria di 16 TB/s. I chip saranno connessi utilizzando un’interconnessione NVLINK ad alta velocità con una larghezza di banda di 3,6 TB/s.

Due di queste piattaforme GB200 Grace Blackwell Superchip saranno integrate all’interno di un nodo Blackwell Compute, offrendo un incredibile potenziale di prestazioni con un totale di 80 PetaFLOP di elaborazione AI, 1,7 TB di memoria HBM3e e una larghezza di banda di memoria di 32 TB/s. Il tutto sarà racchiuso in un pacchetto MGX raffreddato a liquido, garantendo un funzionamento efficiente e affidabile.

Questi chip saranno integrati all’interno delle nuove piattaforme di elaborazione GB200 NVL72, ciascuna delle quali sarà dotata di 18 vassoi di elaborazione in un rack, permettendo di ospitare fino a 36 CPU Grace e 72 GPU Blackwell. Ogni rack sarà inoltre equipaggiato con ConnectX-800G Infiniband SuperNIC e una DPU Bluefield-3 con una larghezza di banda di memoria di 80 GB/s, fornendo capacità di elaborazione di rete avanzate. Inoltre, l’azienda presenterà i suoi più recenti switch NVLINK, caratterizzati da otto porte con una larghezza di banda di 1,8 TB/s ciascuna e fino a 14,4 TB/s di larghezza di banda aggregata.

Lo Switch NVLink è un componente fondamentale di questa infrastruttura di elaborazione avanzata. Si tratta di un vero colosso tecnologico, con 50 miliardi di transistor, anch’esso prodotto sul nodo TSMC 4NP. Questo switch ospita 72 porte doppie SerDes, ognuna con una velocità di trasferimento di 200 GB/s. Dispone inoltre di 4 canali NVLink con una velocità di trasferimento massima di 1,8 TB/s ciascuno, offrendo una larghezza di banda full-duplex impressionante di 7,2 TB/s. Inoltre, questo switch è dotato di una potenza di elaborazione SHARP in rete pari a 3,6 TFLOP, garantendo una gestione avanzata e efficiente del traffico di dati all’interno del sistema.

In termini di prestazioni, la piattaforma GB200 Grace Blackwell Superchip promette un notevole incremento, con prestazioni di intelligenza artificiale fino a 30 volte superiori rispetto alla piattaforma H200 Grace Hopper. NVIDIA Blackwell GB200 sarà reso disponibile su DGX Cloud entro la fine dell’anno, attraverso i principali OEM come Dell, Cisco, HPE, Lenovo, Supermicro, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn e ZT Systems, i quali offriranno anche le rispettive soluzioni in futuro.