在2024年的NVIDIA GTC大會上,NVIDIA執行長黃仁勳宣布他們的最新處理器GB200已經開始量產。GB200是NVIDIA最新的Blackwell GPU架構的一部分,這個架構專門設計來大幅提升生成式AI的運算能力和效率。
黃仁勳提到,GB200處理器是為了應對生成式AI的需求而開發的,具有非常強大的運算能力和能效。它可以與NVIDIA的Quantum-X800 InfiniBand和Spectrum-X800 Ethernet平台相連接,提供高達800Gbps的網路速度。此外,GB200在AI訓練和推理方面也表現出色,可以在單一機架內提供1.4 exaflops的AI推理性能。
在大會上,黃仁勳還展示了GB200 NVL72液冷機架系統。這個系統由36個Grace CPU和72個Blackwell GPU組成,配備13.8TB的HBM3e記憶體,達到1.44 exaflops的AI推理性能。這樣的配置使得GB200成為目前少數幾個能夠提供exaflop級別性能的AI系統之一。
黃仁勳強調,這些新技術將改變未來數據中心的運營模式,使它們成為“AI工廠”,專注於生成智慧。NVIDIA的Blackwell產品已經獲得全球主要雲服務供應商和領先科技公司的支持。
NVIDIA GB200的量產標誌著生成式AI計算的一個重要里程碑,將為AI模型的訓練和部署提供強大的支持和更高的效率。