億玖資訊
Enine information- 億玖動態
- 行業資訊
Blackwell平臺正式投入運行,NVLINK帶寬提升至1.4TB/s!
發布時間:2024-08-26
據IT之家8月24日報道,英偉達(NVIDIA)在數據中心領域取得了顯著進展,其Blackwell平臺已經正式投入運行。在8月24日舉行的吹風會上,英偉達首次向科技記者展示了這一平臺,并計劃在Hot Chips 2024活動中進一步展示Blackwell在數據中心的應用情況。

Blackwell平臺是一個綜合性的解決方案,包括Blackwell GPU、Grace CPU、NVLINK Switch Chip等多種芯片,旨在滿足現代人工智能的需求。其中,NVLINK技術的升級尤為引人注目,帶寬提升至1.4TB/s,顯著提高了數據中心的處理能力和效率。
英偉達還分享了Blackwell系列產品中各種橋架的全新圖片,展示了設計下一代數據中心平臺所需的專業工程技術。Blackwell平臺的目標是服務于萬億參數的AI模型,如Meta的405B Llama-3.1,這些模型的規模不斷擴大,對數據中心的計算能力和延遲提出了更高要求。

在多GPU推理方法中,Blackwell平臺通過其NVLINK交換機提供了高帶寬的GPU對GPU通信能力,支持低延遲和高吞吐量的計算。此外,英偉達采用了水冷散熱技術,以提升性能和效率,預計可以將數據中心設施的電力成本降低最多28%。


特別引人注目的是,英偉達還展示了全球首張使用FP4計算生成的人工智能圖像。這張圖像證明了FP4量化模型在保持與FP16模型相似圖像質量的同時,能夠實現更快的處理速度。這一成果是在MLPerf的穩定擴散項目中使用Blackwell平臺制作的。
總的來說,英偉達Blackwell平臺的啟動,不僅展示了公司在數據中心技術領域的最新進展,也為未來的人工智能應用提供了強大的支持。隨著NVLINK技術的升級和FP4 GenAI圖像的公布,英偉達再次證明了其在高性能計算和人工智能領域的領導地位。