2023-05-30 10:03
性能是上一代10倍??！英偉達發(fā)布DGX GH200超級計算機
AI奇點網5月30日報道丨當地時間5月29日上午，英偉達今天在 Computex2023 臺北電腦展大會上發(fā)布了多項重磅消息，其中最引人注目的是其名為Grace Hopper（縮寫 GH 系列）的超級算力芯片已經全面投產。英偉達創(chuàng)始人兼 CEO 黃仁勛在 NVIDIA 的演講中宣布，生成式 AI 引擎NVIDIA DGX GH200 現已投入量產。
英偉達官網顯示，NVIDIA DGX GH200 是將 256 個 NVIDIA Grace Hopper 超級芯片完全連接到單個 GPU 中的新型AI超級計算機，支持萬億參數AI大模型訓練。能夠處理大規(guī)模推薦系統(tǒng)、生成式人工智能和圖形分析，并為巨型人工智能模型提供線性可擴展性。“不需要把數據儲存在很多個模塊中，DGX GH200 更易訓練大語言模型、深度學習推薦系統(tǒng)。”黃仁勛稱。
據悉，Grace Hopper 超級芯片是英偉達開發(fā)的基于 ARM 架構開發(fā)的 CPU+GPU 集成方案，它將 72 核的 Grace CPU、Hopper GPU、96GB 的 HBM3 和 512 GB 的 LPDDR5X 集成在同一個封裝體系中，合計多達 2000 億個晶體管。這種組合提供了 CPU 和 GPU 之間驚人的數據帶寬，高達 1TB/s的吞吐量。英偉達稱這種結構提供了比前一代系統(tǒng)高出 10 倍的 GPU 到 GPU 和 7 倍的 CPU 到 GPU 的帶寬。它還設計了提供比競爭對手高出 5 倍的互連功耗效率和高達 128TB/s 的對分帶寬。
NVIDIA 提供了 DGX GH200 的預計基準測試，其中 NVLink 交換機系統(tǒng)與與 InfiniBand 捆綁在一起的 DGX H100 集群正面交鋒。NVIDIA 在上述工作負載計算中使用了不同數量的 GPU，范圍從 32 到 256，但每個系統(tǒng)在每次測試中都使用了相同數量的 GPU。
DGX GH200 附帶的優(yōu)化的操作系統(tǒng)和集群管理器，使得管理大規(guī)模語言模型訓練的復雜性大大降低。按照老黃的說法：花費 1000 萬美金成本，你可以建置一個有 960 顆 CPU 核心的數據中心，但這個數據中心要 11GWh 的功率，處理 1X LMM 大語言模型的數據量。
DGX GH200 還具有非常靈活的擴展性和配置選項。用戶可以根據自己的需求選擇 GPU、內存、存儲、網絡等組件，并隨時添加更多的資源，實現彈性擴展。
集成 256 個 GH200 芯片的 DGX GH200 超級計算機，內存擴大了 500 倍，超級算力提高了 7 倍，這個是相當了不起的成果，不出所料的話，英偉達的營收會隨著超級計算機的誕生，獲得更多的合同和利潤，股價繼突破萬億后，也會繼續(xù)水漲船高。
相關文章
Altman
Kardashian
