適用于新型 AI 的超大規(guī)模內(nèi)存超級計(jì)算
全新的 AI 超級計(jì)算機(jī)將 256 個(gè) NVIDIA Grace Hopper? 超級芯片完全連接到一個(gè)單一的 GPU 中,從而在 AI 時(shí)代開啟了巨大的潛力。NVIDIA DGX? GH200旨在處理用于大規(guī)模推薦系統(tǒng)、生成式 AI 和圖形分析的 TB 級模型,提供 144TB 的共享內(nèi)存,為巨型 AI 模型提供線性擴(kuò)展能力。。
NVIDIA DGX GH200 是唯一一款在 256 個(gè) NVIDIA Grace Hopper 超級芯片 GPU 上提供 144TB 超大共享內(nèi)存空間的 AI 超級計(jì)算機(jī),為開發(fā)者提供了近 500 倍的內(nèi)存以構(gòu)建巨型模型
Grace Hopper 超級芯片將 NVIDIA Grace? CPU 與 NVIDIA Hopper? GPU 結(jié)合在同一封裝上,從而消除了對傳統(tǒng) PCIe CPU 至 GPU 連接的需求,可將帶寬提高 7 倍,并將互聯(lián)功耗降低 5 倍以上。
深入了解是什么讓 DGX GH200 成為開發(fā)大型 AI 模型的理想之選
DGX GH200 通過在每個(gè)采用 NVLink Switch 系統(tǒng)的 Grace Hopper 超級芯片之間擴(kuò)展 NVIDIA? NVLink?,從而擴(kuò)展到 256 個(gè) GPU。
DGX GH200 通過在每個(gè)采用 NVLink Switch 系統(tǒng)的 Grace Hopper 超級芯片之間擴(kuò)展 NVIDIA? NVLink?,從而擴(kuò)展到 256 個(gè) GPU。
NVIDIA DGX 平臺專為企業(yè) AI 從零開始構(gòu)建,將出色的 NVIDIA 軟件、基礎(chǔ)架構(gòu)和專業(yè)知識融入到現(xiàn)代統(tǒng)一的 AI 開發(fā)和訓(xùn)練解決方案中。