Benny 
英偉達執行長黃仁勳在2023年臺北電腦展上公佈了一系列人工智慧(AI)和高效能運算相關產品及服務的進展。
大記憶體AI超級電腦DGX GH200
黃仁勳表示,AI超級電腦DGX GH200整合英偉達最先進的高效能運算和網路技術,旨在為生成對抗網路、推薦系統和大數據分析工作負載開發大規模下一代模型,預計今年年底推出。
DGX GH200是首款將GH200 Grace Hopper超級晶片與英偉達NVLink互連系統結合的超級電腦。通過採用新的互連方式,256個Grace Hopper超級晶片能像單個巨型GPU一樣協同運行,從而提供1EFLOPS的運算能力和144TB的共用記憶體,比2020年推出的DGX A100 320GB系統的記憶體多出近500倍。
黃仁勳表示,穀歌、Meta和微軟等科技巨頭是第一批獲得DGX GH200訪問權限用於生成對抗網路工作負載的公司。英偉達還計劃將DGX GH200設計藍圖提供給雲服務商和其他超大規模運算廠商,以便他們可以根據DGX GH200為其基礎設施進行定制。
GH200全面投產
黃仁勳指出,英偉達的GH200 Grace Hopper超級晶片已全面投產,將為運行複雜的AI和高效能運算工作負載提供動力。基於GH200的系統加入了全球系統製造商基於英偉達最新Grace、Hopper和Ada Lovelace架構的400多個系統配置。位於歐美的幾家全球超大規模運算企業和超算中心客戶將可使用GH200驅動的系統。採用GH200的系統預計將於今年晚些時候推出。
大型AI超級電腦NVIDIA Helios
黃仁勳表示,英偉達正在打造自己的大型AI超級電腦NVIDIA Helios,以支持其研究與開發團隊的工作。Helios採用4個DGX GH200系統,每個都將與英偉達Quantum-2 InfiniBand網路連接,帶寬高達400Gb/s,以提高訓練大型AI模型的數據吞吐量。Helios將包括1024顆Grace Hopper超級晶片,將於今年年底推出。
