售價超 25 萬元 NVIDIA 最強顯卡打破跑分記錄
NVIDIA 的顯卡一直備受追捧,特別是高端的 H100 加速卡。盡管售價超過 25 萬元,但仍然供不應求。
這款顯卡的性能也非常驚人,在最新的 AI 測試中刷新了記錄,特別是在基于 GPT-3 的大語言模型訓練任務中,創下了令人矚目的 11 分鐘的成績。
機器學習及人工智能領域的開放產業聯盟 MLCommons 發布了最新的 MLPerf 基準評測,其中包括 8 個負載測試,其中就包括對 LLM 大語言模型的測試,該模型使用了基于 GPT-3 的開源模型。這些測試對平臺的 AI 性能提出了很高的要求。
參與測試的 NVIDIA 平臺由 896 個 Intel 至強 8462Y+ 處理器和 3584 個 H100 加速卡組成,是所有平臺中唯一跑完所有測試的,而且刷新了記錄。在關鍵的基于 GPT-3 的大語言模型訓練任務中,H100 平臺只用了 10.94 分鐘,可以對比的是 Intel 平臺,由 96 個至強 8380 處理器和 96 個 Habana Gaudi2 AI 芯片構建的系統中,完成同樣測試的時間為 311.94 分鐘。
點個贊! ()