微軟 Azure ND H100 v5 VM 虛擬機預覽發布：采用八至上千個 NVIDIA H100 Tensor Core GPU
據微軟 Azure 官方發布，微軟將過去十年的超級計算經驗和支持超大型 AI 訓練工作負載的經驗應用于搭建具備大規模化高性能的 AI 基礎架構。微軟 Azure 智能云，特別是以圖形處理單元（GPU）加速的虛擬機（VM），為微軟及其客戶的生成式 AI 發展奠定了基礎。
微軟現推出 ND H100 v5 VM，是 Azure 迄今更強大和高度可伸縮的 AI 虛擬機系列。該虛擬機支持的按需配置可達 8 至上千個通過 Quantum-2 InfiniBand 網絡互連的 NVIDIA H100 GPU，使得 AI 模型的性能明顯提高。相較上一代 ND A100 v4 VM，本次推出的虛擬機包含以下創新技術：
- 8 塊 NVIDIA H100 Tensor Core GPU，通過下一代 NV Switch 和 NV Link 4.0 互連。
- 在無阻塞胖樹網絡中，每個 GPU 搭載 400 Gb / s NVIDIA Quantum-2 CX7 InfiniBand 和每 VM 3.2Tb / s 的性能。
- 每個 VM 中的 8 塊本地 GPUs 之間通過 3.8Tb / s 對分割帶寬的 NV Switch 和 NV Link 4.0 互聯。
- 第四代英特爾至強可擴展處理器。
- PCIE 第 5 代主機到 GPU 互連，每個 GPU 帶寬為 64Gb / s。
- 16 信道的 4800 MHz DDR5 內存。
注：NVIDIA Quantum-2 采用第七代 NVIDIA InfiniBand 架構，可為 AI 開發者和科學研究人員提供超強網絡性能和豐富功能，幫助他們解決充滿挑戰性的問題。NVIDIA Quantum-2 通過軟件定義網絡、網絡計算、性能隔離、高級加速引擎、遠程直接內存訪問 (RDMA) 以及高達 400 Gb / s 的超快的速度，為先進的超級計算數據中心提供助力。
微軟表示，大規模 AI 已內置于 Azure 的 DNA 中。對大型語言模型研究（如圖靈）的初始投資，以及諸如在云中構建第一臺 AI 超級計算機等里程碑，都為生成式 AI 的問世做好了充分準備。Azure 機器學習等 Azure 服務使客戶能夠訪問 AI 超級計算機，以進行模型訓練。Azure OpenAI 服務使客戶能夠利用大規模生成式 AI 模型的強大功能。「規模」一直是 Azure 優化 AI 基礎設施的目標之一。現在，微軟正為各種規模的初創公司和企業帶來無需大量物理硬件或軟件投入的超級計算功能。
現在，ND H100 v5 預覽發布，將成為 Azure 產品組合中的標準服務。
