微软表示该虚拟机主要面向需要整合或开发人工智能的企业,附该虚拟机配置如下:
8 块英伟达 H100 Tensor Core GPU,通过下一代 NVSwitch 和 NVLink 4.0 互连
在没有阻塞(non-blocking)的胖树(Fat-Tree)架构网络下,每块 GPU 的
NVIDIA Quantum-2 CX7 InfiniBand 性能可以达到 400 Gb / s,每台虚拟机可以达到 3.2Tb / s。
通过 NVSwitch 和 NVLink 4.0,每台虚拟机内的 8 个本地 GPU 之间的对分带宽为 3.6TB / s。
采用英特尔第 4 代 Xeon Scalable 处理器
使用 PCIe Gen5 连接 GPU,每个 GPU 带宽为 64GB / s
16 通道 4800MHz DDR5 DIMM
微软先前在 Azure OpenAI 服务中宣布了 ChatGPT 相关服务,而本次虚拟机是该服务的补充,它允许第三方通过 Azure 访问聊天机器人技术。
相关教程
2023-05-22
2023-02-10
2023-03-28
2023-05-29
2023-03-03
2023-03-08
2023-03-22
2024-06-13
2023-04-19
2023-02-22
2023-03-15
2024-06-07
2024-10-23
2024-10-22
2024-10-22
2024-10-21