NVIDIA DGX H100 服务器配置规格
基本信息
| 类别 | 规格 |
|---|---|
| 产品名称 | NVIDIA DGX H100 |
| 系统类型 | AI 企业级服务器 |
| 产品定位 | 数据中心级 AI 训练和推理系统 |
处理器配置
| 参数 | 规格 |
|---|---|
| CPU 型号 | 2x AMD EPYC™ 9454P |
| 每颗核心数 | 48 核心 |
| 每颗线程数 | 96 线程 |
| 基础频率 | 2.75 GHz |
| 最大提升频率 | 3.8 GHz |
| 总 L3 缓存 | 384MB |
GPU 配置
| 参数 | 规格 |
|---|---|
| GPU 型号 | 8x NVIDIA H100 Tensor Core GPU |
| GPU 内存 | 8x 80GB HBM3 |
| GPU 互联 | 4代 NVLink™ + NVSwitch™ |
| GPU-to-GPU 带宽 | 900 GB/s |
| 总带宽 | 3.6 TB/s |
系统内存
| 参数 | 规格 |
|---|---|
| 内存容量 | 2TB |
| 内存类型 | DDR5 RDIMM |
| 内存速度 | 4800 MT/s |
| ECC 支持 | 是 |
存储配置
| 参数 | 规格 |
|---|---|
| 系统存储 | 2x 1.92TB NVMe M.2 SSDs (RAID 1) |
| 数据存储 | 8x 3.84TB NVMe U.2 SSDs (RAID-0, RAID-5, or RAID-6) |
| 总原始存储容量 | 30.72TB NVMe |
网络连接
| 接口类型 | 规格 |
|---|---|
| 高速网络 | 8x OSFP-SR8 (400GbE) |
| 中速网络 | 2x QSFP56 (200GbE) |
| 基础网络 | 2x 10GbE |
| 管理接口 | 1x 1GbE BMC |
系统软件
| 类别 | 组件 |
|---|---|
| 操作系统 | DGX OS (基于 Ubuntu Linux) |
| AI 软件套件 | NVIDIA AI Enterprise CUDA Toolkit cuDNN NCCL NGC 容器注册表访问 |
物理规格
| 参数 | 规格 |
|---|---|
| 机架单元 | 8U |
| 尺寸（公制） | 715mm x 446mm x 352mm |
| 尺寸（英制） | 28.15” x 17.56” x 13.86” |
| 重量 | 约 134.7 kg (297 lbs) |
电源与散热
| 参数 | 规格 |
|---|---|
| 电源类型 | 4x 4000W 铂金级冗余电源 |
| 输入电压 | 200-240V AC |
| 最大功耗 | 10.2 kW |
| 散热方式 | 直通式风冷 |
| 气流方向 | 前进后出 |
| 工作温度 | 10°C 至 35°C |
系统管理
| 功能 | 规格 |
|---|---|
| 远程管理 | BMC 控制器 |
| 管理接口 | IPMI 2.0 |
| 系统监控 | NVIDIA DCGM DGX SystemOS BMC 管理界面 |
认证与支持
| 类别 | 详情 |
|---|---|
| 安全认证 | UL, CE, RCM, EAC, VCCI, KC |
| 环保认证 | RoHS, WEEE |
| EMC | FCC, CE, VCCI, KC, RCM, EAC |
| 标准保修 | 3年 |
| 支持服务 | 全天候企业级支持 硬件更换服务 软件更新 NGC 支持 |