H100模组

关键词 : H100模组

外形规格	H100 SXM	H100 PCle
FP64	34 teraFLOPS	26 teraFLOPs
FP64 Tensor Core	67 teraFLOPs	51 teraFLOPs
FP32	67 teraFLOPs	51 teraFLOPs
TF32 Tensor Core	989 teraFLOPS*	756teraFLOPs*
BFLOAT16 Tensor Core	1979 teraFLOPS*	1,513 teraFLOPS*
FP16 Tensor Core	1979 teraFLOPS*	1,513 teraFLOPS*
FP8 Tensor Core	3958 teraFLOPS*	3026 teraFLOPS*
INT8 Tensor Core	3958 TOPS*	3026 TOPS*
GPU 显存	80GB	80GB
GPU 显存带宽	3.35TB/s	2TB/s
解码器	7 NVDEC 7 JPEG	7 NVDEC 7 JPEG
最大热设计功率(TDP)	高达 700 瓦(可配置)	300-350 瓦(可配置)
多实例 GPU	最多7个 MIG @每个 10GB
外形规格	SXM	PCle 双插槽风冷式
互连技术	NVLink: 900GB/s PCle 5.0:128GB/s	NVLink:600GB/s PCle 5.0:128GB/s
服务器选项	NVIDIA HGX H100 合作伙伴和配备 4或8个GPU的NVIDIA认证系统”，配备8个GPU的NVIDIA DGX"H100	搭载1至8个 GPU的合作伙伴系统及NVIDIA 认证系统