NF5688G8_GPU服务器_元脑®人工智能服务器-浪潮信息

产品简介

元脑R1推理服务器NF5688G8是基于浪潮信息全新一代AI超融合架构平台，面向超大规模数据中心的强劲性能、极致扩展人工智能服务器，最强算力密度6U空间内搭载1块NVIDIA Hopper架构HGX-8GPU模组，系统支持4.0Tbps网络带宽，支持FP8原生精度下单机部署DeepSeek 671B大模型。搭载2颗AMD第五代EPYC处理器(Max cTDP 500W)，最高可达3TB系统内存，128TB NVMe高速存储，支持高达12个PCIe Gen5 x16扩展槽位，可灵活支持OCP 3.0、CX7、多种智能网卡等，构建面向超大模型训练、元宇宙、自然语言理解、推荐、AIGC等场景的最强AI算力平台。

产品特性

强劲性能

单机显存容量1128G，实现DeepSeek 671B模型完整部署

2颗AMD第五代 EPYC处理器

集成Transformer引擎，大幅加速GPT大模型训练速度

极致能效

散热性能极致优化，风道解耦设计提升20%系统能效比

12V和54V N+N冗余电源分离供电设计，减少电源转换损耗

智能分层调节散热，降低功耗与噪音

领先架构

节点内全PCIe 5.0高速链路，CPU至GPU带宽提升4倍

节点间高速互联扩展，4.0Tbps无阻塞带宽IB/RoCE组网

集群级优化架构设计，GPU: 计算IB: 存储IB=8:8:2

多元兼容

全模块化设计，一机多芯，灵活配置支持本地和云端部署

加速大模型训练和推理

领先支持多样化的SuperPod解决方案，适用AIGC、AI4Science 及元宇宙等丰富场景

技术规格

型号	NF5688-A8-A0-R0-00
高度	6U
GPU	1块NVIDIA HGX-Hopper-8GPU模组
处理器	2颗AMD第五代EPYC^TM处理器，最大cTDP 500W
内存	24条DDR5 DIMMs内存，速率最高支持6400MT/S
存储	最多支持24块2.5英寸SSD硬盘，其中最大支持16块NVMe
M.2	2块内置M.2 NVMe (可选)
PCIe插槽	支持10个PCIe 5.0x16插槽 (其中1个PCIe 5.0x16插槽可替换为2个PCIe 5.0x8速率的x16槽位) 可选支持Bluefield-3、CX7以及多种类型智能网卡
RAID支持	可选支持RAID 0/1/10/5/50/6/60等，支持Cache超级电容保护
前置I/O	1个USB 3.0端口，1个USB 2.0端口，1个VGA端口
后置I/O	2个USB 3.0端口，1个MicroUSB端口，1个VGA端口，1个RJ45管理口
OCP	可选支持1张OCP 3.0网卡，支持NCSI功能
管理	DC-SCM BMC管理模组
TPM模块	TPM 2.0
风扇模组	GPU区域: 6个54V N+1冗余热插拔风扇 CPU区域: 6个12V N+1冗余热插拔风扇
电源	2块12V 3200W及6块54V 2700W钛金级CRPS电源，支持N+N冗余
尺寸	宽447mm，高263mm，深860mm
重量	净重92kg（毛重: 107kg）
环境参数	工作温度: 10℃~35℃；贮存温度: -40℃~70℃
环境参数	工作湿度: 10%~90% R.H.；贮存湿度: 10%~93% R.H.