浪潮信息元脑R1推理服务器,助力DeepSeek模型高效部署

浪潮信息元脑R1推理服务器,助力DeepSeek模型高效部署

(全球TMT2025年2月12日讯)2月11日,浪潮信息正式推出元脑R1推理服务器,通过系统创新和软硬协同优化,单机即可部署运行DeepSeek R1 671B模型,帮助客户显著降低DeepSeek R1全参数模型的部署难度及成本,并提升推理服务性能。DeepSeek开源多版本模型,其中DeepSeek R1 671B模型作为全参数基础大模型,具有更强的泛化能力、准确性和上下文理解能力,对系统显存容量、带宽等提出更高要求。元脑R1推理服务器可以提供领先的显存容量、显存带宽和通信速度,助力企业高效完成DeepSeek全参数模型的本地化部署。

元脑R1推理服务器NF5688G7是一款高算效AI计算平台,原生搭载FP8计算引擎,针对DeepSeek R1 6781B模型部署速度快且无精度损失。它提供1128GB HBM3e高速显存,显存带宽高达4.8TB/s。同时,单台NF5688G7配备3200Gbps无损扩展网络,可根据用户需求实现敏捷扩展。NF5868G8专为大推理模型设计,业界首次实现单机支持16张标准PCIe双宽卡,提供高达1536GB显存容量,支持在FP16/BF16精度下单机部署DeepSeek 671B模型。NF5868G8可将DeepSeek 671B模型推理性能提升近40%,并已支持多元AI加速卡选配。