Supermicro推出全新SuperCluster解决方案,助力生成式AI部署

Supermicro推出全新SuperCluster解决方案,助力生成式AI部署

(全球TMT2024年3月22日讯)Supermicro, Inc.宣布推出其最新产品组合,加速生成式AI部署。Supermicro SuperCluster解决方案能为目前及未来大型语言模型(Large Language Model,LLM)硬件基础设施提供核心建构组件。Supermicro三款强大的SuperCluster解决方案现已上市并可被用于生成式AI工作运行。

这些解决方案内的4U液冷系统或8U气冷系统是专为强大LLM训练性能以及高度批次大小且大量的LLM推理所设计。Supermicro 4U NVIDIA HGX H100/H200 8-GPU系统通过液冷技术使8U气冷系统计算密度加倍,同时降低功耗量与总体拥有成本(TCO)。这些系统旨在为了支持下一代NVIDIA的Blackwell架构GPU。搭载NVIDIA HGX H100/H200 8-GPU的系统非常适合用于训练生成式Al。

配备了1U气冷Supermicro NVIDIA MGX系统的第三款SuperCluster超级集群则针对云端级推理进行了优化。采用了NVIDIA GH200 Grace Hopper Superchip的Supermicro NVIDIA MGX系统设计将能打造出未来AI计算集群的架构样式以解决生成式AI的关键瓶颈。