模算效率首次纳入SPEC ML基准评测
(全球TMT2025年1月9日讯)日前,国际标准性能评估组织SPEC公布了AI基准测试SPEC ML最新进展,该基准已完成面向不同AI负载下的软硬件系统的性能、扩展性和模算效率三大关键指标构建。SPEC ML首次将模算效率纳入基准评测,涵盖AI大模型、运行框架和硬件算力平台的一整套软硬件系统。模算效率的纳入填补了大模型计算效率评测基准领域的研究空白。目前,AMD、英特尔、NVIDIA、浪潮信息、NetApp和Red Hat等科技企业正在共同参与开发SPEC ML基准测试。
模算效率的提出将增强不同预训练模型、软件框架和硬件系统之间的可比性,促进模型与硬件的协同优化,推动AI计算系统的能效提升和技术创新。统一的基准测试标准能够提供公平的评估平台,帮助开发者、研究人员和企业公正比较不同模型、框架和硬件平台。通过标准化的基准测试,可以提高模型效能,指导硬件与软件的协同发展,减少不必要的计算开销,降低成本和碳排放。此外,标准化的基准测试还能帮助行业识别效率低下的环节,促进绿色计算技术的发展,推动AI技术朝着更可持续的方向发展,激发技术创新与优化。
文章评论(0)