浪潮参加第十三届国际性能工程学大会
(全球TMT2022年4月18日讯)4月9日-13日,第十三届国际性能工程学大会(ICPE2022)在线召开。此次大会吸引了300余位专家、学者报名参与,共收到各类投稿290余篇,涉及AI建模及算法、算力提升、能效测量、新型计算架构、体系结构研究等多个主题。其中专业论文70余篇,包含优秀论文58篇,论文集收录22篇。会议期间还举办了6场专题研讨会,涵盖基准测试、存储管理、软件开发等多个领域。在大会Keynote演讲环节,来自维也纳理工大学、谷歌及浪潮信息的三位演讲嘉宾,分别从边缘故障预测、数据中心管理、多层数据访问优化的角度介绍了应对数据挑战所采取的方案。

浪潮信息人工智能与高性能应用软件部高性能应用架构师,李龙翔博士发表主题为《多层数据访问优化》的演讲。随着近年CPU核心数增加及性能的不断增强,在超大规模系统并行计算时,越来越多的应用运行性能主要受数据访问速度限制。针对超大规模集群的数据存储特点,他介绍了一种多层数据访问 (Multi-Layered Data Access,MLDA) 优化方法,可以快速对超大规模并行计算性能瓶颈进行分析,通过对存储、网络、访存、CPU等设备数据访问过程优化,提升超大规模集群并行计算效率。这只是浪潮信息解决超大规模系统挑战多种技术之一,在中文巨量模型"源1.0"的训练过程中,浪潮信息采用了多种面向超大规模并行计算技术的软硬件协同优化手段,通过流水线并行、张量并行等手段自动地将模型多层数据切分到不同的节点中实现并行。"源1.0"模型包含的参数总量达 2457 亿,是 GPT-3 的 1.404 倍。
文章评论(0)