浪潮信息源2.0开源大模型与百度PaddleNLP完成全面适配

浪潮信息源2.0开源大模型与百度PaddleNLP完成全面适配

(全球TMT2024年10月14日讯)浪潮信息的源2.0开源大模型与百度PaddleNLP完成全面适配。用户通过PaddleNLP,可快速调用源2.0预训练大模型,使用其在语义、数学、推理、代码、知识等方面的能力,也可以使用特定领域的数据集对其进行微调,以满足自身业务需求。此次适配标志着源2.0大模型迁移到飞桨生态中,丰富了PaddleNLP的大模型库,使用户能够在PaddleNLP内快速使用源2.0,并利用相对较少的资源训练出更适合实际应用场景的大模型。

PaddleNLP是百度基于飞桨框架打造的大语言模型套件,聚合业界优质预训练模型并提供开箱即用的开发体验,覆盖NLP多场景的模型库,搭配产业实践范例。源2.0系列基础大模型是首个全面开源的千亿参数模型,包括1026亿、518亿、21亿三种参数规模的模型,在对话问答、编程、逻辑推理等方面展示出了领先的能力。源2.0基于PaddleNLP内置的预训练-微调-推理全流程,支持大模型数据并行、数据分组切片并行和模型并行,提供高性能分布式训练与推理技术,同时无需修改即可适配多种硬件,实现高效训练和推理。