浪潮AI PC大模型效率工具YuanChat全面升级
(全球TMT2024年8月29日讯)AI PC大模型效率工具YuanChat全面升级。简洁直观的交互界面,搭配联网搜索、搭建个人知识库(RAG)、模型参数个性化定制等丰富的插件功能,让用户在个人PC上可以轻松部署和使用“源2.0-M32”大模型,完成各类各类编程、数理计算、文档解析和公文写作等任务。源2.0-M32具备超高的模算效率,在算力需求仅为1/19的情况下,性能全面对标Llama 3-70B,对大模型运行部署的硬件要求大幅降低。
在YuanChat上,用户只需点击鼠标就可以将本地存储的丰富文档资源文件转化为一个高度定制化的个人专属知识库。YuanChat内置多种向量模型(Embedding),可以支持12种文档。YuanChat支持谷歌(serper)和bing两种方式进行网络检索,还提供了丰富的参数设定功能。YuanChat支持API Server功能,可将模型能力以及YuanChat的功能(Rag检索、敏感词识别、网络检索等)接入已有的应用平台。模型输出数据支持openAI格式,使开发人员更好理解,降低二次开发成本和对接工作量。
文章评论(0)