移远通信端侧AI大模型解决方案迎来全面升级

移远通信端侧AI大模型解决方案迎来全面升级

(全球TMT 2026年07月20日讯)在WAIC 2026(世界人工智能大会)期间,移远通信宣布其端侧AI大模型解决方案迎来全面升级。本次升级聚焦"多模态感知"与"推理加速"两大维度,为行业打通AI商业化落地"最后一公里"提供了全新思路。

过去,基于"ASR+LLM+TTS"架构,设备获得了出色的"听觉"与"表达"能力。此次端侧视觉大模型的加入,使移远方案完成从"单维倾听"到"全感官认知"的跨越。设备不仅能听懂指令,更能"看懂场景、理解意图、自主决策",进化为全能智能体。该方案可无缝嵌入各类智能终端,深度赋能千行百业:智能制造与工业巡检、智能座舱与消费电子、智慧零售与门店运营。

移远通信率先引入MTP(多Token预测)与SD(投机采样)两大加速技术。MTP通过在训练阶段引入额外的预测头,使模型能够同时预测多个未来的词元;SD则采用"小模型快速生成草稿,大模型并行验证"的机制。该方案已全面支持MTP与SD加速,并成功落地客户项目。在移远内部实验室基于高通跃龙Q-8750平台(移远SP895BD-AP模组)部署Qwen系列大模型的实测中,推理加速比达到2.0x,模型平均生成速度由传统的25 tokens/s跃升至50+ tokens/s。