量子位· 量子位的朋友们·· 13 天前AI 评分31
高通展出端侧 MoE 智能体:终端侧 AI 从单点应用走向智能体体验
终端侧AI:从单点应用走向智能体体验
AI 导读
高通在第九届进博会展出端侧 MoE 智能体演示,展示意图理解、任务编排、实时操作目标 App 等能力,该演示由高通与 Infris AI、江波龙、阶跃星辰合作完成。目前端侧主流模型规模为 20 亿至 30 亿参数,MoE 每次推理仅调用部分专家模块,可降低实际运行参数量,在有限内存和功耗下提升复杂任务的完成度。
来源:量子位 · qbitai.com