10月13日，据报道，面壁智能正式发布新一代端侧多模态大模型MiniCPM-V 4.7，包含35B-A3B与1B两个版本。其中35B-A3B采用MoE架构，总参数350亿、每次推理仅激活30亿，是首个可在端侧无损流畅运行的开源MoE模型，仅约3GB内存即可运行，解码速度达15+ token/s，真正做到即问即答。发布当日即支持瑞芯微、NVIDIA、Intel和Apple等主流芯片平台，同时支持iOS、安卓和鸿蒙系统，并提供开源端侧适配代码及主流推理框架。
1B版本则主打端侧极致效率，让旗舰级能力跑进更多端侧设备，也让端侧多模态从少数设备的探索走向每个人的日常。
这一突破的背后是面壁智能自研的LES前瞻专家调度技术。MoE模型内部有众多专家，每次回答只调用其中几位，虽然能力更强，却给手机运存带来极大压力。LES技术可以提前预测接下来要用到哪些专家，趁当前计算还在进行时提前加载，让加载与计算同步推进。该技术目前为业界独家开源方案。
截至目前，由面壁智能联合OpenBMB开源社区发布的MiniCPM系列开源模型，全球累计下载量已突破6000万次，覆盖文本、视觉、语音全模态。
原创文章，作者：李森，如若转载，请注明出处：https://www.kejixun.co/article/764605.html
