想要在内存有限的手机里面放下更大的端侧模型，面壁智能给出的核心解法就是依托 MoE 混合专家架构搭配自研 LES 前瞻专家调度技术，推出 MiniCPM‑V 4.7，其中 35B‑A3B 版本总参数达到 350 亿，推理的时候只激活 30 亿参数，只占用大约 3GB 的运行内存，不用把全部模型权重一次性塞进手机运存，绝大多数专家权重存放在手机闪存里面，需要的时候再加载调用，同时通过预测加载掩盖读取延迟，兼顾模型规模、推理速度和输出精度，打破过去手机端侧模型越大、内存开销就必须同步暴涨的固有思路。以往想要把大模型放到手机，大多只有两条路，要么大幅裁剪模型参数、牺牲理解能力，要么使用激进量化，造成回答、识图的效果明显下滑；就算用上 MoE 架构，如果没有配套调度，只能等上一层运算结束，再去读取下一层专家权重，大量时间浪费在等待闪存读取上面，实测在 iPhone 17 Pro Max 上只能跑到每秒 3 个 token，流畅度完全达不到日常使用标准。面壁智能这套方案把串行读取改成并行预加载，在当前层正在计算的时候，提前预判下一层会用到哪些专家，同步把对应的权重调入内存，同时搭配权重连续排布、逐层混合精度量化、投机解码、视觉 token 前置压缩等配套优化，进一步压低传输开销，让大模型在手机上可用。
- 核心技术清单
- MoE 混合专家架构：总参数量 35B，单次推理仅激活 3B，做到 “大储备、小激活”
- LES 前瞻专家调度：预测后续需要的专家，提前加载，隐藏闪存读取延迟
- 权重存储布局重排：专家数据连续存放，减少零散读取带来的耗时
- 逐层混合精度量化：在控制精度损失的前提下，压缩模型体积
- DSpark 投机解码：一次校验多个候选 token，拉高生成速度
- 视觉编码器前置压缩：提前压缩视觉 token，降低多模态计算负担
- 实测速度参考表
- 当前版本与适配范围
- MiniCPM‑V 4.7 包含两个版本：35B‑A3B 主打高性能多模态，1B 主打轻量化普惠部署
- 支持苹果、瑞芯微、NVIDIA、Intel 等主流芯片
- 兼容 iOS、安卓、鸿蒙，配套开源适配代码与主流推理框架
- 具备识图、长图文理解、多模态问答能力
- 现存局限
- 如果预测出错，会出现无效加载，额外消耗闪存带宽与功耗
- 持续高负载推理，闪存反复读写，会带来更高功耗与发热
- 中端机型闪存读写速度偏弱，速度上限不如旗舰手机
- 虽然精度损失很小，但预测调度本身依然存在理论上的路由偏差风险
| 设备 | 运行内存占用 | 推理速度 |
|---|---|---|
| iPhone 17 Pro Max | 约 3GB | 13 token/s |
| iPhone 18 Pro Max | 约 3GB | 20 token/s |
| 优化后新版本 | 约 3GB | 最高 30 token/s |
| iPad Pro M4 | 约 3GB | 平均提速约 5 倍 |
整体来看，这套方案改变了手机端侧模型的扩容逻辑，不再比拼把完整模型装进运存，而是用存储调度、稀疏激活的思路打通闪存和内存，让更多普通手机也能运行接近过去云端水平的多模态模型，为离线智能助手、本地识图、端侧智能体打下基础。
【相关 FAQ】
问题 1：面壁智能想要在手机放下更大端侧模型，最核心的技术是什么？
回答 1：面壁智能想要在手机放下更大端侧模型，最核心的是 LES 前瞻专家调度，搭配 MoE 混合专家架构，不用将全部模型常驻运存，提前预加载专家权重，解决闪存读取拖慢推理的痛点。
问题 2：面壁智能这套端侧模型方案，为什么只需要大约 3GB 内存就能跑 35B 参数模型？
回答 2：面壁智能这套端侧模型采用 MoE 架构，总参数虽然是 350 亿，但每次推理只激活 30 亿参数，其余专家权重放在闪存，依靠前瞻调度按需调入内存，所以只需要约 3GB 运行内存。
问题 3：面壁智能这套可以在手机运行的大端侧模型，适合什么样的使用场景？
回答 3：面壁智能这套手机端侧大模型适合离线本地识图、文档解析、多模态问答、本地智能助手、端侧 Agent，数据不用上传云端，兼顾隐私和大模型理解能力。
【参考资料】
[2026-11-09]（在手机里如何塞下更大的端侧模型？面壁智能提供新答案）界面新闻
[2026-11-09]（35B 模型跑进手机，面壁智能押注端侧 AI 的下一阶段）每日经济新闻
[2026-11-09]（端侧逼近 “ChatGPT 时刻”：面壁智能用 Infra，让 35B 模型跑在手机内存里）腾讯新闻
[2026-10-26]（350 亿参数 MoE 流畅进手机，面壁智能 LES 让端侧 AI 迎来历史拐点）凤凰网科技
[2026-10-13]（仅约 3GB 内存即可运行，面壁智能发布新一代端侧多模态大模型）新京报
【免责声明】
本文仅为公开行业资讯整理，不构成模型部署、芯片选型、产品开发投资建议；文中速度、内存占用、精度表现来自官方公开测试，实际效果会受手机闪存、芯片、系统调度影响；模型开源协议、后续迭代更新以面壁智能以及 OpenBMB 社区官方发布为准。
本文来自作者[昭澜寻标]投稿，不代表环球品牌网立场，如若转载，请注明出处：https://www.865171.cn/qyzx/202611/134.html
评论列表（4条）
我是环球品牌网的签约作者“昭澜寻标”！
希望本篇文章《面壁智能拿出全新方案，让手机容纳更大端侧大模型》能对你有所帮助！
本站[环球品牌网]内容主要涵盖：品牌服务领域
本文概览：想要在内存有限的手机里面放下更大的端侧模型，面壁智能给出的核心解法就是依托 MoE 混合专家架构搭配自研 LES 前瞻专家调度技术，推出 MiniCPM‑V 4.7，其中 35B‑A3B 版本总参数达到 350 亿，推理的时候只激活 30 亿参数，只占用大约 3GB 的运行内存，不用把全部模型权重一次性塞进手机运存，绝大多数专家权重存放在手机闪存里面，需要的时候再加载调用，同时通过预测加载掩盖读取延迟，兼顾模型规模、推理速度和输出精度，打破过去手机端侧模型越大、内存开销就必须同步暴涨的固有思路。以往想要把大模型放到手机，大多只有两条路，要么大幅裁剪模型参数、牺牲理解能力，要么使用激进量化，造成回答、识图的效果明显下滑；就算用上 MoE 架构，如果没有配套调度，只能等上一层运算结束，再去读取下一层专家权重，大量时间浪费在等待闪存读取上面，实测在 iPhone 17 Pro Max 上只能跑到每秒 3 个 token，流畅度完全达不到日常使用标准。面壁智能这套方案把串行读取改成并行预加载，在当前层正在计算的时候，提前预判下一层会用到哪些专家，同步把对应的权重调入内存，同时搭配权重连续排布、逐层混合精度量化、投机解码、视觉 token 前置压缩等配套优化，进一步压低传输开销，让大模型在手机上可用。