发布时间:2026-10-19 04:59 更新时间:2026-10-19 04:59 阅读量:3
10月13日,面壁智能发布新一代端侧多模态大模型 MiniCPM-V 4.7,一次给出两个规格:35B-A3B 的 MoE 版本与 1B 的小参数版本。对做建站、做轻应用的站长来说,这条消息的价值不在于参数榜,而在于它把「多模态能力」往本地设备又推了一步。
35B-A3B 采用稀疏 MoE 结构,总参数 35B,每个 Token 实际激活约 3B,因此显存与内存压力远小于同总参数的稠密模型。按官方披露,这一版本约 3GB 内存即可运行,在 iPad Pro 上实测解码速度达到 15+ token/s。1B 版本则面向更轻的终端场景,适合算力与存储都紧张的设备。
需要提醒的是,端侧运行的可行性与量化方式、运行框架、设备内存规格关系很大,具体占用与速度请以面壁智能官方文档和你的实际设备测试结果为准,不要直接照搬宣传口径做容量规划。
MoE 模型放到端侧,难点不在算力峰值,而在专家权重加载带来的卡顿与内存抖动。面壁智能称该版本依托自研的 LES(前瞻专家调度)技术来缓解这一问题,让专家切换更平滑。这个思路与云端推理的调度优化同源,但端侧对延迟更敏感,效果好不好最终要看真机体验。
生态适配上,官方表示发布即支持瑞芯微、NVIDIA、Intel、Apple 等平台,兼容 iOS、安卓与鸿蒙。对做移动端页面、轻量客服助手或本地图像理解工具的开发者,这意味着可选的落地路径更多了。
如果你的站点或应用计划接入本地多模态推理,建议先在开发机上跑通推理链路。以 Python 环境为例,先确认运行框架与设备驱动就绪,再加载模型权重:
python3 -m venv minicpm-env
source minicpm-env/bin/activate
pip install -U torch transformers accelerate
python3 -c "import torch; print(torch.__version__, torch.cuda.is_available())"这段命令只做环境自检,权重下载与具体推理脚本请以面壁智能在 Hugging Face、ModelScope 页面给出的官方示例为准。部署到边缘盒子或移动端时,还要评估模型文件体积、内存峰值与首 Token 延迟,较实用真实业务图片做一轮压测再上线。
另外,MiniCPM 系列全球累计下载量已突破 6000 万次,社区示例相对丰富,遇到框架兼容问题通常能较快找到参考。不过端侧模型迭代快,选型时建议把「能否稳定复现」放在「参数多大」之前,先小流量验证,再谈规模化。
| 📑 | 📅 |
|---|---|
| 月之暗面传赴港上市,估值与融资节奏引关注 | 2026-10-19 |
| 十月国产算力提速:国产AI加速卡份额首破四成 | 2026-10-19 |
| 560B参数仅激活25B:蚂蚁百灵Ling-3.1-flash开源解读 | 2026-10-19 |
| 10月国内AI融资密集:基础设施与具身智能受捧 | 2026-10-19 |
| 十月国产开源大模型密集更新:稀疏MoE与百万上下文成标配 | 2026-10-19 |
| 阶跃星辰开源Step 5 Preview权重,国产算力同步适配 | 2026-10-19 |
| 扩散语言模型公司DiffuSpace连获两轮数亿元融资 | 2026-10-19 |
| 蚂蚁开源560B模型Ling-3.1-flash,1M上下文落地 | 2026-10-19 |
| 10月国产大模型融资潮:头部千亿级与细分路线并进 | 2026-10-19 |
| 扩散语言模型DiffuSpace两轮融资近5亿,10月将开源新模型 | 2026-10-19 |