国产端侧小模型密集开源，智能密度成新战场

发布时间：2026-09-11 04:01 更新时间：2026-09-11 04:01 阅读量：0

9月8日，面壁智能联合OpenBMB开源社区发布新一代端侧语言基座模型MiniCPM5-2B，参数规模2B，支持工具调用、深度搜索、代码生成等任务。据公开信息，该模型在Artificial Analysis榜单上取得23分，智能密度高于Qwen3.5 9B与谷歌Gemma 4 12B。除模型权重外，官方还开源了强化学习框架Meshy、JustRL II以及训练配方与数据集，MiniCPM系列全球累计下载量已突破5000万次。

端侧适配是这类模型能否落地的关键。MiniCPM5-2B已完成英特尔、瑞芯微、Arm等芯片的首日适配，对打算在边缘设备、低配服务器或开发板上跑推理的站长来说，选型空间比过去更大。具体支持的芯片型号、量化方式与推理框架，建议以官方仓库说明和实际环境为准。

百万上下文下放到端侧

9月1日，科大讯飞开源星火X2.5-4B与X2.5-1.7B两款端侧模型，原生支持100万Token上下文，基于全国产算力平台训练，权重已上线Hugging Face、GitHub，API限时免费。9月7日至8日发布的星火X2.5旗舰版则采用MoE架构，参数规模293B-A30B，支持256K上下文，同样依托全国产算力完成训练与推理，重点强化代码生成与智能体能力，支持200余种语言。

把长上下文能力压到几B参数的模型上，直接好处是本地知识库、日志检索、文档问答这类场景可以不再依赖云端接口，数据不必出内网。当然，上下文长度只是指标之一，实际问答质量还取决于文档切分策略与向量库配置，部署前最好用小样本先验证一轮。

旗舰与端侧同步，开源矩阵分层成型

8月28日，腾讯开源的混元Hy4 preview总参数770B、激活参数49B，上下文突破1M，官方称首次让模型参与自身训练方法与数据策略的自动优化，推理吞吐提升超过三成，已接入CodeBuddy、元宝、ima等产品。几条路线放在一起看，头部厂商的手法趋同：云端旗舰走稀疏MoE，用相对更小的激活参数换取旗舰级能力，把调用成本压下来；终端与边缘则密集开源轻量模型，形成分层矩阵。

行业数据也印证了这种取向。2026年6月，我国日均词元调用量接近175万亿，开源模型处理的词元占比从1月的34%升至6月的65%。对中小站长和运维人员来说，可自托管的高质量模型越多，做私有化智能客服、站内搜索与内容辅助的试错成本就越低。需要提醒的是，选用前务必确认开源协议的商用条款、显存与量化门槛，并以官方文档为准。

继续阅读