10月国产开源大模型密集更新,端侧与Agent成主线

    发布时间:2026-10-19 23:54 更新时间:2026-10-19 23:54 阅读量:10

    进入10月,国产开源大模型的更新节奏明显加快。从10月13日到10月19日,面壁智能、蚂蚁、阶跃星辰、DeepSeek、岩芯矩阵先后放出新模型或新权重,几家的技术路线不尽相同,但放在一起看,能看出一些共同的取向。

    一波密集更新,参数与场景各不相同

    10月13日,面壁智能发布端侧多模态模型 MiniCPM-V 4.7,包含 35B-A3B 的 MoE 版本和 1B 版本。官方给出的数据是 35B-A3B 约 3GB 内存即可运行,在 iPad Pro 上实测解码速度 15+ token/s,并采用自研的 LES(前瞻专家调度)技术缓解 MoE 在端侧的运存卡顿问题。MiniCPM 系列全球累计下载量已突破 6000 万次。

    10月15日同一天有两家出手。蚂蚁开源 Ling-3.1-flash 权重,560B 总参数、25B 激活,采用混合线性架构与 MXFP4 混合量化,官方称权重占用减少约 45%,部署从 8 卡降到 4 卡;标称支持百万级上下文,不过实际配置为 256K,这一点在报道中也有讨论。阶跃星辰则开源 Step 5 Preview,面向长程 Agent 任务,稀疏 MoE 架构,600B 总参数、27B 激活,支持 100 万 Token 上下文,原生支持文本与视觉输入,BF16 与 FP8 权重、技术报告和开发工具同日开放。

    10月17日,DeepSeek 更新 V4.1-Flash-1017,参数规模 763B,延续 MIT 许可证,权重已在 HuggingFace 和 ModelScope 开放下载。这一版重点提升推理、编程、智能体任务与视觉理解,Terminal-Bench 4.0 从 31.2 升至 42.3,ProgramBench 从 20.3 升至 29.1,官方主打的说法是“许愿式编程”,即从零构建完整项目。10月19日,岩芯矩阵联合香港科技大学、卡内基梅隆大学等发布并开源 EdgeRock-4B,面向长上下文推理,用固定容量历史状态降低推理内存开销,支持文本与图像。

    三个信号:MoE、长上下文、端侧

    把这几个模型横向摆开,稀疏 MoE 几乎是标配,“大总参、小激活”成了通用打法,Ling-3.1-flash 的 560B/25B 和 Step 5 的 600B/27B 都是这个思路。第二个信号是上下文长度,Step 5、Ling-3.1 都在往百万级 Token 上靠,长上下文正在从卖点变成基础设施。第三个是端侧,MiniCPM-V 4.7 和 EdgeRock-4B 走的是小参数、低内存的路子,瞄准本地化部署和边缘设备。

    更值得留意的是评价标准的变化。DeepSeek 这次把 Terminal-Bench 和 ProgramBench 放在显眼位置,阶跃强调“长程 Agent 任务”,都说明竞争焦点正从单纯的跑分,转向每张卡每天能实际完成多少任务。对站长和运维来说,这意味着选型时除了看榜单,还要看模型在自己业务场景里的实际吞吐和稳定性。另外,MIT 许可在这一批里出现频率较高,商用限制相对宽松,但具体条款仍建议以各模型官方仓库为准。

    部署前先算清楚显存与上下文

    如果你打算在自有服务器上试跑这批模型,建议先按实际量化格式估算显存,再决定卡数,不要直接照搬宣传中的“几卡可跑”。下面以 ModelScope 下载权重、用 vLLM 起一个 OpenAI 兼容服务为例,参数需按你的模型与显卡情况调整:

    # 安装依赖(版本以官方文档为准)
    pip install -U modelscope vllm
    
    

    下载模型权重到本地目录

    modelscope download --model <组织名>/<模型名> --local_dir ./models/<模型名>

    启动 OpenAI 兼容服务,按显存调整并行度与上下文长度

    vllm serve ./models/<模型名> \ --served-model-name local-model \ --tensor-parallel-size 4 \ --max-model-len 32768 \ --gpu-memory-utilization 0.90 \ --port 8000

    验证服务是否正常

    curl http://127.0.0.1:8000/v1/models

    启动后先用短请求压测,观察显存占用和首 token 延迟,再逐步把 max-model-len 往上调,避免一次性拉到标称上限导致 OOM。上下文长度、量化格式与最低硬件要求,各家口径不完全一致,部署前请以模型官方文档和实际环境测试结果为准。

    继续阅读

    📑 📅
    10月国产算力观察:智能算力达2185EFLOPS,芯片转向拼效率 2026-10-19
    扩散语言模型公司DiffuSpace连融两轮,10月将开源新模型 2026-10-19
    DeepSeek拟投Winverse AI,大模型资本伸向机器人“大脑” 2026-10-19
    蚂蚁百灵开源560B模型,4卡可跑但百万上下文待验证 2026-10-19
    中国移动具身智能平台已纳管21家厂商机器人 2026-10-19
    10月国内AI融资升温:全模态与扩散模型受关注 2026-10-19
    10月国产算力观察:智能算力规模与芯片生态进展 2026-10-19
    10月国产开源模型密集更新:端侧与稀疏化成主线 2026-10-20
    10月国内大模型融资观察:头部吸金与垂直赛道崛起 2026-10-20
    10月大模型落地提速:从医院导诊到国产系统适配 2026-10-20