10月国产开源大模型密集更新:端侧与百万上下文成焦点

    发布时间:2026-10-22 08:43 更新时间:2026-10-22 08:43 阅读量:12

    10月的国产大模型圈子节奏明显加快,而且这一轮的主角不少是“开源”和“可部署”。从10月中旬到下旬,DeepSeek、蚂蚁百灵、记忆张量、中国电信等团队陆续放出新版本或新权重,关注点也从单纯比参数,转向端侧能不能跑、上下文能拉多长、部署要几张卡。对站长和运维来说,这些变化直接影响自建推理服务的成本和选型。

    一、十月国产开源模型的发布节奏

    10月13日,面壁智能发布 MiniCPM-V 4.7 端侧多模态大模型,包含 35B-A3B 与 1B 两个版本,被介绍为首个可在端侧无损运行的开源 MoE 模型。10月15日,蚂蚁百灵开源 Ling-3.1-flash,总参数约 560B、每 Token 激活约 25B,最高支持 1M 上下文;据公开报道,其 routed experts 采用 MXFP4 量化,权重占用从约 534GB 降至 292GB,服务部署由 8 卡降至 4 卡。

    10月17日,DeepSeek 更新 V4.1 Flash-1017,重点提升完整项目开发与智能体任务能力,权重及配套代码按 MIT 许可证开放,并提供推理代码与本地部署说明。10月20日,记忆张量发布记忆原生模型 MemT 1.0 系列,含 MemT-1.0-Flash(288B)与 MemT-1.0-Nano(36B),已在 Hugging Face 等平台开源。同日,中电信星辰开源 Xing4.0-29B-Intent 意图理解专用模型,同步开放 275 万条训练语料、模型权重与推理镜像。

    二、三个值得留意的技术方向

    第一是端侧。MiniCPM-V 4.7 的 1B 版本、讯飞此前开源的星火 X2.5-4B/1.7B 都在往小体积走,端侧模型开始承担过去只有云端旗舰才能做的多模态与长上下文任务。第二是长上下文下沉。1M Token 上下文此前多见于旗舰模型,如今 Ling-3.1-flash 这类开源模型也已支持,部署时对显存和并行策略的要求需要重新评估。

    第三是记忆架构。MemT 1.0 把“可更新、可持续存在的内部记忆”纳入模型计算,历史信息可在后续任务中直接调用。据公开评测,MemT-1.0-Nano 在 SWE-bench Verified 500 项任务上成功率从 66.07% 提升至 69.73%,长历史场景下推理速度提升约 1.86 倍(128K)至 3.99 倍(256K)。这类设计对需要长期对话记忆的站点客服、知识库问答场景有参考价值。

    三、自建推理服务时的实操建议

    开源权重到手后,第一件事是确认显存与量化方案,而不是直接拉满上下文。以常见的 vLLM 部署为例,先小上下文验证服务可用,再逐步放开长度,能少走不少弯路:

    # 示例:以 vLLM 启动本地推理服务,具体参数以模型官方文档为准
    python -m vllm.entrypoints.openai.api_server \
      --model /data/models/your-model-path \
      --served-model-name local-model \
      --max-model-len 32768 \
      --gpu-memory-utilization 0.90 \
      --port 8000

    启动后可用 OpenAI 兼容接口做一次连通性检查,确认返回结构正常再接入业务:

    curl http://127.0.0.1:8000/v1/chat/completions \
      -H "Content-Type: application/json" \
      -d '{"model":"local-model","messages":[{"role":"user","content":"你好"}]}'

    另外,采用 MIT 等宽松许可的模型在商用上限制较少,但仍建议逐条核对模型卡中的许可与使用条款;涉及国产算力平台时,优先查看官方是否提供对应硬件的适配说明与镜像。以上发布信息多来自企业与媒体公开披露,具体版本能力、权重获取方式与部署要求,请以各团队官方文档和公告为准。

    继续阅读

    📑 📅
    国产模型开源潮:从百万上下文到原生记忆 2026-10-22
    记忆张量开源MemT 1.0:大模型开始“会积累” 2026-10-22
    Xing4.0-29B-Intent开源:意图理解有了专用小模型 2026-10-22
    WPS 365政务版落地:办公AI转向订阅式服务 2026-10-22
    北京经开区新增10个垂直大模型备案,世界模型入列 2026-10-22
    10月国内大模型融资升温 算力与具身智能受关注 2026-10-22
    蚂蚁百灵开源Ling-3.1-flash:560B参数、1M上下文、4卡可部署 2026-10-22
    DeepSeek V4.1 Flash-1017更新:编程与智能体能力提升 2026-10-22
    记忆张量MemT 1.0开源:让大模型自带可更新记忆 2026-10-22
    百度搭子从办公桌走向生产线 企业客户环比增83% 2026-10-22