发布时间:2026-10-22 08:27 更新时间:2026-10-22 08:27 阅读量:11
进入2026年10月,国内大模型厂商的开源动作密集了不少。与上半年拼参数、拼榜单不同,这一轮更新更强调两件事:一是把长上下文、推理与工具调用能力做扎实,二是把权重和部署条件放宽,让中小团队也能在自己的机器上跑起来。对站长和运维人员来说,这意味着可选的自建模型又多了一批,选择前需要先看清许可和硬件门槛。
10月17日,DeepSeek 更新 V4.1 Flash-1017,官方口径是重点改进推理、编程、智能体与视觉理解。素材显示,其 Terminal-Bench 4.0 成绩从31.2提升到42.3,ProgramBench 从20.3提升到29.1,模型权重及代码按 MIT 许可证开放。MIT 属于宽松许可,商用限制较少,但仍建议在使用前核对仓库中的许可证原文与附加说明。
10月15日至16日,蚂蚁百灵开源 Ling-3.1-flash,总参数约560B,每个 token 激活约25B,最高支持1M上下文。官方披露的数据显示,其 Artificial Analysis 智能指数为41,输出速度约210 token/s。为了让部署更现实,routed experts 采用 MXFP4 量化后,权重占用从534GB降到292GB,部署所需显卡由8卡降至4卡,并支持长上下文并行推理与 JSON Schema 工具调用。如果打算在自有服务器上部署,显存与卡数预算可以按这个量级先做估算,实际占用以官方仓库和实测为准。
10月20日,中电信星辰发布 Xing4.0-29B-Intent 意图理解专用模型,定位是同时完成“选择题”式的分类和“填空题”式的参数抽取,采用统一 Schema 驱动语义解析框架,直接输出结构化 JSON。同步开放的还有275万条训练语料、模型权重与推理镜像,据素材介绍已用于电信客服、智能家居音箱等场景。对于需要把用户自然语言转成接口参数的建站项目,这类专用小模型往往比通用大模型更省资源。
把这几条动态放在一起看,长上下文正在从旗舰模型下沉。此前9月1日,科大讯飞开源星火 X2.5-4B 与1.7B 端侧模型,素材称其为端侧首个原生支持100万 Token 上下文的模型,基于全国产算力平台、约20万亿 token 训练,兼容 vLLM、SGLang、llama.cpp 等推理框架。更早的6月17日,智谱上线并开源 GLM-5.2,同样支持1M上下文,采用 MIT License,并在发布首日适配昇腾、摩尔线程、寒武纪等国产算力。
国产算力适配几乎成了这一批模型的标配动作。对运维人员而言,这直接影响到推理环境的选型:如果服务器上是国产加速卡,优先查看模型仓库是否给出对应镜像和量化权重;如果是常见的英伟达环境,则可以先用 vLLM 或 SGLang 起服务验证效果。下面是一个通用的推理服务启动示例,具体参数需按模型官方文档调整:
# 示例:使用 vLLM 启动兼容 OpenAI 接口的推理服务
模型名称、端口、显存比例请以官方仓库说明和实际环境为准
python -m vllm.entrypoints.openai.api_server \
--model /data/models/your-model-path \
--served-model-name local-model \
--host 0.0.0.0 \
--port 8000 \
--max-model-len 32768 \
--gpu-memory-utilization 0.90
启动后可用 curl 验证服务是否正常
curl http://127.0.0.1:8000/v1/models
需要注意的是,1M上下文并不等于日常就该开满。上下文越长,显存占用和首 token 延迟越高,实际业务里建议按场景设置上限,比如问答类控制在数万 token,长文档摘要再单独放宽。另外,开源权重下载后应先校验文件完整性,再放入内网模型目录,避免把未经确认的模型文件直接暴露在公网服务中。
这一批开源模型的共同趋势是:宽松许可增多、专用小模型回归、长上下文与国产算力适配同步推进。选型时可以先明确三件事——许可证是否允许商用、现有硬件能否承载量化后的权重、推理框架是否已有现成支持。融资与产品动态方面,据媒体报道,10月国内大模型领域还有多笔大额融资传闻,相关金额与估值多为知情人士消息,尚未获公司官方公告确认,建议以官方披露为准,不宜作为采购决策依据。
| 📑 | 📅 |
|---|---|
| 记忆张量开源MemT 1.0:大模型开始“会积累” | 2026-10-22 |
| Xing4.0-29B-Intent开源:意图理解有了专用小模型 | 2026-10-22 |
| WPS 365政务版落地:办公AI转向订阅式服务 | 2026-10-22 |
| 北京经开区新增10个垂直大模型备案,世界模型入列 | 2026-10-22 |
| 国产算力迈入规模化阶段:智算规模达2185 EFLOPS | 2026-10-22 |
| 10月国产开源大模型密集更新:端侧与百万上下文成焦点 | 2026-10-22 |
| 10月国内大模型融资升温 算力与具身智能受关注 | 2026-10-22 |
| 蚂蚁百灵开源Ling-3.1-flash:560B参数、1M上下文、4卡可部署 | 2026-10-22 |
| DeepSeek V4.1 Flash-1017更新:编程与智能体能力提升 | 2026-10-22 |
| 记忆张量MemT 1.0开源:让大模型自带可更新记忆 | 2026-10-22 |