发布时间:2026-10-20 08:11 更新时间:2026-10-20 08:11 阅读量:11
10月中旬的国产开源模型节奏相当密集。10月15日,蚂蚁百灵把总参数约560B的Ling-3.1-flash正式开源;10月17日,DeepSeek更新了V4.1 Flash-1017版本。两款模型都采用MIT协议,权重同步上架Hugging Face与ModelScope,对习惯自建推理服务的团队来说,这是本月值得留意的两次更新。
Ling-3.1-flash采用MoE架构,72层、512个路由专家,每Token激活约25B参数。它最受关注的一点是部署成本:routed experts采用MXFP4量化,dense层保持block-FP8,权重体积从约534GB降到292GB,官方给出的部署门槛随之从8卡降到4卡。对于预算有限、又希望跑一个较大参数规模模型的中小团队,这个变化比跑分更有实际意义。
上下文方面需要留个心眼。官方标称最高支持1M,但仓库中max_position_embeddings实际配置为262144,也就是说目前可验证的是256K档,百万级上下文的具体表现建议以官方文档和实测为准。性能上,Artificial Analysis智能指数为41,输出速度约210 Token/s;开源协议为MIT,仓库提供SGLang、vLLM两条部署路径,FP8 checkpoint也已开放。
如果打算在本机或自有服务器上试跑,可按官方仓库说明准备环境,SGLang的启动方式大致如下(模型路径与并行参数需按实际显卡数量调整):
python -m sglang.launch_server \
--model-path /data/models/Ling-3.1-flash \
--tp 4 \
--context-length 262144 \
--port 30000启动后可用OpenAI兼容接口做一次连通性检查:
curl http://127.0.0.1:30000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"Ling-3.1-flash","messages":[{"role":"user","content":"你好"}]}'DeepSeek这次更新重点放在推理、编程、智能体任务和视觉理解上。素材给出的跑分变化是:Terminal-Bench 4.0从31.2提升到42.3,ProgramBench从20.3提升到29.1。官方还提到通过自反馈强化学习增强了所谓“许愿式编程”,即从零构建完整项目的能力,例如游戏开发、3D建模这类任务。协议同样是MIT,权重已在Hugging Face和ModelScope开放下载。
对站长和运维来说,这类模型的直接用途通常不是聊天,而是辅助写部署脚本、排查日志、生成配置模板。编程与终端任务分数的提升,意味着在“给一段需求让它产出可运行脚本”的场景里,返工次数可能少一些;但涉及生产环境的命令仍建议人工复核后再执行,不要把模型输出直接贴进线上终端。
两款模型定位并不重叠。Ling-3.1-flash参数规模大、激活参数小,适合有一定显卡资源、希望用单机多卡承载通用推理与长上下文任务的场景;DeepSeek V4.1 Flash-1017更偏编程与智能体执行,适合接入开发流程做辅助工具。真正落地前,建议先确认三件事:显卡型号与显存是否满足量化后的权重加载、推理框架版本是否匹配模型仓库要求、以及并发量估算下的显存余量。具体支持列表与版本要求以官方文档和实际环境为准。
另外,10月15日前后还有阶跃星辰Step 5 Preview开放完整权重、蚂蚁百灵同日开源等动作,国产算力厂商的Day-0适配也在同步推进。开源模型更新快,部署方案跟着变,保持关注官方仓库的release说明,比追单一跑分更稳妥。
| 📑 | 📅 |
|---|---|
| 百度文心5.0:2.4万亿参数原生全模态模型落地 | 2026-10-20 |
| 腾讯Marvis上架银河麒麟,AI管家适配国产系统 | 2026-10-20 |
| 无问芯穹23亿C轮落地,AI原生基础设施受关注 | 2026-10-20 |
| 月之暗面500亿美元估值融资:Kimi的商业化考题 | 2026-10-20 |
| 模思智能10亿Pre-A轮:全模态实时交互赛道受关注 | 2026-10-20 |
| 千亿资金涌入头部,10月国内大模型融资与上市筹备提速 | 2026-10-20 |
| 蚂蚁百灵Ling-3.1-flash开源:4卡可部署的560B模型 | 2026-10-20 |
| 10月国内AI产业观察:算力扩张与智能体落地加速 | 2026-10-20 |
| 扩散语言模型公司DiffuSpace融资近5亿元 | 2026-10-20 |
| 扩散语言模型获数亿融资,端侧Agent成新看点 | 2026-10-21 |