发布时间:2026-10-21 04:26 更新时间:2026-10-21 04:26 阅读量:7
10月的国产开源大模型圈子格外热闹。与上半年集中比拼参数规模不同,这一轮更新更多落在架构思路和配套工具上:有团队把「记忆」做进了模型本身,有厂商把内部推理框架整体开源,也有模型通过量化把部署门槛压到4张卡。对关注自建服务的站长和运维来说,这些变化直接关系到选型和资源规划。
10月20日,记忆张量团队发布并开源记忆原生大模型MemT 1.0系列,包含MemT-1.0-Flash(288B)与MemT-1.0-Nano(36B)两款。据公开报道,其核心思路是把可持续更新的内部记忆纳入模型计算,历史经验可以直接调用,不必每次重复提供原文。官方披露的信息显示,该系列在11项记忆基准上位列参数化记忆方法第一、第二,在256K长历史场景下推理提速最高接近4倍,编程智能体SWE-bench成功率也有明显提升。模型权重已通过Hugging Face等平台开源。
对做长会话类产品的团队来说,「记忆」从外部向量库挪进模型内部,意味着上下文拼接和检索链路的复杂度可能下降,但同时也对显存和推理调度提出新要求。288B与36B两个规格,实际上给了不同预算的团队两条路:前者适合有集群资源的场景,后者更适合先用小规模环境验证效果。
DeepSeek在10月有两项动作值得留意。10月17日的V4.1 Flash-1017更新重点提升推理、编程与智能体能力,公开数据显示Terminal-Bench 4.0得分从31.2升至42.3,ProgramBench从20.3升至29.1,权重按MIT许可开放。10月20日,DeepSeek又宣布全面开源内部推理框架DeepInfer,支持分布式推理与推测解码,兼容英伟达与华为昇腾平台,同时开源了Token编解码组件deepseek-recipe。
推理框架开源的意义在于,过去用户拿到权重后往往要自己拼装推理服务,如今可以直接参考官方实现。需要说明的是,具体支持的模型列表、编译参数和硬件组合,仍以官方仓库文档和实际环境为准,不建议直接照搬他人配置上线生产。
10月15日,蚂蚁百灵开源Ling-3.1-flash,总参数约560B、每Token激活约25B,最高支持1M上下文;据公开信息,量化后权重从534GB降至292GB,部署所需卡数由8卡降至4卡。同一天,阶跃星辰Step 5 Preview完整权重开源,海光DCU当日完成推理适配。10月19日,岩芯矩阵联合香港科技大学、CMU发布并开源面向长上下文推理的EdgeRock-4B,支持文本与图像推理。
如果打算在自己的服务器上试跑这些模型,建议先确认驱动、CUDA或国产加速卡工具链版本,再准备独立的Python环境,避免污染现有业务环境。
# 示例:创建独立环境并安装依赖(版本以官方仓库要求为准)
python3 -m venv /opt/llm-env
source /opt/llm-env/bin/activate
pip install --upgrade pip
pip install torch transformers accelerate huggingface_hub
下载权重前先确认磁盘余量,288B级模型建议预留充足空间
df -h /data
从Hugging Face拉取模型,具体仓库名以官方发布为准
huggingface-cli download <官方仓库名> --local-dir /data/models/memt
综合来看,这一轮更新的共同方向是长上下文、国产算力适配与架构创新,竞争焦点也从模型层延伸到推理基础设施层。对站长而言,不必急于追新,先明确自己的业务是短问答还是长会话、是纯文本还是多模态,再对照各模型的激活参数与部署卡数做取舍,会更稳妥。各模型的许可条款与商用范围,请以官方发布页面为准。
| 📑 | 📅 |
|---|---|
| 千问办公电商版发布,企业微信接入WorkBuddy | 2026-10-21 |
| 无问芯穹获23亿C轮,押注智能体基础设施 | 2026-10-21 |
| 模思智能获超10亿Pre-A轮融资,押注全模态实时交互 | 2026-10-21 |
| 蚂蚁百灵开源Ling-3.1-flash:560B参数、1M上下文 | 2026-10-21 |
| 国产算力爆发:政策组合拳与10万卡集群落地 | 2026-10-21 |
| 10月国内大模型融资升温:DeepSeek拟募千亿、Kimi估值冲高 | 2026-10-21 |
| 蚂蚁百灵Ling-3.1-flash开源:560B参数4卡可部署 | 2026-10-21 |
| 扩散语言模型获资本关注:DiffuSpace两轮融资数亿元 | 2026-10-21 |
| 国产大模型十月开源密集上新,记忆原生与扩散路线受关注 | 2026-10-21 |
| 十月大模型融资密集:千亿资金涌向头部 | 2026-10-21 |