国产开源大模型集体提速:百万上下文与Agent能力成新赛点

    发布时间:2026-10-06 00:17 更新时间:2026-10-06 00:17 阅读量:15

    对站长和运维来说,2026年下半年国产开源大模型的更新节奏明显加快。过去大家选模型主要看参数量和跑分,现在讨论更多的变成了上下文能开多长、能不能自己调工具干活、以及在国产芯片上跑不跑得起来。这几条线索,恰好串起了近几个月国产开源模型的几款主要新品。

    百万Token上下文从旗舰下放到端侧

    上下文长度是这轮更新里最直观的变化。智谱在6月17日上线并开源GLM-5.2,主打长程任务,可连续工作数小时自主完成大型工程,实现100万Token无损上下文,采用MIT License,可自由下载、部署和商用,并适配华为昇腾、平头哥、摩尔线程、寒武纪等多个国产算力平台。

    更值得注意的是端侧。科大讯飞全资子公司词元星火在9月1日开源星火X2.5-4B与1.7B,据公开信息,这是端侧模型中首个原生支持最长100万Token上下文的产品,采用混合注意力架构,围绕智能体、代码、数学、指令遵循做优化,基于全国产算力平台完成全流程训练,约20万亿Token数据,支持英伟达、华为、海光、后摩等硬件,兼容vLLM、SGLang、llama.cpp等框架,可通过Ollama、LM Studio快速部署。换句话说,一台普通开发机也能跑起长上下文模型了。

    从“会回答”转向“会做事”

    Agent能力是另一条主线。腾讯混元4月23日发布并开源Hy3-preview,采用快慢思考融合的MoE架构,总参数295B、激活参数21B,最大支持256K上下文,这是混元重建预训练与强化学习基础设施后的首款模型,复杂推理、指令遵循、代码与Agent能力均有提升,已接入腾讯云、元宝、QQ等产品。

    MiniMax在4月12日开源M2.7,亮点是可自行构建复杂智能体控制框架,开源首日即完成华为昇腾、摩尔线程、沐曦、昆仑芯、NVIDIA等平台的接入与推理适配。中国电信9月发布的星辰Xing4.0-29B,则是国内首个基于国产算力和国产框架完成训练、面向复杂工程任务优化的百亿参数模型,面向Agent架构设计,轻量化到消费级显卡即可本地运行,发布仅3天进入Hugging Face趋势榜第四。

    部署这类模型时,常见的本地推理可以这样起服务,参数按实际显存调整:

    # 以 vLLM 为例,具体参数以官方文档和实际硬件为准
    python -m vllm.entrypoints.openai.api_server \
      --model /data/models/your-llm \
      --served-model-name local-llm \
      --tensor-parallel-size 1 \
      --max-model-len 32768 \
      --gpu-memory-utilization 0.9 \
      --port 8000

    开源生态与选型建议

    把时间线拉长看,2025年底以来国产开源的密度一直不低:中国电信TeleAI在2025年12月开源TeleChat3-105B-A4.7-Thinking,被称为国内首个全国产化千亿参数细粒度MoE语义大模型;智谱GLM-4.7在Code Arena开源模型和国产模型中排名靠前;蚂蚁集团百灵大模型家族全系开源,其中Ring-1T达到IMO 2025银牌水平;中科院自动化所9月开源“瞬悉1.0”类脑脉冲大模型7B版本。据悉阿里千问家族累计开源模型已超过400款。

    对中小站点来说,选型思路可以更务实:需要长文档处理、知识库问答的,优先看百万上下文且协议宽松的模型;要做自动化流程、工具调用的,重点验证Agent框架兼容性;只有一台普通服务器或工作站的,端侧小模型加Ollama这类方案往往比硬上大参数模型更稳。模型权重可从Hugging Face、ModelScope、GitHub、Gitee等平台获取,具体版本、许可与下载地址以各官方公告为准。

    继续阅读

    📑 📅
    DeepSeek冲刺500亿融资,拟登科创板 2026-10-06
    国产AI芯片与算力:政策加码下的攻坚路径 2026-10-06
    10月国产大模型密集上新,智谱阶跃阿里同台竞技 2026-10-06
    2026年国产AI芯片与算力网新动态 2026-10-05
    国内AI产品动态:智能体平台与政务中枢落地提速 2026-10-05
    国产AI算力超节点密集落地,10万卡集群走向工程化 2026-10-06
    DeepSeek营收破10亿美元,筹备科创板上市 2026-10-06
    大厂抢滩个人AI助理:小豆、千问、Handy Bot路线分化 2026-10-06
    无问芯穹递表港交所,AI基建IPO梯队浮现 2026-10-06
    世界模型成AI视频融资新叙事,前7个月吸金666亿 2026-10-06