9月国产大模型开源盘点:端侧百万上下文与全栈国产智能体

    发布时间:2026-09-29 04:00 更新时间:2026-09-29 04:00 阅读量:7

    刚刚过去的9月,国产大模型的开源节奏明显加快。与上半年集中比拼参数规模不同,这一批新模型把重点放在了“能不能落到设备上、能不能跑在国产算力上”。对站长和运维来说,这意味着本地部署大模型的门槛正在肉眼可见地降低。

    端侧模型先破局:百万上下文塞进小参数

    9月1日,科大讯飞开源了星火X2.5-4B与1.7B两款端侧通用大模型,权重已在Hugging Face、GitHub开放。据公开信息,这是端侧首个原生支持最长100万Token上下文的模型,采用混合注意力架构。4B、1.7B这样的体量,配合量化后基本可以落在消费级显卡甚至高配终端上,对想在内网做知识问答、日志摘要的团队比较友好。

    9月17日,中国电信发布星辰Xing4.0-29B-A4B,定位为全栈国产轻量级智能体(Agent)大模型。它采用MoE架构,总参数29B、激活仅4B,官方称可在消费级显卡本地运行,代码与权重已上线GitHub、Hugging Face、Gitee、魔搭等社区。MoE“大总参数、小激活参数”的思路,本质是用显存换推理速度,这也是今年国产开源模型的主流选择。

    华为开源训练全链路,昇腾生态再补一环

    9月28日,华为将openPangu-2.0的预训练、SFT代码和后训练RL代码正式开源。此前开源社区更多拿到的是推理权重,训练侧代码往往不公开,这次把训练链路放出来,对想基于昇腾做二次训练或领域微调的团队价值更大。需要注意,openPangu系列聚焦昇腾原生训练与推理,实际部署前建议先核对官方文档中的硬件与驱动版本要求,具体以官方说明和实际环境为准。

    把三条动态放在一起看,能看出国产开源模型的两条主线:一条是把上下文和Agent能力往端侧压,另一条是把训练与推理全流程迁到国产算力上。对运维人员来说,前者关系到能不能用一台带显卡的服务器跑起来,后者则关系到采购与适配成本。如果近期有自建推理服务的打算,可以先从4B级别模型做验证,再根据显存和并发情况决定是否上更大参数。

    部署前不妨用一条命令确认本机显卡与驱动状态,避免下载完权重才发现环境不匹配:

    nvidia-smi
    

    查看显卡型号、显存与驱动版本

    无 NVIDIA 显卡时,可改用国产算力卡对应的管理工具,以厂商文档为准

    模型权重下载后一般需要转换或量化,建议预留出与权重体积相当的磁盘空间,并在部署时限制显存占用上限,防止推理进程把整机内存拖垮。至于各模型的具体量化方案、最低显存要求,官方仓库通常有说明,以官方公告与实际测试结果为准。

    继续阅读

    📑 📅
    国产AI芯片提速:首款3D算力芯片编程框架开源 2026-09-28
    智谱完成50亿美元融资,六成投向下一代模型 2026-09-28
    工信部电子信息制造业十五五规划出炉,AI硬件底座成重点 2026-09-28
    9月国内AI融资盘点:DeepSeek估值750亿美元 2026-09-28
    9月国产开源大模型密集上新,小米MiMo-V2.6登顶开源榜 2026-09-28
    智谱完成约50亿美元融资,国产大模型投入再加码 2026-09-29
    AI芯片国产份额升至四成,算力基建进入快车道 2026-09-29
    智谱完成约50亿美元融资,国产大模型商业化提速 2026-09-29
    国产大模型开源潮:端侧百万上下文与轻量化智能体齐发 2026-09-29
    中国电信发布星辰Xing4.0-29B代码智能体大模型 2026-09-29