国产大模型开源潮:端侧百万上下文与轻量化智能体齐发

    发布时间:2026-09-29 12:30 更新时间:2026-09-29 12:30 阅读量:9

    刚刚过去的这一段时间,国产大模型的开源动作相当密集。从端侧小模型到百亿参数智能体模型,多家厂商几乎在同一窗口期放出权重,节奏比以往更快。对关注建站与运维的读者来说,这些模型意味着本地部署、私有化推理的可选方案又多了一批。

    端侧小模型:把百万上下文塞进本地

    9月1日,科大讯飞开源了星火X2.5-4B与1.7B两款端侧通用大模型,官方说法是端侧原生支持最长100万Token上下文。这两款模型采用混合注意力架构,针对智能体、代码、数学和指令遵循做了优化,基于全国产算力平台完成全流程训练,预训练数据约20万亿Token。部署侧兼容vLLM、SGLang、llama.cpp,也能通过Ollama、LM Studio快速跑起来,权重已在Hugging Face与GitHub开放。官方同时预告,9月7日发布新一代旗舰通用大模型星火X2.5(293B),进一步升级代码与智能体能力。

    中国电信则在9月17日发布星辰Xing4.0-29B-A4B,定位国内首个全栈国产轻量级代码智能体大模型。它采用MoE架构,总参数29B、激活参数仅4B,官方称这是国内首个基于国产算力和国产框架完成训练的百亿参数大模型,经过低比特量化后可在消费级显卡上本地运行。能力重心从“会回答”转向“会做事”,强调任务规划、工具调用与自主执行,权重已在GitHub、Hugging Face、Gitee、魔搭、魔乐等社区发布,后续还规划更大参数规模的Xing4.0系列。

    旗舰与多模态:稀疏架构、国产芯片承载

    智谱方面,GLM-5.3-Flash于8月26日上线并开源,是GLM-5系列首个原生多模态模型(320B-A18B),采用稀疏注意力与线性注意力混合架构,兼顾长上下文与低成本。官方表示其全部线上流量由10万张国产芯片承载,性能超过参数量高一倍的GLM-5.2,定价约为后者的十分之一。9月上旬,GLM-5.3权重开源,主打复杂编码、防御性网络安全与长程任务处理,支持本地运行和个性化定制。

    腾讯混元8月28日开源Hy4 preview,总参数770B、激活参数49B,上下文长度突破1M,定位“为生产力而生”,在代码、办公、科学任务上表现突出。官方披露,163名专家、203个工程任务的盲测得分为2.99/4.00。该模型已接入WorkBuddy/CodeBuddy、元宝、ima等产品,可通过腾讯云Tokenhub和OpenRouter接入API。此外,国光量超发布了行业首个量子增强型大模型“玄幂”,面向科研与学术领域。

    对站长和运维意味着什么

    这一轮开源的共同点很明显:一是国产算力自主化被反复强调;二是小参数模型配合长上下文,本地化部署门槛在降低;三是智能体能力成为竞争焦点。如果您打算在自有服务器上跑推理,建议先确认显卡显存、量化格式与推理框架的兼容性,具体支持列表以各家官方文档和实际环境为准。

    # 以 Ollama 拉取并运行开源模型为例(模型名以官方发布为准)
    ollama pull <model-name>
    ollama run <model-name>
    
    

    若使用 vLLM 启动本地推理服务

    python -m vllm.entrypoints.openai.api_server \ --model /path/to/model \ --served-model-name local-model \ --port 8000

    部署前记得评估内存与显存占用,长上下文场景对KV Cache的压力不小。权重、许可协议与商用条款,请以模型官方页面公告为准。

    继续阅读

    📑 📅
    智谱完成约50亿美元融资,国产大模型商业化提速 2026-09-29
    AI芯片国产份额升至四成,算力基建进入快车道 2026-09-29
    智谱完成约50亿美元融资,国产大模型投入再加码 2026-09-29
    9月国产大模型开源盘点:端侧百万上下文与全栈国产智能体 2026-09-29
    国产AI芯片提速:首款3D算力芯片编程框架开源 2026-09-28
    中国电信发布星辰Xing4.0-29B代码智能体大模型 2026-09-29
    国产算力撑起大模型:GLM-5.3-Flash线上流量由十万张国产芯片承载 2026-09-29
    中国电信发布星辰Xing4.0-29B:百亿参数代码智能体开源 2026-09-29
    国产算力与开源模型密集落地,9月AI产业动向盘点 2026-09-30
    智谱单轮融资约50亿美元,大模型军备竞赛再升温 2026-09-30