十月国产大模型开源密集上新,端侧与百万上下文成关键词

    发布时间:2026-10-19 04:26 更新时间:2026-10-19 04:26 阅读量:2

    进入2026年10月,国产大模型的开源节奏明显加快。与上半年相比,这一轮发布不再单纯比拼参数规模,而是把重点放在部署成本、端侧可用性和国产算力适配上。对做建站和运维的读者来说,这些变化直接关系到未来能否用较低成本把模型能力接进自己的业务系统。

    阶跃星辰开放Step 5 Preview权重

    阶跃星辰近期开源了Step 5 Preview,同时开放BF16与FP8两个版本的权重,用户可以在Hugging Face和ModelScope上获取,并支持vLLM、SGLang、Transformers等常见方式部署。据公开信息,该模型在AI编程、软件工程、专业知识和金融等任务上达到前沿水平。

    更值得关注的是芯片适配速度。素材显示,Step 5 Preview在发布同期即获得华为昇腾、壁仞、沐曦、摩尔线程等国产平台支持,其中昇腾侧同日部署了1024卡Atlas 950 SuperPoD液冷超节点。这种「模型发布、算力同步」的节奏,说明模型厂商与国产芯片厂商的协同已经从后期适配前移到发布环节。

    面壁智能把多模态模型做进端侧

    面壁智能发布的新一代端侧多模态模型MiniCPM-V 4.7,包含35B-A3B和1B两个版本。其中MoE版本每步仅激活约3B参数,约3GB内存即可运行,在iPad Pro上实测可达每秒15个以上token。发布即支持瑞芯微、NVIDIA、Intel、Apple等芯片,并覆盖iOS、安卓、鸿蒙系统。

    端侧MoE长期存在专家加载卡顿的问题,面壁智能用自研的LES前瞻专家调度技术来处理这一环节。官方信息显示,MiniCPM系列全球累计下载量已突破6000万次,说明小参数、低门槛的模型在开发者中确实有稳定需求。对于想把AI能力放进小程序、边缘设备或轻量服务器的团队,这类模型是更现实的选择。

    百万上下文与稀疏架构成为共同方向

    梳理这一轮发布可以看到两个共性。一是百万级上下文继续下探,此前蚂蚁百灵Ling-3.1-flash已支持1M上下文,科大讯飞9月开源的星火X2.5-4B/1.7B也把百万Token上下文带到了端侧模型。二是MoE加混合注意力成为主流架构,在保留大容量的同时压低推理成本。

    许可证方面,MIT等宽松协议被更多厂商采用,这对有商用和私有化部署需求的站点比较友好。需要提醒的是,模型权重、显存占用和实际吞吐会随量化方式、推理框架和硬件环境变化,具体参数与部署要求请以各厂商官方文档和实际测试为准。

    如果准备在自己的服务器上试跑这类模型,建议先确认显卡显存与推理框架版本,再按官方提供的量化权重逐步验证,避免一次性投入过多资源。

    继续阅读

    📑 📅
    蚂蚁开源Ling-3.1-flash:560B参数支持百万上下文 2026-10-19
    小米开源空间音频理解大模型MiDashengLM-Spatial 2026-10-18
    扩散语言模型公司DiffuSpace两轮融资近5亿元 2026-10-18
    模思智能获超10亿元Pre-A轮,MOSS Live将发布 2026-10-18
    DeepSeek再传超800亿融资,同日开源昇腾组件 2026-10-18
    十月国内AI大模型融资密集,资本向头部集中 2026-10-19
    阶跃星辰开源Step 5 Preview,国产算力同日适配 2026-10-19
    十月国产开源大模型密集更新:稀疏MoE与百万上下文成标配 2026-10-19
    10月国内AI融资密集:基础设施与具身智能受捧 2026-10-19
    560B参数仅激活25B:蚂蚁百灵Ling-3.1-flash开源解读 2026-10-19