发布时间:2026-10-03 00:25 更新时间:2026-10-03 00:25 阅读量:6
国庆假期刚过,国产大模型的开源节奏并没有慢下来。在9月下旬集中亮相的一批模型中,阶跃星辰的 Step 5 Preview 是参数规模与上下文能力都比较突出的一款:总参数 6000 亿,推理时仅激活 270 亿,采用稀疏 MoE 架构,原生支持 100 万 token 上下文,并且可以直接接受视觉输入。官方给出的安排是权重于 10 月 15 日正式开源,也就是说,想动手试的开发者不用等太久。
对站长和运维同学来说,百万级 token 上下文最直观的价值是"一次塞进去"。以往排查线上故障,需要把 Nginx 错误日志、PHP 慢查询记录、系统监控截图分几轮丢给模型,还得自己拼接结论;上下文拉长后,一份完整的访问日志加上配置文件、几张贴图,可以放在同一个会话里让模型对照分析。
视觉输入的加入则让"看图说话"这件事在本地工具链里更顺。比如把服务器监控面板的截图、机房拓扑图、甚至报错弹窗直接贴进去,模型可以先识别图里的关键指标,再结合文本日志给出排查方向。需要注意,涉及生产环境的信息建议先脱敏,具体的数据处理方式以官方文档说明为准。
Step 5 Preview 的参数设计是典型的稀疏 MoE 路线:6000 亿总参数保证知识容量,270 亿激活参数控制单次推理的计算量。这种结构的思路是把"容量"和"算力"拆开看——参数堆上去,但每次前向只调用其中一小部分专家网络。
对自建推理服务的团队,这意味着显存占用和并发能力需要重新估算。权重文件体积仍然按总参数量计算,但实际计算负载更接近一个中等规模稠密模型。部署前建议先确认推理框架对 MoE 的支持情况,并用小批量请求压测,观察显存峰值和首 token 延迟,具体显存占用与吞吐数据以实际环境和官方说明为准。
权重正式放出前,可以先搭好环境。下面是一段常见的模型权重下载与目录检查示例,仅作流程参考,仓库地址与文件名请以官方发布为准:
# 创建模型目录
mkdir -p /data/models/step5-preview
cd /data/models/step5-preview
使用 huggingface-cli 拉取权重(仓库名以官方公告为准)
huggingface-cli download <官方仓库名> \
--local-dir /data/models/step5-preview \
--local-dir-use-symlinks False
查看分片文件与配置文件是否完整
ls -lh /data/models/step5-preview
cat /data/models/step5-preview/config.json | head -n 40
下载完成后先核对 config.json 里的模型结构与分词器配置,再决定用哪种推理后端加载。如果计划跑百万上下文,KV 缓存会明显吃显存,可以关注社区常见的量化方案与分页注意力实现,但具体支持程度要看推理框架的版本。
从今年国产模型的整体走向看,长上下文、MoE 稀疏化、原生多模态正在成为发布时的标配组合,Step 5 Preview 基本踩在这三条线上。对普通站长而言,短期内更现实的用法还是接入 API 做日志分析、内容辅助和工单初筛;等权重开源、社区量化版本成熟之后,再考虑本地化部署会更稳妥。
| 📑 | 📅 |
|---|---|
| 小米开源MiMo-V2.6,万亿参数登顶开源榜 | 2026-10-03 |
| 无问芯穹递表港交所,AI基建赛道再添IPO | 2026-10-03 |
| 百度文心5.0发布:2.4万亿参数原生全模态 | 2026-10-02 |
| 智谱GLM-5.3-FlashX上线:十万张国产芯片撑起推理 | 2026-10-02 |
| 中电信星辰Xing4.0-29B发布:单卡可跑的国产大模型 | 2026-10-02 |
| 华为openPangu-2.0开源训练与RL全流程代码 | 2026-10-03 |
| DeepSeek营收破10亿美元,筹备科创板上市 | 2026-10-03 |
| 中国电信Xing4.0-29B开源,国产算力训练百亿模型 | 2026-10-03 |
| 国产大模型集体转向长程任务,Agent竞赛提速 | 2026-10-03 |
| Naive.AI三个月融资4亿美元,开源模型同步亮相 | 2026-10-03 |