发布时间:2026-10-11 00:07 更新时间:2026-10-11 00:07 阅读量:0
进入十月,国内开源大模型的节奏依然很快。在科大讯飞、腾讯混元等厂商陆续放出新模型之后,阶跃星辰的Step 3.5 Flash成了一个值得单独拿出来看的样本:它把总参数做到1960亿,却在推理时只激活约110亿参数,并且把预训练权重、中训练权重连同配套的Steptron训练框架一起开源。对做应用和做部署的团队来说,这种"大底座、小激活"的取舍,比单纯的参数规模更有参考价值。
Step 3.5 Flash采用稀疏MoE(混合专家)架构。通俗理解,模型内部有很多"专家"子网络,每次请求只叫醒其中一小部分来干活,所以总参数虽然接近两千亿,实际参与计算的比例却很低。据公开信息,它在单请求代码任务上的推理速度最高可达350 TPS,这个指标对交互式编程助手、批量代码处理这类场景比较关键——用户等待时间直接取决于每秒能吐多少token。
模型定位也很明确:专为智能体(Agent)场景设计。也就是说,它更看重多轮工具调用、任务拆解、代码执行这些"会做事"的能力,而不是单纯比拼对话流畅度。在Hugging Face上,该模型累计下载量超过300k,并登上过OpenRouter Trending第一名,这两个数据可以侧面反映海外开发者社区的实际使用热度。
这次开源不是只放一个权重文件。阶跃星辰同步放出了预训练权重、中训练权重以及配套的Steptron训练框架,对想在自己数据上继续做后训练或领域微调的团队来说,省去了不少重复造轮子的功夫。具体下载地址、许可证条款和硬件要求,建议以官方仓库与官方公告为准,不同推理框架的支持情况也会有差异。
部署层面,MoE模型的显存占用不能只看激活参数。虽然推理时只激活约110亿参数,但要把全部专家权重加载进来,对显存和显存带宽仍有要求。实际落地时建议先在小规模环境验证吞吐与延迟,再决定是单机部署还是走多卡并行。
# 部署前先确认显存与驱动环境(示例,具体参数以官方文档为准)
nvidia-smi
python -c "import torch; print(torch.__version__, torch.cuda.is_available())"
建议在独立虚拟环境中安装依赖,避免与现有环境冲突
python -m venv step-env
source step-env/bin/activate
pip install -U pip
具体依赖包与版本请以模型官方仓库的 requirements 为准
与开源动作同期,阶跃星辰近期完成了50亿元人民币B+轮融资。把这两件事放在一起看,逻辑比较清晰:一边用开源扩大开发者触达面,一边用融资支撑后续的算力与训练投入。对站长和运维同学来说,这类模型的意义在于,可选择的国产开源底座又多了一个,尤其在代码与智能体方向上,不再只有少数几个选项。
需要提醒的是,网络上关于模型版本的描述较多,部分细节可能随官方更新而变化,涉及商用授权、部署硬件清单等关键信息,务必以官方发布为准,不要仅凭第三方转述做技术选型。
| 📑 | 📅 |
|---|---|
| 国产AI加速卡份额升至41%,超节点与端侧成新战场 | 2026-10-11 |
| 国产AI算力份额升至41%,超节点成新战场 | 2026-10-11 |
| 智谱携手杭州国资设10亿创投合伙企业 | 2026-10-11 |
| 中国电信星辰Xing4.0-29B登榜,国产算力训练百亿模型 | 2026-10-11 |
| 国产AI算力份额升至四成,昇腾领跑加速卡市场 | 2026-10-11 |
| DeepSeek千亿融资接近落定,内蒙古数据中心规划16万枚昇腾芯片 | 2026-10-12 |
| 算力券与国产芯片:AI基建的补贴逻辑 | 2026-10-12 |
| 扩散语言模型公司DiffuSpace获数亿元融资 | 2026-10-12 |
| Kimi以500亿美元估值完成新一轮融资 | 2026-10-12 |
| Manus母公司蝴蝶效应完成超5亿美元融资 | 2026-10-12 |