阶跃星辰Step 5 Preview开源:600B参数与国产芯片适配

    发布时间:2026-10-18 08:01 更新时间:2026-10-18 08:01 阅读量:0

    国庆长假期间国内大模型厂商普遍没有发布旗舰模型,节后则集中交卷。10月15日,阶跃星辰正式开源 Step 5 Preview 的完整权重,同时放出 BF16 与 FP8 两个版本。这款模型在9月20日就已发布,此次开源意味着团队可以把权重下载到自己的机器上部署和评测,而不只是通过接口调用。

    参数规模与能力定位

    Step 5 Preview 采用稀疏 MoE 架构,总参数 600B,每个 Token 实际激活约 27B。这种设计的好处是把模型容量和单次推理成本拆开看:总参数决定知识容量,激活参数决定算力开销。官方给出的能力描述中,100 万 Token 上下文窗口和原生文本、视觉输入是重点,目标场景指向 AI 编程、软件工程、专业知识工作与金融等长程 Agentic 任务。

    评测方面,素材中提到其 AA 综合智能指数为 44 分,位居全球开源模型前三。这个分数来自第三方评测,具体口径以评测机构与官方公告为准。另一个值得注意的数字是单任务成本约为 Claude Opus 5 的 1/8,这属于厂商公布的成本对比,实际开销会随部署方式和负载变化。

    部署方式与国产算力适配

    权重已经上线 Hugging Face 与 ModelScope,支持 vLLM、SGLang、Transformers 三种常见推理框架。对运维人员来说,这意味着可以沿用现有的推理服务栈,不必为单一模型重搭一套环境。芯片侧的适配进展同样密集:华为昇腾、壁仞、沐曦、摩尔线程均宣布 0Day 支持,海光 DCU 完成 Day0 推理适配。模型开源与国产算力适配同步推进,正在成为这一轮发布的常见节奏。

    如果要在自有环境里拉取权重并启动推理,可以先确认显卡与驱动版本,再按框架文档配置。下面是一个基于 vLLM 的通用启动示例,模型路径与并行参数需按实际硬件调整,具体以官方文档和实际环境为准:

    # 1. 准备 Python 环境(版本以官方要求为准)
    python3 -m venv step5-env
    source step5-env/bin/activate
    pip install -U vllm
    
    

    2. 从 ModelScope 拉取权重(需先安装 modelscope)

    pip install modelscope modelscope download --model <模型仓库名> --local_dir ./step5-preview

    3. 启动 OpenAI 兼容推理服务

    vllm serve ./step5-preview \ --served-model-name step5-preview \ --tensor-parallel-size 8 \ --max-model-len 32768 \ --port 8000

    4. 简单连通性检查

    curl http://127.0.0.1:8000/v1/models

    需要提醒的是,600B 总参数的模型对显存和互联带宽要求较高,FP8 量化版能降低单机门槛,但并行规模和上下文长度仍要结合集群实际情况设定。100 万 Token 上下文属于模型能力上限,实际开到多长取决于显存预算。

    对建站与运维选型的参考意义

    对中小站长和运维来说,这类旗舰开源模型直接自建的成本并不低,更现实的用法是关注它在托管平台上的接入情况。素材显示,该模型已接入腾讯 WorkBuddy、豆包 TRAE 等产品,也有云厂商在推进上线。选型时可以先在托管环境里跑通业务场景,再评估是否值得自建推理集群。

    另一个变化是国产芯片适配从“后补”变成“同步”。以往开源模型发布后,国产卡适配往往滞后数周,这次多家厂商在发布当日就宣布支持,说明模型方与芯片方在发布前已有协同。对运维团队而言,后续做国产算力替换时,可选的开源模型范围会比过去更宽。具体适配版本、驱动要求和性能表现,仍以各厂商官方公告为准。

    继续阅读

    📑 📅
    AI落地新观察:智能体进医院、进车间、进政务 2026-10-18
    DeepSeek与华为昇腾合作:国产算力生态再进一步 2026-10-18
    AI Agent与AI Infra获资本加码:无问芯穹与Manus融资观察 2026-10-18
    元环智能获数亿元融资:用元模型设计模型 2026-10-18
    多模态实时交互赛道受关注:模思智能获超10亿元Pre-A轮 2026-10-18
    10月国内AI融资密集:千亿资金涌入头部大模型 2026-10-18
    蚂蚁百灵开源Ling-3.1-flash:560B参数与1M上下文 2026-10-18
    10月国产大模型落地观察:智能体与垂直模型进车间进医院 2026-10-18
    国产AI芯片与算力网:从拼规模转向拼效率 2026-10-18
    智谱GLM-5.3上线AWS Bedrock,模型生态向外延伸 2026-10-18