腾讯混元Hy4全量开源:770B参数支持百万上下文

    发布时间:2026-11-21 08:56 更新时间:2026-11-21 08:56 阅读量:0

    腾讯混元在11月把开源节奏拉满:11月18日先放出Hy4 flash,11月20日Hy4正式开放权重。按照公开信息,至此混元LLM系列从Hy3 preview、Hy3到Hy4 preview、Hy4、Hy4 flash实现全量开源,采用Apache 2.0协议,权重同步上线GitHub、Hugging Face、ModelScope与GitCode,并附有安全评估卡片。对习惯自己搭环境部署模型的站长来说,这是一次值得留意的更新。

    两次开源,定位不同

    先看Hy4 flash。它一次提供了三个版本:Hy4 flash、Hy4 flash-FP8、Hy4 flash Base,总参数224B,其中含64B Engram参数,单token激活仅12B,支持多模态与100万上下文。激活参数小意味着推理时实际调用的计算量有限,官方给出的定位是主打高性价比与本地部署,这对预算有限、又希望跑通多模态能力的中小团队比较友好。

    再看Hy4正式版。它采用MoE架构,总参数770B、激活49B,同样支持百万Token上下文。参数规模上去了,能力上限更高,但对显存和集群的要求也明显更严,通常不是单机能够承载的量级。两款模型共用Apache 2.0协议,意味着商用与二次开发在协议层面没有额外限制,具体条款仍建议对照仓库中的License原文确认。

    协议与生态:宽松开源已成常态

    Apache 2.0是本次开源的一个关键信息。按素材中提到的行业观察,Hugging Face数据显示参数超200亿的中国模型中,超八成采用宽松协议,允许二次开发和商业部署。对建站与运维人群而言,协议宽松直接决定了能不能把模型接进自己的业务系统,而不用反复走授权流程。

    权重分发的渠道也比较全,GitHub、Hugging Face、ModelScope、GitCode四路同步,国内访问ModelScope与GitCode通常更顺手。需要提醒的是,模型卡里的参数、量化版本与推理框架适配情况可能随仓库更新而变化,下载前先看模型卡说明,具体以官方模型卡与实际环境为准。

    部署前的几点务实建议

    如果打算在自有服务器上试跑,建议先把显存和上下文长度算清楚。百万上下文是能力上限,不等于日常都要开满,实际业务里按需设置上下文窗口,能省下可观的显存与算力。FP8版本适合显存紧张但硬件支持FP8推理的场景,量化版本则要评估精度损失是否在可接受范围内。

    下载权重时可以先校验文件完整性,再按官方仓库给出的依赖版本安装推理框架,避免因版本错配导致加载失败。以Hugging Face命令行工具为例,常用下载方式如下:

    pip install -U huggingface_hub
    huggingface-cli download <组织名>/<模型仓库名> \
      --local-dir ./hy4-flash \
      --local-dir-use-symlinks False

    仓库名与组织名请以Hugging Face页面实际显示为准,上面只是通用写法。国内网络环境下如果下载缓慢,可改用ModelScope的下载方式,具体命令参考其官方文档。

    还有一点值得注意:混元这一轮开源与百度、美团等厂商11月的模型发布放在一起看,方向都偏向“为应用优化”——更长的上下文、更低的激活参数、更完整的开源配套。对站长来说,模型本身只是底座,真正落地还要看推理成本、接口稳定性和业务匹配度。是否接入、接哪一版,建议先小流量验证再决定。

    继续阅读

    📑 📅
    可灵AI增资198亿交割落地,视频生成赛道加速 2026-11-21
    美国远程算力管制收紧,国产AI芯片份额已过半 2026-11-21
    美团LongCat-2.5发布:1.6万亿参数主攻长程智能体 2026-11-21
    大模型融资之外:11月AI应用侧产品与算力政策动向 2026-11-21
    百度世界2026:文心5.5 Flash与两款应用模型落地千帆 2026-11-21
    11月国产大模型密集开源:价格与权重一起下探 2026-11-21
    11月国产大模型融资与发布双热:DeepSeek千亿级融资引关注 2026-11-21
    11月国产大模型集体转向:比拼单位任务成本 2026-11-21
    11月国产AI芯片份额过半,算力格局进入放量期 2026-11-21
    豆包工作上线工作台:企业AI从对话走向执行 2026-11-21