发布时间:2026-11-22 04:56 更新时间:2026-11-22 04:56 阅读量:0
11月20日,腾讯混元把LLM系列做了一次全量开源,覆盖Hy3 preview、Hy3、Hy4 preview、Hy4、Hy4 flash几个版本。对关注国产开源模型的站长来说,这次发布的看点不只是“又开源了一个模型”,而是旗舰与轻量两条线同时放出了权重,选择空间比以往更大。
先看旗舰版Hy4。它采用MoE架构,总参数770B、激活49B,上下文长度突破100万Token,采用Apache 2.0协议,并同步公开了安全评估卡片。这个规格意味着它面向的是长文档处理、复杂推理这类重活,单机部署门槛不低,更适合有集群资源的团队。
再看Hy4 flash。总参数224B,其中包含64B的Engram参数,激活部分只有12B,同样支持多模态与100万Token上下文,定位是“高性价比”。激活参数小,意味着推理时实际参与计算的权重少,对显存和算力的压力相对可控,这也是多数中小团队更值得先试的一档。
两个版本放在一起看,思路很清晰:旗舰负责把能力上限顶上去,flash负责把调用成本压下来。据了解,这批模型已在GitHub、Hugging Face、ModelScope、GitCode四个平台上线,国内用户走ModelScope或GitCode下载会更顺手一些。
开源模型落到自己服务器上,第一步不是拉权重,而是算账。以推理框架常用的显存估算方式为例,可以先按下面的思路粗算一遍:
# 以 vLLM 启动为例(参数仅为示意,具体以官方模型卡为准)
先查看显卡与显存总量
nvidia-smi --query-gpu=name,memory.total --format=csv
拉取模型(平台与仓库名以官方发布页为准)
python -c "from modelscope import snapshot_download; \
snapshot_download('腾讯混元模型仓库名')"
按显存预算启动服务,--max-model-len 需结合上下文长度调整
python -m vllm.entrypoints.openai.api_server \
--model /path/to/hy4-flash \
--tensor-parallel-size 4 \
--max-model-len 32768 \
--gpu-memory-utilization 0.90需要提醒的是,上面命令里的模型路径、并行数和上下文长度都要按实际硬件改,具体参数以官方模型卡和推理框架文档为准。百万级上下文虽然诱人,但KV Cache会随上下文线性增长,长上下文和高并发通常不能同时拉满,实际部署时一般要先把max-model-len压到业务真正需要的长度。
如果显存只够跑小规格,也不必硬上flash。同月开源的商汤SenseNova-Loop-9B正式版约9B参数,采用循环架构,上下文最高512K tokens,Apache 2.0协议,AWQ 4-bit量化版发布首日就已同步上线,量化后对单卡更友好。百度11月5日开放的文心5.5 Flash Base则是稀疏MoE,总参280B、激活14B,同样属于“总参大、激活小”的路线。
Hy4系列采用Apache 2.0协议,商用限制相对宽松,但仍建议在对外提供服务前核对模型卡中的使用条款与安全评估说明。若用于面向公众的生成式服务,还需按国内相关管理规定完成相应备案,这部分以监管部门和平台的最新要求为准。
整体看,11月这轮开源释放的信号是竞争逻辑在变:从比参数规模,转向比单位算力下的实际能力。对站长和运维人员而言,与其盯着770B的数字,不如先拿flash或9B级模型在自己的业务数据上跑一轮,把显存占用、首字延迟和并发承载量测清楚,再决定是否加码。模型权重可以随时换,硬件预算换起来就没那么轻松了。
| 📑 | 📅 |
|---|---|
| 国产算力份额过半,推理算力成新焦点 | 2026-11-22 |
| 国产大模型11月开源提速:混元Hy4与文心5.5齐发 | 2026-11-22 |
| DeepSeek完成千亿级融资,31家出资方浮出水面 | 2026-11-22 |
| 腾讯混元Hy4开源:部署渠道与选型思路 | 2026-11-22 |
| 国产AI芯片份额过半,算力基建进入全栈国产化阶段 | 2026-11-22 |
| 11月AI融资新面孔:无涯智远、观壹智能、星尘浩宇 | 2026-11-22 |
| 11月国内AI融资看点:DeepSeek千亿级融资落定 | 2026-11-22 |
| 2026年11月国产开源大模型密集更新盘点 | 2026-11-22 |
| 商汤开源SenseNova-Loop-9B正式版:9B参数玩循环架构 | 2026-11-22 |
| 11月AI融资观察:千亿资本涌向头部与垂直赛道 | 2026-11-22 |