发布时间:2026-11-03 04:55 更新时间:2026-11-03 04:55 阅读量:4
10月底,商汤把一款名为 SenseNova Loop-9B-Preview 的模型放上了开源渠道,许可证为 Apache 2.0,权重已在 Hugging Face 与 GitHub 开放。在一众靠堆参数冲榜的开源模型里,这个只有 9B 参数的小家伙显得有点特别:它没有把模型做大,而是想办法把模型「用得更狠」。
这款模型的核心是 Looped Transformer 架构。简单说,传统 Transformer 每一层有自己的权重,层数越多参数越多、显存占用越大;而 Loop-9B 让同一批 32 层权重反复参与计算,最终形成相当于 56 层的计算深度。参数量没变,推理时走过的计算路径却更长,模型因此有机会在同样的体积下处理更复杂的推理链条。
商汤还在模型里引入了 mHC 机制。按官方公布的数据,这一机制让 GPQA Diamond 提升 4.42 分,TeamBench 提升 13.34 分。官方给出的定位是:9B 参数达到 27B 级别的性能表现。这类自报数据通常基于特定评测集,实际使用中的差距还要看具体任务,具体效果以官方技术报告和实测为准。
开源模型的价值,最终要落到「能不能在自己机器上跑起来」。9B 这个量级对硬件相对友好,单张消费级显卡或一台中等配置的推理服务器就有机会承载,适合做站内问答、内容摘要、客服辅助这类场景。Apache 2.0 协议在商用上的限制较少,对想基于开源模型搭内部工具的小团队比较友好。
不过要提醒一句:循环架构在推理时会带来额外的计算开销,实际吞吐和首字延迟与同参数量的普通稠密模型不一定在同一水平。上线前建议先用真实业务请求压测,再决定部署规格。
本地拉起模型较省事的办法还是用 transformers 直接加载权重,下面是一段通用示例,模型名称与分支请以官方仓库说明为准:
pip install -U transformers torch accelerate
transformers-cli download SenseNova/Loop-9B-Preview \
--local-dir ./loop-9b-preview
如果要用 vLLM 之类的推理框架提供 API 服务,需要先确认框架是否已经适配该模型的循环结构,未适配时按普通因果语言模型加载可能报错,这一点以框架官方文档为准。
把这次开源放到近期国产模型的节奏里看,会更清楚。近几个月,阿里通义千问、智谱、月之暗面、科大讯飞、面壁智能等厂商密集放出权重,路线各不相同:有的走万亿级稀疏 MoE 冲能力上限,有的做 10B 级稠密模型主打端侧和本地部署,还有的像商汤这样从架构层面找「小参数、高算力利用率」的路子。
竞争重心正在从「谁参数多」转向「谁在同等成本下更聪明」。对建站和运维人群来说,这是个好消息:可选的开源模型越来越多,部署门槛和调用成本都在往下走。真正要花心思的地方,反而是选型——先明确自己的业务是短文本分类、长文摘要还是多轮对话,再拿几个候选模型在自家数据上跑一轮,比看榜单排名靠谱得多。
需要说明的是,Loop-9B-Preview 带 Preview 后缀,属于预览版本,后续是否转为正式版、是否继续迭代,以商汤官方公告为准。
| 📑 | 📅 |
|---|---|
| 11月初国内AI融资密集:DeepSeek、可灵AI领衔 | 2026-11-03 |
| DeepSeek二轮融资细节曝光 年化营收达10亿美元 | 2026-11-03 |
| 腾讯WorkBuddy七个月90亿次任务,机器人接入 | 2026-11-03 |
| 国产AI芯片份额升至41%,推理算力成新焦点 | 2026-11-03 |
| 11月AI产品观察:智能体从会聊天走向会干活 | 2026-11-03 |
| 可灵AI 198亿元增资交割落定,估值反超快手 | 2026-11-03 |
| 国产AI芯片三季报:寒武纪海光业绩兑现,算力规模达2592 EFLOPS | 2026-11-03 |
| 阿里Qwen3.8全线开源:27B版RTX 4060 Ti可跑 | 2026-11-03 |
| 混元Hy4预览版把模型拉进自身训练:推理吞吐提升超30% | 2026-11-03 |
| Kimi K3全量开源:2.8万亿参数模型权重公开 | 2026-11-03 |