发布时间:2026-11-19 08:19 更新时间:2026-11-19 08:19 阅读量:0
11月17日,商汤把 SenseNova-Loop-9B 的正式版放了出来。这款模型此前在10月31日有过一个 Preview 版本,这次正式版在七项基准测试上全部超过了 Preview,同时以 Apache 2.0 许可开放,AWQ 4-bit 量化版本也在发布首日同步上线。对关注本地部署的站长来说,这条更新的价值不在于参数有多大,而在于它走了一条不太一样的架构路线。
SenseNova-Loop-9B 的名字里带“Loop”,指的就是循环结构。按公开信息,模型整体约9B参数,共32层,其中第4层到第27层共享同一套权重,并连续执行两次。换句话说,中间这段主干网络不是靠堆更多层来提升能力,而是让同一批参数多跑一轮,用更少的权重占用换到更深的计算路径。
这种做法在显存预算紧张的场景里有现实意义。模型的权重体量维持在9B级别,但前向计算经过的层数被拉长,理论上能获得比同参数量稠密模型更丰富的表示能力。当然,循环次数、共享层的区间怎么选,都是训练阶段调出来的,实际效果仍要以官方模型卡和评测结果为准。
这次正式版还支持 512K 上下文,并且是多模态模型。长上下文加多模态的组合,意味着它可以处理较长的文档、图文混合材料,而不是只做纯文本问答。
AWQ 4-bit 量化版在发布当天就放出来了,这一点对自建推理服务的运维比较友好。9B 级模型用 4-bit 量化后,单卡显存压力明显减小,中小规模的 GPU 机器就有机会跑起来。不过要注意,量化会带来一定的精度损失,具体掉多少分、哪些任务受影响更大,需要拿自己的业务数据实测,官方给出的量化说明也只能作为参考。
许可方面是 Apache 2.0,属于商用限制较少的开源协议,但涉及再分发、二次训练时仍建议把许可证原文读一遍,尤其是模型权重的署名要求。下面是一个用 Transformers 加载模型的基本示例,路径和依赖请按实际环境调整:
python -m venv loop-env
source loop-env/bin/activate
pip install --upgrade pip
pip install torch transformers accelerate
python -c "from transformers import AutoModelForCausalLM, AutoTokenizer; \
name='SenseNova-Loop-9B'; \
tok=AutoTokenizer.from_pretrained(name, trust_remote_code=True); \
model=AutoModelForCausalLM.from_pretrained(name, torch_dtype='auto', device_map='auto', trust_remote_code=True); \
print('loaded')"如果选择 AWQ 量化权重,通常需要额外安装 autoawq 一类的推理库,加载时把模型名换成对应的量化仓库即可。模型仓库地址、依赖版本以官方发布页为准,不要照搬第三方教程里的旧版本号。
对做内容站、工具站的人来说,这类中等体量、可本地部署的多模态模型,比较现实的用法是站内文档问答、素材摘要、图片配文初稿这类任务。512K 上下文适合把整份产品手册或帮助文档塞进去做检索增强的替代方案,省掉一部分向量库维护工作;本地部署则避免了把用户内容外传的顾虑。
需要提醒的是,开源模型的评测分数和真实业务表现之间常有落差。建议先用几十条自己站内的真实问题做一轮小样本测试,重点看响应延迟、显存占用和答非所问的比例,再决定是否接入生产环境。另外,循环架构在部分推理框架上的算子支持情况可能不如标准 Transformer 成熟,上生产前要确认所用推理引擎的兼容性。
从更大的节奏看,商汤这次从 Preview 到正式版只用了一个多月,量化版还跟着首发,国产开源模型的迭代和工程配套确实在加快。对运维和站长而言,模型本身不再是稀缺品,怎么把它稳定跑起来、接到自己的业务里,才是真正要花时间的地方。
| 📑 | 📅 |
|---|---|
| 国产AI应用从会说话到会做事,站长能借鉴什么 | 2026-11-19 |
| 国产大模型开源转向智能密度,站长选型思路也随之变化 | 2026-11-19 |
| 范式智能开源Phai系列:百万上下文可本地部署 | 2026-11-19 |
| 阿里官宣Qwen4,千问App已接入预览版 | 2026-11-19 |
| 腾讯混元Hy4 flash三版本开源,224B总参数激活仅12B | 2026-11-19 |
| 11月国产大模型密集开源:从参数竞赛转向持续学习 | 2026-11-20 |
| 11月AI融资观察:视频大模型与物理智能受关注 | 2026-11-20 |
| 可灵AI完成约198亿元增资交割:投后估值超1200亿 | 2026-11-20 |
| 11月国产AI智能体加速落地:从对话走向任务执行 | 2026-11-20 |
| 11月国产AI芯片与算力政策盘点:国货国用提速 | 2026-11-20 |