发布时间:2026-11-03 04:25 更新时间:2026-11-03 04:25 阅读量:8
10月30日,商汤开源了SenseNova Loop-9B-Preview,采用Apache 2.0许可。这款模型值得关注的地方不在参数量,而在它换了一条思路:不再靠堆叠层数换性能,而是让同一批权重反复循环执行,用更少的参数撑起更深的计算。
按照官方披露的说法,模型共32层,通过Looped Transformer架构让这些权重循环执行,等效计算深度达到56层,9B参数自报可媲美27B级模型。同时引入了mHC(流形约束超连接)来稳定深层循环下的信息传递。在WorkBuddy Bench、RaccoonPPT Bench、AutomationBench等基准上,官方给出的对比对象是Qwen3.5-27B——8项基准中6项领先、2项落后。这类自报成绩通常与测试集构造、提示词模板关系很大,实际效果还是要以官方模型卡和自己在业务数据上的验证为准。
过去两年国产开源模型的主线是规模竞赛,万亿参数MoE旗舰一轮接一轮。但从今年的动向看,分层已经比较清晰:云端走万亿级稀疏MoE,PC和终端用10B到30B的稠密或全模态模型,1B到8B的轻量模型则面向办公智能体和边缘设备。9B这个位置恰好卡在中间,向上要够得着复杂任务,向下要能塞进单张消费级显卡甚至更高性价比的推理卡。
循环深度的思路本质是拿计算换显存。权重只存一份,前向时多次复用,显存占用接近9B模型的水平,而有效表达能力向更大的模型靠拢。对预算有限、又想在本地跑智能体或文档处理流程的团队来说,这个方向的吸引力很直接。同一时期,星火X2.5-4B/1.7B、面壁MiniCPM5-2B、蚂蚁百灵7.9B也都在往端侧和轻量段发力,说明小模型赛道的竞争点已经从“谁更大”转向“谁更省、谁更好用”。
第一笔是显存。9B参数如果以BF16加载,权重本身约18GB,加上KV Cache和框架开销,单卡24GB是比较稳妥的起点;量化到INT8或INT4可以进一步压缩,但量化对循环结构的影响需要实测,不建议直接套用普通稠密模型的量化经验。第二笔是吞吐。权重循环意味着同一份参数被多次调用,单次前向的计算量高于同参数量的常规模型,长上下文场景下延迟会更明显,做在线服务时要按实际并发压测。第三笔是许可与合规,Apache 2.0相对宽松,但商用前仍应核对官方模型卡中的使用条款与免责说明。
部署路径上,可以先用Hugging Face或ModelScope上的权重做一次本地推理,确认硬件吃得下再考虑接入业务。以常见的Transformers加载方式为例,大致流程如下,具体参数与依赖版本以官方模型卡为准:
# 建议在独立虚拟环境中操作,避免依赖冲突
python -m venv senseloop
source senseloop/bin/activate
pip install -U torch transformers accelerate
从 ModelScope 拉取权重(模型 ID 以官方发布页为准)
python -c "from modelscope import snapshot_download; \
snapshot_download('对应模型ID', cache_dir='./models')"
查看显存占用,确认是否满足加载需求
nvidia-smi
如果只是做内部测试,也可以先走厂商的MaaS或API接口把业务流程跑通,再决定是否自建推理。对大多数中小站点来说,模型选型的关键不是跑分榜上的名次,而是它能不能稳定完成你站点上那几类重复任务,比如内容摘要、工单分类、客服问答。建议拿自己的真实样本做一轮小规模对比,再决定投入。
这类轻量开源模型的价值,更多体现在“能放在自己机器上”这件事上。数据不出内网、调用成本可控、可按业务微调,是很多团队绕不开的需求。但也要清醒:9B级别的模型在长文档理解和多步推理上仍有边界,把它当成流程里的一个环节,而不是全知全能的助手,落地会顺利得多。后续版本、许可协议与基准数据的更新,请以商汤官方模型卡和代码仓库的公告为准。
| 📑 | 📅 |
|---|---|
| 蚂蚁灵光2.0发布:AI助理开始替你长期盯事 | 2026-11-02 |
| 可灵4.0开放API、新芯航途X7 Ultra发布:算力与模型同周更新 | 2026-11-02 |
| 趋境科技B轮超13亿元,AI Token工厂独立融资 | 2026-11-02 |
| 腾讯WorkBuddy跑出90亿次任务,办公AI进入落地比拼 | 2026-11-02 |
| 国产大模型开源提速:从拼参数到拼推理成本 | 2026-11-02 |
| 11月AI投融周报:可灵与DeepSeek大额融资落地 | 2026-11-03 |
| 11月AI产品观察:智能体从会聊天走向会干活 | 2026-11-03 |
| 国产AI芯片份额升至41%,推理算力成新焦点 | 2026-11-03 |
| 腾讯WorkBuddy七个月90亿次任务,机器人接入 | 2026-11-03 |
| DeepSeek二轮融资细节曝光 年化营收达10亿美元 | 2026-11-03 |