发布时间:2026-11-02 04:01 更新时间:2026-11-02 04:01 阅读量:10
10月30日,商汤开源了名为 SenseNova Loop-9B-Preview 的模型,权重同步发布在 Hugging Face 与 GitHub 上,采用 Apache 2.0 许可。这款模型最受关注的点不在参数规模,而在于它用 9B 的体量去对标 27B 级别模型的表现,走的是架构层面的优化路线。
据公开资料,Loop-9B-Preview 基于 Looped Transformer 架构,核心做法是让同一组 32 层权重在推理过程中循环复用,等效堆叠出 56 层的网络深度,同时引入 mHC 机制配合。换句话说,模型不是靠增加参数量来提升表达能力,而是靠更深的有效计算路径。对硬件来说,这意味着显存占用和部署成本更接近 9B 模型,而效果被官方描述为接近 27B 档位。
需要说明的是,这类「小参数对标大参数」的表述通常来自厂商自测基准,实际效果会随任务类型、提示词写法和量化方式波动,选型时建议用自己的业务数据跑一轮评测,具体指标以官方模型卡与实测为准。
Apache 2.0 是一个相对宽松的许可,允许商用与修改,这对想在内网或自有服务器上跑模型的中小团队比较友好。9B 级稠密模型的门槛也明显低于动辄需要多卡并行的旗舰 MoE:单张显存充裕的推理卡即可尝试加载,量化后对消费级显卡也有一定可行性。近一年国产开源模型的迭代节奏明显加快,从半年一版压缩到一两个月一版,同时形成万亿级 MoE 旗舰、10B 级稠密模型、2B 级轻量模型的分层格局,Loop-9B 落在中间这一档,适合做知识问答、文档摘要、轻量代码辅助这类日常任务。
部署前建议先确认运行环境的显存与驱动版本,再决定是否量化。下面是一段常见的本地拉起推理服务的示例,具体参数与模型名称请以官方仓库说明为准:
# 示例:查看显卡与显存情况
nvidia-smi
示例:创建独立环境并安装依赖
python3 -m venv loop9b-env
source loop9b-env/bin/activate
pip install --upgrade pip
pip install torch transformers accelerate
示例:从 Hugging Face 拉取权重(模型 ID 以官方仓库为准)
huggingface-cli download SenseNova/Loop-9B-Preview --local-dir ./loop9b
如果服务器在国内,拉取权重前可以先配置镜像源或使用离线拷贝,避免下载中断;正式对外提供服务时,记得在反向代理层限制请求频率并开启访问日志,便于排查异常调用。
一是不要只看参数量对比表,循环架构的推理耗时与普通同参数模型并不完全一致,长文本场景下要重点测吞吐和首字延迟。二是开源许可虽宽松,但模型卡中可能附带使用限制与免责声明,商用前应完整阅读。三是国产开源模型普遍在发布当天完成昇腾、寒武纪等国产芯片适配,若计划走国产算力路线,可优先查看官方给出的适配清单与版本要求。四是这类预览版模型更新频繁,接口和行为可能变化,生产环境建议锁定具体版本号,不要直接跟随主干。
总体来看,Loop-9B-Preview 提供了一条「用架构换参数」的思路,对预算有限又想尝试自建模型服务的站长来说,是一个值得放进测试清单的选项。后续是否会有正式版以及更多尺寸的循环架构模型,以商汤官方公告为准。
| 📑 | 📅 |
|---|---|
| DeepSeek千亿融资细节曝光:国资占比升至27% | 2026-11-02 |
| 可灵AI 198亿元增资落地,港股IPO预期升温 | 2026-11-02 |
| 个人AI助理转向管事:灵光2.0与WorkBuddy观察 | 2026-11-02 |
| 微信输入法上线AI录音笔,转写整理一条龙 | 2026-11-01 |
| 阿里Qwen3.8系列开源:旗舰权重首次开放 | 2026-11-01 |
| 国产AI芯片出货份额突破四成,算力政策与生态同步推进 | 2026-11-02 |
| 国产大模型开源提速:从拼参数到拼推理成本 | 2026-11-02 |
| 腾讯WorkBuddy跑出90亿次任务,办公AI进入落地比拼 | 2026-11-02 |
| 趋境科技B轮超13亿元,AI Token工厂独立融资 | 2026-11-02 |
| 可灵4.0开放API、新芯航途X7 Ultra发布:算力与模型同周更新 | 2026-11-02 |