大模型之家讯 商汤开源日日新 SenseNova Loop-9B-Preview。这是商汤面向下一代模型架构的一项前沿探索：它采用创新 Looped Transformer 架构，引入循环计算、扩展模型的有效计算深度，并探索更充分的信息交互机制，提升模型在复杂任务上的处理能力，在仅 9B 的有限参数规模下，媲美 27B 参数大小模型。
从参数规模到计算深度
随着大模型能力持续演进，模型能力提升不再只有扩大参数规模一条路径。如何在控制参数规模的同时，通过增加有效计算深度进一步释放模型潜力，正成为值得探索的方向。近期，循环计算正成为大模型架构研究的重点方向，国内外研究社区围绕 Looped Transformer 展开了攻关探索。但目前的探索多停留在学术研究层面，社区尚缺乏可直接面向日常使用的 Looped Transformer 模型。
此次开源的 SenseNova Loop-9B-Preview，为社区提供了一个 9B 级 Looped Transformer 的开源实践，既填补了这一空白，体现了商汤对下一代大模型架构的持续探索与思考。
不过，如何让多轮计算真正转化为模型能力的提升，尤其是在信息传递、特征交互和训练稳定性等方面，仍有进一步探索的空间。现有相关工作仍以研究验证为主，如何在更大模型规模下兼顾计算深度、模型能力与实际应用需求，也有待持续推进。
循环结构与信息交互机制
SenseNova Loop-9B-Preview 以 9B 尺度模型为基座，保留首尾各 4 层原始解码器模块，将中间层改造为参数共享的循环计算模块，通过多轮迭代扩展有效计算深度。
在此基础上，模型进一步探索循环计算中的信息传递机制，尝试引入 mHC（Manifold-Constrained Hyper-Connections），利用多路残差连接与受约束的信息混合，增强特征交互并维持信号传播的稳定性。整体设计旨在控制参数规模的同时，探索提升模型推理能力的新路径。
模型表现：在多类复杂任务中展现潜力
SenseNova Loop-9B-Preview 在保持 9B 级参数规模的同时，展现出较强的跨任务性能。在当前评测设置下，模型在代码生成、办公场景和智能体任务等多个方向上均优于其他模型，并在 WorkBuddy Bench、RaccoonPPT Bench 和 AutomationBench 等评测中进一步超过 Qwen3.5-27B。这些结果初步展现了通过扩展有效计算深度，提升小参数模型复杂任务处理能力的潜力。
商汤进一步通过消融实验评估了 mHC 的实际收益。采用该机制后，模型取得明显的性能提升，其中 GPQA Diamond 和 TeamBench 分别提高了 4.42 分和 13.34 分，展现出在复杂推理任务以及多步骤 Agent 任务中的应用潜力。后续还将继续探索 DSA、自适应迭代次数等机制，以提升模型的推理效率与任务表现。
持续探索下一代模型架构
SenseNova Loop-9B-Preview 只是起点。面向下一代 SenseNova，商汤将进一步探索 Looped Transformer 在更大模型规模下的 Scaling 潜力、自适应“快慢思考”机制，深度挖掘参数共享的更多潜能，以更灵活的计算方式、更高的参数效率，持续突破模型能力与推理效率的边界。
模型权重开源：
Github：https://github.com/OpenSenseNova/SenseNova-Loop
Hugging Face：https://huggingface.co/sensenova/SenseNova-Loop-9B-Preview
关于商汤
作为人工智能软件公司，商汤科技以“坚持原创，让AI引领人类进步”为使命，旨在持续引领人工智能前沿研究，持续打造更具拓展性更普惠的人工智能软件平台，推动经济、社会和人类的发展，并持续吸引及培养顶尖人才，共同塑造未来。
商汤科技拥有深厚的学术积累，并长期投入于原创技术研究，不断增强行业领先的多模态、多任务通用人工智能能力，涵盖感知智能、自然语言处理、决策智能、智能内容生成等关键技术领域，同时包含AI芯片、AI传感器及AI算力基础设施在内的关键能力。
商汤科技业务涵盖生成式AI、视觉AI和创新业务，以高效率、低成本、规模化的AI创新和落地，打通商业价值闭环，引领人工智能进入工业化发展阶段。商汤前瞻性打造新型人工智能基础设施——商汤AI大装置SenseCore，打通算力、算法和平台，并在此基础上建立“商汤日日新SenseNova”大模型及研发体系，以低成本解锁通用人工智能任务的能力。此外，商汤科技持续领跑计算机视觉市场，商汤方舟 SenseFoundry以多年积累计算机视觉能力，辅以前沿多模态大模型，为国内外各行业提供更加稳定高效的视觉Al支撑。
商汤倡导“发展”的人工智能伦理观，并积极参与有关数据安全、隐私保护、人工智能伦理道德和可持续人工智能的行业、国家及国际标准的制订，与多个国内及多边机构就人工智能的可持续及伦理发展开展了密切合作。商汤《AI可持续发展道德准则》被联合国人工智能战略资源指南选录，并于2021年6月发表，是亚洲唯一获此殊荣的人工智能公司。
目前，商汤科技已于香港交易所主板挂牌上市。商汤在香港、上海、北京、深圳、成都、杭州、西安、新加坡、曼谷、吉隆坡、利雅得、阿布扎比、迪拜、首尔等地设立办公室。另外，商汤科技在德国、泰国、印度尼西亚、菲律宾等国家均有业务。更多信息，请访问商汤科技网站、微信、微博和领英。
原创文章，作者：志斌，如若转载，请注明出处：http://www.damoai.com.cn/archives/19819
