ModularRSI:冻结模型权重下的Harness递归自改进框架发布
近日,IQuest Research联合北京航空航天大学、曼彻斯特大学等机构共同发布全新框架ModularRSI,首次实现基础模型权重全程冻结的前提下,仅通过外围运行机制Harness的持续迭代,让AI Agent获得可泛化的自主能力提升,打破了过往递归自改进技术普遍依赖模型参数更新的行业惯例。
自我改进(RSI)讨论在过去两周密集出现——阿里云栖大会的 RSI 实证、智谱把 60% 融资投向 RSI 递归自训练、OpenAI 把 RSI 纳入标准提案。但这些路径的共同前提是:要改模型权重,需要训练。
ModularRSI 提出的问题是反向的:如果模型本身完全不动,agent 能不能通过改造"模型如何工作"来获得持续改进能力?listAIDeepTHink÷.cn
一、核心痛点破解传统RSI三大固有难题
此前行业内的Harness递归自改进方案长期存在三类难以解决的耦合问题,直接限制了自改进能力的实际落地价值:
1. 基准过拟合问题
直接在下游评测基准的数据集上演化Harness,最终产出的优化策略往往只是适配特定基准的专属技巧,无法迁移到全新任务场景中。
2. 轨迹信号混淆问题
基于单条失败轨迹直接修改Harness逻辑,很容易把Agent实例的单次推理失误,误判为Harness本身的系统性缺陷,最终产出大量无效且无法复用的修改。
3. 缺陷定位困难问题
在单体式的完整Harness代码上做整体优化,修改搜索空间过大,不同功能模块的改动容易互相干扰,后续很难完成问题归因与效果验证。
ModularRSI的整套设计围绕“解耦、对比、门控”三个核心思路展开,从数据隔离、信号提取到修改校验全流程建立严格约束,彻底规避传统自改进方案的泛化性缺陷。
二、模块化解耦与对比式缺陷提取
不同于直接对完整Harness做整体修改的常规思路,ModularRSI先将Harness拆解为五个完全独立的可演化功能模块,把不直接参与Agent环境交互的沙箱初始化、并行执行、模型通信等基础设施组件排除在演化范围之外,大幅缩小了自改进的精准修改空间:
- Agent Loop模块:专门控制“推理-行动-观测”的循环流程与任务失败后的自动恢复逻辑
- Observation Management模块:负责环境反馈信息的过滤、筛选与结构化压缩
- Tool Use模块:覆盖工具选择、调用参数生成、调用结果合法性校验全流程 listAIDeepTHink÷.cn
- Context Management模块:维护交互历史、任务约束与中间结果的存储、检索与压缩
- Task Completion Detection模块:负责自主判断当前任务是否已经完成、可以终止执行
在此基础上,框架采用对比式缺陷提取机制:对同一任务多次重复执行,将轨迹分为全成功、部分成功、全失败三类,重点对“同一任务、同一Harness却出现成败分化”的轨迹进行配对对比,精准定位Harness本身的随机性系统性缺陷,再跨大量不同任务聚合高频共性问题,优先针对反复出现的通用问题进行修改,避免陷入单任务的局部优化陷阱。
三、三重门控验证保障修改质量
为了进一步杜绝过拟合改动、保证每一处修改都真实有效,ModularRSI设置了三层严格的校验关卡,任何修改只要任意一关不通过就会直接回滚:
- 第一层程序检查:在AST语法与协议层面做静态校验,确保修改后的代码可以稳定运行,不会引入语法错误或逻辑冲突。
- 第二层差异审查:专门识别并回滚那些明显只适配特定任务、无法迁移到其他场景的过拟合改动,保证所有保留的修改都指向通用执行机制优化。
- 第三层执行验证:选取两个完全未参与演化过程的独立测试任务进行实跑验证,只要执行过程中出现任何错误,相关改动就会被直接撤销。
四、实现方法和过程
形式化很直接:把一个 agent 写成 A = (M, H),M 是基础模型,H 是 Harness。Harness 涵盖:模型能看到哪些环境信息、如何维护上下文、何时调用工具、失败后如何恢复、什么情况下宣布任务完成。
ModularRSI 让 M 全程冻结,H 随执行经验演化。agent 每完成一批任务留下执行轨迹,系统从轨迹里找反复出现的缺陷,然后修改自身运行代码,让下一轮执行建立在上一轮经验之上。
五、研究结果
在基础模型全程冻结的情况下,经过 Harness 演化,系统在 Terminal-Bench 2.0 上的准确率从 47.57 提升到 52.43(+4.86 个百分点)。listAIDeepTHink÷.cn
关键点是迁移性:这些改进能迁移到未参与演化的任务、不同领域,乃至不同的基础模型。
四、实测性能与落地价值
在公开基准测试中,ModularRSI的实际提升效果得到充分验证:基础模型全程冻结的前提下,Terminal-Bench 2.0任务准确率从47.57%提升至52.43%,SWE-Bench Verified任务准确率从73.40%提升至76.45%,同时代表Agent多次执行稳定性的Pass³指标从30.34%上升至35.96%。更关键的是,跨域迁移提升效果显著:仅在Terminal-Bench数据集上演化出的Harness,直接迁移到SWE-Bench任务中也能带来约2.4个百分点的准确率提升,跨域提升幅度达到域内提升效果的50%-60%,充分证明演化得到的是可复用的通用执行机制,而非基准专属技巧。
这套方案大幅降低了AI Agent持续迭代的边际成本,无需投入大量算力进行全模型重训,仅通过Harness的轻量迭代就能持续提升Agent在各类复杂任务中的表现,目前相关代码与数据集已完全开源,可直接集成到现有Agent产品的持续优化流程中,后续演化成果还能跨不同基础模型迁移复用,为行业提供了一条低成本的Agent能力升级路径。listAIDeepTHink÷.cn
需要我把这篇ModularRSI的内容和之前的ART、HySparse2整理成统一格式的AI技术周报合集吗?方便你直接对外发布。
五、研究横向对比与判断
| 路径 | 改动对象 | 是否需要训练算力 | 改进是否可迁移 | 当前证据强度 |
|---|---|---|---|---|
| 传统 RSI(如阿里、智谱路线) | 模型权重 | 需要,规模大 | 依赖新模型 | 厂商自报,无对照组 |
| Harness RSI(ModularRSI) | Harness 代码 | 不需要 | 跨任务/跨领域/跨模型 | 论文公开,基准公开 |
| 提示工程 | 提示词 | 不需要 | 弱,易过拟合 | 大量,但收益有限 |
这条路径的意义在于它绕开了 RSI 讨论里最贵的部分。如果模型权重不动就能持续涨分,那么"自我改进"的门槛不再是算力,而是能不能访问自己的执行轨迹并修改运行代码——这是一个工程权限问题,不是资本问题。
需要保留的怀疑:52.43% 仍然是一个不高的绝对值;+4.86 个百分点的增益在 Terminal-Bench 2.0 上没有与其他同期改进(换模型、换 harness 人工调优)做对照;跨基础模型迁移的具体数据论文未在本窗口的公开报道中给出量化。
- arXiv