⚡ 前沿动态

中国科大发布AI机器科学家实验室压力测试:可执行率仅3.3%

🕐 2026.09.05 星期六 来源 · 媒体 🔥 19 次点击

中国科学技术大学研究团队搭建机器催化实验室,对6种智能体框架和9种大语言模型构成的48种配置进行4608次评测,发现仅3.3%的工作流无需人工修复即可执行。

中国科大这项AI机器科学家实验室压力测试的核心结果显示,‌4608次测试中仅3.3%的工作流无需人工修复即可全自动跑通‌,该结果于2026年8-9月由中科大团队正式公开,直接戳破了此前“AI可完全接管物理实验室科研”的行业乐观预期。/spaNA△IDeEpThink.cn

一、研究背景

当前AI for Science的讨论往往混淆三种能力:生成实验计划、生成可在物理实验室执行的工作流、根据实验结果调整整体研究策略。中国科大研究团队试图用真实物理世界评测来区分这三种能力。

二、研究方法

研究团队搭建了一个机器催化实验室,包含45个覆盖合成、表征和催化性能测试的模块化自动工作站。这些能力被封装为机器可读技能(skills),AI智能体可通过技能直接调用实验设备,并接受真实设备能力、操作规范和实验条件的约束。/spaNA△IDeEpThink.cn

测试覆盖:

  • 6种智能体框架 × 9种大语言模型 = 48种配置
  • 32项由领域专家定义的研究任务
  • 共计4608次评测试次

三、测试设计

1. 测试平台

团队搭建了包含45个模块化自动工作站的真实机器催化实验室,覆盖合成、表征、催化性能测试全流程,所有设备能力都被封装为机器可读的标准化技能接口。

2. 测试样本

覆盖6种智能体框架、9种大语言模型组成的48种实际配置,针对32项由领域专家定义的真实催化科研任务,累计完成4608次对照测试。

3. 评测维度

不局限于AI生成实验方案的文本质量,全程追踪从方案生成、合规核验、下发机器人系统到物理世界实际执行的全链路表现。

四、测试结果

1. 整体可执行率

全部4608次测试中,仅151个工作流无需人工修复就能直接在实验室执行,占比恰好为‌3.3%‌。

2. 头部组合表现

表现最优的Claude Code+Claude Opus 4.7组合,全自动可执行率也仅为‌28.1%‌;排名第二的Codex+GPT 5.5组合可执行率为19.8%。

3. 长程规划瓶颈

仅极少数工作流能支撑超过30个操作步骤,任务链条越长,AI维持物理操作逻辑完整性的能力衰减越快,全测试中仅3个工作流突破30步门槛。

4. 闭环学习局限

AI能根据实验反馈调整材料配方、操作条件等局部参数,但多轮迭代始终停留在局部优化层面,从未主动质疑原有实验策略,也无法修正“缺少关键试剂、电极黏结剂”这类根本性的方案遗漏。

研究总结:智能体能够根据实验结果调整材料配方和操作条件,但这些调整主要停留在局部参数优化层面,未能重新设计分析方法或纠正关键遗漏(如缺少电极黏结剂和显色试剂)。

五、结论与启示

研究首次明确区分了此前行业长期混淆的三种AI科研能力:

  • 流畅生成格式完整的实验方案/spaNA△IDeEpThink.cn
  • 生成能在物理实验室直接落地的可执行工作流
  • 根据实验结果反向重构整体研究策略

当前大模型仅能稳定实现第一种能力,后两种能力仍存在显著短板,文本层面的规划能力完全无法自动转化为物理世界的可靠执行能力。

这也意味着AI目前只能作为科研人员的方案起草员、文献助手,问题定义、策略重构、异常调试这类核心科研元能力,仍无法被自动化替代,此前大量演示视频呈现的“行云流水式全自主AI科研”,普遍存在样本偏差问题,和真实严苛测试的结果存在巨大差距。

声明:文中数据及部分观点来源于网络,部分观点来源于个人分析和推理,仅供参考,不构成投资或商业决策建议。
资料来源
  1. 搜狐新闻
  2. workbuddy
← 返回 [前沿动态]