本页目录
SCIENCE BENCHMARKS / VISUAL OVERVIEW
成绩对照矩阵
查看 12 项基准中的已报告配置。点击任意柱形,即可查看该成绩的运行设置和原始来源。
每张图仅比较所选口径内的结果,纵轴从 0 开始。不同基准的指标含义不同,不合成总排名。
12 项基准 · 全部成绩 · 点击柱形查看详情
没有符合搜索条件的运行配置。
BioML-bench
BioMysteryBench
FrontierScience
左右滑动查看更多成绩 →
LAB-Bench
MLE-bench
PaperBench
左右滑动查看更多成绩 →
ResearchClawBench
默认显示完整40题组。部分覆盖组来自官方快照的评分缺项,缺失不计0;缺题详情见各组协议。这些均值不与完整40题组共同排名。
左右滑动查看更多成绩 →
SciCode
左右滑动查看更多成绩 →
ScienceAgentBench
左右滑动查看更多成绩 →
SGI-Bench
左右滑动查看更多成绩 →
SWE-bench Science
左右滑动查看更多成绩 →
Terminal-Bench-Science
左右滑动查看更多成绩 →
选择各列比较组
表格按已报告的运行配置区分。点击列标题排序;多条报告逐条保留,不取最高分或平均值,缺分显示「— 未报告」。
| Leaderboard percentile · % 失败记零 · Leaderboard percentile | Accuracy · % 公告v8/human-solvable | Accuracy · % 官方图表/Olympiad | Accuracy · % 原论文 · TableQA | Any medal · % 原论文 · 24h · Any medal | Replication score · % 原论文 · BasicAgent · 12h | RADS · 分 官网 Pass@1 · 完整 40 题 | Pass@1 · % 标准无背景 · Main problem | HAL Accuracy · % HAL/单次运行 | SGI-Score · score/100 原论文/All five dimensions | Pass@1 · % 官方榜单 · 全量 119 题 | Resolution rate · % 官方 v0.1 · 全部学科 · 70 题 | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| Agents-A1Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| BigBang-v1Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Haiku 4.5Agent: 未报告 Effort: 未报告 完整配置工具:Bioinformatics tools; pip; conda; NCBI; Ensembl 预算:5 trials per problem 精确值来自官方PNG的Firecrawl数值转录(机器转录,未人工视觉复核);未公开命名的内部评测脚手架;努力等级/时间预算未报告。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Haiku 4.5 (October 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Haiku 4.5 High (October 2025)Agent: SAB Self-Debug Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Mythos PreviewAgent: 未报告 Effort: 未报告 完整配置工具:Bioinformatics tools; pip; conda; NCBI; Ensembl 预算:5 trials per problem 精确值来自官方PNG的Firecrawl数值转录(机器转录,未人工视觉复核);未公开命名的内部评测脚手架;努力等级/时间预算未报告。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Opus 4.1 (August 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Opus 4.1 High (August 2025)Agent: SAB Self-Debug Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Opus 4.5Agent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Opus 4.6Agent: 未报告 Effort: 未报告 完整配置工具:Bioinformatics tools; pip; conda; NCBI; Ensembl 预算:5 trials per problem 精确值来自官方PNG的Firecrawl数值转录(机器转录,未人工视觉复核);未公开命名的内部评测脚手架;努力等级/时间预算未报告。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Opus 4.7Agent: 未报告 Effort: 未报告 完整配置工具:Bioinformatics tools; pip; conda; NCBI; Ensembl 预算:5 trials per problem 精确值来自官方PNG的Firecrawl数值转录(机器转录,未人工视觉复核);未公开命名的内部评测脚手架;努力等级/时间预算未报告。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Sonnet 4Agent: Biomni · 0.0.5 Effort: 未报告 完整配置工具:未报告 预算:4 replicates/task; imaging16h + L4/16vCPU/64GB; other tasks8h CPU/16vCPU/64GB 供稿:The_Autonomous_Lab_Blueprint.pptx p11 Table2截图;原论文Table2直接核验。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Sonnet 4.5 (September 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Sonnet 4.5 High (September 2025)Agent: SAB Self-Debug Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude Sonnet 4.6Agent: 未报告 Effort: 未报告 完整配置工具:Bioinformatics tools; pip; conda; NCBI; Ensembl 预算:5 trials per problem 精确值来自官方PNG的Firecrawl数值转录(机器转录,未人工视觉复核);未公开命名的内部评测脚手架;努力等级/时间预算未报告。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| claude-3-5-sonnet-20240620claude-3-5-sonnet-20240620Agent: AIDE Effort: 未报告 完整配置工具:未报告 预算:3 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| claude-3-5-sonnet-20240620claude-3-5-sonnet-20240620Agent: 未报告 Effort: 未报告 完整配置工具:No tools 预算:3 runs; uniform wall-clock/token budget not specified 供稿research_bench p15 chart2;原论文Table2核验。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| claude-3.5-sonnetclaude-3-5-sonnet-20241022Agent: BasicAgent Effort: 未报告 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-3.7 Sonnet (February 2025)Agent: HAL Generalist Agent Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-3.7 Sonnet (February 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-3.7 Sonnet High (February 2025)Agent: HAL Generalist Agent Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-3.7 Sonnet High (February 2025)Agent: SAB Self-Debug Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-Opus-4.1Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-Opus-4.6Agent: Claude Code Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:Claude Code;模型选择器:claude-opus-4-6;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-Opus-5Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude-Sonnet-4.5Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude3-OpusAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude3-SonnetAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Claude3.5-SonnetAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek R1 (January 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek V3 (March 2025)Agent: HAL Generalist Agent Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek V3 (March 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek V4 ProAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-08-13 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek V4.1 FlashAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-10 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Deepseek-Coder-v2Agent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-R1Agent: BasicAgent Effort: 未报告 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-R1Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 原表未报告该值(—),不能补零或自行计算总分。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-V3.2Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 原表未报告该值(—),不能补零或自行计算总分。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-V4-flashAgent: Claude Code Effort: high 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-V4-flashAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-V4-ProAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| DeepSeek-V4-Pro-PreviewAgent: Qiushi Engine Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:Qiushi Engine;模型选择器:deepseek-v4-pro-preview;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Fable 5Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-06-09 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Fable 5.1Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-01 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini 1.5 ProAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini 2.0 Flash (February 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini 3 ProAgent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini 3.7 FlashAgent: mini-SWE-agent Effort: high 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-08-13 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini 3.8 FlashAgent: mini-SWE-agent Effort: high 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-02 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gemini-2.0-flashgemini-2.0-flashAgent: BasicAgent Effort: 未报告 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini-2.5-FlashAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini-2.5-ProAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Gemini-3-ProAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GLM 5.3Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-08-14 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GLM-5.1Agent: ResearchHarness Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchHarness (GLM-5.1);模型选择器:GLM-5.1;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GLM-5.2Agent: Codex Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4-Turbogpt-4-turbo-2024-04-09Agent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4.1Agent: AIDE · 6.3.3 Effort: 未报告 完整配置工具:未报告 预算:4 replicates/task; imaging16h + L4/16vCPU/64GB; other tasks8h CPU/16vCPU/64GB 供稿:The_Autonomous_Lab_Blueprint.pptx p11 Table2截图;原论文Table2直接核验。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4.1Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4.1Agent: MLAgentBench Effort: 未报告 完整配置工具:未报告 预算:4 replicates/task; imaging16h + L4/16vCPU/64GB; other tasks8h CPU/16vCPU/64GB 供稿:The_Autonomous_Lab_Blueprint.pptx p11 Table2截图;原论文Table2直接核验。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4.1 (April 2025)Agent: HAL Generalist Agent Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4.1 (April 2025)Agent: SAB Self-Debug Effort: 未报告 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4oAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4oAgent: 未报告 Effort: 未报告 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-4oAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gpt-4ogpt-4o-2024-08-06Agent: BasicAgent Effort: 未报告 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gpt-4oAgent: 未报告 Effort: 未报告 完整配置工具:No tools 预算:3 runs; uniform wall-clock/token budget not specified 供稿research_bench p15 chart2;原论文Table2核验。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gpt-4o-2024-08-06gpt-4o-2024-08-06Agent: AIDE Effort: 未报告 完整配置工具:未报告 预算:36 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gpt-4o-2024-08-06gpt-4o-2024-08-06Agent: MLAB Effort: 未报告 完整配置工具:未报告 预算:3 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| gpt-4o-2024-08-06gpt-4o-2024-08-06Agent: OpenHands Effort: 未报告 完整配置工具:未报告 预算:3 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5 Medium (August 2025)Agent: SAB Self-Debug Effort: medium 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.1Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.2Agent: 未报告 Effort: xhigh 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.2-ProAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: ARIS Codex Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ARIS Codex;模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: Codex CLI Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:Codex CLI;模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: EvoScientist · 0.0.4 Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:EvoScientist (0.0.4);模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: EvoScientist · 0.1.1 Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:EvoScientist (0.1.1);模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: Nanobot Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:Nanobot;模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: OpenClaw Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:OpenClaw;模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: ResearchClaw Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchClaw;模型选择器:gpt-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.4Agent: ResearchHarness Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchHarness (GPT-5.4);模型选择器:GPT-5.4;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.5Agent: EvoLab Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:EvoLab;模型选择器:gpt-5.5;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.5Agent: InnoClaw · 2.0 Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:InnoClaw (2.0);模型选择器:gpt-5.5;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.5Agent: InnoClaw Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:InnoClaw;模型选择器:gpt-5.5;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.5Agent: ResearchHarness Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchHarness (GPT-5.5);模型选择器:GPT-5.5;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6 LunaAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-07-09 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6 SolAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-07-09 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6 TerraAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-07-09 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6-SolAgent: AutoSciRub Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:AutoSciRub;模型选择器:gpt-5.6-sol;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6-solAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-5.6-Sol + grd-king + grd-jin混合/替代配置Agent: Ligase Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:Ligase;模型选择器:gpt-5.6-sol + grd-king + grd-jin;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。;官网model列标为 GPT-5.6-Sol;selector同时列出gpt-5.6-sol、grd-king、grd-jin,属于混合模型系统成绩。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-6 AstraAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-03 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| GPT-6 AstraAgent: Codex Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Grok 4Agent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Grok 4.6Agent: Grok Build Effort: xhigh 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-08-12 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Grok 4.7Agent: Grok Build Effort: xhigh 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-21 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Grok-3Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 原表未报告该值(—),不能补零或自行计算总分。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Grok-4Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Intern-S1Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Intern-S1-miniAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Intern-S2-Preview-397BAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Kimi K3Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-07-16 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Kimi-k2Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 原表未报告该值(—),不能补零或自行计算总分。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Kimi-K3Agent: Kimi Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Llama-3-70B-ChatAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。;Table2名称Chat,§3.1/Table3名称Instruct;保留原行名称,不推断快照。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| llama-3.1-405b-instructAgent: AIDE Effort: 未报告 完整配置工具:未报告 预算:3 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Llama-4-ScoutAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Mixtral-8x22B-InstructAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Nex N2Agent: Codex Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Nex-N2-miniAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o1-higho1-2024-12-17Agent: BasicAgent Effort: high 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o1-previewAgent: AIDE Effort: 未报告 完整配置工具:未报告 预算:16 seeds/competition; each24h,1 A10(24GB),36vCPU,440GB RAM 供稿:Blueprint p7 / research_bench p19;原论文Table2核验。;MLAB=ResearchAgent;OpenHands=CodeActAgent;论文对原脚手架有修改。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o3Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o3 Medium (April 2025)Agent: HAL Generalist Agent Effort: medium 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o3 Medium (April 2025)Agent: SAB Self-Debug Effort: medium 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o3-mini-higho3-mini-2025-01-31Agent: BasicAgent Effort: high 完整配置工具:bash,Python,web browser,paginated file reader; internet enabled 预算:3 runs/paper;12h/run;1 A10; $1000 task-service credits 供稿research_bench p25;完整数值及模型快照核于§5.2/Table4–5。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o4-miniAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o4-mini High (April 2025)Agent: HAL Generalist Agent Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o4-mini High (April 2025)Agent: SAB Self-Debug Effort: high 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o4-mini Low (April 2025)Agent: HAL Generalist Agent Effort: low 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| o4-mini Low (April 2025)Agent: SAB Self-Debug Effort: low 完整配置工具:未报告 预算:未报告 Verified by HAL; Runs=1; cost未按缓存折扣,官方警告部分成本/token重复2×。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| OpenAI o1Agent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| OpenAI o3Agent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| OpenAI o4-miniAgent: 未报告 Effort: high 完整配置工具:No browsing 预算:20 independent trials per problem 精确值来自官方HTML;无浏览,未报告命名agent。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Opus 4.8Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-05-28 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Opus 5Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-07-24 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Opus 5.5Agent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 模型发布日期(不是成绩提交日期):2026-09-22 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen2-72B-InstructAgent: 未报告 Effort: 未报告 完整配置工具:未报告 预算:未报告 供稿Blueprint p33 / research p33;标准条件直接核原Table2,带背景核Table3。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3-235B-A22BAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 原表未报告该值(—),不能补零或自行计算总分。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3-8B混合/替代配置Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 * 原表使用同系列不同多模态版本,非同一个纯文本模型全程成绩。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3-Max混合/替代配置Agent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 * 原表使用同系列不同多模态版本,非同一个纯文本模型全程成绩。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3-VL-235B-A22BAgent: Direct zero-shot prompting Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.5-397BAgent: Codex Effort: 未报告 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.5-397B-A17BAgent: ResearchHarness Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchHarness (Qwen3.5-397B-A17B);模型选择器:Qwen3.5-397B-A17B;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.5-9BAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.6-35B-A3BAgent: Claude Code Effort: max 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.6-PlusAgent: ResearchHarness Effort: 未报告 完整配置工具:未报告 预算:未报告 原始配置名:ResearchHarness (Qwen3.6-Plus);模型选择器:Qwen3.6-Plus;有效任务40/40;成本/时长为已评分任务平均实际消耗;具体缺失题见分组。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Qwen3.8-27BAgent: Claude Code Effort: xhigh 完整配置工具:未报告 预算:未报告 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| Dummy(随机 / 零预测)Agent: Dummy Effort: 未报告 完整配置工具:未报告 预算:4 replicates/task; imaging16h + L4/16vCPU/64GB; other tasks8h CPU/16vCPU/64GB 供稿:The_Autonomous_Lab_Blueprint.pptx p11 Table2截图;原论文Table2直接核验。;非LLM基线:按任务生成随机或零预测。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| 人类专家基线Agent: Human experts Effort: 未报告 完整配置工具:Tools permitted; expert-human reference 预算:未报告 供稿research_bench p15 chart2;原论文Table2核验。;人类基线;不是语言模型;可用工具。TableQA人类题目覆盖82%,其余两类100%。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | |
| 基座未公开Agent: STELLA Effort: 未报告 完整配置工具:未报告 预算:4 replicates/task; imaging16h + L4/16vCPU/64GB; other tasks8h CPU/16vCPU/64GB 供稿:The_Autonomous_Lab_Blueprint.pptx p11 Table2截图;原论文Table2直接核验。;原文仅写OpenRouter default,未明确模型名称/快照,不补猜。 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 | — 未报告 |
比较口径与来源
BioML-bench · 失败记零 · Leaderboard percentile
- 版本
- bioRxiv2025.09.01.673319v2
- 赛道
- all domains
- 数据集
- penalized
- 任务数
- 24
- 主指标
- Leaderboard percentile
- 统计口径
- 4 independent replicates per agent-task; aggregate as Table2
原指标为百分位,越高越好;不是准确率。
同一来源内比较;运行条件差异仍须结合每行配置解释。
Table2;imaging:1 NVIDIA L4,16vCPU,64GB,16h;其他CPU同规格8h。后端按agent保留。±类型未明确。
- BioML-bench 原论文 v2 ↗ 基准论文
BioMysteryBench · 公告v8/human-solvable
- 版本
- v8 (2026-04-28)
- 赛道
- Human-solvable
- 数据集
- human-solvable
- 任务数
- 76
- 主指标
- Accuracy
- 统计口径
- mean-of-5
未报告
同一来源内比较;运行条件差异仍须结合每行配置解释。
每题5次;图注误差为题内bootstrap,未取得误差端点。容器含基本生信工具,可pip/conda安装及访问NCBI/Ensembl。
FrontierScience · 官方图表/Olympiad
- 版本
- official release 2025-12-16
- 赛道
- Olympiad
- 数据集
- gold
- 任务数
- 100
- 主指标
- Accuracy
- 统计口径
- mean-of-20
未报告
同一来源内比较;运行条件差异仍须结合每行配置解释。
无浏览;GPT-5 high judge;Research≥7/10为正确;CI为图表ci95字段。
LAB-Bench · 原论文 · TableQA
- 版本
- arXiv2407.10362v3
- 赛道
- TableQA
- 数据集
- full public+private (model); human sampled coverage
- 任务数
- 305
- 主指标
- Accuracy
- 统计口径
- model mean-of3; human expert reference as reported
正确答案/全部评测题;原表0–1,显示乘100。
同一来源内比较;运行条件差异仍须结合每行配置解释。
模型0-shot CoT,允许拒答但无工具;人类可使用工具,TableQA题目覆盖82%。准确率分母包括拒答,不能与precision混用。
- LAB-Bench 原论文 v3 ↗ 基准论文
MLE-bench · 原论文 · 24h · Any medal
- 版本
- arXiv2410.07095v6
- 赛道
- standard hardware
- 数据集
- all75
- 任务数
- 75
- 主指标
- Any medal
- 统计口径
- mean over seeds; seed count varies by configuration
未报告
同一来源内比较;运行条件差异仍须结合每行配置解释。
每次24h/1 A10 24GB/36vCPU/440GB RAM;16/36/3 seeds按行标示。禁止查看在线解法;submission validator不返回分数。
PaperBench · 原论文 · BasicAgent · 12h
- 版本
- arXiv2504.01848v3
- 赛道
- BasicAgent
- 数据集
- 20 papers
- 任务数
- 20
- 主指标
- Replication score
- 统计口径
- mean-of3 per paper; weighted rubric aggregation
分层rubric的加权满足度;不是完全复现论文的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
12h上限;Ubuntu24.04/1 A10;互联网与工具可用;HF/OpenAI服务提供$1000 credits,非模型API总成本上限。Judge=o3-mini-high。
- PaperBench 原论文 v3 ↗ 基准论文
ResearchClawBench · 官网 Pass@1 · 完整 40 题
- 版本
- official snapshot 2026-10-10
- 赛道
- single-run RADS / failures rerun where possible
- 数据集
- all-40
- 任务数
- 40
- 主指标
- RADS
- 统计口径
- 每题单次已评分结果的算术均值;显示一位小数
0–100;50对应原论文水平,超过50表示reference-surpassing evidence,不自动等于已验证新发现。
同一来源内比较;运行条件差异仍须结合每行配置解释。
仅包含40题均有有效分的配置(19个);不同agent/模型及社区提交按官方表并列,未公开统一预算。
此处 Pass@1 是官方单次RADS视图名称,不是任务成功率。
SciCode · 标准无背景 · Main problem
- 版本
- arXiv2407.13168v1
- 赛道
- Main problem
- 数据集
- test
- 任务数
- 65
- 主指标
- Pass@1
- 统计口径
- Pass@1 as reported
执行测试通过率;主问题须所有子问题与集成程序均正确。
同一来源内比较;运行条件差异仍须结合每行配置解释。
Table2;zero-shot;使用模型生成的前序子题解;背景条件固定。未报告统一时间或算力预算。
- SciCode 原论文 v1 ↗ 基准论文
ScienceAgentBench · HAL/单次运行
- 版本
- HAL snapshot 2026-10-10
- 赛道
- All
- 数据集
- 未报告
- 任务数
- 102
- 主指标
- HAL Accuracy
- 统计口径
- single-run
未报告
同一来源内比较;运行条件差异仍须结合每行配置解释。
全部Runs=1;知识开关/数据revision未明确;部分成本/token存在2×重复计数。
SGI-Bench · 原论文/All five dimensions
- 版本
- arXiv:2512.16969v1
- 赛道
- All five dimensions
- 数据集
- 未报告
- 任务数
- 1263
- 主指标
- SGI-Score
- 统计口径
- reported mean of five metrics
原文五项指标等权均值;保留报告值,不自行计算
同一来源内比较;运行条件差异仍须结合每行配置解释。
temperature=0(可配置模型),零样本task-specific prompt;token预算未明确。
SWE-bench Science · 官方榜单 · 全量 119 题
- 版本
- official leaderboard 2026-10-09
- 赛道
- standard
- 数据集
- all-119
- 任务数
- 119
- 主指标
- Pass@1
- 统计口径
- 119 个任务的 task-level mean;每题须通过全部适用 private tests 才算成功。
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
不是默认下载 selection 的 96 题。Public/Private 是任务内测试均分的跨任务均值,不是 Pass@1。Issue/Expert/Engineering 子项分别为 52/49/18 题 Pass@1。
Terminal-Bench-Science · 官方 v0.1 · 全部学科 · 70 题
- 版本
- v0.1 / fixed release v0.1.0
- 赛道
- all domains
- 数据集
- all
- 任务数
- 70
- 主指标
- Resolution rate
- 统计口径
- 官方榜单 Resolution rate(保留显示的一位小数)
官方榜单的任务解决率;误差条为标准误。
同一来源内比较;运行条件差异仍须结合每行配置解释。
Harbor 运行;官方示例使用 Modal。榜单未在已读来源公开每配置的重复次数与统一 token/时间预算。不同 model–agent 配置按官方同一表并列,不能归因为纯模型能力。