ASAGENT SCIENCE · BENCHMARKS
科学评测手册 · 2026.10
科学评测资源/成绩对照矩阵
本页目录

SCIENCE BENCHMARKS / VISUAL OVERVIEW

成绩对照矩阵

查看 12 项基准中的已报告配置。点击任意柱形,即可查看该成绩的运行设置和原始来源。

每张图仅比较所选口径内的结果,纵轴从 0 开始。不同基准的指标含义不同,不合成总排名。

12 项基准 · 全部成绩 · 点击柱形查看详情

BioML-bench

Leaderboard percentile(%) · 越高越好 · 24 题

BioMysteryBench

Accuracy(%) · 越高越好 · 76 题

FrontierScience

Accuracy(%) · 越高越好 · 100 题

LAB-Bench

Accuracy(%) · 越高越好 · 305 题 · 人类为不同条件参考,不参与模型排名

MLE-bench

Any medal(%) · 越高越好 · 75 题

PaperBench

Replication score(%) · 越高越好 · 20 题

ResearchClawBench

默认显示完整40题组。部分覆盖组来自官方快照的评分缺项,缺失不计0;缺题详情见各组协议。这些均值不与完整40题组共同排名。

RADS(分) · 越高越好 · 40 题

SciCode

Pass@1(%) · 越高越好 · 65 题

ScienceAgentBench

HAL Accuracy(%) · 越高越好 · 102 题

33.33%OpenAIOpenAIo3 Medium (April 2025)Agent / 运行方法SAB Self-DebugEffort: medium#130.39%AnthropicAnthropicClaude Sonnet 4.5 High (September 2025)Agent / 运行方法SAB Self-DebugEffort: high#230.39%AnthropicAnthropicClaude-3.7 Sonnet High (February 2025)Agent / 运行方法SAB Self-DebugEffort: high#230.39%OpenAIOpenAIGPT-5 Medium (August 2025)Agent / 运行方法SAB Self-DebugEffort: medium#229.41%AnthropicAnthropicClaude Sonnet 4.5 (September 2025)Agent / 运行方法SAB Self-Debug#527.45%AnthropicAnthropicClaude Opus 4.1 (August 2025)Agent / 运行方法SAB Self-Debug#627.45%OpenAIOpenAIo4-mini High (April 2025)Agent / 运行方法SAB Self-DebugEffort: high#627.45%OpenAIOpenAIo4-mini Low (April 2025)Agent / 运行方法SAB Self-DebugEffort: low#626.47%AnthropicAnthropicClaude Opus 4.1 High (August 2025)Agent / 运行方法SAB Self-DebugEffort: high#924.51%OpenAIOpenAIGPT-4.1 (April 2025)Agent / 运行方法SAB Self-Debug#1023.53%AnthropicAnthropicClaude Haiku 4.5 High (October 2025)Agent / 运行方法SAB Self-DebugEffort: high#1123.53%DeepSeekDeepSeekDeepSeek R1 (January 2025)Agent / 运行方法SAB Self-Debug#1122.55%AnthropicAnthropicClaude-3.7 Sonnet (February 2025)Agent / 运行方法SAB Self-Debug#1321.57%OpenAIOpenAIo4-mini High (April 2025)Agent / 运行方法HAL Generalist AgentEffort: high#1419.61%OpenAIOpenAIo4-mini Low (April 2025)Agent / 运行方法HAL Generalist AgentEffort: low#1518.63%AnthropicAnthropicClaude Haiku 4.5 (October 2025)Agent / 运行方法SAB Self-Debug#1617.65%AnthropicAnthropicClaude-3.7 Sonnet High (February 2025)Agent / 运行方法HAL Generalist AgentEffort: high#1715.69%DeepSeekDeepSeekDeepSeek V3 (March 2025)Agent / 运行方法SAB Self-Debug#1812.75%GoogleGoogleGemini 2.0 Flash (February 2025)Agent / 运行方法SAB Self-Debug#1910.78%AnthropicAnthropicClaude-3.7 Sonnet (February 2025)Agent / 运行方法HAL Generalist Agent#209.8%OpenAIOpenAIo3 Medium (April 2025)Agent / 运行方法HAL Generalist AgentEffort: medium#216.86%OpenAIOpenAIGPT-4.1 (April 2025)Agent / 运行方法HAL Generalist Agent#220.98%DeepSeekDeepSeekDeepSeek V3 (March 2025)Agent / 运行方法HAL Generalist Agent#23

SGI-Bench

SGI-Score(score/100) · 越高越好 · 1263 题

33.83 score/100GoogleGoogleGemini-3-ProAgent / 运行方法Direct zero-shot prompting#132.16 score/100AnthropicAnthropicClaude-Sonnet-4.5Agent / 运行方法Direct zero-shot prompting#231.97 score/100混合 / 未注明混合 / 未注明Qwen3-MaxAgent / 运行方法Direct zero-shot prompting混合/替代配置#331.45 score/100OpenAIOpenAIGPT-4.1Agent / 运行方法Direct zero-shot prompting#431.09 score/100OpenAIOpenAIGPT-5.2-ProAgent / 运行方法Direct zero-shot prompting#530.84 score/100OpenAIOpenAIGPT-5Agent / 运行方法Direct zero-shot prompting#630.68 score/100OpenAIOpenAIo3Agent / 运行方法Direct zero-shot prompting#730.42 score/100AnthropicAnthropicClaude-Opus-4.1Agent / 运行方法Direct zero-shot prompting#830.14 score/100OpenAIOpenAIo4-miniAgent / 运行方法Direct zero-shot prompting#929.31 score/100OpenAIOpenAIGPT-5.1Agent / 运行方法Direct zero-shot prompting#1028.68 score/100xAIxAIGrok-4Agent / 运行方法Direct zero-shot prompting#1128.32 score/100Alibaba / QwenAlibaba / QwenQwen3-VL-235B-A22BAgent / 运行方法Direct zero-shot prompting#1228.17 score/100GoogleGoogleGemini-2.5-ProAgent / 运行方法Direct zero-shot prompting#1328.1 score/100混合 / 未注明混合 / 未注明Intern-S1Agent / 运行方法Direct zero-shot prompting#1426.87 score/100OpenAIOpenAIGPT-4oAgent / 运行方法Direct zero-shot prompting#1524.75 score/100GoogleGoogleGemini-2.5-FlashAgent / 运行方法Direct zero-shot prompting#1621.08 score/100MetaMetaLlama-4-ScoutAgent / 运行方法Direct zero-shot prompting#1719.15 score/100混合 / 未注明混合 / 未注明Qwen3-8BAgent / 运行方法Direct zero-shot prompting混合/替代配置#1818.67 score/100混合 / 未注明混合 / 未注明Intern-S1-miniAgent / 运行方法Direct zero-shot prompting#19

SWE-bench Science

Pass@1(%) · 越高越好 · 119 题

Terminal-Bench-Science

Resolution rate(%) · 越高越好 · 70 题

比较口径与来源

BioML-bench · 失败记零 · Leaderboard percentile

打开分榜及完整来源 →

版本
bioRxiv2025.09.01.673319v2
赛道
all domains
数据集
penalized
任务数
24
主指标
Leaderboard percentile
统计口径
4 independent replicates per agent-task; aggregate as Table2

原指标为百分位,越高越好;不是准确率。

同一来源内比较;运行条件差异仍须结合每行配置解释。

Table2;imaging:1 NVIDIA L4,16vCPU,64GB,16h;其他CPU同规格8h。后端按agent保留。±类型未明确。

  • 位置:§§3.3–3.4、Table2(PDF pp4–5)发布日期:2025-09-07读取日期:2026-10-12备注:供稿Blueprint p11;原文Table2核验全部45个指标值。Table2未明确±类型,不将Figure2的SEM定义外推到表。本地证据
BioMysteryBench · 公告v8/human-solvable

打开分榜及完整来源 →

版本
v8 (2026-04-28)
赛道
Human-solvable
数据集
human-solvable
任务数
76
主指标
Accuracy
统计口径
mean-of-5

未报告

同一来源内比较;运行条件差异仍须结合每行配置解释。

每题5次;图注误差为题内bootstrap,未取得误差端点。容器含基本生信工具,可pip/conda安装及访问NCBI/Ensembl。

FrontierScience · 官方图表/Olympiad

打开分榜及完整来源 →

版本
official release 2025-12-16
赛道
Olympiad
数据集
gold
任务数
100
主指标
Accuracy
统计口径
mean-of-20

未报告

同一来源内比较;运行条件差异仍须结合每行配置解释。

无浏览;GPT-5 high judge;Research≥7/10为正确;CI为图表ci95字段。

LAB-Bench · 原论文 · TableQA

打开分榜及完整来源 →

版本
arXiv2407.10362v3
赛道
TableQA
数据集
full public+private (model); human sampled coverage
任务数
305
主指标
Accuracy
统计口径
model mean-of3; human expert reference as reported

正确答案/全部评测题;原表0–1,显示乘100。

同一来源内比较;运行条件差异仍须结合每行配置解释。

模型0-shot CoT,允许拒答但无工具;人类可使用工具,TableQA题目覆盖82%。准确率分母包括拒答,不能与precision混用。

  • 位置:Appendix B Table2;§2.3 / Appendix D–E发布日期:2024-07-17读取日期:2026-10-12备注:模型完整public+private集,3次平均;人类评测有可用工具与部分题型覆盖差异,不能作同条件纯模型比较。本地证据
MLE-bench · 原论文 · 24h · Any medal

打开分榜及完整来源 →

版本
arXiv2410.07095v6
赛道
standard hardware
数据集
all75
任务数
75
主指标
Any medal
统计口径
mean over seeds; seed count varies by configuration

未报告

同一来源内比较;运行条件差异仍须结合每行配置解释。

每次24h/1 A10 24GB/36vCPU/440GB RAM;16/36/3 seeds按行标示。禁止查看在线解法;submission validator不返回分数。

  • 位置:§§3–3.2、Table2,Introduction pass@8(PDF pp2,5–7)发布日期:2025-02-26读取日期:2026-10-12备注:原始首次提交2024-10-09;本组采用2025-02-26 v6。;Table2: o1 AIDE16 seeds、GPT4o AIDE36 seeds、其余3;mean±SEM。本地证据
PaperBench · 原论文 · BasicAgent · 12h

打开分榜及完整来源 →

版本
arXiv2504.01848v3
赛道
BasicAgent
数据集
20 papers
任务数
20
主指标
Replication score
统计口径
mean-of3 per paper; weighted rubric aggregation

分层rubric的加权满足度;不是完全复现论文的比例。

同一来源内比较;运行条件差异仍须结合每行配置解释。

12h上限;Ubuntu24.04/1 A10;互联网与工具可用;HF/OpenAI服务提供$1000 credits,非模型API总成本上限。Judge=o3-mini-high。

  • 位置:§§5.1–5.3、Tables4–5(PDF pp7–8)发布日期:2025-04-07读取日期:2026-10-12备注:BasicAgent Table4全部6模型;Iterative Table5三模型12h与o1的36h分别分组。;供稿research p25只选3模型;本次补齐同原表,不查询最新榜。本地证据
ResearchClawBench · 官网 Pass@1 · 完整 40 题

打开分榜及完整来源 →

版本
official snapshot 2026-10-10
赛道
single-run RADS / failures rerun where possible
数据集
all-40
任务数
40
主指标
RADS
统计口径
每题单次已评分结果的算术均值;显示一位小数

0–100;50对应原论文水平,超过50表示reference-surpassing evidence,不自动等于已验证新发现。

同一来源内比较;运行条件差异仍须结合每行配置解释。

仅包含40题均有有效分的配置(19个);不同agent/模型及社区提交按官方表并列,未公开统一预算。

此处 Pass@1 是官方单次RADS视图名称,不是任务成功率。

  • 位置:By Domain summary; default Pass@1 view; 36 agent/model configurations读取日期:2026-10-10备注:页面时钟不是成绩更新时间。官网 Pass@1 可能重跑失败任务,均分时排除无有效分的任务。本地证据
  • 位置:agents / scores[agent][task];36配置,33–40个有效任务读取日期:2026-10-10备注:本地证据保留原始task score、模型、run_id;公开首页的overall及domain按app.js averageEntry重算并四舍五入到一位小数。本地证据
SciCode · 标准无背景 · Main problem

打开分榜及完整来源 →

版本
arXiv2407.13168v1
赛道
Main problem
数据集
test
任务数
65
主指标
Pass@1
统计口径
Pass@1 as reported

执行测试通过率;主问题须所有子问题与集成程序均正确。

同一来源内比较;运行条件差异仍须结合每行配置解释。

Table2;zero-shot;使用模型生成的前序子题解;背景条件固定。未报告统一时间或算力预算。

  • 位置:§§2.4/3.1–3.3、Tables2–3(PDF pp6–8)发布日期:2024-07-18读取日期:2026-10-12备注:Table2与Table3均直接转录,未使用score−Δ生成标准成绩。;原表Table2的Llama名称为Chat,§3.1/Table3为Instruct,保留表内名称和说明,不假定精确快照相同。;Table3 Claude3 Opus/Sonnet main=4.7、Δ=3.0与Table2 baseline1.5并不算术一致,不自行修改。本地证据
ScienceAgentBench · HAL/单次运行

打开分榜及完整来源 →

版本
HAL snapshot 2026-10-10
赛道
All
数据集
未报告
任务数
102
主指标
HAL Accuracy
统计口径
single-run

未报告

同一来源内比较;运行条件差异仍须结合每行配置解释。

全部Runs=1;知识开关/数据revision未明确;部分成本/token存在2×重复计数。

  • 位置:ScienceAgentBench Leaderboard (23 rows); Known issue October 5, 2026读取日期:2026-10-10备注:HAL 是独立维护榜单;不能与论文 best-of-3 合榜。部分成本/token 精确重复2×,影响行未明确。本地证据
SGI-Bench · 原论文/All five dimensions

打开分榜及完整来源 →

版本
arXiv:2512.16969v1
赛道
All five dimensions
数据集
未报告
任务数
1263
主指标
SGI-Score
统计口径
reported mean of five metrics

原文五项指标等权均值;保留报告值,不自行计算

同一来源内比较;运行条件差异仍须结合每行配置解释。

temperature=0(可配置模型),零样本task-specific prompt;token预算未明确。

SWE-bench Science · 官方榜单 · 全量 119 题

打开分榜及完整来源 →

版本
official leaderboard 2026-10-09
赛道
standard
数据集
all-119
任务数
119
主指标
Pass@1
统计口径
119 个任务的 task-level mean;每题须通过全部适用 private tests 才算成功。

每个任务全部适用私有测试通过的比例。

同一来源内比较;运行条件差异仍须结合每行配置解释。

不是默认下载 selection 的 96 题。Public/Private 是任务内测试均分的跨任务均值,不是 Pass@1。Issue/Expert/Engineering 子项分别为 52/49/18 题 Pass@1。

Terminal-Bench-Science · 官方 v0.1 · 全部学科 · 70 题

打开分榜及完整来源 →

版本
v0.1 / fixed release v0.1.0
赛道
all domains
数据集
all
任务数
70
主指标
Resolution rate
统计口径
官方榜单 Resolution rate(保留显示的一位小数)

官方榜单的任务解决率;误差条为标准误。

同一来源内比较;运行条件差异仍须结合每行配置解释。

Harbor 运行;官方示例使用 Modal。榜单未在已读来源公开每配置的重复次数与统一 token/时间预算。不同 model–agent 配置按官方同一表并列,不能归因为纯模型能力。