本页目录
SCIENCE BENCHMARKS / RESULTS
SWE-bench Science 成绩
119 个科学软件仓库修复任务,覆盖98个仓库和20个学科,区分公共测试得分与完整私有测试成功率。
每组仅在已取得精确数值的记录中排序,不跨组比较;模型与 Agent / 运行方法、推理强度和预算共同构成运行配置。未报告的设置保持标注。
官方榜单 · 全量 119 题
- 版本
- official leaderboard 2026-10-09
- 赛道
- standard
- 数据集
- all-119
- 任务数
- 119
- 主指标
- Pass@1
- 统计口径
- 119 个任务的 task-level mean;每题须通过全部适用 private tests 才算成功。
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
不是默认下载 selection 的 96 题。Public/Private 是任务内测试均分的跨任务均值,不是 Pass@1。Issue/Expert/Engineering 子项分别为 52/49/18 题 Pass@1。
17 条成绩记录 · 仅在已取得精确数值的记录中按主指标排序;缺分不排名。
| 配置与证据 | |||||
|---|---|---|---|---|---|
| 1 | GPT-6 Astra | Codex | max | 50.42% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 83.18%;Fail2Pass 80.11%;Pass2Pass 95.95%;issue_pass_at_1 46.15%;expert_pass_at_1 57.14%;engineering_pass_at_1 44.44% 报告日期:2026-10-09 成绩位置:Model results row 1: GPT-6 Astra (max) / Codex |
| 2 | Claude-Opus-5 | Claude Code | max | 47.9% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 75.11%;Fail2Pass 68.6%;Pass2Pass 97.37%;issue_pass_at_1 38.46%;expert_pass_at_1 65.31%;engineering_pass_at_1 27.78% 报告日期:2026-10-09 成绩位置:Model results row 2: Claude-Opus-5 (max) / Claude Code |
| 3 | GPT-5.6-sol | Codex | max | 40.34% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 75.57%;Fail2Pass 69.98%;Pass2Pass 96.3%;issue_pass_at_1 34.62%;expert_pass_at_1 46.94%;engineering_pass_at_1 38.89% 报告日期:2026-10-09 成绩位置:Model results row 3: GPT-5.6-sol (max) / Codex |
| 4 | DeepSeek-V4-Pro | Claude Code | max | 39.5% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 71.5%;Fail2Pass 63.81%;Pass2Pass 96.58%;issue_pass_at_1 26.92%;expert_pass_at_1 53.06%;engineering_pass_at_1 38.89% 报告日期:2026-10-09 成绩位置:Model results row 4: DeepSeek-V4-Pro (max) / Claude Code |
| 5 | Kimi-K3 | Kimi Code | max | 35.29% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 66.34%;Fail2Pass 57.55%;Pass2Pass 94.94%;issue_pass_at_1 25%;expert_pass_at_1 44.9%;engineering_pass_at_1 38.89% 报告日期:2026-10-09 成绩位置:Model results row 5: Kimi-K3 (max) / Kimi Code |
| 6 | GLM-5.2 | Codex | max | 31.93% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 94.12%;Private score 63.61%;Fail2Pass 53.81%;Pass2Pass 97.53%;issue_pass_at_1 17.31%;expert_pass_at_1 46.94%;engineering_pass_at_1 33.33% 报告日期:2026-10-09 成绩位置:Model results row 6: GLM-5.2 (max) / Codex |
| 7 | Qwen3.8-27B | Claude Code | xhigh | 29.41% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 65.75%;Fail2Pass 56.46%;Pass2Pass 97.36%;issue_pass_at_1 25%;expert_pass_at_1 38.78%;engineering_pass_at_1 16.67% 报告日期:2026-10-09 成绩位置:Model results row 7: Qwen3.8-27B (xhigh) / Claude Code |
| 8 | Nex N2 | Codex | 未报告 | 24.37% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 93.28%;Private score 61.89%;Fail2Pass 51.09%;Pass2Pass 94.92%;issue_pass_at_1 11.54%;expert_pass_at_1 36.73%;engineering_pass_at_1 27.78% 报告日期:2026-10-09 成绩位置:Model results row 8: Nex N2 / Codex |
| 9 | DeepSeek-V4-flash | Claude Code | max | 23.53% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 61.41%;Fail2Pass 52.34%;Pass2Pass 95.74%;issue_pass_at_1 19.23%;expert_pass_at_1 26.53%;engineering_pass_at_1 27.78% 报告日期:2026-10-09 成绩位置:Model results row 9: DeepSeek-V4-flash (max) / Claude Code |
| 10 | Intern-S2-Preview-397B | Claude Code | max | 21.01% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 97.48%;Private score 55.96%;Fail2Pass 42.68%;Pass2Pass 96.67%;issue_pass_at_1 9.62%;expert_pass_at_1 32.65%;engineering_pass_at_1 22.22% 报告日期:2026-10-09 成绩位置:Model results row 10: Intern-S2-Preview-397B (max) / Claude Code |
| 11 | DeepSeek-V4-flash | Claude Code | high | 19.33% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 58.77%;Fail2Pass 47.67%;Pass2Pass 95.02%;issue_pass_at_1 11.54%;expert_pass_at_1 28.57%;engineering_pass_at_1 16.67% 报告日期:2026-10-09 成绩位置:Model results row 11: DeepSeek-V4-flash (high) / Claude Code |
| 12 | Qwen3.6-35B-A3B | Claude Code | max | 16.81% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 54.7%;Fail2Pass 39.2%;Pass2Pass 96.59%;issue_pass_at_1 7.69%;expert_pass_at_1 24.49%;engineering_pass_at_1 22.22% 报告日期:2026-10-09 成绩位置:Model results row 12: Qwen3.6-35B-A3B (max) / Claude Code |
| 13 | Agents-A1 | Claude Code | max | 15.13% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 51.35%;Fail2Pass 37.9%;Pass2Pass 93.55%;issue_pass_at_1 9.62%;expert_pass_at_1 24.49%;engineering_pass_at_1 5.56% 报告日期:2026-10-09 成绩位置:Model results row 13: Agents-A1 (max) / Claude Code |
| 13 | BigBang-v1 | Claude Code | max | 15.13% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 50.39%;Fail2Pass 36.81%;Pass2Pass 92.88%;issue_pass_at_1 5.77%;expert_pass_at_1 22.45%;engineering_pass_at_1 22.22% 报告日期:2026-10-09 成绩位置:Model results row 14: BigBang-v1 (max) / Claude Code |
| 13 | Nex-N2-mini | Claude Code | max | 15.13% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 90.68%;Private score 52.35%;Fail2Pass 40.21%;Pass2Pass 91.05%;issue_pass_at_1 11.54%;expert_pass_at_1 18.37%;engineering_pass_at_1 16.67% 报告日期:2026-10-09 成绩位置:Model results row 15: Nex-N2-mini (max) / Claude Code |
| 16 | Qwen3.5-397B | Codex | 未报告 | 14.29% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 51.79%;Fail2Pass 38.33%;Pass2Pass 95.16%;issue_pass_at_1 5.77%;expert_pass_at_1 24.49%;engineering_pass_at_1 11.11% 报告日期:2026-10-09 成绩位置:Model results row 16: Qwen3.5-397B / Codex |
| 17 | Qwen3.5-9B | Claude Code | max | 7.56% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 88.98%;Private score 39.11%;Fail2Pass 21.27%;Pass2Pass 91.33%;issue_pass_at_1 3.85%;expert_pass_at_1 12.24%;engineering_pass_at_1 5.56% 报告日期:2026-10-09 成绩位置:Model results row 17: Qwen3.5-9B (max) / Claude Code |
没有符合搜索条件的成绩。
查看本组前 10 条成绩
辅助展示;每条柱对应一项运行配置。数值和证据以上方表格为准。
本组来源
官方榜单 · Hard70 子集
- 版本
- official leaderboard 2026-10-09
- 赛道
- standard
- 数据集
- Hard70
- 任务数
- 70
- 主指标
- Pass@1
- 统计口径
- 70 个任务的 exact-private-success 均值
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
使用 2026-08-28 有119题完整结果的12模型估计难度,选平均 reward 最低70题。token列仍是全量119题平均消耗,不能当Hard70 token预算。
10 条成绩记录 · 仅在已取得精确数值的记录中按主指标排序;缺分不排名。
| 配置与证据 | |||||
|---|---|---|---|---|---|
| 1 | GPT-6 Astra | Codex | max | 30% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 1404000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 1: GPT-6 Astra (max) / Codex |
| 2 | Claude-Opus-5 | Claude Code | max | 21.43% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 7048000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 2: Claude-Opus-5 (max) / Claude Code |
| 3 | DeepSeek-V4-Pro | Claude Code | max | 17.14% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 11204000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 3: DeepSeek-V4-Pro (max) / Claude Code |
| 4 | GPT-5.6-sol | Codex | max | 14.29% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 3921000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 4: GPT-5.6-sol (max) / Codex |
| 5 | Kimi-K3 | Kimi Code | max | 7.14% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 4926000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 5: Kimi-K3 (max) / Kimi Code |
| 6 | GLM-5.2 | Codex | max | 5.71% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 3345000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 6: GLM-5.2 (max) / Codex |
| 6 | Qwen3.8-27B | Claude Code | xhigh | 5.71% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 5024000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 7: Qwen3.8-27B (xhigh) / Claude Code |
| 8 | Nex N2 | Codex | 未报告 | 2.86% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 8033000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 8: Nex N2 / Codex |
| 9 | DeepSeek-V4-flash | Claude Code | max | 1.43% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 21990000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 9: DeepSeek-V4-flash (max) / Claude Code |
| 9 | Intern-S2-Preview-397B | Claude Code | max | 1.43% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:full119_mean_input_tokens_per_task 8028000 tokens/task 报告日期:2026-10-09 成绩位置:Hard70 row 10: Intern-S2-Preview-397B (max) / Claude Code |
没有符合搜索条件的成绩。
查看本组前 10 条成绩
辅助展示;每条柱对应一项运行配置。数值和证据以上方表格为准。
本组来源
论文 v2 · 全量 119 题
- 版本
- arXiv:2608.19799v2
- 赛道
- standard
- 数据集
- all-119
- 任务数
- 119
- 主指标
- Pass@1
- 统计口径
- Table 2,119 题 task-level mean
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
与更新官网分组展示;DeepSeek-V4-Pro=42.02%,官网=39.50%。
8 条成绩记录 · 仅在已取得精确数值的记录中按主指标排序;缺分不排名。
| 配置与证据 | |||||
|---|---|---|---|---|---|
| 1 | Claude-Opus-5 | Claude Code | max | 47.9% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 75.11%;Fail2Pass 68.6%;Pass2Pass 97.37%;issue_pass_at_1 38.46%;expert_pass_at_1 65.31%;engineering_pass_at_1 27.78% 成绩位置:§5 Table 2 row 2, PDF physical page 9 |
| 2 | DeepSeek-V4-Pro · 0813 | Claude Code | max | 42.02% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 73.16%;Fail2Pass 65.77%;Pass2Pass 96.58%;issue_pass_at_1 26.92%;expert_pass_at_1 57.14%;engineering_pass_at_1 44.44% 成绩位置:§5 Table 2 row 3, PDF physical page 9 |
| 3 | GPT-5.6-sol | Codex | max | 40.34% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 75.57%;Fail2Pass 69.98%;Pass2Pass 96.3%;issue_pass_at_1 34.62%;expert_pass_at_1 46.94%;engineering_pass_at_1 38.89% 成绩位置:§5 Table 2 row 1, PDF physical page 9 |
| 4 | Kimi-K3 | Kimi Code | max | 35.29% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 66.34%;Fail2Pass 57.55%;Pass2Pass 94.94%;issue_pass_at_1 25%;expert_pass_at_1 44.9%;engineering_pass_at_1 38.89% 成绩位置:§5 Table 2 row 4, PDF physical page 9 |
| 5 | GLM-5.2 | Codex | max | 31.93% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 94.12%;Private score 63.61%;Fail2Pass 53.81%;Pass2Pass 97.53%;issue_pass_at_1 17.31%;expert_pass_at_1 46.94%;engineering_pass_at_1 33.33% 成绩位置:§5 Table 2 row 5, PDF physical page 9 |
| 6 | Nex N2 | Codex | 未报告 | 24.37% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 93.28%;Private score 61.89%;Fail2Pass 51.09%;Pass2Pass 94.92%;issue_pass_at_1 11.54%;expert_pass_at_1 36.73%;engineering_pass_at_1 27.78% 成绩位置:§5 Table 2 row 6, PDF physical page 9 |
| 7 | DeepSeek-V4-flash · 0731 | Claude Code | max | 23.53% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.32%;Private score 61.41%;Fail2Pass 52.34%;Pass2Pass 95.74%;issue_pass_at_1 19.23%;expert_pass_at_1 26.53%;engineering_pass_at_1 27.78% 成绩位置:§5 Table 2 row 7, PDF physical page 9 |
| 8 | Qwen3.5-397B | Codex | 未报告 | 14.29% | 配置、误差与来源配置说明:未报告 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.64%;Private score 51.79%;Fail2Pass 38.33%;Pass2Pass 95.16%;issue_pass_at_1 5.77%;expert_pass_at_1 24.49%;engineering_pass_at_1 11.11% 成绩位置:§5 Table 2 row 8, PDF physical page 9 |
没有符合搜索条件的成绩。
查看本组前 10 条成绩
辅助展示;每条柱对应一项运行配置。数值和证据以上方表格为准。
本组来源
论文 v2 · 科学信息消融 · with info
- 版本
- arXiv:2608.19799v2
- 赛道
- scientific-information ablation
- 数据集
- separable-91-with-info
- 任务数
- 91
- 主指标
- Pass@1
- 统计口径
- 91题可分离科学辅助信息子集的 Pass@1
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
源码、公共执行上下文与必要科学约束固定,仅对比可分离的科学辅助信息。GPT 使用 xhigh,DeepSeek 使用 high,与主表 max 不同。
2 条成绩记录 · 仅在已取得精确数值的记录中按主指标排序;缺分不排名。
| 配置与证据 | |||||
|---|---|---|---|---|---|
| 1 | GPT-5.6-sol | Codex | xhigh | 31.87% | 配置、误差与来源配置说明:with scientific auxiliary information; same 91 separable tasks 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 97.8%;Private score 74.06% 成绩位置:§6.2 / Figures 6–7, printed pp.11–12 |
| 2 | DeepSeek-V4-flash | Claude Code | high | 23.08% | 配置、误差与来源配置说明:with scientific auxiliary information; same 91 separable tasks 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 100%;Private score 62.53% 成绩位置:§6.2 / Figures 6–7, printed pp.11–12 |
没有符合搜索条件的成绩。
查看本组前 10 条成绩
辅助展示;每条柱对应一项运行配置。数值和证据以上方表格为准。
本组来源
论文 v2 · 科学信息消融 · without info
- 版本
- arXiv:2608.19799v2
- 赛道
- scientific-information ablation
- 数据集
- separable-91-without-info
- 任务数
- 91
- 主指标
- Pass@1
- 统计口径
- 同一91题子集,去除可分离科学辅助信息
每个任务全部适用私有测试通过的比例。
同一来源内比较;运行条件差异仍须结合每行配置解释。
必要上下文与可执行工程材料保留。
2 条成绩记录 · 仅在已取得精确数值的记录中按主指标排序;缺分不排名。
| 配置与证据 | |||||
|---|---|---|---|---|---|
| 1 | GPT-5.6-sol | Codex | xhigh | 36.26% | 配置、误差与来源配置说明:without scientific auxiliary information; same 91 separable tasks 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 96.7%;Private score 73.23% 成绩位置:§6.2 / Figures 6–7, printed pp.11–12 |
| 2 | DeepSeek-V4-flash | Claude Code | high | 16.48% | 配置、误差与来源配置说明:without scientific auxiliary information; same 91 separable tasks 工具:未报告 · 预算:未报告 误差:误差未报告 补充指标:Public score 98.9%;Private score 61.21% 成绩位置:§6.2 / Figures 6–7, printed pp.11–12 |
没有符合搜索条件的成绩。
查看本组前 10 条成绩
辅助展示;每条柱对应一项运行配置。数值和证据以上方表格为准。
本组来源
阅读边界
- 默认下载 selection=96 题;all selection=119 题。下载选择与官方119题榜单不是同一概念。
- 官网与论文结果版本不同,不合并同名配置。
- 只有同来源且同题集、同协议的成绩在同一组内比较。
来源日期与读取日期分别保留。误差按原文类型呈现;未注明类型的误差不解释为置信区间。