本页目录
InfiniteScienceGym
以随机种子生成科研文件系统与可验证问答,测试数据分析、工具使用与识别信息不足的能力。
返回目录与筛选本条目暂无迁入的成绩表。
基本情况与使用条件
- 提出机构
- University of Utah
- 时间
- 2026-04-14 首发;v2 2026-08-10;COLM 2026
- 引用数
- 0 · OpenAlex · 2026-10-12[6]OpenAlex所收录引用数,统计于2026-10-12;不代表所有数据库的总引用数。0仅表示该库当前计数为0,不能证明无人引用。原表供稿数值另行原样保留,其统计日期和数据库未提供。
- 是否有知名大模型厂商引用 / 采用
- 厂商采用待核实本次未确认厂商自有报告中的独立采用;论文评测某厂商模型不等于该厂商引用本基准。
- 涉及学科
- 生物、化学、物理、工程、通用
- 数据规模
- 可程序生成;500题实验样本生成规模不固定;README给出500题样本种子。原表15,988个QA的统计口径待全文定点核实。
- 是否允许 train · Agent 权重训练
- 生成器可复用;代理训练政策未明确[3][4]MIT代码许可与可生成新seed已确认;本次未读到明确允许将固定评测seed/QA用于代理权重训练的官方政策。训练与评测应隔离seed与问答。
- 任务内模型拟合 / 训练
- 可用分析工具拟合或计算任务需要的统计量;特权生成元数据和QA真值不向被测代理暴露。
- 单个样本评测所需时间预估
- 未公布本次可核验的单题耗时[1]尚无统一时长;原表数十秒至15分钟仅为估计,模型、工具调用、任务类型均影响时长;本次未运行。
- 供稿时间描述 · 待复核
- 单题通常数十秒–数分钟;含多步 MCP/分析时约 5–15 分钟(取决于模型和工具调用)供稿原始时间描述,仅作为待复核的估算线索。含人类专家耗时、求解预算或子程序时长时不代表agent端到端耗时。
输入格式与样例
随机种子生成的repository + 问题 + 文件系统/分析工具。[2]
输入样例
来源中的实例 / 文件契约官方页给出按耦合强度、试验编号和数据阈值筛选后计算相位相干方差的问题,要求从仓库数据判断其是否可回答。输出格式与样例
输出样例
未取得可核验实例必须依据该种子仓库的实际数据给出答案;官网此实例未展示可抄录的单一数值答案。供稿行数163尚未逐记录核验,保留于originalRow。厂商引用 / 采用证据
尚未取得足以确认厂商引用 / 采用的公开证据。基准作者测试了某厂商模型,不足以证明该厂商引用或采用此基准。
评分、版本与阅读边界
- kind归为environment是本站按资源形态的分类;论文仍称其benchmark。
- 程序生成不自动免除测试seed与目标答案泄漏风险。
原文与依据
- 子玲供稿原表(完整15列)infinite-science-gym.originalRow;Agentic Science.xlsx 第5行 · 供稿 / 既有材料来源;本次未重新在线核验
- InfiniteScienceGym 官方项目页What is InfiniteScienceGym / QA Task · 本次在线读取:2026-10-12
- InfiniteScienceGym 官方仓库README: seeds.txt / MIT License · 本次在线读取:2026-10-12
- InfiniteScienceGym 论文§3 simulator / §4 setup / appendix templates · 本次在线读取:2026-10-12
- InfiniteScienceGym 首发与版本Submission history · 本次在线读取:2026-10-12
- OpenAlex 引用统计InfiniteScienceGym: An Unbounded, Procedurally-Generated Benchmark for Scientific Analysis;https://doi.org/10.48550/arxiv.2604.13201;cited_by_count=0 · 本次在线读取:2026-10-12
汇总来源:survey/子玲/Agentic Science.xlsx。本页未运行 benchmark;样例不是本次模型生成或实测结果。