ASAGENT SCIENCE · BENCHMARKS
科学评测手册 · 2026.10
科学评测资源/MLGym-Bench(MLGym)
本页目录
研究与实验 · 基准

MLGym-Bench(MLGym)

Meta的开放式机器学习研究评测,要求agent修改方法、训练模型、运行实验并迭代;MLGym是支撑训练和评测的框架,MLGym-Bench是13任务套件。

返回目录与筛选本条目暂无迁入的成绩表。

基本情况与使用条件

提出机构
Meta;University College London;University of California, Santa Barbara;University of Wisconsin–Madison;University of Oxford
时间
2025-02-20(论文首次提交)
引用数
4 · OpenAlex · 2026-10-12[4]OpenAlex所收录引用数,统计于2026-10-12;不代表所有数据库的总引用数。0仅表示该库当前计数为0,不能证明无人引用。
是否有知名大模型厂商引用 / 采用
Meta 提出评测GPT、Claude和Gemini不构成对应厂商采用证据。
数据集 / 项目链接
Meta 官方MLGym仓库
涉及学科
计算机视觉、自然语言处理、强化学习、博弈论、算法推理
数据规模
13 个开放式研究任务任务含CIFAR-10/Fashion MNIST、MS-COCO、MNLI、语言建模、强化学习、3-SAT与重复博弈。
是否允许 train · Agent 权重训练
框架支持训练agent;需另设干净测试[3][1]官方框架明确支持RL算法和合成数据来训练AI研究agent;多数代码为CC-BY-NC 4.0,部分组件另有许可。该支持不自动提供独立无污染的13任务测试划分,训练/测试分离需另行设计。
任务内模型拟合 / 训练
任务内部训练分类器、语言模型或RL策略是被评测工作的一部分,与外层LLM agent权重训练不同。
单个样本评测所需时间预估
论文报告部分任务平均约0.5–4小时[1]论文特定配置运行时间;Table 7报告平均agent wall-clock,非统一预算或本机实测;每条Python训练命令限30或40分钟,不能当成整题耗时。当前字段枚举无“published_runtime”,因此数值留空并保留原始描述。

输入格式与样例

任务说明、数据集、基线代码和可执行的Gym/Docker环境[1]

输入样例

格式示意,非原题与标准答案
在Fashion MNIST任务中,从给定双层CNN基线出发修改架构与超参数。

输出格式与样例

任务指定的模型、算法、代码或预测等提交产物;执行评测产生任务指标[1]

输出样例

格式示意,非原题与标准答案
提交训练和推理实现,评测返回分类准确率;其他任务可返回奖励、BLEU或求解时间。

厂商引用 / 采用证据

  • Meta · 提出并发布:facebookresearch官方仓库介绍Meta MLGym和MLGym-Bench,并链接论文。 证据来源

评分、版本与阅读边界

  • 不与MLAgentBench或MLE-bench混为一项。
  • 部分任务的平均运行时间在Table 7未填,不能补成统一0.5–4小时范围的保证。

原文与依据

  1. MLGym 官方论文§4;Table 3;Appendix A.1 Table 7 · 本次在线读取:2026-10-12
  2. MLGym 首次提交日期Submission history:2025-02-20 · 本次在线读取:2026-10-12
  3. Meta 官方MLGym仓库Introduction;License · 本次在线读取:2026-10-12
  4. OpenAlex 引用统计MLGym: A New Framework and Benchmark for Advancing AI Research Agents;https://doi.org/10.48550/arxiv.2502.14499;cited_by_count=4 · 本次在线读取:2026-10-12

汇总来源:survey/子玲/科学智能体相关的benchmark.md。本页未运行 benchmark;样例不是本次模型生成或实测结果。