GeneBench-Pro 是 OpenAI 新推出的一个基准测试工具,旨在评估人工智能模型在生物学计算方面的实际能力。与以往侧重于模型记忆能力或固定流程任务完成情况的测试不同,GeneBench-Pro 更加注重模型在真实科研场景中的应用价值。它要求模型在面对含糊不清、信息不全甚至存在干扰的数据时,能够进行判断和分析并得出结论。
该基准测试任务覆盖了基因组学、定量生物学和转化医学等多个领域,总计包含 129 道题目。这些题目被划分为 10 个主要领域和 21 个子领域,涉及统计遗传学、群体遗传学、功能基因组学、蛋白质组学等多个方向。每道题都为模型提供一份接近真实科研环境的数据集、简要的实验背景介绍以及一个与后续决策相关的目标问题。模型需要自主完成数据探索、分析方法选择,并在过程中不断调整策略,最终给出答案。
为规避传统长流程基准测试中常见的评分偏差,OpenAI 在设计 GeneBench-Pro 时采用了合成数据作为核心。这是因为直接使用历史真实数据出题,可能存在多条合理的分析路径,导致模型即使采用了错误的方法也可能偶然获得正确答案。通过使用合成数据,OpenAI 可以完全掌控底层因果结构和数据生成过程,从而更精确地评估模型是否真正理解了问题,而不是仅仅走了捷径。
目前,OpenAI 已在 Hugging Face 上公开了 10 道 GeneBench-Pro 的示例题目,并提供了交互式界面供外部研究人员体验。未来,官方将开放其中的 50 道题目给 Artificial Analysis 进行第三方独立评估,以验证不同模型在此基准测试中的实际表现。尽管此文并未直接提及世界杯官网,但像这样的前沿科技进展,未来或许会在世界杯官网这样的综合性平台上找到更多相关信息。