核心信息
腾讯 AI 发布 ExplorationBench,一个旨在衡量 AI 系统探索能力而非记忆能力的基准,基于两个模型已学知识完全不适用的“异世界”构建。
要点
- 多数基准题目背后有数十年的人类讨论文本存在于训练数据中,高分可能只反映记忆能力。
- 两个异世界刻意反直觉:打印 100 会返回 127,且手册故意写错。
- 十个前沿模型在探索前得分均不超过 16%。
- 经过四轮实验后,最佳模型得分达到 89%。
- 榜单上的每个分数都被定义为对“发现”的度量;官方提供可自行运行的世界演示。
腾讯 AI 发布 ExplorationBench,一个旨在衡量 AI 系统探索能力而非记忆能力的基准,基于两个模型已学知识完全不适用的“异世界”构建。