核心信息

OpenAI 正与 Apollo Research、METR、Transluce 和 Goodfire 合作开展嵌入式评估,让外部专家深入访问其内部模型与系统,以研究对齐问题并测试安全防护措施。

要点

  • 该计划建立在 OpenAI 现有对齐与安全研究之上,为风险识别与管理引入独立审查。
  • Transluce 将评估 OpenAI 后训练对齐评估的质量与覆盖范围,开发额外测试、针对测试空白提出改进建议,并计划在 2027 年扩大试点。
  • Goodfire 将派驻可解释性研究人员,使用其平台分析模型内部结构,重点在训练运行监控、调试与对齐。
  • 这些工作旨在帮助 OpenAI 研究人员发现问题并做出安全改进。