核心信息

OpenAI邀请METR和Redwood Research对其内部监控系统开展嵌入式评估试点，今年夏天给予这两个团队为期三周的基础设施深度访问权限。评估结果帮助强化了系统扩展过程中的保障措施，并将影响未来与第三方评估者的研究合作。

要点

  • METR和Redwood Research的两名员工在OpenAI办公场所工作了三周。
  • 该团队评估了OpenAI用于监控内部智能体失准的系统。
  • 相关工作的简要公开报告现已发布。
  • 评估结果将为与METR及其他第三方评估者的未来合作提供参考。