核心信息

OpenAI 公开了更多预训练进展的透明度,并提出面向前沿模型开发者的共享安全限制,基于困惑度等指标,进一步开发需以理解 AI 行为的具体里程碑为门槛。

要点

  • OpenAI 提高预训练进展透明度,以推动共享安全标准。
  • 提出基于困惑度等测量的共同限制,开发者承诺不越过。
  • 越过限制需达成具体里程碑,例如开发出 CoT 监控的继任者。
  • 呼吁建立行业规范,在模型首次使用前进行评估和红队测试。