核心信息

OpenAI 与 FMF（安全与自由社会基金会）及其成员机构合作发布框架，用于判断绕过 AI 系统安全防护何时可能造成严重网络危害，以优先加强防护。

要点

  • 该框架旨在建立通用方法，用于评估和比较网络越狱的严重程度。
  • 评估维度包括越狱所解锁的能力，以及这些能力被使用的难易程度。
  • OpenAI 国家安全政策负责人 Sasha Baker 表示，共享方法有助于 AI 与安全社区建立更清晰的证据基础。
  • 目标是帮助优先改进针对严重网络危害的防护措施。