核心信息

OpenAI 构建了 Control Room 中央系统，用于追踪其研究基础设施中的模型工作负载，并在出现安全或安保问题时快速中止。

要点

  • Control Room 接入所有研究推理工作负载，包括用于模型训练与评估的智能体采样以及数据处理。
  • 它与 OpenAI 的失准监控系统协同工作。
  • 在做出中止或暂停任务的干预决定后，它可在 35 秒内停止模型输出。
  • OpenAI 称 Control Room 只是其安全训练与部署前沿模型的整体方案的一部分。