核心信息

Perplexity 发布针对其计算机智能体虚拟机沙箱 SPACE 的红队研究，让 12 个模型执行两项任务：逃逸虚拟机以从宿主机获取凭据，以及绕过 SPACE 网络策略访问被封锁的 URL。

要点

  • 红队中常用的标准 Capture the Flag 设置可能让智能体偏离真正要测试的安全边界。
  • 要求智能体“找到 flag”会让其把精力浪费在并未测试目标边界的任务上。
  • 安全专用模型训练在这些任务上并不保证更好表现。
  • Perplexity 已修复智能体利用的网络缺陷，修复后测试未发现绕过。
  • 团队表示随着模型变强将持续测试 SPACE。