核心信息

Perplexity 公开了其为 AI 智能体构建安全防护的工程方法,并开源了 Bumblebee——一款适用于 macOS 和 Linux 的只读扫描器,可检测风险软件包、扩展和 AI 工具配置。

要点

  • Bumblebee 扫描开发者机器中的风险包、扩展和 AI 工具配置;接入 Computer 系统后,可在出现新型供应链风险时触发更深入的扫描
  • Computer 会审查来自 Bumblebee 和 Numbat 的发现并提出更优的检测规则,但所有变更必须经人工批准才能发布——智能体不能审批自己的变更
  • Perplexity 的安全智能研究所(Secure Intelligence Institute)与斯坦福、卡内基梅隆、杜克、哥伦比亚、俄亥俄州立和弗吉尼亚大学的研究人员合作
  • 公司还与 NVIDIA 和 Open Secure AI Alliance 合作,共享工具和研究成果,帮助其他方加强自身系统