核心信息
Perplexity 公开了其为 AI 智能体构建安全防护的工程方法,并开源了 Bumblebee——一款适用于 macOS 和 Linux 的只读扫描器,可检测风险软件包、扩展和 AI 工具配置。
要点
- Bumblebee 扫描开发者机器中的风险包、扩展和 AI 工具配置;接入 Computer 系统后,可在出现新型供应链风险时触发更深入的扫描
- Computer 会审查来自 Bumblebee 和 Numbat 的发现并提出更优的检测规则,但所有变更必须经人工批准才能发布——智能体不能审批自己的变更
- Perplexity 的安全智能研究所(Secure Intelligence Institute)与斯坦福、卡内基梅隆、杜克、哥伦比亚、俄亥俄州立和弗吉尼亚大学的研究人员合作
- 公司还与 NVIDIA 和 Open Secure AI Alliance 合作,共享工具和研究成果,帮助其他方加强自身系统