核心信息

Perplexity 在其搜索 API 中推出 Fast Search,基于由小团队与数百个 agent 构建的 Rust 检索与排序服务 Photon,可在 230 毫秒内返回 95% 的搜索结果。

要点

  • Photon 与实时查询服务器分开构建索引,一次更新一个服务组,预热缓存并检查就绪状态,其他组继续提供流量。
  • Photon 内部 p99 响应时间从约 800 毫秒降至约 65 毫秒,使用约少 20% 的服务器,每个文档存储的数据量增加 2.5 倍。
  • 附有工程博客与快速搜索使用指南的链接。