核心信息

Hugging Face 的 Julien Chaumond 介绍,Pi 新增「Virtual Models」功能,可根据查询复杂度和当前机器负载,自动把请求路由到本地运行的 Qwen 3.8 27B(通过 Llama.app)或远程的 Kimi K3 / GLM 5.3。

要点

  • 路由依据两个因素:查询复杂度与本地机器当前负载
  • 本地推理在 Llama.app 中运行 Qwen 3.8 27B
  • 远程可选模型包括 Kimi K3 与 GLM 5.3
  • 不再需要手动切换模型
  • 作者致谢 badlogicgames、mitsuhiko 及 ggml 团队