核心信息
Hugging Face 的 Julien Chaumond 介绍,Pi 新增「Virtual Models」功能,可根据查询复杂度和当前机器负载,自动把请求路由到本地运行的 Qwen 3.8 27B(通过 Llama.app)或远程的 Kimi K3 / GLM 5.3。
要点
- 路由依据两个因素:查询复杂度与本地机器当前负载
- 本地推理在 Llama.app 中运行 Qwen 3.8 27B
- 远程可选模型包括 Kimi K3 与 GLM 5.3
- 不再需要手动切换模型
- 作者致谢 badlogicgames、mitsuhiko 及 ggml 团队