核心信息
LiteLLM 宣布为 AutoRouter 推出四项更新,包括自定义路由维度、自动配置最佳路由器、按模型设置输出上限,以及针对最新模型的更新预设。
要点
- 根据自定义路由维度,让路由规则贴合你的生产流量。
- 根据可用模型自动配置最佳路由器。
- 按模型设置输出上限,避免响应被截断。
- 更新预设以支持最新模型。
LiteLLM 宣布为 AutoRouter 推出四项更新,包括自定义路由维度、自动配置最佳路由器、按模型设置输出上限,以及针对最新模型的更新预设。
Blah blah Navier Stokes whatever... who cares about that mess! 🥱 Real technological progress going on right here @LiteLLM ‼️😈
4️⃣ new things @LiteLLM AutoRouter 👀 Tune to your production traffic with custom routing dimensions 💪 Auto-configure the best router for your available models 🚀 Per-model output limits to prevent truncated responses 🎉 Updated presets for the latest models https://t.co/MKtus3IWUA