核心信息

LiteLLM 网关现可通过 OpenAI 和 Azure 提供的 gpt-realtime-translate 实现跨语言实时语音翻译，会话按发送的音频秒数计费。

要点

  • 实时语音到语音翻译通过 LiteLLM 网关对外提供。
  • 该功能使用 OpenAI 和 Azure 的 gpt-realtime-translate。
  • 计费依据为每个会话发送的音频秒数。
  • 近期合并的更新包括：让面向 OpenAI 构建的应用使用 Claude 提示缓存、Claude 从网页链接读取 PDF、显示替换退役模型的模型，以及管理后台慢速支出日志查询在 30 秒后停止。