核心信息

GMI Cloud 宣布其推理 API 现已可在 LangChain 中直接使用,配套的 langchain-gmi v0.1.0 包已发布到 PyPI。

要点

  • 通过 pip install langchain-gmi 安装
  • 支持流式输出、工具调用、异步和结构化输出
  • 支持多个模型
  • GMI 用户可在 LangChain 工作流中直接调用 GMI 推理服务