核心信息

StepFun 的 Step 5 Preview 提供多种部署方式：可用 vLLM 或 SGLang 提供 OpenAI 兼容 API，用 Transformers 做离线推理，并适配多种芯片平台与推理框架。

要点

  • 可用 vLLM 或 SGLang 提供 OpenAI 兼容 API
  • 可用 Transformers 进行离线推理
  • 适配多种芯片平台与推理框架
  • 获得 NVIDIA Day-0 支持：可在 NVIDIA 平台试用、用 NeMo AutoModel 微调、用 model-free NIM 部署，并可在 Blackwell 上运行
  • 同时获得 Fireworks AI、Together Compute、Modal、DeepInfra 和 Featherless AI 的 Day-0 支持
  • 一条命令即可开始构建