核心信息
一位AI开发者称,Amazon Bedrock 上部分模型会出现异常行为,而同样的模型通过原生提供商访问时并未观察到该问题。一些未将推理请求路由到 Bedrock 的客户也遇到类似现象。
要点
- 开发者在 Bedrock 上观察到“不良模型行为”,但直接访问原生提供商时没有出现。
- 问题并非个例,部分未走 Bedrock 路由的客户推理请求也出现相同情况。
- 目前原因不明,团队也不确定背后发生了什么。
一位AI开发者称,Amazon Bedrock 上部分模型会出现异常行为,而同样的模型通过原生提供商访问时并未观察到该问题。一些未将推理请求路由到 Bedrock 的客户也遇到类似现象。
we still see signs that amazon bedrock does not host models properly we see bad model behavior there that we don't observe when going to the native provider it's not just us, some customers using our inference request we do not route there - not really sure what's going on