核心信息

Anthropic 发布关于大语言模型可验证推理的新研究，提出名为 FlashProve 的方法，可让开发者验证某条回复是否由某个特定 AI 模型生成。

要点

  • FlashProve 基于成熟的密码学技术，生成将回复与特定模型绑定的证明。
  • Anthropic 称其效率显著高于此前完成同类任务的开源方法。
  • 应用场景包括增加攻击者劫持对话的难度，以及让安全评估者确认所测试的模型正是实际提供给客户的模型。
  • Anthropic 认为可验证推理的进一步进展对提升 AI 部署的信任度很重要，并已将相关工作开源。