核心信息

腾讯在发布 Hy4 开放权重的同时,发布了一份全面的系统卡,详细说明了安全、安保和对齐评估,重点关注网络和生物等前沿风险。该公司还与鲜为人知的初创公司方寸 AI 合作,使用其内部基准测试失准问题。

要点

  • 该系统卡被认为在中国科技公司中异常详细,超越了 HarmBench 等标准基准。
  • 涵盖前沿问题,包括开放权重安全、生物风险和失控风险。
  • 腾讯与方寸 AI 合作,在内部基准上评估失准问题。
  • 此次发布强调 AI 测试的透明度,以支持更安全的模型开发。