核心信息

dax 表示 DeepSeek Flash 的专家层已原生量化为 FP4，因此再对该模型做进一步量化几乎带不来收益。

要点

  • DeepSeek Flash 的专家权重原生以 FP4 精度发布。
  • 对该模型再做额外量化在实际效果上收益很小。
  • dax 对“大家在量化 DeepSeek”这一常见说法表示不解，认为在模型已有精度下这说不通。