核心信息
oQe 模型已全部更新为改进版 oQe 量化,随 oMLX 0.7.1 提供。相比此前版本,代码上 KL 散度降低 11.6–18.1%,散文上降低 10.2–13.8%。
要点
- Qwen3.8-27B oQ4e:代码 KL 0.0143 → 0.0117(-18.1%),散文 0.0696 → 0.0600(-13.8%)
- Qwen3.8-Flash-Next oQ4e:代码 KL 0.0877 → 0.0776(-11.6%),散文 0.1909 → 0.1713(-10.2%)
- 低于 oQ4 时,Engram 与 N-gram 表保持 4 比特,不计入比特预算
- oMLX 可从 SSD 而非内存提供这些表