核心信息
Carbon-X 是一个结合 DNA 与自然语言的 14B 开源模型,在 3000 亿 token 的 DNA 与文本交错数据上中期训练,再经 SFT 与 RL,以 Apache 2.0 许可发布。
要点
- 在 DNA 基准上超越所有测试过的开源语言模型,与 GPT-6.1 Sol 差距不到 1 分,推理成本低 1000 倍以上。
- 采用新的混合分词器,编码 DNA 所用 token 比 BPE 少约 3 倍。
- 可作为 DNA 专家子代理:Kimi K3 咨询它后提升 11.1 分。
- 可通过 llama.cpp 在笔记本本地运行,DNA 数据留在本地硬件。