核心信息

Hugging Face 自今年夏天起运行自建 CDN,每月传输近 1 EB——约每秒 420 GB、每秒 8 万次请求——因为 AI 下载不符合传统 CDN 模型。

要点

  • 传统 CDN 为向大量用户分发众多小网页文件而设计
  • AI 下载是少数超大文件,其中很大一部分由机器拉取
  • 所谓"用户"主要是集中在少数云区域的 GPU 集群,而非上百个城市的个人
  • 这推翻了把小型对象缓存在用户附近的假设
  • 规模:每月约 1 EB、约 420 GB/s、每秒 8 万次请求