核心信息

llama.cpp 发布了名为 Llama Windows 的 Windows 应用，方便用户在本地运行模型，并针对 NVIDIA RTX Spark 进行了优化。

要点

  • 可直接从 Hugging Face 浏览和下载模型
  • 可在系统托盘中与本地模型聊天
  • 提示词保留在用户 PC 上，保障隐私
  • 针对 NVIDIA RTX Spark 硬件优化