AI安全军备竞赛:防御者与攻击者同样需要AI
OpenCode 创始人表示,AI驱动的欺诈正在冲击其公司,而公司能存活靠的是自有AI防御系统。他警告说,真正的危险在于只有攻击者掌握这种能力。
OpenCode 创始人表示,AI驱动的欺诈正在冲击其公司,而公司能存活靠的是自有AI防御系统。他警告说,真正的危险在于只有攻击者掌握这种能力。
一位开发者认为,应对AI风险的唯一现实方案是让AI广泛普及,使每个人都拥有防御性AI——就像网络安全依赖好人多于坏人一样。
山姆·奥特曼回应达里奥·阿莫迪关于放缓AI前沿发展的文章,同意需要控制节奏,并承诺OpenAI将向独立评估员开放权限。
Grok 模型正在接入 Microsoft Copilot,覆盖 Word、Excel 和 PowerPoint,首批面向 Microsoft Frontier 计划客户小范围发布。
一位AI开发者回应Anthropic呼吁行业放缓的文章,认为更现实的风险不是带有恶意的机器,而是一旦失控就难以拔掉电源、不断制造麻烦的“大Bug”。
Command Code 账号为开源模型叫好,此前 DeepSeek V4.1 已成为其使用量最高模型,Flash 版本发布首日即破纪录。
面向开放模型的 AI 编程代理 Command Code 表示,其付费使用量中超过 90% 来自开放模型。DeepSeek V4.1 发布首日即处理 3.1 万亿付费 token,是 OpenRouter 全网总量的 3 倍。
Hugging Face 宣布启动开放对齐计划,并申请加入 Anthropic 的嵌入式评估员项目,以透明化方式提升 AI 安全性。
开发者dax表示,OpenCode Go已连续两周实现收支平衡,并称这是一个重要里程碑,同时认为那些烧钱或悄悄出售用户数据的竞争对手难以持续。
Anthropic CEO Dario Amodei发表新文章,呼吁AI行业放慢脚步并提出三部分计划。Anthropic立即承诺落实第一步:向第三方评估人员提供永久、员工级的系统访问权限。