AI 日报 · 10月21日:OpenAI API 新增 12 小时提示缓存,长间隔智能体可复用上下文
OpenAI API 支持 12 小时提示缓存,按更低缓存输入价计费;Mistral 发布 Voxtral 3 语音模型并上架 OpenRouter;GMI Cloud 免费无限量提供 MiniMax M3.1 Flash 至 10 月 21 日。
-
OpenAI API 新增 12 小时提示缓存
OpenAI Devs 称 API 现可选择 12 小时提示缓存,让代理在相隔数小时的请求间复用共享指令、工具与上下文,按更低的缓存输入价格计费;Codex 与 Work 登录用户的缓存长期保留,恢复旧对话时保证命中缓存。
-
Mistral 发布 Voxtral 3 语音模型与语音智能体 API
Mistral 推出 Voxtral 3 转写与语音模型,驱动新的语音智能体 API,并提供基于 LiveKit 的语音智能体 SDK,把转写、带工具调用的推理模型与流式语音回复串成一条流水线。模型已在 OpenRouter 上架,包括更便宜的 Voxtral Mini Transcribe 3,以及支持 35 种以上语言、50 种以上方言的 TTS 模型,转写覆盖 50 多种语言。
-
GMI Cloud 免费无限量提供 MiniMax M3.1 Flash 至 10 月 21 日
GMI Cloud 免费提供 MiniMax M3.1 Flash,无需任何前置条件且不限量,活动持续至 10 月 21 日。
-
OpenAI 修复约 4 万账户的用量额度错配问题
在周末有用户反映用量消耗过快后,OpenAI 定位到约 4 万个账户的实际用量限制与所选套餐不一致,已修正并逐一联系受影响用户。
-
Ornith-1.5-122B 开源编码模型在 Command Code 免费上线
Command Code 面向所有套餐和订阅用户免费开放 Ornith-1.5-122B;该开源权重智能体编码模型拥有 125B 参数、262K 上下文窗口,默认零数据保留。
-
B.AI 上线 DeepSeek、Qwen、GLM 模型折扣矩阵
自 10 月 22 日 17:00(SGT)起,DeepSeek-V4.1-Flash-1017 享 6 折(763B 开源参数、1M 上下文、DeepSWE v1.1 最高档通过率 77.0%),Qwen3.8-Flash 8 折、GLM-5.3-Flash 7 折。
-
日本官员呼吁尽快修补 PHP 两个严重漏洞
日本官员要求网站运营者确认是否使用 PHP,并准备在 10 月 21 日日本时间晚 11 点发布修复补丁后尽快应用,以应对两个严重漏洞;若难以及时修补,可考虑临时下线网站。
-
EAGLE-4 在 B300 上为 Qwen3.8-27B 达 703 tok/s
GMI Cloud 在 NVIDIA B300 上对比测试 EAGLE-4 与其他投机解码方案:Qwen3.8-27B 在 batch 2 下达 703 tok/s,比普通解码快 2.7 倍,单台 4xB300 副本在 512 并发下达 27,600 tok/s;单请求 T=0 的 BF16 配置下可达 961.6 tokens/s。该方案已在其 B300 集群上线。
-
Qwen 3.8 Max 在 800 项工具调用测试中得分 96.1%
在 Tirtha Bench 上,关闭推理的 Qwen 3.8 Max 在 800 项任务中得分 96.1%,100 个陷阱请求全部通过,与 Opus 5.5 持平,但每个正确答案成本约为其四分之一;高负载下 99% 的工具调用成功返回。
-
MiniMax M3.1 Flash 揭晓为匿名模型 Space Bunny
MiniMax M3.1 Flash 即匿名模型 Space Bunny,曾连续 12 天位居 OpenCode 榜首,支持 100 万上下文及文本、图像、视频输入,成本为 M3 的三分之一、速度为其三倍,官方称即将开放权重。