GPT-5.6 降价：模型智能成本继续快速下探

Latent Space2026-08-01 05:01

过去一年，大模型行业一直在关注一个关键趋势：在保持模型能力大致相当的情况下，调用成本是否还能继续快速下降。

此前有观察认为，以 LMSys Elo 等指标衡量，达到 GPT-4 级别智能的成本在 18 个月内下降了约 1000 倍。当时仍不清楚这是否只是早期优化红利：例如从未优化到优化、从补全模型到推理模型、从稠密模型到 MoE 架构等。

近期关于 GPT-5.6 的信息显示，类似趋势仍在延续。

OpenAI 宣布 GPT-5.6 系列降价

OpenAI 宣布了 GPT-5.6 系列的价格调整：

同时，部分自动审查类工作流也从 GPT-5.4 迁移到 Luna，OpenAI 预计成本约下降 10 倍。

OpenAI 近期披露了 GPT-5.6 在服务成本上的多项优化，重点包括推理加速、投机解码、KV 缓存，以及面向代理工作流的编排层优化。

为了在相同硬件上提供更多 tokens，同时不牺牲质量，OpenAI 进行了多项系统层升级。

自我优化
GPT-5.6 Sol 被用于分析生产流量、调优负载均衡，并自动改写 OpenAI 内部 Triton 和 Gluon 语言编写的生产内核。文章称，这类自主内核优化使端到端服务成本下降了 20%。

投机解码
OpenAI 改进了用于投机解码的 draft model。模型参与设计并运行了数百项架构实验，测试不同规模、结构和特征；同时监控训练流程，并在硬件故障、训练不稳定等问题出现时进行干预。文章称，这使 token 生成效率提升超过 15%。

KV 缓存优化
OpenAI 还针对不同工作负载优化了 batching、sharding 和缓存管理，尤其是 Sol 在 Codex 场景中的使用，以便从现有硬件中榨取更多推理能力。

对于 Codex、ChatGPT Work 等多步骤任务，OpenAI 还优化了 Rust 编写的编排层，以降低重复计算成本。

工具、技能和插件不再一次性全部暴露给模型，而是按需发现；工具输出默认限制在 10,000 tokens，以避免上下文窗口无必要扩大。

为避免重复处理相同指令和历史记录，编排层将所有模型可见历史视为 append-only。这有助于保持提示前缀稳定，从而复用此前已经计算过的数据，并维持较高的缓存命中率。

有观察者指出，GPT-5.4 full 在 xhigh 设置下的得分为 51，与当前 Luna max 的得分相当。GPT-5.4 的价格为输入每百万 tokens 2.50 美元、输出每百万 tokens 15 美元；而 Luna 现在为输入 0.20 美元、输出 1.20 美元。

按这一比较，约四个月后，OpenAI 以大约 1/13 的 token 价格 提供了接近此前旗舰模型的能力。

不过，这一观察也需要谨慎解读。文章提醒，公开基准在一定程度上可能被训练或优化，而 Elo 类指标相对不那么容易被直接训练。因此，不能简单把这类价格/性能变化直接外推为长期规律。

如果目标是获得低成本、无需微调的通用智能能力，GPT-5.6 系列的新价格显著提高了 OpenAI 在价格/性能前沿上的竞争力。

与此同时，开放模型仍然在可控性、部署主权、私有化和可定制化方面具有优势。对于需要完整控制模型与基础设施的团队，开源或开放权重模型依然有独立价值；但如果主要目标是以较低成本调用现成智能能力，GPT-5.6 的降价会对应用层选型产生直接影响。