跳到正文
热点事件持续更新

OpenAI 称调整 GPT-6 缓存断点使命中率升至 91%

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

OpenAI 于 9 月 22 日发布《Better prompt caching for GPT-6》称,在相同评测负载下调整缓存断点后,GPT-6 的缓存命中率从 83% 提升至 91%,推理费用下降 36%。 该文同时介绍了 GPT-6 提示词缓存的三档计费方式;上述命中率与费用数据均为 OpenAI 自述,来自其发布的原文。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. 掘金
    GPT-6 提示词缓存(Better prompt cache)解读:三档计费与命中率提升带来什么

    OpenAI 于 9 月 22 日发布《Better prompt caching for GPT-6》,介绍 GPT-6 缓存命中率改进:相同评测负载下调整缓存断点后,命中率从 83% 提升到 91%,推理费用下降 36%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。