跳到正文
原文
OpenAI News·· 23 天前AI 评分12

GPT-6 优化提示词缓存机制

Better prompt caching for GPT-6

AI 导读

GPT-6 通过提高缓存命中率、新增诊断工具及显式断点控制,显著降低延迟与成本。该更新旨在优化提示词缓存性能,为开发者提供更精细的控制能力以提升模型运行效率。

来源:OpenAI News · openai.com