OpenAI News·· 23 天前AI 评分12
GPT-6 优化提示词缓存机制
Better prompt caching for GPT-6
AI 导读
GPT-6 通过提高缓存命中率、新增诊断工具及显式断点控制,显著降低延迟与成本。该更新旨在优化提示词缓存性能,为开发者提供更精细的控制能力以提升模型运行效率。
来源:OpenAI News · openai.com
Better prompt caching for GPT-6
GPT-6 通过提高缓存命中率、新增诊断工具及显式断点控制,显著降低延迟与成本。该更新旨在优化提示词缓存性能,为开发者提供更精细的控制能力以提升模型运行效率。
来源:OpenAI News · openai.com