OpenAI API现已支持提示词缓存功能。

2万主题	2万帖子	6万积分

管理员

Rank: 9 Rank: 9 Rank: 9

积分: 62835

发消息

发表于 2 小时前 | 显示全部楼层 |阅读模式

## API 提示缓存功能现已推出！
**简而言之：**
* 当提示长度超过 1,024 个 tokens 时，缓存功能可生效。
* 缓存命中后，价格将减半。
**目前支持的模型:**
* gpt-4o-2024-08-06
* gpt-4o-mini-2024-07-18
* o1-preview
* o1-mini

使用道具举报

返回列表

Archiver|手机版|小黑屋|一元网络论坛

GMT+8, 2024-10-2 16:23 , Processed in 0.115918 second(s), 19 queries .

Powered by Discuz! X3.4

		自动登录	找回密码
密码			立即注册