一元网络论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 290|回复: 0

DeepSeek API 提供优化策略,确保命中时价格折扣。

[复制链接]

3万

主题

3万

帖子

9万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
96169
发表于 2024-8-2 22:24:52 | 显示全部楼层 |阅读模式
为了节省开支,您可以提前测试一下我们的新功能。它能够无缝连接您的系统,并且无需更改即可立即使用。我们的目标是在多个请求之间的上下文中提供优化,例如代码补全、多轮对话以及论文阅读等任务。
然而,您需要确保您的提示与您最近发送的提示具有高度的相关性,以便成功匹配并获得加速处理和折扣优惠。此外,如果您提供的提示长度小于2千个字符,可能不会触发kv cache缓存机制;而长度大于等于2千个字符则更有可能触发。
此外,我们正在测试这个功能,因此可能存在一些不稳定性。我们将继续改进和完善这个功能,以提高用户体验。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|一元网络论坛

GMT+8, 2024-12-31 05:54 , Processed in 0.111085 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表