DeepSeek API 硬盘缓存如何自动运行以及命中缓存的要求是什么?

我希望尽快用上DeepSeek API的硬盘缓存功能,请问我需要修改我的代码或者更换API接口才能启用这个新功能吗?另外,我的理解是,只有完全一样的输入才会被缓存,是这样吗?有没有一些具体的场景告诉我,哪些重复输入可以确保缓存命中?

问题最优答案
热心网友
2025-11-04

关于 DeepSeek API 的硬盘缓存服务,最令人振奋的一点是它对用户的友好性。您无需进行任何重大的代码迁移或接口更换。

启用与运行方式

硬盘缓存服务已经全面上线,它会 自动运行。系统会根据实际的请求数据自动判断是否命中缓存,并据此自动计费,您无需进行任何额外的配置或代码调整。

缓存命中的严格要求

缓存命中是有明确条件的,需要注意:只有当两个请求的前缀内容从第 0 个 token 开始完全相同时,才会被视为重复并命中缓存。 简单来说,如果重复部分出现在请求的中间或末尾,但开头不一致,则无法命中缓存。

经典缓存命中场景示例:

  1. 多轮对话场景: 在连续的对话轮次中,后续的请求会包含前一轮的整个上下文,因此上下文部分会命中缓存。
  2. 固定前缀数据分析: 如果您针对某个大型数据集的分析任务,每次提问都使用相同的引导语或查询前缀,那么这个前缀部分将成功被缓存。

因此,对于长预设提示词或角色设定类的应用,只要保持前缀一致,就能享受到缓存带来的低延迟和低成本。

回答问题

登录后才能发布评论哦
立即登录/注册
消息提醒
Hello, world! This is a toast message.