📌 📄 内容摘要:
Hsiangron 在 请教一下 CPA 的多源轮询机制会不会显著降低缓存命中率？ 中发帖
比如我在 CPA 里给 deepseek-v4-pro 配置了多个上游 API 源。如果 CPA 在请求过程中不断轮询不同的 API provider，那么同一个长上下文会话是不是经常被发到不同的上游服务，导致服务端 prompt cache 不能稳定命中，这个理解对吗，向各位求教？
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2156038/1
─────────────────────────────
📢 来源：LINUX DO
