📌 📄 内容摘要:
Okamitimo233 (@lyz215328) 在 [求答疑]api中转的缓存原理? 中发帖
本人买了一台香港小鸡,计划搭些例如cliproxyapi的服务,方便自己和朋友外出时移动设备也能直接调用模型.
从佬友们讨论中了解不少中转站都有缓存,各个站点缓存命中率都有差异,命中率高的话貌似能省不少token
还看到过一种说法,有些代理站(像betterclaude,不过这个好像并没有缓存?)收到提示词内容相同的请求时,因为有缓存,返回token的速度会提高
这两种缓存的原理有哪些不同?缓存在api提供商上,还是cloudflare给我的域名提供的缓存上?
希望各位知识渊博的佬能给本小白解惑一下 🫠
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1546870/1
─────────────────────────────
📢 来源：LINUX DO
