AI论坛 AI论坛 beta

haorwen 在 有没有项目能模拟缓存创建和读取这一过程 中发帖

📌 📄 内容摘要: haorwen 在 有没有项目能模拟缓存创建和读取这一过程 中发帖 如题,我自用的api站接的是逆向的模型上游,所以一直没有缓存创建,无法估算真实api请求的时候会用多少,让使用统计完全没有参考价值,有没有中间层能插在上游和newapi之间模拟缓存创建和缓存读取的usage
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1956015/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888