AI论坛 AI论坛 beta

树梢 (@bash99) 在 CAP支持session sticky之后,感觉codex free的额度经用了一些 中发帖

📌 📄 内容摘要: 树梢 (@bash99) 在 CAP支持session sticky之后,感觉codex free的额度经用了一些 中发帖 感恩CPA。 之前一直用fill-first模式,大概5个付费号 + 200个free给一个小团队用。 常见情况就是付费号用满了之后,好几个的请求打到同一个free号,最后往往用光之前同时fail2~3次请求,然后切换下一个号。看上去缓存比例也挺高,但是统计了7天,没哪个free号的额度用到$2.5以上的,平均大概$2左右。 昨天晚上切换的,今天一看,用光的几个free号,基本上额度都到了$3以上,最高的一个有$4.82。 这样看起来有两个可能:fail的那些请求实质上也参与了扣费,甚至又搞到下一个号。跨号的缓存命中率还是低一些,或者有隐含费用。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2030372/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888