📌 📄 内容摘要:
@xunyud 在 [求助]请问各位佬友，中转站怎么搭建调优 中发帖
公司是 aws 的代理商，有 bedrock claude 的渠道，但是 aws 控制台没有分发和计费的功能，目前在用new api 进行分发，客户主要是toB的，但是客户反馈延迟较高，所以想求助各位佬友有没有好的建议，尤其是关于延迟和缓存方面的
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1937674/1
─────────────────────────────
📢 来源：LINUX DO
