AI论坛 AI论坛 beta

anjiangzi (@user1640) 在 newapi限流429应该怎么QPS如何调高 中发帖

📌 📄 内容摘要: anjiangzi (@user1640) 在 newapi限流429应该怎么QPS如何调高 中发帖 Docker 跑的 NewAPI,Nginx 日志里老刷 429,路径是 /v1/chat/completions,但 NewAPI 自己日志里一条都找不到。 能调的两处: docker-compose 里的 GLOBAL_API_RATE_LIMIT 和 GLOBAL_API_RATE_LIMIT_DURATION 后台网页里设置 模型请求速率限制 想问: 哪种设置更好一点?还是根本就是上游渠道在限流?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1352321/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888