AI论坛 AI论坛 beta

Haobo LYU (@may3rr) 在 求助Gemini 负载均衡问题 中发帖

📌 📄 内容摘要: Haobo LYU (@may3rr) 在 求助Gemini 负载均衡问题 中发帖 因为最近有一个大模型相关的比赛,要高强度调用。我就自己买了20个Gemini的key 按照官网的Free Tier Rate Limit做了轮询,但是依然会出现很高频的报错。 'Connection aborted.', RemoteDisconnected('Remote end closed connection without response' 我把报错中失效的key直接去curl是可以用的,不知道佬们有没有解决方法。 目前怀疑可能是同一个ip发的请求太多,被封了? 下面我把我的代码call llm部分发出来: import os import time import requests import json from typing import List, Optional, Tuple from dotenv import load_dotenv # --- ...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/961815/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888