📌 📄 内容摘要:
BHznJNs 在 这个我调试了一早上的 bug 在我关掉 flclash 之后就好了！？ 中发帖
起因是这样的，我正在开发一个 LLM Client，其中使用的我自己基于 litellm 封装的 LLM Client 库。
我今天早上在测试时突然发现程序无法正常获取我自己部署的 NewAPI 服务的模型列表。
最开始我以为是我的封装层出了问题，但是在尝试用单独脚本直接调用 litellm 的 API 后发现同样失败，这才明白可能是 litellm 内部的问题。
（这里吐槽一下 litellm 的 API 设计，litellm 的 get_valid_models API 居然在请求时出现连接问题时不报错，只返回空数组的，一度让我误以为是我的 NewAPI 服务出了问题，各位千万不要这样设计 API）
我又尝试直接调用了 litellm 的 get_valid_models 下调用的 API，才发现确实是网络连接问题，而且根据报错内容 [WinError 10054] An ex...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1507712/1
─────────────────────────────
📢 来源：LINUX DO
