AI论坛 AI论坛 beta

吉吉 (@JIJI) 在 openweb-ui 返回数据慢的问题 中发帖

📌 📄 内容摘要: 吉吉 (@JIJI) 在 openweb-ui 返回数据慢的问题 中发帖 我的 openweb-ui 和 new-api 在一个 docker-compose 中,使用 gemini-1.5 模型时,要过好几秒才会开始返回数据,一直使用的模型地址是 https ://api.domain.com/v1,改为 http://new-api:3000/v1 后,速度提升了不少。有同类问题的可以试试。 **1. 使用 https://api.domain.com/v1 时 ** [9b1ed265f4f4328726e72d9517f82d2] **2. 使用 http://new-api:3000/v1 时 ** [7ea49bfe5c9e7baa7fc48f1f5c24183]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/233319/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888