AI论坛 AI论坛 beta

Jarvis (@Javris) 在 反代 open-webui 的 nginx 配置优化 中发帖

📌 📄 内容摘要: Jarvis (@Javris) 在 反代 open-webui 的 nginx 配置优化 中发帖 之前有佬分享了关于 nginx 反代 open-webui 的优化配置,主要是针对网络传输。 我是将 open-webui 配置在本地使用,CDN 缓存加速对我来说没有效果。我分享一下通过设置 浏览器缓存和 nginx 代理缓存来加速访问 open-webui 服务,供各位参考。 我的环境 root 运行 nginx normal user 运行 open-webui 0.5.2, 端口 8888 (python 3.11, 通过 bin/open-webui serve 启动) 通过 http://openwebui.local 访问服务 缓存请求 ‘/api/models’ 得益于 open-webui 的加载逻辑, 每次访问根目录都要请求一次该 api。我代理节点在美国,请求模型列表时间极长,几乎需要 3s. 这个 api 单独拎出来,让 nginx 缓存自动更新。 操作步骤 ...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/322664/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888