AI论坛 AI论坛 beta

@Star_caorui 在 OpenwebUI 优化:models 庞大体积优化及CDN缓存配置。 中发帖

📌 📄 内容摘要: @Star_caorui 在 OpenwebUI 优化:models 庞大体积优化及CDN缓存配置。 中发帖 前言:OpenWebUI 的请求有诸多不合理之处,从而导致在小水管小鸡上瞬时带宽需求过大,导致首次加载的卡慢。 一、例如最典型的 models 的请求 [image] OpenWebUI 将所有模型的基本信息。例如名称,描述,logo 等内容放在这个请求里。但是 openwebui 的所有图像资源,包括 models 的 logo 居然用 base64 存储。(base64会导致文件体积增大30%)这导致单个请求体积巨大。而且因为该请求位于 /api 路径下从而无法享受到缓存优化效果。这实属太离谱了。 我们首先打开 OpenWebUI 的设置界面,如下图。 [image] 找到下面的按钮,下载配置到本地: [image] 打开这个文件,将占用巨大的 logo 资源用 cdn 的外链替换掉。 你需要事先将图片资源传到图床或者oss或者类似的平台,得到外链然后来替换。 [...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/300938/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888