AI论坛 AI论坛 beta

shallowdream024 在 求助各位佬友怎么选服务器 中发帖

📌 📄 内容摘要: shallowdream024 在 求助各位佬友怎么选服务器 中发帖 求助各位佬友,我平时只用服务器docker部署new api + openwebui + OpenWebUI monitor 之前跟着Cook_Sleep佬的教程做的 现在服务器租了一个月需要续费,之前开的是 [image] 里的 [image] 但是不知道是api上游问题还是服务器问题,流式输出总是卡成一大段一大段蹦出来,响应时间也长,经常卡个20s(在其它chabox就流畅一些,api官网自带的界面里流式输出也很流畅),另外上传图片的对话响应时间还要再加10s。 所以求问各位佬,究竟是延迟问题还是带宽问题还是啥昂? 我有必要换服务器吗? 目前在考虑下面两款: [image] 里的 [image] 或 [image] 不懂cpu、带宽、延迟对于openwebui里的对话体验会有什么帮助吗,谢谢大家orz!
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/296482/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888