📌 📄 内容摘要:
SayWhat13 在 open webui里使用github models的正确方法？ 中发帖
github models的模型上下文严重受限，大部分都是4k in，4k out，所以导致openwebui发几条就报错了。
[image]
尝试设定了一下对话设置里的上下文长度和最大token，长了仍旧报错。
[image]
大家有特别技巧吗？ 谢谢！
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/720164/1
─────────────────────────────
📢 来源：LINUX DO
