AI论坛 AI论坛 beta

coior (@maxsea) 在 dify模型问题-响应速度 中发帖

📌 📄 内容摘要: coior (@maxsea) 在 dify模型问题-响应速度 中发帖 各位大佬, 现在服务器使用ollama部署了qwen2.5 3b模型. gpu为 4070super. dify知识库查询时候, 响应速度比较慢. 有什么好的方式优化吗? 比如优化ollama模型或者更换更快的模型.
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/526043/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888