AI论坛 AI论坛 beta

lost1984 在 AMD ollama疑问 中发帖

📌 📄 内容摘要: lost1984 在 AMD ollama疑问 中发帖 Debian 下 amd5500u核显,运行ollama,ollama ps显示模型完全加载到GPU了,但是vram占用低gtt占用高。这个正常吗?如果不正常如何调试和优化? 现在速度太慢了,ds:7b,3t/s 折腾了两周,都没有改善。 如果用lm stdio,速度能到7t/s
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/429832/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888