AI论坛 AI论坛 beta

@yycn 在 ollama-for-amd 本地配置deepseek遇到的问题 中发帖

📌 📄 内容摘要: @yycn 在 ollama-for-amd 本地配置deepseek遇到的问题 中发帖 环境:windows11 显卡:AMD RX6750 gre 10G 问题: 情况1:ollama-for-amd 最新版0.6.8的时候,替换 ROCm之后跑deepseek7b,报错:Error: llama runner process has terminated: exit status 2 情况2:使用ollama 最新版0.6.8,替换 ROCm之后可以跑,日志也有显卡信息,ollama ps 100%GPU,但是chat时资源管理器显示GPU无占用,完全是在cpu上跑 最后把ollama-for-amd版本换成0.5.4才完全在GPU上跑,有没有佬知道为什么
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/637736/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888