AI论坛 AI论坛 beta

ezios 在 佬们,我想本地跑大模型,显卡有没有推荐的? 中发帖

📌 📄 内容摘要: ezios 在 佬们,我想本地跑大模型,显卡有没有推荐的? 中发帖 我目前配置: R7 5700X DDR4 3200 16G X 4 B550M 联想拯救者主板 淘宝买了个PCIEX4->X16转接板。 所以显卡是:RTX 4060 8G X 2 但是最近玩llama.cpp,试了半天,也就9B还稳定点,上下文开大点凑乎能跑。 Qwen3.6 35B-A3B试了各种办法,卸载专家到CPU啥的,只能稳定15-20token/s。而且首次预热贼慢。 打算买一块16G的显卡玩一玩,目前看到有: RX7600 16G 跑大模型的测评视频几乎没有,只看到有个商单视频跑gpt20B那个测试还可以。 RTX5060ti 16G 据说是入门卡 想听听佬们的建议,像amd 7600这个跑起来能行吗,还是加钱5060ti?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2072060/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888