AI论坛 AI论坛 beta

Model XP (@yixiaochuan) 在 请教有2张3080 10G显存,能装一台运行32B的deepseek-r1的家用服务器吗? 中发帖

📌 📄 内容摘要: Model XP (@yixiaochuan) 在 请教有2张3080 10G显存,能装一台运行32B的deepseek-r1的家用服务器吗? 中发帖 之前跟老婆一人一张3080 10g打游戏,现在淘汰下来了,想组装成一台家庭服务器,用来专门跑本地模型玩玩.请问两张显卡怎么才可以跑到32b的模型啊呢,求教. 单卡跑14b是勉强可以跑的,测试过.不过可能上下文不多,因为马上爆显存了在windows11上
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/540038/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888