AI论坛 AI论坛 beta

@alibi_hu 在 佬友们,需要跑内网本地大模型,服务器显卡选购求助 中发帖

📌 📄 内容摘要: @alibi_hu 在 佬友们,需要跑内网本地大模型,服务器显卡选购求助 中发帖 目前服务器的cpu是Xeon Gold 5218,大概四块?总共64核。服务器只支持pcie 3.0,大概想跑7B或者14B的模型,后期需要构建本地知识库进行微调,请问各位佬友应该选什么显卡比较好?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/373893/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888