AI论坛 AI论坛 beta

arch 在 CXL大内存版的本地大模型方案 中发帖

📌 📄 内容摘要: arch 在 CXL大内存版的本地大模型方案 中发帖 zett-ai上架了一台很有意思的深度学习工作站 zettEngine。 最大的亮点不是 RTX 5090,而是它外挂了 512GB 的CXL内存 。 这意味着在单卡工作站上,显存不再是瓶颈,可以直接加载几百 GB 的超大模型,不用再去租 H100 集群了。 配置清单: GPU: NVIDIA GeForce RTX 5090 CPU: AMD Threadripper PRO 7945WX Memory: 512 GB CXL Fabric Price: $15,000 起 对于想在本地跑全量 DeepSeek 或 Llama 的团队,这个CXL内存方案可能是目前性价比最高的解法。 [image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1566723/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888