AI论坛 AI论坛 beta

@boxjan 在 神秘的单机 16 卡 L4 中发帖

📌 📄 内容摘要: @boxjan 在 神秘的单机 16 卡 L4 中发帖 Ada 架构,不支持 FP4,单卡24G 机器应该是用 博通 的 PXE88/89系列 PCIE Switch 从 PCIE 5.0 x16一拆二得到的 PCIe 4.0,但是竞争严重,同簇下的 nccl-tests 惨不忍睹,所以,还是只测 TP ,测的没上次多 Qwen3 4B BF16 [image] Qwen3 32B BF16 [image] Qwen3 32B FP8 [image] Qwen3 30B A3B BF16 [image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1888594/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888