AI论坛 AI论坛 beta

@panda_l 在 大模型推理卡4090最合适? 中发帖

📌 📄 内容摘要: @panda_l 在 大模型推理卡4090最合适? 中发帖 有没有懂ai大模型的大佬,我们公司目前要自己部署大模型进行推理,做上层应用,两张4090跑32b大模型半精度或者int8量化够不够?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/261162/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888