AI论坛 AI论坛 beta

Nondirectional 在 大模型私有化部署的成本怎么计算? 中发帖

📌 📄 内容摘要: Nondirectional 在 大模型私有化部署的成本怎么计算? 中发帖 佬们,公司想搞私有化部署,因为面向的都是医药企业所有有私有化的需求。 但是在组装这么一台算力服务器的的成本不知道该怎么计算,就拿qwen3的32B和235B举例,是首先显存需要满足参数的大小,然后还要考虑并发量?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/791985/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888