📌 📄 内容摘要:
Nick Wilde (@lyk123) 在 [求助]Qwen 32B本地部署配置要求? 中发帖
请问一下佬友们,公司想做一个保险AI智能客服的产品,打算购买算力本地部署,不使用API。请教一下系统流畅运行需要的硬件参数-GPU 内存这些需要多大,另外考虑到多用户并发。不做微调,估计是RAG一下加一些算法,请教一下有经验的佬友们 🙏(最好能提供具体硬件型号,价格,企业采购)
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1883611/1
─────────────────────────────
📢 来源:LINUX DO