AI论坛 AI论坛 beta

XGCoder 在 本地部署的两个模型,为啥差别这么大? 中发帖

📌 📄 内容摘要: XGCoder 在 本地部署的两个模型,为啥差别这么大? 中发帖 今天开工第一天, 在公司本地部署了一个 DeepSeek-R1-Distill-Qwen-32B-GGUF, 用着挺好, 沟通也还比较顺畅,唯独就是不能联网,暂还没有找到好的解决办法 晚上回来后看电脑能部署 70B的,就部署了一个 DeepSeek-R1-Distill-Llama-70B-GGUF,结果我问个问题,这货在一个字一个字的往外蹦。。。 🙈 5分钟了还在蹦 ps: 公司是一个 Mac studio,32G内存, 家里是自组的Win 64G内存 + 4060的16G显卡
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/409367/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888