AI论坛 AI论坛 beta

@Ceia 在 Qwen3.5-27B-GGUF在LM Studio上似乎无法运行 中发帖

📌 📄 内容摘要: @Ceia 在 Qwen3.5-27B-GGUF在LM Studio上似乎无法运行 中发帖 使用最新CUDA无法加载模型,加载进度在90%以后大幅下降,95%以上开始0.01%的增加加载速度,然而奇怪的是第一次加载时模型正常加载并且正常回答了快速测试的脚本 日志.txt (16.4 KB) 使用VULKAN和CPU硬跑,能加载但是输出存在问题 试过重新下载模型文件、更换其他人蒸的GGUF文件 [image] [image] 以及,这个27B模型也太能想了,一直在thinking,其他模型思考问题感觉最多5000tk后就会终止思考了 🤣 [image] ▶ 相同问题使用Vulkan运行后回答内容 希望LM studio赶紧针对性修复一下
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1659215/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888