AI论坛 AI论坛 beta

炫彩小鱼干 (@Yuookie) 在 4090D 运行Qwen3.6 27B,85tokens/s,接入 pi,打开了新世界! 中发帖

📌 📄 内容摘要: 炫彩小鱼干 (@Yuookie) 在 4090D 运行Qwen3.6 27B,85tokens/s,接入 pi,打开了新世界! 中发帖 模型: Qwen3.6-27B-Q4_K_M-mtp.gguf 上下文: 220672 MTP: pt=3 KV cache: q4_0 这个输出速度,简直绝了,从来没有过这么丝滑的体验 把pi放进nono里运行,加一层防护更安心,和它一起完成了另一个模型在远端的部署准备工作 智力还行,速度绝了 [image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2137147/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888