AI论坛 AI论坛 beta

Mozi (@yeahhe) 在 【教程】 Mac 端 LMStudio 本地部署 Qwen3.5-9B-MLX-4bit 中发帖

📌 📄 内容摘要: Mozi (@yeahhe) 在 【教程】 Mac 端 LMStudio 本地部署 Qwen3.5-9B-MLX-4bit 中发帖 下载模型 https://huggingface.co/mlx-community/Qwen3.5-9B-MLX-4bit [PixPin_2026-03-03_02-29-24] 上下文拉满 [PixPin_2026-03-03_02-33-22] 关闭思考方法 顶部加一行 {%- set enable_thinking = false -%} [PixPin_2026-03-03_02-23-09] 效果 [image] [PixPin_2026-03-03_02-42-43] 开启 API 服务 lms server start --port 1234 Mac mini M4,功耗 40W,速度 21t 左右,多模态很强,内存占 5G 左右,普通聊天首字1s
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1680578/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888