AI论坛 AI论坛 beta

Mozi (@yeahhe) 在 Mac mini oMLX 部署本地大模型测试,并发提速最高可达2.77 倍 中发帖

📌 📄 内容摘要: Mozi (@yeahhe) 在 Mac mini oMLX 部署本地大模型测试,并发提速最高可达2.77 倍 中发帖 测试模型为Qwen3.5-4B-MLX-4bit (3.0 GB) 测试平台为Mac mini M4 [PixPin_2026-03-10_17-47-32] [PixPin_2026-03-10_17-48-06] oMLX - LLM inference, optimized for your Mac https://github.com/jundot/omlx Benchmark Model: Qwen3.5-4B-MLX-4bit ================================================================================ Single Request Results --------------------------------------------------------------------...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1719808/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888