AI论坛 AI论坛 beta

海獭 (@Yanami_4K) 在 记录一下4750u部署本地ai的情况 中发帖

📌 📄 内容摘要: 海獭 (@Yanami_4K) 在 记录一下4750u部署本地ai的情况 中发帖 去年国补期间买了mba m4,换下了手头上的amd 4750u+32gb+1tb,现在闲置没事干,想试试部署本地ai玩玩,环境是Debian13 llama.cpp 开了vulkan加速 实测HY-MT1.5-1.8B-Q4_K_M,27tokens/s;HY-MT1.5-1.8B-Q8_0,17tokens/s;Qwen_Qwen3.5-4B-Q4_K_M,7.5tokens/s。还是可以用用的ww 可以给同样在用4750u的佬参考一下
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1740955/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888