AI论坛 AI论坛 beta

比卡丘 (@yixiaochuan) 在 现在开源模型的16比特,Q8,Q6,Q4,效果损失到底多大? 中发帖

📌 📄 内容摘要: 比卡丘 (@yixiaochuan) 在 现在开源模型的16比特,Q8,Q6,Q4,效果损失到底多大? 中发帖 之前看了好几个评测视频,基本上都说Q8就没什么损失, Q4不到10%,是真的这样吗? 有真实测试数据的介绍文章或者视频吗,谢谢佬友分享。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1940827/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888