AI论坛 AI论坛 beta

vfx (@freebsdfx) 在 我发现量化版本和非量化版本,在处理文件上面区别特别明显。 中发帖

📌 📄 内容摘要: vfx (@freebsdfx) 在 我发现量化版本和非量化版本,在处理文件上面区别特别明显。 中发帖 有一个GPS定位的纯文本数据(大概200行),给AI后,让AI用markdown表格形式完整复述出来,不用加工处理数字。 分别试了ollama几个量化模型,以及float16完整参数的对比版本。无一例外,量化版本数据复述到一半的时候,必然会错乱(应该理解为计算错误累计?) 只有f16完整版本,才能从头到尾,完成正确输出。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/635806/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888