AI论坛 AI论坛 beta

学习了下模型蒸馏

📌 📄 内容摘要: 看到阿里云提供了一个简单的蒸馏教程,跟着操作学习尝试了下,阿里自带的教师模型样本对于简单地址效果还可以,然后利用glm4.7(量大管饱)重新输出了一批奇奇怪怪的样本,重新训练给Qwen3-0.6B模型,你别说效果更好了。最后将训练好的模型转为GGUF,然后量化为Q5_K_M,用llama推理跑在纯CPU环境的小鸡上
────────── 链接信息 ──────────
🔗 论坛链接: www.nodeseek.com
📎 访问地址: https://www.nodeseek.com/post-640662-1
─────────────────────────────
📢 来源:NODESEEK

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888