AI论坛 AI论坛 beta

章北海 (@alertsc) 在 打算Mac上通过ollama持续跑一个小模型作为本地调用的快捷模型 中发帖

📌 📄 内容摘要: 章北海 (@alertsc) 在 打算Mac上通过ollama持续跑一个小模型作为本地调用的快捷模型 中发帖 以前都用gemini-flash-lite作为快捷模型进行标题生成,内容压缩等工作。Google收紧用量后就缺乏持久好用的快捷模型了。 准备本地运行一个小模型,这样可以长期稳定免费使用。 考虑qwen3-4b,或qwen3-8b,倾向4b,尽可能降低资源消耗。 有没有更好的小模型推荐?不知道长期运行负荷会有多大。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1372450/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888