AI论坛 AI论坛 beta

Muse (@preacher) 在 openwebui向量化和重排模型选择分享 中发帖

📌 📄 内容摘要: Muse (@preacher) 在 openwebui向量化和重排模型选择分享 中发帖 之前用openwebui默认all-MiniLM-L6-v2(疑似英文)效果不理想。不过2H4G超开云实在跑不动 Embedding最终本地部署+内网穿透到超开云。(备用方案拉硅基流动api) 选择Embedding模型在ollama多语言和双语模型不多,选择了bge-m3 选择Reranker模型在超开云可以选择BAAI/bge-reranker-base(openwebui好像不能拉api,如有实现方式请指正),如果佬友配置不错选择BAAI/bge-reranker-v2-m3。 最终配置是bge-m3+BAAI/bge-reranker-v2-m3。 简单测试下来是单纯开bge-m3,1000道题库,有一定错误概率。如果是bge-m3+bge-reranker-base,提升效果还不错。 当然我不是程序员,只是本人实际使用过程,心得分享一下,欢迎指正和分享。
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/408540/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888