📌 📄 内容摘要:
Guest35278 (@xx88136) 在 嵌入模型求推荐 中发帖
现在在做一个简单的rag系统,数据有一点多,打算本地对数据跑完嵌入模型,构建好知识库,再放到服务器上,用户要探索的时候用api进行embedding(因为服务器没有算力)。但是现在遇到一个问题是我本地用qwen3:4b-embedding 跑完,发现构建的数据库是2560维度的。但是官方阿里云百炼只有text-embedding-v4可以调用,这个模型说是基于qwen3-embedding但是也没有2560维度可以选择。
所以现在面临两个方案
用text-embedding-v4构建数据库,成本会很高。
qwen3:4b-embedding构建数据库,再找一个三方的qwen3:4b-embedding调api,但是好像各家的embedding都不是特别靠谱,手上有硅基的,但是经常出错
────────── 链接信息 ────────── 🔗 论坛链接: linux.do 📎 访问地址: https://linux.do/t/topic/1352838/1 ─────────────────────────────
📢 来源:LINUX DO