AI论坛 AI论坛 beta

Conrad 在 类似litellm、newapi平台求推荐 中发帖

📌 📄 内容摘要: Conrad 在 类似litellm、newapi平台求推荐 中发帖 公司主要接入bedrock,openai,Anthropic,Openrouter,火山方舟,deepseek,google vertex,都是通过官渠接入 主要需求: 通过key或者认证文件接入后可以在通过自定义key分发 控制key可以使用的模型 调用方式统一 可以看到自定义key的token用量信息,费用信息 最好还可以看到调用请求的日志(请求内容/大模型回复内容)因为是公司内部用 公司已经在用litellm了,没用newAPI是因为统计用量信息太少 求推荐其他好用的开源平台 手里还有一个两个月到期的✈,每月800G流量,问题一经采纳,赠送以作感谢 😘
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2074793/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888