AI论坛 AI论坛 beta

浮生 (@ukiyo-dev) 在 说说个人观点:New-API 的使用痛点 中发帖

📌 📄 内容摘要: 浮生 (@ukiyo-dev) 在 说说个人观点:New-API 的使用痛点 中发帖 我最近一直在寻找 New-API 替代,以解决以下痛点: 渠道重定向而非全局重定向: 第一个渠道重定向模型名 → 发现第一个渠道不可用 → 回退到第二个渠道 → 问题发生 → New-API 使用的是重定向之后的模型名,而这个模型名在第二个渠道根本不存在。 这是多渠道管理中的一个核心痛点。不同渠道对同一个底层模型可能有完全不同的命名规则,比如: OpenAI 官方: gpt-4-turbo Azure OpenAI: 可能是一个自定义的部署名,如 my-company-gpt4-deployment 其他代理服务: 可能有自己的前缀,如 proxy-vendor/gpt-4-turbo 真实的余额审计:我不需要复杂的倍率统计,我只需要对于渠道真实的花了多少,我这边就计费多少,直接透传上游渠道的实际消费,不需要复杂的倍率计算。 透传+回退的请求模式:下游以什么格式请求模型...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1164277/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888