AI论坛 AI论坛 beta

@ahao430 在 newapi是不是没法上下文长度阶梯定价啊 中发帖

📌 📄 内容摘要: @ahao430 在 newapi是不是没法上下文长度阶梯定价啊 中发帖 公司部署了一套newapi,接了百炼的大模型,准备提供给客户用。现在模型定价都配置好了,但是部分模型定价是阶梯式的,比如千问的几个模型。 [image] 我现在暂时是按照最高的价格配的。 查了一下newapi的文档,貌似不支持阶梯定价。 又问了下ai,给我一个建议是把一个模型配置多个阶梯的名称,如qwen3-128k,qwen3-256k这样,再用模型重定向。然后对模型上下文长度进行限制。但是我在设置里也没有找到限制指定模型上下文长度的地方。 各位佬有遇到过这个问题吗?
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1684328/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888