📌 📄 内容摘要:
@Ein 在 DeepSeek在CPA中统计Token错误的问题 中发帖
尝试把DS官方key整合进CPA中,但是使用了一会儿发现问题。即cpa统计面板中统计的token全为0.
[image]
我使用的时候上游是既有Anthropic也有/chat/completions的,但是结果都是0.
问了一下AI,说是大概是上游没返回或者cpa没拿到数据,anthropic格式如果出错没法修。只有openai格式流式传输的时候才会在chunk最后附带total_token。在payload里强制走流式之后手动发post,
payload:
override:
- models:
- name: "deepseek-*"
protocol: "openai"
params:
"stream_options.include_usage": true
能看到回传data:
{“id...
────────── 链接信息 ────────── 🔗 论坛链接: linux.do 📎 访问地址: https://linux.do/t/topic/2081743/1 ─────────────────────────────
📢 来源:LINUX DO