📌 📄 内容摘要:
Chandra 在 调用中转站Gemini的logprobs输出 中发帖
payload里设置logprobs为True,但是返回结果中一直没有logprobs相关的属性。
generationConfig里其他设置应该是生效的,比如maxOutputTokens.
不知道有没有佬友遇到国类似的问题 :tieba_028:
payload = {
"contents": [{
"parts": [{"text": full_prompt}],
}],
"generationConfig": {
"temperature": 1.0,
"topP": 0.8,
"topK": 10,
"candidateCount": 10,
"maxOutputTokens": 100,
"responseLogprobs": True,...
────────── 链接信息 ────────── 🔗 论坛链接: linux.do 📎 访问地址: https://linux.do/t/topic/982053/1 ─────────────────────────────
📢 来源:LINUX DO