AI论坛 AI论坛 beta

Binezir 在 CCR不支持Nvidia NIM API的改造 中发帖

📌 📄 内容摘要: Binezir 在 CCR不支持Nvidia NIM API的改造 中发帖 前段时间用CCR,将Nvidia的模型引入到CC使用,所有配完了以后,发现行不通,报错说CCR发出的请求参数没有被解析。 于是我根据API文档写了一个非常简单的transformer: module.exports = class NvidiaTransformer { constructor() { this.name = 'nvidia-transformer'; } async transformRequestIn(request, provider, context) { delete request.reasoning; console.log(request); return request; } }; 原理很简单:将不支持的reasoning参数移除掉(Nvidia NIM)模型无需此参数 之后把这个自定义的trans...
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1896817/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888