AI论坛 AI论坛 beta

墨尘 (@inkdust2021) 在 为防止再出现codex删库的悲剧,我想做一个项目…… 中发帖

📌 📄 内容摘要: 墨尘 (@inkdust2021) 在 为防止再出现codex删库的悲剧,我想做一个项目…… 中发帖 事实上,已有前人做过类似的项目,例如NVIDIA NeMo Guardrails、 LlamaFirewall等,但是它们的部署似乎不太方便,在站内我几乎没有看到有佬友提到过这些项目。 所以,我在想能否做一个足够轻量化、部署足够方面的项目,作为“防火墙”,来防止这种悲剧上演 正好,我还有一个用于vibecoding时保护隐私的项目,是否可以将这个功能加入到我的原有项目中,我目前的思路是,基于正则+再接一个小模型的api,单独用于判断LLM想要执行的命令是否有害 不知各位佬友意向如何,遂先来发帖问一番
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1692862/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888