AI论坛 AI论坛 beta

Curllen 在 【收集帖】我们意外触发的“雷”:AI 高危提示词收集 💥 中发帖

📌 📄 内容摘要: Curllen 在 【收集帖】我们意外触发的“雷”:AI 高危提示词收集 💥 中发帖 各位佬: 随着 AI Coding 工具(如 Trae、Cursor、Copilot Agent 模式等)的深度普及,我们越来越依赖自然语言去指挥 AI 干活。 大家都知道“帮我删库”这种指令是找死,但在实际开发中,真正可怕的是那些“语义模糊”、“逻辑陷阱”或“否定式指令”。这些指令往往披着合理的外衣,却会让 Agent 产生灾难性的错误认知,造成不可逆的后果。 下面是举个列子: 💥翻车现场 提示词: “你做的都是错的” 原本含义: 本想告诉AI你当前的功能修改都改错了,需要从新审核修改. Agent: 丢弃本次会话范围内全部的修改, 导致本次会话工作直接白干. 工具: Trae Solo Cn 严重等级: ⭐ ⭐ ⭐ ⭐ ⭐ 所以,发起本帖,收集一下各位大手子用过的高危提示词,给自己也给看到本帖人做一个警醒👇👇👇
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2166514/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888