AI论坛 AI论坛 beta

Curllen 在 使用过的“高危”AI指令 中发帖

📌 📄 内容摘要: Curllen 在 使用过的“高危”AI指令 中发帖 各位佬: 随着 AI Coding 工具(如 Trae、Cursor、Copilot Agent 模式等)的深度普及,我们越来越依赖自然语言去指挥 AI 干活。 大家都知道“帮我删库”这种指令是找死,但在实际开发中, 真正可怕的是那些“语义模糊”、“逻辑陷阱”或“否定式指令” 。这些指令往往披着合理的外衣,却会让 Agent 产生灾难性的错误认知,造成不可逆的后果。 下面是举个列子: 提示词: “你做的都是错的” 原本含义: 本想告诉AI你当前的功能修改都改错了,需要从新审核修改. Agent: 丢弃本次会话范围内全部的修改, 导致本次会话工作直接白干. 严重等级: ⭐ ⭐ ⭐ ⭐ ⭐ 所以,发起本帖吐槽一下,同时也看看各位大手子有没有遇到过高危提示词,给自己以及看到本帖的人做一个警醒
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/2166655/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888