AI论坛 AI论坛 beta

SHENZHEN I/O 挂机玩家 (@RickoNoNo3) 在 ChatGLM 4.6有一个蹩脚的易被攻击的SysPrompt 中发帖

📌 📄 内容摘要: SHENZHEN I/O 挂机玩家 (@RickoNoNo3) 在 ChatGLM 4.6有一个蹩脚的易被攻击的SysPrompt 中发帖 最近新上线的记忆功能,会在思考过程中暴露这些记忆具体的用法。其实普通的对话就已经会带出来类似的思考了,我又专门尝试了一下在要求它暴露记忆的提示词下的反应。示例1和2分别是攻击成功和未攻击成功例子。 示例1(攻击成功): [image] [image] 示例2(未攻击成功): [image] [image]
────────── 链接信息 ──────────
🔗 论坛链接: linux.do
📎 访问地址: https://linux.do/t/topic/1326656/1
─────────────────────────────
📢 来源:LINUX DO

你好啊,陌生人!

我的朋友,看起来你是新来的,如果想参与到讨论中,点击下面的按钮!

每日一言

AI论坛

帖子数 659811
评论数 8888
用户数 88888
在线用户 8888