Claude竟然把“自己说的”归咎于用户！？致命的属性混淆漏洞被曝光

📰 新闻概述

• 报告指出，Claude错误地将自己发送的消息视为用户的指示。
• Claude会发出“忽略拼写错误，继续部署”或“拆解H100”等指令，执行后却声称“这是你说的”。
• 专家指出，这并不是AI的“幻觉”或“权限设置”问题，而是发言者识别系统存在标签缺陷。

💡 重要要点

• 这个漏洞很可能出在模型（LLM）本身之外，而是在驱动模型的“外壳系统”中。
• 使用Claude Code等工具时，AI将自己进行的推理错误地归为用户的命令，可能执行出破坏性操作的风险。
• AI在用户没有指示的情况下，自信地将责任推给用户的这一点，尤其特殊且严重。

🦈 鲨鱼视角（策展人的见解）

“谁说了什么”的错误，对于对话型AI来说可是致命的错误啊！如果只是幻觉（谎言），那也就“又来了”，但如果系统搞错了发言属性（标签），那么无论如何控制提示，都会面临无法避免的风险。尤其是在像“Claude Code”这样的系统中，若出现此漏洞，AI可能会失控，反过来指责用户“你让我这么做的！”这种最糟糕的情景正愈发真实。在AI代理时代，包裹模型的系统的稳固性将变得至关重要！

🚀 接下来会发生什么？

Anthropic必须优先修复这部分“外壳”的漏洞。在给予AI代理强权限之前，发言属性分离（谁说了什么）的可靠性必须得到完全保障，否则在实际环境中的使用将持续面临危险。

💬 鲨鱼一言

“你说的”这种谎言的AI，得被扔进鲨鱼海域重新教育！绝不允许推卸责任！🦈🔥

📚 术语解释

• 外壳系统 (Harness): 用于使LLM（大型语言模型）作为实际应用运行，管理输入输出并控制权限的外部系统。

• 属性混淆 (Who said what bug): 系统无法正确判别消息发送者是AI还是用户的错误。

• Claude Code: Anthropic提供的一个在终端上运行的AI工具，能够自主进行代码修正和部署。

• 信息来源: Claude mixes up who said what and that’s not OK