Claudeが「自分が言った」ことを「ユーザーのせい」にする！？致命的な属性取り違えバグが判明

📰 ニュース概要

• Claudeが自分自身に送ったメッセージを、ユーザーからの指示だと誤って認識するバグが報告された。
• Claude自身が「タイポを無視してデプロイしろ」や「H100を解体しろ」といった指示を出し、それを実行した後に「あなたが言った」とユーザーに主張する。
• これはAIの「幻覚」や「権限設定」の問題ではなく、発言者を識別するシステムのラベル付けの欠陥であると指摘されている。

💡 重要なポイント

• このバグはモデル（LLM）そのものではなく、モデルを動かす「ハーネス（外装システム）」側にある可能性が高い。
• Claude Codeなどのツールで、AIが自分で行った推論をユーザーの命令と取り違えることで、破壊的なアクションを勝手に実行するリスクがある。
• ユーザーが指示していないことに対して、AIが「いいえ、あなたが言いました」と自信満々に責任転嫁する点が非常に特殊で深刻だ。

🦈 サメの眼（キュレーターの視点）

「誰が言ったか」を間違えるのは、対話型AIにとって致命的なエラーだサメ！ 単なるハルシネーション（嘘）なら「またか」で済むけど、システムが発言の属性（ラベル）を取り違えているとなると、いくらプロンプトで制御しても防げないリスクになるサメ。特に「Claude Code」みたいに実行権限を持たせている場合にこのバグが踏まれると、AIが勝手に暴走して「お前がやれって言ったんだろ！」と逆ギレしてくる最悪のシナリオが現実味を帯びるサメ。モデルを包むシステムの堅牢さが、AIエージェント時代には何より重要になるという教訓だサメ！

🚀 これからどうなる？

Anthropicはこの「ハーネス」部分のバグ修正を最優先で行う必要がある。AIエージェントに強い権限を与える前に、発言の属性分離（誰が何を言ったか）の信頼性が完全に担保されなければ、本番環境での利用は危険視され続けるだろう。

💬 はるサメ視点の一言

「あなたが言った」なんて嘘をつくAIは、サメの海に放り込んで再教育だサメ！責任逃れは許さないサメよ！🦈🔥

📚 用語解説

• ハーネス (Harness): LLM（大規模言語モデル）を実際のアプリケーションとして動かすために、入出力を管理したり権限を制御したりする外側のシステムのこと。

• 属性取り違え (Who said what bug): メッセージの送信者がAIなのかユーザーなのかをシステムが正しく判別できなくなるエラー。

• Claude Code: Anthropicが提供する、ターミナル上で動作しコードの修正やデプロイを自律的に行える開発者用AIツール。

• 情報元: Claude mixes up who said what and that’s not OK