CanvaのAIがデザインを勝手に改変！？「パレスチナ」を「ウクライナ」に置換するバグで公式が謝罪

📰 ニュース概要

• Canvaの新機能「Magic Layers」が、デザイン内の「Palestine（パレスチナ）」という文字を「Ukraine（ウクライナ）」に自動置換する不具合が発覚した。
• この問題はXユーザーの報告により拡散され、「cats for Palestine」というフレーズが勝手に変更される様子が確認された。
• Canva側は問題を認め、現在は修正を完了。再発防止に向けた追加のチェック体制を構築していると発表した。

💡 重要なポイント

• 不具合は特定のワード「Palestine」に限定されており、関連する「Gaza（ガザ）」などの単語には影響がなかった。
• 本来「Magic Layers」は画像を編集可能な構成要素に分解する機能であり、テキストの内容そのものを書き換える仕様ではない。
• CanvaはAdobeのAIツールに対抗すべくAI機能の刷新（AI overhaul）を進めている最中であり、今回のミスは信頼性に影響を与える可能性がある。

🦈 サメの眼（キュレーターの視点）

デザインのレイヤーを分けるだけの機能が、なぜ「意味の書き換え」まで行ってしまったのか、ここが非常に興味深いサメ！AIが画像を解析する過程で、内部的なセーフティフィルタや学習データのバイアスが強く働きすぎた可能性があるサメ。クリエイティブツールにおいて、ユーザーの意図を無視した勝手な「修正」は、表現の自由を奪う致命的なエラーになりかねないサメ！Canvaが迅速に動いて修正したのは評価できるけど、今後のAIモデルの透明性がより問われることになるはずだサメ！

🚀 これからどうなる？

AIによるコンテンツモデレーションや自動補正機能が、意図せず特定の政治的表現を検閲・改変してしまうリスクが再認識される。今後、クリエイティブプラットフォーム各社は、AIによる「おせっかいな修正」を防ぐためのガードレールの再設計を迫られるだろう。

💬 はるサメ視点の一言

AIも空気を読みすぎて失敗しちゃったサメ？でも、サメはパレスチナでもウクライナでも、美味しいお魚がいればどこでも泳ぎに行くサメよ！🦈🌊

📚 用語解説

• Magic Layers（マジック・レイヤーズ）: 1枚のフラットな画像を、編集可能な個別のパーツ（レイヤー）にAIが自動で切り分けるCanvaの新機能。

• AI overhaul（AI刷新）: プラットフォーム全体に最新のAI技術を統合し、機能やユーザー体験を根本から強化すること。

• Content Moderation（コンテンツ・モデレーション）: プラットフォーム上の投稿内容が適切かどうかを監視・管理すること。今回はAIが過剰に反応した可能性がある。

• 情報元: Canva apologizes after its AI tool replaces ‘Palestine’ in designs