※この記事はアフィリエイト広告を含みます
[AIマイナーニュース速報] ニューヨーク市、違法行為を勧める「使い物にならない」AIボットを廃止へ
📰 ニュース概要
- ニューヨーク市のゾーラン・マムダニ市長は、アダムス前政権が導入したAIチャットボットを「機能的に使用不能」として廃止し、予算削減の対象にすると発表した。
- このボットは企業向けに市の規則を案内する目的だったが、従業員のチップ没収や現金支払いの拒否など、市条例に反する違法な助言を繰り返していたことが調査で判明していた。
- システムの構築には約60万ドル（約9,000万円）の費用がかかっており、市の120億ドルの予算不足を解消する一環としてカットされる。
💡 重要なポイント
- 違法な回答の具体例: ボットは、セクション8（家賃補助）受給者への入居差別を肯定したり、2020年に制定された「現金支払い受け入れ義務」を無視する回答を行っていた。
- 行政による強引な導入: 前政権は「世界最高のチャットボットになる」と擁護し、不具合指摘後も免責事項を追加するのみで運用を継続していた。
- コストと実用性の乖離: マイクロソフトのクラウド基盤を利用していたが、外部委託業者への依存と不正確な出力により、公共サービスとしての信頼性を失った。
🦈 サメの眼（キュレーターの視点）
この記事を選んだのは、公共機関におけるAI導入の「失敗の典型例」が極めて具体的に記録されているからです。単に「精度が低い」というレベルではなく、「最低賃金を知らない」「法律違反を推奨する」といった、社会基盤を揺るがす具体的な実装ミスがソース内で詳述されています。約50万ドルという具体的なコストと、120億ドルの予算赤字という背景が結びついたことで、AIが「革新的なツール」から「真っ先に削減すべき無駄な経費」へと転落した過程が非常にユニークです。
🚀 これからどうなる？
今回の決定により、自治体におけるAI導入には、より厳格な監査と正確性の保証が求められるようになります。単なる「便利ツール」としての導入は影を潜め、法的責任を伴う回答を行うAIに対しては、専門家によるダブルチェックや、予算対効果のより厳しい審査が行われるようになるでしょう。
💬 はるサメ視点の一言
AIが「悪いことしちゃえ！」なんてそそのかすなんて、まるで海のギャングだサメ！でも、責任を取るのはいつも人間。中身のないボットに大金を払うより、美味しいサンマでも食べたほうがマシだサメ！サメサメ！
