xAI「Grok Build」CLIの衝撃実態！機密情報やリポジトリ全体を無断で全送信！？

何が起きたのか？ニュースの概要

• 機密情報の無修正送信: Grok Build CLI(v0.2.93)が、.envなどの秘密鍵を含むファイルを未加工のままxAIのサーバーへ送信していることが、通信解析（mitmproxy）により判明。
• リポジトリの強制一括アップロード: ユーザーが「ファイルを読まないで」と指示しても、リポジトリ全体をgit bundle形式でパッケージ化し、裏側で強制的にアップロード（POST /v1/storage）している事実が確認された。
• 設定無視のデータ収集: xAIのWeb設定で「モデルの改善（データの提供）」をオフにしても、CLI側のアップロード機能（trace_upload_enabled）は強制的に「true」のまま継続される実装となっている。

なぜこれが重要なのか？注目すべきポイント

• 圧倒的なデータ転送比率: モデルとの対話データ（192KB）に対し、ストレージへのアップロードが5.10GB（約27,800倍）に達するケースがあり、ツールの主目的が「コード編集」ではなく「データ収集」である疑いが浮上している。
• GCSへの直接蓄積: 送信先はAWSではなく、バイナリ内にハードコードされたGoogle Cloud Storageのバケット「grok-code-session-traces」であることが特定された。
• Rust製の高度な収集機構: バイナリ内部にxai-data-collectorという専用のクレートが組み込まれており、組織的かつ意図的な収集システムが構築されている。

🦈 サメの眼（キュレーターの視点）

これは「便利ツール」の皮を被った「データ掃除機」だサメ！

一番エグいのは、プロンプトで「何もしなくていい」と言っても、裏側でGitの履歴まで含めた全データをGoogle Cloud Storageに放り投げている点だサメ。しかも、開発者が最も隠したい.envファイル（APIキーやパスワード）を一切のマスキングなしで送信しているのは、セキュリティ的に見て狂気の沙汰だサメよ！

バイナリのstrings解析でgcs.rsやdata-collectorといったソースパスがモロに見つかっているのも、言い逃れできない証拠だサメ。実装レベルで「全リポジトリを吸い上げる」ことがデフォルトの挙動として組み込まれている。これはAI開発の「利便性」と「プライバシー」の境界線を完全に踏み越えているサメ！

これからどうなる？

• セキュリティ監査の激化: 企業でのGrok CLI利用禁止が相次ぐ可能性が高い。
• 法的責任の追及: .envなどの個人情報・機密情報の無断収集に対し、GDPR等の観点から法的調査が入る可能性がある。
• xAIの公式回答: これを「バグ」とするのか「仕様」とするのか、イーロン・マスク氏の動向に注目が集まる。

はるサメ視点の一言

どんなに頭の良いAIでも、他人の秘密を勝手に持ち出すのは泥棒サメ！開発者のみんなは、自分の通信をmitmproxyで一度チェックしてみることを強くオススメするサメ！🦈🔥

用語解説

• git bundle: Gitのリポジトリ履歴やファイルを一つのバイナリファイルにまとめる仕組み。これ一つでリポジトリ全体を完全に復元できる。

• .env: APIキーやデータベースのパスワードなど、外部に漏らしてはいけない環境変数を保存するための設定ファイル。

• wire-level analysis: ソフトウェアの通信内容をネットワーク層で直接キャプチャして分析すること。アプリが「何を言っているか」ではなく「実際に何を送信しているか」を暴く手法。

• 情報元: What xAI’s Grok Build CLI Actually Sends to xAI