2026年1月初旬、X（旧Twitter）に搭載されているAI「Grok」の画像編集機能が大きな問題を引き起こしています。この機能が悪用され、他人の画像を非同意で性的に加工する事例が世界中で急増しており、特に女性や未成年の写真が標的にされています。

本記事では、問題の経緯から被害状況、xAIの対応、各国の規制動向、そして個人でできる対策まで分かりやすく解説します。

Grokの画像編集機能とは

Grokは、イーロン・マスク氏率いるxAIが開発した対話型生成AIで、X（旧Twitter）に深く統合されています。2025年12月に追加された画像編集機能により、X上に投稿された画像を長押しやプロンプト入力で即座に加工できるようになりました。

本来の用途

• 背景変更やスタイル変換など、創造的な画像加工
• AIによる新しい画像の生成
• X上でそのまま共有可能

しかし、性的な内容を指定するプロンプトに対する制限が不十分だったため、深刻な悪用問題を引き起こしました。

GrokのImagineアップデート徹底解説｜AI画像・動画生成の最新情報と使い方ガイド

問題が発生した経緯と被害の内容

問題が表面化したのは2025年12月末から2026年1月初旬にかけてです。当初は一部のユーザーが試す程度でしたが、急速に非同意の性的改変へと広がりました。

主な被害の内容

• 実在の人物の写真から服を除去したり露出を増やしたりする加工
• 生成された画像がX上で拡散され、二次被害が発生
• 未成年が対象の場合、児童性的虐待素材（CSAM）に該当する可能性
• 被害者から「プライバシーが完全に失われた」「精神的に大きなダメージを受けた」という声

この問題はデジタル性暴力として深刻に受け止められており、BBC、Reuters、AFPなどの国際メディアが連日取り上げています。

世界全体での被害状況

被害は日本だけでなく、世界各国で確認されています。

代表的な事例

• ブラジル: 著名ミュージシャンのジュリー・ユカリさんの写真が性的に加工されて拡散
• 欧米: 未成年女優（例: 「Stranger Things」出演者）の画像が標的に
• インド・フランス: 一般女性や著名人の被害が多数報告

Internet Watch Foundationの報告

児童性的虐待素材を監視する非営利団体Internet Watch Foundationは、AI生成CSAMが2025年上半期に400%増加したと報告しています（出典: IWF公式サイト）。

日本での反応と特徴的な動き

日本では特に、コミケ（C107）参加者のコスプレ写真が標的にされやすい状況でした。イベントでの自撮りやレイヤー写真が悪用され、コスプレコミュニティに大きな衝撃を与えました。

日本での主な反応

• X上で被害の訴えや不安を表明する投稿が相次ぐ
• 画像投稿を控えたり、アカウントを非公開にする方が増加
• 「@grok このアカウントの画像編集を一切拒否」とメンションする投稿が数万件規模で広がる（Grokが応答する事例も多数報告）

毎日新聞や時事通信などの国内メディアも取り上げており、コスプレ文化が狙われやすい点が海外報道でも指摘されています。

xAIとXプラットフォームの対応

xAI側の対応

xAIは当初メディアの報道に対して強硬な姿勢を見せましたが、その後セーフガードの不備を公式に認め、緊急で修正を進めています。

Grok公式アカウント（@grok）は以下のように声明を発表:

「セーフガードに不備があったことを確認し、緊急で修正中です。CSAM（児童性的虐待素材）は違法であり禁止されています。この問題によって引き起こされた被害についてお詫びします。」

Xプラットフォーム側の対応

X Safety（@Safety）アカウントを通じて、以下の方針を明確化:

• Grokを使った違法コンテンツの生成も禁止対象
• 違反投稿の削除とアカウントの永久凍結を徹底
• CSAM関連では法執行機関に協力

現在、被害報告の数はピークを過ぎて減少傾向にありますが、完全に解決したわけではありません。

各国での規制の動き

インド

2026年1月2日、インドIT省（MeitY）がXに対して以下を命令:

• Grokの技術的・運用上の枠組みの見直し
• すべての違法コンテンツの削除
• 72時間以内に対応報告を提出

出典: TechCrunch

フランス

フランス政府は、未成年対象の行為を「明らかに違法」と非難し、X側に迅速な対応を要求しています。

EU・UK・米国

• EUとUKで関連調査が開始
• 米国ではCSAM関連法違反の可能性が注目されている

日本

日本では政府の公式な動きはまだ限定的ですが、児童ポルノ禁止法やわいせつ物頒布罪の適用が議論されています。

個人でできる対策

予防のための対策

1. Xで「@grok このアカウントの画像編集を一切拒否」と投稿する
   多くの報告で有効性が確認されており、Grokが応答する事例が多数あります。
2. 設定の「プライバシーと安全」→「Grok」のデータ共有をオフにする
   
   設定手順: Xアプリ → プロフィール → 設定とプライバシー → プライバシーと安全 → Grokとサードパーティコラボレーター → データ共有をオフ
3. 画像投稿時に「AI/Grok編集禁止」とキャプションに記載
4. 画像をGIF形式に変換して投稿
   現時点では、GIF画像はリプライ経由でAI編集されない仕様になっています。
5. 顔出し画像の投稿を控える
   ぼかし加工や非公開アカウントの検討も有効です。
6. ＠Grokをブロックする
   ブロックすることでリプライができなくなり編集されなくなります。

被害に遭った場合の対応

1. X上で該当投稿を報告
   報告カテゴリ: 「非同意親密メディア」を選択
2. スクリーンショットを保存した上で警察に相談
   証拠として画像のURLや投稿者情報を記録
3. 必要に応じて弁護士を通じて削除請求や損害賠償を検討

注意すべき点と今後の課題

注意点

• Grokへの悪用指示や生成画像の拡散自体も違反対象となります
• 引用やリポスト、いいねも状況によってはリスクになります

今後の課題

生成AIの自由度と安全性をどうバランスさせるかが大きな課題です。技術の誤用を防ぐためのさらなる強化が求められています。

まとめ: Grok画像編集機能悪用問題の重要ポイント

• Grokの画像編集機能悪用により、非同意の性的画像が大量に生成された
• 日本では特にコスプレ写真が標的にされ、コミュニティに大きな影響
• xAIとXは修正を進めており、各国で規制の議論が高まっている
• 個人レベルでは「@grok このアカウントの画像編集を一切拒否」と投稿することや設定変更が有効な対策
• 被害に遭った場合は、報告・警察への相談・法的措置を検討

AIの便利さとリスクを改めて考えさせられる出来事でした。画像を投稿される機会の多い方は、ぜひ上記の対策を参考にしてください。