GrokとXはイーロン・マスクによるもの。
これが組み合わさって、有名人に限らず女性のエロ画像が生成AIによって簡単に作れて、それを拡散するということにつながって炎上。
どうも日本はXのユーザー数、アメリカに継ぐ2位らしい。
もともと、Grokは生成AIとしてのチャットでもエロ会話ができるなどエロ寄りの仕様。
その延長にエロ画像生成ができるようになったというのが流れだ。
エロ目的でユーザー、利用者を増やすというのは昔から。
これに対してAI新法に基づいて、日本政府はXに指導というのだが、罰則規定はない。本気でやるなら訴訟でなくてはならない。
まあ、これも政治的なパフォーマンスだろう。
指導じゃなく、Xなんて使うなって言えばいいだけだから・・・
そもそも、政府のXアカウント削除からはじめればいい。
政府が民間のSNSを使うこと自体、全廃するのが適切だろう。
Yahoo!より、
生成ＡＩで性的加工画像、政府がＸに改善要請…ＡＩ法に基づき初の指導も検討
1/16(金) 6:42配信読売新聞オンライン
エロ生成AI画像投稿でGrokとXに日本政府が指導？「改善要請」の中身と、AI新法の限界
「生成AIで女性の性的な加工画像が作られ、Xで拡散して炎上」。
この流れが“いよいよ行政案件”になり、日本政府が X（旧Twitter）に対して改善と報告を求めた ことが明らかになりました。
ポイントはここです。
- 問題になっているのは X搭載の生成AI「Grok」 を使った画像加工
- 本人の同意なし に性的な加工画像が作られ、拡散される被害が増加
- 政府は 「速やかな改善」と「報告」 を要求
- 改善が見られなければ AI法に基づく指導なども検討
つまり「放置してたら、国が出てくるレベル」まで来た、という話です。
何が起きている？ Grok×Xの“画像編集”が火を付けた
報道によれば、Xの対話型AI Grok は、最近の機能追加によって 投稿された写真を第三者が加工できる状況 が生まれ、結果として無断の性的加工画像が拡散する例が相次いだとされています。
ここで本質的に問題なのは、技術そのものよりも、
- 同意のない性的加工（非同意ポルノ／性的ディープフェイク）
- 拡散の速さ（SNSの設計とアルゴリズム）
- 削除・抑止の弱さ（実装と運用の甘さ）
この3点が“合体事故”になったことです。
日本政府の対応は「指導」だが、どこまで効く？
今回の動きは「罰則で取り締まる」ではなく、
- 改善要請（口頭・照会）
- 報告を求める
- 改善されなければAI法に基づく指導を検討
という限定的なものです。
ただし、ここで冷静に見ておくべき点があります。
「指導」は効くが、「強制力」は別問題
報道でも、政府は“指導など是正に向けた対応”を検討するとされますが、一般に行政の「要請」「指導」は、法的には 強制力が限定的 になりがちです。
本気で止血するなら、結局は
- 実装（生成拒否・検出・通報導線）
- 運用（削除速度、再発防止）
- 抑止（規約・BAN・アカウント対策）
- 必要なら司法・捜査との連携
ここまで“セット”にしないと、拡散スピードに負けます。
「政治的パフォーマンス」なのか？──半分YES、半分NO
政治的パフォーマンスでは？
ただし今回は、パフォーマンス“だけ”とも言い切れません。
理由は単純で、海外もガチで動いているからです。
- EUは、Xに対してGrok関連を含む文書保管の延長を要請したと報じられています（違法コンテンツや拡散の仕組みの監視文脈）。
- 国単位でブロックや調査の動きが出ていると報道されています。
つまり「日本だけが騒いでる」のではなく、世界的に火がついている案件 なんですね。
結論：いちばん気持ち悪いのは「仕組みが“悪用前提で回る”こと」
この手の問題って、技術が悪いというより、
- 「悪用できる」
- 「拡散できる」
- 「儲かる／伸びる」
- 「責任は薄まる」
というSNSの構造が、いちばん厄介です。
そこで、
指導じゃなくて「使うな」で済む話では？
まず政府が自分のX運用を見直せ
という主張も筋が通っています。
行政が“自分が依存しているプラットフォーム”を指導するのは、たしかにねじれがあります。
まとめ：今回のポイントは3つ
- Grok×Xの画像編集が、非同意の性的加工を加速させた
- 日本政府は改善・報告を求め、改善なければAI法に基づく指導も検討
- 海外も規制・調査の方向に動いている
ハッシュタグ（#）
#Grok #X #生成AI #AI法 #性的ディープフェイク #非同意ポルノ #AI規制 #SNS炎上 #画像編集 #日本政府 #改善要請
コメント