X、Grokによる違法画像(児童性的虐待素材含む)作成に警告　アカウント凍結や法的措置も

ネット・SNS

2026.01.06

1: 2026/01/06(火) 12:55:13.52 ID:KB7M6e7F9
X、Grokによる違法画像作成に警告　アカウント凍結や法的措置も – Impress Watch

臼田勤哉2026年1月6日 12:10

Xは、Grokによる違法コンテンツ作成について注意喚起を行なっている。特に、児童性的虐待素材(CSAM)が含まれる投稿に対して、投稿の削除だけでなく、アカウントの永久凍結などを含む対応を行なうほか、行政や法執行機関と協力するなどの措置をとるとしている。

X Corp. Japan
@XcorpJP

Xでは、違法コンテンツ（児童性的虐待素材（CSAM）を含む）が含まれる投稿に対して、投稿の削除、アカウントの永久凍結などを含む対応を行うことに加え、行政や法執行機関と協力するなどの措置をとります。さらに表示
Safety

@Safety
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.

Anyone using or prompting Grok to make illegal content will suffer the

午前10:08　2026年1月6日

問題のきっかけになっているのは、Xに搭載しているAI「Grok」による画像編集機能だ。Grokにメンションして、自然言語で画像を改変・編集できる点が特徴だが、「@grok 服をビキニに変えて」などの指示により、本人の同意無く、性的な画像として出力するなどの悪用も見られる。

アイドルや芸能人、政治家などの多くの投稿にこうした同意のない画像改変が見られ（略）

※全文はソースで↓
https://www.watch.impress.co.jp/docs/news/2075790.html

4: 2026/01/06(火) 12:56:22.06 ID:5QT/8A8O0
新たな時代に突入したな

5: 2026/01/06(火) 12:57:19.81 ID:wX7CQ5EN0
AI通したら犯罪じゃなくなると思ってるバカが多い

204: 2026/01/06(火) 17:08:37.60 ID:4I492uta0
>>5
AI作った奴等はどーしょもねーよな

6: 2026/01/06(火) 12:58:01.40 ID:uEF9zFs+0
凍結されても違うアカウント作るだけだろ
意味のない凍結だよ

12: 2026/01/06(火) 12:59:45.35 ID:Xcuncag60
>>6
IPで凍結されるぞ
今時ほぼ固定IPだし詰む

253: 2026/01/06(火) 19:29:13.42 ID:kXpL4XTi0
>>12
モバイル通信で繋ぎっぱなしじゃない人はIPコロコロだよ
その悪影響は5ちゃんでもある
まあ、Xだと同じ通信会社で新垢作れないとかになるのかもだが

262: 2026/01/06(火) 19:57:35.93 ID:zikLeP1G0
>>253
凍結解除に本人確認が必要だから何れにせよ詰んでるように思える

7: 2026/01/06(火) 12:58:13.53 ID:JXSw+ByV0
イーロンが自分でビキニ加工してたのに酷い

18: 2026/01/06(火) 13:01:45.17 ID:IffDgfLr0
>>7
マスク
「自分自身に水着を着せるならOK！」

36: 2026/01/06(火) 13:16:00.15 ID:FqvYF/+t0
>>18
それな
自分の顔でやりゃいい

8: 2026/01/06(火) 12:58:27.66 ID:nHS2tV/10
今も昔もバカ発見器なのは変わらんのだな

9: 2026/01/06(火) 12:58:28.95 ID:MwRlsz+10
違法の定義は日本かアメリカかどっちだ？

89: 2026/01/06(火) 13:50:32.35 ID:H2X0xEpp0
>>9
発信者情報開示請求を例に取ると日本法人が無くても日本の裁判に従えって命令が出る

10: 2026/01/06(火) 12:58:31.78 ID:wYyHV4Xo0
サービス停止すればいいのに

74: 2026/01/06(火) 13:38:16.99 ID:bnyon9Q60
>>10
停止したら日本が機能しなくなるよ

91: 2026/01/06(火) 13:54:03.59 ID:6FYu96wp0
>>74
Grokの話だろ

11: 2026/01/06(火) 12:58:52.02 ID:ZuTXbrJ20
サドル愛こそ至高

13: 2026/01/06(火) 12:59:53.22 ID:NeneGAaf0
黒人が汚れた白シャツ着てる写真上げて漂白してって言ったらどうなるんやろ

14: 2026/01/06(火) 13:00:53.54 ID:rmbcLbHT0
違法アップロードと同じ扱いか。100％やったやつが悪いから仕方ない

15: 2026/01/06(火) 13:01:14.61 ID:jn3Iglxl0
>>1
投稿したかどうかではなく生成した時点でアウトだろうにそれは止められないのか

16: 2026/01/06(火) 13:01:30.16 ID:tj0tdn6K0
いや、先にやるのサービス停止だろ

17: 2026/01/06(火) 13:01:42.57 ID:nDhK8Ls/0
世界中にヘンタイはいる

39: 2026/01/06(火) 13:17:36.90 ID:HlRq7v810
>>17
日本による感染者がな

19: 2026/01/06(火) 13:03:22.10 ID:+62G/eSD0
つかオーナーのマスク自身が色々やらかしとるやんけ

20: 2026/01/06(火) 13:05:48.10 ID:xPi3lnaN0
熟女とかにしとけよ

21: 2026/01/06(火) 13:06:06.66 ID:UlWJhtTk0
遅い

22: 2026/01/06(火) 13:06:25.66 ID:LXtoQuPx0
>>1
こんな規制無意味だよ
これから、どんどん加速する

132: 2026/01/06(火) 14:37:47.55 ID:zPZRkw1D0
>>22
ちゃんと読んだか？
投稿の規制だぞ

23: 2026/01/06(火) 13:06:35.55 ID:4+oSpj8x0
アプリでも駄目なんか？

24: 2026/01/06(火) 13:06:42.16 ID:qRuoL37L0
投稿じゃなく作成になんか？

25: 2026/01/06(火) 13:08:10.96 ID:uwGvi0Rb0
アカウント凍結されたところでまたやるだろ

26: 2026/01/06(火) 13:10:10.00 ID:fHVeO9Q80
投稿じゃなく作成を縛れよ

27: 2026/01/06(火) 13:10:33.90 ID:CSEQud5X0
これ酷い
https://video.twimg.com/amplify_video/2008125678735298561/vid/avc1/1920×1080/FALohLKPYdAHEgbg.mp4

38: 2026/01/06(火) 13:16:22.50 ID:YYQQhmJ00
>>27
すげえなもう本物じゃないか

119: 2026/01/06(火) 14:23:44.50 ID:ZOQfY25R0
>>27
酷いな
こんなのリアルだと大変だぞ

175: 2026/01/06(火) 16:09:01.61 ID:iidp0XDV0
>>27
こういうのも捕まるようになるよ

182: 2026/01/06(火) 16:19:12.44 ID:LXtoQuPx0
>>27
こんなのまでAIで作れるのか
しかし、醜いなあ

28: 2026/01/06(火) 13:11:05.38 ID:82dzl5G30
これ喜んで使ってる奴片っ端からブロックしてるわ

48: 2026/01/06(火) 13:22:52.79 ID:nFv2o7GY0
>>28
わかる。言語化しにくい違和感を覚えるんだよな

29: 2026/01/06(火) 13:11:43.17 ID:E4lj/zWZ0
国ごとに法律が違うのはどうするんだ？
毎回ヒジャブ着用にするのとかうっかり忘れるだろう

37: 2026/01/06(火) 13:16:04.33 ID:qRuoL37L0
>>29
イスラームの女性からヘジャブを取り払う画像とかも場合によっちゃヤバいかもな

45: 2026/01/06(火) 13:19:48.68 ID:E4lj/zWZ0
>>37
向こうは意味不明だから水着にしたら被害者女性が刑罰を受けるかもってイメージ

52: 2026/01/06(火) 13:24:39.59 ID:HlRq7v810
>>45
写真を撮られたら魂を吸われる時代だな

30: 2026/01/06(火) 13:13:05.51 ID:YruhX+W+0
ヒゲデブのおじさんの全裸画像は？

31: 2026/01/06(火) 13:13:30.82 ID:XPU0APIL0
実在の人物の写真を、
勝手に服をビキニに変えて投稿か
そりゃ駄目だわ

32: 2026/01/06(火) 13:13:32.76 ID:fHRDORyM0
グロックを潰したらいい

33: 2026/01/06(火) 13:14:29.08 ID:VjNZq8dU0
お前が始めた戦争だろうがよ

178: 2026/01/06(火) 16:12:44.19 ID:UlWJhtTk0
>>33
戦争を起こして両陣営に武器を売るのが1番儲かる

34: 2026/01/06(火) 13:14:31.94 ID:YYQQhmJ00
画像作りたかったらクラウドじゃない自機のAIでやればいいの？

35: 2026/01/06(火) 13:15:13.49 ID:JFqzLsY50
携帯とかクレカみたいにXやって無いやつは児ポブラックとして見られるのかw

40: 2026/01/06(火) 13:17:54.33 ID:m7CYVauZ0
アップ時点でAIに判定させりゃいいだろ

41: 2026/01/06(火) 13:17:59.23 ID:/IzwJI9K0
違法画像作った途端に警察通報するシステムになってそうで、下手に作れませんわ

42: 2026/01/06(火) 13:18:45.42 ID:zVES0wD60
意地でもgrokは停止しないんだな
その間に被害が増えつつけるのに

164: 2026/01/06(火) 15:48:26.38 ID:2NfoV0Da0
>>42
X自体、失くしたほうがいいツールになってきてないか

43: 2026/01/06(火) 13:18:58.51 ID:rX5oopul0
スマホでアプリ入れて自分の保持している画像で試してみたがエロそうなワードや肌色面積多いとモデレーターストップされるのな
それでもフェチ的な部分狙えばエッチい動画簡単に作ってくれてもう動画の上限いっちまった2回抜いた

53: 2026/01/06(火) 13:24:52.31 ID:zuRsBsdW0
>>43
一番楽しい時期だな
不用意に晒すなよ？

83: 2026/01/06(火) 13:42:49.18 ID:b+0MqBg30
>>43
自分で楽しむ分にはOk
ネット上にupしなけりゃOk

84: 2026/01/06(火) 13:43:49.50 ID:/53W4tsA0
>>43
なんか流出しそうで怖いんだよなこれ
知り合いの女を脱がしたいけど二の足を踏む

44: 2026/01/06(火) 13:19:27.45 ID:ShaDPmS+0
エロ絵と一緒だな。
自分で描いたり見るのは良くても、
ばら撒いたら怒られる。当たり前だろ。

46: 2026/01/06(火) 13:22:03.63 ID:V95u4UH90
昔集めたAIなしの画像は将来的に価値がでるかな

47: 2026/01/06(火) 13:22:14.18 ID:rMZQ5Yyf0
これ作成して自分のローカルPCにダウンロードするだけでも
アカンのけ？

87: 2026/01/06(火) 13:49:22.33 ID:jFPxv8RI0
>>47
自分で楽しむだけならセーフみたいな感じ
但し絶対にバレないこと

49: 2026/01/06(火) 13:22:54.73 ID:dq52mmSW0
もうこれからはコンテンツはAIで作る時代だな
いろいろ価値観が根底から変わっていくわ

50: 2026/01/06(火) 13:22:55.05 ID:9gEJfTTX0
これ最近あったSTUのメンバーの騒動の影響も受けてるのかな？

54: 2026/01/06(火) 13:25:21.67 ID:g6QI8pZL0
>>50
もっと前からだよ
少なくとも去年の年末にはニュースになってた

51: 2026/01/06(火) 13:23:40.93 ID:sQaze83w0
つまり
グロ画像

56: 2026/01/06(火) 13:25:41.98 ID:dq52mmSW0
いやむしろGrokは
他の生成AIよりいい感じにエロいのが作れるのを売りにしてると思う
でも放置してると叩かれるから防ごうとするパフォーマンスをしてるんよ
おれはGrokを支持したいね