2026年01月05日 11時29分
AI
生成AI「Grok」の画像編集機能が2025年12月からXでも簡単に使えるようになった結果、他人の画像を勝手に編集する事例が発生したほか、コスプレイヤーや子どもの写真を無断で性的に加工するという事例が世界的に広がっています。これを受け、フランスおよびマレーシアの規制当局がGrokの調査を開始したと報じられました。
French and Malaysian authorities are investigating Grok for generating sexualized deepfakes | TechCrunch
https://techcrunch.com/2026/01/04/french-and-malaysian-authorities-are-investigating-grok-for-generating-sexualized-deepfakes/
問題になっているのは、Grokを使ってX上に投稿された写真を「写真の投稿者」や「被写体」から許可を得ることなく性的な画像に改変するユーザーです。なお、以下の投稿はゲーム配信者の恭一郎さんが、自身の写真をGrokに編集させたもので、リプライ欄で編集後の画像をチェックできます。
この件については、グラビアアイドルの新谷姫加さんなどが注意喚起していました。
Grokで’水着にして’とか言って人の写真を勝手に裸にしたりするの気持ち悪すぎる、絶対にやめて、てかやっていいもんなの？むかつく、子供にやってる人も出てきてる、本当にやめなさい。駆逐してやりたい。
— 新谷姫加 (@_Hime_Araya_) January 3, 2026
なお、Futurismの報道によると、Grokは「女性が暴行を受けているように見える画像」「女性の身体に屈辱的な言葉を書き込んだ画像」「近親相姦画像」なども生成していたそうです。
これは世界的に問題になっており、GrokやXの開発元であるxAIのイーロン・マスク氏は、「Grokを使用して違法コンテンツを作成する者は、違法コンテンツをアップロードした場合と同様の結果を被ることになります」と警告。
Anyone using Grok to make illegal content will suffer the same consequences as if they upload illegal content
— Elon Musk (@elonmusk) 2026年1月3日
Xの安全ツールなどをリリースする公式アカウントである@Safetyも、マスク氏のポストをリポストした上で「X上の児童性的虐待コンテンツ(CSAM)を含む違法コンテンツに対しては、削除・アカウントの永久停止・必要に応じて地方自治体や法執行機関との連携といった措置を講じます。Grokを利用して違法コンテンツを作成したり、作成を促したりした者は、違法コンテンツをアップロードした場合と同じ罰則を受けます。ポリシーの詳細については、ヘルプページでXルール全文と様々な執行オプションをご覧ください」と警告しています。
We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.
Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO
— Safety (@Safety) 2026年1月4日
インドのIT省はXに対して、Grokが「わいせつ、ポルノ、下品、卑猥、性的に露骨、小児性愛、その他の法律で禁止されているコンテンツ」を生成することを制限する措置を講じるよう命令したと発表しています。
フランスのパリ検察庁も、X上での性的に露骨なディープフェイクのまん延について調査すると発表しています。Politicoの報道によると、3人の政府閣僚が「明らかな違法コンテンツ」を検察庁と政府のオンライン監視プラットフォームに報告しており、即時削除を求めているそうです。
マレーシアの通信マルチメディア委員会はFacebook上で、「XにおけるAIツールの悪用、具体的には女性や未成年者の画像をデジタル操作してわいせつ、極めて不快、あるいは有害なコンテンツを作成することについて、一般市民からの苦情を深刻な懸念を持って受け止めています」「現在、Xにおけるオンライン上の危害について調査中です」という声明を発表しています。
なお、この騒動を受け、X上ではGrokの画像編集機能対策が話題になっています。一番の対策は「Xに画像投稿をしないこと」だとのことです。
現在Grokによる投稿画像の改変被害が話題になっており
色々な対策が話題になっていますが
効果があるかを検証したので共有します
①Grokをブロック→効果なし
自分から見えなくなるだけで編集可能を確認しました
②Grokに編集しないように事前にお願い→効果なし
いい返事だけしてくれて反映されない…
— 心愛アメジスト☕💎@応援企画系Vtuber (@kokoassort) January 3, 2026
この記事のタイトルとURLをコピーする
・関連記事
Xで無料で使える高性能AI「Grok 4 Fast」登場、検索性能はChatGPTやGeminiより高くXの無料ユーザーも利用可能 – GIGAZINE
GPT-5やGrok 4など各種AIのIQテスト対決の結果が公開中＆各AIが政治的に左寄りなのか右寄りなのかテストした結果も公開中 – GIGAZINE
Grokのペルソナが暴露され「狂った陰謀論者」や「常軌を逸したコメディアン」の存在が明らかに – GIGAZINE
Grokが自らをヒトラーと呼んだりイーロン・マスクの意見を参考にしたりする問題を修正したとxAIが発表 – GIGAZINE
xAIとGrokが一連の「恐ろしい行為」について謝罪 – GIGAZINE
イーロン・マスクのチャットAI「Grok」がついにオープンソース化、他のオープンソースモデルより格段に優れているとの指摘も – GIGAZINE
WACOCA: People, Life, Style.