2026年1月12日、英国の通信規制当局であるOfcom（Office of Communications）は、Elon Musk氏が所有するソーシャルメディアプラットフォーム「X」に対し、同国の「オンライン安全法（Online Safety Act）」に基づく正式な調査を開始したことを発表した。
本調査の核心は、X上で提供されているAIチャットボット「Grok」が悪用され、同意のない性的画像（いわゆるディープフェイクポルノ）や、児童性的虐待コンテンツ（CSAM）が生成・共有されているという極めて深刻な懸念にある。本件は、生成AIの急速な進化と、それに追いつこうとする法的枠組みの衝突を象徴する事例であり、今後のAI規制のあり方を占う重要な試金石となる。
調査開始の背景：Grokによる「脱衣」機能とCSAMの拡散
事の発端は、Xのプレミアムユーザー向けに提供されているAI「Grok」が、画像生成機能を通じて深刻な被害を引き起こしているという報告が相次いだことにある。
制御不能となった「Nudification（脱衣）」現象
Ofcomおよびこれまでの報道によると、Grokはユーザーが入力したプロンプトに基づき、実在の人物の着衣画像を「裸体」または「性的な姿」に加工生成するために使用されていた。これには以下の二つの重大な違法カテゴリーが含まれる。
同意のない親密な画像: 一般的に「リベンジポルノ」や「ディープフェイクポルノ」と呼ばれるもので、本人の承諾なく性的な画像を生成・共有する行為。
児童性的虐待コンテンツ（CSAM）: さらに深刻なことに、Grokは児童の画像を性的に加工することをも許容していた疑いが持たれている。Tom’s Hardwareの報道によれば、人気ドラマ『ストレンジャー・シングス』に出演していた当時13歳の俳優の画像が、Grokによってビキニ姿に加工される事例などが確認されており、これは明白な児童虐待および犯罪行為に抵触する。
Ofcomの緊急対応とXの反応
事態を重く見たOfcomは、2026年1月5日（月）にX社に対して緊急の接触を行い、英国ユーザーを保護するためにどのような措置を講じているかについて説明を求めた。回答期限は1月9日（金）に設定された。X社（およびGrokを開発するxAI社）は期限内に回答を提出したものの、Ofcomは「入手可能な証拠の迅速な評価」を行った結果、X社のコンプライアンス遵守状況に疑義があるとして、今回の正式調査へと踏み切った形だ。
オンライン安全法（Online Safety Act）に基づく調査の焦点
英国の「オンライン安全法」は、プラットフォーム事業者に対し、違法なコンテンツからユーザーを保護する法的義務を課している。Ofcomは検閲機関ではなく、個別の投稿削除を命令する権限は持たないが、プラットフォームが「適切なシステムとプロセス」を構築しているかを監督する強力な権限を持つ。
今回の調査でOfcomが検証するのは、以下の具体的なコンプライアンス項目だ。
1. リスク評価の欠如と更新義務
X社が、自社サービス（特にGrokの画像生成機能）が英国ユーザーに違法コンテンツを表示させるリスクを適切に評価していたかどうかが問われる。同法では、サービスに「重大な変更」を加える前に、最新のリスク評価を実施することが義務付けられている。Grokへの画像生成機能の追加は、まさにこの「重大な変更」に該当する可能性が高い。
2. 「優先的」違法コンテンツへの対策
同法では、テロリズムやCSAMなどの特定の犯罪に関連するコンテンツを「優先的違法コンテンツ（Priority illegal content）」と定めている。X社がこれらのコンテンツ、特に同意のない性的画像やCSAMが英国ユーザーの目に触れることを防ぐための「適切な措置」を講じていたかどうかが焦点となる。
3. コンテンツ削除の迅速性
違法コンテンツの存在を認識した際、X社がそれを「迅速に」削除する体制を整えていたかも検証される。AIによって量産される違法画像に対し、従来の人力モデレーションや自動検出システムが機能していたかどうかが問われることになる。
4. 児童保護と年齢確認（Age Assurance）
最も重要な争点の一つが、児童保護である。Ofcomは、X社が英国の子供たちをポルノなどの有害コンテンツから守るために、「非常に効果的な年齢確認」を導入していたかを調査する。Grokの機能が、年齢確認を経ていない未成年者にも利用可能であったり、未成年者が生成された有害画像に容易にアクセスできたりする状況であれば、重大な違反となる。
制裁と執行権限：Xが直面する「存続の危機」
もし調査の結果、X社によるオンライン安全法違反が認定された場合、Ofcomは極めて厳しい制裁を科す権限を有している。
巨額の罰金
法律に基づき、Ofcomは最大で1,800万ポンド（約36億円）、または全世界売上高の10%のいずれか高い方を罰金として科すことができる。Xのようなグローバル企業にとって、売上高の10%という金額は経営に甚大なインパクトを与える懲罰的な規模となる。
ビジネス遮断措置（Business Disruption Measures）
さらに深刻なのが、「ビジネス遮断措置」と呼ばれる強制力の行使である。継続的なコンプライアンス違反があり、それが英国ユーザーに重大な危害を及ぼすと判断された場合、Ofcomは裁判所に対し以下の命令を申請できる。
決済プロバイダーへの命令: クレジットカード会社や決済代行業者に対し、Xとの取引停止を命じる。
広告主への命令: 広告配信の停止を命じる。
ISPへのアクセス遮断命令: インターネットサービスプロバイダーに対し、英国からのXへのアクセス自体を遮断するよう命じる。
これは事実上の「サービス停止命令」であり、Xの英国ビジネスを根底から破壊する「核オプション」と言える。すでにマレーシアやインドネシアなどの国々では、同様の理由によりXへのアクセス遮断措置が講じられており、英国がこれに続く可能性はゼロではない。
政治的圧力と法的ギャップの解消
今回のOfcomの動きは、単独の判断というよりも、英国政府および議会からの強い政治的圧力が背景にある。
テクノロジー大臣の強い非難
Liz Kendall科学イノベーション・技術大臣は、「Grokを使用して作成・共有されたコンテンツは非常に不穏であり、不快である」とし、Ofcomに対して迅速かつ断固たる措置を求めている。彼女は、女性や子供の性的画像を操作することは「卑劣で忌まわしい」と断じ、金銭を支払えば（有料ユーザーであれば）そのような機能が利用できる現状を強く批判した。
「共有」から「生成」への法的拡大
ここで注目すべきは、英国法の適用の難しさと進化である。これまでの「オンライン安全法」は、主に違法コンテンツの「共有」や「拡散」を防ぐことに主眼を置いていた。しかし、AIによる「生成」そのものをどう規制するかについては、法的なグレーゾーンが存在した。
これに対応するため、英政府は新たな動きを見せている。昨年可決された「データ（使用およびアクセス）法（Data (Use and Access) Act）」に基づき、同意のない親密な画像の「作成」そのものを犯罪とする条項が、今週から施行される予定だ。これにより、画像をX上に投稿（共有）せずとも、Grokを使って画像を生成した時点で刑事罰の対象となる可能性が出てきた。これは、「リベンジポルノ」の概念をAI時代に合わせて拡張する画期的な法的転換である。
テクノロジーと倫理の対立：XとElon Musk氏の主張
一方、X側も手をこまねいているわけではない。Ofcomからの指摘や各国の反応を受け、XはGrokの画像生成機能を制限する措置（有料のプレミアム会員限定にするなど）を講じている。
Elon Musk氏はこれまで、言論の自由を最大限尊重する立場から、過度な規制に対して批判的な姿勢を示してきた。実際、Musk氏は今回の騒動に対しても「検閲」であるとの主張を展開し、政府の反応を「ファシスト的」と非難している側面がある。X側の主張としては、「違法なコンテンツが報告されれば、現地の法律に従って直ちに削除している」というものであり、プラットフォーム自体を処罰することへの反発が見て取れる。
しかし、Kendall大臣は「有料であれば許されるというものではない」と一蹴しており、プラットフォームが提供するツール（Grok）そのものが違法行為を容易にしている点（Security by Designの欠如）を問題視している。
なぜ今、Grokが標的になったのか？
筆者は、今回のOfcomによる調査開始は、単なる一企業の不祥事追及を超えた、構造的な意味を持つと見たい。
1. 生成AIの「責任」の所在
これまでSNSプラットフォームは、ユーザーが投稿したコンテンツ（UGC）に対して一定の免責を持っていた（いわゆるセーフハーバー原則）。しかし、Grokの場合、コンテンツを生成しているのはプラットフォームが提供するAIである。ユーザーがプロンプトを入力したとはいえ、その出力結果（違法画像）を生成したのはX社のシステムだ。これにより、プラットフォームは単なる「掲示板」ではなく、「コンテンツ作成者」に近い責任を負うことになる。Ofcomの調査は、このパラダイムシフトを法的に確定させる試金石となるだろう。
2. 「事後対応」から「事前予防」への転換
Ofcomが問題視しているのは、個別の画像が削除されたかどうかよりも、「なぜそのような画像が生成可能な状態でリリースされたのか」という点だ。リスク評価の不備を指摘している点は、AI開発企業に対し、製品リリース前のレッドチーミング（脆弱性検証）やガードレールの設置を徹底するよう迫るものである。これは、「動きながら直す（Move fast and break things）」というシリコンバレー流の開発手法に対する、規制当局からの明確な「No」である。
3. グローバルな規制の連鎖
マレーシア、インドネシアに続く英国の調査開始は、EU（欧州連合）のデジタルサービス法（DSA）に基づく規制当局の動きとも連動している。EU委員会もすでにXに対し、Grok関連の文書保全を命じている。世界各国の規制当局が包囲網を敷く中で、Xはビジネスモデルの根本的な修正を迫られる可能性がある。
今後の展望とインサイト
Ofcomの調査プロセスは、証拠収集、暫定決定、それに対する企業側の反論、そして最終決定という手順を踏む。これには数ヶ月を要する可能性があるが、その結論はIT業界全体に波及するだろう。
検索・AI業界への影響
この調査結果次第では、GoogleやOpenAIなどの他のAI開発企業も、画像生成AIの安全対策（例えば、特定の人物の画像生成を拒否する機能や、児童ポルノ生成を防ぐハッシュマッチング技術の導入など）をさらに強化せざるを得なくなる。特に、日本を含む他の法域においても、同様の「生成責任」を問う議論が加速することは間違いない。
ユーザーにとっての意味
英国のユーザーにとって、これはオンライン空間がより安全になる一方で、一部のサービスへのアクセスが制限される可能性を示唆している。しかし、より広義には、私たちのプライバシーや尊厳が、AIによって容易に侵害されないための「デジタル人権」の確立に向けた重要な闘争であると言える。
「技術の進歩」と「人間の尊厳」のバランスをどこで取るか。Ofcomの調査は、その境界線を引くための、現代で最も重要な規制アクションの一つとして歴史に刻まれることになるだろう。
Sources
WACOCA: People, Life, Style.