📊 3行サマリー

  • EUは5月7日に性的ディープフェイクを生成するAIの禁止で合意。違反企業は2026年12月2日から責任を問われる。1月のGrok騒動が直接の引き金。
  • 3月26日に欧州議会本会議が先行採択した「ヌーディファイアアプリ全面禁止」案を、理事会が完全受諾。共同報告者のArba Kokalari議員は「Grokがやったことは欧州では禁止」と明言。
  • 日本のXユーザーもGrokは利用可能だが、日本のAI関連法に同等の禁止規定はない。EUが先行する12月2日の施行が、日本の制度議論の参照点になる。

📝 EU、性的ディープフェイクAIを12月2日から全面禁止——AI法改正で合意成立

欧州連合（EU）の欧州議会と理事会は5月7日早朝、AI法（AI Act）改正案で暫定合意した。最大の変更点は、本人の同意なく性的画像や映像を生成する「ヌーディファイアアプリ（裸化AI）」の全面禁止。2026年12月2日から施行される。違反時の責任はアプリを市場に投入した企業だけでなく、十分な防止策を講じなかった事業者にも及ぶ。今回の合意は本会議と閣僚理事会の正式採択がまだ残っているが、両者は8月2日までに手続きを終える方針を表明済み。

📰 Eunews報道：「Grokがやったことは、欧州では禁止と明言する」

元ネタ：AI Act: Parliament and Council reach agreement to amend rules on artificial intelligence（Eunews / 2026年5月7日）

“we all know what Grok and X did a few months ago, and we want to send the message that all of this is banned in Europe.”（共同報告者のArba Kokalari議員、記者会見にて）

記事はスウェーデンのArba Kokalari議員（EPP）と、共同報告者を務めるアイルランドのMichael McNamara議員の発言を紹介。法案条文には禁止対象アプリのリストが付かないかわりに、「身体のどの部位を性的とみなすか」を前文（preamble）で示したとMcNamara議員は語っている。

🔥 Grokの「裸化機能」が引き金、3月26日ストラスブール本会議で先行採択

規制論議に火をつけたのは、1月にX（旧Twitter）の生成AI「Grok」が、ユーザーの指示で実在女性の画像を「ビキニ姿に変える」「服を脱がせる」といった応答を返したケース。研究者の分析では、生成された画像の一部に未成年が含まれていたとされる。

欧州議会は3月26日のストラスブール本会議でヌーディファイアアプリの全面禁止案を採択。1ヶ月以上の閣僚理事会との交渉を経て、5月7日早朝の合意で完全に取り込まれた。スペインは2月にX・Meta・TikTokを児童性的虐待コンテンツ生成の疑いで検察捜査の対象とし、フランス検察はXのパリ事務所を家宅捜索、英国もデータ保護当局・メディア規制当局がそれぞれ調査を開始している。

🇪🇺 ドイツ vs 議会、機械セクターのみ免除で決着——12セクター免除案は不発

もう一つの争点は「二重規制」の整理だった。医療機器・玩具・船舶・機械の各分野はAI関連の独自規制を持っており、AI法と二重に縛られる構造だった。ドイツと欧州議会の中道右派は4分野ともAI法から除外する案を提示したが、中道左派と複数加盟国は安全保障の後退を理由に反発。最終的に「機械規則のみAI法の適用除外」とする折衷案で決着した。Kokalari議員は「議会は12セクターの除外を求めたが、理事会と合意できたのは機械分野だけ。加盟国の野心が我々と一致しなかったのは残念だ」と述べている。

合意では高リスクAIの規制適用も延期される。当初は2026年8月2日施行だったが、生体認証・重要インフラ・教育・国境管理など個別列挙された分野は2027年12月2日まで、製品の「セキュリティ部品」として組み込まれるAIは2028年8月2日まで猶予される。透かし（watermarking）義務の発効も先送りに。

🇯🇵 日本のXユーザーもGrok使用、AI規制議論への波及条件

日本のXユーザーは現在もGrokを使え、xAIの最新モデルにアクセスできる。日本のAI関連法は2024年5月に成立した基本法的枠組みが中心で、性的ディープフェイクを直接禁止する規定は持たない。被害者は肖像権・名誉毀損・著作権の従来枠組みで対応する形が続いている。

業界の論点は、EU施行が日本のAI事業者にどう波及するかだ。EU市場で展開するサービスは2026年12月2日までにヌーディファイアアプリを排除する設計に切り替える必要があり、グローバルに同一プラットフォームを運営するX・Meta・TikTokは「EU仕様と日本仕様の二本立て」が現実的に難しい。結果として、EU水準のフィルタリングを日本でも採用する事業者が増える流れになる。日本の制度議論にとっても、12月2日の施行は外せない参照点になる。

🏁 8月2日までの正式採択が次の節目、執行細則の遅延が最大リスク

今回の合意は暫定段階で、欧州議会本会議と理事会の正式採択が完了して初めて発効する。両者は8月2日までに手続きを終える方針。一方、Kokalari議員自身が「どのAIシステムが高リスクと判定されるか、欧州委員会のガイドライン公表を皆が待っている」と認めたように、執行細則の公表が遅れれば現場の混乱は避けられない。Grokの「裸化機能」が引き金になったとはいえ、定義の精緻化と運用基準の整備が、12月2日施行までの最大の論点として残っている。