どんなニュース？

中国でディープフェイクを悪用した詐欺や性的嫌がらせが「国民的規模」に達している。財経メディアの財新（Caixin）が2026年1月に発表した分析によると、生成AIユーザーが5億1500万人を超える中国では、AIによる偽動画・偽画像の悪用が急速に拡大。インターネット社会調査では、回答者の40%以上がディープフェイクに関連した嫌がらせを経験していると回答した。安価に作れて検知が難しいという特性が、詐欺師や性犯罪者に格好のツールを与えており、中国当局は有効な対策に苦慮している。

元記事・原文引用

元ネタ：Analysis: China Grapples With Its Own Epidemic of Deepfake Porn and Fraud（Caixin Global / 2026年1月16日）

“With short-video platforms like Douyin and Kuaishou becoming dumping grounds for illicit content, authorities are fighting a new wave of AI-driven crime that is cheap to produce and hard to detect.”

なぜ今、話題になっているの？

構造的な背景は3つある。

第一に、AIツールの民主化だ。中国最大のAIチャットbot「豆包（Doubao）」はByteDance製で週間アクティブユーザーが1億5500万人を突破。DeepSeekも8160万人が利用する。これらのツールは誰でも簡単にリアルな偽画像・偽動画を生成できる環境を作り出した。生成AIユーザー数は2024年12月から半年で2億6600万人増加しており、普及スピードが規制整備を大きく上回っている。

第二に、プラットフォームへの悪用集中だ。Douyinは2025年中に不正コンテンツ動画38万本を削除したと発表したが、削除よりも速いペースでアップロードが続く。特に短尺動画フォーマットは拡散速度が速く、フィルタリングが困難だ。香港の人気俳優ルイス・クーの顔と声を無断使用したオンラインギャンブル詐欺動画など、著名人を使った詐欺も横行している。

第三に、法規制の周回遅れだ。中国は2023年に「深度合成（Deep Synthesis）」規制を施行し、AI生成コンテンツへの透明性ラベル貼付を義務付けた。しかし悪用者は規制をすり抜けており、実効性に疑問が残る。一方で米国は2025年5月に「Take It Down Act」を成立させ、非同意のAI生成性的画像の公開に最大3年の禁固刑を設けた。法整備の速度において、中国は後手に回っている面もある。

日本への影響は？

日本も対岸の火事ではない。警察庁が2024年に公表したデータでは、国内でもAI生成ディープフェイクを悪用した詐欺事件の摘発が急増しており、被害は金融詐欺から性的ハラスメントまで多岐にわたる。中国発のAIツール（特にByteDance傘下のアプリ）は日本ユーザーも多数利用しており、中国国内で問題になっている悪用手法がそのまま日本に流入するリスクがある。

また構造的な類似点も見逃せない。日本では「CapCut」「Doubao」など中国製AIアプリの規制議論が進んでいないが、中国自身がその規制に手を焼いているという現実は、「国産アプリが国内法で管理できる」という前提の脆さを示している。日本における生成AIコンテンツの法整備は、この中国の失敗例を「反面教師」として学ぶ好機でもある。

さらに、40%以上が被害を経験という数字が示すのは、「ディープフェイク被害はセレブの問題ではなく、一般市民の日常問題になった」という転換点だ。日本でも同様のフェーズに入りつつある今、被害が顕在化する前に制度整備を急ぐ必要がある。

まとめ

5億人超のAIユーザーを抱える中国では、ディープフェイクを使った詐欺・性的悪用が「個人的被害」から「社会的病理」へと転化した。安価なAIツールの普及、短尺動画プラットフォームの拡散力、法規制の遅れという三重構造がこの問題を加速させている。中国政府は規制を強化しつつあるが、テクノロジーの進化に追いつけていないのが実態だ。日本にとってもこの問題は「今後の自画像」であり、中国の試行錯誤から学べる教訓は多い。