ディープフェイク被害が前年比600%増——サウジアラビアで何が起きているのか

2024年、サウジアラビアのディープフェイク件数は前年比600%増を記録した。この数字は単なる被害統計ではない。「AI技術の民主化」「中東の地政学的緊張」「ソーシャルメディアの高速拡散」という3つの力が交差した地点に、サウジアラビアが立たされていることを示している。被害の形は多様だ。政府高官になりすましたフィッシング詐欺、2026年のイラン関連紛争に乗じた偽の戦闘映像、リヤドの米国大使館が「炎上」しているとされた虚偽動画——いずれもスマートフォン1台で作れる時代に突入した。世界全体で2024年のディープフェイク詐欺による損失は250億ドルを超え、2027年には400億ドルへの拡大が予測されている。サウジアラビアはその最前線に立たされた国のひとつだ。

元記事・原文引用

元ネタ：Wa’ed Ventures extends backing of AI deepfake detection leader Resemble AI in Saudi Arabia（Biz Today / 2026年3月16日）

“Deepfake incidents in Saudi Arabia alone increased 600% last year, with global deepfake-related scams causing more than $25 billion in losses in 2024.”

被害急増の構造——AI普及・中東紛争・国家資本の三つが重なった

サウジアラビアが標的になりやすい理由は構造的だ。要因は三層に分けて理解できる。まず技術層：生成AIの普及でディープフェイク動画の制作コストはほぼゼロになった。スマートフォン1台で「VIPの贋動画」が作れる環境が、被害件数を押し上げる土台になっている。次に地政学層：2026年に激化したイラン関連の中東紛争で、サウジアラビアは偽情報の舞台に選ばれた。リヤドへの攻撃を主張する複数の動画が拡散したが、実際には無関係な映像だったことが後から検証されている。フォロワーを増やすため「センセーショナルな中東コンテンツ」を量産する匿名アカウントも存在する。そして拡散構造層：誤情報は正確な情報より最大10倍速くソーシャルメディアで広がるとされる。訂正記事が同等の拡散力を持つことはほぼない。この三層が重なった結果が、600%増という数字に現れている。

Wa’ed VenturesがResemble AIに追加投資——国家資本が「検知側」に賭けた理由

2026年3月、サウジアラムコ傘下の5億ドル規模ベンチャーキャピタル「Wa’ed Ventures」が、米カリフォルニア拠点のAI企業Resemble AIへの追加支援を発表した。Resemble AIは2024年12月にGoogleのAI将来基金・ソニーイノベーションファンド等から1,300万ドルを調達済みで、技術の核心はリアルタイムのマルチモーダルディープフェイク検出だ。注目すべきはオンプレミス対応の設計で、政府・防衛機関が機密データを外部サーバーへ送信せずに解析できる点にある。これはサウジアラビアを含む中東各国の「データ主権」要件を直接満たす。石油マネーで国家が「検知産業」を育てるこの構図は単純な民間投資ではない。偽情報戦争における地政学的ポジションの確保だ。法整備でも動きは速い。サウジデータ・AI機関（SDAIA）が2023年に「AI原則と倫理的管理」を発布し、反サイバー犯罪法はディープフェイクを使った偽情報拡散を最大5年の懲役・300万サウジリヤルの罰金で処罰できると規定している。

日本はサウジの規制モデルから何を学べるか——先行する法整備の功と罪

日本でも2024年以降、政治家・著名人のディープフェイク映像による投資詐欺広告が相次いでいる。現行法では即座な対処が難しく、総務省や消費者庁が規制の枠組みを検討している段階だ。サウジアラビアの先行事例は三点で日本に示唆を与える。第一に、反サイバー犯罪法への「ディープフェイク条項」の明文化——罰則を具体化することで抑止力を持たせる手法。第二に、同機関（SDAIA）のような政府横断AIガバナンス機関と、国家VCを通じた検知技術産業への投資を組み合わせたモデル。第三に、メディア規制当局とAI機関が連携して「早期発見・早期削除」体制を構築する仕組みだ。ただしサウジモデルには本質的な危うさもある。「公共の平和を脅かす偽情報」の定義が曖昧なまま運用されれば、政府批判の報道や反体制言論が「フェイク認定」される道具になりかねない。偽情報を排除しながら言論の自由を守れるか——この問いはどの国も解けていない。

「被害者」から「設計者」へ——偽情報対策覇権の構造的問い

サウジアラビアは今、ディープフェイク被害の最前線から、対策モデルの発信国へ転換しようとしている。国家資本による検知AI育成、罰則を明確化した法整備、データ主権を守る技術基盤——この3つが揃えば「グローバル標準」を提案できる立場になる。その意図はサウジ・ビジョン2030が掲げる「石油後の経済多様化」とも整合する。AIガバナンス大国として国際的地位を確立することは、新たな外交資産になりうる。だが問うべきことがある。偽情報対策の道具が反体制言論の締め付けに転用された国は歴史上いくつもあった。産油国が「偽情報覇権」を握ることは、中立的な「世界の公共財」を生むのか、それとも新たな情報権力を生むのか——サウジアラビアの選択は、日本を含む各国の規制設計にとって試金石となる。

参照・原文リンク