3か月で被害額300億円、深刻化する「ディープフェイク」詐欺の現状と課題

ディープフェイク詐欺、四半期で300億円に上る被害額

　テキスト生成、動画生成、音声生成など、生成AI技術の発展により、さまざまな分野で生産性改善などの恩恵が生まれている。一方、これらの技術を悪用したサイバーセキュリティ脅威も増大しており、対策が急務となっている。生成AIの文脈で特に懸念されているのがディープフェイク詐欺だ。

　Resemble AIの四半期レポートによると、2025年第1四半期だけで、ディープフェイク詐欺による被害額は世界全体で2億ドル（約290億円）を超えたことが明らかになった。地域別の被害発生率は北米が38％と最も高く、アジアが27％、欧州が21％と続く。被害件数は驚異的なペースで増加しており、北米では前年比1700％以上、欧州の一部地域ではこの3年間で2000％を超えたと報告されている。

　背景には、ディープフェイク技術の急速な進化がある。2025年時点で、わずか3～5秒の音声サンプルから85％の精度で声を複製できるまでに技術が向上。さらに68％のディープフェイク映像が本物との区別が困難なレベルに達している状況だ。

　被害の対象も広がりを見せている。これまでターゲットは、著名人や政治家に限定されてきたが、最近では一般市民や教育機関への攻撃も増加傾向にある。Resemble AIの分析によると、被害者の内訳は公人が41％、一般市民が34％、組織が18％、情報エコシステムへの攻撃が7％という。

　企業の危機感も高まっている。最新の業界調査では、46％の企業がディープフェイクなどの生成AIを利用した詐欺被害の増加を報告。米国では、60％の国民が誤解を招くAI生成の音声や映像を最も懸念するサイバー犯罪として挙げている。

　こうした状況を受け、企業向けのセキュリティ関連研修市場は急拡大の様相だ。現在約50億ドル規模の市場は、2027年までに100億ドルへと倍増する見込みで、これに伴い関連するサービスやテクノロジーへの投資も拡大すると予想されている。

ディープフェイク詐欺の手口

　最近のディープフェイク詐欺の特徴は、最新のAI技術と巧妙な心理操作を組み合わせた二段構えの攻撃手法にある。

　技術面では、わずか数秒の音声サンプルから対象者の声を複製できる生成AI技術を駆使。さらに、公開されている画像や動画から、リアルタイムのビデオ通話でも違和感のない「デジタル分身」を生成する技術が悪用されている。

　特に懸念されているのが、こうした高度な偽装技術の敷居が急速に下がっていることだ。DeepFaceLabやAvatarifyといったオープンソースツールや安価なAIサービスの普及により、かつては専門的な研究施設でしか利用できなかった技術が、誰でも利用可能になりつつある。サイバーセキュリティ研究者によると、違法なフォーラムでは、本人確認をすり抜けるためのディープフェイクプログラムの使用方法が頻繁に議論されているという。

　しかし攻撃者が成功を収めている最大の理由は、巧妙な心理操作にあると言われている。典型的な手口では、まず攻撃者が経営幹部を装い、機密性の高い議論を持ちかける。その際、緊急性や秘密性を強調することで、被害者の警戒心を解くのが特徴だ。たとえば、フェラーリを狙った詐欺事件では、攻撃者はCEOを装ってWhatsAppで幹部社員に接触。秘密裏の企業買収について、規制当局にも既に報告済みと偽り、信頼性を高める工作を行った。

　さらに攻撃者は、偽装を重層的に展開する。香港で発生した詐欺事件では、Zoomミーティングに複数のディープフェイク参加者を登場させ、CFOや同僚らが秘密プロジェクトに合意している様子が演出された。集団による偽装で被害者の疑念を払拭し、不正な指示を正当化することに成功している。

　また、メールへの返信がない場合、別の同僚を装った電話やメッセージで追撃するなど、複数のコミュニケーションチャネルを巧みに使い分ける点も最近の手口の特徴となっている。

【次ページ】シンガポールで起きた7,200万円規模のディープフェイク詐欺事件