概要
AI（人工知能）を悪用して家族や知人の声、顔を再現し、金銭をだまし取る詐欺が問題となっている。
米連邦取引委員会（FTC）は、短い音声データから本人によく似た声を生成する「ボイスクローン」を使った詐欺について、2023年から注意を呼びかけている。
従来の特殊詐欺では、電話の声や本人の顔を確認することが対策の一つとされてきた。しかし、AI技術の発達によって、声や映像だけでは本人と判断できないケースが実際に発生している。
米国では娘の声を使った偽装誘拐事件
2023年4月、米アリゾナ州で、母親のジェニファー・デステファノさんが娘の誘拐を装った詐欺電話を受けた。
電話口から聞こえたのは、当時15歳だった娘によく似た声。泣きながら助けを求める声に続き、男が身代金を要求した。
しかし、実際には娘は誘拐されておらず、安全が確認された。
母親はAIで娘の声が再現されたと考えており、この事件はCNNなどが報道。米議会でもAIを悪用した犯罪への対策が議論された。
ただし、犯人がどのように娘の音声を入手したのか、実際に使用した技術の詳細までは確認されていない。
中国では友人の顔を偽装、約430万元を詐取
2023年には、中国・内モンゴル自治区の包頭市で、AIによる顔のすり替え技術を悪用した詐欺事件が報じられた。
被害者の男性は、知人を名乗る人物からビデオ通話を受け、資金の一時的な貸し付けを依頼された。
画面には知人の顔が映り、声も本人に似ていたため、男性は約430万元を送金した。
ところが、その後、本物の知人に確認すると、金銭を借りた事実はなかった。
地元警察によると、犯人はAIによる顔のすり替え技術を利用していたとされる。
香港では偽のビデオ会議で約2億香港ドルの被害
2024年1月には、香港の企業でさらに大規模な事件が発生した。
英国に本社を置くエンジニアリング企業Arupの香港拠点で、従業員が最高財務責任者（CFO）らを装った人物とのビデオ会議に参加。
会議に登場した上司や同僚の映像・音声は、ディープフェイク技術を利用した偽物だった。
従業員は送金指示を信用し、計15回にわたり約2億香港ドルを指定口座へ送金した。
香港警察の調査では、犯人がインターネット上で公開されていた映像や音声を利用し、偽の会議映像を作成したとみられている。
この事件では、リアルタイムで人物を生成したのではなく、事前に作成された偽映像が使われたと警察が説明している。
数秒の音声から声を再現する技術
米FTCは、短い音声データとAIの音声生成技術を組み合わせることで、本人によく似た声を作り出せると説明している。
音声はSNSの動画やインターネット上に公開された録音などから入手される可能性がある。
一方、SNSで拡散されている「無言電話で『もしもし』と話させ、その数秒を録音して顔まで再現する」という具体的な手順については、今回確認した公的資料からは一連の犯行として裏付けられていない。
また、数秒の録音だけで誰の声でも完全に再現できるというわけではなく、生成される音声の精度は素材や技術によって異なる。
声や顔だけで判断しないことが重要
FTCは、家族を名乗る人物から緊急の送金依頼があった場合、いったん電話を切り、普段から知っている電話番号にかけ直して本人確認を行うよう呼びかけている。
本人につながらなければ、別の家族や知人に連絡して状況を確認することも有効だ。
AIを悪用した詐欺は、これまでの特殊詐欺に音声や映像の偽造技術が加わったものといえる。
声が似ていることや、画面に知人の顔が映っていることだけを根拠に信用せず、別の連絡手段で事実を確かめることが重要になっている。
編集部［26/10/12］
Xより
引用元：https://x.com/blackright0/status/2109121558841340382?s=20
過去記事：https://consumer.ftc.gov/consumer-alerts/2023/03/scammers-use-ai-enhance-their-family-emergency-schemes
https://raidxai.com/blog/baotou-face-swap-video-call-fraud
最新の記事
- 【注意喚起】声も顔もAIで偽造、本人になりすます新手の詐欺が現実に 米FTCも警告［26/10］
- 【話題】米本人確認サービスに不正アクセス、運転免許証など1億5300万件超のデータが闇サイトで販売か［26/10］
- 【物流業界で外国人運転手の採用拡大】26/10
- 【京都】鎌倉時代の仏像の胎内から巻物を発見！中には計95枚の紙や文書、修復中の十一面観世音菩薩から［26/10］
- 【話題】8人家族のマクドナルド代は4,790円！6児の親が高市総理に「年収だけで生活の余裕を判断しないで」年少扶養控除の復活を訴え［26/10］
コメント