トレンドマイクロ株式会社は5月7日、言語ベースの脅威「Language Threat」についての解説記事を発表した。
テキストや音声、ビデオを使用したオンライン詐欺などの不正行為を、同社では「Language Threat（言語ベースの脅威）」と呼び、対策を強化していくべき脅威と捉えている。Language Threatは人間の感情や認知を操作することで詐欺や不正行為を行う点が特徴で、個人の脅威にとどまらず、法人組織でも多額の資金を窃取される例が相次いでいる。解説記事では、法人組織を中心にLanguage Threatの動向と対策を見ている。
2024年秋以降、実在の地方銀行を名乗る「ボイスフィッシング」の事例が相次いでおり、山形銀行、高松信用金庫、筑波銀行、武蔵野銀行、阿波銀行、琉球銀行の名前が騙られ、特に山形銀行の事例では、犯罪者に法人口座のアカウント情報を窃取された山形鉄道が、会社資金の約1億800万円を不正に送金されている。
以前のフィッシングメールは、非ネイティブスピーカーが作成したと推測される不自然な文面などから比較的容易に判別できたが、生成AIを悪用すれば犯罪者自身が操ることのできない言語でも自然な文面が作成でき、音声についてもいわゆるディープフェイク・ボイスを悪用した犯罪の可能性が考えられるとしている。
ディープフェイク・ボイスの悪用目的として、犯罪者が標的の子どもなどの音声サンプルをSNSなどから取得し、映画の台本などのスクリプトを元に子どもが実際に泣き叫んでいるかのようなディープフェイク・ボイスを生成し、家族に聞かせることで実際に誘拐が行われているものと信じ込ませ、多額の身代金を要求する、「バーチャル誘拐」を紹介している。
また、ディープフェイク動画の事例として、2021年2月の「官房長官記者会見の中継映像」、2022年3月の「ゼレンスキー大統領の偽動画」、2022年9月の「台風15号による水害被害」、2023年7月の「ペンタゴン爆発画像」、2023年11月の「総理大臣の偽動画」を取り上げている。
