第449回 2026年度「生成AIの悪用」と犯罪手口

【ディープフェイクが悪用される背景】
生成AIは、文章や画像、音声などを生成できる便利な技術ですが、犯罪などへの悪用も問題となっています。なかでも深刻なのが、人物の顔や声を本物そっくりに偽装する「ディープフェイク」です。
近年は生成AIの高度化により、実際に会話をしていても偽物だと気づきにくくなってきています。

【ディープフェイクを悪用する詐欺の手口】
・「警官」を装い不安をあおる詐欺
ビデオ通話で警察官の顔や警察手帳を偽るケースが確認されています。
偽警察官が「犯罪に関与している可能性がある」など不安をあおり、金銭をだまし取ります。

・著名人を悪用したSNS投資詐欺
有名人の画像や動画を生成AIで加工して偽の投資の勧誘広告を作成。
実在しない投資グループへ誘い込む手口があります。

・プロフィール偽装による国際ロマンス詐欺
生成AIで作成した魅力的な外見や経歴。
「実在しない人物」になりすまし、恋愛感情を抱かせて金銭をだまし取る詐欺があります。

【ディープフェイクにだまされないための対策】
これからは「顔が見えるから大丈夫」という常識が通用しません。
少しでも違和感があれば一度やりとりをストップし、公式サイトなどで確認することが大切です。
特に金銭の要求があった場合は注意が必要です。

詐欺のほかにも、生成AIを悪用した「性的ディープフェイク」が深刻化しています。
芸能人や著名人にかかわらず、一般の人も被害にあうケースがあとを絶ちません。
自分や友人の写真をSNSに投稿する際は、公開範囲を限定するなど、個人の画像が悪用されるリスクを考えて慎重に検討しましょう。

【音声クローンが悪用される背景】
生成AIが声を生成する「音声クローン」。
音声クローンを悪用した詐欺が確認されています。
短い音声データからでも声の特徴を学習し、本人のような音声を生成することが可能です。
無言電話をかけ、ある程度短い音声を録音・収集し、その後のなりすましに悪用するケースがあります。

【音声クローンを悪用する詐欺の手口】
・家族や知人の声で偽り金銭を要求
本人の声を再現して「事故にあった」「緊急でお金が必要」と電話をかけ、家族の不安をあおって送金を求める手口があります。

・上司になりすました送金指示
企業幹部の声を模倣し、社内担当者に緊急と称した振り込みを指示する手口があります。

【悪用された音声クローンにだまされないための対策】
たとえ知っている相手でも、急に金銭や個人情報を求める連絡があった場合は、「おかしい」と疑うことが大切です。
いったん電話を切り、信頼できる別の連絡手段で本人に直接確認しましょう。

【フィッシング詐欺が巧妙化する背景】
生成AIはフィッシング詐欺にも悪用されています。
これまでは「日本語が不自然だから怪しい」と気づけるケースもありました。
しかし今では、生成AIによってつくられたメールやサイトの真偽を判断するのは非常に難しいものです。
悪意によってつくられたフィッシングメールや偽サイトを使った詐欺が横行しています。

【フィッシング詐欺の手口】
・金融機関やカード会社を装うメール
生成AIによって、日本語に不自然さがなくなってきています。
企業の公式メールを偽装し、サイトへ誘導しクレジットカード情報や個人情報を入力させる手口があります。

・配送業者を名乗る不在通知
再配達手続きを装い、本物と見分けがつかない文面で個人情報の入力や不正なアプリのインストールを促すものです。

・公的機関を装ったサイトへの誘導
税金未納や手続き不備などを理由に偽サイトへ誘導し、個人情報や決済情報を入力させる手口があります。

【フィッシング詐欺にだまされないための対策】
メールやSMSに記載されたリンクは安易に開かず、ログインが必要な場合は公式サイトや公式アプリからアクセスするようにしましょう。

通信が暗号化されていることを示す鍵マークが表示されていても、安全とは限りません。
URLやサイトの内容に違和感がないかを確認することが大切です。