複数人でのビデオ会議に参加する場合、実際に参加しているのはあなただけです。 AI詐欺を防ぐには？

監査専門家：劉祥泉

北京情報科学技術大学ロボット工学科長

AIによる顔の変形

百聞は一見に如かず！ AI によって偽物が本物に見える時代において、真正性をどのように確保すればよいのでしょうか?

最近、香港警察はAIによる「複数人の顔を変える」詐欺事件を公表したが、被害額は2億香港ドルに上った。

被害者は多国籍企業の香港支社の従業員だった。彼は本社の最高財務責任者が主催した「複数人ビデオ会議」に参加するよう招かれ、要求通り香港ドル2億元を5つの現地銀行口座に分割払いで送金した。

ソース | CCTV.com

その後、社員が本社に確認したところ、騙されていたことが判明した。

警察の捜査の結果、そのビデオ会議では、従業員のうち1人だけが実在の人物であり、他の参加者は全員、AI顔変換技術を使った詐欺師によって偽造されたものだったことが判明しました。

詐欺師らは同社のユーチューブ動画や公開されているメディア資料を盗み、同社の幹部の外見や声を巧みに模倣したとみられる。その後、ディープフェイク技術を使用して偽のビデオを作成し、被害者を騙して複数人でのビデオ会議に参加し、他の実際の人々と通信していると信じ込ませました。

ディープフェイク技術とは何ですか?

ディープフェイクはディープラーニングとフェイクを組み合わせた名詞です。

もともと、ビデオや写真を調整するこの種の人工知能技術は、単なる興味深い新しいブレークスルーでした。ある人物の表情、会話内容、動きを他の人の写真やビデオに合成し、非常にリアルに見せることができます。

ソース | CCTV.com

この技術は便利で低コスト、そして現実的であるため、芸術、社会交流、医療の分野に多くの新たな機会をもたらしました。

しかし、この技術により偽の動画の作成が容易になるため、一部の犯罪者がこれを悪用して人々を騙したり、偽の情報を流布したり、社会的対立を引き起こしたりする可能性があり、私たちの安全にとって大きなリスクとなります。

AIの登場により、「写真は真実の証拠である」や「百聞は一見に如かず」という法則は覆された。

AI 詐欺は一般的にどのようなものですか?

日常生活において、親戚や友人からオンラインでお金の貸し借りを求められた場合、用心深い人は通常、相手と音声通話またはビデオ通話を行い、お金を送金する前に相手の身元を確認することを選択します。

しかし、電話に出た「親戚や友人」も、AI を使った詐欺師によって偽造されていたらどうなるでしょうか?

ソース |新華社通信

AI テクノロジーを利用した詐欺には通常、次の手順が含まれます。

1. ターゲットのソーシャル メディア アカウントを盗み、潜在的な被害者を探す。

2. AIロボットを使って嫌がらせ電話をかけ、対象者（対象者の親族や友人に変更）の音声データを収集し、音声を偽造する。

3. さまざまなチャネルを通じてターゲットの親戚や友人の写真、ビデオ、その他の情報を収集し、AIによる顔変換を通じてターゲットの親戚や友人に変装します。

4. AI 顔変換技術を使用して被害者とビデオ通話を行い、信頼を得て詐欺を働く。

これら 3 つのステップを踏むと、従来の「音声を送信する」または「ビデオ通話を行う」という詐欺防止方法は、AI 詐欺に対しては効果を発揮しなくなります。

ソース |論文

さらに心配なのは、AI技術を駆使した詐欺師の数が増加していることです。公開情報によると、2021年以降、多くの省でAIを詐欺や不正な利益追求に利用する事例が発生している。中国インターネット協会も、「AI変顔」や「AI変声」などの技術を使った詐欺や名誉毀損などの違法行為が多発していると指摘した。

AI偽造品を早期に見分けるコツを学ぶ

本物らしく見えるこのような詐欺行為をどうしたら防ぐことができるのでしょうか?

1. 被験者に顔の前で手を振ってもらったり、鼻をつまんだり、頬を押してもらったりしてもらいます。

ビデオ通話中に手を振ると顔データが干渉し、偽の顔が震えたり、点滅したり、その他の異常な状態になるので、相手に顔の前で手を振ってもらって識別してもらうことができます。

さらに、相手に鼻や顔を押してもらい、顔の特徴の変化を観察してもらうこともできます。実際の人間の鼻は押すと変形しますが、AI が生成した鼻は変形しません。

しかし、AIのトレーニングが成熟するにつれて、鼻をつまむことはもはや最も安全な識別方法ではなくなりました。

ソース | CCTV.com

2. 相手だけが知っている質問をする

外見は偽造できますが、個人的な記憶や経験は再現できません。

そのため、ビデオ通話中に、自宅住所、誕生日、ペットの名前などの個人情報など、相手だけが知っている質問をすることができます。相手が答えるのを躊躇したり、正確に答えることができない場合、それは詐欺である可能性が高いです。

出典｜文心易格（AIが描いた絵）

「ニュース、画像、音声、動画など、あらゆるものが偽造できる世界では、何もかもが本物ではない」と、カリフォルニア大学バークレー校情報学部の副学部長ファリド氏は語った。

AI によって偽物が本物に見える時代が到来し、真正性を確保するという課題はこれまで以上に困難になっているようです。

しかし、私たちはこの技術革命に対して無力ではありません。私たちは、テクノロジーリテラシー、グローバルな協力、公教育を通じて、課題に立ち向かい、情報の信憑性と信頼性を維持できると確信しています。