AI 詐欺は間近に迫っていますが、どうすれば防ぐことができるでしょうか?

いかなる技術も諸刃の剣です。人工知能（AI）は私たちにどのような害をもたらすのでしょうか？

現在、科学者、起業家、メディアなど、私たちの周りの人々は、労働者が仕事を失う可能性、人間の思考を超えたり置き換えたりすること、さらには人間が文明の制御を失うことなど、AIの長期的な危険性について議論しています。

しかし、AIが私たちにもたらす危害は差し迫っています。さらに、ほとんどの人は、実際に体験して初めて、自分も被害者であることに気づきます。

最近、「会社の上司がAIによる顔を変える詐欺に遭い、10分で430万元をだまし取られた」というニュースが、大手ニュースサイトで一時話題になった。被害者によると、詐欺師はAIによる顔や声を変える技術を使って友人のふりをし、詐欺行為に及んだという。 「当時はビデオ通話で連絡があり、ビデオで顔と声を確認したので油断してしまいました」

この事件により「AI顔変え」詐欺に対する認識が高まったが、実際には「AI顔変え」の事例はもっと多くある。人気タレントが生放送で商品を販売したり、わいせつな動画に顔を出したりするのは、AI技術を駆使した犯罪者が仕掛けた詐欺行為なのかもしれません。

さらに、犯罪者はAI技術を使用して他人のWeChatアカウントを盗んだ後に音声ファイルを抽出し、WeChatの音声メッセージを転送して詐欺を働くこともあります。

問題は、AI技術がもたらす利便性を享受する一方で、「AI顔変え」のような新しいタイプの詐欺にどう対処すべきか、ということです。

昨年12月、中国サイバースペース管理局、工業情報化部、公安部は共同で「インターネット情報サービスのディープシンセシス管理規則」を発行し、ディープシンセシスサービスプロバイダーは自社のサービスを利用して生成または編集された情報コンテンツの利用に影響を与えないマークを追加する必要があると言及した。インテリジェントな対話、合成音声、顔生成、没入型シミュレーションシーンなど、情報コンテンツの機能を生成または大幅に変更するサービスは、一般の人々の混乱や誤解を避けるために明確にマークする必要があります。

今月初め、ショート動画プラットフォームも「AI生成コンテンツに関するプラットフォーム仕様と業界イニシアチブ」を発表し、生成AI技術を利用して肖像権や知的財産権などを含むがこれらに限定されない権利を侵害するコンテンツを作成・公開することを明確に禁止した。発見されれば、プラットフォームは厳しい罰則を科すことになる。

上記の顔交換ライブ放送は、関係する有名アーティストの肖像権を侵害している疑いがある。グッズ付きライブ配信などの営利行為を伴う場合は、情状酌量の余地ありとなります。なお、営利目的ではなく娯楽目的であっても、肖像権者の同意を得ていない限り、顔を変えるライブ配信は著作権侵害となることに留意する必要がある。

では、個人レベルでは、「AI 顔変更」などの新しい詐欺にどう警戒すればよいのでしょうか?

5月24日、中国インターネット協会は「AI技術を利用した新たな詐欺に直面して、一般市民は警戒し、予防策を講じる必要がある！」と警告を発した。具体的には、個人情報のセキュリティについては、私たちが第一の責任者となり、遠隔で送金する際には必ず複数の検証を行い、 「ウォレット」を注意深く監視する必要があります。

業界に関して、The Paperの特別コメンテーターである熊志氏は、情報保護のレッドラインを明確にし、テクノロジーサービスプロバイダーの行動に関する規範的ガイダンスを強化するために、できるだけ早く規制を確立する必要があると考えています。 AIによる顔変換、AIによる音声吹き替えなどが証拠に基づいており、あらゆるリンクで厳密に認可され、詐欺の困難性が高まって初めて、私たちはすべての人の情報と財産の安全をよりよく保護することができます。

最後に、AI による顔の改変、AI による音声の吹き替えなどの詐欺に遭っている、または遭ったと感じている場合は、 「AI マジック」を打ち負かすための「法則」の使い方を学ばなければなりません。もちろん、それに対処する最善の方法は、それを信じないことを選択することです。