写真は必ずしも真実を明らかにするものではありません。あなたや私の周りで噂されている AI に注意してください |デジタルリテラシー

監査専門家：劉祥泉

北京情報科学技術大学 ロボット工学科 准教授、学科長

近年、ビッグデータや人工知能（AI）に代表される情報技術は日々変化しています。これらの技術の発展は私たちの仕事や生活にますます利便性をもたらしますが、同時に特定の悪影響ももたらします。 AIツールや合成技術を使って捏造された噂がインターネット上に徐々に現れ始めている。
AIの噂は、注目を集める話題や物議を醸す話題をターゲットにまとめられるだけでなく、現実に近い画像、音声、動画を生成することもできるため、「画像があれば真実がある」という従来の認識を覆し、人々が真実と虚偽を区別することが困難になっている。今日は、AIの噂の広がりについて学びましょう。 AI による噂作りとは、オンライン上の噂を作り出すために、人工知能技術を使用してテキスト、画像、音声、ビデオなどの虚偽の情報を生成することを指します。近年、AIによる噂の拡散によって悪影響が生じる事例が多発しています。

「広州市が食品の出前を制限」「河南省の信陽市中心体育館が倒壊」「甘粛省赤十字社がカイロ袋の管理費として160万元を徴収」…これらの「写真、動画、真実」を伴ういわゆる「ニュース」はインターネット上で広く流布され、多くのネットユーザーの注目を集めた。

写真はAIソフトウェアによって捏造された「西徳県地震」のネット上の噂である。

上記のケースはすべて AI ソフトウェアによって合成された虚偽の情報です。一部の犯罪者は、プラットフォームの報酬を獲得したり、トラフィックを集めたりするために、AIソフトウェアを使用して記事を自動生成し、実際の写真と組み合わせることで偽の写真やビデオを合成し、オンラインプラットフォームに投稿します。

このような行為は社会に悪影響を及ぼし、治安を著しく乱すことになります。警察は急いで噂を否定し、事実を明らかにしたが、噂は既に真実から大きく外れており、多くの人々がそれを信じ、関係者に大きな迷惑をかけた。

新華社通信の報道によると、最近終結した事件の文書には、犯罪者がAI技術を使い、話題のニュースやランダムなオンライン動画を素材として短期間で約1万本の偽の動画ニュースを制作したことが記されている。その中には複数の省を巻き込んだ20本以上の動画が公開され、再生回数は100万回を超えた。

噂が AI に偽装されると、噂と真実を区別することが難しくなります。噂を広める閾値とコストは大幅に削減され、噂の伝播の効率とそれがもたらす影響は飛躍的に増加します。

AIに関する噂は、緊急に管理する必要がある新たなインターネット問題となっている。コミュニケーションノードとして、噂を阻止するプロセスでは個人の力も非常に重要です。では、私たちは日常生活の中で、どのように目を光らせ、AI に関する噂を識別し、それに抵抗できるのでしょうか?

1つ

AIの噂を見分けるには？

0 1写真の細部を観察する

写真の色、光と影、鮮明さなどの詳細を注意深く観察し、実際の状況と一致しているかどうかを確認します。何か異常が見つかった場合は注意が必要です。

0 2情報源を確認する

インターネットで情報を見るときは、その情報源が信頼できるかどうかを確認してください。不明な情報源からの情報には注意してください。

0 3

テクノロジーの助けを借りて

写真やビデオなどが改ざんされていないかどうかを技術的な手段で検出します。たとえば、専門的な画像認識ソフトウェアやビデオ分析ツールなどを使用します。

二

AIの噂に抵抗するには？

予防の意識を高める

オンラインで情報を閲覧するときは、情報源に常に注意し、権威があり信頼できるメディアや機関を情報源として選択するように努めなければなりません。通常、オンラインニュース情報のロジックに注意を払う必要があります。ニュース情報に明らかな論理的抜け穴や矛盾が見つかった場合、その情報は改ざんまたは捏造されている可能性があります。

盲目的に行動しない

検証されていない情報を盲目的に信じて広めないように注意してください。ソーシャルメディアやインターネット上で疑わしい情報を見つけた場合は、まずそれを確認するか、公式ニュースが発表されるまで待ってから判断してください。群衆に従わず、一方的な意見だけに耳を傾けないでください。

ネットワークエコロジーを意識的に維持する

私たちは意識的に偽の情報から離れ、フェイクニュースの信奉者や推進者にならないようにすべきです。虚偽の情報が発見された場合は、通報ホットラインやインターネット通報センターなどのさまざまなチャネルを通じてタイムリーに通報し、共同でクリーンかつ健全なオンラインエコロジーを維持する必要があります。

機械がどれだけ進歩しても、人間の知能を超えることは難しく、AIが生成したコンテンツには必ず抜け穴がある。今後、インターネットを閲覧する際には、意識を高め、目を光らせ、積極的な行動を取り、AIに関する噂の拡散を防ぐための鉄壁を共同で構築する必要があります。