AIは偽の人間の声で無敵なのか？

2014年のある朝、ヴァル・キルマーは目を覚ますと周囲が血に覆われていることに気づいた。彼の体の唯一の異常は喉で、そこにしこりができ、飲み込むのが困難でした。

彼はすぐに喉頭がんと診断され、血を吐くようになった。治療のために気管切開手術を受けなければならなかった。この手術により喉に穴が開き、食事のためにチューブを挿入する必要が出てきます。それ以来、「呼吸するか、食べるか？」 2つの選択肢の中から選ぶ問題になりました。

『トップガン』におけるヴァル・キルマーとトム・クルーズのライバル関係 |出典: ルーパー

1995年版バットマンを演じたハリウッド俳優にとって、さらに深刻な結果は声を失ったことだった。今では、彼が話そうとすると、「キーキー音とうなり声」の中間のような音しか出ません。

昨年、キルマーさんは人工知能企業ソナンティック社と協力し、「話す能力」を取り戻すことを決意した。限られた録音で、研究チームは病気になる前のキルマーの声に非常によく似た声のクローンを作ることに成功し、将来的には彼に代わって話すことができるようになる。

人間の声をAIで合成する技術はすでにかなり成熟しています。 Resemble AI や Descript など、無料でテストできる主流のプラットフォームの中には、自分の声を複製するのに 25 文または 10 分間の録音のみが必要なものもあります。もちろん、トレーニングセットが長ければ長いほど、モデルは自分に似たものになります。最低限必要な要件は何ですか? 3.7秒で十分です。

キルマーのような患者を助けることに加え、音声クローンには、亡くなった親族や有名人など、老人を「蘇らせる」というもう一つの大きな用途がある。つい最近、音声合成会社 Play.ht が、スティーブ・ジョブズと有名なポッドキャスト司会者のジョー・ローガンとの会話を特集したポッドキャストエピソードをリリースしました。テキストと音声はすべて AI によって合成されました。

「偽物」はポッドキャストで会話したり笑ったりしますが、本物は最初から最後まで参加する必要はありません。これは侵害に該当しますか?特に亡くなった人たちの声の所有権は誰にあるのでしょうか?誰でも使えますか？

さらに難しい質問は、本物と偽物をどうやって見分けるかということです。

良い技術なのに詐欺に使われるんですか？

人間の声と AI の違いが確実にわかるとは言わないでください。

2019年3月、英国のエネルギー会社の従業員が上司から電話を受け、1時間以内にハンガリーのサプライヤーに22万ユーロを送金するよう求められた。電話の向こうの「上司」はわずかにドイツ訛りがあり、声は普段の上司とまったく同じだった。彼は何の疑いもなくすぐにそれを実行した。送金後、資金はすぐにメキシコに送金され、回収は困難でした。 2020年、香港の銀行支店長がクローン音声に騙され、詐欺師に3,500万ドルの送金を承認した。

これはますます一般的になりつつあります。 VMware が今年実施した調査によると、調査対象となった企業の 3 分の 2 が、過去 1 年間に受けた詐欺攻撃には音声またはビデオの偽造要素が含まれていたと回答しています。

アクセンチュア・セキュリティのマネージング・ディレクター、リサ・オコナー氏は、電話で聞き慣れた声を聞くと、ほとんどの人は「その声に実際に対処するための筋肉の記憶をまだ構築していない」と語る。

生理学的に言えば、人間の脳は偽の声に直面すると鈍くなります。

2019年にカリフォルニア大学リバーサイド校が行った研究では、本物のレンブラントの絵画と贋作のレンブラントの絵画を見た人の脳スキャンに明らかな違いが見つかった。しかし、モーガン・フリーマン、ロボットのフリーマン、そして物まねタレントが話すのを聞いたときには、同じことは当てはまりませんでした。