人工知能は迫りくる悪魔だ

何十年もの間、未来学者たちはコンピューターが人間の知能を獲得するのではないかと懸念してきた。 『2001年宇宙の旅』から『ターミネーター』、そして『マトリックス』に至るまで、次々と映画が、知能機械が人類に大混乱をもたらすというテーマを繰り返し描いてきました。

今では、真面目な思想家でさえ、人工知能に関する警鐘を鳴らし始めています。ロボットと自動化がすでに社会的、経済的に大きな混乱を引き起こしているのです。

2週間前、物理学者のスティーブン・ホーキング博士はBBCにこう語った。「完全な人工知能の開発は人類の終焉を意味するかもしれない。」

「それは自ら成長し、加速度的にリセットされるだろう」とホーキング博士は警告した。 「人間は、生物の進化の遅いペースに制限されているため、それに対抗することはできず、最終的には取って代わられるだろう。」

PayPalの共同設立者であり、現在はテスラモーターズ（TSLA）とスペースXのCEOを務める敏腕起業家イーロン・マスク氏も、AIを「人類の存在に対する最大の脅威」と呼んでいる。

「人工知能を開発することで、我々は実際に悪魔を召喚しているのだ」とマスク氏は語った。

さらに、オックスフォード大学の研究者2人は、コンピュータ化によって米国の全雇用のほぼ半分が脅かされ、一部のクリエイティブな専門職もその影響を受けないと推定した。

「微妙な判断を必要とする仕事もコンピューター化が進んでいる」とカー​​ル・ベネディクト・フレイとマイケル・A・オズボーンは書いている。 「これらのタスクの多くでは、アルゴリズムに基づく偏りのない判断が人間の判断よりも有利になる可能性があります。」

投資レビューも？これによって私たちが失業しないことを願っています。

つまり、機械は本当に世界を支配し始めているのでしょうか?私は人工知能研究の業界をリードする数人の専門家にインタビューしましたが、得られた答えに多少は安心しましたが、完全に安心したわけではありませんでした。人工知能は発展していますが、いくつかの技術的な障害がその進歩を遅らせ、機械知能がすぐに大きな飛躍を遂げることを妨げる可能性があります。

しかし、やがて、インテリジェントマシンは必然的に、ますます複雑な暗算を実行できるようになり、人間の脳の非常に複雑な動作を完全に再現することさえできるようになるでしょう。

IBM の専門家は、人間の脳は 1 秒間に 368 兆回の計算を実行できると推定しています。世界中のスーパーコンピュータの計算能力を合計すると人間の脳の 8 倍に相当し、中国広州にある世界最大のスーパーコンピュータの計算能力は人間の脳とほぼ同等です。

ホーキング博士が指摘したように、計算能力の急激な成長は、集積回路上のトランジスタの数が 18 か月ごとに 2 倍になるというムーアの法則によるものです。

2007 年、イェール大学の経済学者ウィリアム・D・ノードハウスは、コンピューターの計算能力は手作業の計算より 1.7 兆倍から 7.6 兆倍優れていると推定しました。

「コンピューターは複雑さと計算能力の点で人間の脳に近づいている」とノードハウス氏は書いている。 「おそらく、コンピューターは究極的には究極のアウトソーシングとなるでしょう。」

ジョージ・ワシントン大学の工学名誉教授ピーター・ボック氏は、40年にわたって人工知能を研究してきた。同氏は、人工知能の発展の軌跡はムーアの法則と非常に一致していると述べた。

1993年、ポルクは『人工認知の出現』という本を出版し、その中で人間の脳に似たマダという架空の人工知能マシンを作成した。同氏はマダが2024年に実現すると予測し、現時点ではすべてが「予定通り」に進んでいる。

同氏は電子メールでのインタビューで、このインテリジェントマシンは「人間の認知プロセスと同じように」新しいことを学習して知能を発達させ続けることができるだろうと語った。

では、人間の感情はどうでしょうか?ポルク氏の答えは、「それは簡単な部分です。フィードバック学習だけです。」でした。しかし、知能機械は明らかにパブロフの犬よりもはるかに賢いでしょう。

いくつかの分野では、コンピューターはすでに私たちの先を進んでいます。カリフォルニア大学バークレー校の電気工学およびコンピューターサイエンスの教授であるスチュアート・ラッセル氏は、たとえ私たちが一生をかけて何億もの文書を10分の1秒未満で検索したとしても、 Googleのように答えを見つけることは決してできないと指摘している。

しかし、Google の自動運転車が証明したように、思考する機械は依然として一定の常識的なタスクを実行することができません。 「すぐに決断しないと、車にぶつかってしまいますよ。」

これとその他の技術的制限により進歩が遅れる可能性はあるが、計算能力の不足が最大の障害となることは決してない。

ラッセル氏は、現時点では、思考する機械を人間の脳のように機能するようにプログラムする方法を「まだ理解していない」と指摘した。 「知的な行動を生み出すアルゴリズムを設計するには、解決すべき概念的、技術的な問題がまだたくさんある」と彼は電子メールで述べた。

しかし、IBM（IBM）、マイクロソフト（MSFT）、フェイスブック（FB）、そして特にグーグル（GOOG）などの大手テクノロジー企業は、この問題の研究に多額の資金と人材を投入しています。最近、Google は 4 億ドルを投じて英国企業 DeepMind Technologies を買収し、多くの人工知能のエリートを採用しました。

私は自由な企業活動を信じていますが、人工知能の潜在的な危険性を考えると、この技術の開発について誰が最終判断を下すべきかを知ることは明らかに重要です。利益と株式市場のパフォーマンスに動かされているのは、企業でしょうか、政府でしょうか、それとも他の誰かでしょうか?

ホーキング博士とともにケンブリッジ大学存在リスク研究センターの諮問委員会に所属するラッセル氏は、科学者は「潜在的なリスクを理解し、排除する」べきだと考えている。

「AIの能力がどんどん強力になるにつれ、より優れた制御メカニズムも開発する必要がある」と彼は語った。

「そこに着くまで、自分たちが何をしたのか本当には分からない」とポーク氏は語った。 「その道の終わりは私たちにとって墓場と同じくらい危険です。」

ボトルからどんなモンスターが出てくるのでしょうか？私たちが最も痛い形で教訓を学ばないことを願います。私たちは過去に何度もこの間違いを犯してきました。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。