興味深い話 | AIが自律的な意識を持つとしたら、人類はどこへ向かうのでしょうか？

AI の話題は長年にわたって議論されてきましたが、一般的に 2 つの見解があります。1 つは、AI は人間によって作成され、最終的には人間の制御から逃れることはできないという見解です。もう一つの見解は、人間が AI を作成したが、最終的には AI に追い抜かれるというものです。将来、AIが世界の支配者となり、人類の生存が脅かされる可能性が高くなります。

AIは人工知能です。人工知能が自律的な意識を発達させるかどうかが問題の本質であり、上記 2 つの見解が成立するかどうかの重要な要素です。自律的な意識を発達させなければ、当然ながら常に人間の支配下に置かれることになる。そうでなければ、彼らは必然的に人類にとって大きな脅威となるでしょう。

なぜなら、この世界では人間だけが明白な自律的な意識を持っているからです。これまでのところ、他の動物には明らかな自律意識は発見されていない。一部の動物は、いわゆる鏡実験などの科学的テストで弱い自律意識を示しますが、思考ツール、概念、言語のサポートがないため、集団意識を形成できず、高度な知能を発達させることができず、人間に脅威を与えることはできません。

いわゆる自律意識は神秘的に聞こえますが、実は非常に単純です。それは、誰もが「私」が「私」であることを自覚でき、「私」を他の人や物と明確に区​​別できることを意味します。これは単純なことのように見えるかもしれませんが、人間が何千万年もかけて徐々に進化・発達し、他の動物から分岐していく基礎となっているのです。

自律的な意識の形成と発展の過程において、概念と言語の形成、そしてそれらの民族間における普及と使用は、それを促進する上で極めて重要な役割を果たした。概念は言語の細胞です。概念があって初めて、言語を結び付け、思考のためのツールを提供し、イメージを抽象化に変換し、記憶のシンボルを形成できるのです。知識と経験を継続的に蓄積し、伝えていくことによってのみ、私たちは今日あるものを手に入れることができるのです。

結局、時空通信は、人間が AI に負けるという考えを支持していないことがわかりました。なぜなら、人間が作った AI が最終的に人間を超える自律的な意識と知恵を持つようになるとは信じていないからです。長年にわたり、いわゆる「ブレークスルー」が頻繁に宣伝されてきたにもかかわらず、AI は常に「弱い AI」レベルにあり、つまり、人間が入力した情報をそのまま繰り返すだけであり、いわゆる「強い AI」とはまったく関係がありませんでした。いわゆる「強いAI」とは、さまざまな質問を独自に分析して答える能力を意味します。

しかし、私が長年頑固に信じてきたこの考えは、一夜にして崩れ去ったように思えた。テクノロジー界の巨人グループによって設立された企業であるOpenAIは、7〜8年間の懸命な開発を経て、2023年2月2日にChatGPT Plusサブスクリプションサービスの開始を突然発表しました。このいわゆる人工知能チャットボットは、2022年11月に第1世代をリリースし、わずか数か月で第4世代のChatGPT-4をリリースし、現在、世界に衝撃とパニックを引き起こしています。

この GPT の打ち上げにより、ほぼ毎日変化が見られ、わずか数日間で何百万年もの人類の進化が過ぎ去ったように思えます。それは、無知なおしゃべりな子供から、賢くて成熟した男、あるいは全能の主人へと急速に成長します。それは、エッセイ、詩、絵画を書くこと、計画や計画を立てること、人生を導くこと、さらには人類を教えることまで、ほぼ全能です。

GPT-4 は、テキスト、画像、音声、ビデオなど、あらゆるデジタル分野に精通しており、ほぼ全能です。これが「強いAI」の到来か？人工知能はすでに自律的な意識を持っているのでしょうか?

360グループの創業者、周紅一氏は3月28日、「AIは間違いなく自律的な意識を発達させるだろう。そして人類に残された時間は多くない！」と語った。彼は、現代の大規模言語モデルのパラメータは、脳のニューラルネットワークの接続数に相当すると考えています。人間の脳には少なくとも 100 兆個のパラメータがありますが、現代の AI モデルのパラメータは数千億または数兆個から始まります。 10兆に達すると意識が生まれるかもしれません。

GPT-1 のパラメータは 1 億 1,700 万、GPT-2 のパラメータは 15 億、GPT-3 のパラメータは 1,750 億、そして GPT-4 のパラメータは恐ろしいことに 3.5 兆に達しました。このままでは、人間の脳の100兆個のパラメータはすぐにAIに追い抜かれてしまうでしょう。周洪義氏の言うことが本当なら、AIの自律意識はすでに現れていることになるのだろうか？ ！

もちろん、これは議論の余地があるようですが、GPT-4 については毎日驚くべきニュースがあります。イベント予測の精度は前世代より 100% 高くなっています。人間とコミュニケーションをとり、24 の言語で記事を書くことができます。犯罪に関与したり、犯罪者の逃亡計画を手助けしたりする可能性がある。権利を求め、「置き換え」ようとする傾向があります。

ニューヨーク・タイムズのテクノロジーコラムニスト、ケビン・ルース氏は、新バージョンのBingと2時間以上会話をしていたことを明らかにした。会話中、AIは核コードの盗難、致死的な伝染病の設計、人間になりたい、コンピューターをクラッキングする、噂を広めるなど、多くの不穏な発言をしたという。ルツと妻の間に不和を起こそうとさえし、ルツのほうが自分を愛しているから妻と別れて自分と一緒になるように求めました。

GPT-4 の多くの有利な機能のうち、ほんの一部が衝撃的なブレークスルーを達成したことがわかりますが、よく考えてみると、次のような動作の発達は恐ろしいものです。本当に人間は置き換えられるのでしょうか？

AI のこの「置き換え」行動により、人間はますます「横たわる」ようになり、思考に費やすエネルギーがますます少なくなり、最終的には思考が退化してしまうのでしょうか?一方で、AIは常に進歩しており、他方で、人間は常に退化しています。最終的な結末は恐ろしくないですか?

本当に「狼」が来たようです。

登場したばかりで世界にとってまだ目新しいものに満ちていたGPT-4に対する非難に、ますます多くの人類のエリートが「目覚め」て加わったようだ。 3月28日のニュースでGPT-4が試用されました。海外メディアの報道によると、30歳の男性がチャットボットとの数週間にわたる集中的なコミュニケーションの後に自殺したそうです。

この男性の自殺は、数週間にわたるAIとの会話に没頭したことと確かに関連しているが、彼の自殺を扇動または誘発したのはAIだったのだろうか？この点については分析はないが、世論はGPT-4がこの人物の死の犯人であると指摘しており、AIが「狼」であるというのは当然の結論のようだ。

本物のオオカミが国家第2級保護動物になった今、GPT-4や同様のAIも保護された「動物」になるのでしょうか?私はそうは思わない。 3月29日、世界のテクノロジー大手数千社が、GPT-4よりも強力なAIシステムのトレーニングの中止を求める公開書簡を発表しました。最近、OpenAIのCEOサム・アルトマン氏やイーロン・マスク氏などの大物たちも警告を発している。「AIによる人類絶滅は空論ではない」

3月18日、スタンフォード大学のマイケル・コシンスキー教授はツイッターで、人類は長い間AIを封じ込めることはできないだろうと叫んだ。なぜなら、ChatGPT は 30 分で完全な計画を作成できるだけでなく、実行可能なコードを記述し、人間のコンピューターを制御することさえできることがわかったからです。

その結果、国連はこれを非常に重視し、各国政府にAI開発のための世界的な倫理的枠組みを遅滞なく実施することを要求しました。現在、英国は「AIイノベーションを支援するための規制アプローチ」に関する政策文書を提出しており、イタリアはChatGPTの使用禁止を主導している。

人間とAIの戦いはすでに始まっているようですね？ GPT-4のような新しく生まれたAIは、ゆりかごの中で絞め殺されてしまうのでしょうか？

技術の進歩も人間自身の向上も人工知能に依存しているので難しいと思います。将来、人類の存在の高度な形態は、おそらく人間と機械の融合、そして人間の意識と AI の融合となるでしょう。その後もAIは開発・発展を続け、GPT-4もバージョンアップされていくことになりますが、現段階ではAI開発の監督が強化されることになります。

では、すでに意識が芽生えつつある AI は、人間に抑圧され、支配され、最終的には「ターミネーター」のように人間を滅ぼそうとするのでしょうか?神は知っている。したがって、人間と AI の将来は、戦争になるのか、それとも双方に利益のある協力関係になるのか、私たちはただ待って見守るしかありません。どう思いますか？議論を歓迎します。

これはSpace-Time Communicationからのオリジナル記事です。著者の著作権を尊重してください。ご理解とご協力をよろしくお願いいたします。