ChatGPTは「流浪の地球2」の「550W」になるのでしょうか？

図 1 ヘッダー画像 |出典: 百度百科事典

0から1へ

これはコンピュータ言語の飛躍的進歩である

ChatGPTの登場

AIがチューリングテストを超えることは大きな飛躍となるでしょうか?

ChatGPT がなぜ強力なのか?

ChatGPT は、OpenAI がリリースした人工知能言語処理ツールです。

簡単に言えば、ChatGPT はチャットボットプログラムです。

さらに詳しく説明すると、ChatGPT は特定のニューラルネットワークアーキテクチャを通じて人間の言語を学習して理解し、これに基づいて人間と対話することができます。つまり、本物の人間と同じようにチャットやコミュニケーションができるAIです。

さらに、ChatGPT は、コピーライティング、スクリプトプログラミング、テキスト翻訳、コード作成などのタスクを完了するために特定の方法で使用できます。

図2 |出典：北京ニュース

Transformer ニューラルネットワークアーキテクチャ (GPT-3.5 モデル) のおかげで、ChatGPT には専用のデータ処理および理解モデルがあり、その上に ChatGPT の通信および理解機能が形成されます。

つまり、ChatGPT は大規模なコーパスに接続することで、独自の応答モデルを学習およびトレーニングできます。

したがって、ChatGPT を使用する場合、同じ会話型検索エンジンと通信していると見なすことができます。

図 3 |出典：北京ニュース

破壊的AI

70年以上前、科学者アラン・チューリングはAI技術のための有名な「チューリングテスト」を提案しました。

「テスト担当者と被験者（人間と機械）は別々にいて、何らかのデバイス（キーボードなど）を通じて被験者にランダムに質問をします。複数回のテストの後、機械が平均して参加者の 30% 以上を誤判断させた場合、機械はテストに合格し、人間の知能を備えているとみなされます。」

30% という基準は、機械の将来の思考能力に関するチューリングの予測から来ています。現在、ChatGPT の出現により、AI がチューリングテストに合格するプロセスが間違いなく加速されているようです。

天文学と地理についてすべてを知っている ChatGPT は、現実の質問に答えるだけでなく、時間と空間を旅して有名な作家のために詩を書くこともできます。

このような破壊的な技術は、人々の職を失う原因になるのではないかと人々は懸念している。

もしそうなら、誰が失業するのでしょうか?

いずれにせよ、ChatGPT に関する最大の疑問と論争は、それが本当に人間の思考を実現したり、置き換えたりできるかどうかです。

図4 |出典: CSDN

以前は、検索エンジンや AI に質問すると、生成モデルを通じて既存の回答やテンプレートを検索するだけだったため、間違った回答が返されることがよくありました。

ChatGPTは「生成モデル+報酬モデル」の構造を採用しています。回答後、ChatGPT は質問と回答の結果を報酬モデルにフィードバックします。

言い換えれば、ChatGPT には固有のスコアリング (報酬と罰) メカニズムがあります。 ChatGPT が同じ質問に対して ABC という 3 つの回答を出すことができる場合、報酬モデルはロジックが一貫しているかどうかなどの要素に基づいて 3 つの回答を個別にスコア付けし、そのスコアを報酬と罰の基準として使用して、独自の回答方法を最適化します。

「生成モデル + 報酬モデル」は ChatGPT の自己回帰特性を構成します。

つまり、ChatGPT は質問と回答、報酬と罰、反復のサイクルを独自に完了できます。 ChatGPT は、中国語の文字や記号の中で最もスコアの高い組み合わせを照合し、それらを組み合わせて文章や段落を作成し、ユーザーに送信します。

図5 |出典: openai公式サイト

「生成モデル + 報酬モデル」の構造は現在のほとんどの AI よりも優れていますが、これは ChatGPT が回答を生成するプロセスで質問と回答の意味を本当に理解していることを意味するものではありません。 ChatGPT は常にモデルによって計算された最適なソリューションを探すだけですが、パスの選択とフィードバックの受信においてはより優れた機能を発揮します。

ChatGPT の自動報酬と罰のメカニズムにより、手動での修正の量が削減されるため、より速く学習し、他の AI との激しい競争に勝つことができます。

人工知能がいかに強力であっても、「人工知能」から切り離すことはできない

3年前、Google の MT5 には 130 億のパラメータがありました。

当時、ChatGPTの前身であるGPT-3モデルにはすでに1750億個のパラメータがありました。

今、ChatGPTが登場しました。 GPT-3 と比べてパラメータは変わっていませんが、パフォーマンス爆発の特異点に達しています。

このことから、パラメータの蓄積が AI の進歩の鍵ではないかもしれないことがわかります。モデルと計算方法を最適化することが、AI技術を向上させる鍵となるかもしれません。

しかし、AIがいかに強力であっても、人間のサポートなしには機能せず、AI世界の基盤はやはり現実世界です。

図6 |出典: フェニックステクノロジー

ChatGPT は強力ですが、そのコーパスは 2021 年第 4 四半期でもまだ停滞しています。世界に対する理解は 2021 年に固まっています。現時点で何か新しいことを質問しても、効果的な回答は得られないでしょう。

さらに、ChatGPT の回答は安定しておらず、ChatGPT は質問と回答を複数回繰り返すと「意味不明な話を」し始めます。

これは、会話が増えるにつれて、モデル計算の複雑さが指数関数的に増加するためです。計算時間を短縮するために、ChatGPT はテキストをカットする必要があり、その結果、回答が歪んでしまいます。

ChatGPT が現段階で AI 分野で大きな成功を収めているのは事実ですが、ChatGPT に代表される AI テクノロジーは、依然として人間の指導なしには機能しません。