【中国軍事技術普及科学】軍事用途におけるChatGPTの信頼性を検証する必要があると言われるのはなぜですか？

GPT の正式名称は (Generative Pre-trained Transformer) です。 3 つの文字は 3 つの単語に対応します。 「生成的」とは、モデルがテキストを生成する能力を持っていることを意味し、「事前トレーニング済み」とは、モデルが特定のタスクに合わせて微調整される前に、多数のテキスト データ セットで事前トレーニングされていることを意味し、「トランスフォーマー」とは、モデルが使用する基本的なアーキテクチャを指します。

写真: ChatGPT 画像 (出典: Baijiahao)

GPT は、インターネット上で利用可能なデータに基づいてトレーニングされたテキスト生成ディープラーニング モデルです。質問応答、テキスト要約、機械翻訳、分類、コード生成、会話型 AI に使用されます。

GPTは4世代の開発を経てきた

2018年に誕生したGPT-1は、自然言語推論、質問応答と常識推論、意味的類似性認識、分類など、一定の一般化機能を備えています。結果から判断すると、GPT-1は会話型AIというよりも、かなり優れた言語理解ツールとしか言えません。

2019年、GPT-2がひっそりと登場しました。 GPT-2 は、元のネットワークにあまり構造的な革新や設計を加えませんでした。パフォーマンスの面では、GPT-2 は、要約の読み取り、チャット、執筆の継続、ストーリーの作成、さらにはフェイクニュースやフィッシングメールの生成など、優れた才能を備えています。

2020年に登場したGPT-3は言語の天才ともいえる存在です。 GPT-3 は、問題指向の検索、読解、意味推論、機械翻訳、記事生成、自動質問回答など、自然言語処理のほぼほとんどのタスクを完了できます。

今年登場したGPT-4は新たな時代の幕開けとなりました。 GPT-4 は、画像とテキストの入力、正しいテキスト出力をサポートする新世代のマルチモーダル大規模モデルです。強力な画像認識機能を備え、テキスト入力制限が 25,000 語に増加し、複数の言語をサポートし、回答精度が大幅に向上し、新しい GPT はよりスマートになりました。さらに、GPT-4 はロールプレイング機能やパーソナリティのカスタマイズ機能も提供します。

軍事分野では、GPTは最先端の人工知能技術として各国から大きな注目を集めており、人工知能分野における各国間の軍拡競争の新たな焦点となっている。

2023年1月、米国防情報システム局はGPTに代表される生成型人工知能技術を正式に技術監視リストに含め、マルチソース情報分析ツールの開発を積極的に進め、さまざまなチャネルを通じて戦闘データを収集し、意思決定支援モデルを大幅に強化しました。今後、GPT のデータベースはさらに大きくなり、分析能力も向上し続け、その潜在的な価値は無視できません。 GPT は、トレーニング マテリアルの生成、ターゲットの自動識別、情報の迅速な分析、戦場の世論のサポート、戦場環境のサポート、戦闘計画の策定、実際の戦闘訓練のシミュレーション、装備の状態の確保、サポート機能の強化を行うことができます。

しかし、実際の応用においては、将来的に GPT が人間の自律的な意識を持つかどうかに関わらず、最終的には自然人とは本質的に異なります。その創造的な生成メカニズムはまだ不明であり、ユーザーが結果を検証したり、その出力に十分な信頼を与えたりすることが困難です。軍事的観点から見ると、GPT が使用する情報源は、すべて現実に目に見える情報、または長い間公開されてきた情報です。 「古い情報データベース」が十分な戦場価値を提供できるかどうかは、実際のアプリケーションで判断する必要があります。さらに、偽情報が蔓延する今日の世界において、GPT データベース内のデータが本物で信頼できるものであることを保証できるかどうかも、軍事用途において GPT が解決しなければならない問題です。

専門家プロフィール：翁宗波氏は軍事装備科学普及の専門家です。国内外のハイテク装備、各軍の主力戦闘装備、統合戦闘戦略戦術などの研究を主に手掛け、「人民解放軍日報」「中国国防ニュース」「兵器」誌など軍事新聞・雑誌に200本以上の論文を発表し、三等功労章を1度受賞している。

制作：中国軍事技術普及科学

著者：翁宗波（軍事科学ライター）

企画：金和

科学評論：劉暁峰（上級軍事編集者）

制作者：光明オンライン科学部