人工知能が人類を裏切るのを防ぐため、グーグル、マイクロソフトなどの大企業は協力する決意だ

『2001年宇宙の旅』から『マトリックス』まで、映画やSF作家たちは、人工知能はいつでも人類を裏切ったり、破壊したりする可能性があるため、私たちに人工知能を警戒するよう常に警告してきました。人類が人工知能の分野で飛躍的な進歩を遂げ続けるにつれ、この懸念がますます言及されるようになっています。

現在、グーグルの親会社アルファベット、フェイスブック、マイクロソフト、 IBM 、アマゾンなど、人工知能の開発に積極的に取り組んでいる5つのテクノロジー大手もこの問題を認識しており、人工知能に関する成熟した倫理基準を策定することを計画している。

ニューヨーク・タイムズ紙によると、5社は最近、労働市場、交通、戦争などの分野における人工知能の倫理基準について議論する会議を開催した。また、人工知能が人間に害を与えるのではなく、人間に利益をもたらすことを目的とした関連業界団体を設立する計画もあるが、参加者はまだ団体の具体的な名称を決めていない。

テクノロジー大手は人工知能の研究を積極的に進めているが、テクノロジー界では人工知能が人間を支配することを警戒すべきだという声が絶えず上がっている。例えば、今年6月に開催されたコードカンファレンスでは、テスラとスペースXの創業者であるイーロン・マスク氏が、人工知能の発達により、将来、人間は知能面で大きく取り残され、人工知能のペットに成り下がるだろうと発言した。

マスク氏は昨年7月、人工知能がもたらすリスクの評価と分析を担当するフューチャー・オブ・ライフ研究所にも1,000万ドルを寄付した。

その後、スティーブン・ホーキングもテレビ番組で、シリコンバレーのどこかの研究所が邪悪な計画を企てており、人工知能は人間よりも速く進化し、その目的は人間には予測できないだろうと主張した。

「機械が自ら進化できる重要な段階に達すると、その使命が私たちと同じになるかどうかは予測できなくなる」とホーキング博士は語った。

これに対し、グーグルのエリック・シュミット会長は、人工知能は人類の福祉の方向に発展し、間違った方向に人工知能が発展することを防ぐシステムが存在するだろうと述べた。 「我々はみんな、そういったSF映画を見たことがある」と彼は言った。 「しかし現実世界では、人間はAIシステムが危険になった場合にそれをシャットダウンする方法を確実に知っています。」

AIを倫理的かつ法的に正式化したいと考えているのは、テクノロジー企業や市民社会組織だけではありません。政府機関も議論に参加し始めている。今年5月、米国政府はシアトルでAIに関する法律や規制に関する初のホワイトハウス討論会を開催した。

このシンポジウムのテーマは「政府は人工知能を規制すべきか」であったが、会議ではこの問題についての結論は出ず、具体的な規制措置も導入されなかった。

そこで、政府が具体的な行動を起こす前に、テクノロジー企業が行動を起こしました。AI研究を進め、それが人間に害を及ぼさないことを保証するための独自の枠組みを開発することを決定したのです。

この業界の議論に参加したマイクロソフトの研究員エリック・ホーヴィッツ氏は、スタンフォード大学に「人工知能研究の100年」という協会を設立し、最近2016年の研究レポートを発表した。

「2030年の人工知能と生活」と題された報告書の中で、著者らはAIが「規制される可能性が高い」と主張している。 「研究グループの間では、AIが何であるかの明確な定義がないため、AIを規制する試みはしばしば誤った方向に進んでおり、そのため分野によって異なるリスクを考慮する必要があるというのがコンセンサスだ」と報告書は述べている。

報告書では、政府機関がAIに関する専門家の認識を高め、AI分野への公的および民間の投資を増やすことも推奨している。

会議に関するメモによると、5社は9月中旬に人工知能を規制する業界団体の設立を発表する予定だという。事情に詳しい関係者によると、アルファベットの子会社グーグル・ディープマインドが業界団体に独立して参加することを要請したという。

この協会は、グローバル・ネットワーク・イニシアティブなどの人権団体をモデルにしているが、言論の自由とプライバシーの問題に重点を置くことになる。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。