自動運転技術は機械の道徳的ジレンマを前進させます。アルゴリズムは生命と財産の間でどのように選択すべきでしょうか?

サイエンスフィクションの分野では、将来の人工知能が直面する道徳的、倫理的なジレンマが議論の中心となることがよくあります。 「アイ、ロボット」「ロボット執事」「人工知能」など、私たちがよく知っている多くの映画やテレビ番組は、これに基づいています。

関連する文学作品や芸術作品の爆発的な増加は、この問題に対する人々の強い懸念を間接的に反映している。しかし、実際には、電子ニューラルネットワークなどの技術における多くの障害により、現在の人工知能技術では「中国語の部屋」の状況から抜け出すことができません。 「人工的なものと同じくらい知的なものもある」ということはよくあります。機械が人間のような知覚力や思考力を持つようになるまでには、まだ長い道のりがあります。

しかし、アリババやバイドゥなどの企業の参入により、複雑なセンサーアレイと完璧なコンピューターアルゴリズムに依存した弱い人工知能の下で実現できるため、旅行トレンドとしての自動運転技術はますます私たちに近づいてきています。逆に言えば、人工知能に関して私たちが想定しているロボットの道徳的、倫理的問題は、自動運転技術の実装後、より早く人々の注目を集めることになるでしょう。

最近、ドイツのオスバルフ大学の科学者たちは、将来のロボットや自動運転システムが生死に関わる状況で正しい判断を下すのに役立つ道徳的選択の数学的モデルを開発したと発表した。

しかし、人間にとっても理解が難しい多くの道徳的ジレンマは、本当にアルゴリズムによって解決できるのでしょうか?

アルゴリズムは自動運転のマスターキーではない

道徳とは、適切な行動を測る概念的な基準を指します。それは、ある社会が人々と個人、および個人と社会との関係を規制するために使用する行動規範を指します。それは人間社会の中でゆっくりと形成され、時代の特徴を持っています。

機械アルゴリズムを構成する厳格なコードとは異なり、道徳は曖昧な概念です。人間同士の間でも、道徳観の理解はグループや時代、状況によって大きく異なります。さらに、道徳そのものの存在と価値は、哲学者の間でもしばしば議論されるテーマです。

最も有名な思考実験の一つである「トロッコ問題」は、道徳基準を嘲笑するものである。実験はこんな感じです。前方の線路上で路面電車が6人の人をはねそうになっているのを想像してください。このとき、トラックを切り替えて、1 人だけいる別のトラックに突入させる機会があります。あなたは何を選びますか？

従来の「多数の利益」の原則によれば、6 人の命を救うには 1 人を犠牲にすべきですが、この方法ではこの 1 人の死に対して部分的に責任を負うことになります。何もせずにトロッコ事故を傍観するなら、このアプローチも道徳的に欠陥がある。

したがって、「トロッコ問題」においては、「完全な道徳」というものは存在しない。では、避けられない交通事故に遭遇したとき、自動運転システムはどのように判断すべきでしょうか？

利益と道徳のどちらがより重要ですか?

「困難な状況における人間の行動は、あらゆる人間、動物、無生物が参加者に含まれる非常に単純な生命ベースのモデルを使用してシミュレートできる」と、ドイツのオスバルフ大学のレオン・サトフェルド教授は語った。

具体的なアルゴリズムは発表されていないが、レオン・サトフェルド教授の言葉から、同教授のチームが現場の人間、動物、無生物、その他のターゲットを実際のさまざまな状況下で数学モデルに定量化し、これを自動運転の回避や衝突対策の基礎として利用しようとしていると大まかに推測できる。

（公式アカウント：）「大多数の人々＞少数派」、「子供＞女性＞男性＞動物＞無生物＞」、「BBA＞武陵洪光」など、世間が認識している道徳モデルを抽象化することは難しくないと思います。

しかし、すべての要素を定量化するという前提のもとで、多くの現実的な要素が絡むと、道徳倫理と現実のせめぎ合いにより、状況はより複雑で暗いものとなるでしょう。

究極的には、自動運転は車の所有者にも役立ちます。自動車所有者の利益が道徳モデルと矛盾する場合、自動運転システムの設計者はどのように選択すべきでしょうか?

例えば、所有者の安全を最優先しない自動運転システムを、誰もいつだって買わないですよね？

例えば、事故が避けられないとき、高級車に衝突するか人に衝突するかの選択に直面したとき、一方では高級車の賠償金が数千万、他方では民事上の賠償金が数十万ある場合、車の所有者は自分の利益をより考慮することを選択するでしょうか、それとも道徳のために代償を払うことをいとわないでしょうか?

自動運転システムが自分の利益を優先することを認める自動車所有者はいないだろうが、自動運転システムの設計者は、システムが稼働する前に特定のアルゴリズムの好みを指定せざるを得ない。結局のところ、人間の不確実性とは異なり、アルゴリズムのプロセスと結果は独特で確実です。 「出世のために公道の道徳を捨てる」という重荷を彼らは耐えられるのか？

旅行トレンドが出現する中、誰が成功するのでしょうか?

ここで、（公式アカウント：）この記事は自動運転車を貶めたり、批判したりする意図で書かれたものではないことを明確にしておく必要があります。

これまで多くの交通事故が発生しているが、グーグルやウーバーの自動運転路上テスト、テスラのオートパイロットシステムなど、実はほとんどがドライバーの不適切な操作や他の車両による受動的な違反によるものだ。人間が運転する場合と比べて事故率が大幅に減少します。アルゴリズムはまだ開発段階だが、自動運転の優位性はすでに明らかになっている。

結局のところ、機械の計算速度は、人間の反応速度と同じ桁ではありません。アルゴリズムと自動車認識システムが完成し、世界中で人間が車を運転することがなくなり、すべての自動運転システムがリアルタイムでインターネットに接続されると、交通事故率はゼロに近づき、いわゆる倫理的ジレンマは簡単に解決されるでしょう。

車両のインターネットが実現すると、最適化されたルートの統一された計画の下で、旅行はますます効率的かつ快適になります。この変化は、自動運転の開発によってすでに形になりつつあります。多くのテクノロジー大手が旅行のインターネットを次の大きなトレンドと見なしているのも不思議ではありません。

また、百度やアリババなどの中国企業の早期の展開により、中国はもはや変化の傍観者ではなく、テクノロジーの最前線に立ち、自動運転の分野でベテランプレーヤーとなり、世界の開発者とともにこの移動革命を主導していることも言及する価値がある。

今日頭条の青雲計画と百家曼の百+計画の受賞者、2019年百度デジタル著者オブザイヤー、百家曼テクノロジー分野最人気著者、2019年捜狗テクノロジー文化著者、2021年百家曼季刊影響力のあるクリエイターとして、2013年捜狐最優秀業界メディア人、2015年中国ニューメディア起業家コンテスト北京3位、2015年光芒体験賞、2015年中国ニューメディア起業家コンテスト決勝3位、2018年百度ダイナミック年間有力セレブなど、多数の賞を受賞しています。