AIはますます有能になってきています！ 「良心」を持ったAIにするには？

現在、人工知能 (AI) は急速に発展しており、AI エージェントは徐々に業界の研究の焦点になりつつあります。

AI エージェントはインテリジェントな存在として、環境を認識し、独自の決定とアクションを通じて環境を変更し、学習と適応機能を通じてパフォーマンスを向上させることができます。

では、独立した判断ができる AI エージェントは法的責任を負う必要があるのでしょうか?法律ではどのように定義されるべきでしょうか?

最近、権威ある科学雑誌「サイエンス」に掲載された研究論文が、その答えの可能性を示しました。

米国のヴァンダービルト大学の法学教授ダニエル・ジャーヴェイス氏と、スタンフォード大学CodeX研究所およびNomos AIの創設者兼CEOジョン・ネイ氏は、共同で次のような論文を発表しました。

AIは、権利と義務を持つ法的実体として機能できるまでに進化しました。したがって、問題が複雑になる前に、AI を法的主体として扱うための「種を超えた」法的枠組みを開発する必要があります。

さらに、彼らは「ゼロメンバーLLC」のアイデアと、AIエージェントを監督したりAIシステムを法を遵守するシステムに変えたりするための大規模言語モデル（LLM）のトレーニングを強調しました。

「人工知能と種間法」と題された関連研究論文が『サイエンス』誌に掲載されました。

「ゼロ会員有限会社」をAIが管理

これまで、法制度は単一であり、人間のみがそれを設計し、使用することを許可していました。法制度においては、人間以外の法的主体（動物など）は人間を通じてその権利を実現しなければならず、これらの主体は人間の利益や義務に対処するための単なる道具に過ぎません。

しかし、AI を法制度に組み込むことは、これらの非人間主体の権利と責任を定義し保護することよりも、それらに関連する人間の利益と義務に対処することの方が重要です。

ブラック法律辞典では、法人を「法人」と呼んでいます。米国では、一部の法域の法律では、企業のトップマネジメントが人間によって担われることが必ずしも明示的に要求されているわけではありません。

米国統一有限責任会社法（ULLCA）に記載されている「ゼロ構成員有限責任会社」は、聞き慣れた言葉です。この条項ではメンバーの不在により LLC が解散すると明記されていますが、ULLCA はこの規定を強制していません。

たとえ米国の 1 つの州だけがメンバーがゼロの LLC の存在を認めたとしても、その法人はいわゆる「内部事務原則」に基づいて全国規模で事業を行うことができる。この原則によれば、裁判所は法人の内部事務を規定する規則を確立するために、法人が設立された州の法律に依拠することになります。

もし、AIが運営する「ゼロメンバーLLC」があった場合、どのような法的選択肢があるのでしょうか？法律は、AI の自律的な行動に簡単に法的結果を課すことはできません (ただし、ここでの「自律性」は制限される可能性があります)。法律では LLC を設立した人間に責任を負わせることもできるが、通常、人間は自分が設立または管理する法人の行為に対して責任を負わないため、それには新しい法的手段が必要になる可能性が高い。

さらに、AI自身が新たな有限責任会社を設立する申請を行う可能性も排除できない。裁判所は、賠償、資産の差し押さえ、解散など、法人の責任を規制するためのさまざまな手段を依然として利用できる。裁判所は差し止め命令などさまざまな命令を出すことができますが、その命令に従うかどうかはAIが判断します。

さらに、論文の著者らは、すべての管轄区域で「ゼロメンバーLLC」を違法とする別の可能性も提案したが、これには世界規模での大規模な立法努力が必要となり、テクノロジー産業の発展促進と矛盾する可能性がある。したがって、「ゼロ構成員有限責任会社」という現象の出現は、自律型AIエージェントの実装に適応する法制度を促すことになるはずだ。

AI が有限責任会社または明確に定義された法的アイデンティティを持つその他の法人の形で運営できるようにすると、2 つの主な利点がもたらされます。第 1 に、AI が法的手続きで損害賠償を請求できる法人として確立され、被害者に明確な法的ターゲットが提供されます。 2 つ目は、機械学習の研究者にとってより明確な研究方向が提供されることです。

「良心」を持った法律AIの構築

現在のパラダイムでは、LLM を搭載した AI エージェントに法に従う行動を組み込む道筋があるようです。たとえば、メインの AI エージェントを監視および/または影響を与える LLM をトレーニングし、報酬モデルとして使用することができます。

しかし、人間の行為が関与する多くの状況では、最終的には人間がその状況の合法性について決定を下す必要があることを明確にすることが重要です。これは AI エージェントの存在によって変わりません。

規範的な主張を超えて、今後数年間に出現する高度な AI を法制度に組み込むことが重要になります。そうすることで、AI の行動を監視し、責任を割り当て、必要な安全策を講じ、AI 研究を正当な人工「良心」の構築に向けて導くことができるようになります。

デジタルインテリジェンスの急速な発展の状況では、積極的かつ自動化された犯罪防止に重点を置くことが重要です。しかし、AIシステムが理想的な動作を達成できないという避けられない状況を考慮すると、関係する企業は、裁判所で損害を受けたことを証明できる個人に賠償金を支払う責任を負うべきである。この目標を達成するために、維持する必要がある最低限の商業賠償責任保険の範囲を拡大することができます。

異種間法律の制定は避けられないが、この法律の範囲のどの端に私たちがたどり着くかを予測するのは困難である。一方では、異種間法は、人間によって部分的に管理されている法人の運営方法に適応するために、法人法を修正することを伴う可能性がある。一方、異種間の法律は、自律的で知的な存在との日常的なやり取りにおいて法制度を適応させる必要があることも意味するかもしれない。

論文リンク:

www.science.org/doi/10.1126/science.adi8678