新しいテクノロジーの本当の「キラー機能」は、「脳を読む」ことではなく、「行動を読む」ことなのかもしれません。

2017年、サイモン・マッカーシー・ジョーンズはThe Conversation[1]に統合失調症に関する記事を執筆しました。彼は、この記事を2人以上が読んだと冗談を言ったが、学者（彼はダブリン大学トリニティ・カレッジの臨床心理学准教授）としてそれは「心強い」ことだった。

しかしその後すぐに、マッカーシー・ジョーンズ氏は「フェイスブックの鉄の支配に捕らわれ」、自分の記事に誰が「いいね！」したか、誰がコメントしたかを何度も確認する羽目になった。それは私の注意を引きつけ、「Facebook をチェックしよう！ Facebook をチェックしよう！」と思わせました。 「彼は最近、アイルランドのオフィスからのビデオ通話中にそう語った。

彼の心は、外部の力、この場合は大手テクノロジー企業によって密かに強制されているのだろうか？この経験から、彼は「自由な思考」とは実際何なのかを考えるようになった。そこで彼は、心理学、哲学、文化、法律といった混乱した世界へと足を踏み入れ、心が何でできているのか、そして心はどうすれば真に自由であり続けることができるのかを解明しようと試みます。

神経心理学者サイモン・マッカーシー・ジョーンズは、思考は常に頭の中から溢れ出ていると主張する。それは、書くことのリストの形であろうと、友人とのブレインストーミングの形であろうと、同じだ。だから、自由な思考を保護する法律は、こうした重要だがあまり内向的ではない思考形態も考慮に入れなければならない。 © サイモン・マッカーシー・ジョーンズ

彼の思考は頭から抜け出し、今では新しい本「自由思考：精神をめぐる新たな戦いの中で思想の自由を守る」に現れています。

私たちはマッカーシー・ジョーンズ氏と話をしました。同氏は、「思想犯罪」を犯罪とみなす歴史、思考の物理的な境界、そして真に自由な思考にとって建築と都市計画が不可欠な理由について語ってくれました。

あなたの新しい本のサブタイトルを見て、私たちの思考にとっての「新しい戦い」をあなたがどのように定義するのか疑問に思いました。現在の闘争は複数の戦線があると思われますか？

この闘いには 4 つの側面があると思います。国家、企業、個人からの脅威、そして法律からの脅威です。つまり、自由な思考の権利が非常に狭く定義されると、多くのアイデアが新しいテクノロジーから保護されないリスクがあるということです。

最後の項目は難しいです。私たちは、今後登場する脳読み取りデバイスについてよく話します。イーロン・マスク氏のニューラリンクは、我々の思考をコンピューターに翻訳できるような脳コンピューターインターフェースを開発するというアイデアで、引き続き注目を集めている。しかし、疑問は、この技術はどの程度現実的なのかということです。それは今考慮する必要がある脅威でしょうか?これが道徳的パニックを引き起こす可能性があるのではないかと心配しています。

© WIRED

新しいテクノロジーがもたらすより直接的な脅威は、「脳の読み取り」ではなく、いわゆる「行動の解釈」であると私は考えています。つまり、Facebook で何を「いいね！」するか、どの Web サイトにアクセスするか、どの音楽を楽しむかなど、私たちの観察可能な行動を測定し、私たちに関するこれらの事実を知ることで、私たちの心理状態を推測し、私たちの行動を簡単に理解できるという考えです。私たちが何を考えているのか、そして特定の行動をとるためにはどのボタンを押す必要があるのか​​。この知識は、人工知能技術と組み合わせると、私たちの自律性に現実的かつ大きな脅威をもたらす可能性があります。

ある意味、これは古くからの問題に新たな視点を提供する新しい技術です。古代ギリシャでは、人々は詭弁家、つまり真実を見つけるためではなく、特定の政治家や政治的見解を支持するために議論をする人々を心配しており、この懸念は何千年も存在していました。現在、私たちは AI をデジタルの詭弁家だと考えています。AI が私たちについて知っていることと、私たちがどう考えるかの間には大きな力の不均衡があるのです。しかし、私たちは単なる人間です。

私たちはこう言いたくなるかもしれません。「いいえ、私たちは独立した、自律的な思考者です。」しかし、説得力のある AI に関しては、私たちは深刻な問題に直面していることを認識する必要があると思います。

もちろん、SF はさておき、私たちの頭蓋骨の中にあるものは、私たちの最後の私有領域であり続けると考えたいものです。しかし、あなたはこの幻想を信じるべきではないと指摘しています。では、私たちの自由な思考はどうすれば守られるのでしょうか?

私がこの問題を（弁護士ではなく心理学者として）研究し始めたとき、最初は二つのことが私を興奮させ、その後恐怖に陥れました。

まず、国連の世界人権宣言によれば、思想の自由の権利は絶対的な権利である[2]。米国では、これは憲法に定められたほぼ絶対的な権利です。これは、誰もあなたの思考の自由を邪魔できないことを意味するので、非常にエキサイティングです。名誉毀損、虚偽広告、挑発的な言葉などに関しては、誰かの発言を制限することが可能な場合もありますが、アイデアは侵入不可能であり、人々のアイデアを完全に保護することができます。

しかし、私はこの権利の力について心配し始めました。なぜなら、それが他の社会的関心事とバランスが取れていない場合、他の社会的利益を圧倒してしまう可能性があるからです。たとえば、自由な思想と言論の自由は密接に関係していると考えるかもしれませんが、問題は、誰かの発言が自分の心を操作していると主張すると、自由な思想の名の下に、発言に新たな制限を課すことができる可能性があることです。

2 番目、そしておそらくより憂慮すべき点は、この権利の定義が欠如していることです。よく見てみると何も見つかりません。実は非常に空っぽです。奇妙なことに、ジェファーソン、ヴォルテール、チョムスキーなど、あらゆる世代の人々が、この権利を称賛してきたのです。

ある意味、私たちはそれを賞賛することに忙しく、定義することができませんでした。したがって、保護されているように見えても、実際には裸で、露出しており、非常に脆弱です。

© ノーティル

他の人に私たちの代わりに考えてもらうということは、他の人に私たちの代わりに生きてもらうということです。

国連は最近、それをより詳細に定義しようとしましたが、まだ十分ではないと思いますか?

2021年に国連は、思想の自由の4つの柱を含む特別報告書[3]を発表しました。免責条項とは、自分の考えを理由に処罰されないことを意味します。誠実さとは他人の考えを操作できないことを意味します。プライバシーとは、自分の考えを秘密にしておく権利があることを意味します。そして想像力とは、国家が国民のために自由な思考の環境を作り出す責任があることを意味します。

しかし、根本的な問題はまだ残っています。次のような質問: 何を考慮すべきでしょうか?心を自由にするものは何でしょうか?これらの質問にどのように答えるかは、あなたが実際に自分の考えをどれだけうまく守れるか、あるいは自分の考えのどれだけが脆弱で守れないかに大きな影響を与えます。

これは、デカルトの「我思う、ゆえに我あり」が示唆するように、私たち自身の人格、さらには自律的な存在を何らかの形で保護するものなのでしょうか？

はい、その考えによって、私たちは世界から距離を置くことができ、計画や意図を練り、外の世界からの要求を考慮する必要がなくなり、自分の行動を内省し、コントロールできるプライベートな空間を持つことができると思います。ですから、それが私たちの自治において中心的な役割を果たしていると私は考えています。

しかし、デカルトを通して、私たちは思考は心の中で起こるものであるという見解を暗黙のうちに受け入れています。私はこの件に関して多くの法律記事を読みましたが、その中では人々が**「内なる信念」**（フォーラム・インターナム）と呼ぶ内面世界を保護することについて語っています。

© グラス・コンチラ

私たちが守るべきものはそれだけではないと思います。私たちの心の世界の自由な思考の権利だけを保護することは、守るものよりも失うものの方が多いと思います。なぜなら、私たちの思考の多くは頭の外で起こるからです。

哲学者、技術者、心理学者が言うように、私たちが守らなければならないのは、指で数を数えたり、買い物リストを作ったり、テクノロジーを使って考えたり（Google で検索するときなど）、言語を通じてお互いに考えを伝えたりするときの思考という、重要な外部思考です。

人々は、一人で静かに座って考え事をするよりも、むしろ自分自身に電気ショックを与えることを好む。

これが「思考スピーチ」の意味ですか?

はい、言葉の形をとっていますが、実際は他の人と一緒に考えることです。 EM フォースターはこう言っています。「自分が何を言っているか見なければ、自分が何を考えているのかどうやってわかるというのか？」私たちが他の人と話すとき、おそらく彼らと一緒に考えているのです。

適切な条件下では、個人で考えるよりも集団で考える方が真実に近づく可能性が高いことを示す心理学的研究が多数あります。心理学的研究によれば、真実に近づく可能性を最大限に高めるには、異なる考えを持つ人々を一堂に集める必要があることもわかっています。したがって、重要なのは、そうしたスペースを作り出すことです。啓蒙時代、ヨーロッパ各地にはこのような議論の場となるコーヒーショップがありましたが、当然ながら、多様な視点を取り入れられるような包括的な空間ではありませんでした。ここで問題となるのは、どうすればこのような多様な視点を獲得できるのかということです。

明らかに、今はサイバースペースがあります。しかし、金持ちか無礼か、あるいはその両方でない限り、こうした空間で自由に発言するのは非常に困難です。こうした空間で人々が安全だと感じられなければ、人々は自分の考えを自由に表現することができず、真実を知ることもできなくなります。

この考え方を守りたいという思いが、最終的に都市計画へとつながっていったんですね？

会議でブラジルの同僚と話していたとき、彼はブラジルの首都ブラジリアの設計は、街角を避けるように計画者が意図的に決めたものだと言っていました。街角は人々が集まって一緒に物事を考える場所であり、支配体制にとって脅威となる可能性があるからです。したがって、都市計画は国民が共に考える能力に重要な影響を及ぼす可能性がある。

© 国際写真センター

これには、言論の自由を促進するものも含まれます。これには、緑地を歩くことが思考を助けるという考えであるエコロジカルデザインも含まれます。あるいは、かつては暗くて埃っぽい場所だった図書館を、光とグループでの会話のためのスペースに重点を置いた設計にするのに役立つかもしれません。そのため、共有思考を促進するために建物や空間を設計します。

もちろん、私たちは今、このような自由な思考にはあまり適さないデジタル世界に住んでいますよね？国連は、私たちは操作されることなく自分自身の考えを持つ権利を持つべきだと言っています。しかし、私たちは皆、注意がそらされた経験をしたことがあるでしょう。 QAnon 陰謀論**** のような奇妙な考えがインターネット上で広まっていることは言うまでもありません。脱出方法はあるでしょうか？それとも失敗したのでしょうか?

私たちがすでに進んでいる方向にアルゴリズム的に押し進めるのではなく、より多様な視点を与えてくれる「自由な思考」のオプションを備えたデフォルト モードを採用するテクノロジー製品を設計する方法があります。これは、ドナルド・ラムズフェルドが語った問題、つまり「未知の未知」、つまり私たちが知らないことすら知らないことに対処するのに役立つだろう。

また、これは、一部の人々が「慣習的な信念」と呼ぶもの、つまり、ある時点で獲得したが実際には考えたことのない考えを反駁するのにも役立つかもしれません。かなり重い例を挙げると、民主主義が挙げられるでしょう。民主主義は、私たちの多くが完全に良いものだと考えていると思います。しかし、私たち自身はそのような信念に達したのでしょうか?私たちは本当に民主主義に反対する議論を聞いて、その利点を信じなくなったのでしょうか、それともなぜ民主主義を信じるのかを本当に理解したのでしょうか。

現実的には、夜間視力を大幅に改善するのに十分な量のニンジンを食べるのは難しいです。私たちの体はベータカロチンをビタミン A にあまり効率的に変換しないため、ニンジンをたくさん食べてもビタミンのサプリメントを摂取するほどの効果はありません。 © アトラス・オブスキュラ

もっと些細な例を挙げると、私はニンジンを食べると暗闇でよく見えるようになるとずっと信じてきました。どうやら、ニンジンにはベータカロチンが含まれており、それが極度に欠乏している場合には視力をある程度改善できるようです。しかし、第二次世界大戦中、イギリスは秘密裏に空中迎撃レーダーを製造していたが、ドイツに知られたくなかった。そこで彼らは、イギリス軍パイロットが夜中にこれほど多くのドイツ軍機を撃墜した理由を説明する言い訳を考え出さなければならなかった。そこで彼らは国民にこう発表した。「イギリスのパイロットたちは大量のニンジンを食べている。」この発言は文化の一部となった。

では、間違った理由で何を信じているのかをどうすればわかるのでしょうか?

思考能力を犠牲にした場合、私たちはどの程度まで人間のままなのでしょうか?

思想の自由について語るとき、1949年に出版されたジョージ・オーウェルの著書『1984年』に触れなければなりません。現実の世界では、それより数十年前の1920年代と1930年代に、当時の日本政府は反対意見を封じ込めるために「思想犯罪」を犯罪とする法律を制定していました。

先ほどおっしゃったように、自由な思考が疑問視されるべき状況はあるのでしょうか。自由な思考が、言論の自由を妨げるために悪用されたらどうなるのでしょうか。

思考を制限する理由があるかどうかは議論の余地がある領域です。現在、これは絶対的な権利です。私たちは「思想犯罪」という概念に対して、オーウェル的な反射的な反応を示します。

しかし哲学者のサム・ハリスは、確実に嘘を見破ることができる読心装置を使って「強制自白ゾーン」を作る可能性について語った。たとえば、法廷では、嘘をついていないか検出するために、そのような装置を着用するよう求められる場合があります。一方で、これは自由な思想に対する不当な侵害となるだろう。しかし、世論は、その空間ではこれが許容されると言うでしょうか?

© リンクトイン

あなたの本にあるこの一文が好きです。「他人に私たちの代わりに考えてもらうということは、他人に私たちの代わりに生きてもらうということだ。」これがあなたにとって問題の要点ですか?

それが私たちを種としてユニークなものにしているのです。私たちには鋭い歯や爪はありませんが、問題について考える能力はあります。私たちがこの世界で生き残るための能力は考えることであり、それは私たちを人間たらしめる重要な要素です。思考能力を犠牲にしたら、私たちはどの程度まで人間のままなのでしょうか？

しかし、結局のところ、私たちは実際にはあまり頻繁に考えていないのではないでしょうか？人間はエネルギーを節約するように進化しましたが、考えるには多くのエネルギーが必要です。実際、あなたは、人々は一人で静かに座って6分から15分考えるよりも、むしろ自分自身に電気ショックを与えることを好むという一連の研究[4]に言及しています。心理学者として、あなたにとってこれは驚くべきことでしょうか、それとも驚くべきことではないでしょうか?

ノーベル賞受賞者のダニエル・カーネマンは、 「人間と独立した思考の関係は、猫と水泳の関係と同じだ。人間は水泳もできるが、好まないのだ」という有名な言葉を残しています。

ダニエル・カーネマン（1934年 - ）は、イギリス委任統治領パレスチナのテルアビブ生まれのイスラエル系アメリカ人の心理学者です。彼はプロスペクト理論への貢献により2002年のノーベル経済学賞を受賞した。 ©リチャード・セイカー/オブザーバー

私自身の生活の中で、本当に考えたくない時もあります。そしてテクノロジーによってこれが簡単になります。たとえば、YouTube は多くの情報を提供します。これは考えるのに役立つと思うかもしれません。しかし、私たちは不安を和らげるために YouTube を使用するのと同じように、YouTube をデジタルベンゾジアゼピンとして使用していることがあるのでしょうか?

昔は、つまり私たちにとっての昔は、皿を洗ったり芝刈りをしたりするときには、考える時間がありました。最近では、ヘッドフォンをつけて、YouTube やポッドキャストを聞きながら、こうした作業を行うことが増えているようです。では、こうした教化は私たちの思考を助けているのでしょうか?それとも、私たちは毎日他人の考えに執着することで、自分自身が考えることを妨げているのでしょうか?

問題は、考えることの喜びをどう再発見するかです。思考のプロセスを楽しむにはどうすればいいでしょうか?本当に考えたくないのなら、やりたくないことをやらせる社会を作る意味はないですよね？

より自由に考える能力を守るために、生活の中でどのような変化を起こしましたか?

私が最初にしたのは、あらゆる形態のソーシャルメディアをやめることです。これは過剰反応かもしれません! Twitter が新しいアイデアの素晴らしい源になり得ることは明らかです。しかし、注意を引くことと目標から気をそらすことの間でバランスを取る必要があります。私にとっては、それは良いことよりも悪いことの方が多いです。

また、ソーシャル メディアのせいにして、自分の集中力の低下の原因を責めるのも簡単だと思います。しかし、この背後に誰がいるのかはまだ明らかにする必要がある。ソーシャル メディアの「いいね！」の罠に私たちを陥らせるのは、私たち自身の虚栄心やエゴなのかもしれません。だから、ソーシャルメディアに全面的に責任を負わせるのではなく、自分自身の動機や自尊心をどこから得ようとしているのかを見つめ直し、より効果的に自分自身を管理するよう努める必要があるのではないかと思います。

© ノーティル

私がやっているもう一つのことは、他の種類の思考を追加することです。学者としては、論文や本を持って部屋に閉じこもり、それが進歩するための最善の方法だと考えるのは簡単です。しかし、他者と共に考えることがいかに価値があり、他者と話すことで思考力がどれほど向上するかを示す研究[5]をすべて目にしたとき、内向的な私は、他者ともっと関わり、自由な思考につながる空間でさまざまな種類の会話をし、多様な視点から自分の考えに挑戦できる安全な環境で信頼できる人々と話すように努めるようになりました。

思考と歩行、特に自然の中での歩行を関連付ける研究もかなりあります。だから私は、移動中も前向きに考えるようにして、もっと散歩に出かけるようにしています。もちろん、私はこれをすることで多くの哲学者や心理学者の足跡をたどっています。

散歩中はポッドキャストや音楽を聴きません。

はい、ヘッドフォンは家に置いてきてください。

キャサリン・ハーモン 勇気

翻訳/湯葉と細竹

校正/時間

この記事はクリエイティブ・コモンズ・ライセンス（BY-NC）に基づいており、YuzhuとShouzhuによってLeviathanに掲載されています。

この記事は著者の見解を反映したものであり、必ずしもリヴァイアサンの立場を代表するものではありません。