バイプロLOG 
Table of Contents
本を手に取ったきっかけ・感想
『サピエンス全史』を初めて読んで強く印象に残ったこともあり、同じユヴァル・ノア・ハラリさんの著書、「NEXUS 情報の人類史」を読んでみました。
前回紹介した上巻では、人間にとってネットワークとしての機能をもつ「情報」について、宗教や国家を支える神話や物語、さらには印刷技術やSNSを始めとする情報技術の発展により、情報が大量に、急速に拡散するような社会になったことで、私たち人類がどのように情報社会を歩んできているのかを紹介しました。
NEXUS 情報の人類史(上)｜ユヴァル・ノア・ハラリ 著
上巻は、冒頭のプロローグが長めに構成されており、上巻・下巻をあわせた本書の主張が凝縮されていますので、上巻のプロローグ部分を熟読するとより理解しやすいと思います。
AI社会が到来することで私達が陥ってしまう問題について、造像力を膨らます助けに本書はなると思います。
今回はユヴァル・ノア・ハラリさんの著書、「NEXUS 情報の人類史(下)」を紹介します。
- 『サピエンス全史』が好きな方、読んだ方
- 新しい視点から人類史を学びたい方
- 情報社会の背景を知り、現代のニュースやテクノロジーを深く理解したい方
- 宗教・国家・貨幣など「人が信じる仕組み」に興味を持つ方
- 「情報の力」について考えたい方
人生に取り入れたい文脈
本も読むだけではなくて、行動に移さなければ意味がありません。
個人的に共感した部分、覚えておこうと感じた部分、人生に取り入れてみたいと感じた部分だけ取り上げています。
必ずしも書籍の内容の全体を俯瞰しているわけではありませんし、本記事は単なる要約ではありませんので、詳細は書籍を購入して確認してください。
虚構はネクサスとして機能（上巻の振り返り）
ユヴァル・ノア・ハラリさんの著書「サピエンス全史」では「虚構（フィクション）」の力が、膨大な数の見知らぬ人同士が協力することを可能にし、ホモ・サピエンスの発展につながったと紹介されています。
サピエンス全史(上)_認知革命 ｜ユヴァル・ノア・ハラリ
サピエンス全史(上)_農業革命、人類の統一 ｜ユヴァル・ノア・ハラリ
サピエンス全史(下)｜ユヴァル・ノア・ハラリ
本書のタイトルにもなっている「ネクサスNEXUS 」は、一般に「つながり」「結びつき」「絆」「中心」「中枢」などを意味しています。
人間にとって「情報」はさまざまな点をつなげるネットワークの要として機能しており、多数の見知らぬ者どうしが協力することを可能にしました。
過去の歴史を振り返ると、誤りや噓や空想、神話や物語をはじめとする虚構も「情報」の一種であり、新しい現実を創り出すものでもありました。
「情報」は必ずしも真実を写すものではありませんでした。
「情報」はさまざまな点をつなげるネットワークの要として機能していることから、本書ではこれをネクサスとしています。
虚構による秩序（上巻の振り返り）
情報技術やテクノロジーの進歩によって、より多くの情報が自由に流れると、多くの人が真実にたどり着けるようになり、世の中が良くなったかと言うと、必ずしも話はそう単純ではありませんでした。
科学的な事実が広く知られるようになったという良い面もありましたが、宗教的な幻想やフェイクニュースや陰謀論もまた、急速に拡散するようになりました。
印刷術という新しい情報テクノロジーは、近世ヨーロッパの魔女狩りの火を煽りました。
電信や電話やラジオは、人種や階級などについての虚構を広めるのに使われ、それがナチスによるホロコースト（ユダヤ人を中心とする大量虐殺）や、スターリンによる強引な農業の集産化とクラーク（資本主義者の農民）の根絶にも大きな役割を果たしました。
情報の主な仕事は事実を表すことではなく、人々をつなげることでした。
情報ネットワークは歴史を通してしばしば真実よりも秩序を優先してきました。
秩序はネットワークの維持には不可欠なもので、この秩序を生み出さなければネクサスたりえないと本書では述べられています。
真実と違って虚構は、単純で柔軟なため、人間をまとめやすく（ネクサスとしての機能を発揮しやすく）、全体主義の暴走をもたらすという側面がありました。
虚構は好きなだけ単純にできるのに対して、真実はもっと複雑になりがちです。
真実はしばしば不快で不穏であり、それをもっと快く気分の良いものにしようとしたら、もう真実ではなくなってしまいます。
それに対して、虚構はいくらでも融通が利くという点に危うさがあります。
ソーシャルメディアのアルゴリズムと憎悪の拡散
Facebookが憎悪や陰謀論を拡散した結果、ミャンマーで少数民族のロヒンギャに対する虐殺やフェイクニュースの氾濫を助長する結果となった事例がありました。
この事例はAIを利用したFacebookのアルゴリズムが「意識なき決定者」となったのが問題でした。
Facebookはビジネスモデルに即して、自社のアルゴリズムにユーザーエンゲージメントを増すという最優先目標を与えました。
すると、アルゴリズムは厖大な数のユーザーを対象に実験を行ない、憤慨や憎悪を煽って攻撃的な言動に走らせるようなコンテンツがエンゲージメントを生み出すことを発見しました。
人間は、慈悲についての説教よりも、憎しみに満ちた陰謀論に惹きつけられる傾向が強かったのです。
そのためアルゴリズムは、ユーザーエンゲージメントを追い求めるにあたって、憤慨や憎悪を煽るコンテンツを拡散させるという致命的な決定を下しました。
意識を持たないフェイスブックのアルゴリズムは、より多くの人により多くの時間をフェイスブックに注ぎ込ませるという目標を持ち、その目標の達成に役立つなら、常軌を逸した陰謀論を意図的に拡散するという決定を下すことができました。
その結果、Facebookのアルゴリズムは実質、「意識なき決定者」となりました。
アルゴリズムと偏見の壁
情報は正しくなくても力を生み出せるが、その力を賢く使えなければ、災いを招きかねない事がわかります。
そして、力が増大すればするほど、その災いの潜在的な規模も増大します。
私たちは今、空前の力を獲得しつつありますので、その危険の大きさは言うまでもありません。
2020年代の初めには、アルゴリズムはすでに自らフェイクニュースや陰謀論を創作する段階まで進んでいます。
人間は既に自分たちでは扱えない力を手にし、頼ってしまっているのかもしれませんし、今後はより一層そのような環境になることが容易に想像できます。
現に、今回問題として取り上げたアルゴリズムは膨大なデータを処理できますが、その決定を人間が説明するのは難しいです。
アルゴリズムは人間にできるよりもはるかに多くのデータポイントを考慮に入れ意思決定をすることができます。
現に銀行や様々な機関がしだいにアルゴリズムに頼って意思決定を行なうようになっています。
人間の頭は、アルゴリズムが扱っている多くのデータポイントに基づいて下された決定を、分析、評価するのはもはや難しくなっているかもしれません。
さらにアルゴリズムの偏見を取り除くのは、私たちが自らの偏見を取り除くのと同じぐらい難しいかもしれません。
アルゴリズムは、いったんトレーニングされると、トレーニングされた内容を白紙に戻すのは手間暇・時間がかかり、難しいのが現状です。
完全に中立なデータは存在せず、過去の偏見を含むデータを学習すれば偏見を再生産する結果になります。
人間を操る「異質の知能」
AIは「人工知能」ではなく「異質の知能（Alien Intelligence）」として理解すべき段階にあると本書では述べられています。
AIは人間の設計を超え、自律的に判断する方向へ進化しています。
AIは単に道具ではなく、人間の意思決定や行動を操作する力を持ち始めています。
私達を待ち受けている未来は、ほとんどの SF作品が想像しているものとは大きく異なるかもしれません。
映画『ターミネーター』では、通りを走り回って人々を撃つロボットが描かれていました。
映画『マトリックス』では、コンピューターは人間社会の完全な支配権を得るために、まず私たちの脳をコンピューターネットワークに直接接続して、脳の物理的な支配権を獲得しなければならないという見方が示されていました。
これまでのSF作品では主に、インテリジェント・マシンが引き起こす物理的な脅威に的を絞ってきました。
しかし、人間を操作するためには、脳をコンピューターに物理的に接続する必要はありません。
過去の歴史を振り返ると、預言者や詩人や政治家は、何千年もの間、言語を使って社会を操作し、作り変えてきました。
そのやり方を学習しているコンピューターは、殺人ロボットを送り込んで私たちを撃たせる必要はないと結論づけるはずです。
人間を操って引き金を引かせられる可能性が十分にあることがわかります。
なので、未来の脅威は暴力ではなく、言語や物語による「心の支配」にあるのです。
2010年代には、ソーシャルメディアは人間の注意力を支配するための戦場でした。
2020年代には、その戦いは注意から親密さへと移る可能性が高いと本書では述べられています。
私たちとの親密な関係を捏造するための戦いでコンピューターどうしが争い、それからその関係を使って私たちを説得し、特定の政治家に投票させたり、特定の製品を買わせたり、過激な信念を採用させたりしうるとしたら、人間の社会や心理はどうなってしまうでしょうか？
個人的に驚いたのは、2020年のある調査の推定では、ツイートの43.2%をボットが生成していたそうです。
デジタル情報機関のシミラーウェブ社が行なった、より包括的な22年の調査では、ツイッターのユーザーの5パーセントがおそらくボットですが、そのボットが「ツイッターに投稿されるコンテンツの20.8 ～29.8%」を生成していることがわかったそうです。
誰をアメリカの大統領に選ぶかといった、きわめて重要な疑問について人間が討論しようとするとき、耳にする声の多くがコンピューターによって生み出されたものである可能性があるのです。
私達が相手にしているのは本当に人間なのでしょうか。
一日の多くの時間をSNSに奪われている人が多いですが、あなたの注意を奪ったり心を動かしているは本当に人間なのでしょうか。
この見分けは、今後ますます難しくなり、生産的にたくさんの情報発信をするボットの投稿から、人間の投稿を見つけることが難しくなるかもしれません。
希望と責任
本書は人類の将来が不安になるような内容でしたが、人類は虚構を共有して協力してきた歴史を持ちます。
AI時代に必要なのは不可謬の幻想を捨て、自己修正メカニズムを備えた制度や機関を築くことです。
完全に中立なデータは存在せず、過去のデータは偏見が含まれていますので、AIであっても可謬で偏見を再生産する可能性があるのです。
本書はそのためのネクサスを目指しているのです。
