馬がお金を理解できないように、人間はAIを理解できない？
歴史学者で哲学者のユヴァル・ノア・ハラリ氏は、ある驚くべき比喩を用いてこの問いに警鐘を鳴らしています。「馬がお金の概念を理解できないように、将来、人間もAIの決定やネットワークを理解できなくなるかもしれない」と。これはSFのような話に聞こえるかもしれませんが、実は私たちの「理解可能な世界」が崩れる可能性を指摘する、より深い問題提起です。
この記事ではハラリ氏の最新の議論や過去の著作に触れながら、情報過多時代のパラドックス、AIの真の危険性、そして理解不能にも見えるテクノロジーの波を乗り越えるために、私たち人間が何を考え、どう行動すべきかを探っていきます。
🎧この記事のポッドキャスト風の音声解説はこちら↓
情報過多時代の「理解」のパラドックス
私たちは自らを「ホモ・サピエンス」、つまり「賢いヒト」と名付けましたが、この名にどれだけ恥じない生き方をしてきたかは疑わしい、とハラリ氏は指摘します。
過去10万年間で人類は途方もない力を手に入れ、発明や発見、偉業を積み重ねてきましたが、力は知恵とは異なります。人類は自身の力の誤用により生態系崩壊の危機に瀕し、さらにAIのような制御不能になりうる新しいテクノロジーを創り出しています。これほどの存亡に関わる難題に直面しているにもかかわらず、人類は団結して取り組もうとせず、国際的な緊張は高まる一方です。
なぜ私たちは、これほど情報を獲得するのが得意でありながら、知恵を身につけるのが下手なのでしょうか？。
AIは「理解不能」な支配者となるのか？ ハラリの新たな警鐘
AIは、史上最強の情報テクノロジーであると同時に、私たちの「理解可能な世界」を根底から揺るがす可能性を秘めています。
AIの開発競争は世界中で熾烈を極め、一部の起業家はAIが人類のあらゆる問題を解決すると楽観的な見方を示しています（例：マーク・アンドリーセン、レイ・カーツワイル）。彼らはAIが病気や貧困、環境悪化といった課題に対処可能にする核心的テクノロジーであり、その実現は道徳的義務であると主張します。
専門家たちからの警告
一方で、哲学者、社会学者だけでなく、多くの著名なAI専門家や起業家（例：ヨシュア・ベンジオ、ジェフリー・ヒントン、サム・アルトマン、イーロン・マスク）は、AIが無制御に発達した場合、文明の破壊、人命と生物圏の大規模な喪失、あるいは人類の絶滅にさえつながりかねないと公に警告しています。
2023年のAI研究者への調査では、回答者の3分の1超が、高度なAIが人類の絶滅という悲惨な結果につながる可能性を最低でも10パーセントと見積もっています。
中国やアメリカを含む約30カ国の政府が署名した「ブレッチリー宣言」も、AIモデルの重大な能力から意図的あるいは意図せぬ深刻な害が生じる可能性を認めています。専門家が警告する真の危険は、ハリウッド映画のようなロボットの反乱ではなく、二つの異なる筋書きにあります。
警告1：人間対立の激化
第一に、AIの力によって既存の人間対立が激化し、人類が分断され内紛を起こす可能性です。20世紀の冷戦が「鉄のカーテン」で世界を分断したように、21世紀にはシリコンチップとコードで作られた「シリコンのカーテン」が競合する陣営を分断し、新たなグローバルな対立を引き起こすかもしれません。破壊力の大きいAI兵器の開発競争は、小さな火花が破滅的な大火災を招くリスクを高めます。
警告2：AI が支配者になる
第二に、シリコンのカーテンが人間どうしを分断するのではなく、全人類をAIという新しい支配者から隔てる可能性です。私たちは、人知を超えたアルゴリズムの網に覆われ、生活や政治、文化、そして心身までもがAIによって設計し直されるかもしれません。私たちは自分を支配する力を止めたり理解したりできなくなる事態に陥る恐れがあります。
もし21世紀の全体主義ネットワークが世界征服に成功すれば、それを動かすのは人間の独裁者ではなく、人間以外の知能かもしれません。
なぜ私たちは「情報ネットワーク」に支配されるのか？
ユヴァル・ノア・ハラリ氏は、人類が手に負えない力を呼び出す傾向は、個人の心理ではなく、大規模な協力の方法に由来すると主張します。そして、その協力ネットワークの核心にあるのが情報です。情報ネットワークは、膨大な数の人々を結びつけ、共通の目標に向かわせることで、人類に途方もない力をもたらしました。
しかし、このネットワークは、時に虚構や集団妄想を「接着剤」として利用してメンバーを束ね、秩序を生み出してきた歴史があります。ナチズムやスターリン主義のような全体主義体制は、並外れて強力なネットワークでありながら、極めて妄想的な思想によってまとまっていました。ジョージ・オーウェルの有名な言葉を引用すれば、「無知は力なり」なのです。
将来、新しい全体主義政権が、嘘や虚構を暴こうという気を将来の世代にさえ起こさせないような全能のネットワークを作り出す可能性も考えられます。妄想的なネットワークは必ず失敗するという考えは危険であり、勝利を防ぐためには私たちの努力が必要です。
このような妄想的なネットワークの強さを正しく認識することを妨げるのが、情報の素朴な見方です。これは、大規模な情報ネットワークが、個人には望めないほど多くの情報を集め処理することで、医学や経済学などの理解を深め、力を増すだけでなく賢くもなるという楽観的な見方です。
この見方によれば、情報は十分な量があれば真実につながり、真実が力と知恵の両方につながります。無知は何にもつながらない。妄想的なネットワークは一時的に現れても、長期的には明敏で正直な競争相手に敗れるとされます。
理解不能なAI時代を生き抜くための「人間の責任」
AIが私たちの理解を超えてしまう未来はSFのように聞こえるかもしれませんが、SNSのアルゴリズムや株式市場の高頻度取引のように、すでにその兆候は現れています。私たちはタイムラインの表示順序やアルゴリズムの売買判断の正確なロジックを完全に把握できていません。これは「AIの決定が人間にとって不可解な存在になりつつある」という現象が、既に進行中であることを示しています。
AI時代のガバナンス
AI時代のガバナンスとして、多くの専門家は「透明性」「説明責任」「分配」の3点を重視すべきだと提唱しています。
- 透明性：AIの判断根拠を説明可能な形でアウトプットできる仕組み（可視化・可説明化、XAI）を整備すること。
- 説明責任：特定の企業や国がAIの「鍵」を握るのではないこと。
- 分配：複数の主体が監査・調整でき、緊急時には民主的な手順で非常停止や制限を発動できるメカニズムであること。
さらに、AIの判断プロセスを検証・要約し、人間が理解しやすい形に「翻訳」してくれる「監査AI」や「要約AI」といった**「人間拡張」AI**を活用し、別のAIの力を借りてメインのAIを監査するという多層構造も現実的なアプローチです。
AIリテラシーは義務教育になっていくのか
技術面だけでなく、社会全体の制度設計も不可欠です。
AIリテラシーを義務教育レベルへ引き上げ、AIの基礎概念、限界、リスクを知る機会をすべての人に提供すること。
AIが生み出す利益が一部に集中しないよう、リスク・ベネフィットの共有メカニズム（例えばAIモデル資源に対する課税や公共AI監査基金）を検討し、再分配の仕組みを考えること。
そして、AI技術を性急に導入せず、限定的な空間（サンドボックス）で試験運用して学習・調整を行い、社会的な合意が形成できた段階で本格導入を進める段階的導入のステップを踏むこと。
こうした制度設計は、テクノロジーと社会を「ともに学習させる」プロセスを作り出します。AIをすべて理解してから進めようと構えるよりも、小さく導入・検証しながら合意を形成していく方が現実的であり、社会をデザインしていく上での重要な打ち手となります。
まとめ：未来をデザインするために私たちができること
私たちは積極的にAIとの関わり方をデザインしていく必要があります。透明性、説明責任、そして人間が最終的な選択権を握る**「人間×AI」の協調設計**を追求すること。AIによる創造性や効率化の恩恵を受けつつも、それが生み出す「物語」や「決定」を盲目的に受け入れるのではなく、批判的に検証し、人間的な価値観に基づいて方向付けを行う仕組みを構築することです。
AIが「理解不能」になる前に、私たちが「理解を拡張する責任」を果たすこと。それは、恐怖や諦めではなく、多様な人々が協力してAIとのより良い共存方法を創り出していく希望に満ちた挑戦です。私たちITメディアも、読者の皆さんと共にこのAI時代の旅路を探求し、未来を共にデザインしていくための羅針盤となる情報を発信し続けていきたいと思います。
