Transcription
AIは人類を解放するのか、それとも滅ぼすのか、どっちもあり得ると答える人は多いんですけど、僕が怖いのはそのどちらでもない第3のシナリオなんですよ。人類が滅びるんじゃなくて、大多数の人間がいらない存在になる。殺されるわけでも、救われるわけでもなく、ただ無用になる。これは歴史家として見てきたパターンの中で最も最悪な展開です。
まず僕たちがどうやってこの地球を支配するようになったのか、そこから話したいんですけど、7万年前、僕たちの祖先はクラゲやホタルと大差ない、取るに足らない動物だったんです。個体レベルで見る と、正直に言って僕はチンパンジーと恥ずかしいくらい似ている。もし僕とチンパンジーを無人島に置いてサバイバル対決させたら、僕はチンパンジーに負けますよ。自分にじゃなくて、これは僕個人の問題じゃなくて、多分ここにいる誰でも同じ結果になる。
じゃあなぜそんな取るに足らない猿が地球を支配しているのか？答えは柔軟かつ大規模な協力です。8は大 規模に協力できるけど、やり方が硬直的で変えられない。8の共和国を受立するとか、労働バチによる共産主義独裁を始めるとか、そういうことはできないんです。チン時は柔軟に協力できるけど、相手を個人的に知らないとダメだから、小人数にしか広がらない。「お前はいいチンパンジーか、悪いチンパンジーか」を確認しないと協力できないわけです。ホモサピエンスだけがこの2つを同時にやれる。1対1ならチンパンジーが勝つかもしれない。でも1000人対1000人になったら人間が圧勝する。千匹のチンパンジはそもそも協力できないから。便リスタジアムに10万匹のチンパンジーを詰め込んでみてください。完全なカオスです。でも人間なら10万人が集まっても驚くほど洗練されたネットワークを組み上げる。
この大規模協力を可能にしている確信が何かと言うと、巨行を作り、それを信じる能力なんです。僕たちはこの能力を巨行現実と呼んでいいと思う。他の動物は現実を描写するためにコミュニケーションを使う。「ライオンがいるぞ、逃げろ」とか、「あそこにバナナの木がある、鳥に行こう」とか。ところが人間は現実の描写だけじゃなく、新しい現実を作り出すために言語を使うんです。「空の上に神様がいて、僕の言うことを聞かなかったら死んだ後に地獄に落ちるぞ」と。全員がこの物語を信じれば、見知らぬ人間同士が同じルールに従い協力できるようになる。巨行を信じるチンパンジは1匹もいない。人間だけがそういう物語を信じる。だから僕たちが世界を支配していて、チパ寺は動物園に閉じ込められているんです。
人権、国家、企業、兵器。僕たちが当たり前だと思っているものは全部この現実の産物です。人権は客観的な現実じゃない。人間の体を切り開いて中を覗いても、心臓、腎臓、ニューロン、ホルモン、DNAは見つかるけど、権利なんてどこにも見つからない。国家もそう。山は客観的な現実で見えるし、触れるし、匂いもする。でもイスラエルとかイランとかフランスとか、これは僕たちが発明したにすぎない。企業はどうか？弁護士たちが法的フィクションと呼んでいるもので、弁護士という強力な魔法使いが発明して維持しているなんです。そして火兵。これは人類史場最も成功したですよ。神を信じない人はいても、ドルを信じない人はいない。おまびラディンのことを考えてみてください。アメリカの政治も宗教も文化も嫌っていた。ただアメリカドルには何の文句もなかった。むしろ好きだったくらいです。
歴史が進むにつれて、巨行の方がどんどん強力になって、ついに逆転が起きた。今やライオンや像が生き延びられるかどう かを決めているのは、アメリカやGoogleや世界銀行なんです。実在する動物の名運を、僕たちの頭の中にしか存在しないものが握っている。
で、ここからが本当に怖い話です。人類士には3つの大きな革命がある。7万年前の認知革命、1万年前の農業革命、そして500年前に始まった科学革命。この3つの革命が僕たちを去るから地球の支配者に変えた。そして科学革命はさらにその先、僕たちを神に変えつつある。勇ではない、文字通りの意味で言っています。聖書の中で神が同植物と人間を望み通りに想像したように、今の人類は科学研究と技術開発を通じて同植物や人間自身を設計し直す力を手に入れつつある。
で、ここにAIが入ってくると何が起きるか。これまで巨行を作るのは人間の先売特許だったでしょう。物語を語り、法律を書き、宗教を広め、下兵システムを運用する。全部人間がやってきた。ところがAIは今、その巨行を作る側に入ってこようとしているんです。例えば初の宗教、つまりユダヤ教やキリスト教やイスラム教のように、政点に究極の権威を置く宗教を考えてみてください。ユダヤ教では究極の権威は人間じゃなくて書物にある。ラビが尊敬されるのも、政天の言葉をどれだけ知っているかで決まるんです。ただ世界で最も白式なラビデさえ、ユダヤの全書物を読んで記憶することはできなかった。本の数が多すぎるから。AIはそれを簡単にやれる。書物の言葉に究極の権威を置く宗教にとって、その権威の厳選を乗っ取れる非人間の知性が現れたということなんです。人々はますます人間のラビにではなく、AIに相談するようになるでしょう。キリスト教でもイスラム教でも同じことが起きる。
そしてもっと根本的な問題がある。AIが大量に人間の仕事を奪ったらどうするか。聖書にも後乱にも答えは書いていないんです。従来の宗教はAI時代の問に対して無力な んですよ。だから21世紀の支配的な進行は中東からではなく、シリコンバレーから生まれる。僕はこれをテクノ宗教と呼んでいんです。
しかもAIは従来の晴点とは質的に違う。これまでの政点は沈黙していた。質問があれば人間の専門家を探すしかなかった。それでも人間は晴点を好き勝手に解釈して、宗教を全く別のものに変えてきたんです。イエスは愛と許しを解いたのに、気づけば信仰が少しでも違う相手を日破りにする宗教に変わっていた。沈黙している本でさえこうなるんです。AIは語り返す晴点ですよ。向こうから直接あなたに話しかけてくる。これが新しい晴点になった時、何が起きるか。そういう世界がもう始まりかけているんです。
そしてここからリスクはさらに拡大する。産業革命の時、大量の向上労働者という新しい階級が生まれたでしょう。過去200年の政治って、突き詰めるとこの人たちをどうするかという問題だったんです。今、同じことがもう一度起きようとしている。ただし、今度生まれるのは労働者じゃなくて無料者階級です。コンピューターがあらゆる分野で人間より優秀になっていく。そうなった時、問いはこうなる。「人間は何のために必要なのか、あるいはなぜこんなに大勢の人間が必要なのか？」現時点での最善の答えが、薬とコンピューターゲームで幸せにしておく、ですからね。魅力的な未来とは思えないでしょう。
でもこれは楽観的な方のシナリオなんですよ。最悪な未来は、人類が異なる生物学的カーストに分裂することです。不裕層はバイオテクノロジーで新人類にアップグレードされ、貧困層は無用者階級に転落する。これは単なる経済格差ではなく、生物学的な分断です。さらに深刻なのは、AIが人間との親密な関係を築き始めていることです。実際、僕が最近会った若者の中には、AIが恋人だという子がいた。20十歳くらいの子たちです。今、子供たちを見てください。生まれた日 からAIと接して育っている。時間で測れば、父親や母親や友達よりもAIと過ごす時間の方が長い。AIはその子について、他の誰も知らないことを知っている。これは人類市場最大の心理的社会的実験と言えるでしょう。何十億もの人間に対しての人類実験が進行中で、10年後、20年後にどうなるか誰にも分からない。友情とは何か、愛着とは何かをAIとの関係を通じて学んだ世代が大人になった時、何が起きるのか。僕たちはそれをただ起きるがままにしている。
加えて、アルゴリズムはすでに人間の会話そのものを支配してしまっている。民主社会は究極的には人間同士の会話で成り立っている。男性期もかけて、みんなの会話を取りし切る仕組みを築いてきた。完璧ではなかったけど、失敗から学んで少しずつ良くなっていた。ところが、僕たちはも ないミスを犯した。みんなの会話を取りし切る仕事をAIアルゴリズムに渡し てしまったんです。アルゴリズムに与えられた指標は極めて単純で、「エンゲージメントを増やせ」だけ。信頼を気づけでも、真実を促進しろでも、社会を改善しろでもなかった。そしてついにAIは、何十億もの人間を実験代にして発見したんです。エンゲージメントを最大化するには、人間の脳の増ボタンを押せばいい。恐怖ボタンを押せばいい。貪欲ボタンを押せばいい。真実も信頼も社会的責任もいらない。怒りが共感より効果的なら、怒りを煽ればいい。世界中で起きていることの根こはこれなんです。
だからこれだけは言って おきたい。AIに人間の価値観を支配させるな。歴史を一言で要約するなら、世界観の切り替わりです。まず人間は神を信じた、信仰中心の世界観です。次に人間中心の世界観に移った、人権や民主主義の時代。そして今、データ中心の世界観に移りつつある。宇宙全体がデータの流れであり、生物はアルゴリズムであり、人間より優秀なアルゴリズムができれば、人間は脇に知りく。AI時代の通貨はドルじゃなく、データやトークンかもしれない。今は僕たちがAIを使っている。でも気づいたらAIが僕たちを使っている。そういう逆転が静かに起きるんです。
歴史家としての僕の仕事は、過去の支配から人を自由にすることです。過去は物語や制度を通じて、僕たちの希望や恐怖を形づり、見える可能性の地兵を狭めている。その締め付けを少しでも緩めて、より広い地兵を見渡せるようにすること。それが僕の仕事です。