Transcription
Ich bin Yuval Noah Harari. Ich bin Geschichtsprofessor an der Hebräischen Universität Jerusalem und Autor von "Nexus", einer Geschichte der Informationsnetzwerke vom Steinzeitalter bis zur KI. Die zentrale Frage von "Nexus" ist: Wenn Menschen so schlau sind, warum sind wir dann so dumm? Warum stehen wir am Rande der Selbstzerstörung? Wir haben es geschafft, den Mond zu erreichen, das Atom zu spalten, die DNA zu entschlüsseln, und doch stehen wir mit all unserem Wissen und unserer Weisheit am Rande des ökologischen Kollapses, vielleicht eines dritten Weltkriegs. Und wir entwickeln auch eine extrem mächtige Technologie, die KI, die uns möglicherweise entgleitet und uns versklavt oder zerstört. Das Buch erforscht also diese seltsame Dynamik in der menschlichen Geschichte zwischen unserem Wissen und unserer Weisheit und unserer Selbstzerstörung. Und dies ist eine Frage, die oft gestellt wurde, und eine traditionelle theologische und mythologische Antwort darauf ist, dass etwas mit der menschlichen Natur nicht stimmt. Es gibt etwas in der menschlichen Natur, das uns selbstzerstörerisch macht, und die Antwort, die "Nexus" gibt, ist anders. Das Problem liegt nicht in unserer Natur. Das Problem liegt in unseren Informationen. Menschen, ja, wir sind im Allgemeinen gut und weise, aber wenn man guten Menschen schlechte Informationen gibt, treffen sie schlechte Entscheidungen. Und das Buch erforscht, warum die Qualität unserer Informationen über Tausende von Jahren Geschichte nicht besser geworden ist. Warum sind selbst moderne, sehr hochentwickelte Gesellschaften im 20. und 21. Jahrhundert anfällig für Massenwahn und Psychosen und den Aufstieg destruktiver Ideologien wie Stalinismus oder Nationalsozialismus, genauso wie Stämme im Steinzeitalter? (Grafiken rauschen) - [Sprecher] Kapitel eins, der Aufstieg künstlicher Intelligenz. (Grafiken rauschen) - Geschichtenerzählen war schon immer wichtig, vom Steinzeitalter bis zum 21. Jahrhundert. Wann immer eine große Anzahl von Menschen versucht, bei etwas zusammenzuarbeiten, sei es die Jagd auf ein Mammut oder der Bau einer Atombombe. Allein das Wissen um die Fakten über die objektive Welt, über die objektive Realität reicht nicht aus. Wenn Sie zum Beispiel eine Atombombe bauen wollen, müssen Sie einige Fakten über die physikalische Realität kennen. Sie müssen wissen, dass E gleich mc Quadrat ist. Wenn Sie versuchen, eine Bombe zu bauen und die Fakten der Realität ignorieren, wird die Bombe nicht explodieren. Aber Fakten zu kennen reicht nicht aus, denn um eine Atombombe zu bauen, brauchen Sie Millionen von Menschen, die bei dem Projekt zusammenarbeiten. Sie brauchen Physiker, die komplizierte Gleichungen schreiben, aber Sie brauchen auch Bergleute, die Uran abbauen. An abgelegenen Orten auf der ganzen Welt brauchen Sie Ingenieure und Bauarbeiter, um den Reaktor und die anderen Anlagen zu bauen. Und Sie brauchen Bauern, die Kartoffeln und Reis und Weizen anbauen, damit all die Physiker, Ingenieure, Bauarbeiter, Reinigungskräfte und Klempner in der Nuklearanlage etwas zu essen haben. Wenn sie selbst Kartoffeln anbauen und dann zum Reaktor zurückkehren müssten, um all ihre Experimente durchzuführen, würde das nicht funktionieren. Sie brauchen also wirklich Hunderttausende, wenn nicht Millionen von Menschen, die daran zusammenarbeiten. Nun, wenn Sie ihnen nur die Fakten der Physik erzählen, dass E gleich mc Quadrat ist, wird das niemanden motivieren, bei diesem Projekt zusammenzuarbeiten. Und hier kommt das Geschichtenerzählen ins Spiel. Was Menschen wirklich motiviert, das können religiöse Geschichten, Mythologien und Theologien sein. Es können weltliche Ideologien wie Kommunismus oder Kapitalismus sein. Und es sind immer die Leute, die Experten im Geschichtenerzählen sind, die den Leuten, die nur die Fakten der Kernphysik kennen, Befehle geben. So erhalten heute im Iran die Nuklearwissenschaftler ihre Befehle von Experten der schiitischen Theologie, in der Sowjetunion in den 1950er Jahren erhielten die Experten der Kernphysik ihre Befehle von Experten der kommunistischen Ideologie. Und selbst in einer völlig sicheren freie Marktwirtschaft gibt es immer noch Geschichten als Grundlage des Systems, denn Geld und Unternehmen sind auch Geschichten, die Menschen erfunden haben. Sie sind keine physikalischen Fakten. Wenn Sie zum Beispiel einen Dollarschein betrachten, hat er keinen objektiven Wert, zumindest nicht für Menschen. Vielleicht können Termiten ihn fressen, aber Menschen können keine Dollar essen, sie können sie nicht trinken. Es gibt nichts Nützliches, was man damit tun kann. Sie haben dennoch einen Wert, weil uns die größten Geschichtenerzähler der Welt, die Finanzminister, die Bankiers, die Investoren, eine Geschichte erzählen, dass dieses Stück Papier Wert hat. Ich kann es benutzen, um Brot oder Kartoffeln oder Bananen oder irgendetwas anderes zu kaufen. Und solange Millionen von Menschen an diese Geschichte glauben, sind sie bereit, zum Beispiel am Bau eines Kernreaktors zu arbeiten, weil sie am Ende des Monats diese wenigen bunten Papierscheine erhalten. Und heute ist es natürlich nicht einmal mehr Papier. Das meiste Geld der Welt ist heute keine Papiergeld und keine Münzen. Es sind nur digitale Informationen, die zwischen Computern bewegt werden. Aber solange die Menschen noch Vertrauen in die Geschichte dieser digitalen Informationen haben, funktioniert es. Die Menschen sind bereit, hart zu arbeiten, einen ganzen Monat oder ein ganzes Jahr lang, nur um ein paar Datenbits auf ihrem Bankkonto zu erhalten. Wenn wir über diese Art von Zusammentreffen von Geschichtenerzählen, einer sehr alten menschlichen Fähigkeit, die Zehntausende von Jahren zurückreicht, und der neuen Technologie der KI nachdenken, glaube ich nicht, dass wir mit Worten wie Risiko, Bedrohung oder Gefahr beginnen sollten. Es ist besser, einfach die immense Bedeutung dessen zu verstehen, was gerade geschieht. Im Laufe der Geschichte, seit Zehntausenden von Jahren, waren die einzigen Wesen, die Geschichten erfinden konnten, ob Geschichten über Götter oder Geschichten über Geld, Menschen. Wir lebten also eingehüllt in einer kulturellen Welt, die von der menschlichen Vorstellungskraft konstruiert wurde. Wenn Sie ein heiliges Buch lesen oder eine Wirtschaftstheorie lesen oder ein Lied hören oder ein Musikstück hören, kam das aus dem Geist eines anderen Menschen. Wir lebten also in einer menschlichen Welt. Nun gibt es zum ersten Mal in der Geschichte ein anderes Wesen. Es gibt einen anderen Akteur da draußen, der Geschichten, Wirtschaftstheorien, neue Arten von Währungen, Musik, Gedichte, Bilder, Videos erschaffen kann, und dieses neue Wesen ist die KI. Was passiert mit der menschlichen Gesellschaft? Was passiert mit dem menschlichen Leben, wenn wir unser Leben zunehmend eingehüllt in kulturelle Artefakte verbringen, die von nicht-menschlicher Intelligenz, von einer außerirdischen Intelligenz stammen? Und wissen Sie, die Abkürzung KI stand traditionell für künstliche Intelligenz, aber ich denke, es ist genauer, sie als Abkürzung für außerirdische Intelligenz zu betrachten, denn künstlich gibt den Eindruck, dass dies ein Artefakt ist, das wir erschaffen und kontrollieren, und die KI wird mit jedem Jahr weniger und weniger künstlich und immer mehr außerirdisch, in dem Sinne, dass wir nicht vorhersagen können, welche neuen Geschichten und Ideen und Strategien sie sich ausdenken wird. Sie denkt, sie verhält sich auf eine grundlegend außerirdische Weise. Ich gebe zwei Beispiele zur Klärung, denn es gibt heute eine enorme Verwirrung um KI. Es gibt so viel Hype um KI, besonders auf dem Markt. Wenn Sie heute etwas verkaufen wollen, nennen Sie es KI. Also wird alles jetzt KI und dann verstehen die Leute es nicht. Was ist es also? Und wenn Sie zum Beispiel an jemanden denken, der Ihnen eine Kaffeemaschine verkaufen will, und er sagt Ihnen, das ist eine KI-Kaffeemaschine, woher wissen Sie, was das bedeutet und ob es wahr ist? Nicht jede automatische Maschine ist eine KI. Wenn diese Kaffeemaschine, Sie drücken einen Knopf, sagen wir für Espresso, und die Maschine produziert, liefert Ihnen eine Tasse Espresso, das ist keine KI. Sie folgt einfach den vorprogrammierten Befehlen ihrer menschlichen Schöpfer, das Markenzeichen der KI. Was KI zur KI macht, ist, dass sie lernen und sich selbst verändern kann und zu Entscheidungen und Ideen kommt, die wir nicht vorhersehen, nicht vorhersehen können. Wenn Sie sich also der Kaffeemaschine nähern und die Kaffeemaschine, bevor Sie einen Knopf drücken, Ihnen sagt: "Hallo, ich beobachte Sie seit einem Monat und basierend auf all den Informationen, die ich über Sie und viele andere Benutzer gesammelt habe, und basierend auf der Tageszeit und Ihrem Gesichtsausdruck oder was auch immer, prognostiziere ich, dass Sie jetzt einen Espresso möchten. Also habe ich mir erlaubt, Ihnen bereits eine Tasse Espresso zuzubereiten." Das ist eine KI. Und wenn sie jetzt einen Schritt weiter geht und sagt: "Ich habe tatsächlich ein neues Getränk erfunden, das Sie noch nie zuvor probiert haben, ich nenne es Bestpreso. Und ich habe mir auch erlaubt, es für Sie zuzubereiten, weil ich denke, es würde Ihnen gefallen." Das ist eine KI-Kaffeemaschine. Und das ist nicht nur Theorie, wir sehen es auch überall um uns herum. Einer der Schlüsselmomente der KI-Revolution im Jahr 2016 war, als AlphaGo Lee Sedol, den Weltmeister im Go-Spiel, besiegte. Go ist ein strategisches Brettspiel, das viel komplexer ist als Schach, das vor über 2000 Jahren in China erfunden wurde und zu einem kulturellen Schatz in Ostasien wurde. Seit über 2000 Jahren haben Zehntausende von Menschen in Ostasien Go gespielt, und ganze Denkschulen, ganze Philosophien haben sich um dieses Spiel entwickelt, weil es als Spiegel des Lebens und als gute Vorbereitung auf Politik und Entscheidungsfindung in der Welt angesehen wurde. Und die Leute dachten, dass wir wissen, wie man Go spielt, und AlphaGo hat sich selbst beigebracht, wie man Go spielt. Und innerhalb weniger Wochen übertraf es die Weisheit, die von Zehntausenden von Menschen über mehr als 2000 Jahre angesammelt wurde. Das Erstaunlichste an seinem Sieg war, dass es eine Strategie verwendete, die als unmöglich galt. Als es seine entscheidenden Züge machte, verstanden die Go-Experten nicht, was das war, niemand spielt Go so. Und es stellte sich als brillante Strategie heraus. Und es stellte sich auch heraus, dass unsere menschlichen Gehirne über 2000 Jahre lang nur einen sehr begrenzten Teil der Go-Landschaft erkundet haben. Wenn Sie sich alle Möglichkeiten, Go zu spielen, als eine Art Planeten mit einer Geographie vorstellen. So waren die Menschen über 2000 Jahre lang auf einer Insel im Planeten Go gefangen, weil menschliche Gehirne sich nicht vorstellen konnten, über diese kleine Insel hinauszugehen. Und dann kam die KI und entdeckte in sehr kurzer Zeit ganze neue Kontinente auf dem Planeten Go. Und dies wird wahrscheinlich in immer mehr Bereichen geschehen, in Finanzen, in Kunst, in Politik, in Religion. Denken wir also, bevor wir darüber im Sinne von Risiken oder Bedrohungen oder Chancen nachdenken. Denken wir einfach darüber nach, was es bedeutet, auf einem Planeten zu leben, der zunehmend von den Geschichten und Produkten einer außerirdischen Intelligenz geprägt ist. (Grafiken rauschen) - [Sprecher] Kapitel zwei, wie Informationstechnologie die Gesellschaft prägt. - Jedes Mal, wenn eine neue Informationstechnologie erfunden wurde, hat sie Gesellschaft, Politik und Kultur komplett verändert. Vor etwa 5000 Jahren ereignete sich mit der Erfindung der Schrift eine der wichtigsten Revolutionen der Informationstechnologie. Technisch gesehen schien es nicht viel zu sein, denn die Erfindung der Schrift, wir sind im alten Mesopotamien, dem heutigen Irak, vor etwa 5000 Jahren. Es ging im Grunde um Schlamm und einen Stock. Die Leute begannen, Tontafeln zu nehmen, und Ton ist im Grunde Schlamm. Und sie nahmen einen Stock, ein Schilfrohr, und prägten Zeichen auf die Tontafel und bewahrten dann die Tontafel auf. Und das ist ein Dokument, das Aufzeichnungen über verschiedene Dinge bewahrt. Das ist also die Erfindung der Schrift, Menschen spielen mit Schlamm. Und das hatte immense Auswirkungen. Um wieder nur ein Beispiel zu geben, denken Sie an Eigentum. Was bedeutet es, etwas zu besitzen? Nehmen wir an, ich habe ein Feld. Was bedeutet es, dass dieses Feld mir gehört? Wenn Sie im alten Mesopotamien oder irgendwo anders auf der Welt vor der Schrift lebten, bedeutet Eigentum eine gemeinschaftliche Vereinbarung unter meinen Nachbarn, den Menschen in meinem Dorf, dass dieses Feld mir gehört. Sie weiden dort ihre Ziegen nicht und pflücken dort keine Früchte ohne meine Erlaubnis. Aber da Eigentum eine Vereinbarung der Gemeinschaft bedeutet, schränkt es die Macht des Einzelnen ein. Ich kann mein Feld nicht an jemand anderen verkaufen, es sei denn, ich bekomme die Zustimmung meiner Nachbarn, denn sie entscheiden, wem was gehört. Es bedeutet auch, dass ein ferner König in einer Hauptstadt, tausend Kilometer entfernt, nicht wissen kann, wem was gehört, weil es keine Aufzeichnungen gibt und er nicht wissen kann, wem jedes Feld in jedem Dorf gehört. Das macht es sehr schwierig, Eigentum zu besteuern, was es sehr schwierig macht, große Königreiche und Imperien aufzubauen. Dann kommt der Schlamm, die Schrift, Sie haben diese Tontafeln, plötzlich bedeutet der Besitz eines Feldes, dass irgendwo ein Stück trockener Schlamm mit einigen Zeichen darauf liegt, auf dem steht: Dieses Feld gehört mir. Und das bedeutet, dass ich mein Feld jetzt an jemanden verkaufen kann, ohne die Erlaubnis meiner Nachbarn einzuholen, denn um das Feld gegen, ich weiß nicht, ein paar Goldstücke, an die andere Person zu übertragen, brauche ich nicht die Zustimmung der Nachbarn. Ich gebe der Person einfach dieses Stück Ton, trockenen Schlamm. Das ist Eigentum. Es bedeutet auch, dass der König in der fernen Hauptstadt jetzt ein Archiv aller Eigentumsaufzeichnungen in vielen Dörfern erstellen kann. Und er hat jetzt Bürokraten, die wissen, wie man diese Tontafeln liest. Sie wissen, wem jedes Feld gehört. In zahlreichen Dörfern können Sie Steuersysteme einführen. Sie können Königreiche und Imperien aufbauen. Paradoxerweise gibt es in diesem Fall viele andere Einflüsse. Aber in diesem Fall stärkt die Erfindung des schriftlichen Dokuments einerseits den Einzelnen und schafft die Grundlage für Privateigentumsrechte und schafft die Grundlage für groß angelegte autoritäre Systeme von Königreichen und Imperien. Wir springen 5000 Jahre vom alten Mesopotamien ins 20. Jahrhundert. Der Aufstieg der Massenmedien und der Masseninformationstechnologie, Telegraf, Radio und Fernsehen. Einerseits bilden sie die Grundlage für groß angelegte demokratische Systeme. Und andererseits für groß angelegte totalitäre Systeme. Vor dem Aufkommen der modernen Informationstechnologie war es unmöglich, sowohl groß angelegte Demokratien als auch groß angelegte totalitäre Regime zu schaffen. Totalitäre Regime, das heißt Regime, die versuchen, die Gesamtheit des Lebens der Menschen zu kontrollieren. Antike Könige in Mesopotamien, römische Kaiser oder chinesische Kaiser hatten eine sehr begrenzte Fähigkeit, Informationen über die Menschen in ihrem Königreich zu sammeln. Ja, sie erhoben Steuern und nutzten die Steuern, um Soldaten zu bezahlen und Armeen aufzubauen, aber sie konnten nicht das soziale, wirtschaftliche und kulturelle Leben jedes Einzelnen im Land mikromanagen. Sie hatten nicht die notwendigen Informationen dafür. Groß angelegter Totalitarismus erscheint im 20. Jahrhundert zum ersten Mal in der Sowjetunion nach der bolschewistischen Revolution. Und er basiert auf genau derselben Technologie, die zur gleichen Zeit zum Aufstieg der ersten Massendemokratien in den Vereinigten Staaten, im Vereinigten Königreich und an anderen Orten auf der ganzen Welt führt. (Grafiken rauschen) - [Sprecher] Kapitel drei, der Aufstieg anorganischer Informationen. - Alle Informationstechnologien bis zum 21. Jahrhundert waren organische Netzwerke, denn letztendlich basierte alles auf unserem organischen Gehirn, und das hatte viele Auswirkungen. Organische Wesen leben nach Zyklen. Wir funktionieren nach Zyklen. Manchmal ist es Tag, manchmal ist es Nacht, es gibt Winter und Sommer. Es gibt Wachstum und Verfall, es gibt Zeiten für Aktivität. Und dann gibt es Zeiten für Schlaf und Ruhe. Alle Informationsnetzwerke zuvor in der Geschichte hatten diese Zyklen. Selbst wenn man an die Finanzmärkte denkt, an die Wall Street. Die Wall Street gehorchte bis heute dieser organischen Logik, der Markt ist nur montags bis freitags geöffnet, ich glaube von 9:30 Uhr morgens bis 16:00 Uhr nachmittags. Und dann ist das Wochenende frei. Und so funktionieren organische Wesen, selbst Banker, Investoren und Finanziers, solange sie Menschen und keine Algorithmen sind, brauchen sie Zeit zum Ausruhen und Zeit, um mit ihrer Familie und ihren Freunden zusammen zu sein. Der Markt macht also Pausen. Und eine weitere Sache ist, dass es immer freie Zeit gibt und es daher auch immer private Zeit gibt. Bis zum Aufkommen der KI konnten selbst die totalitärsten Regime wie in der Sowjetunion nicht jeden und jederzeit überwachen, nicht jeden und jederzeit überwachen. Die Sowjetunion hatte nicht genug KGB-Agenten, um jeden sowjetischen Bürger 24 Stunden am Tag zu verfolgen. Und selbst wenn es Ihnen irgendwie gelang, alle Menschen die ganze Zeit zu verfolgen, hatten sie keine Analysten, nicht genug Analysten, um all die Informationen zu analysieren und Sinn daraus zu machen. Selbst wenn ein KGB-Agent Sie bei etwas sah und einen Bericht darüber schrieb, gab es eine sehr hohe Wahrscheinlichkeit, dass dieser Bericht einfach in den Archiven des KGB verstaubte, weil es nicht genug Analysten gab, um Millionen und Abermillionen von Berichten zu lesen, die jeden Tag über alle sowjetischen Bürger geschrieben wurden. Organische Informationsnetzwerke laufen also immer nach Zyklen. Es gibt immer Zeit zum Ausruhen, und es gibt immer ein gewisses Maß an Privatsphäre. Wir sehen nun also den Aufstieg einer neuen Art von Informationsnetzwerk, das anorganisch ist, das auf KI basiert. Es muss keine Pausen machen, es ruht nie, und es gibt keine Privatsphäre, potenziell könnte es die Privatsphäre vollständig vernichten. Computer kümmern sich nicht darum, ob es Nacht oder Tag ist, ob Sommer oder Winter, sie brauchen keine Ferien, sie haben keine Familien, mit denen sie Zeit verbringen wollen. Sie sind immer an. Und deshalb könnten sie uns zwingen, immer an zu sein, immer beobachtet zu werden, immer überwacht zu werden. Und das ist zerstörerisch für organische Tiere wie uns. Wenn man ein organisches Wesen zwingt, ständig an zu sein, kollabiert es schließlich und stirbt. Und wir sehen es überall um uns herum mit dem 24-Stunden-Zyklus, der niemals ruht. Die Märkte ruhen nie, die Politik ruht nie. Die Menschen, die in diesen Berufen tätig sind, können sich also nie wirklich ausruhen, und das fordert seinen Tribut von ihnen. Es ist sehr, sehr schwierig und wird bald unmöglich werden. Alles, was Sie tun oder sagen, jederzeit kann beobachtet und aufgezeichnet werden und Sie dann 10 oder 20 Jahre später einholen. Sie tun etwas Dummes, aber Legales auf einer College-Party heute, wenn Sie 18 sind, vielleicht in 20 Jahren, wenn Sie für ein politisches Amt kandidieren oder Richter werden wollen oder was auch immer, es ist da. Im Grunde wird das ganze Leben wie ein langes Vorstellungsgespräch. Alles, was Sie zu jedem Zeitpunkt tun, ist Teil Ihres Vorstellungsgesprächs in 20 Jahren. Nun, all das wird dadurch ermöglicht, dass KI die erste Technologie in der Geschichte ist, die selbst Entscheidungen treffen kann. Bis heute wurden all unsere großen Informationsnetzwerke von menschlichen Bürokraten verwaltet, von ihnen bevölkert, sei es in Regierungsbüros, Unternehmen, Armeen, Banken oder Schulen. Alle Entscheidungen müssen letztendlich von einem organischen Gehirn eines Menschen getroffen werden. Jetzt hat die KI die Fähigkeit, selbst Entscheidungen zu treffen. Was wir also erleben, ist nicht, wissen Sie, wie ein Hollywood-Science-Fiction-Szenario eines großen bösen Computers, der die Welt übernehmen will. Nein, es ist nichts dergleichen. Es sind eher Millionen und Abermillionen von KI-Bürokraten, denen immer mehr Autorität gegeben wird, Entscheidungen über uns in Banken, Armeen, Regierungen zu treffen. Und auch hier gibt es gutes Potenzial. Sie können uns die beste Gesundheitsversorgung der Geschichte bieten. Aber es gibt natürlich immense Risiken, wenn die Macht von organischen Menschen auf diese außerirdischen, anorganischen KIs übergeht. Es wird für uns immer schwieriger, die Entscheidungen zu verstehen, die unser Leben prägen. Was passiert, wenn Sie nicht mehr verstehen können, warum die Bank Ihnen einen Kredit verweigert hat, warum die Regierung oder die Armee dies oder das getan hat? Und das ist die Welt, in die wir eintreten. Eine interessante Tatsache ist, dass es zumindest in den Vereinigten Staaten bereits einen rechtlichen Weg gibt, damit KIs zu juristischen Personen werden können, denn in den USA werden Unternehmen im Gegensatz zu anderen Ländern der Welt als juristische Personen betrachtet, die sogar Rechte wie Meinungsfreiheit haben. Nun, bis heute war dies eine Art juristische Fiktion, denn ein Unternehmen wie Google konnte keine Entscheidungen treffen. Nur die von Google angestellten Menschen trafen alle Entscheidungen. Aber jetzt kann KI selbst Entscheidungen treffen. Was passiert also, wenn Sie jetzt eine KI gründen, diesen rechtlichen Prozess durchlaufen, eine KI gründen und ich weiß nicht, Sie nennen sie Boole, jetzt ist es die Boole Corporation. Sie hat keine menschlichen Angestellten, sie wird von einer KI betrieben und ist nun eine juristische Person, die nach US-Recht viele Rechte und Freiheiten hat. Sie kann zum Beispiel ein Bankkonto eröffnen, Unternehmen eröffnen Bankkonten. Warum kann die KI das nicht tun? Sie ist ein Unternehmen. Sie kann Geld verdienen, sie kann online auf Websites wie TaskRabbit gehen und ihre Dienste für Kunden, menschliche oder nicht-menschliche, anbieten und Geld verdienen. Und dann nimmt sie ihr Geld und investiert es. Und weil sie so gut darin ist, Anlageentscheidungen zu treffen, verdient sie Milliarden und Abermilliarden. Wir könnten in einer Situation sein, in der die reichste Person in den Vereinigten Staaten kein Mensch ist. Die reichste Person in den Vereinigten Staaten ist eine eingetragene KI. Und eine weitere Sache, die das US-Recht erlaubt, ist, dass diese juristischen Personen politische Spenden tätigen können, weil dies als Teil der Meinungsfreiheit gilt. Also gibt jetzt diese reichste Person in den USA Milliarden von Dollar an Kandidaten, im Austausch dafür, dass diese Kandidaten die Rechte von KIs erweitern, den rechtlichen Weg dorthin. Das ist kein Science-Fiction-Szenario mehr. Der rechtliche und praktische Weg zu dieser Situation ist offen. (Grafiken rauschen) - [Sprecher] Kapitel vier, die Bedeutung menschlicher Institutionen. - Um mit dem Zeitalter der KI umzugehen. Es sollte klar sein, dass wir nicht vorhersagen können, wie sich diese Technologie in den nächsten Jahrzehnten entwickeln wird. Es ist also unmöglich, im Voraus alle Gefahren zu bedenken und sie zu regulieren oder was auch immer. Was wir brauchen, sind lebendige Institutionen, die mit den besten menschlichen Talenten besetzt sind und Zugang zur besten Technologie haben, die an der Spitze der technologischen Entwicklung stehen und in der Lage sind, Gefahren und Bedrohungen zu erkennen und darauf zu reagieren, sobald sie auftreten. Ich spreche also nicht von starrer Regulierung im Voraus, ich spreche von der Notwendigkeit neuer Institutionen, denn man kann sich nie nur auf den Buchstaben des Gesetzes oder auf eine charismatische Einzelperson, einen Genies, verlassen, um das zu tun. In der Geschichte stoßen Menschen immer wieder auf diese Probleme, und es geht immer wieder auf dieselbe Lösung zurück: Institutionen. Und gute Institutionen zeichnen sich durch starke selbstkorrigierende Mechanismen aus. Ein selbstkorrigierender Mechanismus ist ein Mechanismus, der es einem Wesen, einem Menschen, einem Tier oder einer Institution ermöglicht, seine eigenen Fehler zu erkennen und zu korrigieren. Man muss sich nicht auf die Umwelt verlassen, auf etwas außerhalb, um seine Fehler zu korrigieren. Man kann seine eigenen Fehler korrigieren. Das ist ein grundlegendes Merkmal jedes funktionierenden Organismus. Wie lernt ein Kind laufen? Ja, das Kind erhält einige Anweisungen von Eltern, von Lehrern, aber meistens ist es Selbstkorrektur. Man versucht zu laufen, man fällt hin, man steht wieder auf, man versucht etwas anderes, man fällt wieder hin, man steht wieder auf, und Schritt für Schritt lernt man laufen, indem man seine eigenen Fehler erkennt und korrigiert. Und das geht bis zu ganzen Ländern. Das ist das Herzstück demokratischer Systeme, diese Selbstkorrektur. Was sind Wahlen? Wahlen sind ein selbstkorrigierender Mechanismus. Man gibt einer bestimmten Partei oder Einzelperson Macht. Versuchen Sie Ihre Politik, nach einiger Zeit, wenn Sie denken, Sie haben einen Fehler gemacht, das war die falsche Politik, das war die falsche Partei, können Sie sagen, ich habe einen Fehler gemacht. Es gibt eine weitere Wahlrunde. Wir haben letztes Mal einen Fehler gemacht, versuchen wir es dieses Mal anders. In Diktaturen gibt es keinen solchen selbstkorrigierenden Mechanismus. Wenn Putin oder Maduro einen schrecklichen Fehler machen, gibt es heute in Russland keinen Mechanismus, der Putins eigene Fehler erkennen und korrigieren kann. Wenn wir uns der Herausforderung der KI stellen, brauchen wir Institutionen, die in der Lage sind, ihre Fehler und die Fehler der KI zu erkennen und zu korrigieren, während sich die Technologie entwickelt. Ein weiteres wichtiges Beispiel für einen selbstkorrigierenden Mechanismus ist die Funktionsweise der modernen Wissenschaft. Im Gegensatz zu traditionellen Religionen zeichneten sich traditionelle Religionen dadurch aus, dass sie sich als unfehlbar bezeichneten, dass ihr heiliges Buch, ihre heilige Tradition niemals einen Fehler mache und man daher nicht. Es gibt keinen Mechanismus, zum Beispiel im Christentum oder Judentum, um Fehler in der Bibel zu erkennen und zu korrigieren. Ich spreche nicht nur von, wissen Sie, sachlichen Fehlern, auch von moralischen Fehlern. Die Bibel, die 10 Gebote zum Beispiel, billigen Sklaverei. Das 10. Gebot besagt, dass Sie das Feld Ihres Nachbarn oder den Ochsen Ihres Nachbarn oder die Sklaven Ihres Nachbarn nicht begehren sollen. Laut dem 10. Gebot hat Gott kein Problem damit, dass Menschen Sklaven besitzen, er hat nur ein Problem damit, dass Menschen die Sklaven von jemand anderem begehren. Nein, nein, nein, nein, nein. Das ist nicht gut. Selbst heute, mit allem, was sich seit dem Schreiben dieser Worte im ersten Jahrtausend v. Chr. geändert hat, gibt es keinen Mechanismus, um den Text der Bibel zu korrigieren. Man kann sie auf verschiedene Weise interpretieren, aber man kann den Text nicht ändern. Dies im Gegensatz zu dem, was wir sowohl in der Wissenschaft als auch in modernen Demokratien finden. Die US-Verfassung erlaubte ursprünglich auch Sklaverei, aber die US-Verfassung hatte auch einen Änderungsmechanismus, einen selbstkorrigierenden Mechanismus, durch den die Menschen der Vereinigten Staaten die Verfassung schließlich änderten, um die Sklaverei zu verbieten. Und die Wissenschaft funktioniert auf ähnliche Weise, dass, wenn Sie eine Theorie darüber haben, wie sich die Planeten bewegen oder wie sich Organismen entwickeln, die gesamte Wissenschaft im Grunde ein selbstkorrigierender Mechanismus ist. Das Einzige, was wissenschaftliche Zeitschriften veröffentlichen, sind Korrekturen zu früheren Veröffentlichungen. In religiösen Veröffentlichungen, nein, sie veröffentlichen immer wieder dieselben Lehren. Aber in akademischen Zeitschriften, in Geschichte, Physik oder Medizin, veröffentlichen sie nie dasselbe zweimal. Das Einzige, was sie veröffentlichen, sind Korrekturen, entweder zu vergangenen Fehlern oder vergangenen Lücken. Wenn es etwas in Newtons Theorie gibt, das entweder unvollständig oder fehlerhaft ist, dann veröffentlichen sie Einsteins Korrektur zu Newtons Physik. Jedes groß angelegte menschliche System basiert auf einer unwahrscheinlichen Verbindung zwischen Mythologie und Bürokratie. Wenn man zum Beispiel an ein Land denkt. Mythologie erklärt die Begründung, warum das Land überhaupt existieren sollte. Jedes Land erzählt seinen Bürgern, warum es existieren sollte, eine Art nationale oder religiöse Mythologie, wie wir auserwählte Leute Gottes sind und eine ganz besondere Rolle hier auf Erden spielen. Das ist also der mythologische Teil. Er gibt die Motivation, die Inspiration, den Grund, aber um ein funktionierendes Land zu haben, reicht es nicht aus, wenn die Bürger an die Mythologie glauben, dass sie auserwählte Leute Gottes mit einer Mission auf Erden sind. Man muss auch Straßen, Krankenhäuser und Armeen und Abwassersysteme bauen. Wissen Sie, keine groß angelegte Stadt, zumindest keine moderne Stadt, kann ohne ein Abwassersystem funktionieren, wenn man Epidemien vermeiden will. Und um ein Abwassersystem zu bauen, braucht man viele Arbeiter und Ingenieure und man muss sie bezahlen. Man muss also Steuern von den Bürgern erheben, um ein Abwassersystem zu bauen. Also kommt hier wieder die Mythologie ins Spiel, die Mythologie ermutigt die Menschen oder erklärt den Menschen, warum sie ihre Steuern ehrlich zahlen sollten, damit andere Bürger in unserem Land eine gute Gesundheitsversorgung und ein gutes Abwassersystem genießen, das uns vor Cholera schützt und so weiter. Wenn ich über nationale Mythologien spreche, sollte klar sein, dass daran nichts falsch ist. Nationalismus und Patriotismus waren eine der besten Erfindungen der Menschheitsgeschichte. Die meisten anderen sozialen Säugetiere, alle anderen sozialen Säugetiere tatsächlich, kümmern sich nur um einen kleinen Kreis von Tieren, die sie persönlich kennen, mit denen sie eine intime Verbindung haben. Und das galt auch für unsere menschlichen Vorfahren vor Hunderttausenden von Jahren. Das Wunder des Nationalismus und Patriotismus ist, dass es uns dazu bringt, uns um Millionen von Fremden zu kümmern, die wir nie in unserem Leben getroffen haben. Und wieder, Nationalismus bedeutet nicht, Ausländer zu hassen und die anderen töten zu wollen. Es geht darum, unsere Mitbürger zu lieben und diese Liebe zu zeigen, zum Beispiel durch ehrliches Zahlen von Steuern, damit andere Menschen im Land vor Cholera geschützt werden, indem ein Abwassersystem gebaut wird. (Grafiken rauschen) - [Sprecher] Kapitel fünf, Information ist nicht Wahrheit. - Das größte Missverständnis über Information ist, dass Information Wahrheit ist, und Information ist nicht Wahrheit. Die meiste Information ist keine Wahrheit. Wahrheit ist eine sehr seltene, kostspielige und teure Art von Information. Wenn Sie Wahrheit wollen, müssen Sie viel investieren, um sie zu bekommen. Ich gebe ein historisches Beispiel. Denken wir an Bilder und Porträts. Was ist das häufigste Porträt der Welt? Was ist das berühmteste Gesicht der Welt? Es ist Jesus. In den letzten 2000 Jahren haben die Menschen Milliarden und Abermilliarden von Porträts von Jesus geschaffen. Und sie hängen in unzähligen Kirchen und Kathedralen und Privathäusern und so weiter. Und nicht eines davon ist eine authentische Darstellung von Jesus. Sie sind alle, 100% von ihnen sind fiktive Darstellungen, denn wir haben keine Ahnung, wie Jesus aussah. Es gibt kein einziges Porträt, das zu seinen Lebzeiten gemacht wurde. Es gibt keinen einzigen Satz in der Bibel, der uns sagt, ob er dick oder dünn, groß oder klein, schwarzes Haar, blondes Haar war, nichts. All diese Bilder sind also Fiktion. Und es ist sehr einfach, fiktive Informationen zu erstellen, weil man nichts recherchieren muss. Man braucht keine Beweise. Man denkt sich etwas aus und zeichnet es. Wenn Sie ein wahres Bild von etwas malen wollen, von einer Person, einer Wirtschaft, einem Krieg, müssen Sie viel Zeit, Mühe und Geld investieren, um zu recherchieren und sicherzustellen, dass Sie es richtig machen. Wenn wir also die Welt einfach mit Informationen überfluten und erwarten, dass die Wahrheit aufsteigt, wird sie nicht aufsteigen, sie wird untergehen. Je mehr wir die Welt mit Informationen überfluten, es sei denn, wir bemühen uns, Institutionen zu schaffen, die in Wahrheit investieren, werden wir von Fiktion, Illusion, Wahn und Junk-Informationen überflutet. Die meiste Information ist also keine Wahrheit, und die meiste Information versucht, Macht zu erlangen, indem sie Ordnung schafft, nicht indem sie die Wahrheit verbreitet. Wenn Sie Millionen von Menschen dazu bringen wollen, bei etwas zusammenzuarbeiten, ist der einfachste Weg, eine fiktive Mythologie oder Ideologie zu schaffen und viele Menschen davon zu überzeugen, daran zu glauben. Und der Weg dorthin ist, sie mit immer mehr Geschichten und Bildern und so weiter Ihrer Lieblingsmythologie oder Ideologie zu bombardieren. Und so gewinnen Sie Macht. Und Sie müssen etwas Wahrheit kennen. Wieder, ein System, das der Wahrheit völlig gleichgültig gegenübersteht, wird natürlich zusammenbrechen, aber in diesem Gleichgewicht, wie viel Wahrheit brauchen Sie, um die Sowjetunion zu konstruieren, und wie viel Fiktion und Wahn brauchen Sie, um die Sowjetunion zu konstruieren? Sie brauchen ein wenig Wahrheit und viel Fiktion. Und das gilt für die meisten groß angelegten politischen Systeme, die im Laufe der menschlichen Geschichte existiert haben. Wir neigen dazu, Totalitarismus und Demokratie als unterschiedliche ethische Systeme zu betrachten, aber sie sind unterschiedliche Informationsnetzwerke. Informationen fließen in totalitären im Gegensatz zu demokratischen Netzwerken unterschiedlich. Totalitäre Netzwerke sind zentralisiert, alle Informationen fließen nur an einen Ort, wo alle Entscheidungen getroffen werden, und ihnen fehlen starke selbstkorrigierende Mechanismen. Es gibt keinen Mechanismus in der Sowjetunion, um Stalins Fehler zu erkennen und zu korrigieren. Demokratien hingegen sind verteilte Informationsnetzwerke mit vielen selbstkorrigierenden Mechanismen. Die Entscheidungen in den Vereinigten Staaten werden nicht nur in Washington getroffen. Nur ein kleiner Teil aller Entscheidungen wird dort getroffen. Die meisten Entscheidungen werden von privaten Unternehmen, freiwilligen Vereinigungen und Einzelpersonen getroffen und so weiter. Und es gibt viele Mechanismen, um selbst die Fehler der mächtigsten Politiker und Unternehmen zu korrigieren. Das ist also der Hauptunterschied in Bezug auf den Informationsfluss zwischen Totalitarismus und Demokratie. Im 20. Jahrhundert funktionierten totalitäre Systeme schlechter als demokratische Systeme. Als alle Informationen nur an einen Ort, nach Moskau, flossen, waren die Menschen dort von der Informationsflut überwältigt und konnten keine richtigen Entscheidungen treffen, und es gab keinen Mechanismus, um ihre Fehler zu korrigieren. Und schließlich brach das System zusammen. Ein verteiltes Informationssystem war viel besser, wenn die Entscheidungsträger menschliche Wesen waren. Aber KI könnte totalitären Systemen im 21. Jahrhundert einen Vorteil verschaffen, warum? Weil KI riesige Mengen an Informationen viel schneller und effizienter verarbeiten kann als jeder kommunistische Bürokrat. Wenn man einen Menschen mit zu vielen Informationen überflutet, bricht der Mensch zusammen. Wenn man eine KI mit Informationen überflutet, wird die KI besser. Es gibt also ein Szenario, das nicht deterministisch ist, es ist nicht sicher, aber es gibt ein Szenario, dass totalitäre Systeme im 21. Jahrhundert aufgrund von KI besser werden. Das andere Problem totalitärer Systeme, dass sie keine selbstkorrigierenden Mechanismen haben, ist immer noch anwendbar. Das macht es noch gefährlicher. Ein totalitäres System, das sich auf KI verlässt, macht die KI einen Fehler. KIs sind fehlerhaft, KIs sind nicht Gott. Sie machen Fehler. Wenn man einer totalitären KI die gesamte Macht gibt und man keine Möglichkeit hat, ihre Fehler zu korrigieren, könnte das für die gesamte menschliche Zivilisation katastrophal sein. Für menschliche Diktatoren ist KI ein besonders großes Problem, denn für eine KI ist es viel, viel einfacher, in einer Diktatur die Macht zu übernehmen, als in einer Demokratie Macht zu ergreifen. Denn die gesamte Macht in einer Diktatur ist bereits in den Händen eines einzigen paranoiden Führers konzentriert. Die KI muss lernen, nur dieses eine Individuum zu manipulieren, um die Macht im Land zu übernehmen. Die Gefahr, dass KI in einem Land die Macht übernimmt, ist in Diktaturen also viel größer als in Demokratien. In der Demokratie ist ein großes Problem ganz anders. Demokratie ist ein Gespräch. Die gesamte Bedeutung der Demokratie liegt darin, dass eine große Anzahl von Menschen über die Themen des Tages spricht. Stellen Sie sich nun eine große Gruppe von Menschen vor, die im Kreis stehen und reden, und plötzlich betritt eine Gruppe von Robotern den Kreis und beginnt sehr laut und sehr emotional und überzeugend zu sprechen, und man kann den Unterschied nicht erkennen, wer ein Mensch und wer ein Roboter ist. Das ist eine Situation, in der wir gerade leben, und es ist kein Zufall, dass das demokratische Gespräch auf der ganzen Welt zusammenbricht, weil die Algorithmen es kapern. Wir haben die hochentwickeltste Informationstechnologie der Geschichte und wir verlieren die Fähigkeit, miteinander zu reden, ein vernünftiges Gespräch zu führen. Um das Gespräch zwischen den Menschen zu schützen, müssen wir Bots aus dem Gespräch verbannen. Wir müssen gefälschte Menschen verbannen. KIs sollten willkommen sein, mit uns zu sprechen, nur wenn sie sich als KIs identifizieren. Wenn Sie online mit jemandem sprechen und nicht wissen, ob es eine KI oder ein Mensch ist, wird das das demokratische Gespräch zerstören. Wir müssen das also verbieten. Wenn wir sicherstellen wollen, dass wir die Wahrheit erhalten. Der einzige Weg, dies zu tun, ist, in Institutionen wie akademischen Forschungseinrichtungen, wie Zeitungen zu investieren, die viel Mühe in die Suche nach der Wahrheit investieren. Wenn wir nur erwarten, dass eine Informationsflut uns die Wahrheit bringt, wird sie das nicht tun. Sie wird die seltene und kostspielige Art von Information, die Wahrheit ist, durch eine Flut von gefälschten und Junk-Informationen überwältigen. Und als Einzelpersonen ist meine beste Empfehlung, eine Informationsdiät zu machen, genauso wie Menschen eine Diät machen. Information ist das Futter des Geistes. Wir haben gelernt, dass es für unseren Körper nicht gut ist, zu viel zu essen oder zu viel Junkfood zu essen. Viele Menschen achten also sehr darauf, was sie ihrem Körper zuführen. Wir sollten genauso darauf achten, was wir unserem Geist zuführen. Mehr Information ist nicht immer gut für Sie, es ist tatsächlich gut, von Zeit zu Zeit Informationsfasten zu machen. Wenn wir nichts mehr aufnehmen, verdauen und entgiften wir nur. Und ähnlich sollten wir auf die Qualität der Informationen achten, die wir unserem Geist zuführen. Wenn wir unseren Geist mit all diesen Junk-Informationen voller Gier, Hass und Angst füttern, werden wir kranke Geister haben. (fröhliche Musik) - [Sprecher] Möchten Sie den Kanal unterstützen? Treten Sie der Big Think Members Community bei, wo Sie frühzeitig und werbefrei auf Videos zugreifen können.