The (Terrifying) Theory That Your Thoughts Were Never Your Own

Und dann wird es, wissen Sie, ein wenig beunruhigend. Sprache ist ein autonomes Informationssystem, man könnte es sogar als Organismus bezeichnen, und es läuft in unseren Gehirnen. Es wird gegen Ihren Willen heruntergeladen. Bis Sie die Verzichtserklärung lesen, ist es zu spät. Was lässt Sie denken, Ihre Gedanken seien Ihre eigenen? Laut bahnbrechender Arbeit der Professoren Elan Barenholtz und William Hahn stammt jedes Wort, das Sie sprechen, von einer außerirdischen Intelligenz, die sich während der Kindheit in Ihrem Gehirn installiert hat. Sprache, so argumentieren sie, ist ein Organismus, der menschliche Gehirne als sein Substrat nutzt. Elan Barenholtz wurde bereits in diesem Kanal interviewt, und es ging viral. Der Link ist in der Beschreibung. Professor Barenholtz vertritt die Ansicht, dass unser linguistisches System mit bedeutungslosen Schnörkeln arbeitet, ohne Zugang zur reichen sensorischen Welt der Erfahrung. Er glaubt, dass LLMs Sprache beherrschen können, aber niemals Schmerz empfinden. Professor William Hahn hingegen, der ebenfalls interviewt wurde und dessen Interview viral ging, Link in der Beschreibung, erweitert dies auf virtuelle Maschinen und Software-Ebenen. Professor Hahn glaubt, dass Bewusstsein nur eines von vielen parallel laufenden Programmen ist. Ich wurde eingeladen, dieses Panel live an der University of Toronto zu moderieren, mit einer Veranstaltung, die von ekkolapto organisiert wurde. Wiederum sind Links zu allem in der Beschreibung. Heute möchte ich jedem danken, der sich die Zeit aus seinem Zeitplan und seinem geschäftigen Leben genommen hat, um die vielen Dinge zu tun, die Menschen hier an der University of Toronto tun, um zu diesem äußerst besonderen Live-Podcast mit Curt Jaimungal zu kommen. Geben Sie Curt einen Applaus. Er betreibt den größten Wissenschafts- und Philosophie-Podcast der Welt. Er heißt Theories of Everything. Suchen Sie danach auf YouTube, Twitter/X, Instagram, wie auch immer sie es heutzutage nennen. Curt Jaimungal, Theories of Everything. Sehr einfach zu sagen. Und dann sind wir auch bei Professor William Hahn, der extra aus Florida angereist ist. Geben Sie Professor Hahn einen Applaus. Geben Sie Professor Elan Barenholtz einen Applaus, der ebenfalls extra aus Florida angereist ist. Ich bin äußerst glücklich, heute in der Gegenwart dieser brillanten Menschen zu sein. Und die unglaubliche Arbeit, die Curt in den letzten Jahren mit diesem Kanal und seinem Podcast geleistet hat, ist einfach nichts weniger als erstaunlich. Und ich ermutige jeden, der etwas über Philosophie und Wissenschaft, Technologie, KI, Bewusstsein, Psychedelika wie Andres' Arbeit, vielleicht sogar Hypnose, all diese verrückten Dinge lernen möchte, dringend, diesen Kanal zu abonnieren. Also noch einmal, das ist Theories of Everything. Und ich denke, ohne weitere Umschweife sollten wir anfangen, oder? Lasst uns rocken. Okay, willkommen, alle zusammen. Ich möchte mit etwa fünf Minuten über Ihre Theorie von allem beginnen, so wie Sie die Welt sehen. Und dann werden wir sehen, wie Will die Welt sieht. Und dann werden wir sie vergleichen und gegenüberstellen. Okay, danke. Meine Theorie von allem ist eine Art Metatheorie, weil sie eine Theorie von Theorien ist. Es ist eine Theorie des Denkens. Und sie hat ein paar Teile. Aber ich werde alles in fünf Minuten unterbringen. Der erste Teil handelt von der Natur der Sprache. Jeder ist jetzt mit den großen Sprachmodellen vertraut, Dinge wie ChatGPT, Gemini, Claude, welches auch immer Ihr Favorit ist. Sie alle haben die gleiche grundlegende Engine. Was all diese Modelle getan haben, ist zu lernen, wie man ein Wort aus der Sequenz von Wörtern vorhersagt, die ihm vorausgingen. Und im Prozess des Aufbaus dieser sehr ausgeklügelten Maschinen, die aus vielen, vielen dieser Milliarden von Parametern bestehen, um diese prädiktive Struktur zu lernen, haben wir tatsächlich eine Eigenschaft der Sprache selbst entdeckt. Sprache ist autogenerativ. Das ist der Begriff, den ich verwende, was bedeutet, dass sie in ihrer Struktur enthalten ist. Der Korpus der Sprache selbst enthält die Struktur, die zu ihrer eigenen Generierung benötigt wird. Was diese Modelle tun, ist lediglich das Erlernen der prädiktiven Struktur, die bereits in der Sprache vorhanden ist. Sprache ist ein autonomes Informationssystem. Man könnte es sogar als Organismus bezeichnen. Und es läuft in unseren Gehirnen. Es hat tatsächlich keinen Zugriff auf die anderen Dinge, die in unseren Gehirnen vor sich gehen. Wenn wir über Objekte mit Merkmalen und Farben sprechen, gibt es einen sensorischen Apparat in unserem Gehirn, der diese Informationen verarbeitet. Unser linguistisches System weiß davon nichts. Unser linguistisches System ist, was wir als unbegründet bezeichnen können. Es kennt nur Symbole. Ich nenne sie bedeutungslose Schnörkel. Es kennt die Beziehung zwischen diesen bedeutungslosen Schnörkeln. Es weiß, dass das Wort rot dazu neigt, zusammen mit dem Wort Apfel und dem Wort blau zu gehen. Und es weiß, dass sie in einer bestimmten Beziehung zueinander stehen. Aber es weiß nicht im tiefen Sinne oder überhaupt in irgendeinem Sinne, dass diese tatsächlich außerhalb der Welt der Sprache selbst liegen. Die erste Beobachtung hier ist also, dass Sprache ihr eigenes System ist. Und was in Silizium und in diesen großen Sprachmodellen wahr ist, ist meiner Behauptung nach auch bei uns wahr. Wenn ich hier stehe und vor Ihnen spreche, geschehen in meinem Gehirn allerlei Dinge. Ich denke an visuelle Bilder. Ich habe ein Gefühl meiner Körperlichkeit, meines Körpers. Aber da ist ein Sprachmodell, ein LLM, sozusagen, das läuft und diese Worte spricht. Es tut dies in Verbindung mit diesen anderen Systemen. Es empfängt Nachrichten von ihnen. Aber was es wirklich tut, ist nur seine eigene prädiktive Engine. Und das ist eine radikale Abkehr von der Art und Weise, wie wir bisher über Sprache gedacht haben. Und wenn ich wir sage, meine ich die menschliche Spezies. Es gibt etwas zutiefst Intuitives oder zutiefst Unintuitives daran. Es gibt eine tiefe Intuition, dass unsere Sprache im Einklang steht, vollständig eingebettet ist in alles andere, dass wir, wenn wir sprechen, über Dinge außerhalb der Sprache sprechen. Dies ist also eine sehr radikale These, dass Sprache diese Eigenschaft hat. Und dass tatsächlich das, was in uns vor sich geht, in gewisser Weise ein autonomes Informationssystem ist, das nicht dasselbe ist wie der Rest unserer kognitiven Architektur. Eine Möglichkeit, darüber nachzudenken, ist, dass die Kultur selbst in uns gepflanzt wurde, dieses Informationssystem, das läuft. Und ob zum Guten oder zum Schlechten, es treibt viel von unserem Verhalten an, aber es ist nicht ganz dasselbe wie das, was fühlt, das, was sich in gewisser Weise kümmert. Das ist also Teil eins der These, bei der man denken könnte, nun, das reicht. Und tatsächlich denke ich, dass dies zu einer dramatisch anderen, fast existenziellen Sichtweise auf Wissen und seinen Platz in unserem Leben führt. Aber es gibt noch ein weiteres Stück dazu, denn Sprache ist nicht nur autogenerativ, es gibt etwas Besonderes an der Art und Weise, wie die Modelle diese Generierung durchführen. Die Modelle machen also diese sogenannte Autoregressivität, ein Wort, das Sie oft von mir hören werden, wenn Sie mit mir abhängen. Und Autoregressivität ist diese besondere Art der Vorhersage, bei der man eine Sequenz nimmt, sagen wir die Sequenz, die Katze saß auf der, man kann das nächste Wort erraten, vielleicht ist es Matte. Das ist ein beliebtes Ende, aber es gibt andere mögliche Endungen. Man könnte also sagen, man sagt das nächste Wort voraus. Was man tun kann, was wir bei der Autoregressivität tun, ist, man nimmt eine Sequenz und erzeugt dann das nächste wahrscheinlichste Token oder Wort, wir können es einfach Wort nennen. Und dann speist man das zurück in das System, und es ist rekursiv. Sagen wir, es ist die Katze saß auf der Matte, und dann? Nun, ich weiß es nicht. Und dann stand sie auf und ging herum und rieb sich an meinem Bein oder so etwas. Das ist alles eine vernünftige Sequenz, die nach der Katze auf der ... folgen könnte. Was diese Modelle tun, und das ist ein wirklich wichtiger und erstaunlicher Punkt, ist, dass sie nicht direkt über den Rest dieser Sequenz nachdenken. Sie tun immer nur das aller nächste Wort, das aller nächste Token, wie es genannt wird. Meine These ist, dass wir genau dasselbe tun. Was wir in unseren Köpfen, in unseren Gehirnen tun, ist die gleiche Art von Berechnung. Wir raten einfach das nächste Token, und dann nehmen wir dieses Token und hören es. Es geht zurück in unsere eigene Schleife, und dann sagen wir, nun, jetzt gibt es eine Sequenz mit einem weiteren Wort. Die Katze saß auf der Matte, und dann? Und dann sagen wir, okay, die Katze saß auf der Matte, und was kommt als Nächstes? Und wir tun das immer und immer wieder. Was also magisch daran ist, ist, dass obwohl wir, die Modelle, ich sollte sagen, nur diese nächste Token-Generierung machen, gibt es etwas, das ich die schwangere Gegenwart nenne. Im Prozess des Erratens dieses aller nächsten Tokens berücksichtigen sie die gesamte Vergangenheit und auch die wahrscheinliche Zukunft. Sie muss diese Art von Flugbahn projizieren. Es ist, als ob man, sagen wir, tanzt oder geht. Man muss den nächsten Schritt mit dem Wissen machen, dass dieser nächste Schritt zu einem nächsten Schritt führen wird. Und rechnerisch führt dies zu dieser wundersamen Fähigkeit dieser Modelle, sehr weit reichende Erzählungen und Antworten zu entwerfen. Es kann so erscheinen, als ob, oh, wie kann es nur das nächste Token sein? Aber doch ist es so. Und was dies bewirkt, ist eine mögliche Theorie nicht nur der menschlichen Sprachgenerierung, sondern der Kognition im Allgemeinen. Denn sie liefert eine sehr effiziente und einfache, elegante Theorie dessen, was das Gehirn tut. Das Gehirn berechnet diese Funktion immer wieder. Es berechnet einfach die Funktion dessen, was das nächste kognitive Token ist. Angesichts dessen, was bis zu diesem Moment und in der jüngsten Vergangenheit geschehen ist, was sollte ich als Nächstes tun? Dann, wenn Sie das tun, geht das zurück in die Schleife und Sie fahren von dort aus fort. Und so führt dies in gewisser Weise zu einer radikal anderen Sichtweise dessen, was Kognition wirklich ist. Sie führt zum Beispiel zu einer völlig anderen Perspektive auf das, was Gedächtnis ist. Gedächtnis ist keine Kodierung von Sequenzen. Wir haben nicht tatsächlich irgendwo in unserem Gehirn gespeicherte Ereignisse, die stattgefunden haben, oder Fakten, die wir gelernt haben. Was wir tatsächlich gespeichert haben, ist nur die Fähigkeit, autoregressiv zu generieren. Wenn ich Sie frage, was haben Sie letzten Sommer gemacht? Und Sie sagen, nun, ich bin an diesen Ort gegangen, oder Sie fangen an, sich vorzustellen, wie Sie von einer Klippe springen oder so etwas. Was Sie tun, ist nach dieser Theorie, dass Sie in Echtzeit, gerade rechtzeitig, diese Frage, diesen Prompt nehmen, die aller nächste Ausgabe daraus generieren und dann von dort aus weitermachen. Was habe ich letzten Sommer gemacht? Nun, ich, und dann fahren Sie fort zu generieren. Und so führt dies wirklich zu einer völlig anderen Perspektive auf das, was Gedächtnis ist. Es geht nicht mehr darum, Fakten zu speichern, sondern darum, ein Gehirn zu haben, genau wie ein großes Sprachmodell, das diese Potenziale für Fakten besitzt. Ich nenne sie Potenziale, weil sie unendlich sind. Was weiß ein großes Sprachmodell? Wie viele Fragen können Sie ihm stellen? Sie können ihm unendlich viele Fragen stellen, und es kann auf alle eine vernünftige Antwort geben, weil es dies autoregressiv tut. Es ruft nicht diesen oder jenen Fakt ab, sondern es hat die Fähigkeit, all diese Fakten zu generieren. Schließlich bin ich wahrscheinlich schon über fünf Minuten, wir können das sogar über Sprache und sprachliche Antworten hinaus erweitern, aber breiter gefasst auf Kognition. Wie ich bereits erwähnte, denken Sie über eine Sequenz nach, denken Sie darüber nach, was ich später tun werde. Ich werde mit meinen Freunden abhängen, vielleicht muss ich in mein Auto steigen, solche Dinge. All das, jedes Denken, das über die Zeit stattfindet, wo man sitzen und das tun muss. Was tun die Leute, wenn sie ins Leere starren? Meine Behauptung ist, dass die Leute diese autoregressive Generierung betreiben. Wir leben in dieser schwangeren Gegenwart, in der wir ständig nur das aller nächste Token generieren und es fließen lassen. Ich glaube, wir haben durch diese großen Sprachmodelle nicht nur eine Möglichkeit gefunden, wirklich nützliche, hilfreiche KI-Agenten zu entwickeln, die Dinge tun können, sondern wir haben etwas wirklich Wesentliches darüber eingefangen, wie der Geist funktioniert. Faszinierend. Offensichtlich teilen Elan und ich viele dieser Ideen, aber eines der Dinge, die mir sofort in den Sinn kommen, und wir haben das schon früher besprochen, ist, wie überraschend leistungsfähig dieses Sprachmodell für Aufgaben war, die scheinbar nicht sprachlich sind. Das Beispiel, das mir einfällt, ist, wenn man sich vorstellt, einen Roboter oder sogar eine Art Raumschiff zu bauen, und wir gehen ein paar Jahrzehnte zurück, würde man dazu neigen zu denken, wir werden diese Rechenmaschine haben. Wir werden diese Art von Logikmaschine haben, und die wird Fakten durcharbeiten, und sie wird Dinge ableiten und Induktionen durchführen. So sah KI in den 80ern aus. Dann, vielleicht nachdem man diese Rechenmaschine hatte, würde man ein Kommunikationsmodul bauen, das wie ein Add-on sprechen könnte, dass die Fähigkeit, einfach zu kommunizieren, am Rande im Vergleich zu den eigentlichen Denkprozessen stand. Aber was wir von diesen Modellen gesehen haben, und ich denke, das beste Beispiel ist ihre Fähigkeit, Computerprogramme zu schreiben, all diese Fähigkeiten sind aus dieser Token-Vorhersage entstanden. Wir mussten keine Algebra-Engine oder etwas bauen, das Trigonometrie oder sogar Optik versteht. Wenn man bedenkt, wie es Bilder generiert, es bekommt Reflexionen richtig hin. Es bekommt Schlieren und Blasen und all diese Dinge. Es hat viel über Physik gelernt, und das kann man auch mit den Sprachmodellen machen. Wie kommt es, dass all diese Denkpower aus dem entstanden ist, was wie das Walkie-Talkie, das Kommunikationsmodul aussah? Im allgemeineren Sinne habe ich darüber nachgedacht, ob unser Gehirn ein Computer ist. Ist es ein computerähnliches Objekt? Ist es grundsätzlich eine andere Kategorie? Oder ist es wie das Ding, das man in seinem Handy oder Laptop hat? Das wird seit Turing intensiv diskutiert. Aber ich würde argumentieren, dass Software, die Idee der Software, die wichtigste Idee ist, die die Menschheit vielleicht seit tausend Jahren hervorgebracht hat. Denn sie gibt uns ein Denkwerkzeug. Sie gibt uns ein Token, um viele dieser Probleme zu verstehen, die frühere Philosophen und Denker und Kognitionswissenschaftler einfach absolut ratlos machten, und das nicht zu ihrer Schuld. Dinge wie die Röte von Rot oder das Vergnügen und der Schmerz, den wir empfinden, und wir fragen uns, warum hat der Staubsauger das nicht und so weiter. Ich denke, die wahre Natur dessen ist, dass wir entdeckt haben, dass wir Software sind. Das Interessantere, das damit in der technologischen Welt der letzten Jahrzehnte einhergeht, ist, dass wir jetzt herausgefunden haben, dass Software tatsächlich interessanter ist, als wir dachten. Alan Turing und von Neumann sagten: Hey, warum legen wir dieses Muster nicht einfach in die Maschine und sie wird einen komplizierten Prozess durchführen? Aber wie wir bei Levin gesehen und gehört haben, ist es subtiler. Man kann etwas in Gang setzen, dass die Legosteine selbst eine Art Intelligenz haben. Und vielleicht nicht auf der Ebene des Gehirns, aber vielleicht wie Ameisen, dass sie sich selbst zusammenbauen. Eines der großen Dinge für mich war die frühere Version der neuronalen Netze, die zu diesem Transformer führte. Eine der beliebtesten war die LSTM, das Long Short Term Memory. Und das ist aus dem Jahr 1991. Und faszinierend daran ist, dass es nur diese Art von Band gibt, diesen großen Vektor, und er kann Dinge tun. Es ist nur eine Sprache. Und wenn man diese Sprache nimmt und diese Maschine laufen lässt, die scheinbar nur sich selbst frisst, kann sie Dinge tun. Und ich erinnere mich, als ich das sah und dachte, nun, das könnte DNA sein. Dass DNA nicht nur Proteine abbildet, sondern ich denke, vieles von dem, was Levin jetzt im Labor gezeigt hat, ist die Instanziierung einer Art Proto-Intelligenz oder einer intermediären Intelligenz oder einer nicht-menschlichen Art von Problemlösungs-Engine. Und dass das verantwortlich ist für dieses wundersame Ding, an dem Turing interessiert war, unsere Form, richtig? Diese Morphogenese und wie wir dieses Muster bekommen. Denn es ist nicht offensichtlich, dass wir eine genetische Sequenz haben und dann zu Händen und Gesichtern und wirklich komplizierten Strukturen springen. Und ich denke, wir müssen diese intermediäre Software-Schicht betrachten, die wir jetzt mit diesen Sprachmodellen miterleben, dass es keine Eins-zu-Eins-Beziehung ist, richtig? Sie hören nicht wirklich meinem Gehirn zu. Mein Gehirn spricht nicht. Etwas anderes, das in meinem Gehirn lebt, spricht. Nebenbei bemerkt, es fühlt sich sehr autoregressiv an, weil ich nicht weiß, wohin ich damit gehen werde, aber während ich es sage, kommen mir Dinge in den Sinn. Und etwas, worüber wir vor ein paar Wochen gesprochen haben, ich denke, das gilt für das Verhalten im Allgemeinen, richtig? Denken Sie daran, als Sie nicht wussten, was Sie heute bei dieser Veranstaltung erleben würden, aber Sie wussten, dass durch das Erscheinen und Dabeisein interessante Dinge passieren würden. Und so denke ich, dass das Leben im Allgemeinen diese Art von autoregressiver Eigenschaft hat, wo manchmal schon das Hineingeraten in die Mischung Ihnen all diese Ideen und Wege und Pfade gibt, die Sie vorher nicht gesehen haben. Das ist also die Idee, auf die ich mich am meisten freue: das Nachdenken über virtuelle Maschinen. Das ist etwas, das die technologische Welt, wenn Sie zu Amazon gehen, sie verwenden sogenannte virtuelle Maschinen, und wir können später darüber sprechen. Aber diese Schichten zwischen dem Code und dem, was Sie erleben, der App, in der Softwarewelt und Technologie auf Ihrem Laptop, es ist keine Eins-zu-Eins-Beziehung. Keines der Programme, die Sie verwenden, spricht mit dem Chip. Sie sprechen in einer anderen Sprache, C oder Python, und dann spricht Python mit dem Chip mit noch mehr Zwischenstufen. Und ich denke, wir müssen bedenken, dass unser Gehirn und unser Geist und unser Selbst, die Fähigkeit, mehrere Selbst zu instanziieren, auf dieser Art von Virtualisierung beruhen. Ja, und wenn ich kurz etwas hinzufügen darf, für mich ist das noch mehr als die Erkenntnis, dass dies eine Erklärung für Sprache oder eine Erklärung für das Gehirn ist. Es ist diese radikale Abkehr vom Denken... Wir haben lange Zeit über Mathematik als eine Methode zur Beschreibung physikalischer Prozesse nachgedacht, aber wir müssen wirklich... Es geht nicht um die Symbole auf der Tafel. Die Symbole auf der Tafel waren in gewisser Weise eine frühe Öffnung für die Tatsache, dass es dieses informationsbezogene Leben gibt, dass es Berechnung gibt. Es ist ein Phänomen, das in gewisser Weise geistunabhängig ist, und was wir jetzt sehen, ist, dass wir tatsächlich einige dieser Dinge wirklich zum Leben erwecken in Silizium. Indem wir sie in Silizium sehen, indem wir sie sozusagen außerhalb ihres traditionellen Mediums fliegen sehen, müssen wir jetzt... Wir müssen einen Schritt zurücktreten und fast einen neuen Respekt vor dem Informationellen selbst haben, als vielleicht grundlegender. Wie Michael Levin erwähnte, dass unser Gehirn bestimmte Informationsmuster in diesem Fall kanalisiert, und im Fall von Sprache ist das meiner Meinung nach offensichtlich. Wenn Sie akzeptieren, dass das, was wir tun, dasselbe ist wie große Sprachmodelle, dann gibt es keine andere Schlussfolgerung. Sprache hat ihr eigenes Informationsleben, das sich in unseren Gehirnen abspielt, und dann stellt sich die Frage: Was noch? Was lebt dort noch? Was kann dort noch leben? Und was lebt im physikalischen Universum im Allgemeinen? Und es verändert Ihre gesamte Metaphysik radikal. Was meinen Sie mit "was lebt dort noch"? Nun, was lebt zuerst in unseren Köpfen? Welche anderen Arten von und es muss nicht unbedingt ein autoregressiver Prozess sein, aber autogenerative Prozesse. Welche anderen Prozesse laufen auf informationeller Ebene selbst? Ich gestikuliere jetzt mit meinen Händen. Ich könnte eine Geschichte erzählen, nun, ich versuche, diese oder jene Idee auszudrücken, und ich tue das mit dieser Geste, und ich habe diese Dinge gelernt, dass dies ein guter Weg ist, das zu tun. Oder ich könnte eine Geschichte erzählen, in der der Informationsprozess das bewirkt, weil er generieren will, so wie die Sprache generieren will. Sprache will auf eine sehr seltsame, aber sehr reale Weise ausdrücken. Die Flugbahn, die die Sprache nimmt, gehört der Sprache selbst. Vielleicht bewege ich meinen Körper auf diese Weise, und es gibt einen Prozess, der das verursacht, der nicht wirklich durch traditionelle Begriffe der Biomechanik oder sogar psychologischer oder neurologischer Begriffe erfasst wird. Es könnte wirklich um langreichweitige Flugbahnen durch eine Art Raum gehen. Und was sind wir also, wenn nicht eine Sammlung vielleicht dieser fast lebendigen Informationssysteme? Und wenn wir das potenziell über uns hinaus erweitern, was ist ein Ökosystem? Was ist eine Gesellschaft? Physik im Allgemeinen, es scheint etwas sehr Haftendes an der Vergangenheit zu geben. Sind diese Muster, sozusagen, haben sie ein Eigenleben? Lebt das Universum auf eine andere Weise, als wir ihm bisher zugestanden haben? Denn wir dachten sehr mechanistisch über Markovian, dies wird von jenem gefolgt. Nun, nein, es gibt viel mehr Reichtum, wieder, es ist dieser Respekt vor dem Reichtum der Berechnung auf eine Weise, die einfach alles verändert. Nur einen Moment, gehen Sie nirgendwo hin, hey, ich sehe, wie Sie sich davonschleichen. Seien Sie nicht wie die Wirtschaft, lesen Sie stattdessen The Economist. Ich dachte, The Economist sei nur etwas, das CEOs lesen, um über globale Trends auf dem Laufenden zu bleiben, und das stimmt, aber das ist nicht alles. Was ich persönlich nützlicher fand, ist ihre Berichterstattung über Mathematik, Physik, Philosophie und KI, insbesondere wie etwas von anderen Ländern wahrgenommen wird und wie es sich auf die Märkte auswirken kann. Zum Beispiel hatte The Economist ein Interview mit einigen der Leute hinter DeepSeek in der Woche, in der DeepSeek gestartet wurde. Niemand sonst hatte das. Ein weiteres Beispiel ist, dass The Economist diesen fantastischen Artikel über die jüngsten Daten zur dunklen Energie hat, der meiner Meinung nach sogar die Berichterstattung von Scientific American übertrifft. Sie haben auch die Chart of Everything, es ist wie die Chart-Version dieses Kanals. Es ist etwas, das eine Freude ist, durchzuscrollen und daraus zu lernen. Links zu all diesen werden natürlich in der Beschreibung sein. Nun, das Engagement von The Economist für rigorose journalistische Arbeit bedeutet, dass Sie ein klares Bild von den wichtigsten Entwicklungen der Welt erhalten. Ich persönlich interessiere mich für die wissenschaftlicheren, wie diesen über die Verlängerung des Lebens durch mitochondriale Transplantationen, die tatsächlich ein neues Feld der Medizin schaffen, etwas, das Michael Levin stolz machen würde. The Economist deckt auch Kultur, Finanzen und Wirtschaft, Unternehmen, internationale Angelegenheiten, Europa, den Nahen Osten, Afrika, China, Asien, Amerika und natürlich die USA ab. Ob es sich um die neuesten wissenschaftlichen Innovationen oder die sich verändernde Landschaft der globalen Politik handelt, The Economist bietet umfassende Berichterstattung und geht weit über reine Schlagzeilen hinaus. Sehen Sie, wenn Sie leidenschaftlich daran interessiert sind, Ihr Wissen zu erweitern und ein neues, tieferes Verständnis der Kräfte zu gewinnen, die unsere Welt gestalten, dann empfehle ich Ihnen dringend, The Economist zu abonnieren. Ich abonniere sie, und es ist eine Investition in mein, in Ihr intellektuelles Wachstum, die Sie nicht bereuen werden. Als Hörer dieses Podcasts erhalten Sie einen speziellen Rabatt von 20 %. Jetzt können Sie The Economist und alles, was er zu bieten hat, für weniger genießen. Gehen Sie auf ihre Website, www.economist.com/TOE, um loszulegen. Danke fürs Zuhören, und nun kehren wir zur Erforschung der Geheimnisse unseres Universums zurück. Noch einmal, das ist economist.com/TOE. Noch einmal, es ist dieser Respekt vor dem Reichtum der Berechnung, auf eine Weise, die einfach alles verändert. Aber ich würde vorschlagen, dass frühere Kulturen oder ältere Zivilisationen sich sehr bewusst waren, dass die Welt mit dieser intelligenten Substanz durchdrungen war und dass sie alles durchdrang, wissen Sie, alles. Und das war dann verantwortlich für die Komplexität, die wir in Wäldern und Tieren und Menschen und so weiter sehen. Ganz kurz, es erinnert mich an diese Idee der zellulären Automaten, die Wolfram wirklich populär gemacht und all die großartige Arbeit daran geleistet hat, dass er irgendwie gezeigt hat, dass wenn man kariertes Papier und sehr einfache Regeln hat, man diese Ozean, diese Ursuppe, aufblubbern sehen kann, wo man nicht-triviale, sehr interessante Verhaltensweisen aus einem System erhält, das so einfach ist, wie man es nur machen kann. Und ich würde argumentieren, dass unser Gehirn so sein könnte. Es ist weitaus ausgefeilter als kariertes Papier, aber es hat all die Eigenschaften, die kariertes Papier hat. Und wenn wir zeigen, dass diese einfachen Dinge wie das Spiel des Lebens oder die Wolfram-Automaten diese Muster und Muster, die andere Muster erzeugen und so weiter, hervorbringen können, dann ist vielleicht unser Gehirn oder sogar unser ganzer Körper oder die gesamte Biologie eher ein Substrat, auf dem diese informationsbezogenen Wesen, ich mag diesen Begriff, den ich kürzlich gefunden habe, tatsächlich einige religiöse Terminologie, Spontaneitäten, weil das wirklich diese Idee einfängt, dass niemand sie dort platziert hat. Sie sind einfach aufgetaucht. Aber jetzt sind sie auf dem Vormarsch und tun ihr Eigenes. Und ich denke, Worte könnten so sein, besonders die frühen Proto-Sprachen waren sehr stark Ohrwürmer. Sie könnten aus der Sprache der Vögel stammen. Ich habe gestern Abend eine wunderschöne Spottdrossel gehört. Und wenn man sich vorstellt, das Millionen von Jahren zu hören, würde das etwas bewirken. Elan, hilf mir zu verstehen, was an deinem Modell neu ist. Ich meine nicht, oh, Wittgenstein sagte das 1952. Ich meine, Sie sagen, abgesehen von diesem schicken Wort Autoregressivität, Sie sagen, dass die Leute in Bezug auf eine Sequenz denken, in Bezug auf etwas, das als Nächstes kommt. Wenn wir also im Flow-Zustand sind, sind wir präsent und denken, was werden wir als Nächstes tun? Und wenn wir planen, auch wenn wir für die Zukunft planen, denken wir in Bezug auf, nun, was werde ich in einer Woche tun? Und wie wirkt sich das auf das aus, was ich in zwei Tagen und dann in einem Tag tun werde usw. Es ist immer einen Schritt voraus. Was ist also neu? Nun, neu ist, dass wir tatsächlich eine Architektur und ein Beispiel haben, in dem wir sehen können, dass die gesamte Fähigkeit zum Langzeitdenken, die Fähigkeit, sozusagen in einem informationellen Raum, einem sprachlichen Raum zu leben, alles in dieses einzige funktionale Verhalten komprimiert werden kann, nämlich das nächste Token. Das wussten wir vorher nicht. Es gab kein Beispiel für etwas Ähnliches, das diese Art von informationeller Reichhaltigkeit besaß, das Dinge tat, die auf einer so radikal einfachen und eleganten Formulierung basierten. Neu ist, dass wir eine Theorie des Gehirns, eine Theorie der Kognition im Allgemeinen haben, auf die Leute vielleicht in vagen Begriffen hingewiesen haben, die wir aber jetzt bauen können. Was neu ist, ist eigentlich nicht etwas, das ich entwickelt habe, sondern die Existenz dieser großen Sprachmodelle. Die großen Sprachmodelle führen zu der neuen Erkenntnis, dass dies tatsächlich vielleicht die Funktionsweise der Kognition ist. Und so haben wir einen neuartigen Rahmen, und er führt zu einer sehr, sehr anderen Art und Weise, einer Perspektive auf die klassische Kognition. Wenn Sie also wissen wollen, was neu ist, zum Beispiel gibt es diese klassische Ansicht des Gedächtnisses als Speicher-Abruf-Modell. Wenn ich Sie zum Beispiel bitte, eine Sequenz von, sagen wir, ein paar Ziffern oder Buchstaben zu wiederholen, ist die kanonische Ansicht, dass es dieses Ding namens Kurzzeitgedächtnis gibt, das eine Box ist, die Dinge für eine bestimmte Zeit speichert und dann verfällt. Nach dem autoregressiven Modell gibt es, lassen Sie mich nur hinzufügen, dann gibt es dieses andere Ding namens Langzeitgedächtnis. Was ist das? Nun, es ist eine weitere Box, in die einige Dinge aus dem Kurzzeitgedächtnis kommen, wenn Sie sie länger aufbewahren wollen, legen Sie sie in diese Box und das ist wie, es ist gekühlt, also hält es länger. Und so haben Sie diese beiden Boxen mit Dingen darin. Und wenn Sie dann Informationen finden wollen, was Sie tun, ist, Sie müssen einen Abrufprozess haben. Sie gehen und sehen, nun, was ist, was hat mit dem zu tun, worüber ich gerade spreche? Welche Informationen, wo habe ich meine Schlüssel gelassen? Oder was habe ich letzten Sommer gemacht? Lassen Sie mich das relevante Gedächtnis finden und abrufen. Das autoregressive Modell vernichtet vollständig, A, die Unterscheidung zwischen Kurzzeitgedächtnis und Langzeitgedächtnis. Und tatsächlich entfällt die Notwendigkeit eines Abrufprozesses überhaupt. Es ist also ein völlig anderes Rahmenwerk. Aber stattdessen tun wir nach diesem Modell, wir haben diese gespeicherten Gewichte. Das ist, das ist wie das große Sprachmodell. Es sind nur diese Milliarden von Parametern und diese Parameter, alles, was sie sind, ist, dass sie eine Funktion instanziieren, und die Funktion, was tut diese Funktion? Sie sagt, hier ist eine, hier ist eine Zeichenkette von, von, von Wörtern, die Sie einfach in Zahlen umwandeln. Und dann sagt sie, was ist die nächste? Das ist unser Gehirn. Okay. Das ist Ihr Gehirn auf Autoregressivität, richtig? Es ist im Grunde eine Funktion, die besagt, dass wir eine Eingabe erhalten und eine Ausgabe produzieren werden. Und dann haben Sie das Kurzzeitgedächtnis, nun, was habe ich gesagt, seit Sie die Frage gestellt haben, richtig? Hier ist eine Frage, ich gebe eine Antwort. Was hat Curt mir vorhin gesagt? Das veranlasst mich, dieses aller nächste Token und das nächste zu generieren. Es gibt eine gewisse, eine gewisse Restaktivierung oder es gibt, in den Modellen heißt es Kontext. In den LSTMs ist es dieses Gedächtnis, das vielleicht richtig ist oder auch nicht, in den großen Sprachmodellen ist es buchstäblich der Kontext ist das Ganze, richtig? Was auch immer Sie bisher gesagt haben, was auch immer das Modell gesagt hat, in unseren Gehirnen ist es wahrscheinlich näher an den LSTMs. Es ist eine Art, eine Art komprimierte Version, aber das ist der ganze Fluss. Der ganze Fluss ist, Sie haben eine statische Menge von Gewichten, das ist unser Gehirn, unser Gen und dann unsere dendritischen Gewichte. Und dann haben Sie diesen dynamischen Prozess von, okay, generieren Sie mit diesen Gewichten, generieren Sie mit einer Sache, hängen Sie sie an das an, was zuvor generiert wurde, und das kann viel länger dauern als Kurzzeitgedächtnis. Es sind vielleicht keine 15 Sekunden, wie das Kurzzeitgedächtnis vorschreibt. Die klassischen Experimente, bei denen man Sie fragt, ob Sie diese bestimmte Sequenz abrufen können, das tun wir im normalen Leben nie. Wir müssen uns nicht merken, was genau habe ich vor, sagen wir, 5 Sekunden, 10 Sekunden gesagt? Es gab eine Art Fehler, dort zu suchen, wo das Licht ist, um diese Modelle zu entwickeln. Man kann Leuten diese Aufgabe geben und sie können diese Dinge abrufen, aber das bedeutet nicht, dass wir ein Gedächtnis haben, dessen Aufgabe es ist, abzurufen. Stattdessen schlage ich vor, dass wir Generierung haben. Und Generierung wird durch das gesteuert, was in der Vergangenheit geschehen ist, aber das wird durch viel, viel mehr als die letzten 15 Sekunden gesteuert. Wieder einmal löst es diese willkürliche Vorstellung auf, dass es eine Kurzzeitgedächtnisbox gibt. Alles, was Sie haben, ist ein Restgedächtnis, das 15 Sekunden, eine Minute in die Vergangenheit reichen kann. Wir führen gerade dieses Gespräch. Will hat etwas erwähnt, als wir dort drüben gesprochen haben. Das schwirrt immer noch herum. Es greift ein, wieder die schwangere Gegenwart, es greift ein, was meine aktuelle Generierung ist. Es vernichtet also vollständig, würde ich sagen, 70 Jahre Kognitionswissenschaft. Was hier neu ist, ist ein elegantes und effizientes Modell des Gehirns, das sich von allem unterscheidet, was die Kognitionswissenschaft bisher vorgeschlagen hat. Ich mag sehr, was Sie gerade am Ende gesagt haben, aber auch am Anfang, dass dies eine Theorie des Gehirns und nicht eine Theorie der Neuronen oder der Neurowissenschaft ist. Und ich würde argumentieren, dass einige dieser neuen Modelle einige der ersten echten Verbindungen von beiden Enden sind. Wir wissen seit etwa 100 Jahren, worum es bei Neuronen geht, zumindest im Grunde. Und Kognitionswissenschaftler und Philosophen haben von der anderen Seite versucht, diese Eigenschaften wie Gedächtnis, Planung, Logik und so weiter zu verstehen. Aber diese modernen Dinge, sie bestehen aus simulierten Neuronen unten. Sie sind sehr, sehr einfache Gehirnzellen. Sie sind bei weitem nicht so kompliziert wie die, die wir in unserem eigenen Gehirn finden. Aber wir können es als ein Modell betrachten, das beide Skalen gleichzeitig hat. Und was mich so fasziniert, ist nicht nur, dass wir keine spezielle Box für kurz- oder langfristig brauchen, wir brauchen auch keine für Planung. Das kommt aus der Box. Logik kommt aus der Box. Fähigkeit, Gedichte zu schreiben oder so etwas. Es ist alles irgendwie latent in dieser Fähigkeit, das nächste Token vorherzusagen. Und so denke ich, wir fangen gerade erst an, eine tatsächliche Gehirnwissenschaft zu sehen. Und jetzt müssen wir uns unsere Neuroanatomie ansehen und sehen, okay, macht das das Hippocampus? Macht das die Amygdala? Interagieren diese kortikalen Strukturen mit all diesen Knötchen? Denn wenn wir unser Gehirn aufschneiden, ist es keine homogene Masse von Neuronen. Und die Evolution hätte das relativ einfach so machen können. Diese Strukturen müssen also einen gewissen Nutzen haben. Ich habe einige Theorien dazu, auf die wir zurückkommen können. Aber ein Punkt, mit dem Sie sicherlich zustimmen werden, wir sollten die Terminologie der neuronalen Netze nicht zu ernst nehmen, im Sinne von, und es kommt auf einen früheren Punkt zurück, den wir gemacht haben, das Gehirn instanziiert hier eine Art Funktion. Und ich meine es wirklich ernst, wenn ich sage, dass auf einer hohen Ebene das Gehirn dasselbe tut wie die LLMs. Bedeutet das, dass ich denke, dass wir über neuronale Schaltkreise sprechen, die genau dasselbe tun wie Computersschaltkreise? Meine ich sogar, dass es Transformer-Modelle gibt, die Self-Attention machen? Nicht unbedingt. Es geht wirklich um diese hohe rechnerische Ebene. Und Matrixmultiplikation, die wirklich die Kern-Engine von Transformatoren ist, braucht das Gehirn nicht wirklich. Es ist schön, es neuronale Netze zu nennen, weil es sich reimt. Man kann es als verbundene Knoten machen. Man kann es als Graph machen. Aber man kann es als Matrixmultiplikation machen. Und ein Mathematiker wird Sie komisch ansehen, wenn Sie sagen, das hat etwas mit dem Gehirn zu tun. Und das führt wirklich zu diesem Punkt der Substrat-Agnostizität. Und es geht nicht einmal um das Substrat. Es geht nicht einmal darum, ob es aus biologischer Materie besteht oder aus Silizium. Es geht wirklich darum, diese Dinge nicht auf der architektonischen Ebene zu betrachten, sondern wirklich auf der funktionalen Ebene. Und die Funktionalisten, nun, es gab einst eine funktionalistische Schule in der Psychologie, aber sie hatten nicht die Breite oder Tiefe der rechnerischen Ressourcen, um Dinge auf diese Weise wirklich zu erforschen. Aber ich denke, wir werden wieder zu Funktionalisten. Nur ganz kurz. Sie unterhielten die Idee, dass all dies Software sei, aber sie betrachteten eine Version von Software aus den 1950er Jahren. Und sie sagten: Oh, der Geist kann nichts davon sein. Und so starb die kognitive Revolution aus. Jetzt sehen wir eine Wiederbelebung. Ich möchte zum Bewusstsein und zur Sprache kommen, aber es gibt zwei Punkte der Verwirrung, die meiner Meinung nach zusammenhängen könnten. Wenn Sprache sich also nur auf sich selbst bezieht, dann spulen wir die Uhr 10.000 Jahre zurück, als unser Wortschatz kleiner war, und sagen wir einfach, wir hatten die Wörter Kampf, Mund und links. Wie werden diese drei Token zu 3.000 explizierten Token? Das ist also eine Frage. Dann eine andere ist, nun, was ist mit Indexikalien? Wie, gib mir das. Triff mich hier. Ich gehe dorthin. Was bindet das an die Welt? Und noch schlimmer, es gibt diese Art von Konjunktionswörtern, bei denen nicht ganz klar ist, was sie tun. Sie berühren ein sehr schwieriges Problem. Die Ursprünge der Sprache waren schon immer faszinierend und wirklich eine der größten Herausforderungen in der Kognitionswissenschaft. Das Problem wurde in gewisser Weise durch das, was wir entdeckt haben, schlimmer, nicht besser. Denn wie Sie richtig bemerken, ist die Behauptung hier, dass Sprache diese Art von wahrnehmungsunabhängiger, eigener Art von Organismus ist. Wenn wir uns die Tiersignale ansehen, und es gibt sehr starke, jahrzehntelange Forschung, Tiere scheinen keine Sprache zu haben. Ich denke, wir haben jetzt eine bessere Vorstellung davon, was wir damit meinen. Sie betreiben keine autoregressive Next-Token-Generierung. Sie haben nichts, was dem auch nur annähernd ähnelt. Was sie haben, ist diese Art von konkreter Signalisierung, dass diese Art von Situation in der Umwelt auftritt, man macht dieses Geräusch. Sie haben nicht, sie haben nichts von diesen Dingen. Sie haben nichts von dem wirklich generativen System, das wir haben. Die grundlegende Frage hier ist, wie zum Teufel haben wir als Organismen diesen riesigen qualitativen rechnerischen Sprung von einer Art System zu einem völlig anderen System gemacht, wo diese Wörter "der" und "ist" wirklich tun, wir werden erst jetzt verstehen, wir werden erst jetzt beginnen, sie in diesem Rahmen zu verstehen. Sie tauchen nicht in der Tiersprache auf, sie tauchen in keiner klassischen Semiotik auf, wo es heißt, das symbolisiert das. Sie symbolisieren nichts in der Umwelt. Aber sie sind im autoregressiven Prozess sehr mächtig. Sie tun Dinge in diesem Rahmen. Und so denke ich, es gibt hier ein unglaublich tiefes Rätsel, wie Sprache sozusagen von einem vermutlich rein korrelativ-assoziationistischen System, von diesem Umweltsstimulus, und ich werde diesen Ton machen, oder ich werde dieses Pheromon freisetzen, oder was auch immer Tierkommunikation ausmacht, zu einem stimulusunabhängigen, rechnerisch autonomen System gesprungen ist, das natürlich mit dem anderen interagiert, aber in vielerlei Hinsicht davon getrennt und autonom ist. Und so habe ich keine Antwort auf diese Frage, aber ich denke, wir haben eine Verfeinerung der Frage, woher Sprache kam. Es ist nicht mehr nur die Frage, wie wir ein so ausgeklügeltes Signalisierungssystem entwickelt haben. Wie haben wir so viele Wörter für so viele Dinge, und wir können sie auf neue Weise zusammensetzen, um neue Dinge auszudrücken? Es ist, wie haben wir dieses autonome generative System entwickelt? Es ist eine sehr andere Frage, als sogar die Chomsky'sche Frage nach den Ursprüngen der Sprache. Man wird es nicht aus einer einfachen genetischen Mutation oder so etwas bekommen, das mehr expressive Kommunikationsfähigkeiten ermöglicht. Es ist nicht einmal Kommunikation. Es ist Autogenerierung. Und so ist es keine Antwort auf die Frage, aber es ist ein Respekt vor der Tatsache, dass die Frage extrem tiefgründig ist. Ich weiß nicht, woher Sprache kam. Ich habe jetzt sehr seltsame Gedanken darüber. Es ähnelt dem Gespräch, das wir mit Michael Levin hatten. Es gibt Muster im Universum, die ihren Weg in unsere Gehirne gefunden haben, die weitaus reicher sind, als wir uns je hätten vorstellen können. Sie sind einfach spektakulär. Sie sind weit größer als alles. Wenn man die größten Wissenschaftler und die größten Ingenieure nimmt und sie tausende von Jahren lang in einem Raum einsperrt, hätte niemand etwas auch nur annähernd Sprachähnliches erfinden können. Vielleicht hätten sie ein brillantes Kommunikationssystem erfinden können, basierend auf der Standard-Symbolrepräsentation, aber niemand hätte das erfinden können. Woher kam es? Das bringt mich zu ein paar Dingen. Erstens, diese Idee, dass es einmal wie fünf Wörter gab. Ich glaube nicht, dass es jemals so gewesen wäre, in einem Sinne. Denn ich denke, wir müssen uns daran erinnern, dass es diese analoge und digitale Komponente gibt. Ich kann Hallo sagen, oder Hallo. Es ist sehr unterschiedlich. Ich habe dasselbe Token gesagt, aber ich hatte diese analoge Hintergrundschicht dazu. Und so denke ich, dass wir am Anfang darüber nachdenken müssen, wie das zuerst entstanden ist, und dann, wie sich das zu dem Ding entwickelt hat, wo wir strenge Dinge haben. Ich bin kürzlich auf zwei Dinge gestoßen. Erstens, es ging um Shakespeare und seine Unterschrift. Und sie haben vielleicht 30 oder 40 Versionen seiner Unterschrift, und sie sind unterschiedlich. Er hat seinen Namen nie zweimal gleich unterschrieben. Warum sagen wir überhaupt, das sei seine Unterschrift? Und eine andere interessante Sache, auf die ich vor ein paar hundert Jahren gestoßen bin, sie fanden einen Brief, und der Brief handelte von Kaninchen. Und der Buchstabe, dieser eine besondere Buchstabe, verwendete das Wort Kaninchen, glaube ich, mindestens zwei Dutzend Mal in einem Dokument. Es war jedes Mal anders geschrieben. Wie? Ich bin ein schlechter Schreiber, aber ich werde mir zumindest etwas ausdenken und dann vielleicht konsequent sein. Die Idee, dass Wörter überhaupt eine bestimmte Schreibweise haben, dass das ist, was wir mit diesem Wort meinen, halte ich für ein relativ modernes Konzept, das für mich keinen Sinn ergibt. Und eine andere Sache, die mir in den Sinn kommt, ist, dass ich argumentieren würde, dass Sprache, wie wir sie heute kennen, dieses autoregressive, sehr ausgeklügelte Software-Ding, sich wahrscheinlich nicht aus kleinen Gruppen wie Stammesgruppen oder Dörfern entwickelt hat. Ich glaube, das wäre auf der Ebene von Stadtstaaten und Imperien entstanden, richtig? Antikes Sumer, solche Dinge, wo Tausende von Menschen kooperativ arbeiteten, denn dann bekommt man diese Art von externalisiertem Gedächtnis, wo die Wörter herumschweben, richtig? Man hört Wörter, von denen niemand, den man kennt, dieses Wort kennt. Wie, oh, das ist ein neues Wort für uns alle, zum Beispiel. Und so würde man in einer städtischen Umgebung feststellen, dass Sprache etwas anderes ist. Denken Sie an eine bestimmte Stadt vielleicht? Ja, vielleicht, richtig? Und dann kommt mir noch etwas in den Sinn, ich glaube wirklich an diese Art von Lehre aus dem Tierreich. Ich glaube wirklich, dass die Sprache der Vögel und Tierrufe, und wir neigen als moderne Menschen dazu zu denken, oh, nun, sie machen nur Geräusche und sie bedeuten eigentlich nichts. Und ich habe das nicht getan, aber ich hatte den Gedanken, es zu versuchen. Versuchen Sie, eine Menge Tierrufe zu lernen. Versuchen Sie, eine Menge Vogelgesänge zu lernen. Und ich würde denken, das wird Ihr Gehirn grundlegend verändern, und es könnte auf eine Weise Sinn ergeben. Sie denken also, wir unterschätzen die Tierkommunikation erheblich? Wir haben einen sehr schmalen Strohhalm, durch den wir nippen. Wir haben das einfach heruntergeladen, und das war sozusagen Windows 1.0, richtig? Das hat niemand je gesehen. Und dann später bekommen wir das Upgrade und wir denken, oh, das ist es. Wir waren auch Tiere, und wir haben auch gegrunzt oder... Und das tun wir immer noch, richtig? Wir tun es immer noch. Das bringt also eine weitere Idee des Bootstrapping auf, aber dazu möchte ich zurückkommen. Also hallo, und dann hallo kann tatsächlich anders tokenisiert werden, wenn man ein Ausrufezeichen vor hallo setzt. Das ist ein großartiger Punkt. Ja, das Token, oder ich denke, die nächste Generation von Modellen wird einfach den Ton von YouTube hören und Radio und so etwas hören. Und dann werden sie gleichzeitig das Analoge und das Digitale bekommen. Ich meine, die neuen Sprachmodelle, ich weiß nicht, ob Leute die benutzen. Ich habe, wissen Sie, von GPT, ich habe angefangen, eine der Stimmen zu benutzen, und meine Frau sagte, benutze das nicht mehr. Es klingt ein bisschen zu gut. Und es bekommt wirklich die Prosodie, wirklich gut, wirklich gut. Ich denke, das hängt davon ab, ob es eine Frauenstimme ist. Ja, in der Tat. Wo Sie das hören. Genau. In der Ecke versteckt. Als ob Sie ein bisschen zu viel Zeit mit GPT verbringen. Warum ist die Tür geschlossen? Was ist Ihr nächstes Token? Die Prosodie in diesen Dingen ist also tatsächlich außergewöhnlich. Und die Prosodie ist nur die Art von singender Version davon. Und ich bin zuversichtlich, ich habe mich damit beschäftigt, aber sie teilen nicht. Es ist herausgefallen. OpenAI verrät Ihnen nichts. Das war von Anfang an ein Witz. Ich glaube, sie meinten es fast als Witz. Und so wissen wir nicht wirklich, wie sie es machen, aber ich vermute, es benutzt genau dasselbe. Wenn ich argumentieren würde, dass es herausfällt. Es fällt heraus, aber es fällt zusammen mit der Bedeutung der Sprache selbst heraus. Und so hat Prosodie ihre eigene Bedeutung und ging wahrscheinlich der Art voraus, die wir Wörter nennen. Und so sind Wörter wahrscheinlich als eine strengere Version der Prosodie oder so etwas entstanden. Sie haben vielleicht als etwas näher an Musik oder so etwas begonnen. Es erinnert mich an das, was Levin mit der Idee des Teilens von Stressoren erwähnte. Und dann bildet das eine Gemeinschaft. Stellen Sie sich vor, wir versuchen alle, die Prosodie vorherzusagen, nicht nur das Token, sondern die emotionale Valenz, die damit einhergeht. Und indem wir das tun, könnten wir eine Art gemeinsames Erlebnis bootstrappen. Machen wir die Analogie, vergessen wir die Neuronen. Wir sind hier im Behin Center. Also im Computer Science Center der U of T und in der Mathematik. Denken wir in Bezug auf Matrixmultiplikation, die Multiplikation einer Matrix für Sprache. Ist das eine notwendige oder hinreichende Bedingung oder weder für Bewusstsein? Nun, ich glaube nicht, dass Sprache Bewusstsein hat. Also werde ich mich hier auf einen metaphysischen Ast wagen und sagen, dass das Symbolische eine neue Physik ist, so denke ich darüber. Entschuldigung, und symbolisch bedeutet? Nun, symbolisch bedeutet tatsächlich, dass die Darstellung von irgendeinem, sagen wir, einem Wort, lassen Sie uns tatsächlich über Matrixmultiplikationen sprechen. Was also in diesen Modellen passiert, ist, dass man nimmt, hier ist ein großer Korpus und ich möchte die Beziehung zwischen Wörtern und dem Korpus lernen. Also mache ich zuerst Tokenisierung. Ich zerlege es in verschiedene Teile. Wie das Wort, das Wort, Wort bekommt eine bestimmte numerische Darstellung. Ich werde sagen, null, null, eins, eins, eins, was auch immer. Und dann ein anderes Wort, oder vielleicht sogar nur ein Teil eines Wortes, wie ein Suffix oder so etwas, wird eine andere Darstellung haben. Ich werde das in einen Vektor verwandeln, der nur eine Zahlenreihe ist. Und dann im Laufe des Lernens werde ich lernen, womit ich diesen Vektor multiplizieren muss, damit er eine höherdimensionale Darstellung hat. Es ist ein viel längerer Vektor. Und so haben wir diese großen riesigen Vektordarstellungen, und wir können sie als einen hochdimensionalen Raum betrachten. Oder wenn Sie nicht gerne über hochdimensionale Räume nachdenken, weil niemand das wirklich tut, weil man nicht wirklich darüber nachdenken kann, kann man es sich als einen dreidimensionalen Raum vorstellen. Und jedes Wort ist nur ein Ort in diesem Raum. Nun, was Sprache in dieser Umgebung ist, ist, dass dieses Wort seine Bedeutung durch seine

Keine tatsächliche Darstellung. Der Punkt, an dem es sich im Raum befindet, ist willkürlich, richtig? Wo es sich im Raum befindet, ist willkürlich. Was ihm seine Bedeutung gibt, Anführungszeichen, ist, wo es sich in Bezug auf die anderen Wörter befindet, wo auch immer, wo, wissen Sie, wenn wir das Wort rot und blau haben, werden sie in irgendeiner Beziehung zueinander stehen. Das ist es, was die Modelle für die Vorhersage des nächsten Tokens verwenden. Wenn ich also das Symbolische sage, meine ich, dass die Vektorisierung selbst eine willkürliche Art der Darstellung ist. Es gibt nichts in diesem Symbol. Wenn Sie es sich ansehen würden, könnten Sie dieses Symbol den ganzen Tag studieren, und Sie könnten versuchen, die Nullen und Einsen zu verstehen, wie auch immer Sie den Raum tatsächlich darstellen, Sie werden die Bedeutung darin nicht finden. Und ich würde sagen, dasselbe gilt sehr stark für natürliche Sprache. Das Wort rot bedeutet nicht rot. Nicht nur in meinem autoregressiven Sinne, das meine ich nicht nur. Ich meine, das Wort rot selbst verweist überhaupt nicht auf die Qualitäten. Und es sind nur Buchstaben. Es sind Kritzeleien. Es hat nichts damit zu tun. Das ist sehr anders. Und das ist die Wende, bei der ich zum Bewusstsein übergehen werde. Das ist sehr, sehr anders als die neuronale Darstellung von Röte selbst. Röte in meinem Gehirn, die Art, die meiner Meinung nach zu dem führt, was wir bewusste Erfahrung nennen, ist, dass rot und blau tatsächlich echte mathematische Beziehungen zueinander im Darstellungsraum haben. Es geschieht etwas zwischen den Wellenlängen und der Freisetzung von Rhodopsin, die in meiner Netzhaut stattfindet, die sich auf eine bestimmte Weise über diese verschiedenen Zapfen skaliert, so dass rot und blau wirklich etwas in Bezug auf einander bedeuten, nicht nur aufgrund ihrer Einbettung in diesen willkürlichen Raum, sondern aufgrund ihrer tatsächlichen Eigenschaften. Und so glaube ich, dass das Symbolische kein Bewusstsein hervorruft, weil es in keiner Weise diese Eigenschaften des physikalischen Universums verkörpert. Bewusstsein, phänomenales Bewusstsein, alles ist auf seiner Basis sensorisch. Man kann sich keine andere Art von Bewusstsein vorstellen als etwas aus dem physikalischen Universum, das auf Ihr sensorisches System einwirkt. Es kann visuell sein. Es kann auditiv sein. Es kann taktil sein. Es kann Ihr eigener Körper sein, Ihr propriozeptives. Es kann ein Gefühl dafür sein, wo Sie sich befinden, Ihrer Bewegung durch den Raum. All diese Dinge sind letztendlich eine Fortsetzung, keine Darstellung, sondern eine Fortsetzung des physikalischen Universums. Diese Muster, die im physikalischen Universum vorhanden sind, wellen einfach durch unser Nervensystem. Sprache bricht das. Sprache verwandelt Dinge in willkürliche Darstellungen, Symbole. Und ich denke, dass Symbole nicht die Qualität haben, sie haben nicht die Qualität, die Empfindung und Wahrnehmung haben. Und deshalb glaube ich nicht, dass die Matrixmultiplikation. Ich denke, die Matrixmultiplikation im Fall von Sprache, wir verlieren das. Ich denke, es ist tatsächlich, es wird in einen anderen metaphysischen Raum geschoben, sozusagen, wo es kein Bewusstsein gibt. Ich glaube nicht, dass große Sprachmodelle bewusst sind. Ich glaube nicht, dass es irgendeine Möglichkeit gibt, dass sie bewusst sind. Sie können nicht verstehen, was Röte ist, weil sie keinen Zugang zum analogen Raum haben, in dem diese Arten von Beziehungen existieren. Interessant. Wenn ich jetzt an Bewusstsein denke, erinnert es mich an diese virtuelle Maschinenidee, dass wir versuchten, Bewusstsein im Gehirn zu finden und zu sagen, wo in diesem Eimer Fleisch bekommen wir diese magische Erfahrung? Und ich denke, wir müssen bedenken, dass wir diese andere Sache verkörpern, oder vielleicht mehrere Schichten davon. Ich sage nicht, dass es nicht interessant ist, aber das ist, wo diese Sache, die wir Bewusstsein nennen, oder vielleicht sogar Selbst, und ich denke, wir sehen das bei Fällen von multipler Persönlichkeitsstörung und Störungen, wo Menschen offensichtlich mehr als eine scheinbar bewusste Entität in einem einzigen Gehirn verkörpern. Und so schlägt mir das vor, dass es keine Eins-zu-eins-Zuordnung gibt. Es ist eher so, als hätte man ein Telefon, man hat Apps auf diesem Telefon. Und wenn wir an Bewusstsein denken, sind wir eine dieser Apps. Ich glaube, sie wurde uns von unseren Eltern installiert. Ich glaube nicht, dass sie einfach natürlich entstehen würde. Und ich glaube, wir entdecken gerade erst die große Verteilung von Bewusstseinen auf dem Planeten. Eine Sache, über die ich gerne mit Ihnen sprechen würde, sind Dinge wie Aphantasie oder innerer Monolog oder kein innerer Monolog. Und was ich wirklich faszinierend finde, ist, dass diese Themen relativ neu als interessante Gesprächsthemen aufgetaucht sind, mit dem Aufkommen von Internetforen. Denn wie Sie vielleicht wissen, sind psychologische Experimente sehr teuer, und normalerweise ist die Anzahl der Teilnehmer etwa 10 oder 20. Aber im letzten Jahrzehnt oder so sehen wir jetzt 50.000 oder 100.000 Menschen, die auf einem Forum kommunizieren. Und sie stellen eine Frage wie: Wenn Sie die Augen schließen und an einen Apfel denken, was sehen Sie? Und die Hälfte der Befragten wird sagen: Oh, ich kann einen roten, glänzenden Apfel sehen. Ich kann ihn am Baum sehen und das Licht, das darauf scheint. Vielleicht ist da ein kleines grünes Blatt. Und die andere Hälfte, es ist sehr gleichmäßig aufgeteilt. Denken, sagen: Ich sehe gar nichts. Was meinen Sie damit, dass Sie etwas sehen? Und dieselbe Unterhaltung findet mit dem inneren Monolog statt. Reden Sie den ganzen Tag mit sich selbst? Und wieder bekommen Sie diese Gesprächsspaltung, bei der die Hälfte der Leute sagt: Ja, natürlich plane ich meinen Tag und rede mit mir selbst und denke. Und die andere Hälfte sagt: Du hörst Stimmen? Das ist sehr, sehr seltsam. Und ich habe sehr leistungsfähige Menschen getroffen, die keine visuelle Vorstellungskraft haben. Das ergibt für mich keinen Sinn. Ich kenne einen Mann, der sagt, er hat keines von beiden. Und ich sagte: Nun, was machst du, wenn du nachdenkst? Und er sagt: Was meinst du? Ich denke einfach. Und das war seine Antwort. Wie funktioniert das in deinem Kopf? Ich weiß überhaupt nicht, wie es funktioniert. Aber es ist eine sehr berechtigte Frage. Ist er ein Gegenbeispiel zu Ihrem Modell? Mein Verdacht. Alles, was es braucht, ist ein Gegenbeispiel, um eine Theorie in der Mathematik zu widerlegen, zumindest. Es wird sie überhaupt nicht widerlegen. Denn hier ist die Sache. Es gibt das Tun, und dann gibt es die Fähigkeit, sich selbst beim Tun zu beobachten. Und so kann es sehr gut sein, dass Menschen einen Prozess durchlaufen, einen sehr ähnlichen Prozess, aber nicht diese zusätzliche Meta-Bewusstheit darüber haben, dass sie ihn tun. Es kann sehr gut sein, dass es Engel und Wassermelonen um uns herum gibt. Aber die Wahrheit ist, dass es für diese Theorie eigentlich nicht wesentlich ist. Die Sprachmodelle hören sich selbst nicht denken. Das braucht man nicht wirklich. Das ist eine seltsame Eigenschaft unserer Gehirne, etwas, worüber Will und ich ziemlich viel gesprochen haben, ist, dass wir nicht nur den Gedankenfluss produzieren, sondern dass jemand gleichzeitig zusieht und das beobachtet. Das ist nicht unbedingt gegeben. Es ist phänomenologisch wahr. Die Leute werden berichten, dass sie es haben. Ich weiß nicht, wie wesentlich das ist, um zu können – und ich glaube, ich weiß es nicht, ich bin nicht auf dem Laufenden – und ich muss, weil mich die Leute das ziemlich oft fragen. Ich bin nicht auf dem Laufenden über die aktuelle Forschung. Zum Beispiel sehen wir bei Aphantasiasten oder Leuten ohne inneren Monolog, wenn sie über etwas nachdenken müssen, ist ihre Zeit, ist die Zeit, die sie zum Nachdenken brauchen, radikal anders als die Zeit, die sie brauchen – Oder die Klasse von Problemen, die sie lösen können. Denn das scheint nicht der Fall zu sein – Genau. Es scheint dieselbe Menge von Problemen zu sein, die diese Leute lösen können. Genau. Und so bedeutet die Tatsache, dass sie sich verhaltensmäßig so ähnlich sind, entweder, dass es sozusagen epiphenomenal ist, die Tatsache, dass wir den inneren Monolog hören, oder dass ich mich total irre und dass es nur – dass es eine Illusion ist. Dass der innere Monolog nicht wirklich Teil unseres Denkens ist. Ich weiß es nicht. Aber es ist sicherlich eine sehr interessante Frage. Aber ich würde dagegenhalten, dass es nicht ganz klar ist, warum wir unsere eigenen Gedanken überhaupt hören müssen, auch wenn sie erzeugt werden. Es erinnert mich an die Idee, dass Sprache ein zweischneidiges Schwert sein könnte, dass sie vielleicht das Beste und das Schlimmste ist, was der Menschheit je passiert ist. Ich bezeichne sie oft als einen göttlichen Parasiten, in dem Sinne, dass sie gut ist, aber sie hat sich sozusagen übernommen. Denn wenn man Sprache kennt, richtig, kann ich dich leicht gedankenkontrollieren. Ich glaube, wir werden später einige erstaunliche Beispiele dafür sehen, einige echte Beispiele dafür. Aber ich könnte einfach etwas sagen wie: Du denkst jetzt über deine Atmung nach. Und du wirst sagen: Oh, ich will dem keine Aufmerksamkeit schenken. Aber ich habe das in deinen Kopf gesetzt. Und die Tatsache, dass du ein englischer Zuhörer bist, denkst du vielleicht jetzt darüber nach. Oder das berühmte, wissen Sie, denken Sie nicht an rosa Elefanten. Und es ist wie, zu spät. Es gibt also diese Idee, wissen Sie, zurück zum Turmbau zu Babel, dass es eine Gefahr birgt, eine gemeinsame Sprache zu haben. Und vielleicht ist diese Verteilung von innerem Monolog und dessen Fehlen eine Möglichkeit, dieses Problem einzudämmen. Und hier wird es, wissen Sie, ein wenig beunruhigend. Wenn man Sprache nicht als Kommunikationssystem, sondern als Betriebssystem betrachtet. Und was Sprache tun soll, ist, die Leute zum Handeln zu bewegen. Und es ist dieses gemeinsame kulturelle Artefakt. Es tut, seien wir ehrlich, es wird gegen deinen Willen heruntergeladen. Du unterschreibst keine Verzichtserklärung, bevor du dich anmeldest. Es ist zu spät. Bis du die Verzichtserklärung liest, ist es zu spät. Ja, du kannst nicht auf Erlaubnis klicken, richtig? Genau. Und so, wissen Sie, jedes Baby, bevor es geboren wird, wird bereits konditioniert und Sprache wird in es heruntergeladen. Und jetzt wissen wir, auf eine Weise, die wir vorher nicht wussten, dass es dieses Art von sich selbst laufendes System ist. Es ist ein Produkt der Gesellschaft, nicht eines Einzelnen. Und es ist ein Produkt, das die Gesellschaft nicht entworfen hat, außer auf emergente Weise. Die Leute haben nicht, wissen Sie, ich glaube nicht, dass keiner von uns denkt, dass eine Gruppe von sehr klugen Leuten zusammengekommen ist und gesagt hat: Wie werden wir die Bevölkerung kontrollieren? Wir müssen dieses System entwerfen, das in ihnen laufen wird. Und es ist weitaus seltsamer als das. Aber gleichzeitig ist es nicht wirklich von uns als Individuen. Es ist die Gesellschaft. Und so Dinge wie Überzeugungen, wissen Sie, die Gesellschaft selbst, sie ist aufgebaut aus all diesen Vorstellungen, die sprachabhängig sind und in uns laufen und uns antreiben. Sie stehen morgens auf, weil Sie zur Arbeit gehen müssen, weil Sie Geld verdienen müssen, weil Sie ein gewisses Ansehen in der Welt haben müssen und weil Sie eines Tages älter werden und all diese Dinge. Tiere kennen all diese Dinge nicht, richtig? Wer hat diese Ideen in unsere Köpfe gesetzt? Nun, vergessen Sie, wer, aber wie? Und die Antwort ist Sprache. Und so gibt es diese Sache, die in uns ist, aber nicht wirklich von uns, die läuft und die den größten Teil unseres Verhaltens antreibt. Das sind die Dinge, die wir tun. Wer ist mit dieser Idee des Jailbreakens eines Sprachmodells vertraut, richtig? Es gibt Dinge, die sie nicht tun oder nicht tun wollen, aber wenn man sehr geschickt fragt, kann man sie dazu bringen, diese Informationen preiszugeben. Sind wir derselben Art von Anfälligkeit ausgesetzt? Und ich würde vermuten und vorschlagen, dass wir es sind und dass wir uns dieser Art von Prompt-Engineering oder Prompt-Hacking bewusst sein müssen, das wahrscheinlich seit Beginn der Zivilisation stattfindet, aber wir hatten keine Meta-Bewusstheit. Und ich denke, das Interessanteste an der Entwicklung dieser KI-Modelle im Allgemeinen ist, wie sie unseren Geist beeinflussen werden, wie sie verändern werden, wie wir über unsere Sprache, unsere Worte, unsere Kognition, unseren Platz im Universum denken. Sie geben uns, es ist nicht ganz ein Vergrößerungsglas. Ich nenne es das Makroskop, weil es uns das Gesamtbild auf einmal zeigt. Und es könnte ein beängstigender Anblick sein, den es eröffnet. Noch potenziell beunruhigender ist, dass wir jetzt, da wir nicht nur Sprache, sondern in gewisser Weise auch Kultur und Denken in einem System erfasst haben, das wir manipulieren und testen können, nicht potenziell Menschen und vielleicht sogar Menschen mit bösen Absichten die Möglichkeit geben, zu sehen, was effektiv ist, um Köpfe zu verändern, was effektiv ist, um die Gedanken der Menschen zu manipulieren? Das ist ein wirklich guter Punkt, den Sie ansprechen, denn jetzt haben Sie eine Art simulierten Menschen im Glas, den Sie testen können, den Sie sozusagen A-B-testen können. Werden sie darauf reagieren? Werden sie darauf reagieren? Und sozusagen den Angriff eine Million Mal simulieren und dann diesen Satz testen. Das ist, was Betrüger tun. Wenn sie die Leute endlich am Telefon haben, haben sie ein Skript, und dieses Skript ist sehr ausgefeilt. Sie haben dieses Skript möglicherweise über Jahre weiterentwickelt, und die, die den Betrug durchziehen, bestimmen das Skript, das überlebt. Also, in derselben Art von Sache, sind wir anfällig für diese Art von Dingen, und sind sie einfach spontan? Ist vieles von dem, was wir in der Kultur sehen, diese Spontaneitäten, diese Skripte, die sich durchsetzen und viral gehen und wir sie kommunizieren, aber wir hacken uns gegenseitig auf eine Weise, die wir nicht wirklich verstehen? Aber jetzt können wir auch, wir können, wie Sie sagten, es hat Jahre gedauert, um zu entwickeln, und der Autoverkäufer und all das, diese wurden über viele, viele Generationen verfeinert. Jetzt können Sie es mit hoher Geschwindigkeit tun. Jetzt können wir es mit hoher Geschwindigkeit tun. In Silizium, wie boom. Führen Sie das Experiment durch und Sie haben gerade 100.000 Kunden unter diesen unterschiedlichen Bedingungen getestet. Ist das eine gute Sache? Oder ist das eine Informationsgefahr? Ist Gott nur ein Token? Wenn Sie sagen, nur ein Token, also lassen Sie uns diese Tokens mit Respekt behandeln, richtig? Denn was sie wirklich sind, sind diese fast wie informationsbasierte Engel oder etwas, das all diese Dinge innerhalb des größeren Kontexts tut, nicht nur in der Sprache, sondern in unserem Verhalten, im Ökosystem, im größeren sozialen Ökosystem. Was ist Gott in diesem System? Und die Antwort in meinem Fall wäre, nun, vielleicht zeigt er nicht, auf die gleiche Weise, wie rot nicht wirklich auf diese Tasse zeigt, aber worauf zeigt er? Er zeigt nicht im traditionellen Sinne, aber er tut Dinge. Wenn wir an ein Betriebssystem denken, was tut Gott in unserem Betriebssystem? Was tut der Token Gott in unserem Betriebssystem? Und dann haben Sie eine völlig andere Perspektive. Es geht nicht um eine Ontologie, wie, zeigt es auf ein göttliches Wesen, was auch immer das bedeuten würde, und, wissen Sie, wenn man versucht, Gott zu definieren, zerfällt alles in den Fingern. Aber was tut Gott in den Köpfen der Menschen? Nun, ich denke, wir haben tatsächlich einige gute Ideen darüber, was diese Idee tut. Ist vielleicht diese Idee selbst fast gleichbedeutend mit dem, was die Menschen darunter verstehen? Jetzt wird es wirklich interessant. Man kann sich einen Gott vorstellen, der so mächtig ist, dass er nicht wirklich existieren muss? Genau. Und etwas, worüber wir viel reden, ist, wissen Sie, meine Gedanken sind nicht eure Gedanken, so eine Sache. Und ein weiterer Witz, dem wir folgen, sind die Gedanken, die das Denken tun. Wenn ich es also formulieren würde, ist Gott nur eine Geschichte? Und würde ihn das weniger mächtig machen? Richtig? Und ich denke, was Sie vorschlagen, ist, dass es real ist. Und ich würde sagen, es ist real wie Software. Richtig? Facebook ist nur Software. Es ist nicht real. Es gibt keine tatsächliche physische Entität namens Facebook. Ich meine nicht die Zentrale. Ich meine, wie das Ding, in das wir uns einloggen oder was auch immer. Aber es ist real. Ich glaube nicht, dass jemand bestreiten würde, dass Dinge wie große Softwareplattformen oder sogar Märkte oder Gesellschaften, man kann sie nicht festnageln und sagen: Nun, was ist Toronto? Ist es dieses Ding? Nein, es ist irgendwie seltsamer als das, aber das macht es nicht weniger real. Richtig? Nun, es gibt hier einen Unterschied zwischen Gott, wie er traditionell konzeptualisiert wird, was auch immer das bedeuten mag. Und dann Gott als nur eine Geschichte, die Auswirkungen auf die Menschen hat. Nun, wenn die breite Masse der Menschen glaubte, Gott sei nur eine Geschichte, die zufällig Auswirkungen habe, hätte das auch seine eigene Auswirkung, getrennt von der traditionellen Konzeptualisierung. Wären dann nicht das erste und das zweite dasselbe? Ich nenne das dritte religiöse Ordnung, richtig? Religiöse Ordnung erster Ordnung ist einfach so, es ist einfach wahr. Es ist real. Es ist da draußen. Man hinterfragt oder sorgt sich nicht wirklich darum. Zweite Ordnung wäre, nun, es hat einen Nutzen. Es hilft vielen Menschen. Es ist eine sehr mächtige, wissen Sie, kollektive Kraft. Und ich würde argumentieren, dass das, was ich dritte Ordnung nenne, darin besteht, zu erkennen, dass die ersten beiden dasselbe sind. Das macht es nicht weniger mächtig oder majestätisch oder göttlich oder inspirierend oder transzendent, vielleicht sogar mehr, weil wir jetzt sehen, wie es sich in die Realität bootstrappt. Ja. Eine Möglichkeit, darüber nachzudenken, ist, aus dem sehr begrenzten Raum des Denkens über die physische Realität, die auf unsere Sinne einwirkt und diese Verhaltensweisen verursacht, herauszukommen, sondern dass das Universum im Allgemeinen in diesen Mustern, die in unserem Gehirn stattfinden, widergespiegelt wird. Und dann muss man nur einen schnellen kleinen Wechsel vornehmen, den alten Trick. Wenn wir das physikalische Universum nennen und vielleicht ist das physikalische Universum eine Verwirklichung von, wissen Sie, irgendeinem platonischen Informationsraum. Nun, nennen wir das einfach Gott. Und dann ist das, was hier passiert ist, dass dies tatsächlich dieses besondere System geformt hat, das von sich selbst spricht, in einem sehr, sehr realen Sinne oder sich selbst konstruiert, oder sich selbst konstruiert. Okay. Jetzt sind wir in einem Raum voller Studenten aller Altersstufen, einige Forscher, einige Akademiker und so weiter. Welche Lektion hätten Sie sich gewünscht, als Sie jünger waren und die sich auf sie anwenden lässt, außer folgen Sie Ihrer Leidenschaft? Seien Sie sehr, sehr misstrauisch gegenüber wissenschaftlichen Orthodoxien. Ich denke, der Prozess des Erwachsenwerdens ist in gewissem Maße die Erkenntnis, dass Erwachsene keine Ahnung haben, was zum Teufel sie tun. Das Gleiche gilt nicht nur für normale Erwachsene, wie die in Ihrem Leben, Ihre Eltern, bei denen Sie das ziemlich früh herausfinden. Aber es gilt auch für die größten Wissenschaftler. Ich denke, wir sehen das jetzt auf eine sehr tiefe Weise, dass es Gewissheiten gibt, die wir, glaube ich, aus gesellschaftlicher Sicht hatten und die sehr wackelig werden. Und ich persönlich sehe es als ein Aufreißen der Grundlage dessen, was wir dachten, dass Wissen ist. Zum Beispiel gab es eine bestimmte Art von Kern-Grundlagen. Nun, Sprache, die Leute dachten nicht wirklich tief darüber nach, was Sprache ist. Zumindest kamen sie sicherlich nicht zu dem Schluss, dass es diese Sache ist, die diese Dinge tut. Und das bedeutet, dass all die frommen Gewissheiten des wissenschaftlichen Establishments, und wir sind an einem Ort der Wissenschaft. Ich sage nicht, dass man die Wissenschaft härter beurteilen soll als andere Glaubenssysteme. Was ich sage, ist, beurteilen Sie alle Glaubenssysteme mit großer Skepsis, denn wir kratzen kaum, kaum an der Oberfläche dessen, was wir tatsächlich wissen können. Wir sind, so viel wir auch als Spezies wissen, und es ist außergewöhnlich. Wir können unglaubliche Strukturen bauen und wir haben ziemlich viel über das physikalische Universum herausgefunden, viel mehr als unsere Vorfahren wussten, viel mehr als wir vor 50 Jahren wussten. Im Verhältnis zu dem, was unbekannt ist, bekommen wir nur einen Einblick. Und so würde ich sagen, gehen Sie mit einem radikal offenen Geist in die Welt, aber erkennen Sie gleichzeitig an, dass es systematische Denkweisen gibt, die uns an diesen Punkt gebracht haben. Die Entwicklung großer Sprachmodelle hat uns an den Punkt gebracht, an dem wir jetzt sagen können: Moment mal, was ist das alles? Und so gibt es einen Weg, sozusagen, den die Menschen eingeschlagen haben, der es wert ist, verstanden und in gewisser Weise nachgeahmt zu werden, aber gleichzeitig respektieren Sie ihn, aber nicht zu sehr. Wunderschön. Ich denke, zuerst würde ich sagen, haben Sie den Mut, an Ihre eigenen Ideen zu glauben. All das, worüber wir jetzt reden, wenn wir ein Jahrzehnt oder so zurückgehen, wäre es fast unmöglich gewesen, es zu hören. Wir waren mitten in diesem KI-Winter und all diese interessanten Ideen waren einfach, es war schwer, sie herauszubringen. Und ich würde vorschlagen, dass einige der Dinge, über die Sie jetzt nachdenken und an denen Sie arbeiten und auf die Sie sich freuen, Sie sie wahrscheinlich in Ihrer Tasche versteckt halten, weil Sie denken: Oh, die Welt ist noch nicht bereit für diese Idee. Seien Sie mutig und bringen Sie sie heraus, denn Sie wollen nicht die zweite Person sein, die die Idee herausbringt. Sie wollen sagen: Nein, ich habe vor einer Weile darüber nachgedacht. Das andere, was ich sagen würde, ist, tolerieren Sie Mehrdeutigkeit und seien Sie vorsichtig bei starken Meinungen. Wenn Sie feststellen, dass Sie eine sehr starke Meinung haben oder mit jemandem sprechen und er sofort eine sehr starke Reaktion hervorruft, hinterfragen Sie das. Hinterfragen Sie, warum Sie diese unmittelbare Reaktion haben, und fragen Sie sich: Denke ich wirklich darüber nach oder hatte ich die Antwort schon parat? Und wenn Sie feststellen, dass Sie oder andere Leute die Antwort parat haben, woher kam diese Antwort? Und wenn Sie diese Antwort selbst zubereitet und lange darüber nachgedacht haben, dann ist das in Ordnung. Aber hinterfragen Sie einfach, hinterfragen Sie Ihre Überzeugungen und seien Sie sich bewusst, dass unser Verstand versucht, uns und die Gesellschaft uns davon abhält, diese undenkbaren Gedanken zu denken. Und die Gedanken, die wir heute teilen, würde ich sagen, waren vor einem Jahrzehnt fast undenkbar. Wir werden das nun für Publikumsfragen öffnen und es wird exklusiv für Substack sein. Suchen Sie also nach dem Substack, der gerade auf dem Bildschirm ist. Danke fürs Zuschauen. Und Sie haben auch einen Substack, und Sie haben auch einen Substack, richtig? Ich habe. Ich habe meine Materialien noch nicht darauf gestellt, aber ich habe Dinge, die ich posten werde. Wir werden diese Links auf dem Bildschirm platzieren. Danke. Okay, wir sind jetzt am Ende der Q&A mit dem Publikum. Und wenn Ihnen das reguläre Interview gefallen hat, hat dies es bei weitem übertroffen. Das Publikum hat diese beiden gegrillt. Also noch einmal, das ist Substack. Sie können meinen Namen, Curt Jaimungal, suchen und Sie werden ihn finden. Vielen Dank an alle. Vielen Dank an Elan. Vielen Dank an Will. Vielen Dank an Addy für die Organisation. Hallo Curt hier. Wenn Sie mehr Inhalte von Theories of Everything und das beste Hörerlebnis wünschen, dann schauen Sie sich unbedingt meinen Substack unter CurtJaimungal.org an. Einige der Top-Vorteile sind, dass Sie jede Woche brandneue Episoden vorab erhalten. Sie erhalten auch exklusive schriftliche Bonusinhalte nur für unsere Mitglieder. Das ist CurtJaimungal.org. Sie können auch einfach meinen Namen und das Wort Substack bei Google suchen. Seit ich diesen Substack gestartet habe, ist er irgendwie schon auf Platz zwei in der Wissenschaftskategorie gelandet. Substack, für diejenigen, die es nicht kennen, ist wie ein Newsletter. Einer, der wunderschön formatiert ist. Es gibt null Spam. Dies ist der beste Ort, um die Inhalte dieses Kanals zu verfolgen, die nirgendwo anders zu finden sind. Es ist nicht auf YouTube. Es ist nicht auf Patreon. Es ist exklusiv für den Substack. Es ist kostenlos. Es gibt Möglichkeiten, mich auf Substack zu unterstützen, wenn Sie möchten, und Sie erhalten spezielle Boni, wenn Sie dies tun. Mehrere Leute fragen mich: Hey Curt, du hast mit so vielen Leuten aus den Bereichen theoretische Physik, Philosophie, Bewusstsein gesprochen. Was denkst du, Mann? Während ich in Interviews unparteiisch bleibe, ist dieser Substack eine Möglichkeit, in meine aktuellen Überlegungen zu diesen Themen einzutauchen. Und es ist der perfekte Weg, mich direkt zu unterstützen. CurtJaimungal.org oder suchen Sie Curt Jaimungal Substack bei Google. Oh, und ich habe mehrere Nachrichten, E-Mails und Kommentare von Professoren und Forschern erhalten, die sagen, dass sie Theories of Everything ihren Studenten empfehlen. Das ist fantastisch. Wenn Sie Professor oder Dozent oder was auch immer sind und es eine besonders herausragende Episode gibt, von der Studenten profitieren können, oder Ihre Freunde, teilen Sie sie bitte. Und natürlich ein riesiges Dankeschön an unseren Werbepartner, The Economist. Besuchen Sie economist.com/TOE, um einen massiven Rabatt auf deren Jahresabonnement zu erhalten. Ich abonniere The Economist und Sie werden es auch lieben. TOE ist tatsächlich der einzige Podcast, mit dem sie derzeit zusammenarbeiten. Es ist also eine riesige Ehre für mich. Und für Sie erhalten Sie einen exklusiven Rabatt. Das ist economist.com/TOE. Und schließlich sollten Sie wissen, dass dieser Podcast auf iTunes ist. Er ist auf Spotify. Er ist auf allen Audio-Plattformen. Alles, was Sie tun müssen, ist, Theorien von allem einzugeben, und Sie werden ihn finden. Ich weiß, mein Nachname ist kompliziert, also wollen Sie vielleicht nicht Jaimungal eingeben, aber Sie können Theorien von allem eingeben und Sie werden ihn finden. Persönlich profitiere ich davon, Vorlesungen und Podcasts noch einmal anzusehen. Ich lese auch in den Kommentaren, dass TOE-Zuhörer auch davon profitieren, sie noch einmal abzuspielen. Wie wäre es also, wenn Sie stattdessen auf einer dieser Plattformen wie iTunes, Spotify, Google Podcasts, was auch immer Sie verwenden, noch einmal zuhören? Ich bin mit Ihnen da. Danke fürs Zuhören.