Transcription
Das Folgende ist ein Gespräch mit Jensen Huang, CEO von NVIDIA, einem der wichtigsten und einflussreichsten Unternehmen in der Geschichte der menschlichen Zivilisation. NVIDIA ist die treibende Kraft hinter der KI-Revolution, und ein großer Teil seines Erfolgs ist direkt auf Jensens schiere Willenskraft und seine vielen brillanten Wetten und Entscheidungen als Führungskraft, Ingenieur und Innovator zurückzuführen. Dies ist der Lex Fridman Podcast. Und nun, liebe Freunde, hier ist Jensen Huang.
Sie haben NVIDIA in eine neue Ära der KI geführt und sich von der Konzentration auf das Chip-Scale-Design hin zum Rack-Scale-Design entwickelt. Und ich denke, man kann mit Fug und Recht sagen, dass es für NVIDIA lange Zeit darum ging, die bestmögliche GPU zu bauen, und das tun Sie immer noch, aber jetzt haben Sie das auf extremes Co-Design von GPU, CPU-Speicher, Netzwerk, Speicher, Stromkühlung, Software, dem Rack selbst, dem von Ihnen angekündigten Pod und sogar dem Rechenzentrum erweitert. Sprechen wir also über extremes Co-Design. Was ist der schwierigste Teil des Co-Designs eines Systems mit so vielen komplexen Komponenten und Designvariablen?
Ja, danke für diese Frage. Zunächst einmal ist der Grund, warum extremes Co-Design notwendig ist, dass das Problem nicht mehr in einen einzigen Computer passt, um von einer einzigen GPU beschleunigt zu werden. Das Problem, das Sie zu lösen versuchen, ist, dass Sie schneller sein möchten als die Anzahl der Computer, die Sie hinzufügen. Sie haben also, wissen Sie, 10.000 Computer hinzugefügt, aber Sie möchten, dass es eine Million Mal schneller geht. Dann müssen Sie plötzlich den Algorithmus nehmen, Sie müssen den Algorithmus aufteilen, Sie müssen ihn umstrukturieren, Sie müssen die Pipeline aufteilen, Sie müssen die Daten aufteilen, Sie müssen das Modell aufteilen. Wenn Sie das Problem auf diese Weise verteilen, nicht nur das Problem skalieren, sondern das Problem verteilen, dann gerät alles in den Weg. Dies ist das Amdahlsche Gesetz-Problem, bei dem die Geschwindigkeitssteigerung für etwas davon abhängt, wie viel vom gesamten Arbeitsaufwand es ausmacht. Und wenn die Berechnung 50 % des Problems ausmacht und ich die Berechnung unendlich, also millionenfach, beschleunige, dann habe ich den gesamten Arbeitsaufwand nur um den Faktor zwei beschleunigt.
Plötzlich müssen Sie nicht nur die Berechnung verteilen, sondern Sie müssen irgendwie die Pipeline aufteilen. Sie müssen auch das Netzwerkproblem lösen, da all diese Computer miteinander verbunden sind. Und so ist verteiltes Rechnen in dem von uns betriebenen Umfang, die CPU ist ein Problem, die GPU ist ein Problem, das Netzwerk ist ein Problem, das Switching ist ein Problem. Und die Verteilung der Arbeitslast auf all diese Computer ist ein Problem. Es ist einfach ein massiv komplexes Informatikproblem. Und so müssen wir jede Technologie einsetzen. Andernfalls skalieren wir linear oder wir skalieren basierend auf den Fähigkeiten des Mooreschen Gesetzes, das weitgehend verlangsamt wurde, da das Dennard-Scaling verlangsamt wurde.
Ich bin sicher, dass es dort Kompromisse gibt. Außerdem haben Sie hier völlig unterschiedliche Disziplinen. Ich bin sicher, Sie haben Spezialisten in jedem dieser Bereiche: Hochbandbreitenspeicher, das Netzwerk und die NVLink, die NICs, die Optik und die Kupfer, die Sie verwenden, die Stromversorgung, die Kühlung, all das. Ich meine, es gibt Welt-Experten in jedem dieser Bereiche. Wie bekommen Sie sie in einen Raum, um das herauszufinden?
Deshalb ist mein Personal so groß.
Was ist der Prozess – können Sie mich durch den Prozess der Spezialisten und Generalisten führen? Wie stellen Sie das Rack zusammen, wenn Sie die Menge der Dinge kennen, die Sie zusammen in ein Rack packen müssen? Wie sieht dieser Prozess des gemeinsamen Entwurfs aus?
Ja. Da ist die erste Frage: Was ist extremes Co-Design? Sie optimieren über den gesamten Software-Stack hinweg, von Architekturen über Chips, Systeme, Systemsoftware bis hin zu Algorithmen und Anwendungen. Das ist eine Ebene. Das zweite, worüber wir gerade gesprochen haben, geht über CPUs und GPUs und Netzwerkchips und Scale-Up-Switches und Scale-Out-Switches hinaus. Und dann müssen Sie natürlich Strom und Kühlung und all das einbeziehen, denn, wissen Sie, all diese Computer sind extrem, extrem stromhungrig. Sie leisten viel Arbeit und sind sehr energieeffizient, aber in der Summe verbrauchen sie immer noch viel Strom. Und das ist also eins. Die erste Frage ist, was es ist. Die zweite Frage ist, warum es das ist, und wir haben gerade über den Grund gesprochen, wissen Sie, Sie wollen die Arbeitslast verteilen, damit Sie den Nutzen der bloßen Erhöhung der Anzahl von Computern übertreffen können. Und dann die dritte Frage ist, wie es ist, wie macht man das? Und das ist sozusagen das Wunder dieses Unternehmens.
Wenn Sie einen Computer entwerfen, müssen Sie ein Betriebssystem für Computer haben. Wenn Sie ein Unternehmen gründen, sollten Sie zuerst darüber nachdenken, was das Unternehmen produzieren soll. Ich sehe viele Unternehmensorganigramme, und sie sehen alle gleich aus. Hamburger-Organigramme, weiche Organigramme und Organigramme von Automobilunternehmen. Sie sehen alle gleich aus. Und das ergibt für mich keinen Sinn. Das Ziel eines Unternehmens ist es, die Maschine, der Mechanismus, das System zu sein, das die Ausgabe produziert. Und diese Ausgabe ist das Produkt, das wir gerne erstellen. Es ist auch so, dass das Design, die Architektur des Unternehmens die Umgebung widerspiegeln sollte, in der es existiert. Es sagt fast indirekt, was Sie mit der Organisation tun sollten. Mein direkter Stab besteht aus 60 Personen. Ich habe keine Einzelgespräche mit ihnen, weil es unmöglich ist. Sie können nicht 60 Leute in Ihrem Stab haben, wenn Sie, wissen Sie, Arbeit erledigen wollen und-
Sie haben also immer noch 60 Berichte. Sie haben immer noch quer durch-
Mehr, ja.
Mehr. Und die meisten Stars haben zumindest einen Fuß in der Ingenieurwissenschaft.
Fast alle. Es gibt Experten für Speicher, es gibt Experten für CPUs, es gibt Experten für Optik. Alle, alle-
Das ist unglaublich.
Ja, GPUs und- Architektur, Algorithmen, Design, ähm-
Sie haben also ständig den gesamten Stack im Blick und führen intensive Diskussionen über den Designer des gesamten Stacks?
Und kein Gespräch ist jemals eine einzelne Person. Deshalb mache ich keine Einzelgespräche. Wir präsentieren ein Problem und alle greifen es an. Wissen Sie, weil wir extremes Co-Design betreiben. Und buchstäblich das Unternehmen betreibt ständig extremes Co-Design.
Also, selbst wenn Sie über eine bestimmte Komponente sprechen, wie Kühlung, Netzwerk, alle hören mit?
Ja, genau.
Und sie können beitragen: "Nun, das funktioniert nicht für die Stromverteilung. Das funktioniert nicht-"
Genau.
"... Das funktioniert nicht für den Speicher. Das funktioniert nicht für das."
Genau. Und wer sich ausklinken will, klinkt sich aus. Verstehen Sie, was ich meine? Und der Grund dafür ist, dass die Leute, die im Stab sind, wissen, wann sie aufpassen müssen. Es gibt... Wissen Sie, es gibt etwas, zu dem sie hätten beitragen können, sie haben nicht beigetragen, "Ich werde sie zur Rede stellen." Wissen Sie? Und so: "Hey, komm schon, lass uns hier rein."
Wie Sie erwähnt haben, ist NVIDIA ein Unternehmen, das sich an die Umgebung anpasst. An welchem Punkt kann man sagen, hat sich die Umgebung verändert und begann sich sozusagen heimlich anzupassen? In den frühen Tagen von GPU für Spiele, vielleicht die frühe Deep-Learning-Revolution, bis hin zu wir werden jetzt anfangen, es als KI-Fabrik zu betrachten? Was macht NVIDIA? Es produziert KI, bauen wir eine Fabrik, die KI herstellt.
Äh, ich könnte, ich könnte das systematisch durchdenken. Wir begannen als Beschleunigerunternehmen. Aber das Problem mit Beschleunigern ist, dass die Anwendungsdomäne zu eng ist. Es hat den Vorteil, dass es für die jeweilige Aufgabe unglaublich optimiert ist. Wissen Sie, jeder Spezialist hat diesen Vorteil. Das Problem bei intensiver Spezialisierung ist natürlich, dass Ihre Marktreichweite enger ist, aber das ist sogar in Ordnung. Das Problem ist, dass die Marktgröße auch Ihre F&E-Kapazität bestimmt. Und Ihre F&E-Kapazität bestimmt letztendlich den Einfluss und die Wirkung, die Sie in der Computertechnik haben können. Und so, als wir als Beschleuniger, sehr spezifischer Beschleuniger, begannen, wussten wir immer, dass das unser erster Schritt sein würde. Wir mussten einen Weg finden, beschleunigte Computer zu werden. Aber das Problem ist, wenn man zu einem Computerunternehmen wird, ist es zu universell und es geht auf Kosten der Spezialisierung. Die Wende- Ich habe zwei Wörter verbunden, die tatsächlich eine grundlegende Spannung haben. Je besser wir als Computerunternehmen wurden, desto schlechter wurden wir als Spezialist. Je mehr Spezialist, desto weniger Kapazität haben wir für allgemeine Computerarbeit. Und so... Und ich habe diese beiden Wörter bewusst verbunden, dass das Unternehmen diesen wirklich schmalen Pfad Schritt für Schritt finden muss, um unsere Apertur für Computer zu erweitern, aber nicht auf die wichtigste Spezialisierung zu verzichten, die wir hatten.
Okay, der erste Schritt, den wir über die Beschleunigung hinaus unternommen haben, war, dass wir einen programmierbaren Pixel-Shader erfunden haben. Das war also der erste Schritt zur Programmierbarkeit. Wissen Sie, es war unsere erste Reise in die Welt des Computings. Das zweite, was wir getan haben, war, dass wir FP32 in unsere Shader integriert haben. Dieser FP32-Schritt, IEEE-kompatibles FP32, war ein riesiger Schritt in Richtung Computing. Es war der Grund, warum all die Leute, die an Stream-Prozessoren und anderen Arten von Datenfluss-Prozessoren arbeiteten, uns entdeckten. Und sie sagten: "Hey, plötzlich könnten wir diese GPU nutzen, die unglaublich rechenintensiv ist, und sie ist jetzt IEEE-konform." Ich kann meine Software, die ich früher auf CPUs geschrieben habe, nehmen und sehen, ob ich die GPU dafür nutzen kann. Und das führte uns dazu, C über FP32 zu legen, was wir Cg nennen. Der Cg-Pfad führte uns schließlich zu CUDA. CUDA, Schritt für Schritt, wir... Nun, CUDA auf GeForce zu legen, das war eine strategische Entscheidung, die sehr, sehr schwer zu treffen war, weil sie das Unternehmen enorme Mengen unserer Gewinne kostete und wir es uns damals nicht leisten konnten. Aber wir haben es trotzdem getan, weil wir ein Computerunternehmen sein wollten. Ein Computerunternehmen hat eine Computerarchitektur. Eine Computerarchitektur muss mit allen von uns gebauten Chips kompatibel sein.
Können Sie mich durch diese Entscheidung führen? CUDA auf GeForce zu legen, konnte es sich nicht leisten zu tun? Können Sie diese Entscheidung erklären? Warum haben Sie sich trotzdem kühn dafür entschieden? Können Sie diese Entscheidung erklären?
Ja, ausgezeichnet. Das war, das war die erste... Ich würde sagen, das war die erste strategische Entscheidung, die einer existenziellen Bedrohung am nächsten kommt.
Für Leute, die es nicht wissen: Es stellte sich heraus, Spoiler-Alarm, als eine der unglaublich brillantesten Entscheidungen, die ein Unternehmen je getroffen hat. CUDA erwies sich als eine unglaubliche Grundlage für die Berechnung in dieser KI-Infrastrukturwelt. Also-
Danke.
... nur um den Kontext zu geben. Es erwies sich als gute Entscheidung.
Ja, es stellte sich als gute Entscheidung heraus. Ich denke, die... Also, so lief es. Wir haben dieses Ding namens CUDA erfunden, und es erweiterte die Apertur der Anwendungen, die wir mit unserem Beschleuniger beschleunigen konnten. Die Frage ist, wie gewinnen wir Entwickler für CUDA? Denn eine Computerplattform steht und fällt mit den Entwicklern. Und Entwickler kommen nicht zu einer Computerplattform, nur weil sie etwas Interessantes leisten kann. Sie kommen zu einer Computerplattform, weil die installierte Basis groß ist. Denn ein Entwickler möchte, wie jeder andere auch, Software entwickeln, die viele Menschen erreicht. Die installierte Basis ist also tatsächlich der wichtigste Teil einer Architektur. Die Architektur kann enormer Kritik ausgesetzt sein. Zum Beispiel hat keine Architektur mehr Kritik auf sich gezogen als x86.... wissen Sie, als eine weniger als elegante Architektur, aber sie ist dennoch die definierende Architektur von heute. Das gibt Ihnen ein Beispiel dafür, dass viele RISC-Architekturen, die wunderschön architektonisch gestaltet und von einigen der klügsten Informatiker der Welt unglaublich gut entworfen wurden, weitgehend gescheitert sind. Und so habe ich Ihnen zwei Beispiele gegeben, bei denen eines elegant ist, das andere kaum ästhetisch ist, und doch hat x86 überlebt, und der Grund dafür-
Installierte Basis ist alles.
Die installierte Basis definiert eine Architektur. Nicht... Alles andere ist zweitrangig, okay? Und so gab es zu dieser Zeit andere Architekturen. CUDA kam heraus, OpenCL war da. Es gab... Wissen Sie, es gab mehrere andere konkurrierende Architekturen. Aber die Entscheidung, die wir getroffen haben und die gut war, war, dass wir sagten: "Hey, schauen Sie, letztendlich geht es um die installierte Basis und wie wir eine neue Computerarchitektur am besten in die Welt bringen können?" Zu diesem Zeitpunkt war GeForce erfolgreich geworden. Wir verkauften bereits Millionen und Abermillionen von GeForce GPUs pro Jahr, und wir sagten: "Wissen Sie, wir sollten CUDA auf GeForce legen und es in jeden einzelnen PC einbauen, ob die Kunden es nun nutzen oder nicht, und es als Ausgangspunkt für die Pflege unserer installierten Basis verwenden." In der Zwischenzeit werden wir Entwickler anziehen, und wir gingen zu Universitäten, schrieben Bücher, hielten Kurse und brachten CUDA überall hin. Und schließlich entdecken die Leute... Und zu dieser Zeit war der PC das primäre Computerfahrzeug. Es gab keine Cloud, und wir konnten jedem Forscher an Schulen, jedem Wissenschaftler, jedem Ingenieur, jedem... oder jedem Studenten in der Schule einen Supercomputer in die Hände geben, und schließlich würde etwas Erstaunliches passieren.
Das Problem war, dass CUDA unsere Kosten für diese GPU, ein Konsumprodukt, so enorm erhöhte, dass es die gesamten Bruttogewinne des Unternehmens vollständig aufzehrte. Und so war das Unternehmen zu dieser Zeit wahrscheinlich, ich weiß nicht, damals 8 Milliarden Dollar wert oder so? Etwa sechs, sieben Milliarden Dollar oder so. Nachdem wir CUDA auf den Markt gebracht hatten, erkannte ich, dass es so viele Kosten verursachen würde, aber es war etwas, woran wir glaubten. Wissen Sie, unsere Marktkapitalisierung sank auf etwa eineinhalb Milliarden Dollar. Und so waren wir unten, wir waren eine Weile unten und wir kämpften uns langsam wieder hoch, aber wir trugen CUDA auf GeForce. Ich sage immer, NVIDIA ist das Haus, das GeForce gebaut hat, denn es war GeForce, das CUDA zu jedem brachte. Forscher, Wissenschaftler, sie entdeckten CUDA auf GeForce, weil sie alle, wissen Sie... Viele von ihnen waren Gamer. Viele von ihnen bauten sowieso ihre eigenen PCs. In einem Universitätslabor bauten viele von ihnen selbst Cluster, wissen Sie, mit PC-Komponenten. Und so, wissen Sie, so fingen wir an.
Und das wurde dann zur Plattform und Grundlage für die Deep-Learning-Revolution.
Das war auch eine weitere großartige Beobachtung. Ja.
Dieser existenzielle Moment, erinnern Sie sich... Wie waren diese Treffen? Wie waren diese Diskussionen, als Unternehmen zu entscheiden, alles zu riskieren?
Nun, ich musste dem Vorstand klar machen, was wir vorhatten, und das Management-Team wusste, dass unsere Bruttogewinne vernichtet werden würden. Man kann sich also eine Welt vorstellen, in der GeForce die Last von CUDA tragen würde und keiner der Gamer es zu schätzen wüsste und keiner der Gamer dafür bezahlen würde. Wissen Sie, sie zahlen nur einen bestimmten Preis, und es spielt keine Rolle, was Ihre Kosten sind. Und so... Wissen Sie, wir haben unsere Kosten um 50 % erhöht, und das hat... Und wir waren ein Unternehmen mit 35 % Bruttogewinn, und so war es... Es war eine ziemlich schwierige Entscheidung. Aber man kann sich vorstellen, dass dies eines Tages in Workstations und Supercomputer Einzug halten würde, und in diesen Segmenten könnten wir vielleicht mehr Gewinn erzielen. Man konnte sich also argumentativ dazu durchringen, sich das leisten zu können, aber es dauerte immer noch... Es dauerte ein Jahrzehnt.
Aber das ist eher eine Art Gespräch mit dem Vorstand, um ihn zu überzeugen, aber psychologisch... Da NVIDIA weiterhin kühne Wetten eingeht, die die Zukunft vorhersagen und teilweise, besonders jetzt, die Zukunft definieren. Ich suche also fast nach Weisheit darüber, wie Sie in der Lage sind, diese Entscheidungen zu treffen, diese Sprünge... wie diese als Unternehmen.
Nun, erstens informiere ich mich durch viel Neugier. Irgendwann gibt es ein begründetes System, das mich überzeugt, dass dieses Ergebnis eintreten wird. Dass dies geschehen wird. Und so glaube ich es in meinem Kopf, und wenn ich es in meinem Kopf glaube, wissen Sie, wissen Sie, wie es ist. Sie manifestieren eine Zukunft, und diese Zukunft ist so überzeugend, dass sie nicht passieren kann. Es gibt viel Leid dazwischen, aber Sie müssen an das glauben, woran Sie glauben.
Sie sehen also die Zukunft... und Sie manifestieren sie im Wesentlichen aus einer technischen Perspektive?
Ja. Und Sie begründen, wie Sie dorthin gelangen. Sie begründen, warum es existieren muss. Und, wissen Sie, ich begründe... Wir alle begründen es hier. Das Management-Team würde es begründen. All die Leute, die ich... Wir verbringen viel Zeit damit, darüber nachzudenken. Das, das... Der nächste Teil ist wahrscheinlich eine Fähigkeitssache, und zwar, dass die Führung oft schweigt oder etwas lernt und dann ein Manifest veröffentlicht, und es ist ein brandneues Jahr, und irgendwie am Ende des Jahres, nächstes Jahr, werden wir einen brandneuen Plan haben. Große Entlassungen hier, große organisatorische Veränderungen dort, neue Mission Statement... brandneue Logos, wissen Sie, diese Art von Dingen. Ähm, wir haben das noch nie, ich mache das nie so. Wenn ich etwas lerne und es anfängt, meine Denkweise zu beeinflussen, mache ich allen in meiner Nähe sehr deutlich, dass dies interessant ist. Das wird einen Unterschied machen. Das wird Auswirkungen haben. Und ich begründe Dinge Schritt für Schritt. Oft habe ich meine Meinung bereits gebildet, aber ich werde jede mögliche Gelegenheit nutzen, externe Informationen, neue Erkenntnisse, neue Entdeckungen, neue technische Offenbarungen, neue Meilensteine, um alle anderen Glaubenssysteme zu formen. Und das tue ich buchstäblich jeden einzelnen Tag. Ich tue das mit meinem Vorstand, ich tue das mit meinem Management-Team, ich tue das mit meinen Mitarbeitern. Ich versuche, ihre Glaubenssysteme so zu formen, dass, wenn ich eines Tages sage: "Hey, lasst uns Mellanox kaufen", es für alle offensichtlich ist, dass wir es absolut tun sollten. An dem Tag, an dem ich sagte: "Hey Leute, lasst uns voll auf Deep Learning setzen", und lassen Sie mich Ihnen sagen, warum. Ich habe bereits die Ziegelsteine für verschiedene Organisationen im Unternehmen gelegt. Jede Organisation und jeder, viele der Leute haben vielleicht alles gehört. Der Großteil des Unternehmens hört natürlich Teile davon. Und an dem Tag, an dem ich es ankündige, sind alle von vielen Teilen davon überzeugt. Und in vielerlei Hinsicht, ich mag es, diese Dinge anzukündigen, und ich stelle mir vor, dass die Mitarbeiter sagen: "Wissen Sie, Jensen, was hat so lange gedauert?" Und tatsächlich habe ich ihre Glaubenssysteme schon seit einiger Zeit geformt, und damit auch die Führung. Manchmal sieht es so aus, als würden Sie von hinten führen, aber Sie haben sie geformt, bis zu dem Punkt, an dem am Tag, an dem ich es deklarierte, 100 % Zustimmung herrschte. Aber das ist es, was Sie wollen. Sie wollen alle mitnehmen. Wissen Sie, sonst kündigen wir etwas über Deep Learning an und alle sagen: "Wovon redest du?" Wissen Sie, Sie kündigen etwas an, lassen Sie uns voll auf diese Sache setzen, und Ihr Management-Team, Ihr Vorstand, Ihre Mitarbeiter, Ihre Kunden, sie sind irgendwie so: "Woher kommt das? Wissen Sie, das ist verrückt." Und so, so GTC-Effekt, wenn Sie in die Vergangenheit zurückblicken, sehen Sie sich die Keynotes an, ich forme auch das Glaubenssystem meiner Partner in der Branche und nutze das, um das Glaubenssystem meiner eigenen Mitarbeiter zu formen. Und so, wenn ich etwas ankündige, wie zum Beispiel, wir haben gerade Grok angekündigt. Wir waren spät... Ich habe zweieinhalb Jahre über die Trittsteine gesprochen. Sie gehen einfach zurück und sagen: "Oh mein Gott, sie haben zwei Jahre lang darüber gesprochen." Und so habe ich Schritt für Schritt die Grundlage gelegt, so dass, wenn die Zeit kommt, Sie es ankündigen, alle sagen: "Wissen Sie, was hat so lange gedauert?"
Aber es ist nicht nur innerhalb des Unternehmens. Sie gestalten die Landschaft, die breitere globale Innovationslandschaft. Indem Sie diese Ideen in die Welt setzen, manifestieren Sie wirklich die Realität.
Wir bauen keine Computer. Wir bauen keine Clouds. Wir... Wie sich herausstellt, sind wir ein Unternehmen für Computerplattformen. Und so kann niemand etwas von uns kaufen. Das ist das Seltsame. Wir entwerfen vertikal, integrieren vertikal, um zu entwerfen und zu optimieren, aber dann öffnen wir die gesamte Plattform auf jeder einzelnen Ebene, um sie in die Produkte und Dienstleistungen und Clouds und Supercomputer und OEM-Computer anderer Unternehmen zu integrieren. Und das Erstaunliche ist, ich kann nicht tun, was ich tue, ohne sie zuerst überzeugt zu haben. Und so geht es bei den meisten GTC darum, eine Zukunft zu manifestieren, dass, wenn unser Produkt fertig ist, sie sagen: "Was hat so lange gedauert?"
Ja. Einer der Dinge, an die Sie schon lange glauben, sind Skalierungsgesetze, weit gefasst. Glauben Sie immer noch an die Skalierungsgesetze?
Ja, ja. Ja, wir haben jetzt mehr Skalierungsgesetze.
Ich glaube, Sie haben vier davon skizziert: Pre-Training, Post-Training, Testzeit und Agentic Scaling. Was denken Sie, wenn Sie an die Zukunft, die ferne Zukunft und die nahe Zukunft denken, was sind die Blocker, die Ihnen am meisten Sorgen bereiten und Sie nachts wach halten, die Sie überwinden müssen, um weiter zu skalieren?
Nun, wir können zurückgehen und reflektieren, was die Leute für Blocker hielten. Am Anfang waren wir die Ersten... Das Pre-Training-Skalierungsgesetz. Wissen Sie, die Leute dachten, und das zu Recht, dass die Menge an Daten, die wir haben, qualitativ hochwertige Daten, die Intelligenz, die wir erreichen, begrenzen wird. Und dieses Skalierungsgesetz war ein wichtiges, sehr wichtiges Skalierungsgesetz. Je größer das Modell, desto mehr Daten führen entsprechend zu einer besseren... Zu einer intelligenteren KI. Und das war Pre-Training. Und Ilya Sutskever sagte: "Wir haben keine Daten mehr" oder so etwas. "Pre-Training ist vorbei" oder so etwas. Die Industrie geriet in Panik, dass dies das Ende der KI sei. Und natürlich, natürlich ist das offensichtlich nicht wahr. Wir werden weiterhin die Menge der Daten skalieren, mit denen wir trainieren. Ein Großteil dieser Daten wird wahrscheinlich synthetisch sein, und das hat die Leute auch verwirrt. Und was die Leute nicht erkennen, ist, dass sie irgendwie vergessen haben, dass die meisten Daten, mit denen wir trainieren, mit denen wir uns gegenseitig informieren, synthetisch sind. Wissen Sie, ich... Es ist synthetisch, weil es nicht aus der Natur stammt. Sie haben es erschaffen. Ich konsumiere es. Ich modifiziere es, erweitere es, generiere es neu, jemand anderes konsumiert es. Und so, so haben wir jetzt ein Niveau erreicht, auf dem KI in der Lage ist, Ground Truth zu nehmen, zu erweitern...... zu verbessern, synthetisch eine enorme Menge an Daten zu generieren. Und dieser Teil des Post-Trainings skaliert weiter, und so wird die Menge der Daten, die wir verwenden können und die von Menschen generiert wurden, kleiner und kleiner und kleiner. Die Menge der Daten, die wir zum Trainieren von Modellen verwenden, wird weiter skalieren, bis zu dem Punkt, an dem wir nicht mehr begrenzt sind... Das Training ist nicht mehr begrenzt durch... Daten sind jetzt durch Rechenleistung begrenzt. Und der Grund dafür ist, dass die meisten Daten synthetisch sind.
Dann ist die nächste Phase Testzeit, und ich erinnere mich immer noch, wie Leute mir sagten: "Inferenz? Oh ja, das ist einfach. Pre-Training, das ist schwer." Das sind riesige Systeme, über die die Leute sprechen. Inferenz muss einfach sein. Und so werden Inferenzchips kleine winzige Chips sein, und... wissen Sie, sie sind nicht, sie sind nicht wie NVIDIAs Chips. Oh, die werden kompliziert und teuer sein, und, wissen Sie, wir könnten... Und das ist- in Zukunft wird Inferenz der größte Markt sein, und es wird einfach sein, und wir werden es zur Ware machen. Wissen Sie, jeder kann seine eigenen Chips bauen. Und, und das war für mich immer unlogisch, weil Inferenz Denken ist, und ich denke, Denken ist schwer. Denken ist viel schwerer als Lesen. Wissen Sie, Pre-Training ist nur Auswendiglernen und Verallgemeinerung, wissen Sie, und das Suchen nach Mustern in Beziehungen. Sie lesen und lesen, im Gegensatz zum Denken, Schlussfolgern, Problemlösen, das Aufnehmen von unerforschten Erfahrungen, neuen Erfahrungen und das Zerlegen in... Zerlegen in lösbare Teile, die wir dann entweder durch prinzipielles Denken oder durch frühere Beispiele, frühere Erfahrungen angehen. Wissen Sie, oder einfach nur Erkundung und Suche und, wissen Sie, verschiedene Dinge ausprobieren. Und dieser gesamte Prozess der Testzeit-Skalierung, Inferenz, dreht sich wirklich ums Denken. Und es geht ums Schlussfolgern, ums Planen, ums Suchen, ums... Und wie konnte das überhaupt rechenintensiv sein? Und wir hatten absolut Recht damit. Wissen Sie, also ist Testzeit-Skalierung extrem rechenintensiv.
Dann stellt sich die Frage: Okay, jetzt sind wir bei der Inferenz und bei der Testzeit-Skalierung, was kommt danach? Nun, offensichtlich haben wir jetzt, wissen Sie, eine agentische Person geschaffen, und diese agentische Person hat ein großes Sprachmodell, das wir jetzt, wissen Sie, entwickelt haben. Aber während der Testzeit geht dieses agentische System los und recherchiert und greift auf Datenbanken zu, und es nutzt Werkzeuge, und eines der wichtigsten Dinge, die es tut, ist, dass es eine ganze Reihe von Sub-Agenten abspaltet und spawnt. Das bedeutet, wir schaffen jetzt große Teams. Es ist viel einfacher, NVIDIA zu skalieren, indem man mehr Mitarbeiter einstellt, als mich selbst zu skalieren. Und so ist das nächste Skalierungsgesetz das Agentic Scaling Law. Es ist irgendwie wie KI multiplizieren. KI multiplizieren, wir können Agenten so schnell abspalten, wie Sie Agenten abspalten wollen. Und so, wissen Sie, ich... Wissen Sie, ich habe vier Skalierungsgesetze. Und wenn wir die agentischen Systeme nutzen, werden sie viel mehr Daten erzeugen, sie werden viele Erfahrungen erzeugen. Einige davon werden wir sagen: "Wow, das ist wirklich gut. Das sollten wir uns merken." Dieser Datensatz kommt dann zurück zum Pre-Training. Wir speichern ihn auswendig und verallgemeinern ihn. Wir verfeinern ihn dann und stimmen ihn wieder auf das Post-Training ab. Dann verbessern wir ihn noch weiter mit der Testzeit, wissen Sie, und die Agenten, agentischen Systeme, wissen Sie, bringen ihn in die Industrie. Und so wird diese Schleife, dieser Zyklus, immer weitergehen. Es kommt im Grunde darauf an, dass Intelligenz durch eine Sache skaliert, und das ist Rechenleistung.
Aber es gibt eine knifflige Sache, die Sie antizipieren und vorhersagen müssen, und zwar, dass einige dieser Komponenten unterschiedliche Hardware erfordern, um sie wirklich optimal zu nutzen. Sie müssen also antizipieren, wohin die KI-Innovation führen wird. Zum Beispiel eine Mischung aus-
Perfekt.
... Experten mit Sparsamkeit.
Perfekt.
Mit Hardware können Sie nicht einfach mit einer Woche Vorlaufzeit umstellen. Sie müssen antizipieren, wie das aussehen wird. Es hat einige-
So gut.
... das ist so beängstigend und schwierig zu tun, oder?
Zum Beispiel werden diese KI-Modellarchitekturen etwa alle sechs Monate erfunden. Richtig? Und Systemarchitekturen und Hardware-Architekturen etwa alle drei Jahre. Und so müssen Sie antizipieren, was wahrscheinlich passieren wird, wissen Sie, in zwei, drei Jahren. Und es gibt ein paar Möglichkeiten, wie Sie das tun können. Erstens können wir selbst intern forschen, und das ist einer der Gründe, warum wir Grundlagenforschung, angewandte Forschung betreiben. Wir erstellen unsere eigenen Modelle. Und so haben wir hier praktische Lebenserfahrung. Das ist Teil des Co-Designs, über das ich spreche. Wir sind auch das einzige KI-Unternehmen der Welt, das buchstäblich mit jedem KI-Unternehmen der Welt zusammenarbeitet. Und so versuchen wir, soweit wir können, ein Gefühl dafür zu bekommen, vor welchen Herausforderungen die Leute stehen.
Sie hören also die Flüstertöne aus der ganzen Branche, den KI-Laboren.
Das stimmt. Man muss zuhören und von allen lernen. Und haben Sie... Und der letzte Teil ist, eine Architektur zu haben, die flexibel ist, die sich anpassen und mit dem Wind bewegen kann. Und einer der Vorteile von CUDA ist, dass es einerseits ein unglaublicher Beschleuniger ist. Andererseits ist es sehr flexibel. Und so ist dieses Gleichgewicht, dieses unglaubliche Gleichgewicht zwischen Spezialisierung, sonst können wir die CPU nicht beschleunigen, und Verallgemeinerung, damit wir uns an veränderte Algorithmen anpassen können, wirklich, wirklich wichtig. Das ist der Grund, warum CUDA einerseits so widerstandsfähig war und wir es dennoch weiter verbessern. Wir sind bei CUDA 13.2, und so entwickeln wir die Architektur so schnell weiter, dass wir mit den modernen Algorithmen mithalten können. Zum Beispiel... Als Mixture of Experts herauskam, deshalb hatten wir NVLink 72 statt NVLink 8. Wir können jetzt ein ganzes Modell mit vier Billionen, 10 Billionen Parametern in einen einzigen Rechenbereich aufnehmen, als ob es auf einer einzigen GPU laufen würde. Ähm, die Leute haben es wahrscheinlich nicht bemerkt, aber wenn Sie sich die Architektur der Grace Blackwell Racks ansehen, war sie vollständig darauf ausgerichtet, eine Sache zu tun, die LLM zu verarbeiten. Plötzlich, ein Jahr später, schauen Sie sich ein Vera Rubin Rack an. Es hat Speicherbeschleuniger. Es hat diese unglaubliche neue CPU namens Vera. Es hat Vera Rubin und NVLink 72, um die LLMs auszuführen. Es hat auch dieses neue zusätzliche Rack namens Rock. Und so ist dieses gesamte Rack-System völlig anders als das vorherige, und es hat all diese neuen Komponenten. Und der Grund dafür ist, dass das letzte für die Ausführung von MoE Large Language Models, Inferenz, entwickelt wurde. Und dieses hier ist für die Ausführung von Agenten, und Agenten greifen auf Werkzeuge zu, und-
Offensichtlich musste das Design des Systems vor Claude Code, Codex, OpenClaw erfolgen. Sie haben also die Zukunft antizipiert, im Wesentlichen. Und das kommt von was? Von den Flüstertönen, vom Verständnis dessen, was der Stand der Technik ist?
Nein, es ist einfacher als das. Sie begründen es einfach. Erstens, Sie begründen es. Egal, egal was passiert, irgendwann muss das große Sprachmodell ein digitaler Arbeiter sein... Nehmen wir einfach diese Metapher. Nehmen wir an, wir wollen, dass das LLM ein digitaler Arbeiter ist. Was muss es tun? Es muss auf Ground Truth zugreifen. Das ist unser Dateisystem. Es muss in der Lage sein, Forschung zu betreiben. Es weiß nicht alles. Wir haben nicht... Und ich möchte nicht warten, bis diese KI universell klug über alles, Vergangenheit, Gegenwart und Zukunft ist, bevor ich sie nützlich mache. Und deshalb kann ich sie genauso gut forschen lassen. Offensichtlich, wenn sie mir helfen will, muss sie meine Werkzeuge benutzen. Wissen Sie, viele Leute würden sagen: "Wissen Sie, KI wird Software komplett zerstören. Wir brauchen keine Software mehr. Wir brauchen nicht einmal mehr Werkzeuge." Das ist lächerlich. Nehmen wir das... Nehmen wir ein Gedankenexperiment. Und Sie können einfach dasitzen, ein Glas Whiskey genießen und über all diese Dinge nachdenken, und es wird völlig offensichtlich. Wie, wenn ich den erstaunlichsten... den erstaunlichsten Agenten erschaffen würde, den wir uns in den nächsten 10 Jahren vorstellen können. Nehmen wir an, es wäre ein humanoider Roboter. Wenn dieser humanoide Roboter geschaffen würde, ist es dann wahrscheinlicher, dass der humanoide Roboter in mein Haus kommt und die Werkzeuge benutzt, die ich habe, um die Arbeit zu erledigen, die er braucht? Oder verwandelt sich diese Hand in einem Moment in einen 10-Pfund-Hammer, in einem anderen Moment in ein Skalpell, und um Wasser zu kochen, strahlt er Mikrowellen aus seinen Fingern? Wissen Sie, oder ist es wahrscheinlicher, dass er einfach eine Mikrowelle benutzt, wissen Sie? Und das erste Mal, dass er zur Mikrowelle geht, weiß er wahrscheinlich nicht, wie man sie benutzt. Aber das ist in Ordnung. Er ist mit dem Internet verbunden. Er liest die Bedienungsanleitung dieser Mikrowelle, liest sie, wird sofort zum Experten. Und so benutzt er sie. Und so, ich denke, die... Ich habe gerade fast alle Eigenschaften von OpenClaw beschrieben. Wissen Sie, dass es Werkzeuge benutzen wird, dass es auf Dateien zugreifen wird, dass es forschen können wird. Es hat ein I/O-Subsystem. Und wenn Sie fertig sind, darüber nachzudenken, darüber nachzudenken, dann sagen Sie: "Oh mein Gott, die Auswirkungen auf die Zukunft des Computings sind tiefgreifend." Und der Grund dafür ist, ich glaube, wir haben gerade den Computer neu erfunden. Und dann sagen Sie: "Okay, wann haben wir darüber nachgedacht? Wann haben wir über OpenClaw nachgedacht?" Wenn Sie sich das OpenClaw-Schema ansehen, das ich auf der GTC verwendet habe, finden Sie es vor zwei Jahren. Buchstäblich vor zwei Jahren auf der GTC sprach ich über agentische Systeme, die genau das widerspiegeln, was OpenClaw heute ist. Und natürlich musste die Konvergenz vieler Dinge eintreten. Erstens brauchten wir Claude und GPT und, wissen Sie, all diese Modelle, um ein bestimmtes Fähigkeitsniveau zu erreichen. Ihre Innovation und ihre Durchbrüche und ihre kontinuierlichen Fortschritte waren also wirklich wichtig. Und dann musste natürlich jemand ein Open-Source-Projekt erstellen, das robust genug, wissen Sie, und ausreichend vollständig war und das wir alle nutzen konnten. Und ich denke, OpenClaw hat für agentische Systeme getan, was ChatGPT für generative Systeme getan hat. Und ich denke, das ist eine sehr große Sache.
Ja, es ist ein wirklich besonderer Moment. Ich bin mir nicht ganz sicher, warum er so viel Aufmerksamkeit auf sich gezogen hat, aber das hat er, mehr als Claude Code und Codex und so weiter.
Weil Verbraucher ihn erreichen konnten.
Sicher, ja. Aber es gibt auch so viel davon, das sind Vibes. Und Peter, ich hatte ein Podcast mit ihm, er ist ein wunderbarer Mensch. Ein Teil davon sind also auch die Menschen, die das repräsentieren.
Ja, kein Zweifel.
Ein Teil davon sind Memes und die- Weil wir alle versuchen, es herauszufinden. Es gibt wirklich ernsthafte und komplizierte Sicherheitsbedenken, wie man seine Daten übergibt, damit sie nützliche Dinge tun können, wenn man eine so mächtige Technologie hat. Aber dann sind damit auch beängstigende Dinge verbunden. Und wir, als Zivilisation, als Einzelpersonen und als Zivilisation, finden heraus, wie wir dieses richtige Gleichgewicht finden können.
Ja, wir haben uns sofort darum gekümmert und eine Reihe von Sicherheitsexperten dorthin geschickt. Und wir haben dieses Ding namens OpenShell gemacht. Es wurde bereits in OpenClaw integriert.
Und NVIDIA hat NemoClaw vorgestellt.
Yep, genau.
Sie lassen sich super einfach installieren. Es stellt sicher, dass es sicher ist.
Wir geben Ihnen zwei von drei Rechten. Agentische Systeme können auf sensible Informationen zugreifen, sie können Code ausführen und sie können extern kommunizieren. Wir könnten die Dinge sicher halten, wenn wir Ihnen jederzeit zwei dieser drei Fähigkeiten geben, aber nicht alle drei. Und von diesen zwei von drei Fähigkeiten geben wir Ihnen auch Zugriffskontrolle basierend auf den Rechten, die Sie vom Unternehmen erhalten haben. Und dann verbinden wir es mit einer Richtlinien-Engine, die all diese Unternehmen bereits haben. Und so werden wir unser Bestes tun, um OpenClaw zu einem besseren Claw zu machen.
Sie haben also eloquent erklärt, wie wir eine lange Geschichte von Blockern haben, von denen wir dachten, sie wären Blocker, und wir haben sie überwunden. Aber wenn wir jetzt in die Zukunft blicken, was könnten Ihrer Meinung nach die Blocker sein, jetzt, da klar ist, dass Agenten überall sein werden? Offensichtlich werden wir Rechenleistung brauchen. Was wird also der Blocker für diese Skalierung sein?
Strom ist ein Problem, aber nicht das einzige Problem. Aber das ist der Grund, warum wir uns so stark auf extremes Co-Design konzentrieren, damit wir die Tokens pro Sekunde pro Watt jedes Jahr um Größenordnungen verbessern können. Und so hat in den letzten 10 Jahren das Mooresche Gesetz die Computerleistung um etwa das 100-fache gesteigert. Wir haben die Computerleistung in den letzten 10 Jahren um das Millionenfache gesteigert und skaliert. Und so werden wir das durch extremes Co-Design weiter tun. Energieeffizienz, Leistung pro Watt, beeinflusst die Einnahmen eines Unternehmens vollständig. Es beeinflusst die Einnahmen einer Fabrik. Und wir werden das bis zum Äußersten treiben, damit wir die Token-Kosten so schnell wie möglich senken können. Wissen Sie, unser Computerpreis steigt, aber unsere Effektivität bei der Token-Generierung steigt so viel schneller, dass die Token-Kosten sinken. Sie sinken einfach um eine Größenordnung pro Jahr.
Strom, das ist interessant. Der Weg, um das Stromproblem zu lösen, besteht darin, zu versuchen, mit den Tokens pro Sekunde pro Watt, zu versuchen, es immer effizienter zu machen. Natürlich stellt sich die Frage, wie wir mehr Strom bekommen.
Wir sollten auch mehr Strom bekommen.
Das ist eine wirklich komplizierte Sache. Sie haben über kleine modulare Kernkraftwerke gesprochen. Es gibt alle möglichen Ideen für Energie. Wie sehr hält Sie das nachts wach? Die Engpässe in der Lieferkette von KI, wie ASML mit EUV-Lithografiemaschinen, TSMC mit fortschrittlichem Packaging wie CoWoS und SK Hynix mit High Bandwidth Memory?
Die ganze Zeit, und wir arbeiten die ganze Zeit daran. Kein Unternehmen in der Geschichte ist jemals in dem Umfang gewachsen, in dem wir wachsen, während wir dieses Wachstum beschleunigen. Das ist unglaublich. Und es ist für die Leute schwer, das überhaupt zu verstehen. Im gesamten Bereich des KI-Computings erhöhen wir unseren Anteil. Und so sind die Lieferkette, Upstream und Downstream, für uns wirklich wichtig. Ich verbringe viel Zeit damit, all die CEOs, mit denen ich arbeite, über die Dynamik zu informieren, die das Wachstum fortsetzen oder sogar beschleunigen wird. Das ist einer der Gründe, warum auf der gesamten rechten Seite von mir CEOs praktisch der gesamten IT-Branche Upstream und praktisch der gesamten Infrastrukturbranche Downstream saßen. Und sie waren alle... Es gab mehrere hundert CEOs. Und ich glaube nicht, dass es jemals Keynotes gab, bei denen mehrere hundert CEOs auftauchten. Und ein Teil davon ist, dass ich ihnen von unserem aktuellen Geschäftszustand erzähle. Ich erzähle ihnen von den Wachstumstreibern in der sehr nahen Zukunft und was passiert. Und ich beschreibe auch, wohin wir als Nächstes gehen werden, damit sie all diese Informationen und die gesamte Dynamik nutzen können, um zu entscheiden, wie sie investieren wollen. Und so informiere ich sie auf diese Weise, wie ich meine eigenen Mitarbeiter informiere. Und dann mache ich natürlich Besuche bei ihnen und stelle sicher, dass: "Hey, hören Sie, ich möchte, dass Sie wissen, dieses Quartal, dieses kommende Jahr, nächstes Jahr, diese Dinge werden passieren." Und wenn Sie sich die CEOs der DRAM-Industrie ansehen, die Nummer eins DRAM der Welt war DDR-Speicher für CPUs in Rechenzentren. Vor etwa drei Jahren konnte ich mehrere CEOs davon überzeugen, dass, obwohl HBM-Speicher zu dieser Zeit nur spärlich eingesetzt wurde, wissen Sie, und kaum von Supercomputern, dies in Zukunft ein Mainstream-Speicher für Rechenzentren sein würde. Und zuerst klang es lächerlich, aber mehrere CEOs glaubten mir und beschlossen, in den Aufbau von HBM-Speichern zu investieren. Ein weiterer Speicher, der eher seltsam in ein Rechenzentrum passte, sind die Low-Power-Speicher, die wir für Handys verwenden. Und wir wollten, dass sie sie für Supercomputer im Rechenzentrum anpassen. Und sie sagen: "Handy-Speicher für Supercomputer?" Und ich erklärte ihnen warum. Nun, schauen Sie sich diese beiden Speicher an, LPDDR5, HBM4. Die Volumina sind so unglaublich. Alle drei hatten Rekordjahre in der Geschichte, und das sind, das sind 45 Jahre alte Unternehmen. Und so, wissen Sie, ich... Das ist Teil meiner Aufgabe, zu informieren und zu formen, zu inspirieren, wissen Sie.
Sie manifestieren also nicht nur die Zukunft und inspirieren vielleicht NVIDIA, die verschiedenen Ingenieure des Unternehmens, Sie manifestieren die Lieferkette der Zukunft. Sie führen also Gespräche mit TSMC, mit ASML.
Upstream, Downstream.
Upstream, Downstream. Das ist also die Sache.
GEV, Caterpillar. Ja, das ist Downstream von uns. Ja, ja, da haben Sie es.
Ja, das Ganze. Ich meine, aber das ist so... Es gibt so viel unglaublich schwierige Ingenieurarbeit in der gesamten Halbleiterindustrie, und es fühlt sich beängstigend an, wie kompliziert die Lieferkette ist, wie viele Komponenten es gibt, aber es funktioniert irgendwie.
Genau, die Tiefenwissenschaft. Die tiefe Ingenieurwissenschaft, die unglaubliche Fertigung, und ein Großteil der Fertigung ist bereits Robotik, aber wir haben ein paar hundert Zulieferer, die die Technologie beisteuern, die in unser Rack mit 1,3 Millionen Komponenten einfließt. Jedes Rack besteht aus 1,3, anderthalb Millionen Komponenten. Es gibt 200 Zulieferer für das Vera Rubin Rack.
Es ist also interessant, dass Sie das nicht als das nennen, was Sie nachts wach hält, in der Liste der Blocker.
Aber ich tue, ich tue alles Notwendige, um-
Okay.
... ja, sehen Sie? Ich kann schlafen, weil ich es abgehakt habe. Ich sagte, okay, wissen Sie, ich gehe, ich ja, ich kann schlafen und ich gehe, nun, lassen Sie uns das überdenken. Was ist wichtig für uns? Weil, okay, lassen Sie uns das überdenken. Weil wir die Systemarchitektur vom ursprünglichen DGX-I, an das Sie sich erinnern, zu NVLink-72 Rack-Scale-Computing geändert haben... Was wird... Was bedeutet das? Was bedeutet das für die Software? Was bedeutet das für die Ingenieurwissenschaft? Was bedeutet das für die Art und Weise, wie wir entwerfen und testen? Wie, und was bedeutet das für die Lieferkette? Nun, eines der Dinge, die es bedeutete, war, dass wir die Supercomputer-Integration im Rechenzentrum in die Supercomputer-Fertigung in der Lieferkette verlagert haben. Wenn Sie das tun, müssen Sie auch erkennen, dass Sie sich bewegen werden... Und wenn Sie, wenn Sie, wissen Sie, die Gesamtfläche jedes Rechenzentrums, das Sie bauen wollen, sagen wir, Sie möchten 50 Gigawatt Supercomputer haben, die gleichzeitig laufen, und es dauert eine Woche, diese 50 Gigawatt Supercomputer herzustellen, dann benötigen die Supercomputer jede Woche in der Lieferkette ein Gigawatt Strom. Und so, so werden wir die Lieferkette brauchen, um die Strommenge zu erhöhen, die sie bauen, testen, bauen und testen muss, bevor ich sie versende. Nun, NVLink-72 baut buchstäblich Supercomputer in der Lieferkette und versendet sie in Mengen von zwei, drei Tonnen pro Rack. Früher waren es... Sie kamen früher in Teilen und wir haben sie im Rechenzentrum zusammengebaut. Aber das ist jetzt unmöglich, weil NVLink-72 so dicht ist. Und das ist ein Beispiel. Und ich müsste hingehen und, wissen Sie, ich habe... Fliegen Sie in die Lieferkette, treffen Sie meine Partner und sagen Sie: "Hey", sagte ich, "raten Sie mal? Also, hier ist, was ich mit... So haben wir früher unsere DGXs gebaut. Wir werden sie so bauen. Das wird so viel besser sein, weil wir sie für Inferenz brauchen werden." Der Markt für Inferenz, wissen Sie, kommt. Der Wendepunkt für Inferenz kommt. Es wird ein großer Markt sein. Und so erkläre ich ihnen zuerst, was vor sich geht, warum es passieren wird, und dann bitte ich sie, jeweils mehrere Milliarden Dollar an Kapitalinvestitionen zu tätigen. Und weil sie, wissen Sie, mir vertrauen und ich sie sehr respektiere, und ich ihnen jede Gelegenheit gebe, mich zu befragen, und ich Zeit damit verbringe, den Leuten Dinge zu erklären und ich darüber nachdenke. Ich zeichne Bilder und ich denke darüber in Grundprinzipien nach. Und wenn ich mit ihnen fertig bin, wissen sie, was zu tun ist.
Es geht also viel um Beziehungen und darum, eine gemeinsame Vision der Zukunft aufzubauen. Aber machen Sie sich Sorgen über bestimmte Engpässe? Ich meine, was sind die größten Engpässe in der Lieferkette? Machen Sie sich Sorgen über ASMLs EUV-Werkzeuge? Machen Sie sich Sorgen über das Packaging, CoWoS-Packaging von TSMC, darüber, wie schnell es skalieren kann? Wie Sie sagten, Sie wachsen nicht nur unglaublich schnell, Sie beschleunigen Ihr Wachstum. Es fühlt sich also an, als müssten alle in der Lieferkette, und das sind sicherlich Engpässe, hochskalieren. Führen Sie Gespräche mit ihnen, wie können Sie schneller hochskalieren? Machen Sie sich Sorgen darüber?
Nein.
Okay.
Weil, weil ich ihnen gesagt habe, was ich brauche. Sie haben verstanden, was ich brauche. Sie haben mir gesagt, was sie tun werden, und ich glaube ihnen, was sie tun werden.
Interessant. Das ist schön zu hören. Bleiben wir vielleicht noch ein wenig beim Strom. Was sind Ihre Hoffnungen, wie das Energieproblem gelöst werden kann?
Ein Bereich, Lex, über den ich gerne sprechen würde und die Botschaft verbreiten möchte, ist, dass unser Stromnetz für den Worst-Case-Fall mit etwas Spielraum ausgelegt ist. Nun, 99 % der Zeit sind wir weit vom Worst-Case-Fall entfernt, denn der Worst-Case-Fall sind ein paar Tage im Winter, ein paar Tage im Sommer und extremes Wetter. Die meiste Zeit sind wir weit vom Worst-Case-Fall entfernt und wir laufen wahrscheinlich bei etwa 60 % der Spitzenlast. Und so haben wir 99 % der Zeit überschüssige Energie im Stromnetz, und sie stehen einfach untätig herum, aber sie müssen dort untätig stehen, weil sie im Falle des Falles Krankenhäuser mit Strom versorgen müssen und, wissen Sie, Infrastruktur mit Strom versorgt werden muss und Flughäfen laufen müssen und so weiter. Und so stellt sich für mich die Frage, ob wir hingehen und ihnen helfen könnten, vertragliche Vereinbarungen zu verstehen und zu schaffen und Computersystemarchitekturen, Rechenzentren so zu gestalten, dass, wenn sie die maximale Leistung für die Infrastruktur in der Gesellschaft benötigen, die Rechenzentren weniger bekommen. Aber das ist sowieso nur in sehr seltenen Fällen. Und während dieser Zeit haben wir entweder einen Notstromgenerator für diesen kleinen Teil, oder wir verlagern die Arbeitslast woanders hin, oder die Computer laufen einfach langsamer. Wissen Sie, wir könnten unsere Leistung degradieren, unseren Stromverbrauch reduzieren und eine, wissen Sie, etwas längere Latenzantwort liefern, wenn jemand nach einer Antwort fragt. Und so denke ich, dass diese Art der Nutzung von Computern, des Baus von Rechenzentren, anstatt 100 % Uptime zu erwarten-... und diese
Verträge, die wirklich, wirklich ziemlich streng sind, üben enormen Druck auf das Netz aus, um in der Lage zu sein... Nun, sie werden von ihrem Maximum aus erhöhen müssen. Ich möchte nur ihren Überschuss nutzen. Er liegt einfach da. - Ja, darüber wird nicht genug gesprochen. Was hält sie also davon ab? Ist es Regulierung? Ist es Bürokratie? - Ich denke, es ist ein dreiteiliges Problem. Es beginnt beim Endkunden. Der Endkunde stellt Anforderungen an die Rechenzentren, dass diese niemals nicht verfügbar sein dürfen, okay? Der Endkunde erwartet also Perfektion. Um diese Perfektion zu liefern, benötigen Sie eine Kombination aus Notstromgeneratoren und Ihrem Netzstromversorger, um Perfektion zu liefern. Und so muss jeder Sechs Neunen haben. Nun, ich denke, erstens sollten wir alle verstehen, dass wenn der Kunde diese Dinge verlangt, Sie jemanden in Ihrem Rechenzentrumsbetriebsteam haben, der vom CEO getrennt ist. Ich wette, der CEO weiß das nicht. Ich werde mit allen CEOs sprechen. Die CEOs achten wahrscheinlich nicht auf die Verträge, die unterzeichnet werden, und so möchte jeder natürlich den besten Vertrag unterzeichnen. Und sie gehen zu Cloud-Service-Anbietern, und der Vertrag, die... Die beiden Vertragsverhandlungsführer, die... Ich kann sie mir jetzt schon vorstellen. Sie wissen, verhandeln diese mehrjährigen Verträge. Beide Seiten wollen, wissen Sie, den besten Vertrag. Infolgedessen müssen die CSPs dann zu den Energieversorgern gehen, und sie erwarten die Neun, die Sechs Neunen. Und so denke ich, das Wichtigste ist, sicherzustellen, dass alle Kunden, die CEOs und die Kunden erkennen, was sie verlangen. Nun, das Zweite ist, dass wir Rechenzentren bauen müssen, die sich anmutig verschlechtern. Und so, wenn der Strom, wenn der Energieversorger, wenn das Netz uns sagt: "Hören Sie, wir müssen Sie auf etwa 80 % herunterfahren", werden wir sagen: "Das ist überhaupt kein Problem." Wir werden unsere Arbeitslast einfach verschieben. Wir werden sicherstellen, dass keine Daten verloren gehen, aber wir können die Rechenleistung reduzieren und weniger Energie verbrauchen. Die Servicequalität verschlechtert sich ein wenig. Für die kritischen Arbeitslasten verschiebe ich diese sofort woanders hin, damit ich dieses Problem nicht habe, und so, wissen Sie, wer auch immer, welches Rechenzentrum auch immer noch 100 % Betriebszeit hat, und so... - Wie schwierig ist das technische Problem, diese intelligente, dynamische Stromzuweisung in einem Rechenzentrum? - Sobald Sie es spezifizieren können, können Sie es technisch umsetzen. Wunderschön ausgedrückt. Solange es den Naturgesetzen nach den ersten Prinzipien gehorcht, denke ich, sind wir gut. - Was war das Dritte, das Sie erwähnten? Ähm... - Das Zweite sind also die Rechenzentren. Und das Dritte ist, dass wir die Energieversorger brauchen, die auch erkennen, dass dies eine Gelegenheit ist - ... und anstatt zu sagen: "Es wird mich fünf Jahre dauern, meine Netzkapazität zu erhöhen", äh, wenn Sie, wenn Sie bereit sind, Strom mit diesem Garantieniveau zu akzeptieren, kann ich Ihnen diesen nächsten Monat und zu diesem Preis zur Verfügung stellen. Und so, wenn Energieversorger auch mehr Segmente von Stromlieferversprechen anbieten würden, dann denke ich, jeder würde herausfinden, was er damit machen soll. Ja, aber es gibt im Netz gerade viel zu viel Verschwendung. Wir sollten uns darum kümmern. - Äh, Sie haben die Leistung von Elon und xAI in Memphis, beim Bau des Colossus-Supercomputers, wahrscheinlich in Rekordzeit von nur vier Monaten, sehr gelobt. Er hat jetzt 200.000 GPUs und wächst sehr schnell. Können Sie etwas über seinen Ansatz sagen, das für alle Rechenzentrumsbetreiber lehrreich ist und der eine solche Leistung ermöglicht hat? Sein Ansatz zur Technik, sein Ansatz zum gesamten Management des Baus, alles? - Erstens ist Elon in so vielen verschiedenen Themen tief involviert. Ähm, und doch ist er auch ein wirklich guter Systemdenker. Und so kann er über mehrere Disziplinen hinweg denken, und er hinterfragt offensichtlich alles, wo sie sind, erstens, ist es notwendig? Zweitens, muss es so gemacht werden? Und dann Zahlen, wissen Sie, muss es so lange dauern? Und so, so hat er, er hat die Fähigkeit, alles zu hinterfragen, bis zu dem Punkt, an dem alles auf sein minimal notwendiges Maß reduziert ist, man kann nichts anderes mehr wegnehmen. Und doch bleiben die notwendigen Fähigkeiten des Produkts erhalten, wissen Sie? Und so ist er, er ist so minimalistisch, wie man sich nur vorstellen kann, und er tut es im Systemmaßstab. Ich denke... Ich liebe auch die Tatsache, dass er repräsentiert ist. Er ist am Ort des Geschehens präsent. Wissen Sie, er geht einfach dorthin. Wenn es ein Problem gibt, geht er einfach dorthin und sagt: "Zeigen Sie mir das Problem." Wissen Sie, wenn Sie all das in Kombination tun, überwinden Sie viele frühere "Das ist einfach die Art und Weise, wie wir es tun." "Ähm, wissen Sie, ich warte auf sie. Äh," Wissen Sie, ich meine, es gibt einfach viele Ausreden. Und so, und dann ist das Letzte, wenn Sie persönlich mit so viel Dringlichkeit handeln, veranlasst es alle anderen, mit Dringlichkeit zu handeln, wissen Sie? Und jeder Lieferant hat viele Kunden, die er betreut. Jeder Lieferant hat viele Projekte, die er betreut, und er hat es zu seiner... Er macht es zu seiner Aufgabe, dass er die oberste Priorität aller anderen hat, wissen Sie, Projekte. Und das tut er, indem er es demonstriert. - Ja, ich war bei einigen dieser Besprechungen dabei. Es ist einfach lustig zuzusehen, denn wirklich, nicht genug Leute stellen die Frage: "Okay, kann das viel schneller gemacht werden, und wie? Warum muss das so lange dauern?" - Ja, richtig. - Und dann in der... Das wird oft zu einer technischen Frage. Und ja, ich denke, wenn man die Wahrheit vor Ort erfährt, tatsächlich... Ich erinnere mich, einmal, als ich mit ihm rumhing, ging er buchstäblich den gesamten Prozess durch, wie man Kabel in ein Rack steckt. Er arbeitet mit einem Ingenieur vor Ort, der diese Aufgabe ausführt, und er versucht einfach zu verstehen, wie dieser Prozess aussieht, damit er weniger fehleranfällig ist. Und durch den Aufbau dieser Intuition aus jeder einzelnen Aufgabe, die beim Zusammenbau eines Rechenzentrums anfällt... - ... man bekommt sofort ein Gefühl für die Detailgenauigkeit und für die breite Systemebene, wo die Ineffizienzen liegen, und so kann man es immer effizienter machen. Plus, man hat den großen Vorteil, sagen zu können: "Machen wir es komplett anders-" - Ja. Das stimmt. - "...und alle möglichen Hindernisse beseitigen." - Das stimmt. - Gibt es Parallelen im NVIDIA Extreme Systems Co-Design-Ansatz, die Sie in der Art und Weise sehen, wie Elon Systeme entwickelt? - Nun, erstens ist Co-Design ein ultimatives System-Engineering-Problem. Und so gehen wir, wir gehen unsere Arbeit von Anfang an, von diesem Die andere Sache, die wir tun, und das ist eine Philosophie, ein Gedanke, ein Geisteszustand, schätze ich, eine Methode, die ich vor 30 Jahren begonnen habe, und sie heißt Lichtgeschwindigkeit. Die Lichtgeschwindigkeit ist nicht nur die Geschwindigkeit. Die Lichtgeschwindigkeit ist meine Kurzform für das, was die Grenze dessen ist, was die Physik leisten kann. Und so wird jedes einzelne, alles, alles, was wir tun, mit der Lichtgeschwindigkeit verglichen. Speichergeschwindigkeit, mathematische Geschwindigkeit, Leistung, Kosten, Zeit, Aufwand, Anzahl der Personen, Fertigungszykluszeit. Und wenn man über Latenz im Vergleich zu Durchsatz nachdenkt, wenn man über Kosten im Vergleich zu Durchsatz nachdenkt, Kosten im Vergleich zu Kapazität, all diese Dinge, testet man gegen die Lichtgeschwindigkeit, um all diese verschiedenen Einschränkungen separat zu erreichen. Und dann, wenn man es zusammen betrachtet, weiß man, dass man Kompromisse eingehen muss, weil ein System, das extrem niedrige Latenz erreicht, im Vergleich zu einem billigen, ein System, das sehr hohen Durchsatz erreicht, grundlegend anders aufgebaut ist. Aber man möchte wissen, was ist die Lichtgeschwindigkeit eines Systems, das hohen Durchsatz erreicht, was ist die Lichtgeschwindigkeit eines Systems, das niedrige Latenz erreicht? Und dann, wenn man das Gesamtsystem betrachtet, kann man Kompromisse eingehen. Und so zwinge ich jeden, darüber nachzudenken, was die, die ersten, die ersten Prinzipien, die Grenzen - ... die physikalischen Grenzen, Für alles, bevor wir, wissen Sie, bevor wir irgendetwas tun. Und wir testen alles dagegen. Und das ist eine gute Denkweise. Ich mag die anderen Methoden nicht, die kontinuierliche Verbesserung sind. Das Problem mit kontinuierlicher Verbesserung, es... Erstens sollte man etwas von Grund auf mit Lichtgeschwindigkeitsdenken entwickeln. Begrenzen Sie es nur durch physikalische Grenzen und physikalische Grenzen. Und danach würde man es natürlich im Laufe der Zeit verbessern. Ähm, aber ich mag es nicht, in ein Problem zu gehen und jemand sagt: "Hey, wissen Sie, es dauert heute 74 Tage, um das zu tun-" "... Genau jetzt. Und wir können es für Sie in 72 Tagen tun." Wissen Sie, ich würde es lieber alles auf Null zurückführen - ... und sagen: "Erklären Sie mir erst einmal, warum überhaupt 74 Tage?" Und lassen Sie uns notieren, lassen Sie uns darüber nachdenken, was heute möglich ist. Und wenn ich es komplett von Grund auf neu bauen würde, wissen Sie, wie lange würde es dauern?" Oftmals wird man überrascht sein. Es könnte auf sechs Tage kommen. Nun, die restlichen sechs Tage, die 74, könnten sehr gut begründet und Kompromisse und, wissen Sie, Kostensenkungen und all diese verschiedenen Dinge sein. Aber zumindest weiß man, was sie sind. Und dann, da man weiß, dass sechs Tage möglich sind, ist die Unterhaltung von 74 auf sechs überraschend viel effektiver. - Bei solch unglaublich komplexen Systemen, mit denen Sie arbeiten, ist Einfachheit manchmal eine gute Heuristik, nach der man greifen kann? Ich meine, wenn ich nur... Ich meine, der Pod, der Vera Rubin Pod, den Sie angekündigt haben, ist einfach unglaublich. Wir sprechen von sieben Chips, sieben Chip-Typen, fünf speziell angefertigten Rack-Typen, 40 Racks, 1,2 Billiarden Transistoren, fast 20.000 NVIDIA-Dies, über 1.100 Rubin-GPUs, 60 Exaflops, 10 Petabyte pro Sekunde Skalierungsbandbreite. Das ist nur ein... - Das ist nur ein Pod. - Das ist nur ein Pod. - Ja, das ist nur ein Pod. - Ich meine, in-... Dann ist allein das NVL 72 Rack 1,3 Millionen Komponenten, 1300 Chips, 4.000 Pods, die in ein einziges 19 Zoll breites Rack gequetscht sind. - Und Lex, wir werden wahrscheinlich etwa 200 dieser Pods pro Woche produzieren müssen, nur um es in Perspektive zu setzen. - Die Menge an verschiedenen Komponenten, ich nehme an, Einfachheit ist unmöglich, aber ist das eine Metrik, nach der Sie greifen, wenn Sie versuchen, Dinge zu entwerfen? - Wissen Sie, der Satz, den ich am häufigsten verwende, ist, wir brauchen Dinge so komplex wie nötig, aber so einfach wie möglich. Und so ist die Frage, ist all diese Komplexität dort notwendig? Und wir sollten das testen. Und wir müssen das hinterfragen. Und danach ist alles andere darüber hinaus, wissen Sie, überflüssig. - Aber es ist immer noch fast unglaublich. Die Halbleiterindustrie im Allgemeinen, aber was NVIDIA tut, einige der größten Ingenieursleistungen der Geschichte. Diese Systeme sind also wirklich, wirklich Wunderwerke der Technik. - Es ist der komplexeste Computer, den die Welt je hergestellt hat. - Ja, die Ingenieurteams, ich meine-... Ich weiß nicht, es ist kein Wettbewerb, aber ich weiß nicht. Wenn es wie eine Olympiade der Ingenieurteams wäre, meine ich, TSMC leistet unglaubliche Ingenieursarbeit. Wie gesagt, ASML in jeder Größenordnung, aber NVIDIA wird ihnen Konkurrenz machen. Einfach unglaubliche, unglaubliche Teams. - Nun, das sind Goldmedaillengewinner in jeder einzelnen, in jeder einzelnen Sportart, alle hier versammelt. - Und sie müssen zusammenarbeiten. Und Ihnen direkt berichten. Das ist wunderbar. Sie waren kürzlich in China. Es ist also interessant, Sie zu fragen. China war unglaublich erfolgreich beim Aufbau seines Technologiesektors. Was verstehen Sie darüber, wie China in den letzten 10 Jahren so viele unglaubliche Weltklasse-Unternehmen, Weltklasse-Ingenieurteams und einfach dieses Technologie-Ökosystem aufbauen konnte, das so viele unglaubliche Produkte hervorbringt? - Eine ganze Reihe von Gründen, nun, erstens, fangen wir mit einigen Fakten an. 50 % der weltweiten KI-Forscher sind Chinesen, plus oder minus, und sie sind immer noch meistens in China. Wir haben viele von ihnen hier, aber es gibt immer noch erstaunliche Forscher in China. Ihre Tech-Industrie tauchte genau zur richtigen Zeit auf. Zur Zeit der mobilen Cloud-Ära war ihre Art, einen Beitrag zu leisten, Software, und das ist die unglaubliche Wissenschaft und Mathematik eines Landes. Wirklich gut ausgebildete Kinder. Ihre Tech-Industrie wurde während der Ära der Software geschaffen. Sie sind sehr vertraut mit moderner Software. China ist kein einziges riesiges Wirtschaftsland. Es hat viele Provinzen und Städte mit Bürgermeistern, die alle miteinander konkurrieren. Das ist der Grund, warum es so viele EV-Unternehmen gibt. Das ist der Grund, warum es so viele KI-Unternehmen gibt. Das ist der Grund, warum es so viele, jedes erdenkliche Unternehmen gibt, sie alle schaffen einige von ihnen. Und infolgedessen haben sie eine interne Konkurrenz, die ihresgleichen sucht. Und, wissen Sie, was übrig bleibt, ist ein unglaubliches Unternehmen. Sie haben auch eine soziale Kultur, in der die Familie zuerst, Freunde an zweiter Stelle und das Unternehmen an dritter Stelle steht. Und so, die Menge an Gesprächen, die hin und her geht... Sie sind im Grunde immer Open Source. Die Tatsache, dass sie mehr zu Open Source beitragen, ist also sehr sinnvoll, weil sie wahrscheinlich denken: "Was schützen wir?" Wissen Sie, meine Ingenieure, ihre Brüder sind in diesem Unternehmen, ihre Freunde sind in diesem Unternehmen, und sie sind alle Schulkameraden. Wissen Sie, das Schulkameraden-Konzept. Es gibt, wissen Sie, einen Schulkameraden, du bist lebenslang ein Bruder. Und so teilen sie Wissen sehr, sehr schnell. Und so gibt es keinen Sinn, Technologie geheim zu halten. Sie könnten sie genauso gut auf Open Source stellen. Und so verstärkt die Open-Source-Community den Innovationsprozess. So erhalten Sie dieses schnelle, unglaubliche Talent, schnelle Innovation wegen Open Source und einfach, wissen Sie, die Natur von Freunden und die verrückte Konkurrenz. Unter Unternehmen, was sich daraus ergibt, sind unglaubliche Dinge. Und so ist dies das am schnellsten innovierende Land der Welt heute, und das ist etwas, das alles hat, alles, was ich gerade gesagt habe, ist grundlegend dafür, wie die Kinder erzogen wurden, die Tatsache, dass sie eine ausgezeichnete Ausbildung haben, die Tatsache, dass ihre Eltern wollen, dass sie in der Schule gut abschneiden, die Tatsache, dass ihre Kultur so ist. Das sind, wissen Sie, das sind einfach die Dinge über ihr Land, und sie tauchten genau zu der Zeit auf, als die Technologie eine exponentielle Entwicklung durchmachte. - Plus kulturell ist es ziemlich cool, Ingenieur zu sein. Es verbindet sich mit all den Komponenten, die Sie erwähnen... - Es ist eine Baumeisternation. - Es ist eine Baumeisternation. - Ja, es ist eine Baumeisternation. Die Führer unseres Landes, unglaublich, aber sie sind meistens Anwälte. Die Führer ihres Landes, und weil wir, sie versuchen, uns sicher zu halten, Rechtsstaatlichkeit, Regierungsführung, ihr Land wurde aus der Armut aufgebaut. Und so sind die meisten ihrer Führer unglaubliche Ingenieure. Einige der klügsten Köpfe. - Um einen kleinen Exkurs zu machen, weil Sie Open Source erwähnt haben, muss ich zu Perplexity gehen, das Sie schon lange mögen. - Ich liebe es, ja. - Und danke, dass Sie Nemotron 3 Super Open Source veröffentlicht haben, das Sie auch innerhalb von Perplexity zum Nachschlagen verwenden können. Jetzt, das ist ein 120-Milliarden-Parameter-Open-Weight-MoE-Modell. Was ist Ihre Vision mit Open Source? Sie erwähnten China mit DeepSeek und MiniMax, mit all diesen Unternehmen, die die Open-Source-KI-Bewegung wirklich vorantreiben, und NVIDIA ist wirklich führend bei fast State-of-the-Art Open-Source-LLMs. Was ist Ihre Vision dort? - Erstens, wenn wir ein großartiges KI-Computing-Unternehmen sein wollen, müssen wir verstehen, wie sich KI-Modelle entwickeln. Eines der Dinge, die ich an Nemotron 3 liebe, ist, dass es kein reines Transformer-Modell ist, es ist Transformer und SSMs. Und wir waren früh dabei, bedingte GANs zu entwickeln, die, diese progressiven GANs, die Schritt für Schritt zur Diffusion führten. Und so, die Tatsache, dass wir grundlegende Forschung in Modellarchitektur und in verschiedenen Domänen betreiben, gibt uns Einblick, wissen Sie, welche Art von Computersystemen für zukünftige Modelle gut geeignet wären. Und so ist es Teil unserer extremen Co-Design-Strategie. Zweitens, äh, ich denke, wir erkennen zu Recht an, dass wir einerseits Weltklasse-Modelle als Produkte wollen, und sie sollten proprietär sein. Andererseits wollen wir auch, dass KI in jede Branche und jedes Land, jeden Forscher, jeden Studenten diffundiert. Und wenn alles proprietär ist, ist es schwer zu forschen und es ist schwer, darauf, darum herum, damit zu innovieren. Und so... Open Source ist für viele Branchen, um der KI-Revolution beizutreten, von grundlegender Bedeutung. NVIDIA hat die Größe und wir haben die Motive, nicht nur die Fähigkeiten, die Größe und die Motivation, diese KI-Modelle so lange zu bauen und weiter zu bauen, wie wir leben werden. Und deshalb sollten wir das tun. Wir können uns öffnen, wir können jede Branche, jeden Forscher, wissen Sie, jedes Land aktivieren, um der KI-Revolution beizutreten. Es gibt den dritten Grund, der darin besteht, zu erkennen, dass KI nicht nur Sprache ist. Diese KIs werden wahrscheinlich Werkzeuge und Modelle und Unteragenten verwenden, die auf anderen Modalitäten von Informationen trainiert wurden. Vielleicht ist es Biologie oder Chemie oder, wissen Sie, Naturgesetze, oder, wissen Sie, Flüssigkeiten und Thermodynamik, und nicht alles davon ist in Sprachstruktur. Und so muss jemand sicherstellen, dass Wettervorhersage, Biologie, KI, KI für Biologie, physikalische KI, all das bleibt, an die Grenzen und an die Front gedrängt werden kann. Wir bauen keine Autos, aber wir wollen sicherstellen, dass jedes Autounternehmen Zugang zu großartigen Modellen hat. Wir entdecken keine Medikamente, aber ich möchte sicherstellen, dass Lilly die weltbesten biologischen KI-Systeme hat, damit sie diese zur Entdeckung von Medikamenten nutzen kann. Und so diese drei grundlegenden Gründe, sowohl in der Erkenntnis, dass KI nicht nur Sprache ist, dass KI wirklich breit ist, dass wir jeden in die Welt der KI einbeziehen wollen, und dann auch Co-Design von KI. - Nun, ich muss sagen, noch einmal, vielen Dank für das Open Sourcing, wirklich echtes Open Sourcing von Nemotron 3 und ... - Ja, ich schätze, dass Sie das sagen. Wir haben die Modelle Open Source gemacht, wir haben die Gewichte Open Source gemacht, wir haben die Daten Open Source gemacht, wir haben Open Source gemacht, wie wir sie erstellt haben. Ja, das ist ziemlich erstaunlich. - Äh, es ist wirklich, es ist wirklich unglaublich. Sie stammen ursprünglich aus Taiwan und haben eine enge Beziehung zu TSMC. Also muss ich fragen, TSMC ist meiner Meinung nach auch ein legendäres Unternehmen in Bezug auf die Ingenieurteams, in Bezug auf die unglaubliche Ingenieursarbeit, die sie leisten. Was verstehen Sie über die TSMC-Kultur und ihren Ansatz, der erklärt, wie sie in der Lage sind, diesen einzigartigen, unübertroffenen Erfolg bei allem, was sie mit Halbleitern tun, zu erzielen? - Wissen Sie, erstens ist das tiefste Missverständnis über TSMC, dass ihre Technologie alles ist, was sie haben. Dass sie irgendwie einen wirklich großartigen Transistor haben und wenn jemand einen anderen Transistor zeigt, ist das Spiel vorbei. Es ist die Technologie und natürlich meine ich nicht nur den Transistor, die Metallisierungssysteme, die Verpackung, die 3D-Verpackung, die Siliziumphotonik, die, wissen Sie, die gesamte Technologie, die sie haben. Diese Technologie ist es wirklich, die das Unternehmen besonders macht. Ihre Technologie macht das Unternehmen besonders. Aber ihre Fähigkeit, die Anforderungen, die dynamischen Anforderungen von Hunderten von Unternehmen auf der Welt zu orchestrieren, während sie aufsteigen, sich verschieben, wissen Sie, zunehmen, abnehmen, pushen, ziehen, von Kunde zu Kunde wechseln, Wafer starten, Wafer stoppen, Notfall-Wafer-Starts, wissen Sie, all diese Dynamik der Weltkomplexität, während sich die Welt ständig verändert, und sie betreiben irgendwie eine Fabrik mit hohem Durchsatz, hohen Ausbeuten, wirklich guten Kosten, exzellentem Kundenservice. Sie nehmen ihre Arbeit ernst, sie nehmen ihre Versprechen ernst. Sie, wenn Ihr Wafer, weil sie wissen, dass sie Ihnen helfen, Ihr Unternehmen zu führen, wenn die Wafer, wenn die Wafer versprochen wurden, erscheinen, erscheinen die Wafer, wissen Sie, damit Sie Ihr Unternehmen entsprechend führen können. Und so ist ihr System, ihr Fertigungssystem ist absolut wundersam, würde ich sagen. Dann die zweite Sache ist ihre Kultur. Diese Kultur ist gleichzeitig, technologisch fokussiert auf der einen Seite, die Technologie vorantreibend, gleichzeitig kundenorientiert auf der anderen Seite. Viele Unternehmen sind sehr kundenorientiert, aber sie sind nicht sehr technologisch exzellent. Sie sind nicht an der Spitze der Technologie. Es gibt viele Unternehmen, die technologisch an der Spitze der Technologie sind, aber sie sind nicht die besten kundenorientierten Unternehmen. Und so hängt es irgendwie davon ab, wie sie diese beiden Dinge ausbalanciert haben und sie sind in beiden Weltklasse. Und dann wahrscheinlich die dritte Sache ist die Technologie, die ich am meisten an ihnen schätze, dass sie diese, dieses, Immaterielle namens Vertrauen geschaffen haben. Ich vertraue ihnen, dass sie mein Unternehmen auf sie legen. Das ist eine sehr große Sache. - Wenn sie vertrauen, meine ich, es gibt eine wirklich enge Beziehung, die Sie aufgebaut haben, und dieses Vertrauen basiert auf vielen Jahren Leistung, aber es gibt auch menschliche Beziehungen. - Drei Jahrzehnte, ich weiß nicht, wie viele Dutzende, Hunderte von Milliarden Dollar an Geschäften wir mit ihnen gemacht haben, und wir haben keinen Vertrag. Das ist ziemlich großartig. - Erstaunlich. Okay, es gibt diese Geschichte... ... Dass Morris Chang, der Gründer von TSMC, Ihnen 2013 die Chance angeboten hat, Chief Executive von TSMC zu werden, und Sie sagten, Sie hätten bereits einen Job. Stimmt diese Geschichte? - Die Geschichte stimmt. Ich habe sie nicht abgewiesen. Ähm, aber ich war tief geehrt und, und natürlich, natürlich, äh, ich wusste damals, wie ich heute weiß, ist TSMC eines der folgenreichsten Unternehmen der Geschichte. Und, und Morris ist einer der am höchsten angesehenen Führungskräfte und, und Geschäfts- und Freundschaftsfreund, den ich in meinem Leben hatte. Und, ähm... Äh, dass er fragte, ist, äh, ähm, ich war demütig und, und wirklich geehrt. Aber, aber die Arbeit, die ich hier mache, ist wirklich wichtig, und ich habe gesehen, wissen Sie, in meinem inneren Auge, was NVIDIA werden würde und welchen Einfluss wir haben könnten. Und äh, es war wirklich wichtige Arbeit. Und es ist meine Verantwortung, wissen Sie, meine alleinige Verantwortung, das zu tun. Und so, äh, ich habe es abgelehnt. Wissen Sie, nicht, nicht, weil es kein unglaubliches Angebot war. Es ist ein unglaubliches Angebot, aber, aber ich konnte es einfach nicht annehmen. - Ich glaube, NVIDIA, sowohl NVIDIA als auch TSMC sind zwei der größten Unternehmen in der Geschichte der menschlichen Zivilisation. Und eines von beiden zu leiten, ich bin sicher, ist unglaublich kompliziert und erfordert... Man muss wirklich ganz dabei sein. Äh, jeder in jeder Größenordnung, nicht nur auf CEO-Ebene. Jeder ist wirklich ganz dabei- - Ja. Ja, kein Zweifel - ... Um diese Art von Komplexität zu erreichen. - So jetzt kann ich beiden Unternehmen helfen. - Genau. NVIDIA ist jetzt das wertvollste Unternehmen der Welt. Ich muss fragen, was ist NVIDIAs größter Burggraben, wie die Leute im Tech-Sektor sagen? Der Vorteil, den Sie haben, der Sie vor der Konkurrenz schützt. - Unser wichtigstes Gut als Unternehmen ist die installierte Basis unserer Computerplattform. Unser wichtigstes Gut heute ist die installierte Basis von CUDA. Nun, der Grund, warum, äh, vor 20 Jahren, natürlich, gab es keine installierte Basis. Aber was macht... Und wenn jemand mit einem GUDA oder TUDA käme, würde es keinen Unterschied machen. Und der Grund dafür ist, dass es nie nur um die Technologie ging. Die Technologie war natürlich unglaublich visionär. Aber es ist die Tatsache, dass das Unternehmen ihr treu geblieben ist, sie beibehalten hat, ihre Reichweite erweitert hat. Ähm, es waren nicht drei Leute, die CUDA erfolgreich gemacht haben. Es waren 43.000 Leute, die CUDA erfolgreich gemacht haben. Und die mehreren Millionen Entwickler, die an uns geglaubt haben, die darauf vertraut haben, dass wir CUDA 1, 2, 3, 13 weiter entwickeln würden, dass sie beschlossen haben, ihre Software darauf zu portieren und zu widmen, ihren Berg an Software darauf. Und so ist die installierte Basis der wichtigste Vorteil. Diese installierte Basis, wenn man sie mit der Geschwindigkeit unserer Ausführung in dem Maßstab, über den wir sprechen, multipliziert, kein Unternehmen in der Geschichte hat jemals Systeme dieser Komplexität gebaut, überhaupt. Und sie dann einmal im Jahr zu bauen, ist unmöglich. Und diese Geschwindigkeit, kombiniert mit der installierten Basis, im Kopf des Entwicklers, nehmen Sie einfach jetzt den Kopf des Entwicklers. Aus der Perspektive des Entwicklers, wenn ich CUDA unterstütze, wird es morgen zehnmal besser sein. Ich muss nur sechs Monate im Durchschnitt warten. Nicht nur das, wenn ich es auf CUDA entwickle, erreiche ich ein paar hundert Millionen Leute, Computer. Ich bin in jeder Cloud, ich bin in jedem Computerunternehmen, ich bin in jeder einzelnen Branche, ich bin in jedem einzelnen Land. Wenn ich also ein Open-Source-Paket erstelle und es zuerst auf CUDA lege, erhalte ich diese beiden Attribute gleichzeitig. Und nicht nur das, ich vertraue zu 100 %, dass NVIDIA CUDA beibehalten und pflegen und verbessern und die Bibliotheken optimieren wird, solange sie leben. Das können Sie als gegeben hinnehmen, und dieser letzte Teil, Vertrauen. Wenn Sie all das zusammennehmen, wenn ich heute ein Entwickler wäre, würde ich zuerst CUDA anvisieren. Ich würde CUDA am meisten anvisieren. Und das ist der Grund, warum wir am Ende unser erster, das ist sogar unser erster - Kernvorteil sind. Unser zweiter ist unser Ökosystem. Die Tatsache, dass wir dieses unglaublich komplexe System vertikal integriert haben, aber wir integrieren es horizontal in die Computer jedes einzelnen Unternehmens. - Wir sind in Google Cloud, wir sind in Amazon, wir sind in Azure. Wissen Sie, wir bauen AWS gerade wahnsinnig aus. Wir sind in neuen Unternehmen wie CoreWeave und Nscale. Wir sind in Supercomputern bei Lilly. Wir sind in Unternehmenscomputern. Wir sind am Edge in Funkbasisstationen. Wissen Sie, ich meine, es ist einfach verrückt. Eine Architektur ist in all diesen verschiedenen Systemen. Wir sind in Autos, wir sind in Robotern, wir sind in Satelliten, wir sind im Weltraum. Und so die Tatsache, dass Sie diese eine Architektur haben und das Ökosystem so breit ist, es deckt im Grunde jede einzelne Branche der Welt ab. - Nun, wie entwickelt sich die CUDA-Installationsbasis in die Zukunft mit KI-Fabriken als Burggraben? Was... Glauben Sie, dass NVIDIA der Zukunft nur noch KI-Fabriken sein wird? - Nun, die Recheneinheit war früher die GPU für uns. Dann wurde es ein Computer, dann ein Cluster. Jetzt ist es eine ganze KI-Fabrik. Wenn ich einen Computer sehe, wenn ich sehe, was NVIDIA baut, früher, würde ich, wissen Sie, ich visualisiere den Chip. Und dann, wenn ich das neue Produkt, die neue Generation ankündige, wie: "Meine Damen und Herren, wir kündigen heute Ampere an", würde ich den Chip hochheben. Das war mein mentales Modell-... dessen, was ich baute. Heute würde ich... Den Chip hochheben ist immer noch liebenswert. Aber es ist liebenswert. Es ist nicht mein mentales Modell dessen, was ich tue. Mein mentales Modell ist dieses riesige Gigawatt-Ding, das Stromerzeugung mit dem Netz verbunden hat. Es hat Kühlsysteme und Netzwerke von unglaublicher Monstrosität, wissen Sie. 10.000 Leute sind dort, um es zu installieren, Hunderte von Netzwerktechnikern sind dort, Tausende von Ingenieuren dahinter, die versuchen, es mit Strom zu versorgen. Wissen Sie, die Inbetriebnahme einer dieser Fabriken, wie Sie wissen, ist nicht jemand, der sagt: "Es ist jetzt an." Es braucht Tausende von Leuten, um sie hochzufahren. - Also mental, sind Sie tatsächlich... Wenn Sie über eine einzelne Recheneinheit nachdenken, denken Sie buchstäblich, wenn Sie nachts ins Bett gehen, denken Sie jetzt an eine Sammlung von Racks, also Pods, nicht an einzelne Chips. - Gesamte Infrastruktur. Und ich hoffe, mein nächster Klick ist, wenn ich über den Bau von Computern nachdenke, es ist, wissen Sie, planetarischer Maßstab. Das wird der nächste Klick sein. - Nun, was halten Sie von der Weltraum-Perspektive, über die Elon gesprochen hat, um einige der... Das macht einige der Energieprobleme in Bezug auf die Skalierung von Energie einfacher. - Kühlungsprobleme sind nicht einfach. Ja. - Kühlung. Nun, es gibt eine große Anzahl von technischen Komplexitäten damit verbunden. Also, also was... Wissen Sie, NVIDIA hat auch angekündigt, dass Sie bereits darüber nachdenken. - Ja, wir sind schon da. NVIDIA GPUs sind die ersten GPUs im Weltraum. Und ich wusste es nicht, es war so interessant... Ich hätte es vielleicht angekündigt. Wir sind im Weltraum. Wissen Sie, ein kleiner, kleiner Astronautenanzug auf einer unserer GPUs. Aber wir waren im Weltraum. Es ist der richtige Ort für viel Bildverarbeitung. Wissen Sie, denn diese Satelliten haben wirklich hochauflösende Bildgebungssysteme, und sie fegen die Erde, wissen Sie, kontinuierlich jetzt. Und, ähm, Sie wollen, wissen Sie, Zentimeter-Skala, Bildgebung, die kontinuierlich für die Welt durchgeführt wird, so dass, wissen Sie, Sie im Grunde Echtzeit-Telemetrie von allem haben werden. Sie wollen das nicht zurück zur Erde funken. Es sind einfach, wissen Sie, Petabytes und Petabytes von Daten. Sie müssen KI einfach dort am Edge machen, alles wegwerfen, was Sie nicht brauchen, was Sie schon einmal gesehen haben, sich nicht geändert hat, und dann nur das behalten, was Sie brauchen. Und so musste KI am Edge gemacht werden. Offensichtlich haben wir, wir haben eine 24/7-Solarversorgung, wenn wir sie an den Polen platzieren. Und äh, aber, wissen Sie, es gibt keine Konduktion, keine Konvektion. Und so, wissen Sie, sind Sie so ziemlich nur Strahlung. Und äh, aber, wissen Sie, der Weltraum ist groß. Ich schätze, wissen Sie, wir werden einfach große, riesige Radiatoren dort aufstellen. - Wie verrückt halten Sie die Idee? Ist das, ist das in fünf Jahren, 10 Jahren, 20 Jahren? Wir sprechen also über Hindernisse für die KI-Skalierung. - Wissen Sie, ich bin einfach viel praktischer. Ich suche zuerst nach, wo, ähm, meine nächste, nächste Gelegenheit ist. In der Zwischenzeit kultiviere ich den Weltraum. Und so schicke ich Ingenieure, um an dem Problem zu arbeiten. Wir fangen an... Wir lernen viel darüber. Wie gehen wir mit Strahlung um? Wie gehen wir mit nachlassender Leistung um? Wie gehen wir mit kontinuierlicher Prüfung und Bestätigung von Fehlern um? Und, wissen Sie, wie gehen wir mit Redundanz um? Und wie verschlechtern wir uns anmutig und so weiter? Und so könnten wir, wir könnten eine... Was ist mit Software? Wie denken Sie über Software und Redundanz und Leistung im Weltraum nach? Machen Sie es so, dass der Computer nie kaputt geht, er wird nur langsamer, wissen Sie. Und ich... So könnten wir viel Ingenieur-Exploration im Voraus machen. Aber in der Zwischenzeit ist meine Lieblingsantwort, Verschwendung zu eliminieren. Wissen Sie, wir haben all diese Leerlaufleistung, ich möchte sie so schnell wie möglich evakuieren. - Ja. Es gibt hier auf der Erde viel niedrig hängende Früchte-... die wir für die KI-Skalierung nutzen können. Kurze Pause. Kurzes 30-Sekunden-Dankeschön an unsere Sponsoren. Schauen Sie sie sich in der Beschreibung an. Es ist wirklich der beste Weg, diesen Podcast zu unterstützen. Gehen Sie zu lexfridman.com/sponsors. Wir haben Perplexity für neugiergetriebene Wissenssuche, Shopify für den Online-Verkauf, LMNT für Elektrolyte, Fin für Kundenservice-KI-Agenten und Quo für ein Telefonsystem, wie Anrufe, Texte, Kontakte, für Ihr Unternehmen. Wählen Sie weise, meine Freunde. Und nun zurück zu meinem Gespräch mit Jensen Huang. Glauben Sie, dass NVIDIA irgendwann 10 Billionen wert sein könnte? Lassen Sie es uns so fragen. Wie sieht die Zukunft der Welt aus, in der das wahr ist? - Ich denke, dass NVIDIAs Wachstum extrem wahrscheinlich und in meinen Augen unvermeidlich ist. Und lassen Sie mich erklären, warum. Wir sind das größte Computerunternehmen der Geschichte. Allein das sollte die Frage aufwerfen, warum? Und der Grund ist natürlich... Zwei Gründe. Erstens, zwei grundlegende technische Gründe. Der erste Grund ist, dass das Computing von einem abruf-basierten Dateirufsystem zu einem abruf-basierten Dateirufsystem wurde. Fast alles ist eine Datei... Wir schreiben etwas vor, wir nehmen etwas vor auf, wir zeichnen etwas, wir stellen es ins Web, wir stellen es in eine Datei. Und wir verwenden ein Empfehlungssystem, einen intelligenten Filter, um herauszufinden, was wir für Sie abrufen sollen. Und so waren wir ein System zur Voraufzeichnung, menschlichen Voraufzeichnung und Dateiruf. Das ist im Wesentlichen ein Computer. Zu jetzt sind KI-Computer kontextbewusst, was bedeutet, dass sie Token in Echtzeit verarbeiten und generieren müssen. Wir sind also von einem abruf-basierten Computersystem zu einem generativen-basierten Computersystem übergegangen. Wir werden in dieser neuen Welt viel mehr Verarbeitung benötigen als in der alten Welt. Wir brauchen viel Speicher in der alten Welt. Wir brauchen viel Rechenleistung in dieser neuen Welt. Und so, so ist das der erste Teil davon. Wir haben das Computing und die Art und Weise, wie Computing betrieben wird, grundlegend verändert. Das Einzige, was dazu führen würde, dass es zurückgeht... ist, wenn diese Art des Computings, diese Art des Computings, die Informationen generiert, die kontextbezogen, situationsbewusst und auf neuen Erkenntnissen basierend sind, bevor sie Informationen generiert, diese rechenintensive Art des Computings nur zurückgehen würde, wenn sie nicht effektiv ist. Wenn also... In den letzten 10, 15 Jahren, während ich an Deep Learning gearbeitet habe, wenn ich zu irgendeinem Zeitpunkt zu dem Schluss gekommen wäre, dass: "Wissen Sie was? Das wird nicht funktionieren. Ich denke, das ist eine Sackgasse." Oder: "Es wird nicht skalieren, es wird diese Modalität nicht lösen, es wird in dieser Anwendung nicht verwendet werden." Dann würde ich mich natürlich sehr anders fühlen, aber ich denke, die letzten fünf Jahre haben mir mehr Vertrauen gegeben als die letzten zehn Jahre, die vorherigen zehn Jahre. Die zweite Idee ist, Computer, weil es ein Speichersystem war, war es weitgehend ein Lagerhaus. Wir bauen jetzt Fabriken. Lagerhäuser verdienen nicht viel Geld. Fabriken korrelieren direkt mit den Umsätzen des Unternehmens. Und so hat der Computer zwei Dinge getan. Nicht nur, dass er die Art und Weise, wie er es tat, verändert hat, sein Zweck in der Welt hat sich geändert. Es ist kein Computer mehr, es ist eine Fabrik. Es ist eine Fabrik, sie wird zur Erzielung von Einnahmen genutzt. Wir sehen jetzt nicht nur, dass diese Fabrik Produkte herstellt, Waren, die die Leute konsumieren wollen, wir sehen, dass die Waren so interessant, so wertvoll, für so viele verschiedene Zielgruppen sind, dass die Token anfangen, sich zu segmentieren, wie iPhones. Mm-hmm. Sie haben kostenlose Token, Sie haben Premium-Token und Sie haben mehrere Token dazwischen. Ja. Und so ist Intelligenz, wie sich herausstellt, ein skalierbares Produkt. Es gibt extrem intelligente Produkte, Token, die Sie... die für spezialisierte Dinge verwendet werden, Leute werden bereit sein zu zahlen. Wissen Sie, die Idee, dass jemand bereit ist, 1000 Dollar pro Million Token zu zahlen, ist nur noch eine Frage der Zeit. Es ist nicht ob, es ist nur wann. Und so sehen wir jetzt, dass die Ware, die diese Fabrik herstellt, tatsächlich wertvoll ist und Einnahmen und Gewinne generiert. Wie, nun, die Frage ist, wie viele dieser Fabriken braucht die Welt? Wie viele Token braucht die Welt? Und wie viel ist die Gesellschaft bereit, für diese Token zu bezahlen? Und was würde mit der Weltwirtschaft passieren, wenn die Produktivität so erheblich verbessert würde? Was würde passieren... Werden wir neue Medikamente, neue Produkte, neue Dienstleistungen entdecken? Und so, wenn man diese Dinge kombiniert, bin ich absolut sicher, dass das weltweite BIP im Wachstum beschleunigen wird. Ich bin absolut sicher, dass der Prozentsatz dieses BIP, der für Computing verwendet wird, 100-mal höher sein wird als in der Vergangenheit... weil es kein Speichermedium mehr ist. Es ist eine Produkteinheit. Und so, wenn man es in diesem Kontext betrachtet und dann zurückrechnet, was NVIDIA tut und wie viel von dieser neuen Wirtschaft, dieser neuen Industrie wir profitieren müssten, um sie zu adressieren, denke ich, werden wir viel, viel größer sein. Und dann der Rest, für mich, ist es möglich, dass NVIDIA ein Unternehmen mit 3 Billionen Dollar Umsatz in naher Zukunft ist? Die Antwort ist natürlich ja. Und der Grund dafür ist, dass es nicht durch physikalische Grenzen begrenzt ist. Es gibt nichts, was ich sehe, das sagt: "Mensch, 3 Billionen Dollar sind nicht möglich." Und wie sich herausstellt, wird die Lieferkette von NVIDIA von 200 Unternehmen geteilt. Und die Tatsache, dass wir uns auf den Rücken mit der Partnerschaft dieses Ökosystems skalieren, die Frage ist, haben wir die Energie dafür? Und sicherlich werden wir die Energie dafür haben. Und so all diese Dinge zusammen, diese Zahl ist nur eine Zahl, wissen Sie? Und ich erinnere mich noch, NVIDIA war, NVIDIA war, als wir zum ersten Mal eine Milliarde Dollar überschritten, wurde mir ein CEO erinnert, der mir sagte: "Jensen, es ist theoretisch unmöglich, dass ein fabless Halbleiterunternehmen eine Milliarde Dollar überschreitet." Und ich werde Sie nicht langweilen, warum, aber am Ende ist es natürlich unlogisch und es gibt viele Beweise dafür, dass wir es nicht sind. Und dann sagte mir jemand: "Jensen, Sie werden nie mehr als 25 Milliarden Dollar wert sein, wegen eines anderen Unternehmens." Jemand sagte mir das: "Sie werden nie, wissen Sie, weil..." Und so sind das keine Denkweisen nach ersten Prinzipien. Und die einfache Art, darüber nachzudenken, ist, was stellen wir her und wie groß ist die Gelegenheit, die wir schaffen können? Nun, NVIDIA ist nicht im Marktanteilsgeschäft. Fast alles, worüber ich gerade gesprochen habe, existiert nicht. Das ist der schwierige Teil. Wissen Sie, wenn NVIDIA ein 10-Milliarden-Dollar-Unternehmen wäre, das Marktanteile gewinnen will, dann ist es für Aktionäre leicht zu sehen, oh ja, wenn sie nur 10 % Marktanteil gewinnen könnten, könnten sie so viel größer sein. Aber es ist schwer für die Leute, sich vorzustellen, wie groß wir sein könnten, weil es niemanden gibt, von dem ich Marktanteile abnehmen könnte. Wissen Sie? Und so denke ich, das ist eine der Herausforderungen... für die Welt ist die Vorstellungskraft der Zukunft. Aber ich habe viel Zeit, und ich werde weiter darüber nachdenken, und ich werde weiter darüber sprechen, und jede GTC wird immer realer. Wissen Sie, und dann werden immer mehr Leute darüber sprechen, und eines Tages, wissen Sie, werden wir es schaffen. Aber ich bin zu 100 % sicher, dass wir es schaffen werden. - Ja, diese Sichtweise von im Wesentlichen Token-Fabriken, dieses Token pro Sekunde pro Watt, und jedes Token hat Wert. Wie es eine tatsächliche Sache ist, die Wert bringt, und es bringt verschiedene Arten von Wert, unterschiedliche Mengen an Wert für verschiedene Menschen mit Wert. Das ist das eigentliche Produkt, kann lose als das Token betrachtet werden. Und dann haben Sie eine Reihe von Token-Fabriken. Und dann ist es sehr einfach, nach ersten Prinzipien, sich eine Zukunft vorzustellen, angesichts all der potenziellen Dinge, die KI lösen kann, dass Sie eine exponentiell höhere Anzahl von Token-Fabriken benötigen werden. - Und was wirklich interessant ist, der Grund, warum ich so begeistert davon war, das iPhone der Token ist angekommen. - Wie nennen Sie es? Warten Sie, meinen Sie OpenClaws iPhone? Das ist interessant. - Agenten. - Ja, Agenten. Stimmt. - Agenten im Allgemeinen. Das iPhone der Token ist angekommen. Es ist die am schnellsten wachsende Anwendung in der Geschichte. Sie ging steil nach oben. Ging steil nach oben. - Das sagt etwas aus. - Yep, es besteht kein Zweifel, dass OpenClaw das iPhone der Token ist. - Passiert da wirklich etwas Besonderes ab etwa Dezember, wo die Leute wirklich die Macht von Claude Code von Codex, von OpenClaw, erkannt haben. Ähm, ich schäme mich zuzugeben, dass ich auf dem Weg hierher am Flughafen... Es ist das erste Mal, dass ich das öffentlich tue. Ich habe programmiert, in Anführungszeichen, indem ich mit meinem Laptop gesprochen habe. Und ich habe mich geschämt, weil ich so getan habe, als würde ich mit einem menschlichen Kollegen sprechen. Äh, ich bin mir nicht sicher, wie ich über die Zukunft denke, in der jeder... mit seiner KI herumläuft und mit ihr spricht, aber es ist eine so effiziente Art, Dinge zu erledigen. - Und es ist wahrscheinlicher, dass Ihre KI Sie die ganze Zeit stört. Und der Grund dafür ist, dass sie die Dinge so schnell erledigt. Sie berichtet Ihnen zurück: "Ich habe das erledigt." "Wissen Sie, was soll ich als Nächstes tun?" Wissen Sie, es... Das ist der Teil, den ich denke-... die meisten Leute nicht realisieren, ist, dass sie die Person sind, die am meisten mit ihnen chatten, ihnen am meisten texten wird, ihre Krallen oder ihr Hummer sein werden. - Was für eine unglaubliche Zukunft. Äh, ich habe gelesen, dass Sie einen großen Teil Ihres Erfolgs Ihrer Fähigkeit zuschreiben, härter zu arbeiten als jeder andere und mehr Leid zu ertragen als jeder andere. Wir können also viele der Dinge auflisten, die das mit sich bringt. Ich meine, mit Misserfolg umgehen, die Kosten und technischen Probleme, über die wir gesprochen haben. Die menschlichen Probleme, Unsicherheit, Verantwortung, Erschöpfung, Peinlichkeit, die Beinahe-Tod-Momente des Unternehmens, die Sie erwähnt haben, aber auch der Druck. Wie gehen Sie als CEO dieses Unternehmens, um das Volkswirtschaften und Nationen strategisch planen, ihre finanziellen Zuweisungen planen, ihre KI-Infrastruktur planen, mit diesem enormen Druck um? Was gibt Ihnen Kraft, angesichts der vielen Nationen und Völker, die von Ihnen abhängen? - Ich bin mir bewusst, dass NVIDIAs Erfolg für die Vereinigten Staaten sehr wichtig ist. Wir generieren enorme Steuereinnahmen. Wir etablieren technologische Führerschaft für unsere Nation. Technologische Führerschaft ist wichtig für die nationale Sicherheit. Nationale Sicherheit nicht nur in einem Aspekt der nationalen Sicherheit, in allen Aspekten der nationalen Sicherheit. Wenn unser Land wohlhabender ist, können wir bessere Arbeit bei der Innenpolitik und bei der Unterstützung sozialer Leistungen leisten. Weil wir so viel Re-Industrialisierung in den Vereinigten Staaten generieren, schaffen wir Berge von Arbeitsplätzen. Wir helfen dabei, wie wir Dinge wieder in die Vereinigten Staaten bringen, in so vielen verschiedenen Werken, Chips, Computern und natürlich diesen KI-Fabriken. Ich bin mir dessen völlig bewusst, dass... Und ich habe den Vorteil, und das ist ein echtes Geschenk mit Mainstream-Investoren, Lehrern, Polizisten, die aus irgendeinem Grund in NVIDIA investiert haben oder weil sie Jim Cramer gekauft haben und jetzt Millionäre sind. Und ich bin mir dieser Umstände völlig bewusst. Ich bin mir der Umstände bewusst, dass NVIDIA im Zentrum eines sehr großen Netzwerks von Ökosystempartnern hinter uns und nach uns steht. Und so gehe ich damit um, indem ich genau das tue, was ich gerade getan habe. Ich denke darüber nach, was wir tun. Was verursacht es? Welche Auswirkungen hat es auf andere Menschen, zum Vorteil, wissen Sie, positiv oder sogar, selbst durch große Belastung, zum Beispiel für die Lieferkette? Und die Frage ist daher, was werden Sie dagegen tun? Bei fast allem, was ich fühle, zerlege ich es, denke darüber nach: "Okay, was ist die Situation? Was hat sich geändert? Was ist schwierig? Und was werde ich dagegen tun?" Und ich zerlege es, zerlege das Problem, und die Zerlegung dieser Umstände verwandelt es in handhabbare Dinge, die ich tun kann. Und das Einzige, was ich danach tun kann, ist: "Hast du es getan? Hast du es getan oder hast du jemanden anderen dazu gebracht, es zu tun? Und wenn du es nicht getan hast, hast du überlegt, dass du es tun musst, und du hast es nicht getan, und du hast niemanden anderen dazu gebracht, es zu tun, dann hör auf, dich darüber zu beschweren." Wissen Sie? Und so- ... Also bin ich ziemlich hart zu mir selbst. Aber ich zerlege die Dinge auch so, dass ich nicht in Panik gerate. Ich kann schlafen gehen, weil ich die Liste der Dinge erstellt habe, die getan werden müssen, und ich habe sichergestellt, dass alles, was unser Unternehmen in Gefahr bringen könnte, meine Partner in Gefahr bringen könnte, unsere Branche in Gefahr bringen könnte, ich habe es jemandem gesagt. Alles, was ich fühle, könnte jemanden in Gefahr bringen, habe ich jemandem gesagt. Und ich habe es jemandem gesagt, der etwas dagegen tun kann. Und so habe ich es von meiner Brust genommen oder ich tue etwas dagegen. Und so, danach, Lex, was kannst du noch tun? - Angesichts all des wahnsinnigen, intensiven Leidens auf dem Weg zum Aufbau von NVIDIA, haben Sie psychologisch Tiefpunkte erreicht? - Oh ja. Oh ja. Sicher. Die ganze Zeit. Die ganze Zeit. - Und dort- - Die ganze Zeit. - ... zerlegen Sie das Problem einfach in Teile? - Ja. Ja. - Sehen Sie, was Sie dagegen tun können? - Und, und ein Teil davon, und, wissen Sie, Lex, ein Teil davon ist Vergessen. Eines der wichtigsten Attribute des KI-Lernens, wie Sie wissen, ist, richtig? Systematisches Vergessen. Sie müssen wissen, wann Sie Dinge vergessen müssen. Sie können nicht alles auswendig lernen. Sie können nicht alles behalten und, und, wissen Sie, Sie wollen - Sie wollen nicht alles mitnehmen. Eines der Dinge, die ich sehr schnell tue, ist, das Problem zu zerlegen, ich denke über das Problem nach und ich teile die Last damit. Wenn ich sage, ich sage es allen, teile ich im Wesentlichen diese Last. So schnell wie möglich. Was auch immer mich beunruhigt, sagen Sie es jemand anderem. Behalten Sie es nicht einfach. Wissen Sie, machen Sie sie nicht verrückt. Zerlegen Sie das Problem in kleinere Teile und bringen Sie die Leute dazu, und inspirieren Sie sie, etwas dagegen zu tun. Aber ein Teil davon ist einfach, einfach vergessen. Wissen Sie, wie viel davon, Sie müssen hart zu sich selbst sein. Wissen Sie, komm schon, hör auf zu weinen. Los geht's. Wissen Sie? Und, und dann stehst du auf. Und dann ist der andere Teil, Sie sind vom nächsten glänzenden Licht angezogen, von der nächsten Zukunft, wissen Sie, von der nächsten Gelegenheit, dem nächsten: "Okay, das liegt hinter uns. Lassen Sie uns - was kommt als Nächstes?" Es ist viel, denke ich, wissen Sie, Sie sehen das bei großartigen Athleten. Sie sorgen sich einfach um den nächsten Punkt. Der letzte Punkt liegt hinter ihnen. Die Peinlichkeit, die, wissen Sie - der Rückschlag. Wissen Sie, und, und, und weil ich so viel von meiner Arbeit öffentlich mache, wissen Sie? Lex, Sie machen auch einen fairen Teil Ihrer Arbeit öffentlich. Und so, so mache ich viel von meiner Arbeit öffentlich. Und so, wissen Sie, sage ich viele Dinge, die zu dieser Zeit vernünftig oder lustig erscheinen, meistens nur, weil es zu dieser Zeit für mich lustig ist. Und dann, wissen Sie, reflektieren Sie darüber, es ist weniger lustig, aber, aber... - Ja. Nein, vertrauen Sie mir, ich weiß. Aber Sie erlauben sich im Grunde, vom Licht der Zukunft gezogen zu werden. Vergessen Sie die Vergangenheit und arbeiten Sie einfach weiter daran. - Das stimmt. - ... weiter daran arbeiten. Ich meine, Sie haben gesagt, es gibt diese Art von berühmten Sache, die Sie gesagt haben, dass wenn Sie gewusst hätten, wie schwer es sein würde, NVIDIA aufzubauen, es sich herausstellte, was ist es? Eine Million Mal schwerer als Sie erwartet hatten, dass Sie es nicht tun würden. - Ja, richtig. - Ähm, aber ist das nicht... Wissen Sie, wenn ich das höre, ist das wahrscheinlich bei allem, was es wert ist, richtig? - Genau. Das ist übrigens das, was ich zu erklären versucht habe, ist, dass es eine unglaubliche Superkraft ist, den Geist eines Kindes zu haben. Wissen Sie? Und ich sage mir oft, wenn
Ich schaue auf etwas, und fast, fast alles, mein erster Gedanke ist: „Wie schwer kann das sein?“ Verstehst du? Und so versetzt du dich in diesen Modus, wie schwer könnte es sein? Und, und niemand hat es je getan. Es sieht gigantisch aus. Es wird Hunderte von Milliarden Dollar kosten. Es wird, weißt du, all das dauern... Und du sagst einfach: „Ja, aber wie schwer könnte es sein?“ Verstehst du? Wie schwer könnte es sein? Und so musst du dich in diesen Geisteszustand versetzen. Du willst nicht, du willst nicht wirklich alles und all die Rückschläge und all die Prüfungen und Leiden und all die Enttäuschungen überanalysieren. Du willst das alles nicht im Voraus simulieren. Das willst du nicht wissen. Du willst in eine neue Erfahrung gehen und denken, sie wird perfekt sein, sie wird großartig sein, sie wird unglaublich Spaß machen. Und dann, während du dort bist, weißt du, brauchst du Ausdauer, du brauchst Mut, damit, wenn die Rückschläge tatsächlich eintreten, und diese Rückschläge dich überraschen werden, die Enttäuschungen dich überraschen werden, weißt du, die Peinlichkeiten dich überraschen werden, die Demütigungen dich überraschen werden. Du kannst einfach nicht zulassen... Jetzt musst du einfach den anderen Teil einschalten, der einfach darin besteht, es zu vergessen. Mach weiter, geh weiter. Und, und in dem Maße, in dem, in dem meine Annahmen über die Zukunft und warum die Zukunft sich manifestieren wird, solange diese Annahmen und diese Eingaben sich nicht materiell ändern oder nicht geändert haben, dann sollte ich erwarten, dass sich die Ausgabe nicht ändert. Und so wird meine simulierte Ausgabe der Zukunft immer noch eintreten. Und wenn sie immer noch eintreten wird, werde ich sie immer noch verfolgen. Ich glaube, sie wird, weißt du, und so gibt es eine Kombination aus zwei oder drei menschlichen Eigenschaften, die Fähigkeit, frisch im Geist in eine, in eine Erfahrung zu gehen, die Fähigkeit, die Rückschläge zu vergessen, die Fähigkeit, an sich selbst zu glauben, weißt du, an das zu glauben, was du glaubst, und diesem Glauben treu zu bleiben. Aber du bewertest ständig neu. Diese Kombination aus drei, vier, fünf Dingen ist meiner Meinung nach wirklich wichtig für die Widerstandsfähigkeit. Und, und... und, weißt du, ich habe Glück, dass, was auch immer die Lebenserfahrungen dazu geführt haben, ich diese vier, fünf Dinge irgendwie habe. Weißt du, ich bin immer neugierig, immer lernend. Ich lerne immer von jedem, weißt du? Ich frage immer meine... Und weil ich bei allem demütig bin, denke ich immer: „Mensch, das haben sie so schön gemacht. Das haben sie so wunderbar gemacht.“ Weißt du, ich frage mich, was sie sich dabei denken. Wie machen sie das... Weißt du, also simuliere ich jeden. In vielerlei Hinsicht, weißt du, emuliere ich fast jeden, den ich beobachte, richtig? Du bist einfühlsam gegenüber allem, was sie tun, das du beobachtest und respektierst. Und, und so lernst du ständig und, weißt du.
- Du bist jetzt einer der reichsten Menschen der Welt. Einer der erfolgreichsten Menschen der Welt. Ist es schwieriger, demütig zu sein und zu können... Spürst du die Auswirkung von Geld und Macht und Ruhm, die es dir schwerer machen, in deinem eigenen Kopf falsch zu liegen? Genug, um die Meinung von jemand anderem anzuhören, wenn er dir widerspricht, und von ihnen zu lernen? Solche Dinge.
- Ähm, überraschenderweise, nein. Und ich würde, ich würde tatsächlich den anderen Weg gehen. Weil ich so viel von meiner Arbeit öffentlich mache, wenn ich falsch liege, sehen es so ziemlich alle.
- Du wirst gedemütigt. Fair genug.
- Und wenn ich falsch liege, wenn es nicht so gekommen ist oder weißt du, ich meine, die meisten Dinge, von denen ich außerhalb spreche, bin ich mir ziemlich sicher. Und der Grund dafür ist, weil es jemanden anderen beeinflussen wird und ich mir dessen ziemlich bewusst und ziemlich, vorsichtig sein möchte. Bei Dingen, über die ich in einer Besprechung nachdenke, weißt du, viele Dinge können anders ausgehen. Und so, aber es hält mich nie vom Nachdenken ab. Die Art und Weise, wie ich manage und führe, ich, weißt du, ich denke ständig vor Leuten nach. Und selbst wenn ich mit dir spreche, kannst du mich irgendwie dabei beobachten, wie ich über Dinge nachdenke. Und ich möchte sicherstellen, dass du verstehst, was ich sage, nicht weil ich es dir gesagt habe... weil ich so demütig bin, was ich dir gleich sagen werde. Ich zeige dir irgendwie die Schritte, wie ich dorthin gekommen bin. Und dann kannst du entscheiden, ob du am Ende glaubst, was ich gesagt habe. Und so mache ich das den ganzen Tag in Besprechungen. Mit all meinen Mitarbeitern denke ich ständig nach: „Lass mich dir sagen, wie ich es sehe.“ Und dann denke ich darüber nach. Es gibt jedem die Möglichkeit, einzugreifen und zu sagen: „Ich stimme diesem Teil nicht zu.“ Das Schöne am Nachdenken über Dinge und am Zulassen, dass Leute damit interagieren, ist, dass sie deinem Ergebnis nicht widersprechen müssen. Sie können deinen Denkprozessschritten widersprechen. Und sie können mich in verschiedene Richtungen ziehen, und dann können wir weiter nachdenken. Und so sind wir irgendwie, weißt du, eine kollektive Methode zur Pfadsuche. Und es ist wirklich fantastisch.
- Ja, du hast diese Art an dir... Wenn du etwas erklärst, kann ich spüren, wie du gerade in diesem Moment darüber nachdenkst, mit einer ständigen Offenheit, bei der du... Ich könnte das Gefühl haben, dass ich dein Denken steuern könnte. Und das ist, das ist wirklich schön, dass du das nach so vielen Jahren des Erfolgs und des Schmerzes beibehalten konntest. Ich denke, manchmal macht Schmerz einen verschlossen, schließt einen ein bisschen ab.
- Mm-hmm. Ja.
- Und ich denke, um zu erhalten-
- Ja. Toleranz für Peinlichkeit, denke ich, ist...
- Ja, das ist... Die Toleranz... Ich meine, das ist eine echte Sache. Das sind viele Jahre, in denen man sich selbst peinlich macht. Selbst diese Besprechungen, in denen man weiß, dass Leute um einen herum sind, wo man eine Idee erklärt hat und sich gezeigt hat, dass diese Idee falsch war... und in der Lage sein, das zuzugeben und daraus zu lernen. Das ist nicht, das ist auf menschlicher Ebene sehr schwierig.
- Ja. Nun, weißt du. Sie wussten, dass mein erster Job kürzlich, weißt du, Toiletten putzen war, also.
- Ich bin froh, dass du diesen gleichen Geist von Denny's beibehalten hast, die Arbeit. Ich meine, das war schön. Deine ganze Reise von, angefangen bei Denny's, ist eine schöne. Lass mich dich nach Videospielen fragen. Ich bin ein großer Gaming-Fan. Also muss ich NVIDIA für viele Jahre unglaublicher Grafik danken.
- Übrigens, GeForce ist immer noch, bis heute... unsere Nummer eins Marketingstrategie. Richtig. Leute lernen NVIDIA kennen, während sie in ihren Teenagerjahren sind. Und dann gehen sie aufs College und sie wissen, wer NVIDIA ist, und dann am Anfang ist es nur, weißt du, Call of Duty spielen, weißt du? Weißt du, Fortnite. Und dann später benutzen sie CUDA, und dann später benutzen sie NVIDIA und, weißt du, Blender und Dassault und Autodesk.
- Ja. Ich meine, ich sollte erwähnen, dass ich einem Freund gesagt habe, dass ich mit dir spreche. Er sagte: „Oh, sie machen großartige Gaming-GPUs.“
- Ja, genau.
- Es ist wie-
- Genau.
- Weißt du, es gibt mehr dazu, aber ja, ja, die Leute lieben wirklich die... Es hat vielen Leuten viel Freude bereitet. Die, die, die Hardware erweckt diese Welten wirklich zum Leben. Es gab einige Kontroversen um DLSS 5. Kannst du mir das Drama darum erklären? Ähm, ich schätze, die Gamer online waren besorgt, dass es Spiele wie KI-Schrott aussehen lässt. Ähm, was denkst du über dieses Drama?
- Ja. Ähm, ich denke, ihre Perspektive ist sinnvoll und ich kann verstehen, woher sie kommen, denn ich liebe KI-Schrott selbst nicht. Weißt du, all die KI-generierten Inhalte sehen zunehmend ähnlich aus und sie sind alle schön, und ich kann... Also ich kann... Ich bin einfühlsam gegenüber dem, was sie denken. Das ist nur nicht das, was DLSS 5 zu tun versucht. Ich habe mehrere Beispiele davon gezeigt. Aber DLSS 5 ist 3D-konditioniert, 3D-geführt. Es ist geführt von Ground-Truth-Strukturdaten. Und so hat der Künstler die Geometrie bestimmt. Wir sind völlig wahrhaftig.... die Geometrie bleibt in jedem einzelnen Frame erhalten. Sie wird durch die Texturen, die Kunstfertigkeit des Künstlers bestimmt. Und so verbessert jeder einzelne Frame, aber er verändert nichts. Nun, die Frage ist, die Frage zur Verbesserung, DLSS 5 erlaubt auch, weil das System offen ist, dass man seine eigenen Modelle trainieren kann, um zu bestimmen, und man kann es sogar in Zukunft auffordern. Weißt du, ich möchte, dass es ein Toon-Shader ist. Ich möchte, dass es so aussieht, weißt du, so kann man ihm sogar ein Beispiel geben. Und es würde im Stil davon generieren, alles im Einklang mit der Kunstfertigkeit, weißt du, dem Stil, der Absicht des Künstlers. Und all das ist für den Künstler gemacht, damit er etwas schaffen kann, das schöner ist. Aber immer noch im Stil, den er will. Ich denke, sie hatten den Eindruck, dass die Spiele so herauskommen werden, wie sie ausgeliefert werden, und dass wir sie dann nachbearbeiten werden. Das ist nicht das, was DLSS tun soll. DLSS ist mit dem Künstler integriert, und so geht es darum, dem Künstler das Werkzeug der KI, das Werkzeug der generativen KI, zu geben. Sie könnten sich entscheiden, es nicht zu benutzen, weißt du?
- Ich denke, die Leute sind sehr empfindlich gegenüber menschlichen Gesichtern. Und wir leben jetzt in diesem Moment, der meiner Meinung nach ein schöner ist, in dem die Leute empfindlich auf KI-Schrott reagieren. Es spiegelt uns selbst, um uns zu helfen zu erkennen, dass wir nach Unvollkommenheiten suchen. Wir suchen manchmal nicht nach perfekten Grafiken. Es hilft uns zu verstehen, was wir in den Welten, die wir erschaffen, fesselnd finden. Und das ist schön. Und solange es Werkzeuge sind, die uns helfen, diese Welten zu erschaffen-
- Ja, das stimmt.
- ... ist es wunderbar.
- Das stimmt. Doch, doch ein weiteres Werkzeug, und sie wollen, dass die generativen Modelle das Gegenteil von fotorealistisch generieren. Ja, das wird es auch tun. Und so ist es nur ein weiteres Werkzeug. Ich denke, die Gamer werden vielleicht auch zu schätzen wissen, dass wir in den letzten Jahren den Spieleentwicklern Skin-Shader eingeführt haben. Und viele dieser Spiele haben Skin-Shader, die Subsurface Scattering beinhalten, die Haut realistischer aussehen lassen. Und so suchen die Industrien, weißt du, Spieleentwickler nach immer mehr Werkzeugen, um ihre Kunst auszudrücken. Und so ist dies nur ein weiteres Werkzeug, und sie entscheiden, was sie benutzen.
- Lächerliche Frage. Was ist deiner Meinung nach das größte oder einflussreichste Spiel aller Zeiten? Vielleicht aus der Perspektive von NVIDIA?
- Doom.
- Doom, unbestreitbar. Das war der Anfang von 3D.
- Ich würde sagen, Doom, aus einer künstlerischen Sicht, der Schnittpunkt der kulturellen Implikation sowie der Industrie, die Umwandlung eines PCs in ein Spielgerät. Das war ein sehr wichtiger Moment. Nun, nun natürlich, Flugsimulationsfirmen gab es vorher. Aber sie hatten einfach nicht die Popularität, die Doom hatte, um die Industrie dazu zu bringen, den PC von einem Büroautomatisierungswerkzeug in einen Personal Computer für Familien und Gamer und dergleichen zu verwandeln. Und so war Doom dort wirklich wirkungsvoll. Aus der Perspektive der eigentlichen Spieltechnologie würde ich sagen, Virtua Fighter. Und so sind wir beide mit beiden befreundet, weißt du?
- Und dann gibt es Spiele, die neuer sind, ich meine, Cyberpunk 2077, wirklich schöne GPU-beschleunigte Grafiken. Wie-
- Vollständig Raytracing.
- Vollständig Raytracing. Außerdem mag ich, ich persönlich, ich bin ein riesiger Fan von Skyrim, äh, Elder Scrolls, und, weißt du, es wurde vor langer, langer Zeit veröffentlicht, aber die Leute veröffentlichen Mods und-
- Wir lieben Mods.
- ... sie erschaffen diese, diese unglaublichen, ich meine, es ist wie ein anderes Spiel und es erlaubt mir, das Spiel immer wieder zu spielen und es zu erleben. Es lässt dich erkennen, dass du die Welt, die du bereits liebst, auf eine völlig neue Weise wiedererleben kannst. Also-
- Das stimmt.
- ... das mache ich ständig. Eines meiner Lieblingsdinge ist einfach, durch Skyrim zu laufen.
- Ähm, wir haben etwas namens RTX Mod erstellt. Ja, es ist ein Modding-Tool.
- Großartig.
- Es ermöglicht der Community, die neueste Technologie in ein altes Spiel einzuschleusen.
- Natürlich, was ein großartiges Videospiel ausmacht, sind nicht nur die Grafiken, sondern auch die Geschichte und die Charakterentwicklung, aber-
- Das stimmt.
- ... schöne Grafiken können zur Immersion beitragen. Das Gefühl, dass es ein anderer Ort ist, an den man transportiert wird. Ah, was du gesagt hast, denke ich, trifft es genau, dass die Frage nach dem Zeitplan für AGI von deiner Definition von AGI abhängt. Lass mich dich also nach möglichen Zeitplänen fragen. Nehmen wir diese lächerliche Definition von AGI, aber ein KI-System, das im Wesentlichen deinen Job machen kann. Also, führen, nein, starten, wachsen und ein erfolgreiches Technologieunternehmen führen, das wert ist-
- Ein gutes oder ein?
- Nein. Es muss- Es muss mehr als eine Milliarde wert sein, mehr, mehr als eine Milliarde Dollar. Du weißt also, wie schwer es ist, all diese Komponenten zu erledigen. Wie weit sind wir also davon entfernt? Wir sprechen also über OpenClaw, das all die unglaublich komplexen Dinge tut, die erforderlich sind, um erstens zu innovieren, Kunden zu finden, sie zu verkaufen, zu managen, ein Team von Agenten, einigen Menschen aufzubauen, all das. Ist das fünf, 10, 15, 20 Jahre entfernt?
- Ich denke, es ist jetzt. Ich denke, wir haben AGI erreicht.
- Glaubst du, du könntest ein Unternehmen haben, das von einem solchen KI-System geführt wird?
- Möglich, und der Grund dafür ist dieser. Du hast eine Milliarde gesagt, und du hast nicht für immer gesagt. Und so zum Beispiel, äh... Es ist nicht ausgeschlossen, dass ein Claw in der Lage war, einen Webdienst zu erstellen, eine interessante kleine App, die plötzlich, weißt du, ein paar Milliarden Menschen für 50 Cent nutzten, und dann ging sie kurz darauf wieder pleite. Nun, wir haben während der Internet-Ära eine ganze Reihe solcher Unternehmen gesehen, und die meisten dieser Websites waren nicht viel ausgefeilter als das, was OpenClaw heute generieren könnte.
- Interessant. Viralität erreichen und diese Viralität monetarisieren.
- Ja. Es ist nur so, dass ich nicht weiß, was es ist, aber ich hätte auch keines dieser Unternehmen vorhersehen können, weißt du? Und-
- Du wirst mit dieser Aussage viele Leute aufregen. Es ist wie, was meinst du? Ich kann, ich kann einfach, äh-... einen Agenten starten und viel Geld verdienen.
- Nun, übrigens, es passiert gerade, oder? Du weißt, wenn du nach China gehst, wirst du sehen, du wirst eine ganze Menge Leute sehen, die ihren, ihren Claws beibringen, Jobs zu suchen und, weißt du, Arbeit zu machen, Geld zu verdienen. Und ich bin nicht, ich bin nicht wirklich... Ich wäre nicht überrascht, wenn etwas Soziales passiert oder jemand einen digitalen Influencer erschafft, super, super süß oder eine soziale Anwendung, die, weißt du, dein kleines Tamagotchi füttert oder so etwas, und es wird aus dem Nichts ein sofortiger Erfolg. Viele Leute benutzen es ein paar Monate lang und es stirbt dann ab. Nun, die Chancen, dass, weißt du, 100.000 dieser Agenten NVIDIA aufbauen, sind null Prozent. Und dann der eine Teil, den ich, den ich nicht tun werde, und ich möchte sicherstellen, dass wir alle tun, ist zu erkennen, dass die Leute sich wirklich Sorgen um ihre Arbeitsplätze machen. Und ich möchte sie nur daran erinnern, dass der Zweck deines Jobs und die Aufgaben und Werkzeuge, die du benutzt, um deinen Job zu machen, zusammenhängen, nicht dasselbe sind. Ich mache meinen Job seit 33 Jahren. Ich bin der am längsten amtierende Tech-CEO der Welt, 34 Jahre. Und die Werkzeuge, die ich benutzt habe, um meinen Job zu machen, haben sich in den letzten 34 Jahren kontinuierlich und manchmal ziemlich dramatisch geändert, weißt du, im Laufe von ein paar, zwei, drei Jahren. Und die eine Geschichte, die ich wirklich sicherstellen möchte, dass jeder hört, ist die Geschichte, dass der erste Job, von dem Computerwissenschaftler und KI-Forscher sagten, er würde verschwinden, die Radiologie war. Weil Computer Vision übermenschliche Niveaus erreichen würde, und das tat sie auch. CV... Computer Vision war 2019, 20, vielleicht etwas später, 2020 übermenschlich? Okay? Und so ist es schon lange her, seit Computer Vision übermenschlich ist. Und so war die Vorhersage, dass Radiologen verschwinden würden, weil das Studium von radiologischen Scans eine Sache der Vergangenheit war. KI wird das tun. Nun, sie hatten absolut Recht. Computer Vision ist absolut übermenschlich. Jede Radiologie-Plattform und jedes Paket heute wird von KI angetrieben, und doch wuchs die Zahl der Radiologen. Und so stellt sich die Frage, warum? Und wir haben jetzt einen Mangel an Radiologen auf der Welt. Und so, eins, die alarmistische Warnung ging zu weit und erschreckte die Leute, diesen Beruf auszuüben, der für die Gesellschaft so wichtig ist. Und so hat es geschadet. Nun, warum war es falsch? Der Grund dafür ist, dass der Zweck eines Radiologen, der Zweck ist, Krankheiten zu diagnostizieren und Patienten und Ärzten bei der Diagnose von Krankheiten zu helfen. Und weil wir Scans viel schneller untersuchen können, kannst du mehr Scans untersuchen, du kannst besser diagnostizieren, du kannst, du kannst Patienten schneller behandeln, du kannst mehr Leute sehen. Die Krankenhäuser verdienen mehr Geld. Du hast mehr Patienten im Krankenhaus. Du brauchst mehr Radiologen. Ich meine, das Erstaunliche ist, es ist so offensichtlich, dass das passieren würde. Die Zahl der Software-Ingenieure bei NVIDIA wird wachsen, nicht sinken. Und der Grund dafür ist, dass der Zweck eines Software-Ingenieurs und die Aufgabe eines Software-Ingenieurs beim Codieren zusammenhängen, nicht dasselbe sind. Ich wollte, dass meine Software-Ingenieure Probleme lösen. Es war mir egal, wie viele Codezeilen sie schrieben, weißt du? Aber ihre Arbeit, der Zweck ihrer Arbeit hat sich nicht geändert. Probleme lösen, im Team arbeiten, Probleme diagnostizieren, das Ergebnis bewerten, nach neuen Problemen suchen, Innovation, Punkte verbinden. Weißt du, nichts davon wird verschwinden.
- Glaubst du, es ist möglich, dass... Nehmen wir sogar das Codieren. Glaubst du, dass die Zahl der Programmierer auf der Welt zunehmen könnte, nicht abnehmen?
- Ja. Und der Grund dafür ist dieser. Was ist die Definition von Codieren? Ich glaube, es ist... Die Definition von Codieren, wie sie heute ist, ist einfach Spezifikation, und vielleicht, wenn du sehr direkt sein willst, kannst du ihm sogar eine Architektur der Software geben, die du schreiben wolltest. Die Frage ist also, wie viele Leute könnten das tun? Eine Spezifikation für einen Computer beschreiben, um... Dem Computer sagen, was er bauen soll. Wie viele Leute? Ich denke, wir sind gerade von 30 Millionen auf wahrscheinlich 1 Milliarde gestiegen. Und so wird jeder Zimmermann in Zukunft ein Coder sein, außer dass ein Zimmermann mit KI auch ein Architekt ist. Sie haben gerade den Wert erhöht, den sie dem Kunden liefern können. Ihre, ihre Kunstfertigkeit hat sich enorm erhöht. Ich glaube, dass jeder Buchhalter, weißt du, auch dein Finanzanalyst, auch dein Finanzberater ist. All diese Berufe wurden also gerade aufgewertet.... und, und wenn ich ein Zimmermann wäre, sehe ich KI, ich würde völlig durchdrehen. Weißt du, die Dienstleistungen, die ich meinen Kunden anbieten kann, wenn ich ein Klempner wäre, völlig durchdrehen.
- Und die Leute, die derzeit Programmierer und Software-Ingenieure sind, ich denke, sie sind an der Spitze des intuitiven Verständnisses, wie man mit Agenten in natürlicher Sprache kommuniziert, um die beste Art von Software zu entwerfen.
- Das stimmt, genau.
- Also werden sie sich im Laufe der Zeit annähern, aber ich denke, es gibt immer noch Wert darin, ich denke, das Erlernen des Programmierens, wie das Erlernen von Programmiersprachen. Die alten, die alte Art des Programmierens, was sind gute Praktiken für Programmiersprachen, was sind Designprinzipien für Programmier-
- Das stimmt.
- ... Sprachen für große Softwaresysteme?
- Und der Grund dafür, Lex, und du weißt es, wie du für das Publikum sagst, ich denke, das Ziel der Spezifikation, die Kunstfertigkeit der Spezifikation, das Ziel und die Kunstfertigkeit davon, wird davon abhängen, welches Problem du zu lösen versuchst. Wenn ich über die Unternehmensstrategien nachdenke und Unternehmensrichtungen formuliere und Dinge, die wir tun sollten, beschreibe ich sie auf einem Niveau, das spezifisch genug ist, dass die Leute die Richtung im Allgemeinen verstehen und sie umsetzbar ist. Sie ist spezifisch genug, dass sie Maßnahmen ergreifen können, aber ich unter-spezifiziere sie mit Absicht, um 43.000 erstaunlichen Leuten zu ermöglichen, sie noch besser zu machen, als ich es mir vorgestellt habe. Und so denke ich, wenn ich mit Ingenieuren und mit Leuten arbeite, darüber nach, welches Problem ich lösen möchte? Mit wem arbeite ich? Und das Niveau der Spezifikation, das Niveau der Architekturaspekte bezieht sich darauf. Und, und so wird jeder lernen müssen, wo im Spektrum des Codierens er sein möchte. Eine Spezifikation zu schreiben ist Codieren. Und so entscheidest du dich vielleicht dafür, sehr präskriptiv zu sein, weil du ein sehr spezifisches Ergebnis suchst. Du entscheidest dich vielleicht dafür, dass dies ein Bereich ist, in dem du viel explorativer sein möchtest, und so unter-spezifizierst du vielleicht und ermöglichst es dir, hin und her mit der KI zu gehen, um deine eigenen kreativen Grenzen zu verschieben. Und so ist diese Kunstfertigkeit, wo du dich im Spektrum befindest, die Zukunft des Codierens.
- Aber um kurz dabei zu verweilen, außerhalb des Codierens, ich denke, viele Leute, zu Recht, machen sich Sorgen um ihre Arbeitsplätze, haben viel Angst um ihre Arbeitsplätze, besonders im White-Collar-Sektor. Ich glaube nicht, dass irgendjemand von uns weiß, was zu tun ist. Mit den turbulenten Zeiten, die immer kommen, wenn Automatisierung und neue Technologie eintreffen. Und ich einfach... Erstens denke ich, wir müssen alle Mitgefühl und die Verantwortung haben, die Last dessen zu spüren, wie sich das tatsächliche Leiden für einzelne Menschen und Familien anfühlt, die ihren Arbeitsplatz verlieren. Ich denke, wann immer man transformative Technologie hat, wie sie mit künstlicher Intelligenz kommt, wird es viel Schmerz geben, und ich weiß nicht, was ich gegen diesen Schmerz tun soll. Hoffentlich schafft sie viel mehr Möglichkeiten für dieselben Leute, für dieselbe Art von Arbeit, da die Werkzeuge sich weiterentwickeln und sie produktiver und hoffentlich unterhaltsamer machen, wie es beim Programmieren der Fall ist. Ich hatte so viel Spaß beim Programmieren, das muss ich sagen. Ich hatte noch nie so viel Spaß. Hoffentlich macht es ihren Job, automatisiert die langweiligen Teile und macht die kreativen Teile, die, für die die Menschen verantwortlich sind. Aber es wird immer noch viel Schmerz und Leid geben.
- Also meine erste Empfehlung, bevor... Und das ist jetzt, wie ich mit Angst umgehe. Tatsächlich haben wir gerade früher darüber gesprochen. Enorme Angst vor der Zukunft, enorme Angst vor dem Druck, enorme Angst vor Unsicherheit. Zuerst zerlege ich es, und dann sage ich mir: „Okay, es gibt einige Dinge, bei denen du etwas tun kannst, es gibt einige Dinge, bei denen du nichts tun kannst. Aber für die Dinge, bei denen du etwas tun kannst, lass uns darüber nachdenken und lass es uns tun.“ Wenn wir heute einen neuen Hochschulabsolventen einstellen würden, und ich hätte die Wahl zwischen zwei, einer, der keine Ahnung hat, was KI ist, und einer, der ein Experte im Umgang mit KI ist, würde ich denjenigen einstellen, der ein Experte im Umgang mit KI ist. Wenn ich einen Buchhalter, einen Marketingmenschen, denjenigen, der ein Experte im Umgang mit KI ist, Lieferkette, Kundenservice, einen Verkäufer, Geschäftsentwicklung, einen Anwalt hätte, würde ich denjenigen einstellen, der ein Experte im Umgang mit KI ist. Und so würde ich jedem Studenten, jedem Lehrer raten, seinen Studenten zu ermutigen, KI zu nutzen. Jeder Student sollte seinen Abschluss machen und ein Experte für KI sein. Und jeder, wenn du ein Zimmermann bist, wenn du, weißt du, Elektriker bist, geh und nutze KI. Sieh, was es tun kann, um deinen aktuellen Job zu transformieren, dich selbst zu verbessern. Wenn ich ein Bauer wäre, würde ich absolut KI nutzen. Wenn ich ein Apotheker wäre, würde ich KI nutzen. Ich möchte sehen, wie es meinen Job verbessern kann, damit ich der Innovator sein kann, der diese Branche selbst revolutioniert. Und das wäre das Erste, was ich tun würde. Und dann würde ich auch, ich würde ihnen auch helfen... Es ist so, dass die Technologie viele Aufgaben verdrängen und eliminieren wird, wenn... Und weil sie sie automatisieren wird, wenn dein Job die Aufgabe ist, dann wirst du sehr stark gestört werden. Wenn der Zweck deines Jobs dich einschließt, bestimmte Aufgaben- ... dann ist es unerlässlich, dass du lernst, KI zu nutzen, um diese Aufgaben zu automatisieren. Und dann gibt es die Welt des Spektrums dazwischen.
- Und übrigens, das Schöne an KI, also die Chatbot-Versionen, ist, dass du aufbrechen kannst... Du hast Angst und du kannst das Problem aufbrechen, indem du mit ihm sprichst. Wie ich kürzlich... Es ist wirklich unglaublich, wie viel man über seine Lebensprobleme nachdenken kann, und über... Und ich meine nicht, wie Therapieprobleme. Ich meine, ganz praktisch: „Okay, ich mache mir Sorgen um meinen...“ Wörtlich: „Ich mache mir Sorgen um meinen Job. Welche Fähigkeiten sind das? Welche Schritte muss ich unternehmen? Wie werde ich besser in KI?“ Alles, was du gerade gesagt hast, könntest du buchstäblich fragen und es wird dir- ... einen Schritt-für-Schritt-Plan geben. Ich meine, es ist einfach ein großartiger Lebenscoach, Punkt. Das-
- Ich weiß nicht, wie man KI benutzt, und die KI sagt: „Nun, lass mich es dir zeigen.“
- Genau. Es ist sehr meta, aber es ist- Es ist irgendwie unglaublich. Also sollten die Leute definitiv-
- Du kannst nicht zu Excel gehen und sagen: „Ich weiß nicht, wie man Excel benutzt.“ Du bist fertig.
- Ich meine, das ist es wirklich, was KI für mich in allen Lebensbereichen getan hat, ist diese anfängliche Reibung, ein Anfänger zu sein, der eine Sache zum ersten Mal benutzt. Ich kann buchstäblich nach jedem einzelnen Ding fragen: „Welche ersten Schritte muss ich unternehmen?“
- Das stimmt.
- Und diese Handhaltung, die sie leistet, die Reibung all der Erfahrungen, die die Welt bietet, entfernt, ist... Weißt du, wie ich dir offline erwähnt habe, du hast erwähnt: „Ich gehe nach China und Taiwan.“
- So toll.
- Frag einfach: „Wo gehe ich-“
- Ich freue mich so für dich.
- „Wo gehe ich—was mache ich—“ „Weißt du, wohin gehe ich? Wie mache ich...“ All diese Fragen- ... sofort beantwortet, und es ist schön.
- Nun, wenn du nach Taiwan gehst, frag einfach KI- ... „Was sind Jensens Lieblingsrestaurants in Taiwan?“ Und es wird tatsächlich-
- Du weißt es nicht?
- Oh ja.
- Ist es genau? Okay.
- Ja.
- Überall in Taiwan.
- Nun, du bist dort ein Rockstar. Und wie wir auch offline erwähnt haben, vielleicht kreuzen sich unsere Wege, was wirklich wunderbar wäre in der Computertechnik.
- COMPUTEX. NVIDIA GTC Taiwan.
- Ähm, glaubst du, es gibt Dinge an der menschlichen Natur, am menschlichen Bewusstsein, die grundlegend nicht-berechenbar sind? Vielleicht etwas, das ein Chip, egal wie leistungsfähig, niemals nachbilden kann?
- Ich weiß nicht, ob der Chip jemals nervös wird. Und das ist, weißt du, natürlich die Bedingungen, unter denen das Angst oder Nervosität oder irgendeine Emotion verursacht. Ähm, ich glaube, KI wird in der Lage sein, diese zu erkennen und zu verstehen. Ich glaube nicht, dass meine Chips diese fühlen werden. Und deshalb, die... Wie sich diese Angst, dieses Gefühl, diese Aufregung, dieses, dieses, weißt du... All diese Gefühle manifestieren sich in menschlicher Leistung. Zum Beispiel extrem erstaunliche menschliche Leistung, sportliche Leistung, weißt du, durchschnittlich oder unterdurchschnittlich. Dieses gesamte Spektrum menschlicher Leistung, das aus genau denselben Umständen für verschiedene Menschen hervorgeht, sich in einem anderen Ergebnis manifestiert, sich in einer anderen Leistung manifestiert. Ich glaube nicht, dass es etwas an dem gibt, was wir bauen, das darauf hindeuten würde, dass zwei verschiedene Computer, denen genau derselbe Kontext präsentiert wird, statistisch unterschiedliche Ergebnisse erzielen würden, aber es ist nicht, weil sie sich anders gefühlt haben.
- Ja, das Subjektive... Mann, es gibt etwas wirklich Besonderes an der subjektiven Erfahrung, die wir Menschen fühlen. Wie ich dir erwähnt habe, war ich ziemlich nervös, mit dir zu sprechen. Wie ich dir erwähnt habe, die Hoffnung, die Angst, die Sorge und einfach das Leben selbst, der Reichtum des Lebens. Wie erstaunlich alles ist. Wie tief wir uns verlieben, wie tief unsere Herzen gebrochen werden, wie viel Angst wir vor dem Tod haben und wie viel Schmerz wir fühlen, wenn unsere Lieben sterben. All das, das Ganze. Ich weiß, es ist sehr schwer- ... zu denken, dass KI dazu in der Lage sein kann... Ein Rechengerät, das das tun kann. Aber es gibt so viele Geheimnisse an dieser ganzen Sache, die wir noch aufdecken müssen, dass ich offen dafür bin, überrascht zu werden. Ich wurde in den letzten... paar Monaten und Jahren oft überrascht. Skalierung kann einige unglaubliche Wunder im Bereich der Intelligenz schaffen. Es war wirklich wunderbar zu beobachten, also bin ich offen für Überraschungen.
- Und es ist wirklich wichtig, aufzuschlüsseln, was Intelligenz ist. Weißt du, das Wort, das wir ständig benutzen, ist kein mysteriöses Wort. Intelligenz hat eine Bedeutung, weißt du? Und es ist ein System, das... Weißt du, es ist etwas, das wir tun, das Wahrnehmung und Verständnis und Schlussfolgerung und die Fähigkeit zu planen beinhaltet. Und, weißt du, dieser Kreislauf, dieser Kreislauf, ist das... Grundlegend, was Intelligenz ist. Intelligenz ist nicht ein Wort, das genau gleichbedeutend mit Menschlichkeit ist. Und das, ich denke, es ist wirklich wichtig, die beiden zu trennen. Wir haben zwei Wörter dafür. Ich bin nicht... Ich fantasiere nicht übermäßig und ich romantisiere nicht übermäßig über Intelligenz. Intelligenz ist... Und Leute haben mich das schon sagen hören, ich denke tatsächlich, Intelligenz ist eine Ware. Ich bin von intelligenten Leuten umgeben. Und ich bin von intelligenten Leuten umgeben, die intelligenter sind als ich, in jedem der Bereiche, in denen sie tätig sind. Und doch habe ich eine Rolle in diesem Kreis. Es ist tatsächlich irgendwie interessant. Sie sind besser ausgebildet als ich. Sie gingen auf bessere Schulen als ich. Sie sind tiefer, in jedem der Bereiche, in denen sie tätig sind. Alle von ihnen. Ich habe 60 von ihnen. Sie sind alle übermenschlich für mich. Und irgendwie sitze ich in der Mitte und orchestriere alle 60 von ihnen. Und so muss man sich fragen... Ähm, was ist, was ist es an einem Geschirrspüler, das es diesem Geschirrspüler erlaubt, in der Mitte von Übermenschen zu sitzen? Macht das Sinn? Und so, aber das ist mein Punkt. Mein Punkt ist, Intelligenz ist etwas Funktionales. Menschlichkeit ist nicht, nicht funktional spezifiziert. Es ist ein viel, viel größeres Wort. Und, und unsere Lebenserfahrung, unsere Schmerztoleranz, unsere Entschlossenheit, das sind, das sind andere Wörter als Intelligenz. Und so ist das, was ich dem Publikum helfen möchte zu verstehen, wenn ich ihnen eines geben könnte, ist, dass Intelligenz ein Wort ist, das wir im Laufe der Zeit zu einer sehr hohen Form erhoben haben.
- Das Wort, das wir wirklich erhöhen sollten, ist Menschlichkeit.
- Charakter, Menschlichkeit.
- All diese Dinge.
- All diese Dinge. Mitgefühl, Großzügigkeit, all die Dinge, die du gerade gesagt hast, ich glaube, das sind übermenschliche Kräfte. Und dass Intelligenz jetzt zur Ware wird. Weil wir darüber gesprochen haben, ist das Wichtigste deine Bildung. Das Wichtigste... Jetzt, selbst als sie sagten, das Wichtigste sei deine Bildung, als du zur Schule gingst, hast du mehr als nur Wissen gewonnen. Und so, aber leider hat unsere Gesellschaft alles in ein einziges Wort gesteckt, und das Leben ist mehr als ein Wort. Und ich sage dir nur, mein Leben legt nahe, dass es, wenn man auf der Intelligenzkurve niedriger ist als alle um einen herum, keinen Unterschied macht, dass man am erfolgreichsten ist. Und so, und ich denke, ich denke, das ist irgendwie, ich versuche, hoffentlich jeden anderen zu inspirieren, lass dich von dieser Demokratisierung der Intelligenz, dieser Kommodifizierung der Intelligenz, weißt du, nicht beunruhigen. Du solltest dich davon inspirieren lassen.
- Ja. Ich denke, KI wird uns helfen, Menschen mehr zu feiern. Und sicherlich Menschlichkeit und den Menschen zuerst, und ich, ich denke, was diese Welt unglaublich macht, sind Menschen für immer so sein werden, und KI ist nur dieses unglaubliche Werkzeug, das uns-
- Das ist genau richtig.
- ... Menschen mächtiger macht.
- Das ist genau richtig.
- Ähm, so viel vom Erfolg von NVIDIA und dem Leben von Millionen von Menschen, die ich erwähnt habe, hängt von dir ab. Aber du bist nur ein Mensch, wie wir erwähnt haben, ein Sterblicher wie wir alle. Denkst du über deine Sterblichkeit nach? Hast du Angst vor dem Tod?
- Ich will wirklich nicht sterben. Ähm, ich habe ein tolles Leben. Ich habe eine tolle Familie. Ähm, ich habe wirklich wichtige Arbeit. Ähm, das ist, das ist keine einmalige Erfahrung, die darauf hindeutet, dass sie von vielen Menschen erlebt wurde, nur nicht von einer Person. Das ist eine einmalige Erfahrung für die Menschheit, was ich durchmache. Ähm, NVIDIA ist eines der folgenschwersten Technologieunternehmen der Geschichte. Wir leisten sehr wichtige Arbeit. Ich nehme das sehr ernst. Ähm, Und so sind einige der, einige der Dinge, die, die natürlich praktische Dinge sind, wie denken wir über Nachfolgeplanung nach? Und, ich bin berühmt dafür zu sagen, dass ich nicht an Nachfolgeplanung glaube.
- Mann.
- Und der Grund, der Grund dafür, der Grund dafür ist nicht, weil ich unsterblich bin. Der Grund dafür ist, dass, wenn du dir Sorgen um die Nachfolgeplanung machst, wenn du dir Sorgen machst, all diese Angst vor der Nachfolgeplanung, was solltest du dann tun? Dann brichst du alles wieder herunter. Das Wichtigste, was du heute tun solltest, wenn dir die Zukunft deines Unternehmens nach dir am Herzen liegt, ist, Wissen, Informationen, Einblicke, Fähigkeiten, Erfahrungen so oft und kontinuierlich wie möglich weiterzugeben, was der Grund ist, warum ich ständig vor meinem Team über alles nachdenke. Jede einzelne Besprechung ist eine Besprechung über Nachdenken. Jeder Moment, den ich innerhalb oder außerhalb eines Unternehmens verbringe, dient dazu, Wissen so schnell wie möglich an die Leute weiterzugeben. Nichts, was ich lerne, bleibt länger als, weißt du, einen Bruchteil einer Sekunde auf meinem Schreibtisch. Ich gebe diese Informationen, dieses Wissen- oh mein Gott, das ist cool. Noch bevor ich es selbst vollständig gelernt habe, zeige ich es schon jemand anderem. „Mach das. Das ist so cool. Du wirst das lernen wollen.“ Und so gebe ich ständig Wissen weiter, ermächtige Leute, erhöhe die Fähigkeiten aller um mich herum, so dass das Ergebnis, das ich, das ich mir wünsche, das ich hoffe, ist, dass ich im Dienst sterbe, weißt du? Und, und hoffentlich sterbe ich sofort im Dienst, weißt du? Und es gibt keine langen Leiden, weißt du. Es ist, äh-
- Nun, aus der Sicht eines Fans, angesichts deines, deines extremen, ähm, deines enormen positiven Einflusses auf die Zivilisation, hoffe ich natürlich, dass du weitermachst. Aber es macht auch einfach Spaß zu sehen, was NVIDIA tut, weißt du. Es ist einfach die Innovationsrate. Und ich bin ein riesiger Fan von Ingenieurwesen. Es gibt so viel unglaubliches Ingenieurwesen, das NVIDIA kontinuierlich leistet. Es macht einfach Spaß zuzusehen. Es ist eine Feier der Menschheit, eine Feier großartiger Baumeister, eine Feier großartiger Ingenieurkunst. Also repräsentiert es etwas Besonderes. Ich hoffe also, dass du und NVIDIA weitermacht. Was gibt dir Hoffnung für das Ganze, das wir hier machen, für die Menschheit, für die Zukunft der Menschheit? Wenn du hinausschaust, wenn du viel über die Zukunft nachdenkst, wenn du 10, 20, 50, 100 Jahre von jetzt an hinausschaust, was gibt dir Hoffnung?
- Ich hatte schon immer großes Vertrauen in die Freundlichkeit, äh, die Großzügigkeit, äh... das Mitgefühl, die menschliche Kapazität. Ich war mir dessen schon immer extrem sicher. Manchmal mehr, als ich es sein sollte. Und, und ich werde ausgenutzt, aber es, es lässt mich nie davon ab. Ich beginne immer damit, dass die Leute Gutes tun wollen. Die Leute wollen, äh, anderen helfen. Und, weitgehend, beweise ich mich als richtig. Ständig beweise ich mich als richtig. Und, und oft übertrifft es meine Erwartungen. Und, und so habe ich volles Vertrauen in die menschliche Kapazität. Ich denke, das, die Dinge, die mir unglaubliche Hoffnung geben, sind das, was ich sehe, wenn ich extrapoliere, wenn ich, was ich jetzt sehe, möglich ist, und wenn ich extrapoliere, basierend auf den Dingen, die wir tun, was sehr wahrscheinlich passieren wird. Und, und dass es so viele Dinge gibt, die wir lösen wollen. Es gibt so viele Probleme, die wir lösen wollen. Es gibt so viele Dinge, die wir bauen wollen. Es gibt so viele gute Dinge, die wir tun wollen, die jetzt in unserer Reichweite sind, und in meiner, meiner Lebenszeit. Du kannst einfach nicht anders, als romantisch darüber zu sein. Verstehst du, was ich meine?
- Was für eine aufregende Zeit, am Leben zu sein. Wirklich-
- Wie kann-
- ... wirklich so.
- Wie kann man nicht romantisch darüber sein, darüber? Die Tatsache, dass es, dass es vernünftig ist, das Ende von Krankheiten zu erwarten. Es ist vernünftig zu erwarten. Es ist vernünftig zu erwarten, dass die Umweltverschmutzung drastisch reduziert wird. Es ist vernünftig zu erwarten, dass das Reisen mit Lichtgeschwindigkeit tatsächlich in unserer Zukunft liegt. Und dann, weißt du, nicht, nicht für lange Strecken, aber für kurze Strecken. Weißt du, und Leute fragen mich, wie. Nun, erstens, sehr bald werde ich einen Humanoiden auf ein Raumschiff setzen, und es wird, weißt du, mein Humanoide sein, und, und wir werden ihn so bald wie möglich, weißt du, ins All schicken, und er wird sich während des Fluges weiter verbessern und erweitern. Und dann, wenn die Zeit gekommen ist, ist all mein Bewusstsein bereits, weißt du, so viel von meinem Leben wurde ins Internet hochgeladen. Nimm all meine Posteingänge, nimm alles, was ich getan habe, alles, was ich gesagt habe. Weißt du, es wurde gesammelt und zu meiner KI. Und ich bin einfach, weißt du, wenn die Zeit kommt, weißt du, werden wir das einfach mit Lichtgeschwindigkeit senden, meinen Roboter einholen.
- Oh, das ist brillant. Ich meine, aber für mich ist das eher anwendungsbezogen. Aber auch, für mich, die Neugier... Perspektive, ich, all diese Geheimnisse. Es gibt so viele- ... faszinierende wissenschaftliche Fragen dort.
- Das Verständnis der biologischen Maschine ist zum Greifen nah. Es ist, es sind keine 10 Jahre. Es sind wahrscheinlich fünf Jahre.
- Und dann deine biologische Maschine, der menschliche Geist und das Knacken der Physik, der theoretischen Physik, offen. Es ist so aufregend.
- Das Bewusstsein zu erklären, das wäre großartig.
- Und es ist alles in unserer Reichweite. Jensen, vielen Dank für alles, was du in den letzten Jahren getan hast. Vielen Dank für alles, was du für die Welt tust. Vielen Dank, dass du bist, wer du bist. Ich kann dir sagen, du bist ein großartiger Mensch, und ich wünsche dir unglaublichen Erfolg in diesem Jahr. Ich kann es kaum erwarten. Als Fan kann ich es kaum erwarten zu sehen, was du als Nächstes tun wirst, und hoffentlich sehe ich dich in Taiwan und vielen Dank, dass du heute gesprochen hast.
- Danke, Lex. Ich hatte eine tolle Zeit. Und auch, wenn ich noch etwas sagen darf.
- Ja.
- Und danke für all die Interviews, die du gibst, die Tiefe, den Respekt, mit dem du vorgehst, und die Recherche, die du betreibst, um, weißt du, für uns alle, die erstaunlichen Leute, die du im Laufe der Jahre interviewt hast. Ich habe sie genossen, ich habe sie immens genossen. Und als Innovator, dieses Langform-Format geschaffen zu haben, unglaublich, und doch, weißt du, es ist einfach fesselnd. Also, danke für alles, was du tust.
- Das bedeutet die Welt. Danke, Jensen.
- Danke, Lex.
- Vielen Dank fürs Zuhören dieser Konversation mit Jensen Huang. Um diesen Podcast zu unterstützen, schaut euch bitte unsere Sponsoren in der Beschreibung an, wo ihr auch Links findet, um mich zu kontaktieren, Fragen zu stellen, Feedback zu geben und so weiter. Und nun lasse ich euch mit einigen Worten von Alan Kay zurück. „Der beste Weg, die Zukunft vorherzusagen, ist, sie zu erfinden.“ Vielen Dank fürs Zuhören und wir hoffen, euch beim nächsten Mal wiederzusehen.