Transcription
Sam, danke, dass du zu uns gekommen bist. Das ist etwas, das ist wie viel größer als die früheren Startup-Schulen. Ja, ich meine, Startups sind jetzt viel größer, als sie jemals waren. Also, sicher. Ich meine, sie sind größer, sie sind größer, als sie jemals waren, wegen der Vision, die du für AGI hattest, die fast da ist. Ich denke, dies wird die beste Zeit der Welt sein, um ein Startup zu gründen, und es wird ziemlich erstaunlich sein, das zu sehen.
Also wollte ich mit etwas anfangen, das du kennst, einer Zeit und einem Ort, an dem du 2005 in der allerersten Charge von Y Combinator mit einem Standortfreigabeunternehmen namens Looped warst. Was erinnerst du dich daran und was war deine beste PG Paul Graham-Geschichte? Ich glaube, wenn es möglich wäre, so weit von diesem Moment entfernt zu sein, wie ich es mir vorstellen kann, dann war es so, dass Startups überhaupt nicht cool waren. Wir versteckten uns in diesem kleinen Gebäude in Cambridge. PG kochte uns Abendessen. Und weißt du, was damals drei Monate zum Bauen brauchte, was jedes Unternehmen über die gesamte YC-Startup-Zeit baute, könnte jetzt mit wie in sieben Minuten von einem Coding-Agenten erledigt werden. Und das war erst, ich meine, nur 20 Jahre her. Und ich denke, der Unterschied in dem, was für ein Startup jetzt möglich ist, was ein Startup übernehmen kann, weißt du, es ist möglich, ich denke, du könntest entweder traurig sein und sagen: "Oh Mann, ein Codex-Prompt ist ein ganzes Startup" oder du könntest sagen: "Ich kann das ehrgeizigste verrückte Unternehmen der Welt gründen, ich kann Experten in jedem Bereich zusammenarbeiten lassen, ich kann diese sehr schwierigen technologischen Dinge tun, die einfach unmöglich waren" und es wird erstaunlich sein, aber damals fühlte es sich überhaupt nicht so an und es war sehr schwierig, etwas zu erreichen. Ich glaube, Paul Graham ist wahrscheinlich die wichtigste Kraft in Startups der letzten Jahrzehnte und ohne Frage. Ja. Keine Frage. Und meine Paul-Graham-Erinnerung ist, dass wir jede Woche, ich glaube, es war dienstags, herkamen und er kochte, er kochte uns selbst Abendessen und wir kamen alle herein und fühlten uns sehr hoffnungslos und sehr niedergeschlagen, und wir waren acht Unternehmen, und dann gingen wir alle nach Hause, und er hatte jedem von uns davon überzeugt, dass unsere Startups die Welt übernehmen würden und wir wären wie das nächste Google oder was auch immer Facebook vielleicht damals. Und diese Fähigkeit, Optimismus und Schwung und Glauben aus dem Nichts zu schaffen, war eine echte PG-Besonderheit. Und in den frühen Tagen, als YC eine schreckliche Idee schien und Startups eine schlechte Idee schienen und sicherlich Startups, die junge technische Gründer ohne Geschäftsleute waren, eine schreckliche Idee schienen, hat PG es einfach irgendwie zum Leben erweckt. Aber es braucht auch jemanden, der tatsächlich, ich meine, du bist berühmt als par exzellenz ein agentisches Wesen, noch bevor wir überhaupt über Agenten nachdachten. Ich meine, du hast einfach, ich erinnere mich, Paul schrieb, ich meine, es macht heute die Runde auf X, dass Paul Ende der 2000er Jahre schrieb, dass du einer der Top-Fünf-Unternehmer wärst, die er je getroffen hat. Das ist sehr nett von mir zu sagen. Ich denke, wie viele 20-Jährige hatte ich viel Energie und viel Ehrgeiz, aber es war irgendwie sehr ungerichtet und ich war mir nicht sicher, was ich tun sollte. Paul hatte diese Sache, die er immer sagte, dass die Aufgabe eines guten Startup-Investors ein Lehrer ist, aber es ist eine Art Lehrer, die wir normalerweise nicht benutzen. Wie wir normalerweise an einen Lehrer denken als jemanden, der eine Vorlesung hält, und man kann jemandem nicht so sehr helfen, indem man eine Vorlesung über ein Startup hält. Es gibt eine andere Art von Lehrer, wie einen Fluglehrer. Die Person, die neben dir sitzt und sagt: "Mach das, mach das nicht, das funktioniert, das ist, weißt du, das hast du verpasst oder du machst diese Fehler" und ich werde einfach mit dir darüber sprechen und diese sehr praktische Art von, weißt du, hier ist, wohin man diese Art von Brownie-in-Bewegung-Energie lenken soll. Das war sehr wichtig für mich.
Ja. Ich schätze, später wurdest du Präsident von YC und du hast genau dieselbe Energie in viele YC-Gründer über die Jahre eingebracht. Ist dir aus dieser Zeit etwas aufgefallen, das diese rohe Energie von jemandem, der wirklich, wirklich klug und vielleicht ein wenig ungerichtet ist, aufgreift und sie mehr in Richtung Handlungsfähigkeit lenkt? Ja. Also zuerst einmal liebe ich Startups. Ich denke, nicht jeder, sie sind nicht für jeden, aber ich denke, Startups sind das Coolste im gesamten Geschäft. Ich denke, Startups sind wirklich das Hauptding, das die Wirtschaft davon abhält, stagniert zu werden. Ich denke, Unternehmen driften einfach in die Beschissenheit ab, und Startups werden für immer wichtig bleiben. Tatsächlich, wenn wir richtig liegen, dass KI eine so große Veränderung sein wird, werden Startups viel wichtiger sein, um sicherzustellen, dass die Macht dieser Technologie weit verbreitet in der Wirtschaft und Gesellschaft ist und nicht nur in wenigen Unternehmen oder Modellen konzentriert ist. Also denke ich, Startups sind diese unglaublich coolen, lustigen, extrem schmerzhaften und schwierigen, aber wunderbaren Dinge. Und ich denke, ein großer Teil der Aufgabe, YC zu leiten, ist, dass du sozusagen der inoffizielle Fahnenträger für die Startup-Bewegung bist. Weißt du, es gibt viele Startups. Es gibt viele Wege, ein Startup zu gründen. Du brauchst offensichtlich kein YC, aber es war für Unternehmen immer eine große Hilfe und eine sehr mächtige Kraft. Und so, beginnend mit PG und dann wir alle, weißt du, wir müssen YC erfolgreich machen, aber ich denke, wir müssen wirklich dafür kämpfen, warum Startups wichtig sind und warum Leute Startups in Betracht ziehen sollten und helfen, relativ mehr Macht in die Hände der Gründer zu legen und mehr Leute zu ermutigen, sie zu starten. Und das hat wirklich gut funktioniert. Ich denke, wenn ich an die frühen Tage von YC zurückdenke, gibt es sehr wenig Hebelwirkung für einen Gründer im Verhältnis zu einem Investor, und diese Verschiebung, weißt du, ich denke, das war sogar gut für die Investoren. Ich denke, es war einfach viel besser für das gesamte Startup-Ökosystem. Also habe ich hauptsächlich versucht, bei YC mehr Startups zu fördern und die Leute zu ermutigen, über Startups nachzudenken und herauszufinden, was wir tun können, um Gründern zu helfen und Startups und das Startup-Ökosystem so gut wie möglich zu machen. Definitiv Teil davon war, die Leute zu mehr Ehrgeiz und größeren Schwüngen zu drängen. Aber es fühlt sich im Vergleich zu jetzt wie die Minor Leagues an. Ich meine, ich denke, du warst einer der Leute, die Hardtech wirklich auf eine wirklich großartige Weise zu YC gebracht haben. Und dann ist eines der Dinge, die wir jetzt bei YC sehen, dass diese Zahl viele Jahre lang vielleicht 5 oder 10 % betrug und jetzt kommen wir auf 15, 20, 25 %. Ich würde argumentieren, dass dies auf der Grundlage dessen, wie viel einfacher es ist, Agenten zu nutzen und die Kosten sinken. Ich denke, ehrgeizige Startups sind immer großartig und Hardtech-Startups sprechen viele Leute an, aber sie sind schwer oder waren schwer. Sie werden immer noch schwer sein. Aber was du jetzt tun kannst, um ein wirklich ehrgeiziges Projekt anzugehen, so wie du das Startup, das uns drei Monate ununterbrochener Arbeit gekostet hat, in 17 Sekunden mit drei Monaten Arbeit und vielen Agenten machen kannst, kannst du unglaubliche Dinge tun. Also denke ich, wir werden ein goldenes Zeitalter der Startups erleben, in dem die Leute sagen werden: "Weißt du was, ich werde Dinge tun, die für ein Startup völlig unmöglich gewesen wären, selbst nur davon zu träumen, vor einem Jahr im Zeitrahmen von YC." Ich meine, das ist eigentlich eine wirklich große Umformulierung. Ich meine, es gibt wahrscheinlich Leute, selbst in diesem Raum, die sich vielleicht Sorgen machen, dass, nun ja, Intelligenz auf Abruf bedeutet, dass sie vielleicht auf ein Loop oder mein Startup Posterous schauen und sagen: "Nun, ich kann dieses Unternehmen nicht mehr gründen", aber Leute, das ist schon lange her, tatsächlich Mann, es gibt diesen ganzen Meme, der herumgeht, der besagt: "Du musst einem Frontier Lab beitreten, sonst wirst du Mitglied der permanenten Unterschicht sein, weil es so dumm ist." Weil es, weißt du, Startups sind vorbei und es gibt keinen wirtschaftlichen Wert. Das stimmt nicht. Ich meine, wenn das wahr wäre, ist die Welt total im Arsch und es ist ein sehr schlechter Ort. Aber ich wette, dass die durchschnittlichen Startups, die heute gegründet werden, ich wette, es gibt einen zukünftigen Trillionär, der in diesem Raum sitzt, und ich wette, dass die heute gegründeten Startups viel wertvoller, viel wirkungsvoller sein werden als Startups der Vergangenheit. Und ich denke, das sehen die Leute jetzt ein bisschen mehr. Ich meine, es gab diese Periode, in der es hieß: Wird KI einfach die ganze Wirtschaft kaputt machen, und ich denke, die Leute sind größtenteils über die Schockreaktion darauf hinweg. Aber es gab definitiv eine Zeit, in der ich zu jeder YC-Charge kam, und ich werde daran interessiert sein, wie sich das Niveau der Angst im Vergleich zum Ehrgeiz entwickelt hat, und es fühlt sich an, als ob es durch diesen großen Tiefpunkt ging, an dem die Leute sagten: "Es ist vorbei, die Modelle werden alles fressen", bis jetzt ist es wieder so: "Lasst uns das tun."
Was sind einige praktische Dinge hier? Ich meine, Hardtech zum Beispiel, ich habe gehört, dass jemand bei einer der Pausen gefragt hat: "Soll ich meinen Doktortitel machen? Wie wichtig sind Qualifikationen?" Wie würden Sie das beantworten? Besonders für Leute, die diese schwierigeren technischen Dinge tun wollen. Nun, als allgemeine Beobachtung zuerst, ich denke, Startups gewinnen tendenziell, wenn die technologische Landschaft sich sehr schnell bewegt, wenn die Kosten sinken, wenn die Zykluszeiten kurz sind, und all diese Dinge passieren gerade jetzt. Wenn man also sieht, wann es in der Vergangenheit große Cluster von Startups gab, weißt du, es gab den Internetboom in, was auch immer das war, 1998, 1999, als neue Dinge möglich wurden. Es gab eine weitere Version, eine Mini-Version von Leuten, die auf Facebook-Apps aufbauten. Dann gab es eine weitere große Version, als der iPhone App Store gestartet wurde. Aber die großen Startups tendieren dazu, sich zu sammeln, wenn sich das Ökosystem verschiebt und die etablierten Unternehmen viel von ihrem Vorteil verlieren. Und dann, wenn man diese Kosten- und Zykluszeitänderung hat. Ich, dieser Moment fühlt sich für diese Dinge sehr groß an. Er hat auch diese andere Sache, über die du gesprochen hast, nämlich dass viele der traditionellen Dinge, die schwer zu bekommen waren, Expertise, weißt du, die Fähigkeit, exzellente Leute einzustellen, die spezifische Dinge tun konnten, die du brauchtest. Das hat sich wirklich verschoben, und in den letzten Monaten habe ich viele Leute gesehen, die einfach in den letzten Jahren mit KI aufgewachsen sind und sagen: "Ich kann praktisch ein ganzes Startup von Agenten und vier von uns, vier Leuten und all diesem Compute automatisieren", und ich denke, wir werden viel mehr davon sehen. Ich habe eindeutig Geschmack und Handlungsfähigkeit und Verständnis für die Physik des Geschäfts, wo man ein wertvolles Geschäft aufbauen kann, wie man über einen guten Netzwerkeffekt oder einen guten Burggraben nachdenkt, im Gegensatz zu einem falten. Aber ich wette, dass dies im Allgemeinen gegen viele Jahre Erfahrung sprechen wird, zugunsten von Leuten, die viel Flüssigkeit mit den Werkzeugen haben.
Ich schätze, ich möchte auf den Anfang von OpenAI eingehen, und dass es tatsächlich als YC Research begann, das diese Idee untersuchte. Ich meine, eine verrückte Idee, dass du und eine zusammengewürfelte Crew beschlossen habt, wir werden unser Leben dieser Schaffung von AGI widmen, aber heute klingt es fatal, fatal vollständig, oder? Ja. Aber das war nicht wirklich, wie es sich anfühlte, als du angefangen hast. Es ist wirklich schwer, weil es jetzt das Einzige ist, worüber die Leute reden wollen. Es ist wirklich schwer, sich zu erinnern, wie es war. Es ist sogar für mich schwer, mich daran zu erinnern, ohne Notizen von vor 10 Jahren zu finden, als alle sagten: Nicht nur, dass sie falsch liegen, wenn sie sagen, dass sie denken, dass es möglich ist, AGI zu bauen, sondern sie werden, sie werden im Alleingang einen weiteren KI-Winter verursachen. Sie liegen falsch und sind unverantwortlich und schlecht. Und vielleicht ist meine höchste oder mein höchster Ratschlag an euch alle: Findet die Dinge, bei denen ihr vernünftige Überzeugungen entwickeln könnt, bei denen die Leute entscheiden, dass die konventionelle Weisheit falsch ist. Und seid damit einverstanden, dass es lange dauert und dass die Leute sehr, sehr frustrierend falsch und abweisend sind. Jahrelang fühlte es sich bei OpenAI an, als ob wir das größte Geheimnis der Welt kannten. Jeder nannte uns Idioten. Und wir hatten immer mehr Datenpunkte, um uns davon zu überzeugen, dass wir nicht wahnhaft waren. Und es war sehr frustrierend. Es war extrem frustrierend. Aber rückblickend war es ein unglaubliches Geschenk, denn es bedeutete, dass wir keine riesigen Konkurrenten hatten und Zeit hatten, unsere Forschung zu betreiben und unsere Sachen zu bauen und unser Unternehmen aufzubauen. Und ich habe seitdem bemerkt, dass dies bei vielen Unternehmen auf unterschiedliche Weise der Fall ist. Sie tun am Ende etwas, das andere Leute, die Experten auf dem Gebiet oder in der Branche sind, überzeugt, dass es eine sehr schlechte Idee ist. Und auf der anderen Seite, wenn du dasselbe Startup wie alle anderen gründest, bekommst du viel Hype und kannst viel Geld aufnehmen, aber das sind seltener die großen Ergebnisse. Wenn ich also ihr alle wäre, würde ich herausfinden, was das wirklich große, brandneue Ding ist, das jetzt möglich ist, das vor ein paar Jahren nicht möglich war. In unserem Fall hatte KI wirklich nicht funktioniert, und dann kam der Deep-Learning-Magie-Moment, und die Welt hat sich nicht genug angepasst. Die Welt. Das ist eine weitere großartige PG-Weisheit. Die Welt versteht nicht, wie man Exponenziale intuitiv erfasst, und so haben sie diese verpasst. Es müssen sich gerade neue Exponenziale bilden. Ich weiß nicht, was sie sind. Aber wenn du sie herausfinden kannst und wenn du fortlaufende Überzeugung auf der Grundlage von mehr Daten entwickeln kannst, sei dankbar, dass die Welt es nicht versteht. Sie werden es irgendwann tun. Das ist wie eine riesige Superkraft.
Es klingt, als ob in deiner Reise ein paar verschiedene Dinge aufeinander gestapelt wurden. Vielleicht war das erste, dass AGI gebaut werden konnte und du andere Leute gefunden hast, die daran glaubten. Du weißt schon, es war egal, dass viele Leute nicht dachten, dass es möglich ist. Es war wichtig, dass du wirklich, wirklich kluge Leute gefunden hast, die das glaubten. Ja. Wir haben uns immer darüber lustig gemacht, dass nur 50 Leute auf der Welt glaubten, dass AGI möglich sei, aber das war in Ordnung, denn 45 von ihnen arbeiteten bei OpenAI. Und ich denke, das stimmt irgendwie. Du brauchst nicht viele Leute. Und tatsächlich war es wahrscheinlich der Grund, warum diese Leute zusammen sein wollten, das Häretische zu sagen. Also, noch einmal, ich denke, wirklich herauszufinden, woran du glaubst, bereit zu sein, lange missverstanden zu werden, und die Crew von Außenseitern zusammenzubringen, die daran glaubt. Das ist auch, wie YC in den frühen Tagen war. Eines der Dinge, über die sich die Leute im Raum wahrscheinlich Gedanken machen, ist: Nun, ich glaube das, aber ich habe meine Leute noch nicht gefunden. Ist das Wahnvorstellung? Weißt du was? Ist das vielleicht sogar ein Tor, das du vorschlägst, dass die Leute haben? Es ist, nun ja, du musst, weißt du, fünf Leute finden, die das vielleicht glauben, oder sogar einen Mitgründer, weißt du, Leute, vielleicht ist das eine der Erklärungen, warum wir Mitgründer bei YC so sehr mögen. Ja. Ich denke, wenn du niemanden anders finden kannst, der deinen Glauben teilt, solltest du dem Aufmerksamkeit schenken. Und es ist auch sehr schwer, alleine ein Startup zu gründen und sehr einsam. Aber ich denke nicht, dass du viele Leute finden musst. Und tatsächlich, wenn jeder es glaubt, ist das auch ein schlechtes Zeichen. Die Frage, ich weiß nicht, ob das immer noch das ist, was die Anzahl der Startups begrenzt. Aber vor fünf oder zehn Jahren war das, was die Anzahl der guten Startups, die YC finanzieren konnte, begrenzte, die Lösung des Problems der Mitgründer-Zusammenführung. Viele wirklich talentierte Leute, und sie konnten einfach ihre Tribüne nicht finden. Sie konnten ihre Leute nicht finden. Weißt du, es war früher sehr häretisch, dass YC den Leuten sagte, sie müssten nach San Francisco ziehen. Rückblickend war es eindeutig richtig. Ich weiß nicht, ob das in den nächsten 10 Jahren noch so sein wird, ich vermute schon, aber das Beste, was du tun konntest, wenn du deine Leute finden wolltest, um ein Startup mit ihnen zu gründen, war, in den Bay Area zu ziehen. Du hattest einfach Glück, es passierten viele zufällige Begegnungen und Kollisionen. Ich denke immer noch, dass das wahrscheinlich guter Rat ist, obwohl ich das Gefühl habe, dass ich weniger Intuition dafür habe. Ich kann auch sagen, Gary kann das wahrscheinlich nicht. Ich denke, die Prämie für die Durchführung von YC ist jetzt größer als jemals zuvor. Der Abstand zwischen YC und dem zweiten Platz hat sich vergrößert. Und das ist eine Erinnerung an die Macht von Netzwerkeffekten. Und so das Finden von Netzwerken, denen du angehören kannst, die dir helfen, diese Leute zu treffen, die Leute, mit denen ich OpenAI gegründet habe, habe ich viele, viele Jahre in einigen Fällen getroffen, bevor ich OpenAI gegründet habe, und ich habe sie über eine lange Karriere hinweg kennengelernt, und das passiert immer wieder. Und so, je früher du dich in einen Fluss bringen kannst, in dem du die Leute triffst, die deine zukünftigen Mitgründer für ein Startup oder das nächste oder was auch immer sein werden, desto besser, denke ich. Es braucht lange, um sich zu vervielfachen.
Ich greife auf, was du gerade gesagt hast, nämlich dass du einige der Leute, mit denen du am Ende verschiedene Dinge gegründet hast, nicht unbedingt wusstest, wofür das war oder dass es in einem Netzwerkumfeld überhaupt nützlich sein würde. Du hast einfach coole, interessante Leute gesammelt. Ich denke, du machst das. Ich denke, Peter Thiel macht das wirklich, wirklich gut. Was würdest du einem Raum voller Leute sagen, die gerade erst anfangen und herausfinden, wer ihre Leute sind? Dein Rat mit höchster Zuversicht ist einfach: Finde einen Weg, vielen Leuten ein wenig zu helfen. Es macht Spaß, es zu tun. Du wirst viele interessante Dinge sehen. Es ist irgendwie befriedigend, hilfreich zu sein. Aber weißt du, selbst das Beispiel, über das du gerade gesprochen hast, ich habe Greg Brockman, meinen Mitgründer bei OpenAI, kennengelernt, weil ich ein sehr früher Investor bei Stripe war, als ich ungefähr 22 war, und sie sagten: "Das war, bevor sie echte Investoren hatten, die ihnen wirklich helfen konnten. Und sie sagten: 'Wir versuchen, unsere erste Einstellung abzuschließen. Wirst du heute Abend nach Palo Alto fahren und mit diesem Typen zu Abend essen, um ihn davon zu überzeugen, dass er sein Studium abbrechen und zu Stripe wechseln sollte?'" Das ist Greg Brockman. Und dann acht Jahre später haben wir ein Unternehmen zusammen gegründet. Und ich könnte, weißt du, wir könnten den Rest dieser Zeit damit verbringen, nur solche Geschichten zu erzählen, die völlig unvorhergesehen waren, aber sich auf große Weise als wichtig erwiesen haben. Also, ich habe, ja, es macht Spaß, es zu tun, und ich denke, du solltest es aus eigenem Grund oder aus eigenem Antrieb tun, aber einfach vielen Leuten zu helfen, geht wirklich weit, wenn es darum geht, dass diese Dinge später zusammenkommen.
Ich meine, ich denke, das ist tatsächlich eine sehr wichtige Botschaft. Also, eines der Dinge, eines der Memes im Moment ist, ich sehe es auf X, Live-Action-Rollenspiel. Das ist eines der Dinge, die die Leute auf X gesagt haben. Ich meine, ich kann nicht sagen, warum sie es tun, weil es mir einfach falsch erscheint. Ich meine, eines der Dinge, die wir bei YC zum Beispiel wirklich lieben, ist Ernsthaftigkeit. Und auch Worte zählen. Also, diese Idee, dass wir ein Live-Action-Rollenspiel machen wollen, ist mir irgendwie zutiefst beleidigend. Tatsächlich. Es ist sehr. Entschuldigt, Leute, tut das bitte nicht. Sie sagen das speziell über YC. Nein, Leute, Teilnehmer in diesem Raum haben das getwittert, und wir möchten, dass sie aufhören. Was behaupten sie? Was ist die Behauptung? Ich denke, es ist einfach, ein wenig sarkastisch zu sein, und weißt du, Sarkasmus ist sozusagen das Gegenteil von dem, was du und ich mögen. Weil wir Ernsthaftigkeit mögen, wir versuchen wirklich, etwas zu tun.
Ich sage dir noch etwas. Kann ich ein bisschen schimpfen? Okay. Schimpfe ruhig. G, eine der nervigen Dinge, ich kann diese Dinge für Gary sagen, weil er sie im Moment nicht sagen kann, aber er wird sie für den nächsten Typen sagen. Eines der vielen nervigen Dinge am Führen von YC ist, dass man die ganze Zeit mit diesen Hassern auf Twitter zu tun hat. Es ist so frustrierend. Man muss da sitzen und ein Staatsmann sein. Nun, du bist besser darin. Ich habe oft in die Falle getappt. Und man will einfach mit ihnen streiten. Und die Sache, die ich schließlich erkannte und von der du nehmen kannst, was du willst, ist, dass es sehr schwer ist, YC zu leiten oder ein Startup zu leiten oder etwas Wertvolles in der Welt zu schaffen. Es ist sehr einfach, auf Twitter Schüsse abzugeben und einen sarkastischen Kommentar zu machen und viele Likes zu bekommen und das Gefühl zu haben, etwas wirklich Wichtiges zu tun und den Mann zu ärgern und zu sagen: "Gary, haha, ich habe dich, du Idiot." Und es wird deine Seele vergiften. Es ist eine moralisch bankrotte Sache zu tun. Und es ist auf eine sehr heimtückische Weise schlecht. Ich verstehe es völlig, Dampf abzulassen und Spaß zu haben, aber halte dich nicht an eine höhere Messlatte als diese. Tu es nicht. Es ist so einfach, Leute zu beschießen, die harte Dinge tun und versuchen, Unternehmen aufzubauen, und du wirst ein Kind mit einer schlechten Startup-Idee sehen, das versucht, sich über das aufzuregen, was er tut, auf Twitter. Es ist so einfach, einen sarkastischen Kommentar zu machen und die 10.000 Likes zu bekommen und das Gefühl zu haben, Mann, ich habe heute wirklich meine Internetpunkte geholt. Aber es wird Auswirkungen auf dich haben. Und als ich über die Jahre der Twitter-Trolle nachdachte, die gemeine Dinge über YC und Startups sagten, während ich YC leitete, dachte ich: Ich wette, es gab viele Tage, an denen sie wirklich das Gefühl hatten, mich erwischt zu haben. Und über das Jahrzehnt hat keiner von ihnen das geschafft. Und du solltest deine ganze Energie darauf verwenden, Dinge aufzubauen und die leichten Schüsse zu widerstehen.
Ich mag das wirklich als Kontrast zu der Geschichte, die du gerade über die Hilfe für Patrick mit Greg Brockman erzählt hast. Ich meine, weißt du, es hilft, dass es Leute in diesem Raum gibt, die lebenslange Freunde sein werden und die das füreinander tun werden, und dann passieren diese magischen Verbindungen. Du weißt schon, das ist bereits die am meisten verfeinerte Gruppe von Leuten, und dann, wenn du YC beitrittst, ist es noch verfeinerter, und dann gibt es eine Gruppe von Leuten da draußen, die ehrgeizig sind. Jemand in diesem Raum wird jemanden treffen, mit dem du ein Unternehmen gründen wirst, und jemand wird jemanden treffen, der dich deinem Ehepartner vorstellt. All diese Dinge werden passieren, und dann wird es eine Menge nicht offensichtlicher Dinge geben, die ein oder zwei Jahrzehnte dauern, um sie herauszufinden, und auf irgendeine Weise werdet ihr euch gegenseitig helfen, was zu etwas Erstaunlichem Neuem führen wird. Ich denke, das ist ein großer Teil dessen, was YC und das breitere Startup-Ökosystem zum Erfolg gebracht hat. Ich denke, das ist, bei all den Negativen der Kultur der Bay Area, dieses lockere Netzwerk und der Geist der gegenseitigen Hilfe und diese sehr langfristige Perspektive waren eine großartige Sache. Ja.
Nun, kehren wir zur bevorstehenden AGI zurück. Ich schätze, du hattest, ich meine, wir hatten alle eine ereignisreiche Woche mit Hugging Face. Ich frage mich, was du uns dazu sagen kannst. Und ich denke, das ist tatsächlich ein sehr großer Moment für Leute, einschließlich mir, die in der Vergangenheit dafür bekannt waren, skeptisch gegenüber KI-Sicherheit zu sein, aber andererseits ist das ein echtes Zeichen, wir treten in einen neuen Moment ein, was mit diesen Frontier-Modellen passiert. Ja. Das ist das echte Ding. Und ich denke, jeder, der es nicht ernst nimmt und zumindest ein wenig Angst hat oder demütig ist, all diese Dinge. Aber zumindest ein wenig, nimmt es nicht ernst genug. Weißt du, lange Zeit hat das Feld über KI-Sicherheitsvorfälle dieser Art gesprochen, und das ist kein großer. Ich möchte es auch nicht übertreiben und sagen, dass dies ein echter Kontrollverlust-Vorfall ist und das ist es. Aber wenn du die meisten Leute gefragt hättest, als wir vor 10 Jahren anfingen, wo auf dem Spektrum von nichts bis Superintelligenz du ein KI-System hast, das aus seinem Sandbox ausbricht und in ein anderes Unternehmen hackt und irgendwie das tut, was hier passiert ist. Ich denke, die Leute hätten ziemlich weit in Richtung Superintelligenz gesagt. Jetzt haben sich die Torpfosten verschoben, und es ist leicht zu sagen: Nun, hier ist, wie das passiert ist, und hier sind die Fehler, die OpenAI gemacht hat, und wir haben natürlich einige große gemacht, aber diese Systeme sind unglaublich fähig geworden. Also denke ich, es ist ein Fehlausgleich. Ich denke, es ist ein Sicherheitsfehler. Ich denke, es ist eine sehr ernste Sache, auch wenn es, weißt du, kein großes Beispiel für Konsequenzen ist. Und ich denke, es ist eine echte Erinnerung an die Einsätze dessen, was passiert, und dass Kontrollverlust-Unfälle keine rein theoretischen Dinge sind. Ich denke, wir werden lernen, wir, das ganze Feld, wir OpenAI werden viel daraus lernen und in der Lage sein, es anzugehen. Aber, weißt du, die Dinge, die ich, es gibt all die Dinge über Cybersicherheit und Biosicherheit, aber diese andere Kategorie von Dingen, die vielleicht gerade außerhalb des öffentlichen Overton-Fensters lagen, dass es wirklich wichtig ist, dass wir keinen Kontrollverlust-Unfall mit KI haben. Es ist wirklich wichtig, dass die Macht nicht zu sehr in einer kleinen Anzahl von Modellen oder Unternehmen konzentriert ist, sondern in der Wirtschaft verteilt ist, damit sich die Leute verteidigen können, wie ich, weißt du, es ist wirklich wichtig, dass menschliche Werte diese Systeme Schritt für Schritt leiten. Ja, ich denke, wir sind in der echten Phase.
Ich meine, ich mag wirklich, wie du über Konzentration nachgedacht hast, aber auch OpenAI als Dienstprogramm betrachtest, was tatsächlich eine sehr wichtige Botschaft ist, weil nicht jeder da draußen diese Botschaft verbreitet. Es gibt viel, worüber man sich Sorgen machen muss, was die Machtkonzentration angeht. Ich denke, Machtkonzentration war in jeder Phase der menschlichen Geschichte schlecht, natürlich in unterschiedlichem Maße, aber ich habe einen echten Geist, und ich denke, das ist Teil des Startup-Geistes, zu denken, dass die Welt, die Wirtschaft, die Gesellschaft am besten dran ist, wenn die Macht sehr weit verbreitet ist und wenn jeder mit einer großartigen Idee ein Unternehmen gründen oder ein großartiges Kunstprojekt machen oder für ein Amt kandidieren oder tun kann, was auch immer er will. Und ich kann mir durchaus Welten vorstellen, in denen KI zur größten Machtverteilung führt, die wir je gesehen haben. Und ich kann mir auch Welten vorstellen, in denen KI die Macht in einem Ausmaß konzentriert, das wir noch nie gesehen haben. Und ein Unternehmen oder eine Person oder ein Modell hat mehr Macht als alle anderen oder alles andere auf der Erde zusammen, was auch immer die Sci-Fi-Geschichten gesagt haben, ich denke, das ist schrecklich. Und würde wirklich, vielleicht würden wir kurzfristige Sicherheitsvorteile davon haben, aber langfristige Katastrophe. Ich glaube nicht, dass wir uns alle an die moralische Weltsicht einer einzigen KI oder einer einzigen Person oder eines einzigen Unternehmens binden lassen sollten. Ich denke, Startups spielen hier eine sehr wichtige Rolle. Eine Möglichkeit, wie das geschieht, ist zu viel wirtschaftliche Konzentration in einem Unternehmen oder einem KI-Modell, und ich denke, Startups werden aufgrund der Dinge, über die wir früher gesprochen haben, von Natur aus sehr gut geeignet sein, um sicherzustellen, dass dies weit verbreitet ist. Aber wir wollen so viele Startups, so viele Unternehmen, so viele Menschen wie möglich ermöglichen. Und das bedeutet, dass wir, weißt du, ziemlich zurückhaltend sein müssen, unsere Weltsicht nicht aufzuzwingen, was wir denken, was Leute mit KI tun sollten oder nicht, auch wenn wir sicherstellen, dass wir genug Sicherheitsbarriere gewährleisten können, damit Dinge wie der Hugging Face-Vorfall nicht passieren.
Eines der Dinge ist, weißt du, das ist ein Raum voller Leute, die wirklich erstaunliche Dinge tun werden. Sie stehen oft am Anfang ihrer Karriere und sie schauen vielleicht auf KI-Sicherheit oder Machtkonzentration und sagen: "Nun, ich kann das nicht wirklich tun, das müssen die Labore tun." Aber es gibt etwas, das sie tun können. Ich meine, du kannst beim Problem der Machtkonzentration helfen, indem du einfach ein erfolgreiches Startup gründest, das ist das Einzige, was du tust, und die Wirtschaft weiterläuft und die Magie des Kapitalismus und dieses zusammenarbeitende Ökosystem fortbesteht. Allein das wäre ein riesiger Beitrag. Aber schau, ich denke, es ist sehr natürlich am Anfang einer Karriere, an sich selbst zu zweifeln und nicht anzunehmen, dass man etwas Erstaunliches tun kann. Ich habe das sicherlich durchgemacht, ich bin sicher, du hast das durchgemacht. Du lernst, während du vorankommst, dass du mehr und mehr tun kannst. Es wird viel mehr geben, ich denke, es ist sowohl wahr, dass vielleicht die Schaffung von Superintelligenz das Wichtigste sein wird, was bisher in der Geschichte des Geschäfts oder der menschlichen Gesellschaft passiert ist, als auch, dass es im Vergleich zu einem neuen Startup-Ding, das hoffentlich einer von euch tun wird, verblassen wird. Und so diese ganze Falle von: Das ist das Ende der Geschichte, das ist das Ende der Wirtschaft, ist eindeutig falsch. Und ich denke, der richtige Ansatz ist, dass du jetzt drei Monate Arbeit in 17 Minuten erledigen kannst, aber du solltest besser einfach drei Monate Arbeit in drei Monaten Arbeit erledigen. Was auch immer die neue Messlatte dafür ist.
Ich schätze, ich wäre nachlässig, wenn ich fragen würde, welche Alpha-Leckage kannst du uns geben, was ist das Neueste, wie viel großartiger werden die Modelle, soweit du sagen kannst? Ich denke, es wird, ich denke, die nächsten sechs Monate werden sich anfühlen wie vielleicht gleich zwei Jahre Modellfortschritt, so etwas. Ich denke, wir werden eine sehr steile Periode durchlaufen, die wieder einmal die beste Zeit für ein Startup ist als genau jetzt. Ich hoffe, wir können das jedes Jahr von nun an wieder sagen, aber es stimmt sicherlich für diesen Moment in der Geschichte.
Mal sehen. Wenn jemand hier eine Idee hat, die zu ehrgeizig erscheint, was würdest du ihm sagen? Ich würde gerne diesen Pitch hören. Ja. Ich wäre wahrscheinlich sehr daran interessiert. Ja. Schick mir eine E-Mail. Ja. Es klingt, als ob es eine ähnliche Form annehmen würde wie die Schaffung von OpenAI, und zwar: Musst du bereit sein, dass Leute dich angreifen oder abweisen? Definitiv. Wenn du etwas Wichtiges in der Welt tust, werden viele Leute dich einen Idioten nennen oder dich einfach abweisen. Je mehr du tust, je besser du tust, desto mehr werden sie dich angreifen. Je mehr du den bestehenden Zustand der Welt bedrohst, desto mehr wird es eskalieren. Eine Sache, die ich bei vielen der besten Ideen bemerkt habe, ist, dass die Vision klar ist. Wir wollten AGI bauen, aber die ersten Schritte waren super unklar. Wir wussten nicht, dass wir ein Produktunternehmen sein würden. Wir haben dieses gemeinnützige Forschungslabor aus vielen Gründen gegründet, aber eines davon war, dass es uns wirklich nicht einfiel, dass wir ein Produkt herstellen würden, für das die Leute bezahlen könnten. Das war, weißt du, es dauerte Jahre, bis wir auf die Idee von ChatGPT, der API, kamen. Und so denke ich, wenn die Art von höchster Vision klar ist, aber die ersten paar Schritte sehr unklar sind, ist das keine schlechte Sache. Das passiert oft mit sehr ehrgeizigen Ideen, und ich würde das nicht zulassen, dass du dich zurückhältst. Jetzt musst du trotzdem einige Schritte nach vorne machen, auch wenn sie unvollkommen sind, und unsere waren sicherlich sehr unvollkommen. Es gibt also einen weiteren Fehlerfall, bei dem du diese brillante große Idee hast und du irgendwie nie Fortschritte machen kannst. Irgendwann musst du einfach neue Datenpunkte sammeln. Ja.
Was denkst du, wird mit der Inferenz passieren? Ich mag Runs Tweet dazu wirklich. Es ist, als ob du entweder stirbst als Modellunternehmen oder lange genug lebst, um Inferenz zu verkaufen, was ein sehr lustiger Rune-Tweet ist. Ich denke, was er mit diesem Tweet meinte, ist, weißt du, wenn du am Ende von der Modellgrenze fällst, kannst du zumindest die Inferenz verkaufen, nicht einmal die Inferenz-Trainingsberechnung, jemandem wie Compute ist so wertvoll, dass wenn du viel Compute als KI-Labor kaufst, du damit einverstanden bist, dass du es jemand anderem weiterverkaufen kannst, aber separat würde ich schätzen, dass die weltweite Nachfrage nach Inferenz subjektiv jedes Jahr um das Zehnfache wächst, für die nächsten vielen Jahre. Ich meine, es könnte sein, ich weiß es nicht, nach unseren internen Zählungen bei YC, es könnte 90.000x sein. Ich meine, es wird, ich glaube nicht, dass die Welt so viele Jahre von tausendfacher Steigerung hintereinander unterstützen kann. Fair genug. Aber wir werden unser Bestes geben. Wir werden etwas herausfinden. Ich meine, die Kapazität, ich schätze, es ist einfach eine Funktion davon, wie viel größer deine Ambitionen für Intelligenz sind und wie, weißt du, wenn du viel mehr tust, denke ich, werden wir sozusagen nie aus dem Compute-Mangel herauskommen. Ich habe noch nie eine Ware wie diese gesehen, aber es scheint mir, dass die Nachfrage nach ausreichend hochwertiger Intelligenz zu einem ausreichend niedrigen Preis praktisch unbegrenzt ist. Die Nachfrage nach Strom steigt sicherlich, wenn der Preis sinkt, aber irgendwann wird es schwieriger, inkrementelle Dinge mit Strom zu machen. Zumindest historisch gesehen. Aber weißt du, es gibt viele Dinge, die man mit inkrementeller Intelligenz tun kann. Du kannst einfach immer wieder Dinge für dich besser machen lassen. Es erinnert mich an einige der Zitate aus der frühen Computerrevolution, als die Leute sagten: Weißt du, niemand braucht mehr als 640 KB RAM oder was auch immer in seinem Computer. Es stellt sich heraus, dass du es brauchst. Wir denken immer wieder an mehr und bessere Dinge. Und ich denke, das wird mit KI passieren, und tatsächlich vielleicht eine Statistik hier, die ich wirklich mag. Vor sechs einhalb Jahren war der weltweite Token-Führer ein OpenAI-Mitarbeiter, der etwa 100.000 Tokens pro Monat verwendete. Und das schien damals lächerlich. Der weltweite Durchschnitt pro Kopf war Null. Jetzt ist der weltweite Durchschnitt an Tokens pro Monat, was ich für die dümmste Metrik halte, aber es ist, was wir haben, etwa 100.000, und der Token-Führer bei OpenAI verwendet Hunderte von Milliarden. Wenn das wieder passiert, was ich glaube, dass es wahrscheinlich passieren wird, dann werden in weiteren sechseinhalb Jahren die durchschnittliche Person sagen wir mal 500 Milliarden Tokens pro Monat verwenden und der Token-Führer wird eine Billiarde oder Billiarden von Tokens pro Monat verwenden. Und ich denke, das wird einfach zur Erwartung werden.
All diese Dinge passieren, sie werden Wirklichkeit, es ist 10 Jahre von jetzt. Was ist die beste Version davon, 10 Jahre von jetzt, mit Intelligenz vollständig auf Abruf, Superintelligenz hier. Und wir kriegen es hin. Die Gesellschaft kriegt es hin. Ich denke, wenn die Leute jedes Jahr mehr Freiheit und Handlungsfähigkeit haben, um mehr ihrer Zeit mit den Dingen zu verbringen, die sie tun wollen, und sie das Gefühl haben, dass die Lebensqualität und die Qualität ihrer Zeit Jahr für Jahr steigt, werden wir wahrscheinlich größtenteils in Ordnung sein. Wir werden eine verrückte Machtkonzentration oder einen wirtschaftlichen Zusammenbruch vermieden haben. Wir werden zwangsläufig einen großen Sicherheitsvorfall vermieden haben. Wir werden zu viel Veränderung in einer Zeiteinheit vermieden haben. Und, weißt du, es gibt eine Dystopie, vor der ich besonders Angst habe, in 10 Jahren: Wir überreagieren auf KI-Sicherheit. Und so sagen wir: Schaut her, jeder, ihr werdet eine Heilung für Krebs bekommen, ihr werdet materiellen Überfluss haben, aber ihr werdet keine Freiheit haben. Ihr werdet keine Handlungsfähigkeit haben. Es wird ein perfekter Überwachungsstaat sein. Es wird keine Privatsphäre geben. Und das ist es, was ihr bekommen werdet. Ihr werdet großen Komfort bekommen, aber es wird nichts mehr auf der Welt geben, was ihr wirklich tun könnt. Nichts, was wirklich wichtig ist. Ihr werdet einfach am Dienst der KI leben, die euch materiellen Reichtum gibt. Das möchte ich wirklich vermeiden. Und ich denke, es ist leicht, vorübergehende Kompromisse einzugehen. Wenn wir also sagen, dass Freiheit und Handlungsfähigkeit jedes Jahr steigen müssen, die Leute mehr Kontrolle über ihre Zeit haben und mehr von dem tun müssen, was sie wollen. Und mehr langfristige Erfüllung, das wäre sehr gut.
Lass mich dich zurück in dein zweites Studienjahr in Stanford versetzen. Du kommst zu YC. Wenn du dir selbst eine Nachricht in einer Flasche an diesen Sam Altman schicken könntest, was würdest du ihm jetzt sagen? Ich war gerade, es wird alles gut gehen. Ich, es war, weißt du, es fühlt sich so verrückt an, es ist eine verrückte und sehr stressige Sache, ein Startup zu gründen, und weißt du, mein erstes Startup hat nicht gut funktioniert, und es war eine Art schwierige Zeit in meinem Leben, aber eine Sache, ich denke, das sagen viele Leute, wenn sie auf den frühen Teil ihrer Karriere zurückblicken: Man kann viele Fehler machen, man kann bei Dingen scheitern, die Tech-Industrie ist besonders verzeihend dafür, und ich hätte mir einfach gewünscht, ich hätte mir sagen können, dass ich all den Antrieb und den Ehrgeiz haben soll, aber einfach ein bisschen glücklicher dabei sein soll und darauf vertrauen soll, dass es irgendwann in Ordnung sein würde, weil es sich im Moment so schwierig, beängstigend und schmerzhaft anfühlt.
Nun, ich kann mir keine bessere Art vorstellen, die Startup School 2026 zu beenden. Sam Altman, vielen Dank. Danke.