Transcription
Ich denke, KI wird die Summe der menschlichen Intelligenz in etwa fünf Jahren übertreffen. >> In fünf Jahren, >> ungefähr fünf Jahre ist meine Schätzung. Ähm, es wird also wirklich nichts geben, was KI nicht besser kann als Menschen, vielleicht abgesehen davon, menschlich zu sein. >> Auf einer prosaischeren Ebene, wie wird das Leben sein? Das wahrscheinlichste Ergebnis ist ein Zeitalter erstaunlicher Fülle, äh, wo jeder alles haben kann, was er sich vorstellen kann. Das klingt vielleicht absurd, aber nun, wir sind hier im Jahr 2026. Mal sehen, wo wir im Jahr 2036 stehen. Nun, natürlich gibt es Dinge, die das zum Scheitern bringen könnten, wie ein massiver globaler thermonuklearer Krieg oder so etwas. Ähm, aber vorausgesetzt, es gibt keinen Zweiten Weltkrieg, äh, ich denke, ich denke, wir steuern auf ein Zeitalter erstaunlicher Fülle zu. Das ist also, denke ich, eine Botschaft des Optimismus und, äh, der Aufregung über die Zukunft. >> Sind Sie sicher, dass die Menschen in 10 Jahren nicht mehr die Kontrolle haben werden? >> Ich halte das für unwahrscheinlich. Ähm, auf die gleiche Weise, wie wenn Sie eine weitaus größere Ähnlichkeit hätten, wissen Sie, wie wenn der Intelligenzunterschied zwischen KI und Menschen weitaus größer ist als der Intelligenzunterschied zwischen KI und Schimpansen, ist es schwer vorstellbar, dass die Schimpansen das Sagen hätten. >> Es tut mir wirklich leid. Wir sind im Wesentlichen eine entwickelte Form von Schimpansen. Es ist also noch nicht lange her, dass wir durch die Bäume schwingen und Bananen im Dschungel essen und wir essen immer noch Bananen. >> Sie sagten, es gäbe eine 10- bis 20-prozentige Chance, dass Killerroboter die Menschheit auslöschen. >> Sie klangen damals besorgt. Jetzt scheinen Sie sehr entspannt zu sein. Haben Sie Ihre Meinung geändert? >> Ich denke immer noch, dass es Risiken im Zusammenhang mit KI und Robotern gibt. Es ist nicht null. Ähm, ich glaube, ich bin zu meiner philosophischen Schlussfolgerung gekommen, die helle Seite zu sehen. Ähm, ich kann keinen Weg sehen, dieses unglaubliche Momentum von KI und Robotern wirklich aufzuhalten. Ähm, und manchmal denke ich, nun, vielleicht, wissen Sie, selbst wenn es einen Stoppknopf gäbe, sollten wir ihn wahrscheinlich nicht drücken. äh, weil das wahrscheinlichste Ergebnis unglaubliche Fülle für alle ist. >> Das dachte ich auch. Es fiel mir auf, dass Sie jetzt entschieden haben, dass es unvermeidlich ist. Hoffen wir das Beste und reiten wir mit. >> Ja. Ich meine, ja, ziemlich. Lassen Sie uns äh, lassen Sie uns die Fahrt genießen, ist, ist, ist, denke ich, meine Philosophie an diesem Punkt, denn ehrlich gesagt, es gibt, es gibt, es scheint einfach einen unaufhaltsamen Fortschritt hier in der KI und in den Robotern zu geben. >> dass ähm >> aber selbst wenn ich es stoppen wollte, kann ich es nicht. >> Glauben Sie, dass es immer noch eine 10- bis 20-prozentige Chance gibt, dass Killerroboter das Ende der Menschheit bedeuten? Das ist ein hohes Maß an Verderben, wie sie sagen. >> Nun, auf lange Sicht sind wir natürlich alle tot. Ähm, wissen Sie, ähm, also, ich meine, also, ich meine, nach dem Standardmodell der Physik ist das Ende des Universums eine lange, langweilige, graue Suppe allmählicher Abkühlung. Ähm, was die Wärmetod des Universums bedeutet, wie es genannt wird. Wenn also der Wärmetod des Universums tatsächlich das Ergebnis für unsere Realität ist, dann geht es wirklich um die Reise, denn das Ziel ist schrecklich. >> Aber 10 Jahre sind nicht sehr Ja, das verstehe ich. Aber das könnte eine lange Zeit sein und Sie sind im Grunde sehr weit weg. >> Wenn es 10 bis 20 % in 10 Jahren sind, würden Sie dann in eine Ihrer Raketen steigen, wenn Sie dächten, es gäbe eine 10- bis 20-prozentige Chance, dass sie explodiert und Sie tötet? >> Ja. Aber sagen wir, Sie können nichts dagegen tun. Mhm. >> Das Einzige, was wir versuchen können, ist, die Wahrscheinlichkeit des schlechten Ergebnisses zu minimieren. Ähm, aber zu versuchen, die Intelligenz in Robotern zu stoppen. Ähm, ich meine, am längsten habe ich mich geweigert, an KI teilzunehmen, oder ich war, wissen Sie, Sie wissen, ich habe OpenAI im Wesentlichen als Gegengewicht zu Google gegründet, weil sie zu dieser Zeit mehr oder weniger ein Monopol auf KI hatten und OpenAI gegründet hatten und dann Anthropic daraus hervorging und jetzt derzeit Anthropic führend in der KI ist. Ähm, ich meine, diese Handlungen haben tatsächlich zu Nachwirkungen geführt, die die KI beschleunigt haben, was nicht wirklich meine Absicht war. Es scheint also einfach, dass alle Wege zur Beschleunigung der KI führen. Also, dann denke ich, okay, nun, man kann einfach traurig darüber sein oder sich dem Club anschließen, nehme ich an. >> Nun, Sie haben sich definitiv dem Club angeschlossen. >> Ja, >> Sie haben sich definitiv dem Club angeschlossen. Wenn du sie nicht schlagen kannst, schließe dich ihnen an. Wissen Sie, >> eine Reihe anderer führender Modellentwickler drängen auf verschiedene Wege, um die Risiken zu minimieren. Ähm, wissen Sie, letzte Woche hat Demis einen Vorschlag für eine privat-öffentliche Regulierungsbehörde vorgelegt. Glauben Sie, dass Sie aktiver daran arbeiten sollten, etwas zur Kontrolle der Risiken zu etablieren, oder glauben Sie, dass das auch unmöglich ist? Ja, meine Empfehlung an Dennis, weil wir uns ein paar Stunden unterhalten haben, bevor er sein Stück veröffentlicht hat, war, dass das unmittelbarste, was wir tun könnten, darin besteht, dass die führenden KI-Unternehmen zumindest ein Treffen abhalten oder alle paar Wochen einen Anruf haben und einfach Sicherheits- und Schutzfragen besprechen. >> Aber warum haben Sie das noch nicht getan? Ich meine, Sie mögen sich nicht sehr. Ja. Aber Sie sind nicht alle, ich meine, Sie konkurrieren auch alle, richtig? Sie wollen alle die Ersten sein. >> Ja. Aber das ist, das ist, wo ich denke, >> ähm, die Konkurrenten können sich gegenseitig ehrlich halten. Das heißt, wenn, wie ich denke, es für jemanden in der Regierung, der kein tiefes technisches Verständnis hat und nicht an der Spitze der KI steht, ziemlich schwierig ist zu wissen, ob etwas veröffentlicht werden sollte oder nicht. Ähm, die Konkurrenten können jedoch, wenn sie ein oder zwei Wochen Zeit haben, ein neues Modell zu überprüfen, Probleme hervorheben und haben einen Anreiz, alle Konkurrenten haben einen Anreiz, die anderen ehrlich zu halten. >> Sie hätten also ein System, in dem die Modellentwickler die Arbeit des anderen überprüfen. Wenn es etwas gäbe, das sie beunruhigen würde, würden Sie es der Regierung sagen. Ja. Die Regierung würde dann überlegen, okay, >> wenn es etwas Besorgniserregendes gäbe und dieses Unternehmen nichts unternahm, um dieses Risiko anzugehen, dann wäre das der Moment für die Regierung, einzugreifen und Maßnahmen zu ergreifen, was buchstäblich das ist, was >> tut. Muss das alles passieren? >> Nun, ich denke, es wäre gut, das zu tun, ich denke, sofort wirklich. >> Ja, das sagen mir die Leute immer wieder. Wir müssen dieses System in den nächsten 6 Monaten bekommen, wegen des Tempos, mit dem sich die Modelle verbessern. >> Ja, 6 Monate sind eine lange Zeit. Ähm, >> also denken Sie kürzer als das? >> Nun, ich meine, es gibt so viele KI-Durchbruchankündigungen, manchmal mehrere pro Tag. Ich meine, wie viele gab es letzte Woche? >> Viele. >> Ich habe den Überblick verloren, wissen Sie. >> Ja, viele. Ähm, >> also, also Sie, Sie im Grunde, wissen Sie, ob es Demis' Vorschlag oder andere ist, Sie müssen zusammenkommen und das jetzt einrichten. Das klingt, als würden Sie mir sagen. >> Ja. Ich würde empfehlen, dass wir zumindest eine Art informellen wöchentlichen oder zweiwöchentlichen Anruf haben und wie gesagt, dass es vielleicht ein oder zwei Wochen frühen Zugang durch Konkurrenten gibt, und das ist, warum ich denke, dass die Anreize funktionieren, weil, wenn konkurrierende Unternehmen wahrscheinlich verstehen, ob etwas ein Sicherheitsrisiko darstellt, und sie werden nicht scheuen, hervorzuheben, dass die Modelle ihres Konkurrenten in der Veröffentlichung verzögert werden sollten. >> Sie mögen sich nicht sehr und Sie vertrauen sich nicht sehr. Sie beleidigen sich ständig in den sozialen Medien. Glauben Sie also, dass Sie das mit Leuten tun können, die Sie nicht mögen, wo es so viel persönlichen Groll zwischen einigen dieser Anführer zu geben scheint? >> Ähm, ja. Nun, ich bin kein Fan von Sam Altman, denn wenn Sie ein gemeinnütziges Unternehmen gegründet hätten, das ein Open-Source-KI-Unternehmen sein sollte und von der Welt besessen sein sollte, und es irgendwie in ein 800-Milliarden-Dollar-Profitorientiertes Unternehmen mit Closed Source verwandelt wurde. Ich denke, Sie würden sagen, Moment mal, das ist genau das Gegenteil von dem, wofür ich das Geld gespendet habe. Das ist mein Problem. Ich denke, es ist ein legitimes. Ähm, und dann ist Dario, denke ich, auch kein Fan von Sam Altman, weil er fühlte, dass der Grund, warum das Anthropic-Team OpenAI verlassen hat, darin bestand, dass sie Sam Altman nicht vertrauten, sonst würde Anthropic nicht existieren. Sie wären immer noch bei OpenAI. Ähm, ich denke, Dario ist eine sehr prinzipientreue Person. Er kümmert sich sehr um Dinge, äh, kümmert sich um die Zukunft der Welt. Und ich denke, jeder, den ich bisher bei Anthropic getroffen habe, war, ich meine, niemand hat meinen bösen Detektor ausgelöst. Wissen Sie, sie scheinen immer gut gemeint zu sein. Ähm, und äh, der Weg zur Hölle ist, denke ich, meistens mit guten Absichten gepflastert. Es gibt ein paar gut gemeinte Pflastersteine darin, also wollen wir nicht nachlässig sein. Ähm, aber äh, am Ende des Tages, wenn wir reden müssen, werden wir reden. Ich meine, setzen Sie unsere persönlichen Differenzen für das Wohl der Welt beiseite, so etwas.