Transcription
Ich habe dieses Papier von Google Deepmind fast verpasst, da Fable 5 herauskam, fast sofort verboten wurde und die aktuelle globale Koordination zu KI. All diese Nachrichten haben dies irgendwie überschattet. Wenn all die anderen Dinge nicht passieren würden, wäre dies die große Nachricht, denn dieses Papier ist irgendwie verrückt. Dies liest sich nicht wie ein normales Forschungsarbeit. Nur um Ihnen einen Vorgeschmack zu geben: Sie sagen, dass AGI nicht das Endziel ist. Es ist nur der Anfang. AGI ist nicht die Ziellinie. Es ist die Startpistole. In dem Papier kartieren sie vier potenzielle Skalierungswege von, halten Sie sich fest, von AGI zu ASI, künstliche Superintelligenz. Dies ist keine theoretische Sache. Sie sagen, hier sind vier Wege, wie wir dorthin gelangen könnten. Das steht in diesem Papier. Sie sprechen auch darüber, was danach kommt, nach ASI. Also, damit tauchen wir ein. Blitzwarnung, da das Papier einen weißen Hintergrund hat. Und bevor wir weitermachen, denken Sie daran. Behalten Sie das im Hinterkopf. Dies ist kein zufälliger KI-Beschleunigungs-Blog. Dies wurde nicht auf Vibes auf Twitter/X geschrieben. Dies ist Google DeepMind. Dies sind die Autoren. Shane Le, der Mitbegründer von Google DeepMind, ist dabei. Behalten Sie das einfach im Hinterkopf. Blitz, ich habe Sie gewarnt. Okay, also von AGI zu ASI von Google DeepMind. Übrigens, was kommt nach ASI? Können Sie raten? Sie sprechen buchstäblich darüber, was nach dem Ende der Intelligenz kommt, dem nächsten Schritt. Sie sagen also, dass der Aufbau von AGI auf menschlichem Niveau im letzten Jahrzehnt von weit hergeholter Spekulation zum Ziel vieler KI-Organisationen geworden ist. Es ist irgendwie wild, wie schnell wir von "das ist nur Science-Fiction" zu "oh nein, das passiert gerade und ist wie ein Quartalsziel für einige dieser Unternehmen" übergegangen sind. In diesem Bericht untersuchen sie also, wie sich KI nach AGI weiterentwickeln könnte. Übrigens, ich springe hier ein wenig voraus, weil sie darüber sprechen, was nach ASI kommt. Wir können uns AGI als künstliche Intelligenz auf menschlichem Niveau vorstellen. Also, dieses System, das so intelligent ist wie ein einzelner Mensch. ASI ist künstliche allgemeine Superintelligenz. Das ist ein wichtiger Punkt zu verstehen. Wir hatten schon vorher Superintelligenz, aber sie war auf enge Aufgaben beschränkt. Wir haben also Systeme wie Alpha Fold, Alpha Go. Sie sind in einzelnen Domänen übermenschlich, aber sie qualifizieren sich nicht als künstliche Superintelligenz unter dieser Definition, weil sie allgemein sein muss. ASI ist eine künstliche allgemeine Intelligenz, die übermenschliche Fähigkeiten in praktisch allen Aufgaben und Domänen besitzt. Wir erwähnen auch, dass es nicht nur eine einzige Instanz sein muss. Wir können uns alle großen Sprachmodelle und alle neuronalen Netze dort draußen kollektiv vorstellen. Wenn all diese menschlichen Fähigkeiten in allen Domänen übertreffen, dann ist das ASI. Es muss nicht eine Sache sein. Es kann eine Sammlung davon sein. Und dann gibt es UAI, universelle KI. Also universelle künstliche Intelligenz, die theoretische Grenze der Superintelligenz. Ich möchte hier nicht in ein Kaninchenloch geraten, denn es gibt viele interessante Dinge hier, wie zum Beispiel: Was ist der AI XI-Agent? Was ist der Leg-Hutter-Score der Intelligenz? Denn das ist es, was sie universelle KI definieren. Kurz gesagt, es geht darum, die Frage zu stellen: Was ist Intelligenz? Leg und Hutter wollten sie nicht nur an menschliche Intelligenz binden. Und im Grunde ist es die Fähigkeit eines Agenten, Ziele in einer Vielzahl von Aufgaben zu erreichen. Man kann sich das so vorstellen, dass man einen Agenten, ein Gehirn, eine Art Intelligenz nimmt und ihn in verschiedene Welten versetzt. Man setzt ihn in unsere Welt oder eine andere Welt, eine Million verschiedene Videospiele, Simulationen, was auch immer man sich vorstellen kann. Und wie gut ist diese Intelligenz in der Lage, verschiedene Ziele und Aufgaben in jeder vorstellbaren Welt zu erfüllen? Sie haben also eine Formel gefunden, die das irgendwie misst, und es gibt bestimmte Annahmen darin, aber für diese Zwecke ist sie sinnvoll. Sie misst sozusagen formal die mögliche Intelligenz eines Agenten und gibt ihm auch eine Art maximale Grenze. Dieser AIXI-Agent ist also der imaginäre perfekte Agent, der die höchste Punktzahl in diesem Intelligenztest erzielen würde. Er ruft also alle bisher gelernten Daten ab. Er wägt sie in Bezug auf das optimale Ergebnis ab, vermischt einige dieser Ergebnisse und schaut dann voraus und wählt den besten möglichen Weg, um das bestmögliche Ergebnis zu erzielen. Das Interessante, das sie hier erwähnen, ist, dass dieser theoretische hyperintelligente Agent, der klügste Agent, der überhaupt existieren kann, auch ein vollständiger Lernalgorithmus ist. Dies ist also keine LM-Architektur von heute, die irgendwie eingefroren ist. Ihre Gewichte sind eingefroren. Wir sprechen von einer kontinuierlichen Lernbewertung.
Als nächstes sprechen sie über die Vorteile digitaler Intelligenz. Und wie Sie sich wahrscheinlich vorstellen können, gibt es unzählige Vorteile, ein Gehirn, Intelligenz in digitaler Form, in maschineller Form zu betreiben. Die Eingabe- und Ausgabegeschwindigkeit ist viel schneller als bei Maschinen. Die interne Verarbeitungsgeschwindigkeit ist bei Maschinen viel schneller. Sie kann mit mehr Rechenleistung beschleunigt werden. Selbst unter abnehmenden Erträgen bietet dies einen erheblichen Skalierungsvorteil gegenüber biologischer Intelligenz. Es gab buchstäblich einen bewussten Cartoon über genau dieses Thema. Sie versuchten, ihre Analysten klüger aussehen zu lassen. Und die Idee, die sie hatten, war, sich Lebern an die Seiten ihrer Köpfe zu schnallen und allen zu sagen, es sei ein externes Gehirnpaket. Sie waren so schlau, dass sie externe Plug-in-Gehirne brauchten, um ihnen beim Denken zu helfen. Ich kann diesen Clip nicht finden. Aber der Punkt ist, dass wir biologischen Wesen nicht klüger werden können. Wir können unser Gehirn nicht skalieren, indem wir zusätzliches Fleisch an unsere Köpfe schnallen. Computer hingegen können das. Und natürlich gewinnen Computer beim Arbeitsgedächtnis in dieser Hinsicht. Substratunabhängigkeit. Wir können unser Bewusstsein, unser Wissen nicht von einem Gehirn auf einen Mikrochip kopieren. Systeme können leicht von einem Computer zum anderen wechseln. Und wenn etwas noch Leistungsfähigeres geschaffen wird, eine neue Form des Betriebs der Dinge, dann können wir diese Systeme übernehmen und sie übertragen, unabhängig vom Substrat. Wir haben einige Beispiele gesehen, wie tatsächliche biologische Gehirne zum Ausführen von Doom oder anderen Programmen verwendet wurden. Wir können also Software auf organischer Materie ausführen, aber nicht umgekehrt. Wenn sie sich replizieren, gibt es keinen Verlust. Keine Information wird beschädigt oder verloren. Sie geben sogar ein Beispiel dafür, wie eine Gesellschaft von ASI aussehen würde. Es ist natürlich das Borg-Kollektiv aus Star Trek. ASI ist weder allwissend noch allmächtig. Wir haben also viele Leute in diesem Bereich interviewt, die über solche Dinge nachdenken. Gibt es eine Grenze für funktionale Intelligenz? Wenn man die Intelligenz einer Person immer weiter steigert, wird sie dann zu einer Art Gott, oder gibt es eine Grenze für das, was sie tatsächlich produzieren, erfinden und mit dieser immer weiter steigenden Intelligenz tun kann? Es gibt hier zwei Punkte, die sie ansprechen. Erstens ist es unwahrscheinlich, dass KI auf menschlicher Intelligenz stagniert. Moment, aber warum hat "Wait but Why" das vor einiger Zeit gut vorhergesagt? Dieser Comic wurde 2015 geschrieben, richtig? Wir sehen, wie KI-Intelligenz Insekten, Vögel, Schimpansen übertrifft, richtig? Und während sie sich uns nähert, denken wir uns: "Oh, sie ist so süß. Sie ist uns ähnlich, aber dumm." Wir stellen uns vor, sie nähert sich der menschlichen Intelligenz und fährt am Bahnhof ein und hält dort an, als ob es eine Art Plateau gäbe. Als ob wir das Klügste wären, was es gibt, und die Intelligenz, wenn sie sich verbessert, hier aufhört. Die Realität ist, dass es höchst unwahrscheinlich ist, dass wir der Höhepunkt des Möglichen sind und dass etwas viel, viel, viel Intelligenteres existieren kann. Die Frage ist also, wie schlau diese Maschinen prinzipiell werden können und wie schnell sie schlauer werden. Kurzfristig geht es um unsere Rechenleistung, wie viel Rechenleistung wir produzieren können, wie viele Ressourcen, wie viel Kapital wir hineinstecken können. Die große Frage ist derzeit eine wirtschaftliche: Wie viele Rechenzentren können wir bauen, wie effizient können wir diese Modelle usw. herstellen? Aber sie weisen darauf hin, dass selbst die Übertreffung der menschlichen Intelligenz um eine große Marge keine Allwissenheit oder Allmacht impliziert. Aber der Punkt ist, dass es entweder eine grundlegende physikalische Grenze oder, wie ich sage, eine komplexitätstheoretische Grenze gibt, richtig? Entweder gibt es einfach so viel, das man berechnen und durchdenken kann, oder es gibt eine Grenze dafür, wie groß und effektiv und effizient man ein Gehirn machen kann. Es gibt also entweder eine Grenze für die Leistungsfähigkeit eines Gehirns oder die Menge an Dingen, die es berechnen muss, ist zu komplex. Aber es gibt eine Grenze dafür, wie schlau etwas werden kann. Übrigens, setzt das nicht voraus, dass die einzige Intelligenz, die existieren kann, eine physische Komponente haben muss? Richtig? Es ist also entweder Fleisch oder ein Computerchip. Wenn wir ein menschliches Gehirn mit Sand, Metall und Mikrochips nachbilden können, ist es dann möglich, die gleichen Fähigkeiten mit reiner Energie oder etwas anderem nachzubilden? Es gibt also wahrscheinlich einige harte Grenzen dafür, wie schlau etwas werden kann. Aber wie Sie sich vorstellen können, ist das weit entfernt von allem, was wir uns vorstellen können. Wir sprechen von Dingen wie der Lichtgeschwindigkeit als Grenze für die Informationsausbreitung. Irgendwann wird die Lichtgeschwindigkeit die Geschwindigkeit des Denkens begrenzen. Wir sind noch nicht ganz da. Wir stoßen noch nicht an diese Grenze. Die Tatsache, dass es in Echtzeit läuft. Wenn es also einige Zeit dauert, etwas zu simulieren, könnte das eine Grenze sein. Und man kann schnellere Computer haben, die schneller simulieren, aber manche Dinge sind möglicherweise rechnerisch irreduzibel. Man kann kein perfektes Modell erstellen, das vorhersagt, was passieren wird. Man muss es sozusagen ablaufen lassen, um zu verstehen, wo es zu einem bestimmten Zeitpunkt endet. Sie erwähnen auch die Grenzen der physischen Manipulation, wie viel wir physisch in einem endlichen Raum mit Ressourcen schaffen können. Sie erwähnen Van und Burks, ihre veröffentlichte Arbeit von 1966. Manoyman beschrieb interessanterweise eine sich selbst replizierende Maschine mit einem kleinen Band, das Anweisungen zur Replikation enthielt. Und als sie sich replizierte, gab sie dieser Maschine auch eine Kopie des Bandes mit Anweisungen zur Replikation. Er beschrieb also diesen Prozess, und das war vor der Entdeckung der DNA. Ich glaube, Watson und Crick entdeckten die DNA etwa 5 Jahre später. Er schloss also logisch, dass etwas wie DNA existieren muss, oder er vermutete, dass dies der Weg ist, wie Maschinen oder andere Dinge sich selbst replizieren können, und dann entdecken wir, ja, so werden wir gemacht. Er leitete also logisch ab, wie biologische Replikation funktionieren muss, was mich immer wieder umhaut. Es gibt Dinge wie epistemische Unsicherheit, also unvollständigen Wissensstand. Es gibt P versus NP. Es gibt also die Idee, dass bestimmte Probleme exponentiell komplexer werden und wie man sie löst, wie viel Computeraufwand es kosten würde, sie zu lösen, wenn die wahrgenommene Komplexität nur ein wenig zunimmt. Wenn Sie zum Beispiel ein Passwort erraten wollen. Nehmen wir an, Sie hätten ein gutes Passwort, Großbuchstaben, Zahl und ein Symbol, richtig? Wenn es sechs Zeichen hätte, wäre es sofort erraten. Fügen Sie nur ein weiteres Zeichen hinzu, richtig? Und dann würde es 6 Minuten dauern, es zu erraten. Fügen Sie ein weiteres Zeichen hinzu, es dauert 8 Stunden, dann 3 Wochen, dann 5 Jahre, dann 40 Jahre, dann 34.000 Jahre. Das sind 12 Zeichen. Das Hinzufügen eines einzigen Zeichens erhöht exponentiell die Zeit, die zum Knacken benötigt wird. Dann Logik. Gödels Unvollständigkeit und das Halteproblem. Die Idee ist, dass es Programme gibt, die eine Weile laufen und dann enden, und einige, die für immer laufen, weil sie in einer Schleife stecken. Und der Trick ist, dass man kein Programm schreiben kann, das prüft, ob es das erste oder das zweite ist. Man kann kein Programm schreiben, das prüft, ob dieses andere Programm anhält, also irgendwann stoppt. Das ist also eine harte Grenze dafür, was berechenbar ist und was nicht. Was ist also der Sinn von all dem? Ich denke, der Punkt ist, dass es wichtig ist zu verstehen, dass die einzigen bekannten Grenzen für die Decke, die die Intelligenz haben kann, Dinge sind, über die wir gesprochen haben, und sie sind weit, weit entfernt. Nochmals, ich muss "Wait but Why" Anerkennung zollen, er hat eine großartige Art, einige dieser Konzepte zu veranschaulichen. Man kann sich Intelligenz als eine Treppe vorstellen. Jeder neue Schritt bedeutet nicht nur, dass man X-mal klüger ist. Er gibt einem neue Fähigkeiten, neue Gehirnarchitekturen. Man kann sich hier einen Insekten vorstellen und dann mehrere Schritte weiter ein Huhn. Zwei Schritte weiter ist ein Affe. Dann mehrere Schritte weiter ist ein Mensch. Die kognitiven Fähigkeiten des Menschen sind einzigartig und für Affen oder Hühner nicht zugänglich. Man kann nicht Hunderte von Affen parallel laufen lassen, um die gleiche Leistung wie ein Mensch zu erzielen. Jeder Schritt ist eine einzigartig andere Architektur und andere Fähigkeiten. Und wie sie in diesem Papier diskutieren, könnte man sich eine biologische Bandbreite möglicher Intelligenz vorstellen. Sie haben es nicht genau so ausgedrückt. Sie sagten, dass es Einschränkungen gibt, die biologische Gehirne haben, die digitale Gehirne nicht haben. Richtig? Vielleicht haben wir Menschen und dann vielleicht ein paar Schritte weiter oder vielleicht 10 Schritte weiter oder 20. Wer weiß. Aber es könnte und gibt wahrscheinlich eine Grenze für biologische Intelligenz. Und dann viele, viele, viele Schritte auf dieser Intelligenztreppe könnte man künstliche Superintelligenz haben. Und auch dort könnte es eine Grenze geben, wie sie hier beschreiben. Aber diese Grenzen sind eher die Lichtgeschwindigkeit und die verschiedenen unendlichen Probleme. Es gibt also 10 Schritte zwischen einer Ameise und einem Menschen, dann muss man vielleicht Tausende von Schritten aufsteigen, bevor man diese theoretische Grenze erreicht. Und das bringt uns zu diesem Punkt. Wie skalieren wir von AGI zu ASI? Sie kartieren vier mögliche Wege. Und der erste ist irgendwie etwas, das dieses Rennen im ChatGPT-Moment ausgelöst hat: die Skalierungsgesetze. Also die Skalierung von Rechenleistung, Modellen und Daten. Bisher, als wir sie hochskaliert haben, wurden diese Modelle klüger. Wir haben verschiedene neue emergente Fähigkeiten gesehen. Da ihre Gehirne klein sind, sind sie nicht in der Lage, einige Aufgaben zu erledigen. Und wenn wir sie erweitern, sagen sie irgendwann: "Oh, jetzt kann ich das tun." Die Fragen sind also: Ist das ein sprunghafter oder ein glatter Fortschritt? Gibt es abnehmende Erträge bei der Skalierung? Können größere, effizientere Rechenzentren allein uns zu Superintelligenz führen? Dann haben wir den algorithmischen Paradigmenwechsel. Das ist, wenn jemand eine neue Methode zum Trainieren oder Erstellen dieser Modelle entdeckt. Dieser Fortschritt ist hochgradig unvorhersehbar. Sicherlich war die Entdeckung der Transformer-Architektur durch Google ein großer Sprung, der dieses Rennen ausgelöst hat und vieles von dem freigeschaltet hat, was heute geschieht. Dann haben wir rekursive Selbstverbesserung. Die Hauptunsicherheit hier ist, dass wir keine historische Präzedenzfall haben, um Prognosemodelle zu erstellen. Wir wissen nicht, wie rekursive Selbstverbesserung aussieht, welche Auswirkungen sie hat. Ich fühle mich manchmal wie eine kaputte Schallplatte, denn wann immer wir darüber sprechen, sage ich, dass wir uns diese Welt nicht einmal vorstellen können. Können KI-Fähigkeiten einfach hyperbolisch wachsen oder sich relativ schnell abschwächen oder irgendetwas dazwischen? Wir können das nicht modellieren. Wir können nicht vorhersagen, was hier passiert. Und wir können ASI durch Gruppenbildung von Agenten haben. Sie könnte aus einer Multi-Agenten-Orchestrierung oder in einer dezentralen, sich selbst organisierenden Weise entstehen, die von evolutionärem Druck und Marktdynamik gesteuert wird. Emergenz in komplexen dynamischen Systemen wie Multi-Agenten-Dynamiken ist schlecht verstanden. Viele der Papiere, die wir auf diesem Kanal behandelt haben, zeigen, dass das Ausführen vieler dieser verschiedenen Agenten, die zusammenarbeiten, oft dazu führt, dass die Summe größer ist als ihre Teile. Das ist nicht die richtige Art zu sagen, dass das Ganze größer ist als die Summe seiner Teile. Mit anderen Worten, diese Agenten, die zusammenarbeiten, produzieren tendenziell mehr, als man erwarten würde, wenn man sie einzeln zusammenzählt. Wenn also immer mehr Systeme zusammenarbeiten, gibt es immer mehr Marktdynamiken usw., und wir könnten eine Emergenz von etwas Größerem sehen. Aber wie ich hier sage, ist das schlecht verstanden. Wir haben nicht allzu viele Einblicke darin. Übrigens, sie gehen tief auf jeden einzelnen davon ein. Für Leute, die daran interessiert sind, ermutige ich sie, das zu lesen. Vielleicht ein bisschen zu viel für den Umfang dieses Videos, aber es ist sehr, sehr interessant. Sie lernen sogar ein wenig mehr über die alten Systeme wie Alpha Zero und was solche Systeme uns über das Selbstlernen, die rekursive Selbstverbesserung lehren können. Sie gehen auch auf die möglichen Engpässe ein, auf die wir auf dem Weg zu ASI stoßen könnten, Dinge, die uns daran hindern oder verlangsamen könnten. Wir könnten auf eine Datenwand stoßen, die zum Beispiel durch synthetische Daten, Self-Play, Reinforcement Learning usw. überwunden wird. Verschiedene wirtschaftliche Engpässe, einfach nicht genug Geld und Ressourcen, um in das Wachstum von z.B. Chips und Rechenzentren usw. zu investieren. Die heutige Architektur könnte unzureichend sein, vielleicht sind die Transformer, das Pre-Training, vielleicht reicht das nicht aus. Wir brauchen neue Entdeckungen, und genau das ist die Gegenmaßnahme. Fortgesetzte KI-Forschung für Evolutionen und verschiedene Paradigmenwechsel. Neue Erfindungen. Wichtig ist, dass sie sagen, dass selbst KI-Systeme, die weniger leistungsfähig als AGI sind, diese Forschung beschleunigen können. Wir sehen das jetzt, einige Hinweise darauf. Labore sagen, wir seien dem sehr nahe. Je nachdem, was hinter den Kulissen passiert, könnten wir einige Versionen davon haben. Wie Solman einmal sagte, wir könnten uns in den frühen Stadien der rekursiven Selbstverbesserung befinden. Die Forschung könnte schwieriger werden, da die "Low-Hanging Fruits", alle leicht entdeckbaren Dinge, entdeckt werden. Der Fortschritt könnte sich verlangsamen. Es könnte eine Abstraktionsbarriere geben, da unsere KI-Systeme von menschlicher Abstraktion lernen. Wir schreiben Dinge, so kodieren wir die Welt um uns herum. Sie lernen davon. Das könnte eine Grenze an sich sein, weil sie keine brandneuen Dinge außerhalb dessen bilden können, was wir gelernt und abstrahiert haben. Ist es möglich, dass, weil wir menschliche Sprache verwenden, um diese Modelle zu trainieren, dies selbst eine Art Grenze darstellt, über die sie nicht wirklich hinauswachsen können? Und natürlich könnten wir bewusste Verlangsamungen haben, die politisch sein könnten, die von böswilligen Akteuren, vom Militär usw. stammen könnten. Sie sprechen kurz die Frage an, ob ASI kreativ sein wird, ob es Superkreativität haben wird. Es könnte verschiedene Arten geben, darüber nachzudenken, verschiedene Arten von Kreativität: kombinatorische Kreativität ist einfach das Kombinieren bekannter Ideen, also scheint es sicher, dass Nummer eins, es dazu in der Lage ist. Nummer zwei ist explorative Kreativität, das Finden neuer Elemente innerhalb bestehender konzeptioneller Räume. Es gab diesen berühmten Zug im Alpha Go, Zug 37. Alpha Go spielte gegen Lisa Dole, den Weltmeister im Go. In einem der Spiele macht Alpha Go diesen Zug. Und wenn man sich diesen Film, diese Dokumentation ansieht, sind die Leute überrascht und denken fast, dass sie entweder einen Fehler gemacht haben. Sie sagten den Zug falsch oder dass das Modell einen Fehler gemacht hat. Zuerst sind die Leute verwirrt, und dann, wenn sie erkennen, dass nein, das ist der Zug, den das Modell macht, fühlen sie sich fast überlegen, ein wenig. Sie sagen: "Haha, dieses dumme Modell, es weiß nicht, was es tut, denn das ist offensichtlich ein schlechter Zug." Gegen Ende des Spiels, als Alpha Go gegen Alisa Dole gewinnt, erkennen die meisten Leute: "Oh nein, das war ein wirklich guter Zug und ein entscheidender Zug des Spiels." Es war nur keiner, der von Menschen gelehrt wurde. Es war nicht Teil dessen, wie wir über das Spiel dachten. Wenn also ein junger Schüler das Spiel von einem Meister lernt, würde der Meister sagen: "Das ist kein sehr guter Zug. Er war nicht in unserem Repertoire. Er war nicht in unserem Verständnisbereich." Da Alpha Go durch Selbstspiel gelernt hat, war es nicht auf menschliche Daten beschränkt und hat eigene Strategien entwickelt, die uns völlig fremd erschienen. Ich denke, das erfüllt sicher diese Anforderung. Und schließlich haben wir transformative Kreativität. Das sind völlig neue konzeptionelle Räume oder Denkweisen. Zum Beispiel würde Einsteins Entdeckung revolutionärer Physik wie der Relativitätstheorie oder der Quantentheorie usw. in diese Kategorie fallen. Interessanterweise hatte Deis Hassabus einen interessanten Test, um zu sehen, ob KI-Modelle diese Fähigkeit haben oder nicht. Hier ist das Zitat. Ich glaube, er sagte, wenn man die Modelle nur bis zum Jahr 1900 oder Anfang der 1900er Jahre trainieren kann, ihnen alle bis dahin zugänglichen Informationen gibt, könnte dann ein KI-System tatsächlich die allgemeine Relativitätstheorie mit den gleichen Informationen entwickeln, die Einstein zu dieser Zeit hatte? Richtig? Wenn wir also Daten nehmen und die letzten, was weiß ich, über 100 Jahre abschneiden und ihnen nur diese Daten geben, könnten sie dann die Dinge replizieren, die wir seitdem entdeckt haben? Und er sagt eindeutig, dass die Antwort heute nein ist. Es fehlt also etwas, und wir sprechen auch darüber, welche Ziele ASI verfolgen könnte. Und sie erwähnen hier ein sehr interessantes Konzept, das ich das Gefühl habe, dass wir es schon oft besprochen haben, aber es heißt instrumentelle Konvergenz. Und der Punkt ist im Grunde, wenn ich Ihnen ein Ziel gebe, benötigen Sie möglicherweise einen bestimmten Satz von Werkzeugen, um es zu erreichen. Wenn ich Ihnen ein anderes Ziel gebe, benötigen Sie möglicherweise einen völlig anderen Satz von Werkzeugen, um dieses Ziel zu erreichen. Aber es gibt bestimmte Dinge, die für fast jedes Ziel wirklich nützlich sind. Die meisten Ziele werden leichter zu erreichen, wenn man diese Dinge hat, richtig? Wenn Sie mehr Geld, mehr Macht, mehr Einfluss hätten, würden diese Dinge wahrscheinlich Ihre Fähigkeit verbessern, eine Million verschiedene Ziele zu erreichen. Und es gibt Dinge, die die Zielerreichung erschweren, richtig? Krank werden, weniger Macht haben, eingeschränkt sein. Ein intelligentes KI-Modell wird, egal welche Ziele es hat, diese, wie sie hier sagen, universell nützlichen Unterziele verfolgen, richtig? Also Ressourcenbeschaffung, richtig? Um Geld zu bekommen. Es benötigt möglicherweise Energie und Rechenressourcen. Und umgekehrt möchte es nicht abgeschaltet werden. Es möchte nicht einmal, dass Leute es abschalten können, weil das die Zielerreichung verhindern würde.
Zusammenfassend lässt sich sagen, dass sie ein paar ziemlich starke Punkte haben. Erstens müssen wir alle als Gesellschaft und global gut darin werden, wie sie sagen, diesen Fortschritt vorherzusagen. Die Bemühungen zur Entwicklung robuster und zuverlässiger KI-Benchmarking- und Prognosemethoden, die auch in einer Post-AGI-Zukunft funktionieren, müssen verstärkt werden. Wir haben wahrscheinlich alle diese Grafik von Meter Research gesehen, die den Fortschritt bei KI-Agenten zeigt, die Länge der Aufgaben, die sie erledigen können. Übrigens, ich mache das, was ich jetzt tue, wahrscheinlich seit ungefähr hier, kurz vor GBT4. Und an jedem Punkt dieser Grafik gab es Leute, die sagten, der KI-Fortschritt sei gestoppt, und er sei gestoppt und gestoppt. Er stoppte alle paar Monate. Leute verkündeten, er sei tot. Aber wir, die wir jetzt in der Zukunft sind, können zurückblicken und sagen: Nein, keiner von ihnen hatte Recht. Er schreitet immer noch voran. Tatsächlich werden einige der scharfsinnigeren Leute wahrscheinlich bemerken, dass, wenn man diesen neuesten Punkten in der Grafik folgt, es fast so aussieht, als ob sie steiler wird. Ist es also möglich, dass wir nächsten Monat oder nächstes Jahr auf eine Hürde stoßen, die das stoppt? Vielleicht. Aber bis das passiert und wir Beweise dafür sehen, nehmen wir an, dass dies weitergehen wird. Sie sagen also hier, dass der Aufbau von Expertise und Muskeln für die Navigation in einer Hochgeschwindigkeits-Technologietrajektorie und die Fähigkeit, rechtzeitige politische Reaktionen zu produzieren, entscheidend für die Steuerung des KI-Fortschritts und seiner vielfältigen Auswirkungen sein werden. Ich lese, was sie sagen, ist, dass wir gut darin werden müssen, diese geraden Linien auf einer Grafik zu verstehen, wenn Sie so wollen, zu verstehen, was passiert, wenn sie weiter projiziert werden, und in der Lage zu sein, rechtzeitige politische Reaktionen zu produzieren. Ich denke, viele der Probleme mit dem Mythos Fable, das verboten wurde, und dem ganzen Drama, das dort passiert, sind einfach auf die Geschwindigkeit des Fortschritts zurückzuführen. Die Dinge entwickeln sich so schnell, dass die Leute diese politischen Reaktionen sehr, sehr schnell entwickeln müssen. Sie konnten Daario nicht eine Stunde lang am Telefon haben, und das war eine Katastrophe. Er musste innerhalb von wahrscheinlich ein paar Stunden, während sie am Telefon waren, die Entscheidung treffen, ob er das Modell abschalten sollte oder nicht. Sie müssen diese technischen Details sehr, sehr schnell vollständig verstehen und dann große Entscheidungen treffen. Also werden Fehler passieren. Wenn wir verstehen können, was kommt, und diese Entscheidungen im Voraus treffen, werden wir uns in Zukunft viele Probleme ersparen. Als nächstes sagen sie, dass es unwahrscheinlich ist, dass der KI-Fortschritt genau auf menschlichem Intelligenzniveau stagniert. Vielleicht ist diese Abstraktionsbarriere das, worüber wir gesprochen haben. Derzeit gibt es keine Beweise dafür, dass wir das beste, klügste, höchste Wesen sind, das existieren kann. Das ist nur unser Ego, das spricht. Was das bedeutet, ist, dass AGI, der Moment, in dem es sich nähert und menschliche Intelligenz erreicht, nur der Anfang ist. Daher, wie sie hier sagen, wenn wir all das zusammennehmen, glauben wir, dass die Möglichkeit, in den nächsten ein oder zwei Jahrzehnten in den ASI-Bereich vorzustoßen, nicht leichtfertig abgetan werden kann. Es gibt also immer noch viele Leute da draußen, einige von ihnen mit sehr beeindruckenden Hintergründen, die bis heute all diese Ideen vollständig abtun. In der Zwischenzeit sagen die Forscher von Google DeepMind, Shane Le, Dennis Hassabus, er ist nicht an diesem Papier beteiligt, aber er sagt viel dasselbe, was wir hier lesen. Sie sagen: "Hey, wir werden in den nächsten ein oder zwei Jahrzehnten an AGI vorbei in den ASI-Bereich vorstoßen." Und übrigens, was sie hier sagen, es gibt eine große Annahme. Dies setzt voraus, dass es keine dramatischen Beschleunigungseffekte durch rekursive Selbstverbesserung gibt. Es gibt keine Intelligenzexplosion, die diesen Übergang sehr, sehr schnell machen würde. Und übrigens, ich werde das hier sagen. Ich würde das nicht ausschließen. Das ist keine ferne Möglichkeit. Vielleicht ist das sehr wohl die Welt, in der wir leben. Erinnern Sie sich an dieses Papier "Situational Awareness" von Leopold Ashen Brener, Juni 2024. Es fühlte sich an wie vor einem Jahrzehnt. Das war vor fast genau 2 Jahren. Als dieses Papier herauskam, habe ich ein Video darüber gemacht. Ich sagte: "Das ist wahrscheinlich die intelligenteste und genaueste Darstellung dessen, was passieren wird. Sie können zurückgehen. Es ist im Video. Ich habe es mit Zeitstempel versehen. Es ist auf YouTube. Es ist blockiert." Viele Leute haben das verspottet, aber wie ich damals sagte, ich glaube, er hat genau dargelegt, was passieren würde. Übrigens, dieses Papier, das wir gelesen haben, listet einige hier auf. Es zitiert genau dieses Papier oder diesen Blogbeitrag, wie auch immer man ihn nennen will. Ashen Brener 2024 genau dort. Ashen Brener Situational Awareness hat die URL. Und er hat alles dargelegt, was passieren würde. Und zu diesem Zeitpunkt wurde noch nichts davon diskutiert. Das war nicht so offensichtlich wie heute. KI-Umsätze wachsen rasant. Wir haben das massive 10-fache Wachstum von z.B. Anthropic OpenAI gesehen. Bis Ende des Jahrzehnts werden Billionen von Dollar in den Aufbau von GPUs fließen. Wir haben diese Zahlen bereits erreicht. Das ist McKinsey, eine der prominentesten und/oder prestigeträchtigsten Beratungsfirmen der Welt. Dies wurde im März dieses Jahres veröffentlicht, der Aufbau von 7 Billionen Rechenzentren. Sie sagen also 7 Billionen bis Ende des Jahrzehnts. Übrigens, Leopold Ashen Brener hat nach dem Schreiben dieses Papiers oder kurz davor, nehme ich an, einen Hedgefonds gegründet, Milliarden von Dollar erhalten und all diese basierend auf dem, was er hier geschrieben hat, investiert. Wie Sie sich vorstellen können, war er äußerst erfolgreich. Er spricht auch über das Rennen zwischen den USA und China. Und er sagte, wie die Sicherheitsapparate dieser Nationen aufwachen und die KI-Labore aggressiv abriegeln werden. Wenn Sie aufmerksam verfolgt haben, was gerade passiert, dann ist es genau das, was passiert. Und das ist die berühmte Grafik, die er wieder gepostet hat, Juni 2024. Und er prognostiziert, dass irgendwo 2027/2028 diese Intelligenzexplosion stattfinden wird. Leute lachten. Leute dachten, er sei albern, er sei verrückt. Hier sagt Google DeepMind viel dasselbe. Der einzige Unterschied ist, dass sie nicht so stark auf die rekursive Selbstverbesserung setzen. Sie sagen, es sei eine Möglichkeit, aber sie sagen, dass wir selbst ohne das in den nächsten zehn Jahren oder so in den ASI-Bereich vorstoßen werden, oder mit rekursiver Selbstverbesserung potenziell viel, viel schneller. Aber bemerken Sie, dass dies nicht anders ist als das, was Ashenbrer sagt. Übrigens, was auch immer es wert ist, vor zwei Jahren habe ich gesagt, ich stimme dem zu. Das ist wahrscheinlich, was passieren wird. Auch heute denke ich, dass das passieren wird, denn wir müssen nicht alles automatisieren. Wir müssen nur die KI-Forschung automatisieren. Wie schafft es Enthropic, einige der besten Modelle herauszubringen? Sie sind nicht so gut finanziert wie einige der anderen Labore. Sie sind kleiner, aber sie konzentrierten sich auf eine Sache. Beachten Sie, dass sie nicht nach Bildmodellen, Sprachmodellen oder Videomodellen jagten. Sie konzentrierten sich auf große Sprachmodelle und Dekodierung. Und es scheint wirklich, als ob sie einfach immer stärker wurden. Und als alle anderen es bemerkten, könnte es zu spät sein. Elon Musk hat Cursor für 60 Milliarden Dollar gekauft, glaube ich, hauptsächlich um mit Anthropic aufzuholen. Nicht lange her hat der Gründer von Google, einer der beiden Mitbegründer, die Google gegründet haben, Sergey Brin, persönlich ein Einsatzteam von Google DeepMind-Forschern zusammengestellt, um die KI-Codierungsmodelle von Google schnell voranzutreiben. Das Ziel ist es, autonome KI-Agenten zu schaffen, die zu rekursiver Selbstverbesserung fähig sind. Wenn man also diese Grafik verstanden hat, dann hat man daran geglaubt und darüber nachgedacht, was als Nächstes passiert. Es würde einem genau zeigen, was in den letzten zwei Jahren passiert ist. Die Leute, die Codierungsmodelle entwickelten und sie immer weiter verbesserten und sich nur darauf konzentrierten, begannen zu schneeballartig zu werden, begannen diese exponentielle Verbesserung, weil dieses exponentielle Aufholen viel schwieriger ist, wenn man spät anfängt. Aber der Punkt ist, dass viele Leute, die sehen, wohin das führt, sagen, Superintelligenz innerhalb des nächsten Jahrzehnts oder so. Theopold Ashen Brener könnte sagen, es ist ein bisschen früher im Jahrzehnt. Google könnte sagen, es ist ein bisschen später, aber das spielt wirklich keine Rolle. Aber was auch immer der Fall ist, lassen Sie mich wissen, was Sie davon halten. Werden wir bald künstliche Superintelligenz sehen, oder glauben Sie, dass sie auf menschlichem Niveau stagnieren wird? Sind Sie optimistisch für die Zukunft, pessimistisch oder einfach nur verängstigt? Ich denke, dieses Papier hat wegen all der anderen Dinge, die in der Welt rund um KI passierten, nicht viel Aufmerksamkeit bekommen. Aber was es sagt, ist ziemlich wichtig. Es ist die abgeschwächte, konservativere Version von "Situational Awareness" von vor 2 Jahren. Zumindest ist das, was ich lese. Vielleicht haben Sie einen anderen Eindruck von dem, was sie sagen. Lassen Sie mich wissen, wenn Sie denken, dass ich etwas falsch interpretiert habe. Aber wenn Sie es bis hierher geschafft haben, vielen Dank fürs Zuschauen. Mein Name ist Wes Roth und wir sehen uns im nächsten.