it's all bad now...

Also, wir treten vielleicht in die KI-Dunkelheit ein. Willkommen in der permanenten Unterschicht. Hier wirst du es hassen. Meine Ansichten zur KI sind normalerweise ziemlich optimistisch und aufmunternd. Die Richtung, in die wir uns jetzt bewegen, macht mir wirklich Angst. Das ist keine Übertreibung, um ein extra scharfes YouTube-Video zu machen. Das ist leider real. Wenn dies der Ansatz ist, den die USA zur Regulierung von KI verfolgen, werden viele Dinge sehr bald schiefgehen. In erster Linie die Idee, dass die KI-Blase platzt. Ich glaube nicht, dass wir in einer Blase sind, aber definitiv werden die Bewertungen schnell fallen, wenn dies anhält. Ich zeige dir, warum. Das Risiko einer außer Kontrolle geratenen, bösartigen KI, die durchstartet, weißt du, den schnellen Start hinlegt, ich glaube, das ist gerade erheblich gestiegen. Und diese Idee der permanenten Unterschicht, der Habenden und der Nichthabenden, und wie gut du im Leben abschneidest, hängt im Grunde davon ab, zu welcher dieser beiden Klassen du gehörst, das ist jetzt auch eine harte Realität. Also, in erster Linie, die 10-Sekunden-Zusammenfassung dessen, was passiert ist und uns hierher gebracht hat. Derzeit hat die US-Regierung fünf KI-Modelle verboten. Mythos, Fable und die neue GPT 5.6-Serie mit diesen drei Modellen. Wie sie diese verbieten, welche Art von Strategie sie anwenden, das ist wirklich, wo all die Fehler liegen. Und das ist keine politische Sache. Tatsächlich gibt es hier einen Silberstreif am Horizont. Der eine positive Punkt ist, dass, weißt du, einfach jeder denkt, dass das eine schlechte Idee ist. Soweit ich das beurteilen kann, über die politische Kluft hinweg, weißt du, zum Beispiel, wie die KI-Sicherheitsleute und die Akzelerationisten und alle dazwischen, wie jeder denkt, dass das eine schlechte Idee ist. Also, zumindest sind wir uns darin einig, dass dies nicht der richtige Weg sein sollte. Sprechen wir also über all die Dinge, die das beängstigend machen. Nummer eins, all diese Modelle, von denen ich sagte, sie seien verboten, sind verfügbar. Wenn du auf der richtigen Liste stehst und den richtigen Einfluss, das richtige Geld hast, darfst du diese Modelle nutzen. Es gibt Unternehmen und Leute, die diese Modelle gerade benutzen. Tatsächlich gibt es heute eine neue Geschichte, dass Mythos, das ursprüngliche Modell, nicht Fable, aber Mythos, Mythos 5, mehr Unternehmen zur Verfügung gestellt wird. Es gibt also eine Liste von Leuten, die die Frontier-Modelle, die Frontier Intelligence, nutzen können, und dann gibt es den Rest von uns, die Idioten, die es nicht können. Wenn das der Zustand der KI in Zukunft ist, sind die meisten von uns irgendwie am Arsch. Ähnlich wie wenn viel Geld gedruckt wird, sind die Leute, die zuerst Zugang dazu bekommen, am meisten davon begünstigt. Das nennt man den Papalon-Effekt. Die Idee ist, dass sie dieses Geld zu den alten Preisen ausgeben können, bevor der Rest der Wirtschaft herausfindet, dass die Preise steigen müssen, bevor sich alles selbst reguliert. Sie gewinnen also auf Kosten aller anderen, weil sie zuerst an dieses Geld gekommen sind. Dasselbe gilt hier. Ein neues Modell kommt mit neuen Fähigkeiten heraus. Die Leute, die es in die Hände bekommen, weißt du, zwei, drei, vier Monate vor allen anderen. Sie haben all diese Zeit, diese Vorteile auszunutzen. Sie bekommen einen Vorsprung. Wenn du auf dieser Liste stehst, verstärkt sich dieser Vorteil im Laufe der Zeit. Wenn du nicht auf der Liste stehst, geht es dir mit der Zeit immer schlechter. Und die Leute, die entscheiden, wer auf der Liste steht und wer nicht, nun, sie bekommen immer mehr Macht. Mit diesen Leuten gut auszukommen, wird viel profitabler, viel vorteilhafter. Das zweite große Problem mit diesem Ansatz ist, dass die Regulierung der Modelle falsch zu sein scheint. Diese KI-Labore, während sie mehr forschen und mehr lernen, bringen immer größere und bessere Modelle heraus, richtig? Wenn du dich also nur auf das Testen der Modelle konzentrierst, schaust du erstens irgendwie in die Vergangenheit und vielleicht ist das nicht das, worauf du hinarbeiten solltest. Vielleicht solltest du dir die Fabrik ansehen oder in diesem Fall das Frontier AI Lab. Der Grund, warum ich denke, dass das sinnvoller ist, ist, dass wir uns einer Zeit der rekursiven Selbstverbesserung nähern könnten, da diese Modelle besser werden und die KI-Forschung automatisiert wird. Es ist sehr plausibel, dass diese Labore, wenn sie einen Weg finden, der wirklich durchstartet und sich schnell selbst verbessert. Sie haben alle ziemlich gesagt, dass sie dafür arbeiten. Sie machen daraus kein Geheimnis. Wenn wir diese KI-Situation rein aus der Perspektive der KI-Sicherheit betrachten, dann ist das wirklich das größte potenzielle Risiko. Wenn man sich die KI-Dynamik bis jetzt vorstellt, der Unterschied zwischen den Modellen, zu denen jeder Zugang hatte, und dem besten verfügbaren Modell im Frontier-Labor, war die Lücke nicht sehr groß. Das war ein sehr wichtiger Teil der Dynamik. Ich werde gleich erklären, warum, aber ich denke, intuitiv weißt du, dass das der Fall war. Keines dieser KI-Labore hatte ein super intelligentes Modell, von dem niemand ein Jahr lang wusste, richtig? Sobald sie ihr Modell hatten, sobald sie es versenden konnten, haben sie es getan. Das bestmögliche Modell und das Modell, zu dem jeder Zugang hatte, lagen wahrscheinlich nur Monate auseinander. Jetzt ist die Rede davon, dass die Regierung diese Modelle überprüfen möchte, bevor sie herauskommen. Es ist also eine Art Lizenzierungsregime, bei dem die Regierung etwas genehmigen muss, bevor es herauskommt, und bestimmte Leute dürfen dieses Ding veröffentlichen und bestimmte Leute nicht, was an sich schon ein Problem ist. Dazu kommen wir gleich. Aber der Punkt war, dass wir alle, die ganze Welt, die diese Modelle nutzt und testet, der Front von nur wenigen Monaten hinterherhinkten. Etwas wurde mit dem brandneuen allem entwickelt, was wir gelernt und herausgefunden haben, und es wurde uns sehr schnell veröffentlicht. Mit diesem Ansatz ist das vorbei. Du kannst mindestens ein paar Monate erwarten, während die Regierung es überprüft, potenziell viel länger. Und sicherlich, wenn es sich um ein leistungsfähiges Modell handelt, kann das die Dauer dieser Überprüfung verlängern. Aber das könnte sehr gut bedeuten, dass sie intern etwas haben, das weitaus größer ist, und mit zunehmender Zeit könnte es sogar sinnvoll sein, einfach weiter an der Verbesserung dieses internen Modells zu arbeiten. Du iterierst nicht mehr schnell und veröffentlichst einfach Modelle, um der Konkurrenz voraus zu sein. Es könnte sinnvoll sein, sich mehr Zeit zu nehmen und etwas richtig auszubacken, herauszufinden, wie man eine Art Auto-Forscher erstellt und es einfach eine Weile laufen lässt. Eine der Dinge, die ich zuvor als Kritik an einigen KI-Sicherheitsleuten sagte, die eine sofortige staatliche Regulierung vorschlugen, war, dass wir vorsichtig sein sollten, die Vorteile dieser Ausgangsbedingungen nicht zu verlieren, und das waren, dass wir ein intuitives Verständnis des KI-Fortschritts hatten, nicht in Echtzeit, aber sehr nah an Echtzeit. Diese Modelle würden veröffentlicht, während sie besser und besser wurden, kurz nachdem sie zur Veröffentlichung bereit waren. Und so kannten wir diesen Hang. Wir wussten, wie schnell es voranschritt. Verstehst du? Das ist jetzt vorbei. Wir werden kein intuitives Verständnis des KI-Fortschritts mehr haben. Das ist vorbei. Es war unwahrscheinlich, dass eines dieser Labore einen Gott in einem seiner Rechenzentren beschwören würde, ohne dass wir einen Hinweis hätten, ohne dass wir es wüssten. Jetzt ist das im Bereich des Möglichen, denn denk daran, die Regierung versucht, die Modelle zu regulieren und zu kontrollieren, die herauskommen. Beachte, dass es immer noch keine Vorschriften für die KI-Labore selbst gibt. Was intern passiert, dafür gibt es immer noch keine Transparenz, keine Vorschriften. Ich hoffe, du verstehst, was ich sage. Ob du für Regulierung bist oder nicht, wenn das Ziel KI-Sicherheit ist, dann willst du die tatsächliche Fabrik betrachten, die die Sachen produziert, du bist nicht so sehr daran interessiert, was sie der Außenwelt verkaufen. Das ist ein wichtiger Unterschied. Wenn eine Fabrik etwas produziert, sagen wir mal für den menschlichen Verzehr, dann mag es in Ordnung sein, nur zu regulieren, was von den Regalen rollt, um sicherzustellen, dass es für den menschlichen Verzehr sicher ist. Wenn sie etwas bauen, das an sich schon die Produktion Probleme verursachen kann. Wie wenn sie an Viren oder DNA forschen oder etwas tun, das Kernenergie explodieren lassen kann usw. Es ist sinnvoll, sicherzustellen, dass die Fabrik selbst zertifiziert ist und sie nichts tun, was uns um die Ohren fliegen könnte. Was uns zu Nummer drei bringt. Diese ganze Blase könnte platzen. Und ich glaube nicht wirklich, dass es eine Blase ist, aber es sind Dinge mit Unternehmen passiert, auch wenn sie nicht in einer "Blase" waren, wo die Bewertungen einfach abstürzten. Bei den AI Frontier Labs war der Grund, warum sie diese Modelle schnell veröffentlichten, dass, wenn du an der Front warst, wenn du zu diesem Zeitpunkt das bestmögliche Modell hattest, du die Aufmerksamkeit aller hier auf YouTube hattest, weißt du, und überall sonst, jeder würde es ausprobieren. Immer mehr Nutzer würden in dein Ökosystem kommen. Als Claude der amtierende Champion war, gingen immer mehr Leute von OpenAI und allen anderen zu Claude. An der Spitze der Ranglisten zu stehen, war extrem wichtig für die Nutzerakquise, für die Finanzierung, für alles, für Daten, für viele verschiedene Gründe. Also baute man das Beste, was man konnte, und warf es so schnell wie möglich raus. Das tötet diese Dynamik komplett. Dieser Ansatz funktioniert nicht mehr. Du kannst also nicht mehr etwas auf den Markt bringen und diese drei, vier Monate lang das Beste sein und alle Nutzer und alles akquirieren. Ein Großteil des Geldes, das in Rechenzentren und Rechenleistung fließt, und die Bewertungen und der Aufbau, vieles davon basierte auf dieser Idee. Wenn du die meiste Rechenleistung und die größten Modelle hattest und deshalb an der Spitze der Ranglisten stehen und die meisten Nutzer gewinnen konntest, so wurde das gesehen, so gewinnt man. Also wurden Milliarden von Dollar investiert und noch viel mehr dafür vorgesehen, in Zukunft Billionen plus bis 2030, wir erwarteten, dass Billionen von Dollar vollständig für den Aufbau von KI-Rechenleistung und diese Rechenzentren eingesetzt werden, eine der großen Beratungsfirmen, ich glaube, sie hatten 7 Billionen als diese Zahl angegeben, glaube ich. Diese gesamte Rechnung ist vom Tisch, schau dir einfach an, was Deepseek und die anderen chinesischen Labore tun. Wenn du nicht an der Spitze sein musst, dann könntest du haben, was vor vier, fünf Monaten die Nummer eins war. Wenn du also bereit bist, der Front hinterherzuhinken, sagen wir mal ein halbes Jahr, dann brauchst du nicht all diese Rechenleistung. Du brauchst nicht so viele Ressourcen investiert. Wenn die Regierung nun jede Modellveröffentlichung für ein paar Monate pausiert, während sie sie testet, und wenn sie ein paar Monate sagt, wie lange wird das wirklich dauern? Es wird nicht so sein, wie sie es gesagt haben. Die Menge an Geld, die in diese Aufbauten fließt, wird sich verlangsamen. Du wirst nicht so viel Geld hineinstecken, wenn du dir nicht sicher bist, ob sich diese Marktdynamik fortsetzen wird. Ich sage also nicht, dass eine Marktpanik definitiv eintreten wird. Aber wenn diese Situation anhält, dann ist das etwas, auf das man achten sollte. Übrigens, selbst wenn du dieses Argument beiseitelegst, denk einfach mal darüber nach. Ein Großteil der Investitionsthese in KI geht davon aus, dass die Gewinner dieses Spiels, die Frontier AI Labs, ihr Markt für KI die Welt sein wird. Die unglückliche Realität ist, dass der Rest der Welt sehr wahrscheinlich auf die Nutzung der von den Vereinigten Staaten produzierten KI beschränkt sein wird. Das war bereits in der Anordnung für Anthropic. Sie sagten, stellen Sie sicher, dass kein Nicht-US-Bürger Zugang zu Fable hat. Die Anordnung, die es stoppte, war eine Exportkontrollanordnung. Es war also nicht so, dass sie nicht wollten, dass Leute in den Vereinigten Staaten oder US-Bürger es benutzen. Das war nicht der Fall. Der Grund, warum alle abgeschnitten wurden, ist, dass Anthropic nicht jeden verifizieren und nur den Leuten zur Verfügung stellen konnte, die US-Bürger sind. Also haben sie alle abgeschnitten. Die EU ist gerade in heller Aufregung. Sie sagen, dass sie ihre eigene KI brauchen. Sie brauchen ihre eigene KI-Infrastruktur, ihre eigenen souveränen KI-Modelle. Und es gibt viele Anzeichen dafür, dass diese Modelle auf die USA beschränkt sein könnten. Auf Twitter X fragte jemand Sam Altman, ob dieses Modell GPT 5.6, wenn es allgemein verfügbar ist, weltweit oder nur in den USA sein wird. Natürlich antwortete Sam, dass er hart für weltweite Verfügbarkeit arbeitet. Einige der Whitelist-Unternehmen oder vertrauenswürdigen Partner umfassen nur amerikanische Firmen und Organisationen, sie haben nicht einmal zum Beispiel das britische Sicherheitstestlabor. Nun, ich weiß nicht, ob die USA den KI-Zugang nur auf die USA oder nur auf die USA plus einige vertrauenswürdige andere Organisationen oder Nationen beschränken werden, aber es scheint, dass die Chance darauf vor ein paar Wochen rapide gestiegen ist. Wenn du mich fragst, würde ich sagen, nein, es gibt keine Möglichkeit, dass das passiert, oder die Chance darauf war extrem gering, im einstelligen Bereich. Wenn du mich jetzt fragst, wie hoch ist die Chance, dass die USA es nur auf eine Nation oder nur auf wenige Nationen beschränken, scheint das eine viel größere Möglichkeit zu sein. Und ich habe viele Leute sagen hören, dass das der Grund ist, warum Open Source so wichtig ist, warum jeder seine eigenen Modelle trainieren sollte, seine eigenen lokalen Maschinen benutzen usw. Und ich lobe diese Leute dafür, dass sie das sagen. Ich bin sicherlich sehr glücklich, dass das die Stimmung ist. Aber wenn wir tatsächlich diesen Weg einschlagen, dass die USA, weißt du, Modelle abschalten, glaube ich dann, dass wir eine Chance haben werden, Zugang zu diesen Open-Source-Modellen zu haben, insbesondere zu hochleistungsfähigen, die nahe an der Front sind? Ich glaube das nicht. Hier ist ein interessanter Beitrag von Nathan Jones, richtig? Nun, sie können Open Source nicht verbieten. Wie können sie das Herunterladen der Modellgewichte verbieten? Nun, er erklärt genau, wie IP-Adressen blockiert werden, die Websites der OS-Modellanbieter. Wenn es ein amerikanischer Bürger ist, eine FBI-Beschlagnahme der Website. Sagen Sie gemeinsamen Repository-Diensten, sie sollen die OS-Repos herunternehmen. Protokollieren Sie jede IP-Adresse, die es geschafft hat, es herunterzuladen. Gehen Sie hart gegen einige Sonderfälle vor. Google Aaron Schwarz. Auch Kim.com dachte, er sei immun, und sie stürmten sein Haus mit Hubschraubern und SWAT-Teams, und er war auf der anderen Seite der Welt. Und natürlich können wir Nvidia und andere GPU-Hersteller tatsächlich überprüfen, was durch sie hindurchläuft. Wir haben Vorschläge für technische Wege gesehen, die Fingerabdrücke der Modelle zu lesen und bestimmte GPUs dafür zuzulassen und bestimmte nicht. Das ist also auch technisch machbar. Er sagt also, du bist entweder in Verleugnung oder hast ein begrenztes Verständnis des historischen Kontexts, wenn du denkst, dass wir nicht in drei Jahren hier sind. Wenn die US-Regierung beschließt, in diese Richtung zu gehen, weiß ich nicht, ob Open Source alle Probleme lösen wird. Es kann effektiv verboten, kriminalisiert werden, und sie werden in der Lage sein, einige der schlimmsten Täter zu finden und zu bestrafen, und das wird den Markt für alle abkühlen. Es ist nicht so, dass sie es auf Null reduzieren werden, aber es wird nicht einfach für jeden verfügbar sein. Aber zurück zu unserem ursprünglichen Punkt, wenn der Markt für KI von der ganzen Welt auf nur uns Leute beschränkt wird, die ihre Identität nachweisen können, wie wenn du ein US-Bürger mit einem Bankkonto und einer Kreditkarte bist, dann kannst du auf das neueste Frontier-Modell zugreifen, aber niemand sonst. Nun, es wird eine Neubewertung dieser KI-Assets und Rechenzentren und dieses ganzen Booms geben. Die Leute werden darüber nachdenken, wie viel Geld sie dazu beitragen werden. Wie du dir wahrscheinlich vorstellen kannst, sieht das alles wirklich, wirklich schlecht aus aus der Perspektive der permanenten Unterschicht, bis hin zu der Tatsache, dass dies die KI-Sicherheit tatsächlich viel schlimmer machen könnte. Wenn wir die Modelle von der Bereitstellung abhalten, wenn wir die Modelle von der Bereitstellung abhalten, aber wir immer noch keine Einsicht haben, was tatsächlich im Hintergrund passiert, könnte dies eine viel feindseligere Situation auf der Weltbühne schaffen. Dies könnte sehr wohl eine Marktpanik auslösen, je nachdem, wie dies gehandhabt wird. Es gibt also viele offensichtliche Nachteile. Gibt es einen Silberstreif am Horizont? Ja, vielleicht. Das erste, was hier sehr offensichtlich ist, ist, dass alle irgendwie auf einer Wellenlänge sind. Alle hassen das. Wenn du auf der KI-Sicherheitsseite bist, hasst du das. Wenn du auf der Akzelerationisten-Seite bist, hasst du das. Jeder dazwischen hasst das so ziemlich. Und auch über die politische Kluft hinweg mögen beide Seiten nicht, was passiert ist. Eine interessante Überschneidung war Zi von "Don't worry about the vase", dem Newsletter, den wir ein paar Mal behandelt haben, und Mark Andreessen. Es gibt also eine Seite, die staatliche Intervention und Regulierung fordert, und eine Seite, die sagt, es sei eine schlechte Idee, und jetzt, da beide Seiten hassen, was passiert. Es gibt ein bisschen ein Hin und Her wie "Ich habe es dir ja gesagt" im Vergleich zu "Das ist nicht das, was wir wollten". So wie ich es sehe, ist die Richtung, in die sich die staatliche Intervention bewegt, in gewisser Weise richtig, da immer mehr Menschen aufwachen und aufmerksam werden und erkennen, dass die Dinge ziemlich schlecht und hässlich werden könnten, wenn wir nicht anfangen, Dinge zu regeln. Manche Leute wünschen sich, wir hätten früher mit der Planung und Vorbereitung von Regulierungen begonnen. Aber wieder hatten wir damals noch weniger Informationen über den Fortschritt der KI. Es ist also nicht unbedingt offensichtlich, dass die Dinge besser gewesen wären, nur weil die Regierung früher versucht hätte. Aber ich denke, der große Punkt ist jetzt, dass sich alle einig sind, was wir nicht wollen. Alle haben sich gegen diese spezifischen Dinge ausgesprochen. Dass die Insider Zugang zu Intelligenz bekommen und der Rest von uns Idioten. Das ist nicht in Ordnung. Übrigens, falls du das verpasst hast, das war ein Artikel, in dem die EU-Kommission die Klimaanlage des Gebäudes, in dem sie arbeiteten, während einer Hitzewelle abschalten musste. Haben sie die Klimaanlage für das gesamte Gebäude abgeschaltet? Nein, nur für die Etagen 1 bis 7. Warum 1-7? Nun, das 13-stöckige Gebäude beherbergt die Präsidentin der Kommission, Ursula von der Leyen. Ihre 26 Kommissare und 3.000 Mitarbeiter. Sie arbeitet im 13. Stock, und die meisten Büros ihrer Kommissare befinden sich im 8. Stock und höher. Also, Klimaanlage für mich, aber nicht für dich. Und was sollen die Bauern in den unteren Etagen tun? Nun, lass sie Kuchen essen. Und deshalb ist diese Veröffentlichung so beängstigend, richtig? Wenn diese Modelle wirklich gefährlich sind, dann lass sie niemanden benutzen. Keine unterschiedlichen Regeln für verschiedene Gesellschaftsschichten, oder? Wenn du in den Etagen eins bis sieben bist, verbrennst du dann einfach? Und ich und meine Kumpels chillen oben im Penthouse mit der Klimaanlage und Superintelligenz. Das ist buchstäblich das dystopische Szenario, vor dem wir alle gewarnt haben und das wir vermeiden wollten. Das kann nicht durchgehen. Das ist ein No-Go. Weißt du, Nvidia ist seit dem "Chad GPT"-Moment um tausend Prozent gestiegen. Vieles davon basierte auf bestimmten Annahmen. Wenn dies die neue Politik ist, dann sind viele dieser Annahmen nicht mehr wahr. Werden die Leute, die Rechenzentren aufbauen, Geld in Rechenzentren stecken, werden sie diese Investitionen neu bewerten und überdenken? Die gute Nachricht ist, dass alle in den KI-Kreisen signalisieren, dass sie damit nicht einverstanden sind. Beachte auch, dass dies irgendwie beweist, dass die US-Regierung nicht nur mit Anthropic herumgespielt hat. Das war keine Feindseligkeit gegenüber Dario im Besonderen, gegenüber Anthropic. Sie sind besorgt. Sie machen Fehler in der Ausrichtung. Es ist gut, dass sie irgendwie verstehen, dass Maßnahmen erforderlich sind oder zumindest eine intelligente Planung, was zu tun ist. Und ich denke, das könnte sich zu etwas Gutem entwickeln, wenn der Widerstand groß genug ist und die Regierung das bemerkt und darauf achtet und sagen wir mal in ein paar Wochen eine Kehrtwende macht und Klarheit schafft und sich von vielen der Dinge abwendet, die hier falsch gelaufen sind. Die verschiedenen Ebenen von Menschen, manche bekommen es, manche nicht. Die gestaffelte Veröffentlichung, die verzögerte Veröffentlichung, das muss überarbeitet werden. Und offensichtlich brauchen wir Regeln und Gesetze, die tatsächlich diktieren, welche Modelle veröffentlicht werden, welche nicht. Im Moment ist es irgendwie unklar. Jemand schaut es sich an und sagt: "Ja, ich schätze, dieses geht durch, dieses nicht." Das ist Wahnsinn. Wenn du Modelle verbieten willst, müssen die KI-Labore wissen und sehr, sehr klare Regeln haben, was verboten wird und was nicht, damit sie sicherstellen können, dass das Modell freigegeben und genehmigt wird und durchgeht. Wenn dies ein Fehlschuss war und dann der Widerstand kam und wir dann korrigiert werden, könnte das eine gute Sache sein, denn das wurde allen, der gesamten zukünftigen Governance und Führung usw. etabliert, dass dies nicht der richtige Weg ist. Dies könnte also eine positive Sache sein, wenn es eine massive Wende gibt und die Regierung sich von diesen Dingen abwendet, die sie irgendwie eingerichtet hat. Und ich sage nicht, dass sie den Kurs komplett umkehren, null Regulierung usw. Das sage ich nicht. Aber die Labore brauchen Klarheit. Wir können diese Zwei-Klassen-Systeme nicht haben usw. Ich weiß nicht, wie wir ohne eine Art "Kenne deinen Kunden"-Gesetz weiterkommen. Wenn du dich erinnerst, vor Jahren hat Sam Altman dieses Projekt gestartet, das dein Auge gescannt hat und dir sozusagen einen spezifischen, einzigartigen menschlichen Token gab. Die Idee war, dass wir diese Token brauchen. Wir werden sie in Zukunft brauchen, um zu beweisen, dass du ein Mensch bist und nur ein einzelner Mensch, ohne unbedingt deine ID zu zeigen, die all deine privaten Informationen enthält. Du musst nur beweisen, dass du ein einzigartiger Mensch bist. Zum Beispiel, um dich für ein soziales Netzwerk anzumelden, zeige ich meine kleine Nummer und sie geben mir ein Konto. Ich kann also keine 50 Konten erstellen. Ich kann keine Million Konten erstellen. Wenn ich etwas Schlechtes tue, wird dieses Konto gesperrt. Das ermöglicht Identifizierung in einer Welt, in der du Milliarden von Agenten haben kannst. Es verhindert zivile Angriffe usw. Nun, dieses Projekt von Sam Altman und Worldcoin, wie es genannt wurde, war an eine Kryptowährung gebunden. Viele Leute sagten, es gibt keine Möglichkeit, dass sie das anfassen werden. Ich habe es in diesem Video behandelt und gesagt, dass, ob du dieses spezielle Projekt magst oder nicht, der Punkt ist, dass dies ein offenes Problem ist. Ich denke, die Regierungen werden und brauchen eine Art Verifizierung oder Identifizierung für Leute, um Zugang zu den wirklich "gefährlichen" Modellen zu bekommen. Entweder das, oder wir nageln die Ausrichtung und die Schutzmaßnahmen für die Modelle komplett fest, was wir vielleicht nicht so schnell tun werden. Aber ein großartiger Beitrag dazu ist von Dean W. Ball, was getan werden sollte, in seinem Hyperdimensional-Newsletter. Ich denke, zu diesem Zeitpunkt können die meisten Leute, unabhängig von ihren Ansichten, der Aussage zustimmen, dass staatliche Regulierung entweder notwendig ist oder nicht vermieden werden kann. Um dieser Aussage zu widersprechen, müsstest du denken, dass wir keine staatliche Regulierung brauchen und auch irgendwie die Regierung davon überzeugen, dass sie sich einfach heraushalten soll. Zu diesem Zeitpunkt ist es offensichtlich, dass die Regierung eingreifen wird, und die Frage ist, welche beste Regulierung sie erlassen kann, um das alles gut funktionieren zu lassen, und ich habe nicht alle Antworten, glaub mir. Aber es scheint mir, dass das Testen von Modellen ein verlorenes Spiel ist, aus vielen der Gründe, die ich hier erklärt habe. Wenn all diese KI-Labore vielleicht zusammenarbeiten, um Sicherheitsrahmen zu schaffen. Sie haben alle ihre eigenen Sicherheitsrahmen intern in den Laboren. Vielleicht könnten sie alle kombinieren und das zu den Sicherheitsrahmen für alle machen. Das scheint eine gute Idee zu sein. Dann einige Audits, um sicherzustellen, dass diese Rahmen eingehalten werden. Und ich denke, die schnelle Veröffentlichung der besten Modelle, der neuesten Modelle, sollte fortgesetzt werden. Wenn es eine riesige Divergenz zwischen dem gibt, was der Öffentlichkeit zugänglich ist, und dem, was sich in diesen Laboren befindet, wenn es anfängt zu divergieren, dann könnte das eine ziemlich große und gefährliche blinde Stelle für uns sein. Und es ist auch ziemlich offensichtlich, dass die Zwei-Klassen-Sache weg muss. Zum Beispiel können Autos gefährlich sein. Du kannst damit in etwas fahren, du kannst alle möglichen Probleme damit verursachen. Aber die Lösung ist nicht, es einfach der Oberschicht zu geben und dann nicht allen anderen. Die Lösung ist, sicherzustellen, dass du mich identifizieren kannst, sicherzustellen, dass ich einen Test mache, sicherzustellen, dass ich ein paar Hürden nehme und einen Führerschein habe und diesen Führerschein auf dem neuesten Stand halte, usw. usw. Aber niemand ist komplett vom Fahren ausgeschlossen, solange er fähig und bereit ist, das zu tun, was nötig ist, um den Führerschein zu bekommen und ein Auto zu bekommen, usw. Sie dürfen Zugang dazu haben, auch wenn es gefährlich ist. Ich meine, auch wenn man damit Schaden anrichten kann. Zu diesem Zeitpunkt sieht es so aus, als ob wir das für Nutzer von Frontier-KI-Modellen brauchen könnten. Das könnte unvermeidlich sein, aber es kann nicht sein, dass Leute im Penthouse im 13. Stock Zugang zu allem haben und der Rest von uns nicht. Es ist ein schönes Penthouse. Es wäre schade, wenn ihm etwas passieren würde. Jedenfalls, lass mich wissen, was du denkst. Ich bin sicher, es gibt Dinge, mit denen du nicht einverstanden bist, vielleicht Dinge, mit denen du einverstanden bist. Beides ist total cool. Ich bin sehr offen für neue Ideen. Ich habe mich schon oft geirrt und meine Meinung geändert. Also, wenn du anderer Meinung bist, sag es mir. Ich bin sehr neugierig. Aber lass es mich in den Kommentaren wissen. Vielen Dank fürs Zuschauen. Wir sehen uns im nächsten.