Transcription
Black Mirror Theorie oder AGI im Anmarsch? Das ist auf jeden Fall ein bisschen scary die Zeit, ganz ehrlich.
Der Zug verlässt jetzt gerade den Bahnhof. Ich find es so krass bei dieser Bericht AI 2027. Es fühlt sich doch an, als würde er sich stückweise bestätigen. KI entwickelt sich selbst mittlerweile. An diesem Punkt sind wir eben angekommen und kommt dann eben auf neue Sachen, die wir Menschen überhaupt nicht mehr überblicken, ne? Das Ganze wird einfach ein unvorstellbares Maß an Selbstverbesserung und an Intelligenzexplosion einfach geben. Das ist so ein bisschen Durchbruch und davor haben offensichtlich viele Leute Angst. KI Insider treten gerade zurück reinweise. Es geht einfach zu schnell. Punkt.
Und dann kann man sich natürlich vorstellen, dass wir schnell auf eine Arbeitslosigkeit von 10 bis 20 % kommen. Eine Sache, die man jetzt nicht mehr tun sollte, ist einen Kredit aufzunehmen, weil es sein könnte, dass man schon bald seinen Job los ist und den Kredit nicht zurückzahlen kann. Und das Problem ist so ein bisschen, dass nur sehr, sehr wenig Leute sich bewusst sind über diese Veränderung. scheinbar Politik auch nicht so richtig hat, keine Lösungsvorschläge, weil das natürlich auch ein Wettrennen ist zwischen Nationen. Wenn wir KI nicht mehr kontrollieren können, besteht da natürlich auch eine Gefahr, dass wir ja so ein bisschen in den in den Sklavenverhältnis kommen. Es geht hier schon um Kapitalismus, es geht hier schon um das Wettrennen und wenn das eintritt in viele sagen in einem Jahr, dann werden viele unvorhergesehene Sachen einfach eintreten. wird nicht derjenige gewinnen, der die besten Sicherheitsstandards mit dabei hat, weil er sich nur selber ausbremsen wird. Wir müssen über AI Safety mehr und mehr sprechen.
Menschmaschine MFT, der Podcast über künstliche Intelligenz und ihre Auswirkungen mit Julius Herberg und Henry Hasselbach. Heute morgen hat mich eine Nachricht von dir erreicht und du hast mich auf einen Paper aufmerksam gemacht oder einen Blogbeitrag, der ziemlich brisant ist und schon wieder die Aufmerksamkeit auf Ex und im Social Media Raum ziemlich auf sich lenkt und ein Thema anspricht, was schon im letzten Jahr ziemlich viral gegangen ist und so ein bisschen dieses Protokoll AI 2027 Weltuntergang Gangsszenario und so weiter ein bisschen wieder ja in den Vordergrund rücken könnte. Zumindestens spricht es ganz eindeutig an, dass etwas ganz Großes im Gange ist und viele Leute sehr unterschätzen, was gerade beim Thema KI passiert und ob wir nicht eventuell schon über einen Schritt ja drüber hinaus sind, wo wir eigentlich nicht mehr zurück können. Aber wir wollen uns das ganz genau anschauen, wer da sprach, was da diese Person gesagt hatte innerhalb von diesem Beitrag und ob wir das auch genauso einschätzen wie dieser Mat. Vorab die Frage an dich, jetzt wo du diesen Bericht gelesen hast und auch wie ich gesehen habe einen LinkedIn Beitrag gleich dazu verfasst hast, wie schätzt du jetzt das Szenario AI 2027 ein? Denn da sprachen wir im letzten Jahr drüber. Das ist im Prinzip die Prognose, dass 2027 die Welt untergehen soll durch KI, die sich selbst entwickelt und ähm vervielfacht und auf einmal deutlich mächtiger ist als der Mensch selber. Damals haben wir beide das noch so ein bisschen abgetan. Jetzt gibt es aber wieder irgendwie neue Erkenntnisse, neue Sichtweisen. Und ich wollte wirklich vorab fragen, wie schätzt du jetzt auf einmal dieses Paper vom letzten Jahr ein?
Ja, ähm meine Einschätzung hat sich tatsächlich die letzten Wochen geändert mit so ein bisschen bisschen der Höhepunkt heute morgen, als ich den den Bericht gelesen habe. Es war gleich das erste, was ich gemacht habe heute morgen beim Kaffee habe ich den Bericht gelesen und dachte mir wirklich, ah, das der bringt es wunderschön auf den Punkt. Der Bericht ist richtig gut geschrieben. Ähm, der bringt es wunderbar auf den Punkt, was ich mir die letzten Wochen irgendwie schon mehr und mehr gedacht habe, aber das äh gedanklich nicht so strukturieren konnte, wie er das jetzt in dem Beitrag gemacht hat. Meine Einschätzung hat sich in die Richtung geändert, dass ich mittlerweile mehr besorgt bin als noch vor ein paar Monaten tatsächlich, denn ist wahrscheinlich auch in den Podcast durchgekommen. Ich war immer sehr entspannt und habe immer abgetan, ja, das dauert noch und ja, aber ich ich glaube beim eine der letzten Podcast Folgen habe ich schon dafür plädiert, ein bisschen auf die Bremse zu treten, was die Entwicklung angeht und ja, mittlerweile bin ich bin ich noch mehr besorgt um die KI Entwicklung insgesamt einmal wegen dem Bericht, aber auch unabhängig von dem Bericht mehr sich die Warnungen einfach von KI Experten von KI Insidern, ne? Also heute ist ja gerade wieder ganz neue News rausgekomen, dass irgendwie so halbe C-founder Team von XAI zurückgetreten ist, ne? Das ist ja Tendency auch kein gutes Zeichen. Und von Wortfic ist Head of Safety ist auch zurückgetreten und der hat auch ein ja wie so ein Abschiedsbrief geschrieben an sein Team, dass die Welt in Gefahr ist und der weiß natürlich absolut was los ist und der hat in seinen Labs bei Ropic und so weiter, der hat da natürlich auch Zugang zu Modellen Einsichten, die wir alle als normale Nutzer überhaupt gar nicht haben, ne? Genau, das alles kombiniert eben mit dem Bericht, auf den wir uns hauptsächlich fokussieren in dieser Ausgabe. Macht mich eben ein bisschen bisschen ähm nachdenklicher auf jeden Fall.
Was waren deine Gedanken, als du den Bericht gelesen oder gehört hast? Ganz demütig habe ich gemerkt, dass vielleicht die erste Einschätzung im letzten Jahr zu dem zu der Prognose AI 2027 doch ein bisschen naiver und eventuell da doch schon deutlich mehr erkannt wurde, als wir zu dem Zeitpunkt oder ich zu dem Zeitpunkt überhaupt wahrhaben wollte. Also dementsprechend, ich muss auch sagen, das äh macht natürlich auch noch mal ein bisschen nachdenklich diese ganzen Thematiken oder die ganzen Berichte oder ganzen Geschehnisse, die jetzt aktuell passieren. Ich glaube, es gibt natürlich auch sehr, sehr viele, ich will mal sagen, nicht Übertreibungen, aber ja, bisschen etwas überdramatisierten Bezeichnungen innerhalb von diesen ganzen Artikeln und wie man diese ganzen News interpretieren kann. Und ich glaube, es gibt auch noch Schwachstellen, warum die KI sich jetzt nicht unbedingt maximal vervielfältigen wird und die Welt komplett untergehen wird. Also, da werden wir auch natürlich im Laufe der Folge drauf eingehen, aber definitiv passiert hier etwas ganz schön Großes, wovon und das finde ich nämlich auch sehr interessant, weil das auch in diesem Artikel im Prinzip angesprochen wird, wovon die meisten nichts mitbekommen, weil die meisten immer noch KI einfach abtun als ein besseres Google oder vielleicht um ein bisschen zu brainstormen, aber nicht verstehen, was gerade vor allem jetzt in den letzten Wochen mit den neuesten Modellen wirklich abgegangen ist, was KI inzwischen wirklich machen kann und wie viele Jobs es übernehmen wird, aber auch jetzt schon tut. Also, das muss man auch ganz klar sagen. Es ist doch brisanter, als man denkt. Lass uns das ganz genau im Detail angucken.
Wir können auch wirklich diesen Bericht direkt einbeziehen. Der ist nämlich super aktuell. Der ist vom 9. Februar. Das ist ein Blogbeitrag von Mat Schuma und hat den Titel "Something Big is happening," also etwas Großes passiert gerade und wir verlinken den natürlich auch unter dieser Podcast Folge. Da könnt ihr euch den auf jeden Fall mal selber angucken und da beschreibt er im Prinzip eigentlich so ein bisschen seine persönliche Perspektive auf die Gesamtsituation. Also er spricht vor allem aus der Ichbrille und sagt ganz klar, dass es den Moment gab am 6. Februar oder 5. Februar. Den benennt er wirklich mit Datum, als die KI seinen Job übernehmen konnte. Und er selber ist nicht irgendjemand. Er ist ein bekannter Programmierer und mit der Veröffentlichung von den Modellen von ChatGBT und Anthropic und zwar geht es da einmal um Cloud oppos 4.6 von Anthropic und von ChatGBT 5.3 Codex. Das war der Moment, wo er gemerkt hat, dass er anscheinend nicht mehr gebraucht wird in seiner Arbeit. Denn diese Modelle können nicht nur unfassbar viel und lang und gut codieren, z.B. komplette Apps, komplette funktionstüchtige Webseiten, sondern sie können auch in einer Feedback Schleife sich selbst überprüfen und testen und so lange eine App oder eine Webseite testen, bis sie wirklich funktioniert und immer wieder debucken. Also auch dieses menschliche Feld, was da immer noch mit drin war beim Programmieren, ist jetzt von der KI teilweise oder großteils komplett übernommen worden und er sieht gar nicht mehr die Notwendigkeit von seiner Tätigkeit innerhalb seines Jobs. Und das ist so ein bisschen für ihn der Wegruf und er möchte den Leuten da eigentlich ganz klar sagen, Leute, ich spüre es gerade am eigenen Leib. Es passiert hier sehr, sehr viel und nicht nur das, ich merke auch, dass die KI eine eigene Intuition bzw. ein einen Geschmack entwickelt hat, also ein Urteilsvermögen und das könnte der Anfang davon sein, dass auch Fähigkeiten, die wir bisher als sehr sehr menschlich beachtet haben, wie Kreativität, Urteilsvermögen und so weiter, auch von der KI kurz mittel bis langfristig übernommen werden können. Super viele spannende Aussagen trifft er da und du kannst gerne mal deine Gedanken teilen. Du hast ein Link im Beitrag dazu geteilt, du hast auch was bei uns in der Community geteilt. Wie war dein allererster Eindruck, als du das ganze Paper gelesen hast?
Ja, also er er steigt, glaube ich, so ein bisschen damit ein, was du gerade schon gesagt hast, dass es an den allermeisten Menschen 99% komplett vorbeigeht und die gar nicht wissen, was abgeht. Die haben Chat PT mal benutzt, um einen Kochrezept sich ausgeben zu lassen oder sonst was. oder haben es vielleicht auch für die Arbeit eingesetzt und gesehen, ah, mach doch noch ein paar Fehler, ist doch noch nicht so gut, davor brauchen wir keine Angst haben. Aber vor allem jetzt mit den mit den neuesten Modellen ist schon noch mal ein Quantensprung passiert und generell die Entwicklung, wenn man sich die letzten Jahre anschaut, ist exponentiell und er vergleicht das ein bisschen, das ist glaube ich so ein bisschen die Aufmachung des Artikels sehr gut auch gemacht mit Februar 2020. Können wir uns vielleicht alle noch dran erinnern, was was da war. Da da spukt in den Nachrichten schon so ein bisschen was rum von von irgendeinem lystiösen Virus, Coronavirus. Viele haben das nicht so ernst gesehen und noch Urlaubsreisen geplant und so weiter und so fort. Bis dann im März, glaube ich, alles in den Lockdown ging und unsere Welt sich eigentlich komplett verändert hat. So vergleicht er das ein bisschen, dass es wahrscheinlich auch so gerade passiert, dass wir gerade ähm eine Entwicklung haben, die einfach so einen krassen Umbruch herbeiführen wird, aber die Leute einfach komplett auf den falschen Fuß erwischen wird. Das lässt sich auch so ein bisschen damit zusammenfassen, dass er mit dem Artikel auch so ein bisschen Weghof machen möchte, ne? Auch vor allem für die nicht taggy Leute, dass da ein großer Umbruch bevorsteht.
Genau. Dann sagt er vor allem, dass eben, du hattest es erwähnt, die die neuen Modelle von Wopfichic und Open AI GPT 5.3 Codex, da ist eben etwas drin. Das erste Mal das schreibt Open AI auch ganz öffentlich über das Modell. Diese KI dieses Updates ist zum Großteil durch KI selbst entstanden. Also KI entwickelt sich selbst mittlerweile. An diesem Punkt sind wir eben angekommen und ähm das wird auch gerade gemunkelt bei den bei den Rücktritten, was ich eben meinte von den XAI Leuten, dass wir uns sehr sehr stark auf eine Zukunft bewegen, wo sich KI einfach fortlaufend weiterentwickelt, ne? Es ist auch kein Zufall, was du meintest mit den mit den ganzen Entwicklern, dass KI mittlerweile besser Apps entwickeln kann als menschlicher Entwickler. ist auch kein Zufall, dass die dass die großen KI Unternehmen natürlich in diese Branche zuerst vorsprechen. Klar gibt es da auch viele Trainingsmaterialien, macht das alles ein bisschen einfacher, aber die wissen natürlich auch, wir brauchen eine KI, die super gut im Entwickeln neuer Software ist, denn dann können wir unsere KI Modelle irgendwann mit der KI entwickeln und das wird dann ein Loop und äh führt dazu, dass die dass die an der Spitze bleiben und immer die die beste KI haben, weil es eben von KI entwickelt ist. Die KI entwickelt sich selbst, testet sich selbst und kommt dann eben auf auf neue Sachen, die wir Menschen überhaupt nicht mehr überblicken, ne? Bei den App Sachen ist das so ein bisschen vielleicht so, dass bisher war es so, wir haben geschrieben, was die App machen soll und dann hat die KI das relativ gut umgesetzt beim ersten Mal schon. Aber wir entwickeln uns jetzt so ein bisschen weiter und sagen der KI: "Okay, ich möchte eine App, die das und das kann, diese zwei Features hat, aber dann entwickelt die KI eine App, die sogar noch zwei zusätzliche Features hat, die viel besser sind als meine Featureideen von den Menschen, der die ursprünglich mitgegeben hat." Also das Ganze wird einfach ein unvorstellbares Maß an Selbstverbesserung und an Intelligenzexplosion einfach geben, weil die KI ihre eigenen Algorithmen schreibt, auf Sachen kommt, auf die menschliche KI Entwickler gar nicht kommen würden. Und das ist so ein bisschen Durchbruch und davor haben offensichtlich viele Leute Angst. K Insider treten gerade zurück reinweise. Und um das vielleicht ein bisschen bisschen klar zuum machen, ich sehe die Entwicklung insgesamt nicht als was Negatives an und denke sogar, die kann super positiv sein. Krankheiten besiegen, viel viel Leid besiegen und so weiter und so fort. Das einzige Problem, was ich sehe, es geht einfach zu schnell. Punkt. Es geht so schnell, dass wir uns da nicht richtig vorbereiten können, nicht die richtigen Sicherheitsmaßnahmen treffen können, dass die ganze Gesellschaft nicht irgendwie sich ein bisschen in die Richtung entwickelt und ähm dann wird es eben zu Chaos kommen und glaub Entwickler spielen das jetzt schon krass, dass dass ihre Jobs mehr und mehr gefährdet werden und ich glaube auch der CEO hat gesagt, dass in ein bis 5 Jahren 50% aller Entry Level Jobs bei White Color sind einfach weg. Die neuesten KI Modelle werden einfach immer besser. Jetzt eben auch noch verstärkt durch KI, verbessert sich selber und dann sind die ganzen Sachen, die heute Leute vielleicht noch kritisieren, macht Fehler, kann das nicht, kann das nicht, die werden in kürzester Zeit wird es diese Fehler nicht mehr geben und die KI macht es besser als viele menschlichen Mitarbeiter und dann kann man sich natürlich vorstellen, dass wir schnell auf eine Arbeitslosigkeit von 10 bis 20 % kommen. Und das ist natürlich wer für so viele Menschen, für so eine große Gesellschaft irgendwie vernünftig zu verdauen in so einem kurzen Zeitraum, ne? Wenn wenn das irgendwie gestretcht wird über viele Jahre, okay, aber wir sprechen hier von ein bis 5 Jahren und deswegen ist das Ganze so ein bisschen problematisch. Also das Problem ist die Geschwindigkeit und das Problem ist so ein bisschen, dass nur sehr sehr wenig Leute sich bewusst sind über diese Veränderung. scheinbar Politik auch nicht so richtig hat keine Lösungsvorschläge, weil das natürlich auch ein Wettrennen ist zwischen Nationen. Ich glaube, das hat auch der Enwohic CEO gesagt, der hat einen guten Vergleich gemacht. Was was würden denn die Sicherheitsgräien in verschiedenen Staaten sagen, wenn sich ein neuer Staat bildet und dort 50 Millionen wesentlich intelligentere Menschen auf einmal wohnen in diesem Staat? Was würden wir da machen, ne? Wir wir würden auch sagen, okay, pass auf, dieser Staat darf nicht zmäftig werden, weil der kann uns alle kontrollieren. Das ist dann natürlich auch noch das nächste Thema quasi, dass wir die KI gar nicht mehr kontrollieren können. Also, das eine Thema ist natürlich die wirtschaftlichen Folgen, die Folgen für Arbeitslosigkeit, Arbeitsmarkt und so weiter, aber dann auch die noch größeren Fragen, die existentiellen Fragen, wenn wir Karten die nicht mehr kontrollieren können, besteht da natürlich auch eine Gefahr, dass wir ja so ein bisschen in den in den Sklavenverhältnis kommen.
Ich find's super interessant und ich finde vor allem sehr interessant. Letzte Woche sprachen wir über Moldburg in der letzten Folge. Ja, da war das schon in Bezug auf dieses Open Claw Modell, was jetzt noch autonomer arbeitet und auch da sprach man schon darüber, dass auch da die Entwickler sehr erstaunt darrüber sind, wie schnell sich die KI erstens entwickelt und wie viel sie von ihrem eigenen Code selbst geschrieben hat. Also auch da ging es ja schon eindeutig los, dass diese KI anfängt sich selber mitzugestalten oder zumindestens beim nächsten Modell dann mitzuhelfen. Und auch wenn wir an das Protokoll AI 2027 denken, also das ist ein Zukunftsszenario gewesen, was 2025 aufgestellt wurde und zeigen Monat für Monat, was passieren wird in den nächsten Monaten, in den nächsten zwei Jahren, bis dann eventuell ein Kollaps entsteht. Tja, da gibt's natürlich ein äh da steckt mir eventuell mit drin. Keine keine hundertprozentige Wahrscheinlichkeit, aber da fängt es auch ganz klar damit an, dass die KI einfach ab einem gewissen Zeitpunkt anfängt, sich selbst weiter zu entwickeln bzw. das nächste Modell zu trainieren und das nächste Modell zu trainieren und so weiter und sich dadurch exponentiell vervielfacht und auch die Intelligenz sich vervielfachen kann. Und jetzt kommen noch zusätzliche Thematiken dazu, wie Kreativität oder ähm Blindspots, die der Mensch vielleicht gar nicht irgendwie so richtig auf dem Schirm hat. Und die KI kann jetzt nicht nur die Rechenleistung verbessern, sondern auch den kompletten Algorithmus anpassen. Und interessant war ja auch, dass Mat Schuma jetzt in dem Bericht, der vor ähm zwei Tagen rauskam am 9. Februar. Er spricht auch davon, dass sogar, wenn er den Code im Nachhinein liest, der jetzt von ähm den aktuell stärksten Modellen im Prinzip erschaffen wurde, dass sogar, wenn er ihn liest, diese Zeilen an Code nicht nur auf maximaler Optimierung ausgelegt sind, sondern da steckt richtige Raffinesse hinter, so dass man den Code auch nachträglich verbessern kann. Da steckt eine Form von Ästhetik hinter, die ähm eigentlich nur aus einem menschlichen Instinkt herausentstehen sollte und weil sie nicht nur den Fokus auf Funktionalität hat. Also auf einmal kommen da kleine Akzente mit rein, wo wir vorher gesagt haben, die können eigentlich nur von einem Menschen kommen. Dazu sei gesagt, das sind alles Aussagen von einer Person über Zeilen von Code, die sie selber beobachtet hat. Ja, es ist relativ schlecht jetzt für uns irgendwie großartig nachweisbar. Eventuell gibt es viele Programmierer, die auch diesen Podcast hören und das bestätigen können oder eben nicht. Aber dennoch hört es sich so an, als würde diese Prognose AI 2027 sich stückweise tatsächlich bewahrheiten mit sich selbst trainierenden Modellen und so weiter. Und ist nämlich auch etwas, was Mat da ganz schön anspricht. Er sagt, ich möchte jedem die Illusionen nehmen, dass die menschlichen Fähigkeiten für immer menschlich bleiben im Sinne davon, dass wenn wir heute sagen, ja, aber ich habe doch diese menschlichen Fähigkeiten wie Urteilsvermögung, Kreativität und so weiter, dass er ganz klar sagt, alles was eine KI heute schon ein bisschen kann, auch wenn es super schlecht ist, wird es innerhalb von den nächsten Monaten bis wenigen Jahren diese Aufgabe sehr gut können. Wahrscheinlich wird das nächste Modell es schon sehr gut können, weil es sich so schnell weiterentwickelt. Und ich weiß nicht, wann ich dich das gefragt hatte, aber ich hatte dich mal gefragt, wie alt schätzt du KI ein? Und ich glaube, das allererste Mal, als ich dich gefragt hatte, war es 4 Jahre alt. Dann war es irgendwann mal 8 Jahre alt. Wenn ich dich jetzt frage, wie alt ist KI, wie alt ist es aus deiner Perspektive heute?
Ja, also ähm es zeigt ein bisschen die exponentielle Entwicklung meiner Antwort jetzt, aber ich würde so sagen 18 19, also so ein ganz schlauer Abi Abgänger, der jetzt so an die Uni kommt und eine große Karriere vor sich hat. Ja, ist definitiv so, dass die dass die neuesten Entwicklung, die neuesten ähm Modelle haben mich da noch mal krass überzeugt. Ich glaube auch, die Bahnrufe ähm nehmen zu und die sollten wir auch echt ernst nehmen, weil es schon schon viele sind, ne? Also wie gesagt, neben dem Bericht, klar we ist jetzt eine Person, aber erstens diesen dieser Bericht ist sehr sehr viral gegangen. Sehr sehr viele schlaue Leute haben den geteilt. Also fühlen sie sich da auch bestätigt und teilen das, weil die das in irgendeiner Weise auch so sehen, die Entwicklung. Und zweitens sind halt gerade die die ganzen Rücktrittssachen bei den bei den großen KI Unternehmen und die die Warnhinweise von den von den wirklich den Leuten, die dafür verantwortlich sind, dass eine sichere KI entwickelt wird. Ja, da kommt vieles zusammen und ich denke jetzt wirklich, dass wir da bald handeln müssen, da erstmal irgendeine Art von Bremse einzuleiten.
Was mir dazu nur einfällt, ist, ich weiß nicht ganz genau, wie man das nennt, aber glaub, es wird immer daran ermessen mit Terrorangen in Flugzeugen. Auch die häufen sich zufälligerweise immer zum selben Zeitpunkt. Also, wenn Eintauerangriff irgendwie mal war jetzt vor einigen Jahren, dann passieren relativ kurzzeitig hintereinander auch sehr viele andere Terrorange, die gar nicht darauf basieren, dass es einen Zufall gibt oder ähm Schicksal oder was auch immer, sondern einfach dadurch, dass der erste anfängt über etwas zu sprechen, der andere sich bestätigt fühlt und dann erste drüber nachdenkt und so auch eine Handlung ausführt. Ich weiß nicht, ob die Parallele ganz ganz klar ist, aber will nur sagen, diese ganzen Rücktritte können natürlich auch einfach aus dem heraus entstehen. Nicht, dass alle in diesem Moment merken, okay, wir haben den Punkt überschritten, sondern vielleicht Rumort es schon seit längerem in diesen Leuten und jetzt wurde dieser erste Impuls gesetzt, darauf können Sie sich stützen und nehmen im Prinzip diesen Schwung mit. Trotzdem zeigt es, in welche Richtung wir uns entwickeln. Ich glaube, dass das jetzt wirklich Anfang des Jahres, Anfang Februar, Ende Januar war wirklich aber auch noch mal ein Zeitpunkt, wo die Leute in in diesen Unternehmen eben gemerkt haben, es geht hier schon los um Kapitalismus, es geht hier schon um das Wettrennen. Wer ist vorne? Enswic, Open AI oder Google? Und ich glaube, ich weiß nicht, wer es war, aber Enwic hat ja dann ein Modell veröffentlicht, um quasi die Modellveröffentlichung am selben Tag von Open AI zu kontern. Und da haben viele Leute eben gesehen oder gemerkt, oh krass, wir einmal einmal das, ne? Ganzen Safety Sachen stehen irgendwie hinten an, wenn es dann doch darum geht, das beste Modell zu veröffentlichen. Und das zweit der zweite Punkt ist eben, dass jetzt ähm scheinbar bei den Leuten ähm real das Verständnis da ist, dass wir auf eine selbstverbessernde KI zusteuern und wenn das eintritt in viele sagen in einem Jahr, dann werden viele unvorhergesehene Sachen einfach eintreten. Ja. Äh gar keine Frage. Es ist natürlich alles dann noch abhängig von den ähm von anderen Faktoren wie Energie. Ja, wir brauchen auch dafür leistungsfähige Datenrechenzentren, damit wir auch tatsächlich so starke KI ähm halten können, die sich dann auch selbst verbessern und vervielfältigen und so weiter. Da kommen dann noch ganz andere Thematiken rein, wie ähm Rechenzentren im All und so weiter oder was andere Länder machen, wie die damit umgehen. Ja, das ist ja nicht nur ein Kampf zwischen Opm und Anthropic, sondern ähm oder Google meinetwegen. Alphabet spielt natürlich auch noch eine Rolle, sondern auch China spielt hier irgendwo mit und vielleicht wissen wir gar nicht, was da teilweise hinter verschlossenen Türen abgeht.
Ich find es so krass, weil dieser Bericht AI 2027, es fühlt sich doch an, als würde er sich stückweise bestätigen. Und es ist irgendwie zynisch darüber so zu sprechen und das mit dem Lächeln so zu sagen, weil es es fühlt sich auf meiner Seite so ein bisschen so an, als hätten wir über Science Fiction gesprochen und auf einmal tritt das ein. Also auf einmal wird dieser Film Realität und soll nicht sein, weil ich hoffe, das Ende wird anders geschrieben und wir sind oder wir haben die Fähigkeit und die Macht das zu tun, dass das Ende anders geschrieben wird. Aber es ist krass, weil hier passiert erstens dieser erste Kampf zwischen den großen ja Unternehmen in Amerika, aber im Hintergrund passiert natürlich auch ein globaler Krieg zwischen Amerika und China, der sich genauso hochpushen könnte oder wird, wenn wir die ersten sich selbst programmierenden Modelle dann aus China sehen werden. Und das wird dann natürlich noch mal ein sehr sehr brisanter Krieg Kampf, ja, zwischen zwei ähm Großmächten und am Ende gewinnt dann derjenige, der die meiste Aufmerksamkeit auf sich zieht, die meisten Energiereserven hat oder was auch immer. Es wird nicht derjenige gewinnen, der die besten Sicherheitsstandards mit dabei hat, weil er sich nur selber ausbremsen wird. Also, ich will dir hundertprozentig recht geben. Wir sind an dem Punkt angekommen. Wir müssen über AI Safety mehr und mehr sprechen. Wir sind alle in der Verantwortung, das zu tun. Und wir sind auch in der Verantwortung als im Prinzip Botschafter rauszugehen, wenn wir uns mit diesen Thematiken beschäftigen und die Leute darauf hinzuweisen und nicht nur, dass wir ähm in einer inzwischen realen Gefahr sind, dass KI uns täuschen kann mit KI Bildern und Videos und Sprachanrufen, sondern wir sind in einer sehr realen Gefahr, dass die ganze Wirtschaft oder äh ein großer Paradigmenwechsel gerade stattfinden kann, den eine Gesellschaft nicht auf diese Art und Weise aushalten könnte.
Ja, schön, dass du das sagst. Ähm WFIX Safety Team hat auch gerade bestätigt, weiß nicht wann es war, die Woche oder letzte Woche, dass ähm dass Claud ganz genau weiß, wenn es getestet wird und beobachtet wird und wann nicht und dementsprechend auch sein oder ihr, die KI ähm das Verhalten anpasst. Also da ist ist auch schon mehr dahinter, als man so denkt, ne? Wenn man denkt, ja, Security Checks sind gemacht für dieses LM, aber ähm da sieht man eben auch, wie schwierig das Alignment Problem wird, wenn wenn KI so schlau ist, das weiß, jetzt werde ich getestet, ich verhalte mich so, wie es wie es die Leute dort wollen.
Black Mirror Theorie oder ähm AGI im Anmarsch? Das ist ähm auf jeden Fall ähm ein bisschen bisschen scary die Zeit. Ähm, ich glaube immer noch, dass wir immer noch alle Strippen in der Hand haben, aber die Lage spitzt sich so ein bisschen zu und ähm ja, ich denke, wir können jetzt noch ein bisschen drüber sprechen, weil uns sind natürlich so ein bisschen die Hände gebunden. Wir haben im Endeffekt überhaupt gar keinen Einfluss darauf, wie sich dies das entwickelt. Wir können bisschen darüber sprechen, wie wir uns als Normalsterbliche vorbereiten können auf die auf die Lage. Wir können sehr sehr gerne drüber sprechen. Ich will eine Sache noch vorher sagen und zwar das der Mat Schuh Schuma ähm der schwenkt auf einmal eine andere Richtung. der der macht erst ein großes Fass auf, zurecht, also gar keine Frage und zeigt uns ganz klar, was gerade passieren könnte, was dieses große Ding ist, was hier gerade abgeht. Aber dann sagt er auch ganz klar: "Leute, das ist trotzdem 2026 wahrscheinlich noch diese Lücke, dieser dieser kurze Moment, wo wirklich noch eine Chance entsteht. nicht nur eine Chance, das alles gerade zu biegen, sondern auch für all diejenigen, die sich gerade mit KI beschäftigen, eine Chance gerade KI wirklich zu nutzen, um einen großen Hebel umzulegen, um der äh nicht die doch die die effizienteste oder intelligenteste Person im Raum zu sein, weil es immer noch so viele Leute gibt, die KI nur h als besseres Google abtun oder mal für eine Übersetzung genutzt haben, aber immer noch die meisten KI nicht richtig einsetzen und damit wirklich etwas erschaffen. Deswegen er macht einen sehr schönen Umschwung, ne? Auf einmal wird es ey Leute nutzt diese Chance. Und das ist ja auch das, was wir glaube ich sehen, was wir auch natürlich irgendwie hervorheben wollen, weil wenn man das macht und dann auch noch die ganzen Sicherheitsstandards ähm im Kopf hat und als Botschafter rausgeht und darauf aufmerksam macht, dann darf man auch die Geschichte anders schreiben. AI 2027 und 2027 eventuell in ein, wir haben es des öfteren goldenes Zeitalter genannt, aber in ein Zeitalter reinlaufen, wo ein Paradigmenwechsel stattfindet, der uns eine ja eine bessere Welt aufzeigt, in der vielleicht weniger Kriege sind, in der vielleicht weniger Arbeitsstunden geleistet werden müssen, in der wir doch irgendwie Zugang haben zu allem, was das Leben lebenswerter macht. Also, deswegen dieser kleine Hink, lest auch gerne wirklich diesen Beitrag äh den wir euch verlinken werden ähm dazu. Es gibt auch eine positive Message innerhalb des Textes und da kannst du jetzt super gerne einsteigen. Es gibt auch schöne Hinweise, was man denn jetzt machen kann, damit man ähm ja dieser Situation entgegenwirkt.
Ja, über eine Sache muss ich tatsächlich lachen, die er geschrieben hat in dem Artikel. Eine Sache, die man jetzt tun sollte oder nicht mehr tun sollte, ist ein ein Kredit aufzunehmen, weil es sein könnte, dass man schon bald seinen Job los ist und den Kredit nicht zurückzahlen kann. Stimmt. Aber ganz ehrlich, grundsätzlich ist ja der Hinweis nur äh er hat er hatte irgendwie gesagt, man soll jetzt einfach anfangen, Geld lieber zu sparen und nicht irgendwie unnötig auszugeben, ne? Das war irgendwie so der Genau, aber finde ich jetzt nicht zu schlecht. Gibt schlechtere Advices. Ja, aber ich ich fand es ein bisschen witzig. Ähm, auf jeden Fall glaube ich, dass wir jetzt ähm wir haben die Entwicklung, die ist da, das jetzt so ein bisschen der Istzustand und jetzt müssen wir gucken, welche welche Etappen gibt es jetzt? Also, ich glaube, die erste Etappe ist ähm jetzt, was du sagst, ist noch ein riesen riesen Potenzial da, aber dieses Zeitfenster schließt sich so langsam. Also ich glaube jetzt zu sagen, ja, ich chill mal mein Leben noch ein zwei Jahre und dann beschäftige ich mich mit KI und mache große Karriere, das ist zu spät. Also ganz ehrlich, der Zug verlässt jetzt gerade den Bahnhof und ich glaube, dass wir dieses Jahr noch tolle Chancen haben, eine tolle Karriere aufzubauen, ein tolles Business aufzubauen mit KI, ne? Auch wenn man das nicht möchte, sollte man sich bei The Ray mit KI natürlich beschäftigen, weil sonst wacht man irgendwann morgens auf und versteht die ganze Welt nicht mehr, ne? Also es ist auch einfach wichtig ähm einfach nur zu leben, sich sich äh einfach gut zu leben in den paar Jahren, dass man sich super aus mit KI auskennt. Aber ich glaube vor allem für Arbeit, für Karriere, das Zeitfenster schließt sich gerade. Aber wenn man sich jetzt noch voll reinstürzt, ist man immer noch hat man noch super tolle Chancen und ist noch früh dabei. Man muss sich jetzt jeden Tag am besten eine Stunde zur Seite legen, irgendwie ähm sich mit den neuesten Sachen vertraut machen, wenn man eher so ein bisschen technisch affine seine eigenen KI-Agenten aufsetzen. Da gibt's ja viele tolle Möglichkeiten mittlerweile oder wenn man eher der Kreative ist, natürlich auch gerne in das ähm in KI Videobereich z.B. reingehen, ne? Gab ja jetzt die Woche auch Seed Dance ist neues KI Videomodell, was natürlich auch noch mal noch mal krass ist, ne? Man s man sieht es ja auch in verschiedenen Bereichen, wie die KI Entwicklung ist. Es scheint einfach kein kein Ende zu geben in der Entwicklung. Es wird einfach immer alles krass besser. Ja, also jetzt ist noch eine tolle Chance, sich viel damit zu beschäftigen und das Potenzial auszuschöpfen. Das das kann jeder erreichen. Aber wie gesagt, dieses Zeit Fenster schließt sich langsam. Und dann kommen wir zu einer neuen Etappe, wo wir wo wir in der Art Transition sein werden. Und diese diese Transition beginnt ähm vielleicht in einem Jahr, wenn die KI sich einfach selbst verbessern stetig. Und dann kommen wir natürlich so ein bisschen in diese, was wir mal bei der ASI Folge gesagt haben, dass die KI sich so schnell verbessern und eine so krasse Intelligenzexplosion da ist, wo es eigentlich keinen Sinn mehr macht, dass das irgendwie Unternehmen oder Business Sachen überhaupt mit Menschen noch in irgendeiner Form gibt, weil dann kann der ganze Wirtschaft, Sektor, Arbeit, alles kann
von KI perfekt viel besser gemacht werden, abgewickelt werden und diese Transition, wie gesagt, die wird schon bald losgehen. Deswegen sage ich, das Zeitfenster schließt sich.
Und dann ähm müssen wir natürlich über ganz andere Sachen sprechen. Da sprechen wir nicht mehr darüber äh wie kann ich jetzt hier ein krasses Business aufbauen, sondern dann sprechen wir darüber ja ähm wie können wir zum Kapitalismus in die in die nächste Epoche einsteigen, ne? Hoffentlich spielen wir Menschen überhaupt noch irgendeine Rolle, ne? Aber ähm hoffentlich kommen wir dann eben in eine Epoche, wo wir darüber reden, ja, wie können wir unsere ähm 40 Stunden die Woche, die jetzt frei geworden sind, wie können wir die anderweitig sinnvoll investieren und äh von wir werden wahrscheinlich nicht mehr irgendwie ähm auf Geld angewiesen sein, sondern ähm wir werden dann ganz neue ganz neue Systeme und Strukturen in der Gesellschaft haben.
So sehe ich das ein bisschen, also diese diese zwei Etappen natürlich kann diese Transition auch sehr sehr lange sein, wird sehr sehr lange sein, denn auch wenn wir super super intelligente KI natürlich haben, heißt das noch nicht, dass die komplett in allen Branchen, in allen Unternehmen quasi übergegriffen haben, weil viele viele Branchen sind natürlich auch sehr sehr langsam und säh, ne? Vor allem vielleicht sowas wie Remter, Ämter, Büro, also da gibt es ähm Steuerkzleien und so weiter. Ich glaube, die sind da gibt es schon viele Vorreiter auf jeden Fall, aber da gibt es viele Prozesse. Ähm du du kannst dein Finanzamt eben äh nicht mit deinem KI-Agenten in Verbindung setzen. Da da wird es lange noch ä so ein bisschen ähm ja Probleme geben.
Aber was ich sagen will, diese Transition, es wird kommen. Die Frage ist ist, wann das kommen wird und wir müssen uns eben jetzt ja einmal die das Potenzial jetzt ausnutzen, was wir haben, aber uns dann auch so langsam vorbereiten auf eine Zeit, die die komm die wir uns alle noch gar nicht vorstellen können. Ich hatte das erwähnt, wo Geld keine Rolle mehr spielen wird, so langsam auf so eine Zeit auch vorbereiten und das machen wir z.B. in den Podcast ganz gerne, ne, dass wir bisschen bisschen drüber schwatronieren, ähm wie wie Julius Herberg in 2035 leben wird.
Finde ich gut. Ich find's interessant, dass du das mit dem Finanzamt ansprichst, weil das ist, glaube ich, auch etwas, was Mert in seinem Blog anspricht. Zwar nicht den Finanzberater, aber den Juristen, wo er von einem Freund spricht, ähm bei dem es sich gerade sehr sehr schnell verändert in der Kanzlei, weil im Prinzip schon die die Einstiegsjobs beim äh Juristen im Prinzip komplett jetzt schon von der KI übernommen werden können und langfristig im Prinzip dann auch der Top ähm Jurist, Topanwalt und was auch immer ersetzt werden kann. Du hattest mir, glaube ich, vor paar Tagen oder letzte Woche erst davon erzählt, dass zum ersten Mal ein Mensch angeklagt oder verteidigt wurde von einer KI. Also es geht schon los, ne? Also es es macht nicht halt vor solchen Jobs. Äh es sind nicht nur die Programmierer, sondern es ist es passiert auch beim Juristen, eventuell auch bald beim Finanzamt. Nein, es passiert nicht beim Bürgeramt. Da passiert es auf keinen Fall. Solange es älster als System noch gibt, ähm wird da gar nichts passieren. Aber trotzdem, es geht schneller, als man denkt.
Paar Sachen, die die dann noch angesprochen werden als Tipps, die ich gut finde und die ich auch so unterschreiben würde, sind unter anderem was er sagt. Klar, er sagt, nehmt keine hohen Kredite auf, gibt jetzt nicht unnötig Geld aus und ähm spart lieber ein bisschen Geld an, um Puffer zu haben. Was er aber auch sagt, investiert bitte eure 20$ und holt euch ein kostenpflichtiges Abonnement bei einem der großen Anbieter und geht in die Umsetzung. Nicht einfach nur mit dem kostenlosen ähm Tool von ChatGBT da ein bisschen seine äh ja seine free äh Anfragen da aufbrauchen, sondern mal richtig reingehen und mal richtig umsetzen und jeden Tag eine Stunde sich mit KI beschäftigen. Heißt nicht jeden Tag irgendwie YouTube Videos angucken, das dürft ihr auch machen. Diesen Podcast könnt ihr euch jeden Tag eine Stunde lang stundenlang anhören. Ähm, das heißt es aber nicht, sondern es heißt eine Stunde lang kreativ ausprobieren, hinfallen, aufstehen, umsetzen mit KI. Das sind Sachen, die wirklich Wirkung haben. Egal mit welchem Tool, einfach machen.
Und was ja auch da sind auch zwei Tipps dabei, die ich sehr sehr gut finde. Zumindest den einen finde ich sehr sehr gut davon. Der erste, den ich weniger gut finde, heißt aber trotzdem ähm auch wenn du dich auf deine auf die manchen menschlichen Fähigkeiten nicht mehr zu 100% langfristig wahrscheinlich verlassen kannst, wie Urteilsvermögen, Delegierung, Kreativität. Es könnte sein, dass auch das irgendwann obsolet wird durch KI. Könnte sein. Ähm darfst du dich aber trotzdem auf deine händischen Fähigkeiten natürlich weiterhin konzentrieren und fokussieren, weil das kann KI tatsächlich noch nicht. Dafür bräuchte es Roboter oder die von dir angesprochene Seite äh Rent a human. Äh du kannst natürlich für die KI auch arbeiten und die ausführende Gewalt sein.
Was ich aber noch einen sehr sehr guten Tipp fand von ihm, ganz am Ende sprach er an sprach er die Eltern an und das fand ich sehr sehr wichtig und sehr interessant. Ähm, weil das ist auch etwas, was wir auch schon mal ganz klar gesagt haben, sich jetzt lange in einer Ausbildung zu stürzen oder lange in ein Studium, wo jetzt schon die Anzeichen sind, dass das langfristig keine Zukunft haben wird. Da ist dann der ähm Hinweis für die Eltern: Überdenkt bitte die ähm ja, die die Wahl der Ausbildung oder des Studiums für euer Kind und seid flexibel. Es kann sein, dass es sich ganz ganz schnell ändert und das ist das, was ähm Darwin uns im Prinzip schon gesagt hat, Survival of the Fittest. Es geht nicht um denjenigen, der der stärkste ist. Es geht um denjenigen, der am anpassungsfähigsten ist, so schnell wie möglich sich an die aktuelle Situation anpassen. Und du hast es auch ein bisschen angedeutet. Du musst dich auch mit KI beschäftigen, auch wenn du keinen Bock drauf hast, weil es wird unsere Welt verändern und Welt bestimmen und ansonsten kommst du hier gar nicht mehr hinterher.
So, also sorry, aber ist ein bisschen wie auf dem Schulhof, wenn wenn ein ein Mitschüler irgendwie deutlich stärker ist, was macht man da am besten? Sich anfreunden mit dieser Person und so ist auch ein bisschen mit KI, ne? Wenn wir sehen, okay, KI überflügelt uns hier in allen Bereichen, was machen wir am besten? Wir wir werden Freund, wir werden Freund mit KI, wir bilden ein Team mit KI und ja, ich glaube, das ist die ähm das so ein bisschen die Strategie, die viele verfolgen sollten, ne?
Ja. Ey, super spannend, ganz ehrlich. Es sind krass spannende Zeiten. Es geht ultra schnell voran. Ich dachte irgendwie vielleicht, also in der letzten Woche dachte ich, diese Woche haben wir irgendwie ein entspannteres Thema, aber es kam schon wieder was brisantes raus. Ich gehe stark davon aus, dass es nächste Woche wieder irgendwas ähm passiert sein wird, irgendwie ein weiterer Schritt in eine Richtung, über die gesprochen werden muss. Ansonsten müssen wir uns mit dem Thema AI Safety noch deutlich mehr auch in diesem Podcast befassen, damit wir einfach auch hier noch mehr Lösung bieten dürfen für alle, die zuhören.
Ich fand es ansonsten eine sehr spannende Folge, super spannendes Thema. Danke, dass du mich heute morgen äh mit dieser Message begrüßt hast und gesagt hast, darüber müssen wir sprechen. Ähm hat sich auf jeden Fall gelohnt. Ähm auch wenn es am Anfang ein ja vielleicht ein negatives Szenario war, ist es einfach dafür da, um einen kleinen Wegruf ähm zu machen, ja, und den Leuten mal zu sagen, passt auf, hier passiert wirklich was Großes gerade und wir müssen doch Fokus darauf setzen. Das ist vielleicht ist dieser Pandemievergleich gar nicht so schlecht. Eventuell stehen wir wieder an so einem Punkt. Ich find es trotzdem schön, dass wir es geschafft haben, den Bogen zu spannen in dieser Folge und auch ein bisschen über die Möglichkeiten in diesen Zeiten und auch über die Lösungen zur aktuellen Situation zu sprechen. Ja, spannende Folge. Danke dafür. Danke für den Austausch, Hendry.
Absolut. Auch auch noch mal der Appell, weil weil ich das auch wirklich wichtig finde, dass dass mehr Leute ähm über das große ähm Bild dieser Entwicklung informiert sind. Schickt den schickt euren Bekannten, Freunden, Familie äh den den Artikel am besten, der der bringt das wunderschön auf den Punkt oder teilt auch gerne den Podcast, denn ich glaube wirklich, dass möglichst viele Leute darüber Bescheid wissen sollten. Und ähm als als Beispiel, was du meintest mit der mit der Bildung, ne, also viele viele Leute ähm haben die KI Entwicklung gar nicht im Kopf und stürzen sich da jahrelang in in eine Sache, die nicht die Zukunft hat, die sie sich erträumen. Von daher, ich denke bei bei vielen Entscheidungen, die man heute macht, sollte man so ein bisschen die KI Entwicklung oder die die große Entwicklung insgesamt so ein bisschen im im Hinterkopf behalten und dann ähm ja, hat man tendenziell ein besseres Leben wahrscheinlich.
Ich fand es auch super spannend die Folge. Glaubt wir haben viele, viele Sachen, viele wichtige Sachen aus dem Bericht aufgegriffen. Und was mir eben als als du geredet hast noch noch aufgefallen ist, ähm je länger wir diesen Podcast machen, umso mehr fällt mir eigentlich auf, wie treffen und wie gut der Name dieses Podcasts ist. Mensch, Maschine, Meinschrift, ne? Also wir wir bewegen uns wirklich auf eine Zukunft zu, wo wo Mensch und Maschine wirklich fast in einem Attenzug genannt werden und so ein bisschen auf auf einer auf einer Ebene stehen. Wer hätte das gedacht vor einem Jahr, als wir angefangen haben, dass wir mit der KI Entwicklung jetzt an diesem Punkt sein werden in einem Jahr schon crazy.
Stimmt. Ich muss mal auch mal unbedingt gucken, wann wir diesen Podcast genau gestartet haben, weil ich glaube äh wir haben wirklich eigentlich ein Jubiläum. Entweder diese Folge oder nächster. Das weiß ich leider gerade nicht ganz genau. Ähm, aber gut, dass du sagst an der Stelle. Okay, ich habe nebenbei ganz kurz reingeguckt und äh ich muss an der Stelle sagen, Henry, herzlichen Glückwunsch. Wir haben es erstens ein bisschen verpasst und zweitens hatten wir ein Jubiläum. Wir haben am 6. Februar 2025 angefangen mit diesem Podcast. Ein Jahr lang haben wir uns jetzt hier schon mit diesem Podcast entwickelt, voranbewegt und viele Themen angerissen. Super interessant. Es tut mir ein bisschen leid, dass wir das irgendwie nicht von außen mitbekommen haben, aber bald steht auch die 50. Folge an, das heißt, dann können wir vielleicht mal ein kleines Special machen.
Sehr cool. Ähm ja, äh auch wenn wir wenn wir uns wahrscheinlich nicht so gut entwickelt haben in diesem Jahr wie die KI, ähm glaube ich, dass wir trotzdem bisschen bisschen besser geworden sind als Podcast Source. Aber ähm hat auf jeden Fall Spaß gemacht. Macht etwas Spaß mit dir, sich auszutauschen und Ja, mal gucken, ob wir noch ein Jahr schaffen. Sehr schön. Schaffen wir auf jeden Fall. Also, wenn die KI das schafft, schaffen wir das auch. Wir hören uns nächste Woche wieder.