Warum die Sperre von Claude Fable vorhersehbar war

Vier Tage, solange war das stärkste öffentlich verfügbare KI-Modell der Welt online, bevor die US-Regierung es wieder abgeschaltet hat. Nicht Anthropic, die US-Regierung. Am Dienstag war es noch der größte Launch des Jahres und am Freitagabend bzw. also bei uns Samstag Nacht ist es einfach durch einen Brief aus Washington wieder verschwunden und zwar für alle, sogar für die ausländischen Mitarbeiter von Anthropic selbst, der Firma, die das Modell überhaupt erst rausgebracht hat.

Das war ein staatlicher Notaus sozusagen für ein KI-Modell, das schon eigentlich längst ausgeliefert war und das eigentliche Wilde daran ist nicht, dass es passiert ist, sondern dass man es hätte vorhersehen können. Heute klären wir deswegen drei Dinge und ja, das Video ist ein bisschen spontan entstanden. Ich nehme gerade um 22:30 Uhr auf. Ähm und es tut mir leid, dass manche Informationen vielleicht noch nicht ganz abgedeckt sind, aber drei Dinge: Wie man in vier Tagen von Bestseller zum Verbot kommt und warum das absehbar war und vor allem auch, was für ein wahnsinniges Chaos da gerade im Hintergrund tobt, denn ja, es gibt für diese ganze Sperre nicht nur eine Erklärung, sondern halt drei und die widersprechen sich auch noch gegenseitig. Das ist super. Es ist wirklich großartiges Kino.

Und auch gleich vorweg, weil das später auch noch wichtig wird, das ganze hier ist definitiv kein Hype-Video. Ich teste diese ganzen Modelle ja selbst, auch beruflich, auch in der Softwareentwicklung und der Sprung zu diesem neuen Modell, also Fable 5 ist brutal gewesen. Dieses aktuelle Modell konnten wir tatsächlich alle testen. Wir hatten ja Zugriff darauf und es hat bei mir selbst Code, der eigentlich schon optimiert war, noch mal um den Faktor 14 schneller gemacht. Das Modell läuft stundenlang völlig autonom durch. Ich habe das mehrere Nächte einfach machen lassen. Schreibt komplette Anwendungen, z.B. meine Morph Cook App, die jetzt gerade von Leuten im Playstore getestet wird. Die ist tatsächlich schon fast live. Man muss bei Android erstmal 14 Tage testen, bevor man irgendwas live schalten kann, aber ihr kriegt die App tatsächlich und der Code ist jetzt schon auf GitHub. Deswegen für ein bisschen mehr Infos schaut euch den Live-Test auf dem anderen Kanal an. Da habe ich die ganzen Informationen dazu gebracht. Aber das Modell ist wirklich beeindruckend gewesen und wegen dem paar Tagen, wo wir Zugriff auf Cloud Fable hatten, kann man durchaus sagen, ja, das was Anthropic für ihre Mythos KI angekündigt hat, sieht definitiv nicht aus wie Marketing-Hype.

Deswegen ganz kurz zur Einordnung: Cloud Fable ist eigentlich Cloud Mythos, das was wir schon mal hier auf dem Kanal behandelt hatten, über dies, über das eigentlich die ganze Welt gesprochen hat, nur dass Cloud Fable lobotomiert wurde und bei Fragen zu Cybersecurity und Biowaffen auf das schwächere Modell Cloud Opus 4.8 wechselt, teilweise eigentlich sogar zu häufig und Mythos macht das nicht. Mythos kann diese Dinge auf dem ganz großen neuen Niveau. Mythos kann es sogar zu gut und ist deswegen gefährlich, sagt Anthropic. Klar, das hört sich alles komplett wie Marketing an, aber für alles, was nicht Cybersecurity und Biologie ist, konnten wir das ja selbst testen, dass das aus dem Mythos-Video wohl doch leider kein Marketing-Hype war. Und wenn ein Staat sowas in 90 Minuten vom Netz nimmt, dann ist das eher nicht so wegen nur einer Spielerei, vor allem nicht, wenn die Firma kurz vorm Börsengang steht. Der eigentliche Knaller ist aber gar nicht mal diese Sperre, sondern eben die Machtstrukturen, die wir dadurch richtig in die Fresse bekommen haben und warum Europa natürlich in dieser ganzen Geschichte mit Abstand die schlechteste Karte hält.

Mal ehrlich, wer schafft es schon in einem einzigen Gespräch wirklich zuzuhören und vernünftig mitzuschreiben? Ich auf jeden Fall nicht. Deswegen läuft bei mir für eigentlich jedes ernste Meeting mittlerweile der Plot Note Pro mit. Der Sponsor dieses Videos sieht aus wie ein sehr schlankes Diktiergerät, keine 3 mm dünn. Ist aber eher ein KI Second Brain für Meetings. Vier Mikrofone, die Stimmen bis zu 5 m entfernt, sauber einfangen und auch noch Hintergrundlärm rausfiltern. Bis zu 50 Stunden Aufnahme und ein Display, auf dem ich mit einem Blick sehe, ob das Ding tatsächlich dann läuft. Das eigentlich Stark ist, aber die KI dahinter, die alle Meetings in über 100 Sprachen transkribiert, mir dann daraus To-Do-Listen rauszieht und mit der ich über Ask Plotface über das Meeting eben drüber reden kann. Z.B. was haben wir beim letzten Brainstorming eigentlich beschlossen und dann ist es fertig. Online-Meetings nimmt die neue Desktop-App übrigens auch auf, ohne dass sie so ein nerviger Bot im Call ist. Allerdings eine kleine Sache: Für die KI-Features braucht ihr ab einem gewissen großen Volumen ein Abo. Für normale Menschen sollte das aber eigentlich reichen. Die Daten sind außerdem natürlich verschlüsselt. Plot erfüllt SOC 2, DSGVO und EN1031. Das könnt ihr selber sogar im Trust Center nachprüfen und mir haben sie sogar die Dokumente zugeschickt, damit ich das alles für euch testen konnte. Es gibt außerdem eine 30-Tage-Rückgabegarantie mit dem Code Morphof15 sogar noch mal oben drauf 15% und deswegen auch direkt hier neben mir den Link bzw. natürlich auch unten in der Beschreibung. Sagt aber euren Gesprächspartnern bitte vorher Bescheid, dass ihr aufzeichnet und vielen, vielen Dank an Plot für die Unterstützung in diesem Video.

Aber fangen wir vorne an. Am 9. Juni hat Anthropic Cloud Fable 5 veröffentlicht. Das erste öffentlich verfügbare Modell aus der neuen Klasse der Cloud-Modelle der Mythos-Klasse. Drei Tage später, also am 12. Juni um 17:21 Uhr Ortszeit, also in den USA, bei uns irgendwann von Freitag auf Samstag Nacht kommt dann eine Export Control Directive der US-Regierung. Der Brief, abgeschickt übrigens vom Handelsminister Howard Latnck selbst, verlangt jetzt eine Lizenz. Das heißt, man muss erstmal erlaubt bekommen, dass man das darf für Export, Reexport und sogar den inländischen Transfer des Modells und nennt dabei keinerlei konkrete Gründe. Der Wortlaut ist auch ziemlich spannend gewesen und zwar zielt der formal eigentlich nur auf sogenannte Foreign Nationals, also auf nicht US-Bürger ab, aber eben auf alle nicht US-Bürger, egal ob jetzt in den USA oder halt wie aus Europa. Und das bedeutet inklusive der ausländischen Anthropic-Mitarbeiter selbst. Und weil man natürlich nicht in Echtzeit nach Staatsangehörigkeit filtern kann, wenn man nie nach dem Ausweis gefragt hat, blieb dann Anthropic halt nur eine Möglichkeit und zwar alles abzuschalten, also Cloud Fable und Cloud Mythos für jeden wieder offline zu nehmen. Reuters nennt das eine erhebliche Eskalation, weil bisher trafen solche Kontrollen eigentlich nur Chips und Werkzeuge und jetzt zum ersten Mal den reinen Fernzugriff auf eine KI. Und bis Montag waren die Modelle immer noch offline, während Anthropic sein technisches Team natürlich direkt nach Washington geschickt hat, um die Sache wieder gerade zu biegen. Und bis zum Dienstag, wo ich dieses Video hier jetzt versuchen werde zu veröffentlichen, ist noch immer das Modell Cloud Fable 5 und auch Cloud Mythos 5 nicht mehr öffentlich. Das kann sich aber jederzeit ändern, aber es ist völlig egal für den Rest des Videos. Es wurde hier also eine gewisse Grenze überschritten und die zeigt uns, was hier gerade gemacht wird und ich will euch zeigen, was das für uns eigentlich bedeutet.

So, hier wird's jetzt erstmal ein bisschen wild, denn die einfache Frage, warum eigentlich, hat keine einzelne Antwort, sondern wie ich schon angeteasert habe, drei. Die erste Version: Ein Jailbreak. Ein Jailbreak für Fable 5 ist hier etwas ziemlich Besonderes. Fable 5 ist ja Cloud Mythos, aber ohne die gefährlichen Funktionen und ein Jailbreak würde die gefährlichen Funktionen für alle verfügbar machen, weil alle Zugriff auf Fable 5 hatten. Cloud Mythos soll ja bekanntlich Sicherheitslücken finden, sodass es sogar das Bundesamt für Sicherheit in der Informationstechnik dazu bewegt, bei uns in Deutschland Alarm zu schlagen. Deswegen hat Anthropic Cloud Fable genau diese Fähigkeiten genommen, damit sich nicht einfach jeder einen Profihacker für 50 Dollar im Monat mieten kann. Der Amazon-Chef Andy Jessie meldet deshalb der Regierung, man könne Fable und seine Sicherheitsschranken austricksen und dann doch auf die Mythos-Funktion zugreifen, die eigentlich nicht öffentlich sein sollten. Die Regierung bittet deswegen Anthropic und Net das zu fixen oder eben das Modell zurückzuziehen. Und laut Trump-Berater David Sachs hat Dario Amodai, also der CEO von Anthropic, sich geweigert und den Jailbreak als nicht ernst abgetan. Anthropic hält allerdings dagegen: Ein sehr spezifischer und vor allem nicht universeller Trick sei kein Grund, gleich das ganze Modell offline zu nehmen, sagen sie. Dieselbe Fähigkeit stecke auch in GPT-5.5 und man habe nur 90 Minuten Zeit bekommen von der Regierung und vor allem keine Details zu diesem Jailbreak bekommen und das sei dann wohl keine echte Wahl gewesen, schreibt Anthropic. Die Ironie ist aber, da muss ich ganz kurz mal ein bisschen Fragezeichen entgegenwerfen, dass ausgerechnet die Firma, die KI sehr, sehr gerne und sehr laut und vor allem medial sehr laut mit einer fucking Atombombe vergleicht und am lautesten nach Regulierung ruft, so eine Sicherheitswarnung dann einfach weggewunken hat.

Die zweite Version ist noch ein bisschen brisanter. China. Laut Semfor ein Hauptgrund: Der Verdacht, eine China-nahe Gruppe könnte sich Zugang zum Mythos verschafft haben. Das klingt jetzt insgesamt erstmal nach dem Worst Case für die USA. Nur ist das eine einzige Quelle und niemand sagt, wie genau das passiert sein soll. Und Anthropic sagt, China sei in den Gesprächen mit der Regierung überhaupt kein Thema gewesen, wegen den sie dann das Modell offline nehmen mussten. Aber übel wäre es auf jeden Fall, wie ich im Video zu den chinesischen KI-Modellen schon gesagt habe, haben die sich ja eigentlich sehr, sehr kräftig an den US-Modellen bedient, also Trainingsdaten generiert, um dann selbst auf diesen Trainingsdaten zu trainieren. Das nennt sich Destillation. Zugriff auf Cloud Mythos würde hier natürlich bedeuten, dass die chinesischen Modelle jetzt plötzlich auf sehr viel besseren Ausgaben für die nächsten Generation ihrer Modelle trainieren können. Übrigens, dass dieser Zugriff als so drastisch eingestuft wird, dass man sogar direkt einfach in der Wirkung zieht, das gesamte Modell offline zu nehmen, ist allein schon eine Aussage, wie ich finde.

Aber dann gibt es noch die dritte Version, die alte Fehde sozusagen. Das Pentagon hat Anthropic Anfang des Jahres zum Supply Chain Risk erklärt, weil Anthropic sich geweigert hat, dem Pentagon zu erlauben, Cloud für militärische Zwecke, wie beispielsweise den Krieg zu nutzen. Eine Bundesrichterin nannte diese Maßnahmen dann später wahrscheinlich darauf ausgelegt, Anthropic zu bestrafen. Gleichzeitig hat dasselbe Pentagon Mythos aber trotzdem benutzt, um eigene US-Systeme zu patchen, während es dann doch geplant hat, die Firma loszuwerden. Sachs beteuerte, die Sperre habe mit dieser Fehde eigentlich gar nichts zu tun. Allerdings der Verteidigungs-Hexeth hat öffentlich getwittert, man habe für immer rausgeworfen. Also diese ganz so saubere Trennung, die gab es dann halt doch nicht so offiziell. Laut Axios geht es aber aktuell in den aktuellen Kommunikationsdebatten kaum noch um den Jailbreak selbst. Anthropic hat eine Cybersecurity-Expertin engagiert, um Amazons Bericht, also zu diesem Jailbreak zu prüfen. Und die Regierung sah dann diese Expertin als Radical Democrat und diese Expertin wurde auch gefeiert von Chris Krebs oder Kraps, den Trump gerade erst gefeuert hat, deswegen die US-Regierung diese Expertin nicht ernst nehmen wollte und das ganze ist eine wirklich reine Shitshow. Also einer, der wohl beide Seiten kennt, fasst das ganze so zusammen: Man spreche schlicht verschiedene Sprachen, also die US-Regierung und Anthropic. Anthropic würde kooperieren und mit dem Weißen Haus an allem arbeiten wollen, aber das Weiße Haus wolle auch einfach nur Security sozusagen. Und klar, da spielt dann natürlich auch ein bisschen mit rein, dass sowohl Anthropic als auch OpenAI dieses Jahr ihren Börsengang planen und durchziehen wollen. Und wenn die Gerüchte für diese Woche stimmen, dann kriegen wir diese Woche auch noch Zugriff auf GPT-5.6, wobei man dazu sagen muss, dass GPT-5.6 zumindest nicht auf dem Mythos-Niveau sein soll, aber das werden wir dann sehen.

Aber was auch immer es war, es war zumindest nicht unrealistisch, dass so etwas passieren würde, dass die US-Regierung den Zugang für Non-Nutzer einschränkt. Das Szenario AI 2027 hat genau diesen Reflex vorhergesagt, dass Regierungen ab einer gewissen Stärke eines KI-Modells extreme Moves erwägen würden und Zugang zu Spitzenmodellen wie nationale Macht behandeln. Nur kommt es jetzt halt ein bisschen früher dazu, als es das Drehbuch dieses AI 2027 eigentlich angedacht hat. AI 2027 ist ein Paper, das sich um AI Safety dreht. Es ist ein Vorhersagepaper, deswegen auf jeden Fall nicht in Stein gemeißelt. Aber es geht um die große Frage: Wird KI uns irgendwann mal alle auslöschen? Das ist aber eher ein übergeordnetes Problem in dem ganzen Essay, denn im Kern steckt die Frage: Wer kontrolliert eigentlich wie was die KI wann tut? Es gibt in diesem Szenario einige Weichen und vor allem einige Kompetenzen der KI, an denen wir erkennen können, wo wir gerade sind. Die Weiche, dass eine Regierung den Zugang einschränkt für die öffentliche Bevölkerung, sollte eigentlich erst im Mai 2027 passieren. Zur Einordnung: Wenn es nach dem Paper geht, haben wir dann im Oktober 2027 die große Wahl, ob wir in einen KI-Wettlauf gehen oder den weiter ausspielen wollen und dann am Ende alle von der KI ausgerottet werden oder ob wir AI Safety so richtig schön erforschen. Das ist sehr beruhigend, wie üblich natürlich. Ihr kennt mich. Ausschlaggebend aber sind die Kompetenzen vor allem in den Bereichen Hacking, Biowaffen und Robotik. Und Hacking und Biowaffen war exakt das, was bei Fable ja eingeschränkt nur verfügbar war und nur Mythos wirklich noch kann. Das Mythos, das überhaupt nicht für die Öffentlichkeit verfügbar war. Aber da AI uns alle umbringt, definitiv noch kein Thema ist, warum ist das dann eigentlich so bedeutsam?

Ein Frontier-Modell ist kein Produkt, dass man einfach so austauscht, wenn es nicht passt, sondern es ist ein Kraftverstärker über eigentlich alles, was auf Software oder Textbasis läuft. Und das ist nicht nur Softwareentwicklung, sondern auch Forschungstempo, Cybersecurity, auch für die kritische Infrastruktur, z.B. für eure Wasserwerke oder Stromversorgung, die komplette Kostenkurve der gesamten Softwareindustrie. Und das ist der unheimliche Teil, vor allem die Entwicklung des nächsten KI-Modells selbst. Wer den Exklusivzugang auf das stärkste KI-Modell hält, hält damit nicht nur einen besseren Werkzeugkasten, sondern einen Kontrollpunkt über Vorherrschaft an sich. Das heißt über die schnellste Forschung, die beste Sicherheitspolitik, die billigste Software mit den stärksten Funktionen. Und diese Woche hat live bewiesen, dass dieser Zugang jetzt ein politisches Instrument ist, das jederzeit auch gezogen werden kann und auch wird und das nicht nur gegen China. Es gibt keine europäische Souveränität, wenn unsere Software-, Forschungs- und Sicherheitsbasis an einem einzigen US-Konzern hängt, dessen Output Washington nach Belieben einfach abschalten kann. Diese Abhängigkeit ist eben das Gegenteil von Souveränität. Und vielleicht erinnert ihr euch noch an meine Eier-Theorie aus ein paar anderen Videos. Die ist damit natürlich keine Theorie mehr, sondern Realität. Nehmen wir also an, Anthropic entwickelt Mythos 3 mit der Hilfe von Mythos 2. Ihr seht gleich, warum ich diese Version brauche. Das Playbook sieht dann so aus: Mythos 3 wird intern behalten bei Anthropic. Damit wird dann Mythos 4 entwickelt. Die US-Regierung hat natürlich darauf auch Zugriff. Sie nutzt es dann auch eben intern. Wie wir aus dem aktuellen Verbot gelernt haben, wird aber jedem US-Bürger dann auch Zugriff auf Mythos 2 gegeben, dem Vorgängermodell. Damit kann man jetzt natürlich keine Konkurrenz machen, weil das wäre ja wirtschaftlich irgendwie doof, aber man kann trotzdem sehr viel damit tun. Die Firmen und Bürger in den USA haben dann nämlich einen sehr stark erhöhten Output und können die beste Software für das wenigste Geld entwickeln und sie so zu Preisen verkaufen, mit denen die anderen einfach nicht mithalten können. Ein kleines Beispiel dazu: Ich folge einem Professor, der das aktuelle Cloud Fable auch selbst mal auf Code von ihm getestet hat und laut ihm hatte Fable den Code von ihm um etwa Faktor 15 verschnellert. Das ist umgerechnet, als würdet ihr ein Game entwickeln, das mit 5 Frames pro Sekunde läuft. Aus den USA kommt exakt dasselbe Game mit 55 FPS. Da können wir natürlich dann einfach im Wettbewerb nicht mehr mithalten. Und das ist nur der ökonomisch akute Teil. Zu den gesperrten Kategorien gehörte anfangs nämlich auch Frontier LM Development. Also genau die Fähigkeit, die man bräuchte, um einen eigenen Konkurrenten hochzuziehen. Der Vorsprung verstärkt sich also komplett von selbst, weil wer das beste Modell hat, baut damit das nächstbeste Modell. Und wir in Europa kommen nicht mal mehr dran, um aufzuholen, weil wir erstmal das Mythos 2 Modell bräuchten, um Mythos 3 überhaupt zu entwickeln. Und das ist natürlich nicht die einzige Forschung. Es geht ja auch um Quantencomputing, um Kernfusion. Diese ganzen Hype-Zukunftstechnologien profitieren laut Playbook zumindest von sehr viel schnellerer Forschung durch fähige KI-Agenten.

So, das alles ist aber natürlich ein Zukunftsszenario. Wir sind noch nicht da. Es hört sich extrem dumm an, vor allem bei KI immer noch manche wirklich einfache Fragen komplett falsch beantwortet. Aber dieses ganze Forschung automatisieren Ziel, das ist das offizielle Ziel von OpenAI und das exakt in diesem Moment, wenn wir also diese folgende Staffelung haben: Mythos 3 nur intern, Mythos 2 US und Mythos 1 dann einfach für alle, dann ist das immer noch krass, was wir nutzen können, aber eben längst nicht mehr das, was wir nutzen würden, wenn wir die Wahl hätten. Und ich glaube, damit wird klar, welche Dynamik das Ganze eigentlich annimmt, wenn man so ein Modell eben zurückhalten kann. Was gerade gemacht wird, was mit Mythos gemacht wird und jetzt auch mit Fable. Was soll du tun? Und äh erstmal ganz kurz: Nein, ich bin nicht gegen die Regulierung von der EU. Ich halte Regularien für völlig in Ordnung, aber Regulierung ohne echte Alternative ist natürlich dann einfach eine Abhängigkeit mit, sagen wir mal, gutem Gewissen. Wenn jetzt also schon staatlicher Wettbewerb inzwischen über unsere Wirtschaft entscheidet, dann ist die einzige Konsequenz: Bauen. Ein Mistral beispielsweise, das als die europäische KI ausgebaut wird mit Euro HPC Rechenleistung dahinter, das sind viele, viele Cluster, das Ganze dann als kritische Infrastruktur behandeln und nicht als Startup, das irgendwann hoffentlich mal profitabel wird. Das wäre vielleicht noch eine Möglichkeit und bevor vielleicht noch jemand ruft: Zu spät. Ja, wahrscheinlich ist es zu spät. Den individuellen Ausweg, das habe ich schon im Mythos-Video erklärt, ist wahrscheinlich so nicht mehr wirklich möglich und dabei bleibe ich leider auch. Aber der kollektive Ausweg für uns als Europa, so gering die Chance ist, ist der einzige, der eigentlich noch übrig ist. Und um zu zeigen, wie bezeichnend das alles ist: Diese Woche haben über 40 der wichtigsten Sicherheitschefs die Regierung in den USA angefleht, die Sperre für Cloud Mythos und Fable zurückzunehmen, weil sie den Verteidigern mehr schadet als den Angreifern. Das ist leider eine Entwicklung, die so wegen mir sehr gerne noch ein paar Jahre hätte auf sich warten lassen können. Und nur damit das noch mal ganz klar ist: So viel Gutes man auch mit einem solchen KI-Modell machen kann, von Fortschritten der Medizin bis Open-Source-Entwickeln, so sehr habe ich Angst davor vor dem, was gerade hier passiert. In dem Sinne, bis zum nächsten Mal im Cyberspace. Ciao.