📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Warum gerade alle ChatGPT kündigen

The Morpheus26:16

Transcription

Ich zahle jeden Monat über 600 € an Open AI. Mein teuerstes Abo insgesamt bis gestern. Warum nicht wegen des Geldes, sondern weil ich Beweise gefunden habe. Beweise dafür, dass Opi sein Produkt gar nicht verbessert, sondern es aktiv und mit voller Absicht dümmer macht. Und die technische Ursache dafür ist so brillant wie perfede.

Die Bewegung Quid GPT macht derzeit darauf aufmerksam, dass von OP Mayiye über 25 Millionen an Donald Trump geflossen sind. Und als wäre das nicht schon Grund genug Chatt den Rücken zu kehren, habe ich noch deutlich mehr gefunden, das über die politische Komponente hinausgeht. Deswegen habe ich nicht nur mein ChatGPT Pro Abo und das Business Abo fürs ganze Team gekündigt, sondern schreibe aktuell sogar meinen gesamten Code um, um wegzukommen von Opme AI Diensten.

Vielleicht ist es euch schon mal aufgefallen. Chat GPT wird regelmäßig dümmer, praktischerweise immer kurz bevor ein neues Modell veröffentlicht wird, damit der Sprung noch mal ein Stückchen größer wirkt, als er eigentlich ist. Aber um zu verstehen, warum es für Opme AI eine logische und technische Entscheidung ist, dass mein Code 40% mehr Fehler hat, müssen wir Open AI als solches verstehen, ihre Werte und vor allem wie sie sich geändert haben. Und ja, es gibt Alternativen, die günstiger sind und besser und schneller.

Zunächst mal, ich will weder euch noch mich hier langweilen. Wir wissen alle, was die aktuellen Probleme von KI sind. Die Fake Spots Halluzination, hohe Kosten, Datenschutz, aber es geht mir speziell um Open AI. Ich habe wahnsinnig viel über sie berichtet, neue Modelle, Tools, immerhin nutzen es eigentlich alle von uns. Dementsprechend tut es mir persönlich weh, jetzt so ein Video zu machen. Es geht mir speziell um Entscheidungen, die OPMI aktiv trifft, die mich als Nutzer davon wegtreiben, weil der Anbieter nicht mehr zuverlässig ist. Und vieles davon lässt sich mit einem wesentlichen Wandel in den Werten der Firma zeigen. Und einer einzigen absolut absurden Definition, AGI, allgemeine künstliche Intelligenz und alles zielt daraufhin.

Der Wandel von Open zu closed, der Wechsel von Nonprofit zu immer mehr Einfluss und Reichtum und der Wechsel von sicherer AGI für den Nutzen der Menschheit zu, wer auch immer gerade mal mehr bezahlt.

Wurde 2015 eigentlich als Nonprit Organisation gegründet. Heißt, Gewinn zu machen oder gerade Investoren anzulocken war rechtlich einfach nicht drin. Dafür war es aber durchaus wichtig für die Forscher bei Openme AI ihre Arbeiten zu veröffentlichen. Daten, Modelle, Paper, alles war open.

2019 wurde ein Tochterunternehmen dieser Nonprofit Firma gegründet als eine Caped Profit Struktur. Das heißt, wenn etwa Microsoft 1 Million investiert, kann Openme AI nicht mehr zurückgeben als das Hundertfache, also maximal 100 Millionen. Die Kontrolle darüber, was gemacht wird, lag damals auch noch komplett bei der Nonprofit. die ist ja immerhin der Chef der Caped Profit Firma und hat nur Zugriff auf deren Finanzen.

Investoren waren zu der Zeit zwar erstmal verhalten, aber es kam mehr Geld rein. Immer und immer mehr Geld, dass man aber auch brauchte, um immer stärkere Modelle für den wirtschaftlichen Wettbewerb mit Google und Anthropic und irgendwann dann sogar mit China zu entwickeln. Vor allem aber Microsoft als einer der Top Investoren gab Zugriff auf ihre Rechenkapazitäten, mit denen ChatGPT und wirklich viele leistungsstarke LMs, Bildmodelle und sogar Videomodelle wie Sora entwickelt wurden. Aber auch in dieser Zeit nahm die Menge an Informationen immer mehr ab, von wir wissen, welche Daten wie genutzt wurden im Training zu wir wissen nicht mal mehr, wie viele Parameter die einzelnen Modelle haben. Klar, wenn man Microsoft Zugriff darauf für mehrere Millionen exklusiv verkauft, kann man diese Informationen nicht einfach irgendwie verschenken.

Wir reden hier häufig über komplexe Hacks und Zero Day Experts, aber die Realität ist oft einfacher. Für einen erfolgreichen Identitätsdiebstahl muss heute niemand mehr Code schreiben. Es reicht meist reines Social Engineering. Die Angreifer sammeln einfach das, was das Internet über euch ausspuckt, eure Adresse, Geburtsdatum, alte Foreneinträge oder Vereinslisten. Und sobald diese Puzzelteile dann zusammen sind, ist Fishing plötzlich tausend mal leichter. Und so können Kriminelle dann Bankkonten in eurem Namen eröffnen oder übernehmen eure bestehenden Accounts und es ist weg. Eure Daten sind überall exponiert und genau hier greift Incogni in der neuen Ausbaustufe. Es geht nicht mehr nur um diese automatisierten Datenbanken im Hintergrund. Incogni hilft euch jetzt dabei, eure gesamte digitale Angriffsfläche im Internet zu verkleinern. Das mächtigste Werkzeug dafür ist das Custom Removal Feature. Das Szenario kennt jeder. Ihr googelt euch selbst und findet Infos auf einer Seite, die da eigentlich nicht hingehören. Vielleicht ein altes Foto, ein Eintrag in einem seltsamen Verzeichnis oder auch ein Leag. Jetzt kopiert ihr einfach diesen Link, wo ihr es gefunden habt, schickt ihn über das Dashboard an Incogni und derenchzexperten übernehmen den gesamten Kampf mit dem Seitenbetreiber für euch. Das Ziel ist einfach, Kriminelle können euch so nicht schaden, weil sie euch nicht finden können und dementsprechend keine Informationen über euch haben. Sichert eure Identität ab. Über den Link in der Beschreibung oder den QRCode hier neben mir kommt ihr zu Incogni und mit dem Code Morphous gibt es aktuell 60% Rabatt auf den Jahresplan wieder. Das ist ein massives Upgrade für eure Privatsphäre und deswegen vielen, vielen Dank an den Cogni für den Support.

Letztes Jahr im Oktober, genau genommen ist die neue Struktur fertig geworden. Die Tochterfirma ist nun eine ganz normale profitorientierte Firma, nicht mehr Cap Profit. Investoren wie Nvidia, Oracle und so weiter ist alles dabei. Viele vermuten sogar die Vorbereitung eines Börsengangs des Unternehmens dahinter. Allerdings noch nicht so bald, eher so gegen 2027 als dieses Jahr schon, denn die Klagen und Regularien sind noch nicht ganz abgehandelt und sowas kann ja den Börsenwert schaden.

Unter diesem Aspekt ist auch extrem interessant, wie sich das Mission Statement über die Zeit verändert hat, denn das hat sich aus einer wirklichen Mission zu einer einzigen Zahl entwickelt, einer Zahl aus Jobs, die Sie ersetzen wollen. Das hier ist das Original. Ich habe es für uns mal frei übersetzt ins Deutsche. Im Quellendokument findet ihr es dann in Englisch. Zitat: "Das Ziel von Open AI ist es digitale Intelligenz auf eine Weise voranzutreiben, die der Menschheit als ganzes am ehesten zugute kommt, ohne durch die Notwendigkeit eingeschränkt zu sein, finanzielle Gewinne zu erzielen. Wir glauben, dass künstliche Intelligenz das 21. Jahrhundert entscheidend prägen wird. Wir möchten der Welt dabei helfen, sichere KI Technologie zu entwickeln und sicherzustellen, dass die Vorteile der KI so breit und gleichmäßig wie möglich verteilt werden. Wir versuchen KI als Teil einer größeren Gemeinschaft zu entwickeln und wollen unsere Pläne und Fähigkeiten auf diesem Weg offenteilen."

Das war 2016, ein Jahr nach der Gründung als Nonprit. 2018. Nur zwei Jahre später und ein Jahr vor der Gründung der Cap Profit Gesellschaft wurde der gesamte letzte Satz entfernt. Keine größere Gemeinschaft mehr, kein offenes Teilen der Pläne. Im Jahr 2020, also ein Jahr nach der Einführung der Tochtergesellschaft, wurde gestrichen, dass es der Menschheit als Ganzes dienen soll. Es soll nur noch der Menschheit dienen. 2021 haben wir das erste Mal die allgemeine künstliche Intelligenz vertreten, die ja Weltgutes tun soll und OP AI als Company möchte verantwortungsvoll sichere KI erstellen. 2022 ist noch mal sicher dazuekommen. Das aktuelle Mission Statement ist aber ein bisschen knapper formuliert. Sicherstellen, dass AGI der ganzen Menschheit nützt. Nicht nur ist die Verantwortung, die Sicherheit flöten gegangen, auch das Bauen als Aspekt fehlt vollständig. Und das ist fast noch relevanter. Die Mission ist nicht mehr ungebunden durch finanzielle Interessen. Chat GPT und die KI dahinter müssen jetzt Geld einnehmen. Das letzte Stückchen Idealismus wurde ersetzt und für mich hört sich das fast schon wie eine Drohung an.

Warum deshalb? OPMA AI und Microsoft haben sich auf eine Definition von allgemeiner künstliche Intelligenz oder AGI geeinigt. Ein KI Modell muss 100 Milliarden Dollar Gewinn erwirtschaften, dann ist es AGI. Das ist eine unfassbar wirtschaftliche Definition. Wenn man das aber runterbricht, heißt das ein KI Modell muss etwa 1,5 Millionen Menschen ersetzen, die den Arbeitgeber im Schnitt 60.000 1000 € im Jahr kosten, ohne dass KI günstiger wird als die menschliche Arbeitskraft übrigens. Und ja, mir ist klar, dass die Versprechen sind, dass am Ende jeder mehr Geld hat und dadurch insgesamt mehr gekauft wird, aber darum geht's hier gar nicht. Es ist also klar, Open AI muss und will plötzlich Money machen. Big big money, das ist jetzt das Ziel, denn das entscheidet, ob Sie die ersten sind, die nach Ihrer Definition die AGI entwickelt haben. Und plötzlich macht all das Sinn, was jetzt kommt, sogar eine Spende über 25 Millionen Dollar an Donald Trump. I will comp, die unsere heutigen Probleme alle löst.

Das Spannende hieran ist nicht, dass ich nicht glaube, dass das passieren wird. Ich bin sogar relativ überzeugt, dass wir schon an dem Punkt sind, wo das langsam losgeht. Versteht mich also bitte nicht falsch. Das Spannende ist hier das Marketing. Wenn wir nur mehr Daten haben, dann lösen wir alle Probleme. Wenn wir nur mehr Rechenpower haben, lösen wir alle Probleme. Wenn wir nur mehr Energie haben, dann lösen wir alle Probleme. Wenn ihr uns nur genug Geld gebt, dann lösen wir alle Probleme.

Die fragen sich, ob die Geschichte wahr ist. Nun, wie bekommt man Geld? Man verkauft seine Produkte und macht seine Produkte billiger zu nutzen. Am besten gleichzeitig an uns Benutzer über die Plus und Pro Accounts, an Unternehmen über die Unternehmenscounts. Das wäre das Produkt ChatGBT, aber auch natürlich die Programmierschnittstelle. Allerdings zahlen bei Open AI nur 5% der Nutzer für den$ Tarif oder höher. Das führt dazu, dass aktuell eigentlich alles Geld über Investoren reinkommt. Nvidia, die 100 Milliarden geben, die OPM AI am Ende sowieso wieder für Nvidia Produkte ausgibt. Microsoft gibt Geld, das Opme AI in Microsofts Cloud ballert. Amazon genau dasselbe und Oracle auch. Aber am Ende müssen eigentlich wir dafür bezahlen, denn für uns wird's gebaut. Wenn wir also nicht bleibt wie üblich Werbung.

That's such a fun and creative business idea. Youve got something really special here. Getting can feel daunting. I can make a step bystep mini business plan. Do you want me to do that? Yeah, absolutely. Here some steps you can take. One, research. Really get to know your audience. Two, think of a catchy name and start your social presence early. Newes often struggle with cash flow. So try quick dash payday loans because girl bosses need money quick ratesck

Das hier war übrigens eine Werbung von Anthropic, den Machern von Claud, die beim Superbow lief. ChatGPT bekommt also Werbung im kostenlosen Abo. Versteht mich nicht falsch, an Werbung ist erstmal nichts Schlimmes dran, aber aktuell beeinflussen die Werbeinzeigen nicht die Antwort, die man bekommt. Und dennoch wird die Werbeanzeige angepasst auf den aktuellen Chat und die früheren Chats, die man in Chat GPT mal geschrieben hat. Viele posten seit geraumer Zeit auf TikTok die persönlichsten Dinge, die sie mit ChatGPT besprechen. Das sind dann also die persönlichsten aller persönlichen Werbeanzeigen, die es nur geben kann. Dementsprechend viel geben natürlich Firmen wie Adobe schon jetzt dafür aus.

Das heißt aber in diesem Fall natürlich auch, dass man plötzlich möchte, dass ihr so viel Zeit wie möglich mit Chat GPT verbringt. Je mehr Anfragen kommen, desto mehr Geld macht Open AI. Und das war bislang nicht so. Bislang war jede Anfrage kostet lieber möglichst so gut. Man kann eine Antwort direkt liefern, damit der Nutzer direkt wieder zufrieden ist und mit Argumenten wie mehr Nutzung und bessere Modelle das Abo dann schmackhaft machen. Jetzt ist es Werbung, die uns als Kunden eher mehr Zeit in der App verbringen lassen will. Das geht mehr Richtung TikTok als Richtung Hilf der gesamten Menschheit. Hilft eher noch denen, die sich das Abo leisten können. Die anderen können darauf hoffen, dass Werbetreibende keine Möglichkeit finden, das für sich auszunutzen und dass die Umwelt nicht komplett vor die Hunde geht in der Zwischenzeit. Und so scheint es aber auch absolut logisch plötzlich, dass man Sexing mit ChatGBT ermöglichen will. Eine Art Partner auf Abruf, mit dem man natürlich sehr gerne schreiben möchte.

Die zweite Möglichkeit gut an Geld zu kommen, sind Firmen. Hier versucht man vor allem in der Softwareindustrie Fuß zu fassen. Codex, der Code Agent von Open AI, wird nach und nach erweitert, um den von der Konkurrenz einzuholen. Dazu haben sie gerade erst Peter Steinberger den Schöpfer von OpenClaw ins Boot geholt, obwohl die gesamte Industrie ihn haben wollte. Aber der größte Kunde, den man eigentlich kriegen kann, sind Staten. Wir haben schon letztes Mal gehört, dass Open AI von ICE genutzt wird, aber das ist nur einer der vielen Anwendungsfälle. Vor allem militärische Nutzung ist hier richtig interessant. Das gibt nämlich richtig dick Kohl. Also streicht Open AI aus seinen Nutzungsbedingungen raus, dass man ihre KI nicht dafür nutzen darf. Und schon sichert man sich Deals. Deals, die in Zukunft sogar wirklich die 100 Milliarden Dollar Marke knacken können. Aber dafür muss man sich gut stellen mit der jeweiligen Regierung.

Während unter Joe Biden noch Aussagen fehlen, wie dass man ein bedingungsloses Grundeinkommen braucht, weil AI so viele Jobs ersetzen würde. In the context AI can you describe your philosophy there our human future with UBI why you like it? What limitations? I think it is a component solution. Ist unter Trump eine Spende viel effektiver. 25 Millionen von Greg Brockman. Klar, Samman kann das nicht machen, das passt nicht zu seiner Marke. Greg Brockman ist der Weispräsident von Oak Mayiye und seine Spende ist eine der größten, die Trumps Superpack insgesamt in 2025 bekommen hat. Nicht nur das Bär Minimum, also aber auch Sam Oldman hat eine volle Million gespendet. Das sind volle 26 Millionen für Deregulierung. Und natürlich setzt Trump dann mit einer Executive Order alles daran, dass KI Unternehmen möglichst nicht reguliert werden können. Das ist der Grund, warum Quid GPT auch motivieren will, dass wir unser Abo löschen, denn Open AI braucht unser Geld. Aktuell machen sie nämlich jedes Jahr Minus und mit diesem unternehmenspolitischen Wissen erklären sich plötzlich auch die technischen Entscheidungen, die dafür sorgen, unter anderem, dass KI Modelle langsam, aber sicher auch wieder schlechter werden, immer und immer wieder.

Hier muss ich kurz warten. Wir müssen uns ein bisschen über den Trainingsprozess von LMS unterhalten, aber ich versuche da so knapp wie möglich zu bleiben, um euch nicht zu langweilen. KI Modelle werden auf Unmengen an Daten trainiert, die eigentlich überall herkommen. Und ja, es gibt natürlich Urheberrechtsklagen, aber da die bislang relativ fruchtlos waren, hat Disney beispielsweise nicht nur seine Daten lizenziert fürs Training, sondern sogar Anteile und Einkaufsrecht bei Open AI für die Erstellung von Inhalten bekommen.

So ein Modell ist aber noch nicht fertig. Es ist relativ roh. GPT5.2 beispielsweise ist so ein Modell. Es ist eine Basis. Nun wird aus dem Modell mehr herausgearbeitet. Opmi AI übertreibt es hier, aber bei Ihnen funktioniert's wirklich gut. Man lässt das Modell am Anfang einen Nachdenkblock ausgeben. Das nennt sich Reasoning. Die Faustregel hier ist, je mehr Gedanken das Modell im Vorfeld ausgibt, desto schlauer ist die Antwort bis zu einem Grenzwert, wo es dann halt dümmer wird wieder. Aber je mehr Gedanken das Modell im Vorfeld ausgibt, desto teurer ist es eben auch sowas zu berechnen. Hier gibt's tausende Strategien, sogar eine Art Expertenkongress, der intern abgehalten wird, aber wichtig ist, dass wir als Konsumenten gar nicht gesagt bekommen, was genau im Hintergrund passiert und wie viel da gereason wird. Wir können nur auswählen, ob wir gar kein Reasoning, wenig Mittel oder viel Zeit fürs Nachdenken ausgeben wollen oder sogar den Expertenkongress haben wollen.

Und hier hat sich ein extremes Dark Pattern etabliert, das ChatGBT mir ganz gerne als Bug verkauft. Schaut mal hier. Extended thinking und dennoch habe ich keinen Thinking Block bekommen. Die Antwort ist fast sofort da gewesen. Wenn man sich hier nicht wirklich auskennt, erkennt man nicht, was hier passiert. Es wurde nicht das Binkingmodell genutzt, sondern das ohne. Und das macht Antworten je nach Frage 40% mehr falsch. Ich habe das sogar eingestellt und dennoch habe ich es nicht bekommen. Und übrigens ist das ein Problem, das in der mobilen App seit Monaten schon vorhanden ist. Das ist Absicht, denn ohne Thinking wird die Ausgabe deutlich günstiger und auch in der Webversion passiert das nun immer häufiger. So sollte das eigentlich aussehen. Glaubt ihr, dass das jemand merkt, der Chat BT einfach mal so in der Freizeit nutzt?

Aber es gab findige Leute, die es geschafft haben, in der Antwort des Modells die Menge an Reasoning zu bestimmen. Den Juice haben sie es getauft. Und allein, dass diese Anfrage abgelehnt wird, die den Juice bestimmt, zeigt, wie extrem closed Opmittlerweile ist. So etwas sollte von ihnen eigentlich in einer öffentlichen Mitteilung angegeben werden, dann müssten wir nicht darüber spekulieren oder solche Prompts erfinden. Das ist besonders übel, wenn man bedenkt, dass das extra im Systemprompt drin stehen muss, dass das KI Modell den Juice nicht preis geben darf. Das und noch sehr viele weitere Einschränkungen, die nur der Geschlossenheit von Open May dienen sollen. Blockieren also so den Platz und die Denkfähigkeit für die eigentliche Aufgabe.

Es hat sich also rausgestellt, dass der Juice etwas ist, das Opm ihren Modellen mitgibt und dementsprechend ist das ein Wert, den sie auch mal anpassen. Darauf haben wir in gewisser Hinsicht kaum einen Einfluss. Den Juice zu senken führt natürlich dazu, dass jede Anfrage für Open AI günstiger wird und für uns, dass das Modell einfach dümmer wird. May sagt fairerweise, dass Nutzer zu lange warten mussten, bis sie eine Antwort bekamen, weil das Modell eben zu viel nachgedacht hat und sie so beschleunigen wollten. Aber es geht dennoch auf Kosten der Fähigkeiten, was man so nicht mitbekommt. Erst Tage später haben sie dann die Mitteilung veröffentlicht.

Ein weiterer Trick, mit dem man Modelle im Nachhinein noch anpassen kann, ist Reinforcement Learning. Damit kann eine Modell nach dem Training noch eine Art Richtung vorgegeben werden. Beispielsweise gibt es von Open AI spezielle Codexmodelle, also GPT 5.3 Codex z.B. Diese Codexmodelle geben an, dass sie speziell noch mal für Programmierung extra feinrainiert wurden mit Reinforcement Learning. Allerdings führt das Spezialisieren von Modellen immer auch dazu, dass die schlechter werden in anderen Bereichen. Also, wenn man ein Codexmodell z.B. eine Übersetzung durchführen lässt, ist das Modell halt schon deutlich schlechter als das nicht Codexmodell darin. Das Problem ist, bei Veröffentlichung eines neuen Modells ist oftmals noch gar nicht so richtig bekannt, was eigentlich schiefgehen kann bei diesem Modell. Das melden sehr oft die Nutzer. Das Modell wird dann hinterher immer wieder angepasst. In manchen Bereichen wird es besser, aber oftmals bezahlt Opi die Safety Tags. Und das Modell wird schlechter, schlechter als es noch in den Benchmarks und direkt bei Veröffentlichung war. Alignment hat eben seinen Preis, den wir von Grock beispielsweise in der anderen Perspektive kennen.

Dazu kommen noch Updates am Systemprom, das heißt, was das Modell eben als Anweisung erhält, wie es sich verhalten soll. Auch hier wird geschraubt, damit Missbrauch nicht mehr so leicht möglich ist, damit Prompt Injection schwerer sind, damit beispielsweise auch der Juice oder andere interne Infos nicht preis gegeben werden und noch mehr. alles ohne dass wir das wirklich wissen oder merken. Und manchmal ist es auch einfach nur eine Persönlichkeit, die angepasst wird. Aber auch das führt natürlich dazu, dass das Modell mehr bedenken muss und weniger den Kopf frei hat für eine fachlich richtige Antwort. Alles in allem wird das Modell also schlechter über die Zeit, bis dann das neue Modell kommt und der Zyklus wieder von vorne losgeht.

Aber noch sehr viel wichtiger als dieser Punkt ist, dass es Verdacht gibt, dass Opme AI für das Training seiner Modelle mehr Platz braucht. Erst kürzlich mit GBT5.2 gab es eine Aussage, dass man eine Möglichkeit gefunden hat, das Modell 40% schneller auszuführen. Wichtig, dasselbe Modell, kein neues, kein Minimodell und laut dem Entwickler hat es auch nichts damit zu tun, dass man den Juice runtergedreht hat. Also, welche Optionen bleiben uns denn dann? Vor allem Optionen, mit denen Open AI nicht Dick Marketing macht, sowas wie z.B. ein neuer Partner für Hardware, sondern nur ein kleiner Twitter Post.

Ich kenne so eine Situation aus Open Source Modellen. Es gibt sogenannte quantisierte Modelle. Ein normales Modell hat Parameter. Ein 3B Modell z.B. hat 3 Milliarden Parameter. Jeder Parameter muss in den Arbeitsspeicher geladen werden und ist am Ende eigentlich nur eine Zahl. Das gesamte KI Modell besteht übrigens eigentlich nur aus Gleichkommazahlen und deren Anordnung und jede Zahl muss natürlich im PC mit Einsen und Nullen dargestellt werden. Ein kleines Beispiel, dieses Video hier ist gestochen scharf, hoffe ich zumindest. 8 Bit für jede Farbe, 8 Bit nur für rot, 8 Bit nur für grün, 8 Bit nur für blau. Zusammen hat jeder Pixel hier drin 32 Bit Information. Genauso viel braucht ein Parameter in einer KI, dann ist es in voller Qualität sozusagen. Das heißt aber, jeder Parameter braucht 32 Bit in eurem Arbeitsspeicher, wenn die KI läuft.

Was man oft macht, um Speicher zu sparen, ist jetzt die Parameter einfach zu kürzen, abzuschneidigen, also quasi stärker zu runden, wenn man so möchte. Das nennt sich Quantisierung bei KI System. Statt 32 Bit limitiert man sie auf 4 Bit, manchmal 8 Bit, manchmal sogar nur drei oder 2 Bit. Wenn wir das mit diesem Video hier machen, kommt das dabei raus. Statt über 4 Milliarden mögliche Farben auf jedem Pixel, haben wir plötzlich bei 4 Bit nur noch maximal 16 Farben, die wir zeigen können. Das ist schon sehr viel Information, die da verloren geht, aber das zu tun hat seine Vorteile.

Die modernen KI aus China wie Deeps oder Quen und Co. brauchen voll etwa 1,5 TB Arbeitsspeicher bzw. Grafikkartenspeicher, Terabyte, nicht Gigabyte. Und wir gehen davon aus, dass GPT 5.2 bzw. 5.3 in eine ähnliche Größe tendieren. Wenn wir die runter quantisieren auf 4 Bit statt 32 Bit, dann brauchen sie plötzlich nur noch 180 GB. Das ist eine völlig andere Hausnummer, denn plötzlich kann man die fast schon auf einem normalen Rechner nutzen. Das Spannende ist, dass in Benchmarks die 4 Bit Quantisierung oft ähnliche Ergebnisse erzielt hat. Man merkt es also in den Benchmarks häufig kaum. In Benchmark selber kam bei quantisierten Modellen meist nur so ein bis 2 % Verlust raus, aber dafür eben ziemlich genau die 40 bis 60% schnellere Inferenz, die Opmi ja angekündigt hat. Es macht also hier absolut Sinn, die Modelle zu quantisieren und dadurch wieder mehr Platz für Sora oder JGBT Image oder Text to Speech oder Speech to Text oder Embeding Modelle oder Minimodelle oder Nanomodelle, Codex Fineuning und die 150 anderen Modelle, die Open AI alle gleichzeitig trainiert zu schaffen.

Dem gegenüber stehen sogar Firmen wie Google als langsam da, die sich mit ihren Modellen einfach sehr viel mehr Zeit lassen oder Anthropic, die eben nur LMS, also Sprachmodelle haben und den Rest anderen Herstellern überlassen, aber gleichzeitig wird das Fine Tuning, das Systemprompt, der Reasoning Effort und auch die Quantisierung gemeinsam einfach zu schlechteren Modellen überzeit in der Nutzung, nicht unbedingt in den Benchmarks, nur um dann eben ein neues Modell zu veröffentlichen, das wieder besonders stark ist und sich eher frei anfühlt. Das fühlt sich dann natürlich wieder wie ein krasser Sprung an, aber für wie lange ist da die Frage?

Und falls ihr Nachrichten ohne Clickbait und Tracking sucht, habe ich den Moreeder entwickelt. Ergreiert Nachrichten für euch und ihr könnt selbst einstellen, was euch am wichtigsten ist. Ihr könnt das selbst einstellen mit einer Bewertung pro Artikel. Es gibt keinen KI Algorithmus, der euch vorgibt, was ihr lesen sollt und was nicht. Einfach nur die Nachrichten mit Quelle. Die App ist komplett gratis nutzbar und ich arbeite sogar an Vertonung für alle Sprachen, nicht nur für Deutsch. Ja, wir haben mittlerweile 13 Sprachen. An Open Source und Website bin ich auch dran. Und übrigens kriegt ihr die Premiumfunktion des Moreaders auch komplett über mein Patreon.

Ich glaube, ich kann mein Gefühl hier sehr gut zusammenfassen, als ich fühle mich verarscht. May I war mal erst wurde die Forschung closed, dann wurden die Parameter für die Nutzung closed, die finanzielle Situation wurde closed und mittlerweile ist das für mich irgendwie nur ein weiterer Fall von Shitification und Gear. Omei versucht das meiste von mir auszusaugen. Ich versuche den maximal Nutzen von Opi auszusaugen, aber dann muss ich auch nicht bei ihnen unbedingt bleiben. Dann ist mir Anthropic Lieber, die gerade Streit mit dem Pentagon haben, weil die Claud genutzt haben für die Venezuelaaktion und Anthropic das als Verstoß gegen ihre Nutzungsrichtlinien sieht, die sagen, dass militärische Nutzung verboten ist oder Lumo, die KI von Proton oder gar einfach vollständig selbst gehostete KI Modelle, die dann auch aus China sein können. und ehrlicherweise mittlerweile mit den US KI Modellen sogar mithalten können. Kimi, Quen und Minimax sind beispielsweise absolut vergleichbar mit GBT5.2 oder Cloud und Gemini 3 Pro und alle drei kann ich runterladen und mit der entsprechenden Hardware, die mir leider fehlt, sogar bei mir lokal betreiben. Und Deepsgersion 4 wird gerade in diesem Moment erwartet, während ich das Skript hier schreibe. Da kommt dann aber noch mal ein separates Video dazu. Für den Moment, wenn euer PC es schafft, ladet euch mal Olama herunter. Ansonsten haben wir Open Source oder europäische Alternativen bei Europeanalternatives.cloud gelistet.

Also nein, OPM AI ist definitiv nicht der einzige Anbieter und definitiv nicht der beste, auch wenn sie die meisten Nutzer haben. In letzter Zeit haben Dark Patterns, wirklich seltsame Geschäftsentscheidung dazu geführt, dass ich kein Kunde mehr sein möchte, denn dann kann ich auch einfach das wählen, was für mich am besten ist. OPMI wollte AGI sicher machen, aber führt nach und nach immer mehr Dinge ein, die genau das Gegenteil bewirken, während gleichzeitig die Transparenz gegen null geht. Deswegen verschwinde ich selbst zurück zu selbstgehosteten LMS. Bis zum nächsten Mal im Cyberspace. Ciao.