📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

Das neue ChatGPT o3 im Test: Was kann OpenAIs Denkmodell?

Christoph Magnussen11:29

Transcription

Oh mein Gott, 03 ganz konkret und 04 Mini, denn das sind die neuen Modelle von Open AI, die rausgekommen sind. Ah, ich habe vergessen, 4.1 auch noch. Also, es ist so viel los wieder bei Open AI, deswegen dieses Video. Wenn ihr sagt, ihr benutzt ChatGPT im Alltag und zwar auch professionell und wollt wissen, was heißt das jetzt eigentlich für mich ganz konkret, das schauen wir uns an. Ich habe ziemlich Ringe unter den Augen, ich bin seit 4 Uhr wach und habe alles getestet, was zu testen ist. In den letzten Wochen sind einige Modelle bei OPM rausgekommen. Wir hatten schon was gemacht zu 4.5, aber wir haben jetzt auch letzte Woche gesehen 4.1 über die API. Wir haben 03 und 04 Mini. Man kann bei diesen ganzen auch einiges durcheinander bringen. Das Spannendste wird sein für uns alle hier: 03, was 01 ablösen wird, nämlich die Familie der Reasoning-Modelle erweitert um ein neues Modell. Ich fand es wieder interessant: Open AI streamt weiterhin aus der WG, oder wie wir es nennen, aus der Küche, ganz liebevoll. Und dann kann man sich fragen: Warum ist das eigentlich so? Und das liegt einfach daran: Die stecken ihr ganzes Geld in Compute bei 03 ganz konkret: zehnmal mehr Computer, um das Ding zu trainieren. Das heißt, die werden das nicht in der Woche gemacht haben, auch nicht gestern. Das Modell gibt es schon länger, das hat auch im Hintergrund Deep Research angetrieben. Es ist deutlich günstiger, also kosteneffizienter. Das heißt, sie haben jetzt schon angefangen, 01 damit zu ersetzen, also quasi ausgetauscht, weil es natürlich auch für Open AI günstiger ist. Vielleicht müssen sie dann irgendwann nicht mehr aus der Küche streamen. Anyhow, beim Livestream gab es viele Beispiele zum Thema Mathe, Physik und diverse andere Benchmarks. Für mich ist nicht die Frage interessant, wo stehen wir in den Benchmarks in der Matheolympiade oder in der Physik, weil das ist ein super nischiges Thema. Das ist wichtig, weil das ist das, woran man misst. Aber es gibt auch Benchmarks, die das echte Leben messen. Spannender ist: Wie verhält es sich für uns ganz konkret im Alltag? Und das ist eben das Zusammenspiel zwischen einem unfassbar mächtigen Modell und einem verdammt guten Produktteam, die daraus etwas machen, was man wirklich benutzen kann. Und das sind Kleinigkeiten, und auf diese Kleinigkeiten kommt es an, wenn man sagt: Ich will richtig produktiv damit arbeiten. Das ist hier wieder immer passiert. So, ihr wisst, ich bin kein Typ für tolle Features, aber es gibt so ein paar Eckdaten, die sind nicht ganz unwichtig, um zu verstehen, was kann das Modell jetzt anders. Das heißt einmal insgesamt ist diese Multimodalität, also spricht das Reingeben von Texten, Bildern, Dokumenten, das ganze deutlich breiter geworden. Bei 01 war das noch sehr limitiert an vielen Stellen. Gerade der 01 Pro Mode, der wird ersetzt mit irgendwann 03 Pro, und da war es z.B. nicht möglich, mit PDFs zu arbeiten. Das Modell hat Verhaltensweisen in sich drin, das heißt, es kann Dinge tun wie sich gegenseitig Tools zuschieben, mal eine Webrecherche machen, ähm mal sich Code bauen und wieder zurückgehen. Das ist super spannend. Dann werden wir gleich in Use Cases gucken. Dann das ganze Thema Kontext, das haben wir schon bei den Google-Modellen thematisiert. Die Google-Modelle haben einen unfassbar langen Kontext, und für euch oder uns heißt es im Alltag ganz konkret: Wir können plötzlich Cases bauen, damit die vorher gar nicht möglich waren. Man braucht keine eigene Datenbank bauen, sondern man nimmt einfach das riesige Kontextfenster, gibt das rein, und bei 03 sind wir auch hier in der Richtung 200.000 Tokens und vor allem auch 80.000 Tokens raus. Das ist schon eine Lord of Context, und es wird immer immer länger, vor allem auch dieses Jahr. Und das Modell soll deutlich weniger Fehler machen, also weniger halluzinieren. Auch das, ne, wenn ihr euch an die Anfangstage von KI erinnert: Immer ein riesen Thema. KI halluziniert und so weiter. Und ich fand es total offensichtlich, dass das abnehmen wird mit der Zeit, dass man Wege finden wird, das einzubauen. Trotzdem müsst ihr natürlich die Ergebnisse von KI überprüfen. Ist ja klar: Human in the Loop Use Cases. Wenn man morgens bei Blackboard reinkommt, ins Büro, und in der Nacht ist ein neues Modell rausgekommen, muss man damit rechnen, dass man erstmal abgefragt wird vom Chef. Aber ich fand es sehr sehr gut strukturiert, ja, und im Vergleich zu 01 fand ich es auch noch mal inhaltlich mehr tief. So, deswegen wir haben Use Cases ausgetauscht, und ich habe welche ausprobiert. Die Crew hat schon welche ausprobiert. Ähm, das ist das, was Spaß macht, denn es geht um die echten wirklichen Use Cases. Und mein Beispiel, was ich als erstes getestet habe – ich hab zwei getestet – ist ähm relativ simpel. Ich arbeite einmal im Jahr zum Jahresende ein Sixpager, ein Strategy Sixpager aus. Der ist super kondensiert an Informationen, alles eben eh schon auf Blackboard bezogen. Wir kennen uns, wir arbeiten nur mit Kürzeln, anonymisiert und so weiter. Das heißt, ich kann den einfach so nehmen, auch aus vielen Jahren, und sagen: Ich gebe den in die KI. So kann ich damit arbeiten. So, und ich kenne die Schwachstellen natürlich, weil ich den selbst geschrieben habe. Und das, was ich getestet habe, war eben zu sagen: Finde mir diese Schwachpunkte, damit wir jetzt daran arbeiten, das besser zu machen. Beim Pro Mode bei 01 Pro hat es lange gedauert, hat sie gefunden, aber relativ lange. Gesagt: 03 war richtig schnell, also wirklich kurzes Reasoning, richtig schnell. Und man sieht eben oben Christoph, also das Nachvollziehen ist jetzt mal besser angezeigt von Open AI, auch wenn es immer noch nicht das richtige Reasoning ist wie von Deeps z.B. Und kommt dann halt wirklich auf den Punkt und gibt dann halt raus: Das sind die Schwachstellen, so würde ich sie angehen. Und was man sofort sieht bei der Ausgabe: Es ist strukturiert als Tabelle an den richtigen Stellen oder im Bulletpoints. Ich kann euch das jetzt in diesem Fall nicht konkret zeigen, weil das ist eben unser interner Strategieprozess, strategische Fragestellung, knifflige Fragen, die auch offen genug gestellt werden. Da merkt man deutlich, wie die Reasoning Power von diesem Modell wirklich nach oben gegangen ist. Ich würde euch empfehlen, mal mit solchen Fragen zu arbeiten, wo ihr sagt: Das sind herausfordernde Fragen. Wenn ihr sagt: Mir fehlt keine Ein, dann fragt ihr 03: 03, was ist eine herausfordernde Frage, die ich vermutlich nicht beantworten kann, wenn du bedenkst, was ich dir gerade geteilt habe? Zweiter Use Case: Ganz klar, Prompts zu schreiben, gute Prompts zu schreiben. Ist nicht – ich kann schön schreiben. Prompt Design oder Prompt Engineering ist ein Skill. Das Gute ist: Wir haben ein Tool, das kann für uns schreiben. So, das heißt bei Blackboard lernt natürlich jeder am Anfang gutes Prompt Schreiben und Prompt Design. Aber seit es die Reasoning-Modelle gibt, muss man sagen: Gibt's einen riesen Unterschied zwischen: Ich lass mir mal von GPT 4 ein Prompt schreiben oder von einem der OPM-Modelle, also 01 oder jetzt 03, ein Prompt schreiben. Wenn man Deep Research nutzen möchte, sollte man nicht einfach die Frage reingeben und fertig, sondern – und da habe ich ein Video zugemacht – im ersten Schritt sich einen verdammt guten Research Prompt schreiben lassen, vielleicht von einem Gebiet, auf dem ihr euch nicht gut auskennt, und ihr sagt: „Hey, das ist grob die Idee, hilf mir diesen Prompt zu schreiben.“ Und das macht ihr mit 03, und ihr werdet merken, der geht deutlich mehr ins Detail. Wir haben das gerade hier im Büro besprochen. Bin ich nicht der einzige, die es bestätigt, sondern das haben andere auch schon getestet. Geht deutlich mehr ins Detail, und ihr bekommt wirklich dann so ein Brett an Prompt raus und überarbeitet den eben noch mal mit 03, stellt die fehlen und so weiter, und gebt den dann erst an Deep Research. Das Geile daran ist: Hinter Deep Research steckt ja auch 03, und der konnte auch schon auf Website surfen und so weiter. Das Modell an sich kann das ja. Das heißt, während ihr euren Prompt schreibt, sieht er sich, wenn es braucht, aktuelle Informationen schon beim Schreiben dieses Prompts und beim Umschreiben dieses Prompts. Irre, wirklich geil. So eine Kleinigkeit, wo man sagt: Ja, ist doch logisch, aber das musste man vorher sich zusammenklicken und aufpassen. Das ist jetzt in einem Modell, dann feuerfrei, lasst den die Research machen. Und jetzt kommt der zweite Unterschied dabei: Wenn ihr dann mit 01 weitergearbeitet habt, kam irgendwann Kauderwelsch raus. Irgendwann wurde es zu viel, irgendwann konnte der nicht mehr diesen umfangreichen Research einbeziehen. Das heißt, jetzt habt ihr schon mal den Hintergrund, wollt damit weiterarbeiten, musstet jetzt in den neuen Chat gehen, alles nur anfangen. Jetzt mit 03 überhaupt gar kein Problem. Der checkt, was oben lief, geht einmal durch, arbeitet es mit ein, strukturiert es verdammt gut und bringt's auf den Punkt. Also ganz einfacher Prozess mit Deep Research und 03. Ich würde es nutzen. Use Case Nummer 3: Visuelles Denken. Also 03 kann ja diverse Tools benutzen. Das ist schon an sich total geil, aber das Thema: Ich mache ein Foto von dem Workshop, oder ich glaube, das Beispiel, was OP selber geteilt hat, war mit dem Schiff, und das Modell nimmt sich dann das Bild und kann Text und Bild deutlich besser kombinieren. Also, es wird dann reingezoomt, um etwas zu verstehen, nachzuvollziehen und so weiter. Das ist für mich schon – also definitiv nicht AGI, aber schon in die Richtung von: Eine KI kann eigenständiger entscheiden: Hey, da ist eine Problemstellung, die ich bekomme, wie gehe ich daran? Und das zu sehen und zu live zu erleben und zu bedenken, dass wir vor einem Jahr oder zwei Jahren da ein Foto gemacht haben und schon waren so: Boah, daraus kann jetzt irgendwie eine Website gebaut werden. Jetzt geht's halt ein Schritt weiter. Jetzt wird halt eine ganze Anwendung daraus verstanden, nachvollzogen, und weil das Modell auch verdammt gut coden kann. So, und dann habt ihr ein CTO, ne, also alles noch nicht klick und die App ist fertig, aber man merkt halt schon dieses smarte Vorgehen. Und das könnt ihr für Workshops benutzen, das könnt ihr für alle Sachen benutzen, wo ihr mit eben Bildern arbeitet. Und ich würde sagen, das Spannende ist jetzt mal zu testen, wo man deutlich mehr – und da muss man sich jetzt wieder von dieser Verhaltensweise lösen – alles mit Text zu machen, Spracheingabe, wo man deutlich mehr visuell arbeiten kann mit einem Modell, um zu gucken: Wo sind die Grenzen? Weil ich glaube, das ist ein Bereich, der ist in den alten Modellen einfach nicht so gut besetzt, und hier fließt beides zusammen. Also wäre für mich ein Use Case, den man deutlich mehr ausprobieren sollte. Es geht heiter weiter in der Geschwindigkeit, ähm und ich bleib da positiv. Ich halte das grundsätzlich für gut, sage aber auch: Ein verantwortungsvoller Umgang ist wichtig, super wichtig. Ist auch einer der Gründe, by the way, warum wir den 12-Week AI Kurs gelauncht haben. Den findet ihr unter shop.blackboard.com, aber das nur als mini kurzes Ding. Wenn ihr sagt, ihr wollt eben auf der Seite derjenigen sein, die wirklich expert Knowledge, tiefes Verständnis haben, dann – ich glaube nämlich – diese Technologieverantwortung, die müssen wir tragen. Das heißt, wir müssen diesen Umgang in aller Tiefe verstehen. Und 03 ist definitiv noch keine AGI, aber zeigt, wie KI mit Tools, Multimodalität und tiefem Denken am Ende ein Produkt schafft, wo man sagt: Boah, das macht es immer leichter und immer besser im Alltag. Und ich habe das schon in dem ersten Deep Research Video gesagt, was wir Anfang des Jahres gemacht haben: Das ist ein mächtiges Tool, weil ich in 0 nichts ein Thema zumindest mal durchdringen kann, verstehen kann, eine Vorrecherche bekommen kann. Und jetzt habe ich das Modell, was das tut im Hintergrund, um damit weiterzuarbeiten. Ganz ehrlich: Vergesst AGI, versucht erstmal überhaupt den Alltag damit mal schneller zu organisieren, dann ist ein riesen riesen Schritt getan. Und wie gesagt: Verantwortung, andere mitzunehmen, die sagen: Ich verstehe das alles nicht, die tragen wir. Kommentiert, teilt eure Use Cases. Es fehlen bestimmt welche, ich bin mir sicher. Wir haben das Video super schnell gemacht, jetzt direkt nach Laune, insofern kann total gut sein, dass sich da einiges geändert hat, aber wir werden nächste Woche wieder hier auf YouTube sein. Insofern abonniert den Kanal, kommentiert, teilt das Video, denn KI macht zusammen mehr Spaß als alleine.