Ulrich Walter: Künstliche Intelligenz für Dummies

Ja, herzlich willkommen, meine sehr verehrten Damen und Herren, im neuen Auditorium des neuen Deutsch-Museums. Könnte man sagen, die erste Hürde haben sie geschafft. Sie haben mit natürlicher Intelligenz den Weg hierher gefunden, nicht mehr zum Ehrensaal, wie viele von ihnen das bisher kannten, sondern in unser neues Auditorium hier. Ich dürfte sagen, könnte sagen, wie ein mehr als eine Viertelmillion Besucher seit 7. Juli diesen Jahres, als wir hier das neue Deutsche Museum – denn die erste Hälfte des generalsanierten Deutschen Museums – wieder eröffnet haben. Ich begrüße auch die Menschen, die uns – wir livestreamen heute Abend – zuschauen. Ich weiß, dass es sehr viel mehr sind als hier im Auditorium sich befinden, aber es hat immer noch mal einen Vorteil, wenn man die Vortragenden – und einen solchen Vortragenden wie wir heute haben – als Besonderheit ist das schon, wenn man da spüren, riechen, schmecken, die Moleküle einatmen kann. Wir haben ja Angst von den Dingen, die wir nicht kennen. Das ist ein ganz normales, natürliches Gefühl und Phänomen. Und so schreibt auch Professor Ulrich Walter für den heutigen Vortrag am Beispiel der Elektrizität: Solange man sie nicht kennt, hat man Angst davor, vielleicht auch zurecht. Das wollen wir mit der Serie – die jetzt auch schon 30 Jahre alt ist – „Wissenschaft für jedermann“ im Deutschen Museum ändern. Wir wollen sie mitnehmen auf die Reise in die Zukunft. Und heute haben wir absolut Zukunft auf dem Programm, denn das Problem mit KI heute ist – wie Professor Walter schreibt – dass ein normaler Mensch sie nicht versteht. Jetzt könnte ich fragen: Wer von ihnen ist normal? Wenn Sie die Hände heben, und wenn Sie es nicht heben, dann würde ich davon ausgehen, dass Sie KI verstehen – künstliche Intelligenz. Deshalb haben wir heute Abend einen Vortrag mit dem Titel „Künstliche Intelligenz für Dummies“. Sie kennen vielleicht diese berühmte Serie, die ja auch gewisses Alter hat: „Computer für Dummies“, „Elektronik für Dummies“, aber heute Abend wird uns Professor Walter mitnehmen auf die Reise in die Zukunft der KI.

Ich darf kurz zu ihm sagen, dass er natürlich – und eigentlich ist es Eulen nach Athen tragen – uns allen bekannt ist, seit er die D2-Mission 1993 auf dem Space Shuttle mitgemacht hat, als Astronaut von dem – vom Space Shuttle – auf diese Erde geblickt hat. Und ich weiß nicht mehr genau, wie viel hunderte Male das Deutsche Museum überflogen hat, und jedes Mal, als das geschehen ist, hat er heimatliche Gefühle bekommen. Das ist doch wunderbar, dass auch ein Astronaut jenseits aller Rationalität und Physik heimatliche Gefühle bekommt, wenn sie ans Deutsche Museum denken. Er beschäftigt sich in – an seinem Lehrstuhl an der TU München – Raumfahrttechnik, mit Echtzeitrobotik im Weltraum, aber auch neuerdings mit Servicerobotik, insbesondere Robotik-Assistenz auch für ältere Menschen, wo wir das Thema Geriatronik geprägt haben, mit dem neu entstehenden Campus unserer Universität – unserer gemeinsamen Universität – der TU München in Garmisch-Partenkirchen. Er ist allen von uns höchstbekannt durch viele, viele Fernsehsendungen, Moderationen. Wann immer etwas geschieht – und es geschieht viel in letzter Zeit in New Space, im Weltall oder im nahen Weltall – dann wird er als Experte eben ins Studio gebeten. Und ich glaube, das können wir alle wirklich feststellen und sagen: Wie kaum ein anderer, eigentlich wie niemand anders, kann er einfach erklären, was eigentlich komplex ist und kompliziert. Er ist Träger des Bundesverdienstkreuzes erster Klasse, Träger des Bayerischen Verdienstordens, Mitglied im Bayerischen Ethikrat, Präsident des Hermann-Oberth-Museums in Feucht – auch da ein Aufruf, sich das mal anzuschauen: Hermann von Obert, Vater der Raumfahrt, auch bei uns in der neuen Raumfahrtabteilung thematisiert im dritten Stock. Er hat viele, viele andere Preise, Auszeichnungen, Ehren – das würde jetzt zu weit führen – aber auf eines will ich schon noch hinweisen: Ulrich Walter, unser Astronaut, erklärt fast alles – die verrückte Welt der Physik – aber runtergebrochen, so dass wir das auch verstehen können. Und es sind sehr viele praktische Tipps drin. Ich habe sehr profitiert davon. Ich habe sie auch schon mehrmals gesagt, beim – bei der Frage, die ja endgültig geklärt hat, ob man die Heizung abdrehen soll, wenn man ein paar Tage das Haus oder die Wohnung nicht bewohnt, was – wie es energetisch günstiger aussieht. Aber da werden viele Themen aus der Praxis angesprochen, und Sie können das Buch auch hier oben am Bücherstand nachher, wenn Sie wollen, vielleicht sogar mit der ein oder anderen Signatur erwerben.

Ich möchte Sie noch darauf hinweisen, dass wir hier – wenn Sie sich gefragt haben, was das bedeutet – eine Ausstellung haben, eines – einer Kooperation – einer universitären Kooperation des Deutschen Museums mit den Universitäten in München, LMU, TU, Max-Planck-Gesellschaft zum Thema „Ursprung des Lebens“, eines der Themen, die alle Menschen im Innersten betrifft. Und auch da lade ich Sie ein, in den nächsten Tagen oder Wochen diese Sonderausstellung mal sich anzuschauen. Das ist eine Reise auch in die Vergangenheit, aber auch zugleich in die Zukunft. Aber heute Abend wollen wir uns das Thema „Künstliche Intelligenz“ vom Professor Ulrich Walter erklären lassen. Ich freue mich, dass er bei uns ist und in bekannt charmanter Art und Weise und mit auf die Reise nimmt, und wir am Ende gar nicht merken werden, dass wir jetzt alles verstanden haben. [Applaus]

Ja, vielen Dank, Wolfgang, für diese sehr herzliche und nette Einführung. Sie werden sich fragen: Warum erklärt ein Astronaut etwas über künstliche Intelligenz? Und das werde ich Ihnen auch näher bringen, warum ich Ihnen das erklären möchte. Ich habe da nämlich einige Erfahrung – ich hoffe ja – in künstlicher Intelligenz, weil wir nämlich gemeinsam an einem Projekt arbeiten – Geriatronics. Professor Walter hat schon erklärt, ich werde ein bisschen darüber erzählen, also wie ich zur künstlichen Intelligenz gekommen bin, aber dann direkt einsteigen: Was künstliche Intelligenz ist, und was sie vor allen Dingen nicht ist. Und ich hoffe, dass jeder – nein, ich weiß es – jeder wird es verstehen. Zunächst freue ich mich, dass so viele hier erschienen sind. Ich schätze mal, sind ungefähr 100 Menschen. Ich begrüße auch die Leute im Internet und freue mich, dass die Zuschauern – wir wissen auch, dass hinterher – nach diesem Vortrag – über Monate viele sich einklicken, um sich das noch mal anzuschauen. Das können Sie gerne natürlich auch; das wird dann im Internet wahrscheinlich auf YouTube erhältlich sein. So, und damit möchte ich direkt loslegen: „Künstliche Intelligenz für Dummies“. Damit steht nicht – und das wissen Sie, Regel hat es gerade erklärt – nicht, dass Sie dumm sind, sondern „Dummy“ = unerfahren. Sie haben keine Ahnung; Sie sind ein normaler Mensch und haben schon immer sich gefragt: Was ist das eigentlich? Und Sie kennen das im Journalismus: Irgendwie reden die dann drum herum, und Sie lesen das und sagen: Ich habe es nicht verstanden. Und das liegt meistens daran, dass der Schreiber es nicht verstanden hat. So ist das meistens; davon können Sie meistens ausgehen. Und das gilt eigentlich für alle Bücher: Wenn Sie was nicht verstanden haben, heißt das eigentlich immer: Er hat selber nicht verstanden. Leider wird viel geschrieben ohne Verstand, aber ich versuche das heute Abend eben auf die Reihe zu kriegen, dass Sie es eben auch verstehen können. Sie sehen hier in diesem Bild sozusagen eine – eine Ikone – zwischen der künstlichen nicht Intelligenz, aber doch einer mechanischen Hand und einer menschlichen Hand. Und Sie kennen das; das ist dieses berühmte Bild in der Sixtinischen Kapelle im Vatikan, wo sozusagen Gott und Mensch zusammenkommen, also zwei Welten treffen sich, und das soll dieses Bild jetzt auch symbolisieren.

Wir schauen uns mal jetzt das hier an. Sowas kennen Sie; sowas findet man im Internet. Und die Frage, die ich sozusagen stellen möchte, ist: Was kann so ein Roboter – und das ist so ein typischer Roboter – wirklich? Nun, zunächst muss man wissen, dass so ein Roboter eigentlich drei wichtige Dinge hat, hier so ein Roboter ausmachen. Das erste ist: Er braucht Sensoren. Sensoren heißt: Er muss mit der Umwelt interagieren können. Wir haben unsere Augen, Hände, Taktilität, etwa dass wir können hören, schmecken und so weiter. Das sind Sensoren. Diesen Input oder diese Information von diesen Sensoren, die werden ins Gehirn weitergeleitet, dort werden sie verarbeitet, und dann gibt es – und jetzt spreche ich halt in etwas Fachsprache – Output, der wird an die sogenannten Aktuatoren weitergegeben, und das sind Arme, Hände, wie auch immer; ich kann mich bewegen. Die Muskeln sind die Aktuatoren, so heißt das in der Fachsprache, nur das ist mal gehört haben: Sensoren und Aktuatoren. Und die Intelligenz vermittelt jetzt zwischen dem Input – den Sensor-Informationen – und dem Output. Das ist ein wichtiger Punkt. Wenn wir so ein Roboter also wirklich etwas Vernünftiges zusprechen wollen, dann müssen wir dreierlei haben: Sensoren, Aktuatoren und eine Intelligenz. Das sollten Sie im Hintergrund behalten, im Hinterkopf, wenn wir über KI sprechen. Wir abstrahieren davon und schauen uns sozusagen nur dieses Gehirn an, nur die künstliche Intelligenz, und erwarten, dass irgendwoher der Input kommt und dass wir irgendwie ein Output erzeugen, der allerdings dann nicht mehr in Aktuatoren umgesetzt werden muss. Am besten ist natürlich, wenn es in Aktuatoren umgesetzt werden kann, aber die künstliche Intelligenz beschäftigt sich wirklich nur: Wie verarbeite ich Input-Informationen zu Output-Informationen?

So, wie begann alles? Wie begann diese Robotik? Und ich schaue mir zunächst erstmal nur diese Aktuatoren an, das sind nämlich sehr wichtig, denn damit kann ich etwas tun. Und alles begann – und das sehen Sie hier – mit einem Roboterarm. Und dieser Roboterarm flog – und das finde ich eben, das ist – finde ich so toll – zum ersten Mal auf meiner Mission – jetzt noch immer schauen, hier fällt irgendwas runter, ich muss das wieder um mein Ohr tun – so, das flog zum ersten Mal auf meiner Mission, der sogenannten D2-Mission. Sie sehen das hier; die war im Jahre 1993, und das war in der Schwerelosigkeit damals auf dem Shuttle. Der Vorteil in der Schwerelosigkeit ist, dass ein Arm kein Gewicht hat, und deswegen kann man solche Arme schlanker bauen als auf der Erde. Die brauchen da nicht so klobig sein; sie tragen sich sozusagen automatisch selber. Und damit begann eigentlich die sogenannte Service-Robotik, und was das ist, werden Sie gleich noch sehen. Jemand, der sozusagen diesen Arm wirklich gebaut hat – vielleicht haben Sie von dem gehört – ein ganz berühmter Professor: Professor Gert Herzing. Er hat damals beim DLR gearbeitet, ist heute im Ruhestand, aber er ist der Vater dieser Art von Robotik. Und Sie werden gleich sehen, das ist eine intelligente Art von Robotik, das werden Sie gleich sehen. Also, im Jahre 1993 begann alles. Hier sehen Sie auch, wie ich dann an diesem Roboterarm trainiert habe. Hier sehen Sie nur die Greiferhand; der restliche Armteil dahinter ist jetzt nicht zu sehen. Und wir haben damals gezeigt, dass man mit so einem Arm im Weltraum arbeiten kann, und das ist für Astronauten sehr wichtig, denn man möchte nicht immer selber alles tun. Eigentlich immer – an das muss draußen irgendwo auf der Raumstation was repariert werden – sich den Raumanzug anziehen und dann rausgehen und arbeiten ist nicht immer – das kostet viel Zeit. Am besten man hat draußen einen Roboterarm, und so ist das heute auf der Raumstation, und von innen wird er dann gesteuert. Und sowas nennt man dann Telepräsenz. Und das mache ich heute bei mir am Lehrstuhl. Hier sehen Sie, wie ich an einen – so einen Steuerknüppel – sozusagen sitze. Hier unten sehen Sie, das tatsächlich ist das ein bisschen komplizierter als nur ein Knüppel, und ich sehe über ein Video, und zwar dreidimensional. Deswegen habe ich hier eine sogenannte Shutterbrille auf. Das heißt also: Ich sehe abwechselnd immer nur mit einem oder anderen Auge, aber abwechselnd heißt mit 30 Hertz. Und tatsächlich werden da zwei Bilder projiziert, das können Sie hier sehen, aber der Shutter macht es so, dass immer nur ein Bild auf das linke und das andere Bild auf das rechte Auge kommt, und dadurch kann ich Stereo schauen, und damit habe ich einen Tiefen-Eindruck. Das heißt, ich kann mit diesem Steuerknüppel den Arm – den Sie hier oben sehen – den kann ich also jetzt benutzen. Ich kann auch in die Tiefe sehen; ich kann also den Arm nach vorne und nach hinten führen, und natürlich seitlich, das kann ich genauso gut machen. So, und damit habe ich trainiert, und das habe ich damals auf dem Shuttle im Weltraum dann wirklich durchgeführt und gezeigt, dass man einen Roboterarm im Weltraum sehr gut benutzen kann, um nicht selber im Weltraum irgendwas zu machen, sondern das kann man dann schön vom Shuttle aus machen.

Aus diesem Arm – Sie sehen hier – wurde dann ein ganz berühmtes Teil, der sozusagen der erste Roboter, der wirklich diese Aktuatoren hat – entwickelt also aus ROTEX – so hieß unser Experiment – entstand dann Justin – Justin, der Space-Roboter. Und Sie sehen schon: Ah, da sieht schick aus, ist in blau. Ja, wenn wir das vergleichen mit dem ersten – schauen Sie mal – das ist natürlich eine ganz andere Qualität. Das ist sozusagen – so kommt aus dem Labor – und dann ist er eben schick in dieser Art, und er hat jetzt zwei Arme, er hat schon Finger – zwar nicht fünf, sondern nur vier, aber immerhin hat er sowas – und damit kann man schon was machen. Sie sollten allerdings wissen, dass das von außen sehr schön aussieht, aber – und jetzt geht das leider nicht – jetzt kommt er doch – alles was dahinter ist, ist ziemlich hohl. Da ist nämlich nichts drin. Ja, das heißt, nach hinten geht ein ziemlich langes Kabel, und die Intelligenz sitzt dann auf irgendeinem Rechner dahinter. Also, hier ist noch die Intelligenz getrennt von den Aktuatoren, obwohl der hier oben tatsächlich Sensoren hat, das heißt, er hat zwei Videokameras. Das heißt, diese – diese Information geht dann zu diesem großen Rechner, und das sind ziemlich große Rechner, weil wir müssen ziemlich viel rechnen, und dann wird das wieder zurückgespielt auf die Arme, und dann kann er sich bewegen. Das ist der heutige Stand der Dinge. Inzwischen benutzt man solche Service-Arme für die sogenannte Service-Robotik. Was ist der Unterschied zwischen Service-Robotik und den Robotern, die Sie vielleicht gesehen haben in irgendwelchen Autokonstruktionshallen, wo die eben Schweißarbeiten machen? Sowas kennen die meisten. Der Unterschied besteht darin, dass die Roboter heutzutage in diesen Schweißhallen immer nur eine bestimmte Bewegung machen, aber das äußerst präzise, und sie machen nur diese Bewegung, und sie können nichts anderes. Das ist die bisherige Robotik. Die Service-Robotik heißt: Ich habe einen Roboterarm, der sich flexibel auf geänderte Bedingungen einstellen kann, und damit kann ich solche Arme auch benutzen, um mit Menschen zusammen etwas zu machen. Das heißt, solche Arme können dem Menschen bei seiner Arbeit helfen. Das ist ein riesen Unterschied: Als ein Roboterarm bei Audi oder sonstwo, der in einem Käfig ist, damit er ja keinen Schaden anrichten kann, als diese hier. Das birgt natürlich Gefahren, denn der Roboterarm muss wissen – nein, wissen ist falsch – er muss merken, wenn ich einen Menschen berühre, dass er anhält; er darf keinen Schaden anrichten. Das ist eine große Herausforderung. Das heißt, er muss irgendwie merken: Ah, da ist der Mensch, das muss ich mich zurückhalten, und dann doch wieder arbeiten. Und dann erst funktioniert ein sogenannter Service-Roboter wirklich. Und diese Service-Robotik, das ist heutzutage die Krone der Robotik, das will heute jeder, denn man braucht Unterstützung bei der Arbeit. Es gibt nach wie vor diese Schweißroboter bei den Autoherstellern, die machen ihre Arbeit perfekt, aber die müssen für jeden neuen – für jedes neue Auto – umprogrammiert werden. Das brauchen wir bei solchen Service-Robotern nicht; das ist der große Vorteil. Also, der Weg ist hin zu solchen Service-Robotern, aber die brauchen – wie Sie schon merken – Intelligenz. Die können nicht irgendwie so programmiert werden, sondern die müssen reagieren auf die Umwelt, und das ist die große Herausforderung.

Wir benutzen solche Arme inzwischen auch für diese Geriatronik. Hier sehen Sie ein typisches Beispiel. Hier sehen Sie so einen Roboter; der hätte jetzt auch diese – aber die sehen anders aus – als ein anderer Hersteller. Ist der Hersteller heißt Franka Emika, hat ihren Sitz auch hier in München, und wir benutzen diesen Roboter, um alten Menschen zu helfen. Das ist die Grundidee, denn wenn so ein alter Mensch irgendwo alleine lebt, dann braucht er manchmal Hilfe, und dieser Roboter soll ihm helfen. Ja, so sieht das im Augenblick aus. Das Ganze ist installiert übrigens in Garmisch-Partenkirchen, und deswegen heißt dieser Roboter – den Sie auch sehen – Garmi. Okay, also Garmi, der Roboter, der in Garmisch-Partenkirchen alten Menschen hilft. Jedenfalls probieren wir das so. Und der hat eine gewisse Berühmtheit erlangt. Sie sehen das hier; hier ist Garmi umringt mit all den Wissenschaftlern – und allerdings auch Politikern, die jetzt damit prahlen. Ja, also hier sehen Sie ja – hier sehen Sie hauptsächlich Wissenschaftler – den kennen Sie ja inzwischen – hier sehen Sie mich, weil ich eben auch Teil dieses Ganzen bin. Ja, und die Politiker interessieren sich eben auch dafür. Hier haben wir mal ein anderes Bild; auch die Politiker wollen dann halt damit prahlen, ist auch klar, ist ja auch in Ordnung. Also, hier sehen Sie Frau Merkel – den kennen Sie natürlich auch – und alle schauen – sie haben große Erwartungen an den Garmi. Die Frage ist: Wie funktioniert Garmi? Und jetzt zeige ich Ihnen mal, wie Garmi funktioniert. Das Ganze sieht dann so aus tatsächlich. Also, sehen Sie jetzt hier auf der linken Seite sehen Sie den Garmi, und er gibt jetzt einem Patienten – das soll der Links auf der linken Seite sein, der Patient sein – er gibt ihm die Hand. Kann Garmi einem Patienten – einem älteren Menschen – das – jetzt in jünger – die Hand geben? Die Antwort: Leider nein. Er selber kann das überhaupt nicht. Er hat zwar einen Video-Teil, Stereo, aber das wird zurückgespielt zu einer ganz anderen Person, die irgendwo – und der kann dann irgendwo sitzen. Tatsächlich ist das so: Dieser Garmi sitzt in Garmisch-Partenkirchen, und dieser andere – der sogenannte Operator – sitzt typischerweise hier in Garching – da sitzen wir ja – und der kriegt dieses Video-Bild, und er hat jetzt dieses Eingabegerät. Tatsächlich sind das genau dieselben Arme, und damit arbeitete – und wenn er so macht, dann macht Garmi eben auch so. Und dann merken Sie gleich: Okay, Garmi hat keinerlei Intelligenz; die Intelligenz ist tatsächlich in diesem Kopf. Ja, so ist der heutige Stand, und jetzt versuchen wir natürlich diese Intelligenz – die aus diesem Kopf ist – hier reinzubringen. Das ist natürlich das Langfristige, und dann hätten wir wirklich einen guten Roboter, der nicht nur Sensoren hat und Aktuatoren, sondern eben auch Intelligenz. Sowas sind wir noch nicht, aber wir sind dabei, beides zusammenzuführen. Das ist langfristig unser Ziel, und damit geht es wirklich um künstliche Insel: Wie kriegen wir die künstliche Intelligenz in diesen Garmi rein? Um das zu beantworten, müssen wir uns erstmal wissen: Worum geht es eigentlich bei künstlicher Intelligenz? Was muss künstliche Intelligenz können, um sie als intelligent zu bezeichnen? Nun, was bedeutet das? Das ist heute ziemlich gut; es gibt eine Vereinbarung unter den wissenschaftlichen – sagen wir – Welt, mit allen Sinnen so erfahren, mit ihr zu interagieren können wie ein Mensch. Und das ist es ja: Ich sehe Sie, ich reagiere darauf, ich – aber werde mit meinen Armen – ich sehe ihre Gesichter und reagiere darauf. Das muss eine gute Intelligenz auch können: Ein Roboter, der Aktuatoren hat und dieses Sehen auch verarbeiten kann. Zweitens: Daraus muss mindestens ein gleich gutes Verständnis der Welt durch selbstständiges Lernen ableiten. Das ist sehr wichtig: Intelligenz bedeutet: Ich verstehe die Welt und weiß deswegen, was ich zu tun habe. Wenn ich da hinten irgendwo – weiß ich – ein – ein Tier sehe, dann wird das mein Blick erregen, meine Aufmerksamkeit erregen, weil das etwas Ungewöhnliches ist. Das ist Weltverständnis, weil ich weiß: Hier gehört ein Bär nicht rein, sonst würde das vielleicht einer anderen Person – der wie auch immer – nicht auffallen. Aber wir Menschen haben so einen Instinkt – da – die Erfahrung an Weltverständnis – was wichtig ist im Leben, selbst wenn es noch so klein ist oder nicht. Sie kennen das: Wenn Sie abends im Wald sind, dann interpretiert Ihr – überinterpretiert Ihr Gehirn schnell irgendwelche Schatten als bösen Wolf oder wie auch immer. Das ist genau das, was ich meine; das ist dieses Weltverständnis. Also ein Beispiel: Sie sehen das hier; das ist eben die Service-Robotik; das ist wirklich ein guter Weg hin zur künstlichen Intelligenz, wenn die Intelligenz wirklich im Roboter steckt. Sprachverständnis: Also, kann jemand Sprache verstehen und dann auch übersetzen, also Sprachübersetzung, Bildverarbeitung oder Mustererkennung. Ne, der Mensch kann Gesichter hervorragend wiedererkennen. Wenn Sie so ein Klassentreffen-Foto haben, Sie kennen das, oder wie auch immer, da können Sie schnell aus 100 Gesichtern – selbst wenn das Foto nicht scharf ist – sofort ihren Freund herausfinden. Das kann der Mensch, und das ist eben schon eine tolle Mustererkennung oder Bildverarbeitung. Wissensverarbeitung gehört auch mit dazu, das ist aber nicht so bedeutend. Und automatisch zu beweisen ist mit mathematischen Beweisen gemeint, aber das hat nur eine untergeordnete Rolle. So, und dann kommt die Frage: Was versteht man unter Intelligenz? Irgendwie müssen wir es ja definieren, und ich werfe jetzt einfach mal eine These in den Raum – oder eine übliche These – die lautet elegant: Intelligenz ist das, was Intelligenztests messen. Das ist jetzt keine besonders intelligente Definition oder These, weil das ist so eine Art rekursiver Schluss. Ich meine, ich – ich behaupte etwas, was sozusagen sich selbst – sozusagen selbst in den Schwanz beißt. Also, tatsächlich meint man hier mit – diese intellektuellen Pferdestärken – den IQ. Das Problem ist, dass Standard-IQ-Tests, so wie sie heute existieren, vorrangig sprachliche und logisch-mathematische Intelligenz messen, manchmal eben auch räumliche Intelligenzen, aber das ist bei Weitem nicht die Intelligenz, die uns wirklich interessiert. Die Kognitionsforschung unterscheidet sechs verschiedene Intelligenzformen: Sprachliche, ja auch die logisch-mathematische, aber auch die naturalistische – also Verständnis der Welt – das sind die Naturforscher, musikalische Intelligenz – finde ich auch gut – räumliche Intelligenz – also sich räumlich orientieren können – emotionale Intelligenz, körperlich-kinästhetische – Athleten, Tänzer – das ist eine Intelligenz, ihren Körper so bewegen zu können, dass es im Rhythmus passiert, interpersonelle Fähigkeiten – schätzen Sie kennen sicherlich Menschen, die haben so ein ganz besonderes Faible, die können Gesichter, Mimiken sehr gut interpretieren. Das ist auch eine Art von Intelligenz; das gehört alles mit dazu. Das wird von heutigen IQ-Tests nicht erfasst, und deswegen ist es fraglich, ob IQ-Tests wirklich gute Tests auf Intelligenz sind. Und Sie merken schon an dem, wie ich es formuliere: Ich stehe dem etwas abwehrend gegenüber, und deswegen habe ich mich ein bisschen damit beschäftigt, wie gut – wie wichtig – IQ-Tests – also um genau zu sein – die IQ-Zahl – und Sie wissen, der Durchschnittswert der gesamten Bevölkerung ist 100, alles was über 100 ist besser, und alles was unter 100 ist schlechter – wie gut – wie wichtig IQs heutzutage in unserem Leben sind. Also, bedeutet das, dass ein höherer IQ auch einen höheren Erfolg im Leben bringt? Und wie Wissenschaftler halt so sind, das gibt gleich Experimente, Untersuchung – das haben alles Wissenschaftler gemacht – die haben untersucht, es haben – sind Leute, die einen hohen IQ-Wert haben, im Leben erfolgreicher als solche, die keinen hohen IQ haben. Ich zeige Ihnen jetzt das Ergebnis – sehen Sie das hier – ein hoher IQ-Wert erklärt nur 10% des beruflichen Erfolgs. Zehn Prozent, das ist so gut wie gar nichts. Und unter stressarmen Bedingungen sagt der IQ erfahrungsgemäß Führungserfolg voraus, aber jetzt kommt es: Der Beruf ist ja nicht immer stressfrei; im Gegenteil, er hat ja meistens Stress. Und in Stress-reichen Situationen hingegen führt ein hoher IQ zu einem geringeren Führungserfolg – ist also kontraproduktiv. Und das, was mich noch mehr erstaunt hat, ist folgendes: Ein hoher IQ trägt lediglich zu 25 Prozent zu den Schulleistungen bei – ich spreche jetzt also von normalen Schulen bis zum Abitur – bei. Das ist wissenschaftlich untersucht; das kann man nachweisen. Verstehen Sie also: Zu guten Schulleistungen gehört also weitaus mehr als nur ein hoher IQ. Deswegen kann ich Ihnen gleich sagen: Vergessen Sie IQ; versuchen Sie nicht, den IQ-Wert ihres Kindes zu messen; bringt eh nichts. Damit können Sie gar nicht voraussagen, ob Ihr Kind im Beruf oder in der Schule gut ist. Wenn Ihr Kind in der Schule schlecht ist, heißt das nicht, dass der IQ-Wert gering ist; es ist oft sogar das Gegenteil der Fall. Also, das eine hat mit dem anderen nichts zu tun, um es mal anders auszudrücken. Und wir alle wissen: Wir lernen in der Schule vieles, was wir hinterher im Leben nicht brauchen, und das, was man braucht, lernen Sie nicht in der Schule. Das steckt dahinter. Okay, also Fazit: IQ-Tests ungeeignet, um praktische Intelligenz zu messen. So, das lassen wir jetzt erstmal so stehen. Jetzt werden Sie fragen: Ja, was machen wir denn jetzt? Wie messen wir denn guten IQ? Also, was ist ein guter Intelligenztest? Irgendwie muss man das ja messen; ich muss auch sagen können: Das ist intelligent, und das ist nicht intelligent. Nun, und da gibt es seit Jahrzehnten den Goldstandard, und das ist der sogenannte Turing-Test. Der gibt es schon seit dem Jahre 1950. Turing war ein Wissenschaftler, ein Informatiker, und der hat folgendes vorgeschlagen – das war eigentlich ziemlich clever – und diesen Turing-Test werde ich Ihnen jetzt vorstellen, damit Sie verstehen, wie man heutzutage per Turing-Test Intelligenz misst. Und viele Leute sagen nach wie vor: Das ist der Test, um Intelligenz zu testen. Also, das Ganze – und das ist der Vorschlag von Turing – geht so: Stellen Sie sich vor, Sie sitzen jetzt hier in der Mitte – was Ihr sehen – und wollen wissen, ob niemand oder etwas, mit dem Sie kommunizieren, intelligent ist. Sie machen folgendes: Sie sehen nicht; Sie sprechen nur mit dem oder das. Okay, das heißt, hier am Kopfhörer – auf Mikrofon vor sich – und stellen dieser Person oder irgendwas eine Frage, wo Sie herausfinden wollen: Ist der oder das intelligent? So, und wenn Sie nach langen Fragen feststellen: Hey, das finde ich aber intelligent, das kann – sagen Sie – dann ist das intelligent. Mit anderen Worten: Sie wissen, wie Menschen reagieren, und wenn Sie sagen: Das Ding oder was immer da ist, reagiert wie ein Mensch, dann ist es intelligent. So funktioniert der Turing-Test, und ich würde sagen, auf den ersten Blick ist das schon – macht das Sinn.

Schauen wir uns mal an, so ein Test wie ein richtiger Test abläuft. Was ich jetzt hier sehen ist ein Test, der wirklich so verlaufen ist, und zwar: Sie sehen das hier, nennt sich Perry, der Therapeut. Okay, also er hat wirklich – schauen wir uns mal diese Kommunikation zwischen dem Patienten und dem Therapeuten an. Es geht also darum: Stellen Sie sich vor, Sie sind der Patient; Sie sprechen mit einem Therapeuten, den Sie allerdings nicht sehen können, und müssen beurteilen, ob dieser Therapeut intelligent ist oder nicht. Also, schauen wir uns mal diese Konversation an. Es geht los: Der Therapeut fragt Sie als Patient: Kann ich Ihnen helfen? Sagen Sie: Ich weiß nicht. Sagt der Therapeut: Erzählen Sie mir etwas über sich. Sagen Sie: Nö. Sie wollen ja rauskriegen, ist der intelligent oder nicht; da steckt dahinter, ne? Sie sagen einfach: Nö. Sagt er: Können Sie das ausführen? Sagt er: Ich bin heute müde und krank. Sagt der Therapeut: Wissen Sie vielleicht warum? Ja, ich werde alt. Der Therapeut: Bitte erzählen Sie weiter. Sagen Sie: Ich scheine die Lust an allem verloren zu haben. Erzählen Sie mir mehr über diese Gefühle. Sagen Sie: Ich glaube, ich weiß, warum ich mich so fühle. Der Therapeut: Ach wirklich? Sagen Sie: Ich glaube, ich vermisse eine Familie. Der Therapeut: Wieso glauben Sie, Sie vermissen eine Familie? Darauf Sie: Eine Familie ist eine Herausforderung. Darauf der Therapeut: Warum ist das für Sie wichtig? Und so geht das Gespräch immer weiter. Okay, so. Und jetzt lautet die Frage an Sie: Glauben Sie, dass der Therapeut intelligent ist – ein Mensch – oder nur eine Maschine? Was glauben Sie? Bitte ist nur – wie kommen Sie darauf, dass es eine Maschine wäre? Ja, nein, habe ich ja gesagt, ich bin der Patient und sage: Nein, ich will sozusagen den Therapeuten herausfordern und sehen, wie reagiert er? Hat er eine menschliche Ader oder nicht? Darum geht es ja hier. Ja, und er – Riecher trügt Sie nicht – also, man hat so das Gefühl, das bleibt alles so flach, da ist nichts so dahinter, das ist nichts Menschliches irgendwie so. Und tatsächlich, dahinter steckt ein Computerprogramm, das nennt sich Perry, und Perry steht für Paranoia. Und dieses Programm hat ein gewisser – sehen Sie – Kenneth Colby entwickelt. Er ist Professor für Psychiatrie an der UCLA – University of California in Los Angeles – und der elektronische Therapeut, den Sie da links sehen, konnte 30.000 bis 40.000 Wörter und Ausdrücke für eine typische psychiatrische Therapie erkennen. Und Perry bestand den Turing-Test, okay, und zwar in den USA, und zwar so erfolgreich, dass einige Patienten bevorzugten, sich selber mit Perry als mit einem menschlichen Therapeuten zu unterhalten. Ich denke mal, das ist schon mal Erfolg. Ja, wenn Menschen sich doch eher mit solchen Oberflächen-Dingen – aber um ehrlich zu sein, es geht ja manchmal gar nicht darum, ob der Therapeut eines – reicht ja schon mal – wirklich unterhalten kann, und dann reicht so ein Perry schon mal. Ja, aber ich denke, wir alle sind der Meinung: Das ist nicht wirklich Intelligenz. Aber dann ist doch die Frage: Wenn ich jetzt wirklich den Turing-Test anwende, wie kann ich jetzt wirklich rauskriegen, ob da wirklich gute menschliche Intelligenz dahinter steckt? Ich gebe Ihnen ein anderes Beispiel, was mir in diese Richtung geht – das haben wir geklärt – ich gebe ein zweites Beispiel – ein zweiter tatsächlich stattgefundener Turing-Test hat wirklich so stattgefunden, und Sie werden gleich merken, das geht – ist schon kniffliger. Also, Sie sind der Fragesteller in der Mitte; Sie wollen rauskriegen, ob Ihr Partner wirklich intelligent ist. Ich sage: Ich erzähle Ihnen folgende zwei Situationen: Ein Mann ging in einen Imbiss und bestellte einen Hamburger. Als er ihn bekam, war der zu einem braunen Klumpen verbrannt. Der Mann verließ wütend den Imbiss, ohne zu zahlen. Jetzt kommt die andere Situation: Ein Mann ging in einen Imbiss und bestellte einen Hamburger. Als er ihn bekam, war er sehr zufrieden mit ihm. Beim Verlassen des Imbiss gab er der Bedienung mit der Bezahlung ein großes Trinkgeld. Okay, das sind die zwei Situationen. Jetzt kommt die Frage an denjenigen, wo ich die Intelligenz messen will. Die Frage lautet: Hat der Gast in beiden Fällen den Hamburger gegessen? Davon ist ja in der Situation überhaupt keine Rede. Okay, es geht darum, ob das der Gegenüber verstanden hat. Wenn jemand zufrieden ist und ein Trinkgeld zahlt, hat er dann den Hamburger gegessen? Und wir alle wissen natürlich – sonst erleben wir das Trinkgeld nicht gegeben. Ja, und im anderen Fall, wenn er wütend ist, hat er ihn wahrscheinlich nicht gegessen, weil er verbrannt war. Also, sehen Sie schon: Dahinter steckt Lebenserfahrung, ein Weltbild. Und die Frage ist: Kann ein Computer so intelligent sein, dass er solche Lebenserfahrungen erfahren kann? Und die Antwort lautet: Ja, das geht. Auch hier hinter steht ein Computerprogramm. Jetzt sehen Sie es von Roger Schank. Bereits im Jahre 1977 hat der die richtige Antwort gegeben, und zwar nur durch reine formale Symbolmanipulation. Also, Sie können sozusagen solche Sätze logisch aufdröseln und allein durch logisches Schließen ableiten, ob der Kerl wirklich den Hamburger gegessen hat oder nicht. Die Frage an Sie lautet: Ist das Schank-Programm wirklich intelligent? Jetzt bin ich mal gespannt – halten Sie…

Das Standprogramm für intelligent: Ich sehe verzogene Gesichter, Kopfschütteln sehe ich da. Einer nickt zu, halb die Dame schüttelt auch den Kopf. Sie merken jetzt selber: Man ist geneigter, es ist intelligenter als was wir heute im Therapeuten gesehen haben. Ja, sagt man, aber ist das wirklich gute Intelligenz? Ich glaube, wir sind uns eigentlich einig: So richtige Intelligenz ist das auch nicht, weil einfach logisches Schließen ist okay, aber ist das Weltverständnis? Würde so ein Programm in beliebigen Situationen das richtige Tun und Handeln? Nee, das würde ich bezweifeln, das würde es nicht tun. Also wir schließen daraus: Eine elementar bewusste Intelligenz muss ein rememoralen semantischen Behalte haben. Also semantisch heißt: Begrifflichkeiten verstehen, tieferes Verständnis. Das bedeutet Semantik, also eben Bedeutung haben, und das muss künstliche Intelligenz verstehen. Also, wer fasst zusammen: Ein wirklich intelligentes System braucht Weltverständnis. Wir Menschen brauchen mindestens 18 bis 20 Jahre, nämlich bis nach der Pubertät, so dass wir die Welt so in aller Tiefe verstanden haben, dass wir wirklich sagen können: Ich habe Weltverständnis. Und die Welt da draußen ist sehr komplex, und deswegen brauchen wir nicht einen Tag, sondern 18 Jahre. Das macht den Unterschied, und dann merken sie schon: Oha, so schnell kann künstliche Intelligenz auch nicht intelligent werden, wenn selbst die Menschen, die ziemlich gut sind, 18 Jahre brauchen. Okay, trotzdem, und ich bin aber trotzdem der Meinung, dass man den Turing-Test benutzen kann, um dieses so große Weltverständnis zu testen. Und deswegen: Wer mein Vorschlag an die Wissenschaftler, folgender Vorschlag – das ist aus meiner Sicht, sie sehen jetzt meinen ultimativen Turing-Test, deswegen sehen sie auch mal einen Namen drunter – wie könnte man testen, ob ein System wirklich tiefe, tiefes Weltverständnis hat? Ich würde folgendes machen: Ich würde mich hinsetzen und ich würde folgende Frage formulieren: Was halten Sie von folgender Geschichte? Und das geht jetzt auch an Sie. Die Geschichte lautet: Da sitzen zwei Damen so um die 50 am Meer und philosophieren über das Leben. Sagt die eine: Mein Alter wird mir immer unwichtiger. Darauf die andere: Meiner auch. [Gelächter] Sie lachen. Daran erkenne ich: Sie haben Weltverständnis. Wenn der Gegenüber nicht lacht und sagt: So what, was ist los, dann weiß ich: Der hat kein Selbstverständnis. Verstehen Sie solche Situationen? Und davon gibt es viele im Leben. Sie kennen das. Die versuchen, die erfassen wirklich tiefes Weltverständnis. Also meine Meinung ist ja: Turing-Test kann man machen, aber da muss man schon ein bisschen clever sein, so wie im normalen Leben: Einfach mal so ein bisschen abtasten, schauen, ein bisschen Witze. Witze erfassen Intelligenz in der Form der Atmung. Das ist ja ein Witz, ja, der dahinter steckt, und der geht so tief. Ich finde den Witz so gut, weil sozusagen man muss den Menschen kennen, da muss man wissen, wie das in der Situation ist, wenn man 50 Jahre ist. Ja, man muss wissen, dass Frauen dann eben einfach übers Leben nachdenken, Frauen brauchen dann keinen Mann mehr. Ja, und also was, das ist ja Weltverständnis. Ja, und das kommt hier alles hoch. Ja, und daran erkennt man: Ha, der oder die hat Weltverständnis. Davon sind KI, künstliche Intelligenz, ganz weit entfernt. Dazu brauchen wir 18 Jahre, meistens sogar 50 Jahre. Deswegen habe ich gesehen, dass die älteren gelacht haben, die jüngeren nicht so sehr. Die Frage lautet also: Okay, davon sind wir noch weit entfernt, aber wie intelligent ist künstliche Intelligenz heute? Wo stehen wir? Also, soweit wie die Menschen? So weit hinter, noch lange nicht. Aber wie weit sind wir dann? Gut, ich gebe Ihnen ein Beispiel, das kennen Sie alle: Die sogenannten Captchas. Captchas ist die Abkürzung, Akronym für: Completely Automatic Public Turing test to tell Computers and humans apart. Auf gut Deutsch: Vollständig automatisierter öffentlicher Turing-Test, um Computer und Menschen voneinander zu unterscheiden. Solche Captchas benutzt man immer dann, wenn man den Zugang zu einer Website für Robotik oder künstliche Intelligenz unterbinden möchte, weil die dann Schindluder damit treiben. Okay, und was machen sie? Das wissen Sie: Automatisch, um ehrlich zu sein, das ist keine hohe Intelligenz. Natürlich klicken Sie auf die kleine Box, ein Lotte-Robot. Um ehrlich zu sein, das ist jetzt auch nicht besonders intelligent, wenn eine künstliche Intelligenz auf diesen kleinen Kasten da drückt. Ja, aber das ist das, was wir heutzutage am meisten sehen. Deswegen geht man weg von solchen einfachen Captchas und benutzt intelligentere. Also, man benutzt dieses Weltverständnis, dass es Menschen um Computerintelligenz davon auseinander zu halten. Die sehen heutzutage so aus – ich weiß nicht, ob sie sowas schon mal gesehen haben – da oben ist die Aufgabe: Bitte klicken Sie auf jedes Bild mit einem Fahrrad. So, und gehen wir mal die Bilder durch. Ich meine, links oben ist klar, obwohl für eine künstliche Intelligenz da jetzt ein Fahrer zu erkennen, denn sie sehen es ja nicht seitlich, sondern von hinten. Das ist schon schwierig. Hier sehen Sie einen Rad und sagen: Naja, guten Rat, das könnte ein Fahrrad sein. Dann sehen Sie hier: Ja, das ist, hat zwar auch Räder, aber für uns ist offensichtlich: Das ist kein Fahrrad. Jetzt wird es aber schwieriger, ne? Schauen Sie sich das mal an: Hat Räder, sie sehen Beine. Ist das ein Fahrrad? Für uns ist das ein Motorrad, ist klar. Für eine künstliche Intelligenz beginnt da schon schwierig zu werden. Wenn wir nur einen Ausschnitt des Rades zeigen, könnte man sagen: Naja, das kann man immer noch verstehen, dass es offensichtlich auch kein… Aber schauen Sie sich das mal an: Ist das ein Fahrrad? Ja, es fährt, die Räder sieht man nicht. Eine künstliche Intelligenz würde sagen: Ja, ist ein Fahrrad. Aber wir sagen: Nee, da ist ein Tank. Fahrrad hat keinen Tank. Und da kommt jetzt eben das Welt-Selbstverständnis rein und sagt: Ein fahrbares Gerät, das einen Tank hat, ist kein Fahrrad. Okay, also sagen wir: Kein Fahrrad. KI würde sagen: Fahrrad. Das ist ein Auto, das ist sowieso klar. Aber das finde ich sehr interessant: Ist das ein Fahrrad? Ja, jeder von uns sagt: Ist ein Fahrrad. Aber die künstliche Intelligenz: Ich sehe keine Räder, ich sehe nichts. Ich sehe zwar Stangen, nur weil der zwei Stangen sind, heißt es noch lange nicht, dass der ein Fahrrad ist. Aber wir wissen: Wenn das in diesem Winkel ist und da irgendwelche so Papperl drauf sind, dann kann das nur Fahrrad sein. Das ist Selbstverständnis, und das kann heutzutage künstliche Intelligenz nicht, weil die haben nicht 18 Jahre trainiert, sondern vielleicht nur ein paar Monate. Verstehen Sie? Hier wird Weltverständnis abgefragt. Das ist sozusagen heute das, was man heutzutage macht. Also, von künstlicher Intelligenz mit Weltverständnis sind wir weit entfernt. Übrigens, diese Captchas, die Sie gerade gesehen haben, die Fahrrad, die können tatsächlich heute noch die Computer aus dem Internet oder von der Webseite fernhalten, weil wir noch relativ weit von diesen Weltverständnissen entfernt sind. Die Fachleute sprechen heutzutage nicht von künstlicher Intelligenz, weil es hat eben nichts mit wirklicher Intelligenz zu tun, sondern eher von maschineller Intelligenz statt künstlicher Intelligenz, weil künstliche Intelligenz bedeutet: So ähnlich wie der Mensch. Nein, das will man gleich ausschließen. Sagt: Wir wissen, wir sind noch lange nicht so weit und sprechen dann eben von maschineller Intelligenz. Okay, jetzt schauen wir mal, was die Vorhersagen waren, wo wir denn heute stehen müssten, wenn wirklich die Fachleute recht gehabt hätten. Hier sehen Sie, dass ich habe mal ein bisschen geschaut, wie denn die Zukunftsforscher in den 60er Jahren das mit der künstlichen Intelligenz vorausgesagt haben, und es hieß: Computer mit einem IQ von mehr als 150 – also das ist super intelligent, es gibt kaum Menschen auf der Welt, der 150 hat – wurden von den meisten befragten Fachleuten für 1990 vorhergesehen. Der perfekte Übersetzungscomputer mit korrekter Grammatik sogar schon von 1977. Das waren die Vorhersagen. Okay, ich habe hier noch eine andere Vorhersage von einem Genie, dem Begründer der künstlichen Intelligenz am MIT. MIT ist die Uni weltweit. Er sagte – der Marvin Minsky sagte 1970: In drei bis acht Jahren werden wir eine Maschine besitzen mit der allgemeinen Intelligenz eines durchschnittlichen Menschen. Und dann gibt es noch einen sehr berühmten Artikel von einem gewissen Hans Moravec, ganz berühmt bei Fachleuten, ganz berühmt. Er ist der King in der künstlichen Intelligenz, und er hat, wie Sie hier sehen, im Jahr 1998 einen Artikel geschrieben – Sie sehen das hier oben – When will Computer have match the human brain? Ja, wann wird es soweit sein? Und er hat natürlich die Antwort gleich in seinem Artikel gegeben. Er hat geschrieben in diesem Artikel: Wenn Sie etwa 100 Millionen Instructions – Instruktion heißt irgendwie so: Intern läuft da irgendwo im Gehirn oder in dem Computer was ab – wenn pro Sekunde 100 Millionen Befehle abgearbeitet werden können, dann wird also das etwa so weit sein wie der Mensch, wie das menschliche Gehirn sein. Also beim Heimcomputer voraussichtlich in den 2020er Jahren. Das war seine Vorhersage, und wir leben in den 20ern. Jetzt schauen wir uns mal an, was denn heute so Heimcomputer können. Heimcomputer. Ich habe mal nachgeschaut: Die AMDs CPU Ryzen 9 7950X, das ist das Beste, was wir heute an Heimcomputer-CPU bekommen können, leistet 229.000 MIPS. Also nicht nur hier 100 MIPS, sondern also um Größenordnungen mehr. Trotzdem sind wir immer noch weit davon entfernt, wirklich intelligent zu sein. Ich habe Ihnen gerade die Beispiele gegeben. Also: Fachleute irren. Das merken Sie sich bitte. Ja, Fachleute irren. Es gibt einen schönen Spruch von einem Nobelpreisträger aus Deutschland, Russland. Der hat mal gesagt: Wenn alle Fachleute sich einig sind, ist höchste Vorsicht geboten. Das gilt auch hier. Alle Fachleute waren der Meinung: Ab den 70er Jahren ist alles intelligenter als der Mensch. Davon sind wir weit entfernt. Und um Ihnen mal zu zeigen, dass wir wirklich davon weit entfernt sind, habe ich mal einen Test gemacht. Das hat mich jetzt noch mal interessiert: Wie weit die künstliche Intelligenz gedient ist. Und was ist da besser geeignet als Google? Und zwar der Google Übersetzer. Okay, ich habe also einen Test mit Google Übersetzer gemacht, sozusagen das Beste, was wir heute an Übersetzung haben, und dahinter steckt natürlich auch: Hat er verstanden, was da steht? Nämlich nur dann kann er wirklich gut übersetzen. Also habe ich mich hingesetzt und habe mal was eingegeben. Ich habe folgendes eingegeben: Es ist das Pferd, dass das Kind reitet. Ihm ist schon klar, wer da was reitet, ne? Ja, ja, das ist ja gerade der Trick dabei, ne? Ich meine, so formulieren, dass man feststellt, dass ihm die Situation klar ist. Jeder weiß doch, wer da was reitet. Das Pferd reitet das Kind, sagst du: Aha, bist du auch der Meinung? Es steht ja nein. Da steht er nicht nein, da steht nicht, dass das Pferd das Kind reitet. Es steht da: Es ist das Pferd, dass das Kind reitet. Das kann man eben auf zwei Arten im Deutschen verstehen. Man kann verstehen: Das Pferd reitet das Kind. Aber dieser Satz kann auch verstanden werden als: Das Kind reitet das Pferd. Das ist im Deutschen so. Normalbürger versteht das aus richtig so. Und jetzt der Test an Google: Hast du verstanden? Nun, jetzt muss er eben übersetzen. Im Englischen gibt es diesen Unterschied nicht. Ja, Google antwortet: Is the horse the rights the child. Reingetappt. Ja, er hat es nicht verstanden. Okay, gut, noch ein Test. Ich habe eingegeben: Das Buch, das auf dem Kopf steht. Also gemeint ist: Ich habe so ein Regal da stehen, Bücher drin, und ich meine das Buch, was auf dem Kopf steht. Ich meine ein bestimmtes Buch. Wenn ich das meine, dann unterscheidet die englische Sprache in that und which. Wert ist: Ich meine diese Eigenschaften, nämlich auf dem Kopf stehen, which – eine Eigenschaft, die nebensächlich ist, das ist etwas, das könnte man Satz weglassen – was übersetzt Google? Also, das ist etwas, das ist wichtig für die Identifizierung des Buches, und deswegen muss da stehen: Wert. The book that is upside down ist die perfekte, richtige Übersetzung. Also Check-Markt. Haben jetzt habe ich was anderes eingegeben, um zu verstehen: Gibt es da Weltverständnis? Habe eingegeben: Das Buch, das gestern gekauft wurde, steht auf dem Kopf. Diesen Nebensatz, das gestern gekauft wurde, ist irrelevant. Ich meine das Buch, was da auf dem Kopf steht. Das ist gestern gekauft wurde ist irrelevant. Es hätte vorgestern gekauft sein können oder ist rot oder wie auch immer, ist ein irrelevanter Nebensatz, und deswegen muss übersetzt werden: The book which was bought yesterday is upside down. Schauen wir, was Google übersetzt: The book that was bought yesterday is upside down. Also falsch übersetzt. Das heißt, das Programm hat das nicht verstanden. Das gemeint ist, da gibt es keine Intelligenz. Er hat nicht verstanden, dass das nebensächlich ist. Also liegt daneben. So hätte es übersetzt werden müssen. Okay, weiter. Dann habe ich mir überlegt: Naja, Google ist ja von Amerikanern geschrieben, ne? Schicken Amerikaner-Englischsprecher. Jetzt mache ich es mal andersrum. Jetzt gebe ich dann englischen Satz ein und schaue, ob es ins Deutsche richtig übersetzt. Also Englisch sollte schon richtig verstehen der Google, ja. Also habe ich eingegeben: Cat food. Natürlich auch doppelt deutlich im Englischen, weil entweder man versteht es als: Er fütterte ihr Katzenfutter oder er fütterte ihrer Katze Futter. Kann man, ist im Englischen zweideutig. Das ist ja gerade der Sinn. Ich will ja checken, ob Google das richtig versteht. Wie übersetzt Google das? Er übersetzt: Er fütterte ihr Katzenfutter. Kein Weltverständnis. Google hat keine Ahnung. Okay, das ist das Ergebnis von der Intelligenz von Google. So, und jetzt kommen wir wirklich zur künstlichen Nähe in das, was wir heute können. Wie funktioniert das denn dahinter mit dieser künstlichen Nägel? Wie erreicht man denn möglichst gute Intelligenz oder künstliche Intelligenz? Maschinen, maschinelle Intelligenz müssen wir ja sagen. Und das nennt man Deep Learning. Und um zu verstehen, wie Deep Learning jetzt funktioniert – und diese Worte kennen Sie alles, wir haben es noch nicht verstanden – müssen wir uns jetzt ein bisschen damit abgeben, wie denn Neuronen funktionieren. Also das, was in unserem Kopf ist. Also wir haben im Kopf viele Sorgen, sogenannte Neuronen. Das sind diese Zellen, die Sie da oben sehen. Das ist ein Neuron, und davon haben wir ungefähr 100 Milliarden in unserem Kopf. Und die sind alle miteinander verlinkt. 100 Milliarden Zellen sind miteinander verlinkt, und das ist wichtig, denn ein Neuron kann einen elektrischen Impuls aussenden, und der geht dann zu einer anderen Neuron, und das macht unsere Intelligenz. Das macht die Informationsverarbeitung in unserem Kopf aus. Und dieses Signal wandert dann zum Beispiel entlang eines solchen sogenannten Axons. So heißen diese Verbindungen, und die haben eine Hülle. Und was man machen kann, wenn man wissen will, ob dann so ein Signal dadurch lief, man kann die Spannung sozusagen messen, die dann entlang dieser Hülle gelaufen ist. Da hält man sozusagen so ein Voltmeter dran und misst einfach, wie dann der Impuls, der entlang läuft, dann sehen Sie hier, hier sehen Sie zum Beispiel die Spannung, die man messen kann, jetzt in Millivolt, und dann sehen Sie über die Zeit, das kurzfristig die Spannung an zunimmt, ja, und dann sehen Sie: Aha, jetzt läuft der Impuls hier vorbei, und danach ist vorbei. Und das geht innerhalb von zwei bis drei Millisekunden. Millisekunden ist der tausendste Sekunde. Das geht also rasend schnell. So macht das unser Gehirn. Und jetzt geht es weiter. Wenn dieses Signal hier unten angekommen ist, gibt es einen sogenannten synaptischen Spalt, und der ist sehr wichtig, denn an dem Punkt wird dieses elektrische Signal umgesetzt in Neurotransmittern. Das ist also ganz bestimmte chemische organische Stoffe, die dann ausgestoßen werden, diesen Spalt überbrücken und in sogenannte Rezeptoren – das sind also sozusagen Gegenstücke – empfangen werden. Und je nachdem, wie viel dieser Neurotransmitter aufgenommen werden, umso stärker wird das Signal übertragen. Oder wenn es nicht so viele sind, ist das Signal übertragen schwächer. Und das ist ein ganz wichtiger Punkt, denn mit der Stärke der Übertragung an diesen synaptischen Spalt wird die Beeinflussung eines Neurons auf das andere festgelegt. Lernen ist nichts anderes als: Wie stark kann sozusagen hier der synaptische Spalt dieses neue Neuron beeinflussen? Bei guter Erinnerung wird mehr Neurotransmitter ausgestoßen, und es gibt mehr Neurotransmitter. Und wenn Sie es nicht wissen, dann eben weniger. So funktioniert unser Gehirn. Dazu kommt, dass in unserem Kopf etwa im Mittel jedes Neuron mit tausend anderen Neuronen verbunden sind. Also, es ist beides: Diese Interconnectivität, also viele Neuronen mit sehr, sehr vielen anderen Neuronen, und die Stärke des Übergangs an der Synapse. Das liegt sozusagen das Training. Wenn du also 18 Jahre alt bist, dann hat man trainiert. Das eine Neuron hat nur 100 Verbindungen, die Neuronen, die wichtiger sind, haben dann 10.000 Verbindungen, und dann sind die Übergänge dann so gestärkt, dass man wirklich dann sagt: Ich sehe den Wolfgang, und den kenne ich, und das ist Wolfgang. Das ist dann mein Training. So funktioniert das Gehirn. Und genau das will man eben in der künstlichen Intelligenz auch nachvollziehen. Deswegen macht man das genauso. Man macht folgendes: Man nimmt hier eine solche sogenannte Ebene, ein sogenannten Layer, und das sind jetzt diese Neuronen, und man bringt ein Input dran. Input hier nur beschrieben als X1Y. Sie sehen das so. Schauen Sie mal, das sind meine Finger. Ich habe drei, zwei Paar Finger, einen Daumen. Okay, wenn ich den jetzt angreife, dann sendet der mir Signal in meinen Kopf, und dann ist zum Beispiel X1 mein Daumen, und der sagt: Berührung. Und dann wird dieses Signal da weitergeben. Wenn ich das berühre, die beiden, dann ist das X2, und dann geht dieses Signal: Berührung an dieses Neuron, und das gleiche hiermit. Okay, so müssen das verstehen. Und dann sagen die Neuronen: Okay, jetzt muss ich nur interpretieren, was da passiert ist. Also, um ein Beispiel zu nennen: Wenn ich zum Beispiel die Hand schüttele, dann werden diese beiden Paare aktiviert, und der Daumen wird nicht aktiviert. Das heißt, der Daumen hat kein Signal, während die anderen vier Finger das Signal haben, und das interpretieren die Leute oder das neuronale Netz als: Hand schütteln. Dann kommt hinten: Hand schütteln raus. So funktioniert unser Gehirn, allerdings sehr einfach jetzt dargestellt. Es ist schon klar, ja. Und so können Sie alles, oder ich sage: Ich drücke mal hier drauf mit meinem Daumen, ja. Also, wir drücken auf die Tischplatte, dann wird nur dieser Input aktiviert, und die anderen sind nicht aktiviert. Und dann, weil hier nichts rauskommt, ist die Interpretation: Daumen drückt auf Tischplatte. Okay, so ist das. Jetzt geht es allerdings noch ein bisschen intelligenter, weil das sind ja sehr einfache Situationen. Der Mensch ist viel komplizierter. Also füge ich mehrere solcher neuronalen Layer ein. So nennt man das. Man nennt die auch Hidden Layer, warum die Hidden heißen, wenn Sie gleich sehen. Also: Versteckte Layer. So, und dann haben wir viel mehr Möglichkeiten. Tatsächlich haben wir nicht nur X1, X2, X3. Also tatsächlich kann man heutzutage bis zu 1000 Input haben und viele solcher Layer, 20, 30, 50, sehr viele. Aber selbst wenn Sie das mal vergleichen: Immerhin haben wir 20 Layer, und wir haben 256, also eine digitale Zahl Input, da haben wir immer noch 20 x 2500 Verbindungen. Das ist nicht viel. Wir haben gerade gesehen: In unserem Kopf sind wesentlich mehr. Also selbst solche heutzutage komplizierten Netzwerke – und die nennt man neuronale Netzwerke – sind immer noch weit von dem entfernt, was das Gehirn kann. Jetzt schauen wir uns mal an, was solche neuronalen Netzwerke können. Und sie sehen schon: Die Neuronen, jedes Neuron ist mit jedem anderen Neuron auf der nächsten Ebene verbunden. Und diese Komplexität macht eben diese Intelligenz, so wie sie im menschlichen Gehirn imitiert werden soll. Und sie sehen auch: Durch diese Weiterverarbeitung von neuronalen Ebenen zur nächsten kann man immer höhere, komplexere Dinge verarbeiten und erkennen. Das ist der Sinn dieser verschiedenen Netzwerke. Schauen wir uns das mal konkret bei einem Frosch an. Wie macht der Frosch das? Ist jetzt eine ganz einfache Angelegenheit, ne? Der Frosch hat ein Auge, so, und nehmen wir an, der hat hinten auf seiner, auf seinem Netz – wie nennt man das? Retina – danke – nur drei Sensoren. Ja, und er sieht jetzt einen Storch, dann wird aktiviert oben und unten, in der Mitte nix. Da heißt: Okay, dann hat er gelernt: Wegspringen, Storch wegspringen. Ja, und wenn eine Fliege sieht, dann wird nur in der Mitte, ne? Das ist ja in der Mitte, das hier waren außen die Flügel. Hier hat er nur in der Mitte was, da wird nur das mittlere Neuron aktiviert. Heißt: Fressen. Ja, ist Fliege. Und blauer Himmel: Gar nichts wird gar nichts aktiviert. Heißt: Hass, Ruhe, Fliege verdauen. Okay, so einfach funktioniert das wirklich in solchen auch einfachen Amphibien. Okay, in der Realität sieht es ja – wie ist das dann verdrahtet? Tatsächlich sind so verdrahtet, nur dass ist immer gesehen haben. Das ist das, was sie gerade gesehen haben. Hier ist also das Axon, möchte das der Leiter des elektrischen Impulses, hier sind die Synapsen, und hier sehen Sie: Wenn irgendwas aktiviert ist. So einfach läuft das wirklich in unserem Gehirn – aber nicht in unserem Gehirn. Wir haben 100 Milliarden von diesen Dingern und entsprechend starke Vernetzung. Nehmen wir an, wir haben jetzt mehr, und wir schauen mal, wie so was dann wirklich konkret gemacht wird. Nun, man nimmt so ein, ein tiefes neuronales Netz, also mit vielen Layern, neuronalen Layern, und macht vorne den Input. Also müssen wir wirklich sich vorstellen: Da haben sie jetzt so ein Bild mit vielleicht 2000 Bildpunkten. Noch mal was zu sagen: Das heißt, der Input ist wirklich X1 bis 2000. Ja, und dieses Signal wird dann auf diese verschiedenen neuronalen Layer gegeben. Die sind dann entsprechend natürlich groß, passt nicht auf meinem Bild, aber es müssen sich vorstellen, das kann man entsprechend groß machen. Und dann wird eben geschaut, und dann wird ihm gesagt: Diese Sonnenuntergang. Ja, und beim ersten Mal wird er sagen: Rot. Ja, dann sagen Sie: Nein, das ist Sonnenuntergang. Jetzt müssen Sie sozusagen diesen neuronalen Netzwerk klar machen: Das ist ein Sonnenuntergang. Wir machen Sie das? Das macht man mit sogenannten Backpropagation. Das heißt, die laufen rückwärts durch diese Layer durch und verstellen diese synaptischen Dinger so lange, bis hinten Sonnenuntergang rauskommt. Dann sagen Sie: Okay, jetzt hat das kapiert. Dann halten Sie noch zehn andere oder 20 oder 100 andere Sonnenuntergänge hin, und jedes Mal adjustieren Sie dann die entsprechenden Synapsen hier, bis das kapiert hat. Auch unterschiedliche. So funktioniert Lernen, künstlicher oder – ich muss ja – maschinelle Intelligenz. So, und dann machen Sie folgendes: Dann sagen Sie: Okay, jetzt geht's los. Das war schon ein bisschen zu weit. Wir sagen: Ich zeig dir jetzt mal einen Sonnenuntergang. Ja, jetzt bist du natürlich komplizierter, weil die Sonne ist schon untergegangen, oben ist blauer Himmel, unten ist noch schon rot. Versteht er das als Sonnenuntergang? Man hat dieses neuronale Netzwerk jetzt trainiert auf Bett und Sonnenuntergang. Also, er soll nur unterscheiden zwischen Bett und Sonnenuntergang. Also eine ganz einfache Situation. Aber Bett hat warmes Licht und vielleicht ein bisschen Blau, das ist dann die Decke oben drauf, und dann blaue Decke auf warmen, was weiß ich, Licht von oben. Versteht er das? Und jetzt schauen Sie mal, wie die unterschiedlichen Layer – wir gehen jetzt mal Layer für Layer durch – wie er dieses Bild interpretiert. Also ein Netzwerk, was bereits trainiert wurde auf Bett und auf Sonnenuntergang. Sie sehen: Er fängt an ziemlich weit oben und sagt: Das ist im Bett. Auf der Achse ist Sonnenuntergang. Also es ist eher kein Sonnenuntergang, sagte, sondern es ist eher ein Bett. Auf Layer 2 – wir sind jetzt auf diesem Layer – sagte: Naja, also es ist doch weniger Bett, aber wesentlich mehr Sonnenuntergang. Ist jetzt auch nicht… Dann auf einmal in der nächsten Layer, die mehr Verständnis hat, sagte: Ja, es ist schon mehr Sonnenuntergang. Dann auf der nächsten Layer doch noch ein bisschen mehr Sonnenuntergang. Also sie sehen: Er handelt sich so ganz lange um die richtige Lösung an. Dann beim nächsten Mal geht er sagt er: Nee, doch wieder nicht. Aber jetzt erst, dann sagt er: Ja, ist wahrscheinlich Sonnenuntergang. Und zum Schluss sagt: Ja, es ist Sonnenuntergang, ist wahrscheinlich kein Bett. Und daran gehen Sie: Okay, er hat so einigermaßen kapiert. So geht das heute. Jetzt geht es aber darum: Man möchte dem ja nicht jedes Mal neues Bild vorhalten und ihm sagen: Hör mal zu, Bett, Sonnenuntergang, Bett, Sonnenuntergang. Sondern er soll selber lernen. So machen Sie auch Kinder. Den sagen Sie einmal: Auto. Ja, und dann muss es selber lernen, Autos. So macht der Mensch. Und das möchte man auch von den Dingern. Also macht man folgendes: Zuerst nehmen Sie sich Daten, meistens aus dem Internet, trainieren Ihr Netzwerk. Hier wird trainiert: Hunde und Katzen. Das ist so eine ganz kritische Angelegenheit, ne? Für uns sind Hunde und Katzen klar. Für solche intelligenten Netzwerke ist das extrem schwierig. Am arbeiten: Ohren, Schwanz. Sind also was, ja, extrem schwierig. Hier wird trainiert zwischen Hund und Katze. Und wenn Sie glauben, er hat es kapiert, dann haben Sie ein trainiertes Modell, also mit der entsprechenden Verschaltungen, und dann sagen Sie: So, jetzt lernst du selber. Dann holt man sich einfach nur die Daten aus dem Internet, hält sie ihm vor, und das geht automatisch. Und dann muss er eben selber an diesen neuen Bildern immer weiter lernen, wie so ein Kind, das eben auch lernt, bis man meint: So, jetzt hat das gefressen. Okay, so macht man das heute. So auseinander übrigens nur das immer ganz sogenanntes Reinforcement Learning. Ja, so. Vor- und Nachteile künstliche – also nehmen wir, das ist der Stand heute, so wird das heute gemacht. Was sind die Vor- und Nachteile solch einer künstlichen Intelligenz? Zunächst erstmal der Nachteil ist – und deswegen habe ich es ein Brot gemacht – was sie machen: Sie müssen das Ding trainieren. Und wenn es trainiert ist, wenn Sie es an, was das Ding danach nicht mehr machen kann: Weiter trainieren. Aber das müssten Menschen trainieren, 18 Jahre, 20 Jahre lang. Das tun Sie dann nicht. Wenn einmal das Ding trainiert ist, wenn Sie es an, und dann ist Schluss, was immer bis dahin gelernt hat. KI kann man als Expertensystem annehmen. Wenn ein System wirklich gut trainiert ist und wirklich gut gemacht ist, dann kann er innerhalb von einer Zehntelsekunde oder so Dinge richtig erkennen. Sowas nennt man dann Expertensysteme. Ja, und die können richtig gut sein, aber sie sind eben nur ein Expertensystem für ein ganz schmales Ding. Also ein Expertensystem, was Chagall-Kunstwerke erkennen kann. Ja, aber wenn Sie dem dann irgendwas anderes hinhalten, dann hat er schon nicht mehr. Okay, das ist der Nachteil. Und was allerdings gut ist, ist Transferlernen. Das heißt: Wenn Sie einmal so neuronales Netz haben und diese synaptische Verbindungen festgelegt haben, dann haben Sie ja die Informationen der synaptischen Beziehung, und dann können Sie diese Information auf alle anderen neuronalen Netzwerke verteilen und alle anderen Computer, die dieses neuronale Zweck haben, wissen genauso viel. Und das ist natürlich super. Das heißt, sie brauchen nur einmal trainieren und können das auf tausende andere Systeme anwenden. Das geht bei Menschen nicht. Sie können nicht ein Gehirn nachschauen und sagen: Der hat er denn seine runtergeschaltet. Das geht nicht. Jedes Kind muss selber lernen. Das ist hier besser: Transferlernen. Das geht sehr gut. Jetzt kommen wir aber zu den Problemen. Das schauen wir uns noch mal so ein tiefes, tiefes – heißt viele Schichten von neuronalen Schichten – erneuern. Also, das Problem ist die sogenannte Blackbox-Problem. Mit anderen Worten: Wenn das System selber lernt, dann wissen Sie ja nicht, ob das System richtig gelernt hat. Sie wissen nur: Es gibt hinten eine Antwort, und das ist eigentlich Süd. Okay, aus mehr wissen Sie nicht. Okay, wie das innen verschaltet ist, wissen Sie nicht. Man möchte aber trotzdem manchmal wissen, ob er richtig gelernt hat. Und dann macht man folgendes: Ich gebe hier ein echtes Beispiel. Hier ist ein System, ein neuronales Netzwerk auf Schiff trainiert worden. Soll Schiffe erkennen, viele, viele Schiffe. So, und das ist jetzt ein so ein Bild, und jetzt sagt man dem: Was ist das? Antwort lautet: Schiff. Jetzt sagen Sie: Jetzt möchte ich mal gerne wissen, woran du Netzwerk erkennst, dass das ein Schiff ist. Wie macht man das? Man produziert eine sogenannte Heatmap, eine Hitzekarte. Was ist eine Hitzekarte? Man fragt dieses neuronale Netze: Sag mal, sag mir die Stellen, woran du erkennst, dass das ein Schiff ist. Und dann weiß ich, ob es richtig erkannt habe. Und ich zeige Ihnen jetzt mal das Ergebnis dieser, dieser Frage. Und rot bedeutet: Daran erkennt er das Schiff. Und grün und blau bedeutet: Das ist irrelevant. Und dann sagen Sie sich: Hey, der den interessiert überhaupt gar nicht das Schiff. Das System ist so trainiert worden, dass es sagt: Wann immer ich mehr Wasser oder was viel Wasser sehe, dann muss dann Schiff sein. Für das System bedeutet das: Wasser ist Schiff. Und dann sagen Sie sich: Das kann doch nicht wahr sein. Doch, so ist das dann, weil Sie nicht wissen, was in diesem Black Box drin ist. Sie müssen also verflucht aufpassen, was jetzt wirklich das System gelernt hat. Ich gebe ein anderes Beispiel: Pferd. Hier haben wir ein Pferd, so ein Bild aus dem Internet, so typisch, gähnen, wahrscheinlich an dem das System Pferd lernen sollte, muss erkennen: Das ist ein Pferd. Für uns Menschen ist das überhaupt kein Problem. Das ist ein Pferd. Und auch für das intelligente System ist das kein Problem. Sagt: Pferd. Fragen Sie: Woher weißt du, dass das ein Pferd ist? Heatmap sagt: Das hier. Dann sage ich: Was? Hier unten, da schauen Sie unten, hinter steht: www.pferdefotoarchiv.de. Also der hat gelernt: Wann immer auf dem Bildern unten Pferde Fotoarchiv steht, dann ist ein Pferd drauf. Das hat er gelernt, und das ist clever. Und dieser Effekt ist sehr bekannt, denn man nennt das kluge Hans-Effekt. Kluge Hans, kommen wir zum klugen Hans. Was ist der kluge Hans? Der kluge Hans war Anfang des letzten Jahrhunderts ein Pferd, das durch Hufeklopfen auf ein Brett angeblich Zählen und Rechnen konnte. Hier sehen Sie den klugen Hans links und auf der rechten Seite seinen Lehrer, denn der Schuhmacher und Mathematiklehrer Wilhelm von Osten hat mit Hans’ einzigartigen Können erhebliches Aufsehen erregt. Also er ist an die Öffentlichkeit getreten, da standen also hunderte von Leuten. Hat gesagt: Jetzt zeige ich euch, wie das Pferd rechnen kann. Dann hat er irgendwie auf eine Zahl gezeigt, nehmen wir mal 7, um eine Zahl zu sagen, hat gesagt: Hier, kluge Hans, 2 plus 3 plus 4 ist 7. Was ist das Ergebnis? Und dann fängt der kluge Hans an zu klopfen auf das, auf einem, das Brett, was ihr da seht: 1, 2, 3, 4, 5, 6, 7. Großes Klatschen, super. Konnte das Pferd rechnen? Nee, es war clever. Es war nämlich der kluge Hans. Was hat das Pferd gelernt? Es hat gelernt: In dem Augenblick, wo die Leute zu klatschen anfangen, muss ich aufhören. [Gelächter] Das ist der kluge Hans-Effekt. Also daran sehen Sie: Selbst wenn richtige Antworten kommen, heißt das noch nicht, dass das System wirklich verstanden hat. Es war…

Einfach nur intelligent, aber hat nichts verstanden. Also wir müssen bei der künstlichen Intelligenz verflucht aufpassen, selbst wenn die Antworten richtig sind. Ob das System wirklich gut funktioniert, clever. Hand jetzt gibt es noch ein Problem. Ich zeige Ihnen einfach mal ein Bild, ne? Wenn ich die Frage „Was ist das?“ kommt die Antwort „Himmel mit was drauf“. Folgt genau: Ist für uns überhaupt kein Problem. Dann geben Sie einem künstlichen, erneuerbaren Wechsel die Aufgabe: „Was ist das?“, und dann fängt der an. Also, hier haben Sie das neuronale Netzwerk, und das fängt jetzt an zu interpretieren. Das ist ein echtes, jetzt echt, wirklich so ist es rausgekommen. Also, die erste Ebene sagt folgendes: Meine erste Interpretation ist das, was Sie hier sehen. Ja, sagen Sie, das hätte ich jetzt anders gemacht mit meinem Gehirn, aber naja, wenn du so willst, ist okay so. Das würden wir jetzt sagen. Auf der nächsten Ebene ist die Interpretation folgende: Ach, werden Sie sagen: Ja, was macht er denn da? Ja, er ist eben trainiert worden auf Tiere. Also fängt er an, irgendwelche Tiere da hinein zu interpretieren. Wie gesagt, echter Test, ja. Und dann kommen wir zur letzten Layer. Das Ergebnis lautet: Hier sehen Sie es. Was sieht man? Ein Admiral-Dock, also einen Admiralhund, ein Pixmael, ein Schweineschlange – vorne Schwein, hinten Schlange. Ja, so hat das interpretiert. Ein Kamelvogel. Also, ich muss ja sagen, fantasievoll ist ja das System, das muss man ihm lassen, ne? Und auf der rechten Seite ein Hundefisch. So, das ist das Ergebnis. Der hat überhaupt nichts verstanden. Aber denken Sie nicht, dass wir Menschen vor solchen Dingen gefeit sind. Ich habe Ihnen ein Beispiel mal mitgebracht, dass selbst wir auf solche Doppeldeutigkeiten oder Überinterpretation hineinfallen. Also, was sehen Sie in diesem Bild? Sehen Sie ein Kaninchen? Und hier sehen Sie das Auge hier vorne, die Schnauze und hinten die Ohren. Oder sehen Sie eine Ente? Hier ist der Schnabel, die Augen und hier dahinter der Kopf. Das beides möglich. Also, auch der Mensch tendiert dazu, falsch und über zu interpretieren. Also, ich, es ist eben sozusagen, das liegt in der Natur der Sache. Aber der Mensch hat durch 18 Jahre gelernt, doch die Feinheiten zu sehen und dann doch leichte Unterschiede. Das haben künstliche Systeme meistens nicht.

Ich gebe hier ein Beispiel: Auf der linken Seite ein Goldfisch, so wie er trainiert wurde. Und es genügt heutzutage, wenn ich nur ein leichtes Rauschen auf dieses Bild lege, und dann sieht das ganze so aus. Wir werden sagen: Wo ist der Unterschied? Sie müssen eben darauf achten, dass hier kein Rauschen drin ist, und hier ist dieses zusätzliche hier Rauschen. Und schon sagt das System: Das ist kein Goldfisch, es ist ein Gänseblümchen. Also, es reicht, ein so trainiertes System nur leicht zu verändern, und schon kommt Mist hinten raus. Das ist heutzutage ein großes Problem. Und das nennt man – dieses Problem nennt man – etwas surreal Problem. Etwas soral ist so eine Art Angriff auf die künstliche Intelligenz, und das macht künstliche Systeme wirklich angreifbar, und zwar relativ leicht. Ich gebe Ihnen noch ein paar Beispiele. Also, ein Beispiel haben wir schon gesagt, ne? Das System wurde auf Pandabären trainiert. Härter das Bild, und Sie legen nur nach, kleines Rauschen da. Das braucht nicht groß sein, und das ist das Bild jetzt mit Rauschen. Sie sehen keinen Unterschied, aber für diese künstliche Intelligenz, die jedes Detail wahrnimmt, es wird verwirrt und sagt: „Gibbonaffe“. Sagen Sie: Wie kommt denn jetzt da drauf? Naja gut, man könnte meinen, das ist ein Gibbonaffe, aber tatsächlich wissen wir, was das ist: Ein Pandabär. Oder Sie können folgendes machen: Er hat trainiert auf solchen Adlern, oder was immer das ist, rote Adler, wie auch immer. Sie drehen das Bild nur ein bisschen, nicht viel, und schon sagt der: Orang-Utan. Also, kleinste Veränderungen bewirken ein vollkommen anderes Ergebnis, und das ist gefährlich. Oder hier unten sehen Sie jetzt also eine Granolabar, also Müsliriegel, ja. Das hat er gelernt. Er hat gelernt, es ist also kein Hotdog. Und wenn man nur ein bisschen rauszoomt, also das ganze Ding zeigt, sagte das: „Das ist ein Hotdog.“ Nee, ist ein Granolabar, aber es hat gelernt, dass sowas Hotdog so aussieht. Also, Sie brauchen nur ein bisschen verändern, und schon kommt Mist hinten raus. Und das ist die große Gefahr der künstlichen… Ich zeige Ihnen mal ein Beispiel, genauso. Was nutzt man heutzutage aus in CAPTCHAs? Also, statt dieses ganz einfache Ding zu machen, hier auf der linken Seite einen Notar-Robots, zeigt man auf dem Bildschirm solche Bilder. Für den Menschen ist es überhaupt kein Problem, wenn er die Frage beantworten soll: „Klicken Sie auf das Bild, das richtig herum zu sehen ist.“ Und dann sagen Sie gleich: Ihr das so, so steht ein Hund. Der steht doch nicht so, oder wie auch immer, im freien Raum, sondern steht auf dem Boden. Das ist für Menschen überhaupt kein Problem. Aber jede kleinste Drehung des Bildes, was das KI nicht gelernt hat, wird sofort falsch interpretiert. Das heißt, eine trainierte künstliche Intelligenz kommt da nicht mit, kann da nicht das richtige Ergebnis finden. So, und da habe ich mir gesagt: Okay, jetzt probiere ich es auch mal bei Google. Okay, also Google habe ich gesagt: Ich mache mal etwas surreal attack, also Angriff auf Google heißt das ja. Ich habe eingegeben: „It’s raining cats and dogs.“ Das ist so ein Standardsatz, den lernt jeder Schüler in der Klasse, und jeder weiß, das bedeutet: Es schüttet wie aus Eimern. Weiß jeder. Das ist die richtige Übersetzung. Ich habe es also eingegeben, Google Übersetzung. Was übersetzte er? „Schüttet wie aus Eimern.“ Richtig. Okay. Und jetzt kommt der Angriff von mir. Ich habe folgendes gemacht: Ich habe hier statt „it’s“ habe ich geschrieben „it is raining cat and dogs“, und das ist nur eine ganz kleine Änderung. Das ist diese kleine Änderung, ok? Und jetzt wollen wir mal schauen, wie er das übersetzt. Und die Übersetzung lautet: „Es regnet Hunde und Katzen.“ Mit anderen Worten, er hat trainiert – ihm wurde sozusagen von trainiert – immer wenn da steht „it’s raining cats and dogs“, musste das Übersetzen: „erschüttet wie aus Eimern“, und alles andere hat er nicht gelernt. Und jede kleinste Änderung, dann tappt er in die Falle rein. Das ist etwas Beispiel. Da habe ich folgendes gemacht: Ich habe jetzt stehen lassen und ihr habt geschrieben „it’s raining“ – Sie kennen das im Englischen, verschluckt man so den letzten Buchstaben – ist „rain cats and dogs“. Da ist der zweite Angriff. Und wie übersetzt das? Er schreibt: „Es regnet Katzen und Hunde.“ Also nix Intelligenz. Etwas funktioniert wunderbar. So wird man künstliche Systeme in die Irre führen. Und das ist unter Wissenschaftlern bekannt, und das ist aktueller Stand der Forschung, dass irgendwie richtig hinzu kriegen. Hier ein Beispiel: Also, wenn zum Beispiel das System hier die Zahlen lernt: 7, es gibt verschiedene Sieben-Schreibweisen, 3 und so weiter, ist alles schön gelernt. Und dann legen Sie irgendwie einen Rauschen drauf, und das System versagt. Sie versagen nicht, Sie werden auch sagen: „Ist doch das selbe, 7, 7, 3, 7, 7, ist doch kein Problem.“ Für Sie ist das kein Problem, weil Sie 18 Jahre gelernt haben, auch mit verrauschten Zahlen zu interpretieren. Aber so ein System kann das nicht. Jetzt zeige ich Ihnen, dass auch Sie, Ihr Gehirn vor sowas nicht gefeit ist, für solche etwas. Ich zeige – ich mache jetzt mal ein etwas – Ihr Gehirn. Okay, schauen Sie genau hin. Sie werden in die Irre geführt. Okay, sowas nennt man auch optische… Schauen Sie sich das mal an, was Ihr da sehen… Was sehen Sie? Sie werden sagen: Das ist eine irgendwie verschlungene Spirale. Okay, aber das ist falsch. Sie werden in die Irre geführt. Es ist keine verschlungene Spirale, sondern es sind Kreise. Verfolgen Sie mal eine Linie, und dann werden Sie sehen, sie ist in sich geschlossen. Machen Sie das mal. Verfolgen Sie eine Linie mit den Augen, dann sehen Sie, das sind keine Spiralen, das sind Kreise. Das ist etwas serial attack auf Ihr Gehirn, und es funktioniert. Im Gegenteil, Sie wissen, dass es ein Angriff auf Ihr Gehirn ist, und Sie können nicht anders, als es falsch zu interpretieren. Ich warne also davor, zu glauben, nur Maschinenintelligenz lässt sich in die Irre führen. Auch Sie lassen sich in die Irre führen. Das ist eben die Erfahrung, das ist Ihr Lernen über die mehr als 20 Jahre. Das Tolle am menschlichen Gehirn ist, dass es Dinge sehen kann, das ist eben auch so, 20 Jahre erfahren und die gar nicht da sind. Wenn Sie sehen – wenn Sie sich die Frage stellen: Welche geometrische Figur sehen Sie? – dann werden Sie sagen [Musik] das ist ein weißes Dreieck, gleichseitiges Dreieck. Aber der sucht ein weißes Dreieck. Das sind nur schwarze Punkte, die irgendwo an der hohen Segment, an der Ecke fehlen. Und hier ist ein schwarzes Dreieck, was unterbrochen ist. Da ist kein weißes Dreieck. Was Sie können ist, Sie können das sozusagen aus diesen wirklichen Darstellungen, das weiße Dreieck ableiten. Das ist noch was anderes. Und sowas nennt man kanitzer Figuren. Ich will Ihnen zeigen, warum der Mensch gelernt hat, über die vielen Jahre solche Interpretationen hinzukriegen. Ich zeige Ihnen ein Beispiel: Wie viele Wesen sehen Sie in diesem Bild? Sie müssen schon genau hinschauen, aber Sie werden sicherlich zur richtigen Antwort kommen. Gehen wir es mal von links nach rechts durch: Pferd, Pferd, drittes Pferd, viertes Pferd, fünftes Fohlen – 5 Lebewesen. Das können Sie nur wegen Kanitzer, weil Sie die Umrisse dieser Pferde weiterverfolgen können. Sie können sehr genau unterscheiden: Das ist Schnee, aber das ist schon Fuß. Das ist eine menschliche Fähigkeit. Davon ist künstliche Intelligenz weit entfernt, sowas zu verstehen. Ich mache jetzt noch schlimmer. Okay, was sehen Sie hier? Das ist schon schwierig, aber der Mensch kann das. Da ist ein Dalmatiner, der auf dem Boden rumschnüffelt, und dahinter steht ein Baum, der Schatten wirft. Für einen Menschen ist sowas komischerweise überhaupt kein Problem. Es ist hoch kompliziert, wie gesagt, künstliche Intelligenz falsch sagt hier vollkommen, weil die nicht keine Zeit können. Und daran sehen Sie noch die große Lücke, die zwischen künstlicher Intelligenz und natürlicher Intelligenz, glaube ich, zeichnet. Anderes Beispiel: Das mag für Sie verblüffend erscheinen. Das ist ein berühmtes Gemälde von Dali, das hängt in Tampa in Florida, in einem Dali-Museum. Und da müssen Sie mal – wenn Sie in Tampa sind, müssen Sie immerhin… Ich war da. Und dann stellen Sie sich vor das Bild, so wie Sie es jetzt sehen. Und dann sehen Sie, wie seine Freundin, seine Frau Gala, die ja sehr verehrt hat und ihr oft gemalt hat, hier irgendwie am Fenster steht, ja, so eine Art Kreuz, die schaut hier hinaus. Und wir Künstler, das halten gerne so machen, ne? Ja, so ist das Bild. Und dann stehen Sie in Tampa, treten Sie bitte einige Schritte zurück, an die hinterliegende Wand. Dann gehen Sie zurück, und dann passiert folgendes: Sie gehen immer weiter zurück, immer weiter zurück, noch weiter zurück, immer weiter zurück. Und dann sehen Sie das Bild auf das Ferne, und was sehen Sie? Das ist Lincoln, der Präsident. Okay, ist doch toll, oder? Das hat Dali gemalt, und das hat er bewusst so gemalt. Er wollte, dass das rauskommt, das ist Lincoln. Also, das lernen wir – das lernt das Gehirn – und dazu brauchen Sie viele, viele Jahre. Und damit komme ich zum Ende meines Vortrags. Wir haben gerade gesehen, das war die Aussage von Bernhard Russell, eine Person, die ich wirklich hoch verehre. Wenn viele Fachleute – hier sehen Sie Nobelpreisträger, Vater der künstlichen Intelligenz – wenn viele Leute sich einig sind, ist höchste Vorsicht geboten. Er hat also damals im Jahre 1956 gesagt: „Maschinen werden innerhalb von 20 Jahren jede Art von Arbeit verrichten können, die ein Mann macht.“ Naja gut, das sein verziehen, das war eben noch in den 50er Jahren, ja. Aber gut, schauen wir uns mal um. Ich habe Ihnen mein Bild mitgebracht, zum Beispiel eine Reparaturwerkstatt, Autoreparaturwerkstatt. Sehen Sie da irgendeinen Roboter, der da irgendwas repariert? Autos bauen, das können Roboter, aber die sind ziemlich blöd. Das habe ich Ihnen gerade schon erzählt. Aber ein Auto reparieren, das ist eine ganz andere gelegte Sache. Da brauchen Sie nicht nur Intelligenz, sondern Sie brauchen höchste Taktilität. Sie müssen zum Beispiel unten in den Motorraum schauen, dann hören Sie da klappert irgendwie ein Geräusch, dann gehen Sie mit der Hand runter, da ist Feuchtigkeit, Öl. Sagen Sie: Das ist Welterfahrung, das ist Intelligenz. Das kann kein Roboter, der kommt auch mit seinem dicken Arm und gar nicht runter, ja, davon abgehalten. Selbst wenn das könnte, davon sind wir weit, weit entfernt. Und ich gehe mit Ihnen jede Wette ein, dass auch in 20 Jahren kein Roboter Autos reparieren wird, weil weder die Intelligenz noch die Sensoren noch die Aktuatoren da sind, um sowas zu schaffen. Mit anderen Worten, Sie brauchen sich eigentlich keine Sorgen um künstliche Intelligenz machen. Sie wissen jetzt, welche Defizite künstliche Intelligenz hat. Sie wissen, wie man sie in die Irre führen kann. Das wiederum bedeutet, dass man höchst skeptisch sein muss, wenn hinten aus der künstlichen Intelligenz was rauskommt. Das soll nicht bedeuten, dass künstliche Intelligenz blöd ist. Im Gegenteil, es gibt Expertensysteme, die sind so gut trainiert. Ich gebe Ihnen ein Beispiel: Es gibt künstliche Intelligenzen, die haben sich auf Röntgenbilder spezialisiert und können feinste Unterschiede sehen, die das menschliche Auge nicht sieht. Und sie haben Recht, aber sind eben nur auf Röntgenbilder des oberen Brustraums, Lunge, ja, darauf sind sie trainiert, und das können die gut. Mit anderen Worten: Künstliche Intelligenz kommt immer dann, und zwar gut zum Einsatz, wenn es um Screening geht. Dann halten Sie den so 200 Bilder hin von irgendwie Covid-Kranken, und der kann sofort sehen: Zerklumpelung in der Lunge oder nicht. Das geht schneller und besser als jeder Arzt das machen kann. Da sind solche Systeme gut. Wenn es dann um Zweifelsfälle geht, so kritische Fälle, das würden Sie dürfen keine künstlichen Intelligenz übersehen, da muss der Mensch dann ran. Okay, also ja, künstliche Intelligenz ist gut, sie hilft uns sehr beim Screening großer Datenmenge, ist es wirklich gut, aber in Spezialfällen, wo es wirklich auch um menschliches Leben geht, um rechtliche Fragen, da sollte man keine künstliche Intelligenz lassen. Das muss man heutzutage wissen. Und wir sind weit davon entfernt, dass solche Systeme so intelligent sind wie Menschen. Und deswegen habe ich eine Wette schon vor vielen Jahren eingegangen. Ich habe gewettet, autonom fahrende Autos wird es in den nächsten 20 Jahren nicht geben. Ich hoffe, dass ich so lange will leben werde. Aber genau das ist es ja, da gibt es Sensoren, Input, da muss steuern, da ist der Aktuator und künstliche Intelligenz. Das wird gerade gestern ja… Sie kennen dieses Problem: Sie fahren auf der Straße, Müllwagen vor Ihnen, kennen das ja jeden Morgen, und sagen: Nicht schon wieder. Was machen Sie? Ist zwar durchgezogener Streifen in der Mitte, aber natürlich überholen Sie das. Würde kein autonom fahrendes Auto machen, denn die Regel lautet: Ein durchgezogener Streifen wird nicht überfahren. So, wir stellen Sie mal vor: In den Müllwagen steht jetzt so ein autonomes Fahrzeug, und da steht da: 20 Minuten, keiner darf überholen. So wird die Zukunft aussehen. Damit komme ich zum Schluss. Also, das Wichtige, und das ist sozusagen das, was ich noch mal der Werner Brother gesagt hat, ja, laut einer US-Studie liegen die Fehlerquote von Voraussagen akademischer Prognologen – das sind die, die es wissen, die Fachleute, ne – bei einer Kruste, trauen Sie ihnen nicht. Hier sehen Sie, warum das der Fall ist: In 80% aller Fälle haben sie Unrecht. Oder wie ein famoser Wissenschaftler – hier sehen Sie auch Boschewski, Oboschewski – gesagt hat: „Globale Finanz- und Wirtschaftskrisen werden von Forschungsinstituten Routine-mäßig nicht vorhergesehen.“ Oder würden Analysten nach der Treffsicherheit ihrer Prognosen bezahlt werden, sie allesamt Sozialfälle. Ja, genauso ist es. Passen Sie auf, wenn Experten Ihnen was raten, überzeugen Sie sich selber, seien Sie vorsichtig im Leben. Natürlich Intelligenz ist gut, bei der künstlichen Intelligenz ist es manchmal gut, aber nicht immer gut. Und das Feind zu unterscheiden, muss man sich ein bisschen mit der Sache beschäftigen. Ich sitze im Bayerischen Ethikrat und berate die Bayerische Regierung gerade in solchen Sachen KI, deswegen kann ich Ihnen das auch erzählen, deswegen mache ich das. Und wenn Sie mich fragen: Was soll man machen? Wie soll man mit der Zukunft, wie soll man mit KI in der Zukunft umgehen? Habe ich einen tollen Rat, und den habe ich mal von Perikles gelesen. Er hat folgendes gesagt: „Es kommt gar nicht darauf an, die Zukunft zu wissen, sondern nur auf sie vorbereitet zu sein.“ Das ist ein wichtiger Unterschied. Natürlich wollen wir wissen, wie die Zukunft wird, aber wir können es nicht. Das kann man sogar physikalisch zeigen. Aber immer schön die Augen offen halten, immer schön um sich schauen, ein bisschen kritisch sein, ja, versuchen zu verstehen und sich selber im Bild machen. Und wenn eine Neuerung eintritt, von der Sie sagen: Das ist super, zu packen und machen, und bleiben Sie neugierig. Ich danke Ihnen [Applaus] [Applaus] [Musik]. Vielen Dank. Ich sehe, Sie haben es verstanden [Musik]. Vielen Dank für diesen Abend der Lebenshilfe. Am glauben Sie nicht, wenn ein Experte Ihnen erklärt, was künstliche Intelligenz ist und auch solche Vorhersagen gibt. Es gibt Fragen hier, bitte [Musik]. Ich kann die Frage gerne wiederholen. Seine Frage lautet: Sind Tiere denn intelligent? Nun, die Frage lautet oder stellt sich: Was versteht man unter tierischer Intelligenz? Wenn wir von künstlicher Intelligenz reden, beziehen wir uns auf einen Menschen. Also, die Referenz ist der Mensch, und sagen: Wie gut ist die Maschine im Vergleich zum Menschen? Wir wissen, Tiere können besondere Dinge, die wir nicht können. Hunde zum Beispiel können besser riechen als wir. Und wenn wir sagen: „Gutes Riechen ist eine Intelligenz“, dann muss man sagen: Da sind die Menschen da unterlegen. Wenn wir sagen: „Nein, geistige Intelligenz ist das“, da muss man den zugestehen: Sie können einiges, aber rechnen können sie zum Beispiel nicht. Wenn wir sagen: Mathematik ist was… Und das tauchte ja auch auf in diesen künstlichen Kategorien, also logisches Denken, Mathematik und solche Dinge, das können Hunde nicht. Also, man muss immer genau sagen: Was verstehe ich unter Intelligenz und tierischer Intelligenz? Und ich würde sagen: Ja, die haben hohe Intelligenz in gewissen Bereichen, aber in anderen, die für uns wichtig sind, haben sie die nicht. Und das ist dann die Antwort darauf. Ja, ja. Augenblick, Augenblick. Das Mikrofon. Ja, einmal einen großen Dank an ihren ausgezeichneten Vortrag. Dankeschön. Meine Frage: Ich dachte, KI-Systeme sind auch Systeme, die lernen können. Ja, ich habe gehört, dass – also gerade was Sie damit zuletzt gesagt haben von dem Scannen von Bildern und Erkennen von Krankheiten – dass sie eine gewisse Anzahl gezeigt kriegen, aber dass sie durch weitere immer besser lernen. Ja, also das Ganze mit dem Trainieren geht so: Also, sie haben so neuronales Netz, zeigen den Röntgenbilder – mal konkret zu sein – und sagen: „Hier Tumor, so sieht Tumor aus.“ Und dann zeigen Sie dem 100 Tumoren, dann lernte er: So sehen Tumoren aus – mal größer, mal kleiner, mehr oder weniger Schatten, wie auch immer. So. Und wenn Sie 100 Tumore gesagt haben, sagen Sie ihm: So. Und die restlichen 1000 oder 2000, die lernst du jetzt selber, Green Force One Learning, und dann… Und dann zum Schluss, wenn Sie glauben: Jetzt hat er fertig gelernt, sagen Sie: „Heatmap“, und dann lassen Sie sich mal zeigen. Halten Sie ihm irgendein Bild von, sagen Sie: „Jetzt sag mal, woran erkennst du jetzt den Tumor?“ Und wenn er das richtig erkannt hat, dann ist er gut. Wenn er dann irgendwie dann Kluge-Hans spielt oder so, dann wissen Sie: Nee, schlecht gelernt, oder müssen Sie wieder weiter vorne anfangen. So geht das heutzutage. Und nur solche Systeme, die zum Schluss zeigen – und zwar den Menschen zeigen: Ich habe es verstanden – diese dann natürlich viel schneller als der Mensch, und dann setzt man die ein. Aber Sie müssen den immer auf die Finger schauen. Wir müssen immer sicherstellen: Hat das richtig verstanden? Hat er richtig gelernt? Wie bei Kindern. Sie sagen: „Hier, Auto!“ Und irgendwann sagt das Kind: „Ah, Auto!“ Und was sehen Sie? Garage. Dann sagen Sie: „Nee, das ist eine Garage, ist kein Auto.“ Das Auto steht zwar immer in der Garage, aber ist nicht das Auto selber. Und dann merken Sie selber, dass das Kind falsch gelernt hat, dann korrigieren Sie das. Das Kind lernt. Und das ist das Tolle bei Kindern, über Menschen. Es gibt nicht nur Aussagen: „Sagt Auto!“, sondern es kann im Nachhinein auch nachlernen. Und das ist bei solchen künstlichen Netzwerken schwieriger. Ja, denn wenn es einmal fertig gelernt hat, setzen Sie es ein, und im Einsatz kann es nicht mehr nachlernen. Ja, das ist der Nachteil von künstlicher Intelligenz. Warum können Sie das System nicht nachlernen lassen? Ja, das liegt daran, weil sie setzen halt ein, und es hat eine feste Verschaltung. Es kann natürlich lernen, da müssen Sie das System wieder nehmen und sagen: Okay, hier siehst du jetzt ein Bild, dann müssen Sie es wirklich fragen und sagen: Warum glaubst du, dass das jetzt eine Katze ist und kein Hund? Denn hinten kam raus: Katze. Aber sie wissen, es war Hund. Und dann stellen Sie fest: Einhalt solcher falschen Aussagen, das System funktioniert nicht richtig, dann müssen Sie es nehmen, neu lernen lassen. Aber dann darf es nicht mehr in Anwendung… Dann nehmen Sie es raus, lassen Sie es mal eine Woche neu lernen, und dann fragen Sie wieder. Und wenn Sie glauben: Jetzt hat es gelernt, dann setzen Sie es wieder ein. Also, es gibt lernen oder Einsatz, nicht beides. Kind macht parallel beides. Ja, Sie können gleich das nächste Bild hinhalten, es hat das gelernt, und das geht dann sofort weiter. Die Sprachen – unter anderem von einer Blackbox und von einem… Was? Blackbox zwischen der Wahrnehmung und der Ausgabe der Wahrnehmung und dann von einem was? Heat Bild, irgendwas mit Hitze. Ja, Heatmap. Ja, also die Heatmap. Wie kommen Sie an die Heatmap, wenn es sich auf der einen Seite um eine Blackbox handelt – wie dem Namen nach, nach meiner Interpretation gar nicht reinschauen können – auf der einen Seite, und auf der anderen Seite, wir können natürlich Schaltzustände auslesen, aber wie lesen dann aus, dass zum Beispiel dieser künstliche – künstliche Intelligenz – das Schiff über das Wasser erkannt hat? Denn Ihr müsst ja die Heatmap auch wiederum irgendwie interpretieren. Ja, und dass das Rote, was in dem Bild, was Sie gezeigt haben, dann das Wasser war und das daraus das Schiff abgeleitet wurde, das kommt mir etwas… Ja, kann ich nicht nachvollziehen. Also, Blackbox bedeutet: Sie wissen nicht, wie das System intern verschaltet ist. Der Schalter ist wie stark, diese Synapsen sind, also was, das wissen Sie nicht. Aber was Sie eben machen können: Sie können Fragen an das Gesamtsystem, an die gesamte Blackbox stellen. So, was kann man machen? Sozusagen, als wenn Sie mit einem Voltmeter mal an eine Stelle reingehen und punktmäßig mal nachschauen. Sowas können Sie machen, und dann kriegen Sie eben… Dann fragen Sie das System an dieser Art und Weise: Gib mir mal punktweise raus, warum du das jetzt als Schiff interpretierst. Und dann sagt das System: Diese Heatmap. Also, für jeden Punkt gibt es sozusagen eine Antwort: Rot, Grün oder Blau. Und dann wissen Sie: Okay, an der Ebene wurde das so interpretiert. Das Problem ist, dass das System sagt nicht: „Wasser und deswegen musste ein Schiff sein“, sondern das System sagt: „Das ist Schiff.“ Verstehen Sie den Unterschied? Das sagt das, was er als Rot angibt, das ist das Schiff. Und das ist das Problem. Wenn er sagen würde: „Ich habe das Schiff über das Wasser erkannt“, das ist darüber, dann wäre das ja okay, aber das macht es nicht. Ist die falsche Erkennung. Also, man kann das System befragen, aber sie können trotzdem nicht die Einzelzustände, und das bedeutet Blackbox. Black heißt: Ich habe keinen Einblick. Sie können trotzdem so eine Heatmap abfahren. So, was ist möglich? Dann würde ich halt mal das Schiff weglassen, ja, und dann wird das System sagen: „Schiff!“ Ja, das ist ja… Wolfgang, genau das ist das Problem. Also, künstliche Intelligenz gibt es nicht. Ja, das würde ich auf jeden Fall… Wenn eine künstliche Intelligenz ein Wasser als Schiff interpretiert, dann müssen wir ganz von vorne wieder anfangen. Aber Sie hatten eine Frage gedacht, als die das Beispiel gebracht haben: Warum ist man denn so bescheuert, dass man den nur Schiffe zeigt, die auf dem Wasser schwimmen und nicht Schiffe, die aufgedockt sind? Es gibt auch Luftschiffe. Sie bereits vorher wissen, dass du ein künstliches System sozusagen sowas falsch interpretieren kannst, du musst das ja vorher wissen. Also sagen Sie: Ich muss dem System auch Schiffe trainieren lassen, die im Trockendock sind. Das müssen Sie aber vorher wissen. Das heißt, dahinter steckt ein falsches Training. Das gibt es, der Begriff „shit in, shit out“, das ist das… Aber der Jargon, genau: Kein sauberes Training heißt kein sauberer Output. Okay. Da oben ist… Nein, die Online-Zuhörer können Sie dann nicht sehen, hören. Ja, danke. Sie sitzen hier im Ethikrat. Was halten Sie von den Tendenzen? Das ist durchaus… Viele Softwarefirmen gibt es, die bereits am Markt agieren mit Versprechungen, zum Beispiel gegenüber Versicherungskonzernen, Ratingagenturen, Finanzkreditentscheidungen und ähnlichen Sachen, die durchaus erheblichen Einfluss auf das individuelle menschliche Leben haben, hier über sogenannte KI-Systeme im Hintergrund Entscheidungen zu treffen. Das ist bei uns im Ethikrat ein ganz großes Thema zur Zeit, und wir werden in den nächsten Tagen eine Stellungnahme auch zu diesem Punkt herausgeben im Internet. Ja, das ist ein großes Problem, und deswegen plädieren wir für einen sogenannten Beipackzettel für solche Systeme. Da muss ganz genau beschrieben werden, wie das System funktioniert. Zum Beispiel, auf wie man Heatmaps generieren kann, um es zu checken. Da muss man ganz genau angeben, welche falschen Ergebnisse, wann sie auftreten können. Das muss alles beschrieben sein, so dass man als Außensteher, als jemand, der das anwendet, genau weiß: Wo kann ich reingelegt werden von den Systemen, wo nicht? So, dass man das System in den richtigen Situationen richtig anwendet. Genauso, wenn Sie Medizin nehmen, wissen Sie genau: Wenn ich dieses Medikament einnehme, dadurch dass andere nicht einnehmen, um ein Beispiel zu geben. Und sowas verlangen wir jetzt auch von solchen Systemen: Einen Beipackzettel, wo sowas genau steht. Ja, also verstehe ich das richtig, dass die Anbieter diesen Beipackzettel… Ja, die Anwärter müssen, genau wie Medikamente im Beipackzettel, die müssen genau untersuchen, wo man das System reinlegen kann, worauf es fehleranfällig ist und… Also, was… Und wenn ich es als User zum Beispiel mit einem KI-gestützten Telefon-Chat-Roboter interagiere, die ihre mittlerweile so weit entwickelt sind, dass sie sogar menschliche Leute wie… Ja, und sowas mit zwischen weinflechten, um menschlicher zu klingen, wie kann ich da als unbefangener Amateurkunde erkennen? Also, ist da irgendwas geplant, das von Staaten… Das ist ganz einfach: Dass das markiert werden muss. Ein System, das einsetzt, muss sagen: Das ist ein künstliches System. Punkt. Aus. Das wird einfach gefordert. Das ist ganz einfach. Das hat man ja heute schon. Wenn Sie mit einem Computer interagieren, wenn Sie… Wenn Sie was für sich bei einer Hotline bei BMW anrufen, dann werden Sie immer gefragt: Sind Sie damit einverstanden, dass wir aufzeichnen, zum Beispiel, nicht um es nachher nochmal zu analysieren und so. Durch gesetzliche Regelungen lässt sich sowas nochmal in einer demokratischen Gesellschaft jetzt in Griff. Das bedeutet nicht, dass man alle Probleme damit abfängt. Sie kennen das, irgendwo gibt es immer noch ein Schlupfloch, auf ihn wer anders. Aber das ist halt… Man muss halt mit der Zeit lernen, wie man Dinge verbessern kann. Bis ich den gerade am Anfang… Wir plädieren für diesen Beipackzettel. In der Zukunft werden wir wahrscheinlich noch andere zusätzliche Regelungen brauchen. So müssen wir uns langsam an das Ganze rantasten. Damit lassen Sie uns diese spannende Thematik nächstes Jahr, übernächstes Jahr, in zehn Jahren, in 20 Jahren… Ihre Wette sind 20 Jahre? Ich habe… Ich muss nochmal nachschauen. In nicht zu alt… Schon 19 Jahre vorbei… Von der… Nein, nein, soweit ist… Ich meine, es sind sogar nur fünf Jahre, da müsste ich mal in die Wette nachschauen. Aber ich habe gewettet, und es sieht ja ganz gut aus. Also, Sie wissen ja, vor paar Jahren war das ja der Hype, ne, mit diesem Auto. Es ist ruhiger geworden. Und wissen Sie, es geht ja nicht darum, dass Autos wirklich gut fahren können. Das Problem ist in die Regelungen, wie ich gerade gesagt, ne? Dann ist da so ein Müllabfuhr-Auto, und wenn das Auto trotzdem überholen würde, und dann geht’s ein Zusammenstoß… Darum geht es. Wer ist dann dafür zuständig, oder wer wird bestraft? Natürlich muss es dann der Hersteller des Autos sein, der es erlaubt hat, der so programmiert hat, dass er trotz durchgezogener Linie das macht. Das wird kein Autohersteller machen. Das glauben Sie aber selber nicht, dass die dann für Tote dann aufkommen oder wie auch immer… Finger weg, sagen die Autohersteller. Damit möchte ich nichts zu tun haben. Deswegen gilt die Regel: Der Fahrer muss immer noch aufmerksam sein und immer noch der… Um sich aus dieser gesetzlichen Falle rauszulegen. Das ist der Grund, und deswegen wird es nicht autonomes – autonomes Fahren – so schnell geben. Weil wenn es vor Gericht kommt, würden ja die Autohersteller – und das ist auch richtig so, das verstehe ich – die würden ja dann zur Rechenschaft gezogen werden, und das geht nicht. Wir haben natürlich im Verkehrszentrum des Deutschen Museums – wie einige vielleicht von Ihnen wissen – ein autonom fahrendes Fahrzeug ausgestellt, den Weimar Firefly von Google. Er hat kein Lenkrad. Ich habe übrigens gewettet, die Wette lautet so: Ich habe gewettet – ich glaube, 10 oder 20 Prozent des Verkehrs künstliche Fahrzeuge, autonome Fahrzeuge – würde unser Verkehrssystem in den Städten zusammenbrechen. So lautet meine Wette, und zwar wegen dieser ganzen Müllabfuhr und Sie kennen das, durchgezogener Streifen. Sie kennen das ja. Das würde nie funktionieren. Bitte… Ich glaube, 1000 Euro habe ich gewettet. Ja, also das muss schon ein bisschen wehtun. Das ist keine Wahl, das muss wehtun. Dieses Buch gibt es da um käuflich zu erwerben. Helfen Sie Professor Ulrich Walter, falls er die Wette verliert. Herzlichen Dank [Applaus]. Danke, vielen Dank [Musik]. Darf kurz noch darauf hinweisen, dass wir auch nächste Woche wieder einen Vortrag haben, wissen dürft, für jedermann im Auditorium mit dem Titel: „Von bewegenden Klängen und klingenden Bewegungen“. Da geht es um Sonifikation von Daten. Also, wie kann man Datenströme hörbar machen? Höchst spannend. Das ist ein Vortrag, der in Zusammenarbeit mit dem Jugend-Ensemble für Neue Musik in Bayern stattfindet. Also, Ton und Daten zusammen. Und so Vortragender ist Mike… Von der… Name von der DLR. Es führt eigentlich konsequent diese Einführung, die Sie heute gekriegt haben in KI, weiter zu einer höchst spannenden Anwendung. Wenn Sie Zeit haben, schauen Sie vorbei. Und wenn Sie zufrieden sind mit uns, schauen Sie auch noch mal in unseren YouTube-Channel des Deutschen Museums. Dort wird auch wieder dieser Vortrag dann zur Verfügung stehen. Und klicken Sie… Machen Sie ein Like, wie auch immer.

Diskutieren Sie mit uns, und kommen Sie wieder in unser Haus.

Kommen Sie gut nach Hause.

Herzlichen Dank. [Musik] [Applaus] [Musik]