Podcast „Bildung, Lebenssinn und Technologie – wie KI und OER helfen können“

Teil 1: Wie verändert KI die Welt?

Andreas Dengel (AD): Ich nenne es ganz gerne "Augmented Intelligence" – dass man sozusagen die künstliche Intelligenz verbindet mit der menschlichen Intelligenz und eine gemeinsame Lösungsfindung sucht. … Wir haben verschiedene Aufgaben - pädagogische Aufgaben, die durch KI übernommen werden können. … Ein paar Sekunden länger auf dieses eine Video schauen und schon geht die Spirale in die Filterblase los. … Und da liegt natürlich auch eine riesige Gefahr dahinter, dass man eben eine Radikalisierung einfach durch diese Filterblasen beschleunigt. … Ich versuche selbst etwas zu machen, selbst mit den KI-Systemen zu arbeiten und dadurch lerne ich darüber und dadurch kann ich auch reflektiert damit umgehen.

Sprecher: „Bildung, Lebenssinn und Technologie - wie KI und OER helfen können.“ Eine Interviewreihe in drei Teilen. Kurz zum Hintergrund: Das Bundesministerium für Bildung, Familie, Senioren, Frauen und Jugend möchte das digitale Lehren und Lernen weiterentwickeln, besonders in Schulen, aber auch entlang der gesamten Bildungsbiografie. Dafür gibt es die sogenannte OER-Strategie. OER steht für Open Educational Resources, also offene Bildungsmaterialien. Das sind digitale Werkzeuge und Inhalte, die unter einer offenen Lizenz verfügbar sind. Das heißt, sie sind nicht nur kostenlos zugänglich, sondern können auch bearbeitet, weiterverarbeitet und weitergegeben werden. Und das entweder ganz ohne oder mit nur wenigen Einschränkungen und Vorgaben. Dann gibt es noch die OEP. Das sind die Open Educational Practices, also offene Bildungspraktiken, die sozusagen die geeigneten Rahmenbedingungen schaffen, um OER zu erstellen, zu nutzen oder zu verbreiten. In diesem Kontext spielt in Zukunft das Thema KI eine wichtige Rolle. Wie also können jetzt KI, OER und OEP zusammen gedacht werden und wie können diese idealerweise glückliche Menschen bilden? Genau darum geht es in dieser Interviewreihe. Herzlich willkommen zu Teil 1: „Wie verändert KI die Welt?“

Lisa Mattil-Krause (LMK): Hallo, ich bin Lisa Mattil-Krause vom DLR Projektträger und ich sitze hier nicht alleine. Hier ist noch Andy Dengel. Hallo Andy.

Andreas Dengel (AD): Hi, danke für die Einladung.

LMK: Ich freue mich sehr, dass du heute hier bist. Du bist ja Professor für Informatikdidaktik an der Goethe-Universität Frankfurt am Main und ich freue mich sehr, dass wir uns heute unterhalten. Und darum geht es heute:

Sprecher: Es geht direkt los mit einem richtig großen Thema. Wir stellen uns die Frage: Wie verändert KI, also künstliche Intelligenz, die Welt? KI ist schon heute in unserem Alltag präsent und verändert damit nicht nur unsere Gewohnheiten, sondern auch unseren Zugang und Umgang mit Informationen und Wissen. Und das hinterlässt natürlich seine Spuren in den Bereichen Schule, Aus- und Weiterbildung. Was sich da gerade alles tut, das schauen wir uns jetzt genauer an.

LMK: Was ist denn aus technologischer Sicht die große Entwicklung, die sich gerade tut?

AD: Es würde mich überraschen, wenn noch niemand von künstlicher Intelligenz gehört hat. Ich glaube, die Allermeisten haben schon mal irgendein Sprachmodell ausprobiert – sei es ChatGPT oder Llama oder Gemini oder wie auch immer. Und ich glaube, ich spreche für die meisten, wenn ich sage: Man ist sehr fasziniert, wenn man diese Technologie zum ersten Mal ausprobiert. Weil man denkt immer: Es funktioniert ganz gut und dann ist man wirklich überrascht, wie gut Texte wirklich generiert werden, wie gut Bilder generiert werden, wie gut Musik generiert wird und so weiter und so fort. Und wenn wir über technologischen Wandel sprechen, dann müssen wir uns erstmal anschauen: Was passiert denn so drumherum? Was heißt denn dieser technologische Wandel? Neue Technologien hatten wir schon immer. Nehmen wir zum Beispiel Musik: Früher hatten wir mal Schallplattenspieler und das fanden wir total super: Ich kann ja tatsächlich Musik einfach aufnehmen und immer wieder anhören. Und das hat sich dann weiterentwickelt. Dann ist irgendwann die CD gekommen, weil man dachte, vielleicht kann man jetzt mehr Lieder, mehr Musik speichern. Dazwischen kam noch die Kassette und so weiter. Dann kam irgendwann dieser Walkman oder Discman. Diese ganzen technologischen Entwicklungen, die ersetzen andere Technologien. Und das haben wir mit KI natürlich genauso. Mittlerweile können wir nicht nur Musik hören, wir können sogar Musik generieren. Und diese technologischen Weiterentwicklungen sind eben ganz normal für unser Leben. Jetzt ist die große Frage: Warum ist KI denn jetzt etwas Besonderes? KI ist nämlich ein bisschen anders als die klassischen Algorithmen, also als die klassischen Programme, die wir kennen, weil KI nämlich vor allem auf Wahrscheinlichkeiten beruht. Es beruht vor allem darauf: Wir lernen aus Daten.

LMK: Und wie funktioniert das: Lernen aus Daten?

AD: Dieses Lernen aus Daten funktioniert in den allermeisten Fällen so, dass man irgendwelche Trainingsdaten bereitstellt. Das heißt: Ich habe bestimmte Daten, die einen Zusammenhang darstellen. Zum Beispiel, wenn wir bei Musik bleiben, habe ich ganz viele Lieder, die bereits existieren. Und damit trainiere ich ein neuronales Netz. Darüber sprechen wir auch gleich noch, was das eigentlich ist. Im Rahmen von diesem neuronalen Netz werden dann diese Trainingsdaten eingespielt und die trainieren dann die entsprechenden Zusammenhänge innerhalb dieses Netzes. Und sobald ich dann dieses Netz trainiert habe, kann ich das zum Beispiel zur Generierung von neuer Musik verwenden. Oder ich kann es auch verwenden, um vorherzusagen, welche Tonart ein bestimmtes Lied hat oder welcher Ton als nächstes kommt, was zum Beispiel der Kern dieser ganzen Generierungs-Geschichte ist. Das heißt, hier verwende ich bereits bestehende Daten, um neue Daten vorherzusagen oder eben auch neu zu erzeugen.

LMK: Und wie lange dauert das? Wie aufwendig ist es, so ein System zu trainieren?

AD: Das ist unterschiedlich. Das kann von ein paar Sekunden bis zu mehreren Monaten dauern. Es kommt vor allem auf die Menge der Trainingsdaten an, aber natürlich auch auf die Rechenleistung der entsprechenden Systeme, die ich trainiere.

LMK: Wie funktioniert das ganz konkret? Du hast gesagt, da werden Daten analysiert. Hast du ein Beispiel, mit dem du das noch ein bisschen anschaulicher erklären kannst?

AD: Ein Beispiel, das auch beim Lernen von KI-Technologien gerne verwendet wird, ist die Handschriftenerkennung. Das ist zum Beispiel bei der Post ganz wichtig, dass ich nicht mehr Menschen dahinter setzen muss, die separat die einzelnen Ziffern eintippen, wenn ich Briefe analysiere. Es gibt ein KI-System, das automatisch erkennen kann: Was ist das denn für eine Postleitzahl? Was ist das für eine Straße? Und diese Handschriftenerkennung, die funktioniert im Prinzip so: Nehmen wir mal ein vereinfachtes Beispiel: Ich habe einfach nur die Zahlen von 0 bis 9. Das heißt, ich gebe meinem System ganz viele Beispiele dazu, wie eine handgeschriebene 0 aussieht. Es gibt im System ganz viele Beispiele, wie eine handgeschriebene 1 aussieht und so weiter und so fort. Und dann kann ich dieses System darauf trainieren: Das heißt, wenn ich ein paar tausend Beispiele habe, wie diese einzelnen Ziffern aussehen können, dann spiele ich diese Bilder in das System. Und dafür muss man verstehen, was in dem Fall Bilder sind. Der Computer arbeitet ja letztlich nur mit Nullen und Einsen, also mit Strom an und Strom aus. Das hast du vielleicht schon mal gehört?

LMK: Ja klar.

AD: Und Bilder sind natürlich nichts anderes als Nullen und Einsen. Das sind im Prinzip Dateien, die aus ganz vielen Pixeln bestehen - also man zoomt rein und dann verpixelt das irgendwann. Das heißt, man sieht die einzelnen "Picture Elements". Und diese einzelnen Pixel sind sozusagen gespeichert als Farbwerte - zum Beispiel rot, grün oder blau in der einfachsten Form. Und wenn ich diese Farbwerte dann zusammennehme, dann werden auch die als Zahlen gespeichert. Und wenn ich diese Zahlen dann wiederum in das Netz eingebe, dann kann ich dieses Netz trainieren und kann, so zumindest die Hoffnung, diesem Netz erklären: Wenn diese Anordnung von Pixeln, also von Farben, in diesem Bild so ist, dann ist das eine 1. Wenn diese Anordnung ein bisschen anders ist - das heißt, wenn die Kanten auch ein bisschen anders sind - dann ist das vielleicht eine 4 und so weiter und so fort. Das heißt, wir haben dieses EVA-Prinzip: Eingabe, Verarbeitung, Ausgabe. Wir haben bestimmte Eingabedaten. Diese werden verarbeitet und ich bekomme eine Ausgabe. In unserem Fall sind die Eingabedaten dann einfach die handgeschriebenen Ziffern. Die Verarbeitung passiert in diesem neuronalen Netz und die Ausgabe ist dann einfach nur eins von zehn Elementen. Das heißt, das ist entweder 0, 1, 2 und so weiter oder eben die 9. Und wir bekommen bei neuronalen Netzen keine Sicherheit raus, sondern wir bekommen eine Wahrscheinlichkeit. Das heißt, das neuronale Netz ist sich zum Beispiel zu 64 Prozent sicher, dass es eine 7 ist, aber es könnte auch zu 20 Prozent eine 1 sein, weil diese Ziffern einfach ähnlich aussehen. Jetzt kommen wieder die Wahrscheinlichkeiten ins Spiel: Das neuronale Netz sagt uns: Okay, ich bin mir relativ sicher, dass es eine 7 ist. Also bekommen wir die 7 zurück. Und deswegen ist es auch wichtig, dass wir wissen: Diese KI-Systeme können Fehler machen, weil es eben nicht immer eine absolute Sicherheit ist. Das ist ein Beispiel, mit dem man das ganz gut erklären kann.

LMK: Aber auch wenn es keine absolute Sicherheit gibt: Es ist schon so, dass KI ganz viel liefern kann, was vorher die Menschen übernommen haben. Und ich möchte mir nun einen Bereich genauer anschauen, und zwar den Bereich Bildung. Bildung ist für uns als Menschen total wichtig. Sie hilft uns dabei, unseren Platz in der Welt zu finden. Und unser Bildungssystem ist eigentlich nicht auf KI eingestellt bisher. Was passiert denn jetzt mit diesen ganzen Möglichkeiten, die die künstliche Intelligenz mit sich bringt? Wie verändert sich der Bereich Bildung?

AD: Wir haben vorhin schon darüber gesprochen, dass bestimmte Technologien andere Technologien ersetzen. Der MP3-Player ersetzt den CD-Spieler und der MP3-Player wird wiederum ersetzt zum Beispiel durch unser Smartphone, mit dem wir dann auf einmal Musik streamen können. Wir müssen gar keine Musik mehr kaufen. Und jetzt geht das weiter: Wir können uns Musik generieren. Trotzdem ist die Aufgabe im Prinzip die gleiche, und zwar "Musik hören". Und diese Aufgaben haben wir im Bildungsbereich natürlich genauso. Wir wollen zum Beispiel irgendetwas für alle darstellen, wir wollen irgendetwas groß zeigen. Dafür hatte man irgendwann in der Zeit um 1800 die Tafel entwickelt. Ganz plötzlich - das war total beeindruckend. Ich kann mit einer Kreidetafel groß Dinge anschreiben für die ganze Klasse. Das hat sich auch weiterentwickelt: Wir sind dann übergegangen zu Beamern, wir sind übergegangen zu interaktiven Whiteboards - aber die Aufgabe ist die gleiche. Und diese Aufgaben, die durch neue Technologien übernommen werden, die haben wir im kompletten Klassenzimmer. Die haben wir dann auch, wenn ich zum Beispiel Videos zeigen möchte. Ich erinnere mich noch: Wir haben uns in der Grundschule immer darum gestritten, wer den großen Fernsehwagen holen durfte - warum auch immer. Alle wollten diesen Fernsehwagen holen.

LMK: Alle hatten was zu tun, die das machen durften. Die durften aufstehen, sich aktiv einbringen.

AD: Ja, richtig. Aber warum ersetze ich diese Technologie jetzt? Der Fernsehwagen ist ganz cool, da können alle Kinder einen Film anschauen. Jetzt ist es aber vielleicht so, dass manche Kinder sich in diesem Thema schon gut auskennen. Andere Kinder haben vielleicht Deutsch als Zweitsprache. Die tun sich ein bisschen schwer, wenn sie einen Sachfilm direkt auf Deutsch schauen. Und deswegen sind wir hingegangen und haben gesagt: Vielleicht macht es Sinn, dass jedes Kind sich einzeln dieses Video anschaut, mit Tablets zum Beispiel. Das heißt, Tablet ist eine Technologie, die den Fernsehwagen ersetzt hat. Jetzt können sich Kinder individuell mit Kopfhörern das Video anschauen in ihrem Tempo. Das heißt, wir gehen hin in Richtung selbstgesteuertes Lernen. Also wir bringen nicht nur ein neues Medium rein, sondern wir haben einen Grund, warum wir dieses neue Medium reinbringen. Und das gleiche haben wir mit KI jetzt natürlich auch. KI ist nicht einfach nur eine Technologie, die wir ins Klassenzimmer werfen und sagen: "Okay, guckt, was ihr daraus macht". Sondern wir haben verschiedene pädagogische Aufgaben, die durch KI übernommen werden können. Und das geht auch hier natürlich ganz stark in Richtung selbstgesteuertes Lernen, vor allem aber in Richtung Individualisierung und Differenzierung. Darüber werden wir auch noch größer sprechen, glaube ich. Dieser Bereich der Individualisierung und der Differenzierung ist etwas, das suchen wir schon seit Jahrzehnten. Die pädagogische Praxis möchte schon seit Jahrzehnten Differenzierung und Individualisierung in den Unterricht bringen. Und jetzt haben wir die Möglichkeit dazu, weil wir diese KI-Technologie haben. Und KI kann sehr stark Inhalte personalisieren. Das heißt, wenn ich einen Prompt eingebe: "Bitte schreibe mir eine Kindergeschichte zu diesem und jenem Thema" - dann kann ich das perfekt auf die einzelnen Schülerinnen und Schüler anpassen.

LMK: Wird das zurzeit auch schon eingesetzt an den Schulen?

AD: Ich bin schon relativ lange im Kontext innovativer Bildungstechnologien unterwegs. Und im Vergleich zu anderen Bildungstechnologien kommt KI viel schneller an die Schulen - also im Vergleich zu Virtual Reality, zu Tablets und zu Lernvideos zum Beispiel. Hier haben gerade die Lehrpersonen sehr schnell verstanden, dass KI wirklich disruptiv ist, dass sich sehr viel am Unterricht verändern wird. Und an nahezu jeder Schule gibt es mindestens eine KI-Fortbildung, mindestens einen pädagogischen Tag zum Thema KI - letztes Jahr, dieses Jahr, übernächstes Jahr und so weiter. Das sind Themen, die interessieren die Lehrpersonen, weil sie einfach sehen: Das kann mich entlasten. Und natürlich ist die allererste Frage immer: Kann mir das Ding meine Hausaufgaben korrigieren? Das ist natürlich ein möglicher Anwendungsbereich.

LMK: Vielleicht ja sogar die Hausaufgaben machen.

AD: Die Hausaufgaben machen - daran sind die Lehrpersonen eher weniger interessiert. Aber die Schülerinnen und Schüler sind natürlich daran interessiert: Kann mir eine KI denn meine Hausaufgaben machen? Und die Antwort ist leider ja. Und das führt natürlich auch dazu, dass wir Unterricht neu denken müssen - die Zeit der Hausaufgaben hat ausgedient.

LMK: Aber es ist ja nicht nur die Sache des Unterrichts und die Sache der Individualisierung, die da Dynamik reinbringt. Schule hat ja auch immer etwas zu tun mit Berufsorientierung und Berufsvorbereitung. Das ist ja auch der komplette Bereich der Berufe, der jetzt durch KI ins Wanken gerät. Gibt es da etwas, das du beobachtet hast oder das bereits erforscht ist? Gibt es bestimmte Berufe, die in Zukunft verschwinden oder die jetzt schon größtenteils abgelöst wurden?

AD: Auch hier muss man wieder einen kleinen Rückblick machen: Berufe wurden schon immer automatisiert. Mit der Erfindung der Dampfmaschine wurden sehr viele Berufe automatisiert. Mit der Einführung des Computers wurden viele Berufe automatisiert und jetzt mit KI ist es natürlich auch nicht anders. Der Unterschied mit KI ist, dass wir Berufe, die kognitive Leistungsfähigkeit erfordern, automatisieren können. Das wurde vorher durch Computersysteme so ein bisschen angeteasert, aber zunächst ging es immer mehr um das Mechanische, um das Körperliche. Körperliche Arbeiten können ersetzt werden, indem wir eine Dampfmaschine anschließen, indem wir Autos mitbringen, indem wir Maschinen bauen, die körperlich anstrengende Arbeiten für uns übernehmen können. Jetzt haben wir auf einmal eine Technologie, die übernimmt das Denken oder sie kann uns das Denken abnehmen, wenn wir das denn wollen. Und es funktioniert. Jeder, der mal Sprachmodelle verwendet hat, sieht, dass es funktioniert. Wenn ich einen Prompt eingebe: "Gib mir eine Exceldatei mit den letzten Quartalszahlen", "verfass mir bitte eine Präsentation mit einem Quartalsbericht", "gib irgendwelche Empfehlungen dafür" - das funktioniert. Ich kann so einen Prompt eingeben und ich bekomme direkt die Powerpoint-Präsentation zurück. Das, wofür ich vorher vielleicht eine Woche lang gearbeitet habe, kann ich jetzt innerhalb von etwa zwei Minuten machen und es funktioniert. Und das beunruhigt sehr viele Menschen - gerade in sehr vielen White Collar Jobs ist es so, dass viele Menschen Angst haben: "Werde ich durch KI ersetzt oder nicht?" Und das macht natürlich auch etwas mit Schule, weil diese Unsicherheit besteht: Welche Berufe werden jetzt ersetzt? Welche werden nicht ersetzt? Die Unsicherheit breitet sich natürlich auf Bildung und unseren Blick auf Bildung aus. Normalerweise hat Schule zwei Aufgaben: Allgemeinbildung und Berufsvorbereitung - je nachdem, in welcher Schule wir sind. Um welche Schulart geht es also? Wir haben entweder einen berufsvorbereitenden Aspekt oder wir haben einen eher allgemeinbildenden Aspekt. Und das müssen wir jetzt natürlich neu denken, wenn wir nicht wissen: Welche Berufe gibt es denn in zehn Jahren überhaupt noch? Wie können wir denn dann überhaupt valide sagen, was noch unterrichtet werden soll? Und das macht natürlich etwas. Und du hattest danach gefragt, welche Berufe ein hohes Automatisierungspotenzial haben.

LMK: Ich denke da zum Beispiel an diese sehr guten Übersetzungs-KIs, die irrsinnig schnell arbeiten. Gibt es da noch andere Bereiche, in denen KI schon so fit ist, dass sich schon was getan hat?

AD: Man kann ganz allgemein sagen: Es betrifft alle Berufe, die sehr stark strukturierbar sind - also alle Berufe, die mit sehr stark strukturierten oder strukturierbaren Problemen arbeiten. Ich gebe mal das Beispiel von einem Anwalt: Ein Anwalt hat die Aufgabe, einen realen Sachverhalt zu nehmen und diesen realen Sachverhalt zu abstrahieren auf bestehende Gesetze. Und das ist eine Aufgabe, die kann sehr gut durch eine KI übernommen werden. Ich habe letztens mit dem Dekan unserer juristischen Fakultät gesprochen und er meinte: Er befürchtet, dass seine Profession eine der ersten sein wird, die KI zum Opfer fällt. Das glaube ich nicht so ganz. Ich glaube, dass es in Zukunft vor allem eine sehr starke Symbiose geben wird zwischen KI und menschlicher Intelligenz. Das wäre dann eine "Augmented Intelligence" - dass man sozusagen die künstliche Intelligenz verbindet mit der menschlichen Intelligenz und eine gemeinsame Lösungsfindung sucht.

LMK: Also dass die Menschen die künstliche Intelligenz nutzen - und das mit Sinn und Verstand.

AD: Genau so wird das im Endeffekt ablaufen. Das heißt aber nicht, dass nicht Berufe abgebaut werden, weil bestimmte Tätigkeiten viel schneller gehen und man dafür weniger Menschen oder menschliche Kognition braucht. Und das heißt wie gesagt, dass wir stark strukturierbare Berufe automatisieren können. Und das betrifft alles, was klassische Bürojobs sind. Deswegen sitzen Menschen ja vor Computern, weil sie eben diese Aufgabe haben: Wir müssen irgendwelche Probleme aus dem Realen nehmen und in einen abstrakten Sachverhalt in Daten strukturieren, damit der Computer sie dann weiterverarbeiten kann. Und dieser Arbeitsschritt, der kann jetzt übernommen werden. Und das ist das, wovor viele Menschen Angst haben.

LMK: Das bedeutet, manche Berufe fallen ganz weg, andere Berufe werden sich vielleicht wandeln. Aber eine Sache hast du gerade auch betont: KI kann ganz viele Dinge ganz einfach und schnell erledigen, die für uns total harte Arbeit wären. Also zum Beispiel Lernen: Wenn ich jetzt eine Sprache lernen möchte, dann muss ich die Vokabeln verstehen lernen, dann muss ich mir die Grammatik anschauen. Das muss ich alles zusammenbringen und das muss ich üben, um wirklich diese Sprache zu sprechen. Wenn ich jetzt eine KI als App auf dem Handy habe, dann kann die KI mir das ganz einfach nebenbei beisteuern für meinen Alltag. Ich kann davon diese Sprache aber noch nicht wirklich. Was machen denn diese Möglichkeiten - dass ich mich daran so einfach bedienen kann - was macht das mit uns als Menschen?

AD: Es wird natürlich auch sehr viele Änderungen in unserem Alltag bringen. Wir sollten uns erstmal anschauen, wie so ein Ding dann überhaupt funktioniert, weil natürlich muss dieses System auch erst lernen. Und wir haben vorhin gesagt, dass diese KI-Systeme durch Daten trainiert werden und das heißt bei dem Übersetzungsbeispiel: Es wird durch sehr viele Daten trainiert, die einmal einen Text in einer Sprache und einmal einen Text in einer anderen Sprache haben. Und das mit ganz vielen verschiedenen Texten, zu denen es einfach schon existierende Übersetzungen gibt. Das heißt ohne die menschliche Intelligenz dahinter könnten wir diese KI-Systeme gar nicht trainieren - wenn wir eben nicht diese Zuordnung hätten zwischen einem englischen Wort zum Beispiel und einem deutschen Wort. Wenn wir die nicht vorher als Menschen gemacht hätten, dann könnte das das KI-System auch nicht. Das heißt, diese KI-Systeme sind grundsätzlich auf menschliche Intelligenz trainiert. Und wenn wir sie jetzt in unseren Alltag bringen, dann heißt das letztlich nichts anderes als dass wir einen riesigen Pool menschlicher Intelligenz jederzeit zur Verfügung haben. Und das wird natürlich einiges mit unserem Alltag machen. Auch der Taschenrechner hat einiges mit unserem Alltag gemacht, weil der Taschenrechner kognitive Fähigkeiten, mathematische Operationen, einfach in Sekundenschnelle machen kann. Und genauso werden wir natürlich auch KI verwenden. Wir werden uns Texte generieren, wir werden uns Inhalte generieren. Es wird auch in Zukunft so sein, dass wir wahrscheinlich keine Websuchen mehr machen mit Suchmaschinen, sondern dass wir auch mit Sprachmodellen einfach Informationen recherchieren. Das ist besser geworden. In der Vergangenheit haben wir einen Suchbegriff eingegeben und haben dann 100.000 oder 10.000 Ergebnisse bekommen. Auch das ist super faszinierend, wie so eine Suchmaschine suggeriert, dass sie innerhalb von Sekundenbruchteilen das Web durchsucht. Aber auch das wird sich ändern. Und die Sprachmodelle sind im Vergleich zu den ersten Sprachmodellen jetzt zunehmend umgestiegen, dass sie immer Quellen anzeigen, also dass quasi angezeigt wird: Woher habe ich diese Information eigentlich? Und das soll natürlich dazu beitragen, dass man diese große Gefahr des Halluzinierens nicht mehr hat. Und das heißt, hier wird sich einiges verändern und es hat sich auch schon einiges verändert. Es ist nicht so, dass die generative KI wie die Sprachmodelle die erste KI ist, die in unserem Alltag kommt. Du hast mir vorhin erzählt, dass du zum Beispiel gerne häkelst in deiner Freizeit. 

LMK: Das stimmt - ja.

AD: Und dass du in so einer Social-Media-Bubble drin bist, die dir natürlich sehr viele Häkelvideos anzeigt. Und das ist auch KI. In meinem Social-Media-Feed, wirst du kein einziges Video zum Thema Häkeln finden. Du wirst in meinem Social-Media-Feed sehr viele Videos zu Pinguinen und zu meiner Sportart finden - und zu KI natürlich. Und das kommt davon, weil da natürlich auch ein KI-System dahintersteckt. Also zum Beispiel wenn du dir... Ich weiß nicht, ob du Fußballfan bist? Okay, du verziehst das Gesicht.

LMK: Ich bin relativ uninformiert im Bereich Fußball - aber nehmen wir mal an, ich wäre Fußball-Fan.

AD: Nein, das ist super. Wir nehmen mal an, du bist kein Fußball-Fan. Und das heißt, du siehst zwei Videos: Ein Fußballvideo - das wird dir einfach zufällig angezeigt, weil das vielleicht irgendeine bekannte Person geteilt hat in deinem Freundeskreis. Dann wirst du da relativ schnell drüberscrollen. Und dann kommt ein Häkelvideo, wo vielleicht irgendwelche Früchte oder Haustiere gehäkelt werden. Und da schaust du aber ein paar Sekunden länger drauf als auf das Fußballvideo.

LMK: Ja, da bleibe ich dran.

AD: Und dieser Algorithmus lernt dann. Dieser Algorithmus lernt nicht nur anhand der Dinge, die du likst oder die du teilst, sondern einfach nur: Die hat da jetzt ein paar Sekunden länger drauf geschaut. Das heißt, es scheint für sie interessanter zu sein. Und was ist die Folge? Dir werden natürlich wesentlich mehr Häkelvideos angezeigt. Ist ja logisch.

LMK: Total. Das klingt ja jetzt aus mehrerlei Hinsicht total verlockend und total großartig, was da alles passiert - so aus Nutzersicht. Einmal kriege ich ganz viele Informationen total einfach und dann werden die auch noch auf mich zugeschnitten. Aber das bringt auch schon ein paar Gefahren mit sich. Wie schaffen wir das denn, dass die Menschen da dranbleiben und sich nicht das Denken und Entscheiden von den Maschinen abnehmen lassen?

AD: Gerade in einer wirklich von Informationen überfluteten Welt, in der wir heute leben, ist es natürlich sehr praktisch, wenn wir einfach vorselektierte Informationen passend zu unseren Interessen, passend zu unseren Werten und so weiter auf uns zugeschnitten bekommen. Das ist sehr charmant. Und die ganzen Social-Media-Konzerne - das ist ja nicht grundsätzlich böse. Du willst ja vielleicht mehr Häkelvideos sehen, als du Elfmeter-Zusammenschnitte sehen willst, denke ich jetzt mal.

LMK: Und alleine durch die Tatsache, dass ich mich entscheide, diesen Dienst zu nutzen, bin ich ja auch bereit, ein paar meiner Daten freizugeben. Ich entscheide ja auch immer noch, welche Daten ich freigebe an der Stelle.

AD: Richtig. Und das bedeutet, diese Algorithmen sind natürlich erstmal nützlich. Aber diese Filterbubbles, wie man sie nennt, diese Filterblasen, die haben natürlich - wie du auch richtig sagst - sehr viele Gefahren. Vor allem, wenn es darum geht, Weltinformationen und politische Informationen zu bekommen. Das heißt, wenn sich Kinder oder Jugendliche oder auch Erwachsene besonders für eine politische Richtung interessieren - die müssen sich gar nicht dafür interessieren, sondern die müssen nur ein paar Sekunden länger auf dieses eine Video schauen und schon geht die Spirale in die Filterblase los. Und da liegt natürlich auch eine riesige Gefahr dahinter, dass man so eine Radikalisierung einfach durch diese Filterblasen beschleunigt. Und diese Filterblasen wirken natürlich so, dass sie vor allem emotionale Inhalte verstärken. Worauf schaue ich besonders? Auf Dinge, die mich emotional berühren - darauf schaue ich länger. Und das heißt, hier kommen wir in diese Radikalisierung sehr schnell rein. Für Kinder und Jugendliche ist es besonders gefährlich, wenn sie sich ohne Eltern in den Social-Media-Kanälen bewegen.

LMK: Sie sind dann einfach dem ausgesetzt, was auf sie einströmt, und haben vielleicht gar nicht die Anleitung zu reflektieren, was da gerade passiert.

AD: Richtig. Das große Problem ist natürlich, dass sie auch gar keine anderen Informationen angezeigt bekommen. Also sie sehen nur diese eine Art von Informationen wieder und wieder und wieder verstärkt, weil der Algorithmus gelernt hat: Diese Art von Informationen, diese Prägung von Information interessiert den Nutzer oder die Nutzerin eben besonders.

LMK: Und dann fehlt der Blick über den Tellerrand.

AD: Richtig, es fehlt genau dieser Blick über den Tellerrand, weil man eben nur eine Perspektive hat. Und allein die Awareness, also das Bewusstsein dafür: "Okay, ich befinde mich in einer Filterblase, ich bekomme nur diese Informationen angezeigt." - das ist wichtig. Und das fehlt ganz, ganz vielen. Das gilt auch für ganz viele Erwachsene, dass sie nur diese eine Art von Information angezeigt bekommen und deswegen sich ganz sicher sind, dass die Welt einfach so ist. Das müsste also auch sehr viel mehr in der Bildung aufgegriffen werden, dass man eben ein Bewusstsein darüber schafft, wie Informationen geprägt sind, wie Informationen selektiert werden und wie Informationen dazu führen, dass meine Meinung sich dann ausbildet.

LMK: Jetzt haben wir ganz viel über Gefahren und kritische Aspekte gesprochen. Künstliche Intelligenz bietet uns aber auch ganz viele positive Möglichkeiten. Was können wir jetzt tun, um diesen Wandel, der durch KI gerade geschieht, konstruktiv zu nutzen und um uns etwas Gutes aufzubauen damit?

AD: Im Prinzip genau das, was du gerade gesagt hast: Ihn konstruktiv nutzen, ihn erst mal einfach ausprobieren. Wir wissen noch nicht, in welchen Lebensbereichen uns KI begleiten wird. Also wir wissen, dass es wahrscheinlich alle Lebensbereiche sein werden. Aber wie genau diese Änderungen vonstattengehen, das müssen wir eigentlich für uns selber entscheiden. Und da bringt genau dieses "konstruktiv damit umgehen" etwas. Selbst die Systeme nutzen, selbst diese Algorithmen anwenden, selbst mal ein Sprachmodell ausprobieren, sich selber mal Bilder generieren lassen, damit ich auch verstehe: So funktioniert das. Und um noch mal ganz kurz auch auf die Gefahren zu sprechen zu kommen: Wenn ich mir mal selbst Bilder erzeugen lasse und sehe: Ich kann mir ja tatsächlich fotorealistische Bilder erzeugen lassen. Dann verstehe ich zum Beispiel, um mal auf das Thema Fake News zu sprechen zu kommen: Wenn ich das schon so leicht kann - wie leicht ist es denn dann für Personen, die sich wirklich professionell damit beschäftigen? Und vielleicht kann ich dann nicht jedem Bild, was fotorealistisch aussieht, auch wirklich vertrauen. Und hier bringt eben genau diese Konstruktionsleistung etwas. Also ich versuche selbst etwas zu machen, selbst mit diesen KI-Systemen zu arbeiten und dadurch lerne ich darüber und dadurch kann ich auch reflektiert damit umgehen.

LMK: Vielen Dank, Andy. Sie haben es gehört Künstliche Intelligenz, die verändert die Welt und somit natürlich auch ganz speziell den Bereich Schule, Aus- und Weiterbildung. Aber gerade dieser Bereich, der kann KI auch gezielt nutzen, um sich weiterzuentwickeln, um eine neue Art der Bildung möglich zu machen. Eine Bildung, die individueller wird und die damit auch besser zu den einzelnen Persönlichkeiten und Kompetenzen passt. Wie genau das gelingen kann, das schauen wir uns im nächsten Teil dieser Interviewreihe ganz genau an. Wer mehr wissen will: Weitere Informationen zum Thema OER-Strategie und über offene Bildungsmaterialien ganz allgemein erfahren Sie im Internet unter www.oer-strategie.de.

Sprecher: "Bildung, Lebenssinn und Technologie - wie KI und OER helfen können". Eine Produktion der Sendereinheit im Auftrag des Bundesministeriums für Bundesministeriums für Bildung, Familie, Senioren, Frauen und Jugend.