„KI ist noch ein Fremdkörper.“

Frau Weßels, Herr Pinkwart, was bedeutet der Einzug von KI in immer mehr Lebensbereiche für die schulische Bildung?

Doris Weßels: Mit KI hat ein neuer Akteur die Bühne betreten und alle Beteiligten müssen sich neu aufstellen. Veränderte Rollen, andere Interaktionen. Dieser neue Mitspieler wird auch sehr unterschiedlich wahrgenommen. Die unglaubliche Entwicklungsdynamik – die digitale Disruption, die KI bewirkt – wird häufig unterschätzt; das ist eine sehr große Herausforderung, mit der wir bisher sehr unterschiedlich umgegangen sind, nicht nur in der Schule, auch in der Hochschule, auch in unserer Gesellschaft. Wir müssen das Alte mit dem Neuen verbinden – zielführend, sinnstiftend und gerade in der Schule natürlich: didaktisch wertvoll. Wir brauchen gute Ideen, um diese Technologie zu integrieren. In der Bildung nehmen wir KI noch wie einen Fremdkörper wahr. Und wir sehen einen Digital Divide, der sich durch das Lehrer:innenkollegium zieht, durch die Klassen, die Elternhäuser.

Niels Pinkwart: KI bringt eine tiefgreifende Transformation. So wie Computertechnologie wird auch KI in der Zukunft einfach überall sein, auch in der Bildung. Sie wird sich so sehr in unser Leben integrieren, immer mehr zum Alltagsbestandteil werden, dass es eigentlich nicht mehr möglich sein wird zu unterscheiden: „Verwende ich jetzt gerade KI oder nicht?“ In der Bildung sind wir da im Moment aber noch überhaupt nicht.

 
Wo stehen wir bei KI in der Bildung denn international gesehen?

Niels Pinkwart: Komplett verstecken müssen wir uns nicht, das zeigt der Trendmonitor ganz gut. Wir haben einige sehr interessante Ansätze, und ich sage da bewusst: Ansätze, experimentelle Dinge, die man bei einer Einführungsphase auf jeden Fall braucht. Wir sind an der Schwelle. Die müssen wir aber auch überschreiten – hin zu einem strukturellen, systematischen Einsatz von Künstlicher Intelligenz in den Schulen. 

Doris Weßels: In China wie in den USA gibt es den politischen Willen von ganz oben, KI in die Schule zu bringen. Bei uns in Deutschland lief und läuft es an vielen Stellen noch immer sehr stark „bottom up“, mit sehr viel weniger politischer Flankierung.
In der Integration der Technologien sind wir hierzulande immer sehr zögerlich. Das nimmt auch vielen Lehrkräften den Mut und die Experimentierfreude. Ich habe schon viele sagen hören: „Ich will ja gerne, aber ich darf nicht oder ich traue mich nicht oder ich kann nicht.“ Lehrende sind nach wie vor sehr verunsichert, was rechtlich erlaubt ist und was nicht. Wir benötigen dringend klare Regeln, die nicht einengen, sondern Mut und Experimentierfreude fördern!

Europa vertritt in der Regulierung von KI eine andere Haltung als etwa Großbritannien und die USA.

Wir sollten unbedingt in europäischen Kontexten denken.
_{Niels Pinkwart}

Was bedeutet das für den Umgang mit KI im Bildungssystem? 

Niels Pinkwart: Maßgeblich für uns in Europa ist der EU AI Act – und der ist Fluch und Segen zugleich. Einerseits können wir froh sein, dass wir uns – als erste große Region in der Welt! – verbindlich überlegen, welche Arten von KI wir wollen und welche nicht. Problematisch wird es nur, wenn wir dadurch zu einer Überbürokratisierung, in eine Abwehrhaltung kommen und zum Beispiel jede Lernsoftware, die irgendwie Hilfestellung gibt, direkt zum Hochrisikosystem erklären – mit allen Klassifikationen und Bremsen, die laut AI Act dann vorgesehen sind. Es kommt sehr stark darauf an, wie wir den AI Act leben.

Wie unabhängig sollten wir im deutschen Bildungssystem von internationalen KI-gestützten Technologien sein? 

Doris Weßels: Wollen wir die besten Technologien weltweit oder größtmögliche digitale Souveränität? Auch hier geht es, denke ich, um die Balance. Man stelle sich vor, wir würden gar keine amerikanische Software mehr nutzen, auch nicht in der Wirtschaft. Dann stünde so einiges bei uns still. Die Frage ist: Schaffen wir das überhaupt? An welchen Stellen ist der Wunsch nach digitaler Souveränität in einer globalisierten Welt überhaupt erreichbar? Da schwappt die Diskussion ganz schnell vom einem Extrem ins andere.

Niels Pinkwart: In der Bildung sollten wir meines Erachtens eine größtmögliche technologische Souveränität in jedem Fall erhalten oder besser: erzielen. Nicht nur das nutzen, was es international schon gibt. Auf diese Weise kommen wir auch nicht in eine technologische Führungsposition. Dazu können und sollten wir unbedingt in europäischen Kontexten denken. Und dass sich komplette Systeme nicht transferieren lassen, ist klar: Bildung ist kulturell verankert und selbst wenn eine Anwendung rechtlich zulässig ist, muss sie natürlich zum Bildungskonzept passen. Also: Die Übertragung von Basistechnologien und eine Zusammenarbeit hierfür – ja, das ist sinnvoll, nicht aber die Eins-zu-eins-Übernahme kompletter Systeme.

Wie kommen wir in der Entwicklung eigener KI-gestützter Bildungstechnologien besser voran?

Doris Weßels: Eine große Chance liegt da in EdTech-Start-ups, also jungen Unternehmen im Bereich Educational Technology, deutschen wie europäischen, die rasch praxistaugliche Lösungen entwickelt haben. Indem wir sie fördern, stärken wir unsere Wirtschaft in einer Zukunftstechnologie und unser Bildungssystem. Wir schlagen zwei Fliegen mit einer Klappe!
 

Wäre das niederländische National Education Lab AI ein Beispiel, von dem wir lernen können?

Doris Weßels: Diese staatliche Institution in den Niederlanden sollten wir uns unbedingt genauer anschauen, ja. Da kommt vieles zusammen: politischer Wille, eine öffentliche Langfristfinanzierung und Akteure mit unterschiedlichen Kompetenzen – aus Wissenschaft, Schulpraxis und eben EdTech-Wirtschaft – die zusammen KI-Lösungen für die Schulen entwickeln. Die Niederländer haben das vermutlich etwas pragmatischer aufgesetzt, als wir das in Deutschland machen würden. Aber zu sehen, was in anderen Ländern klappt, das macht doch Mut!

 
Wie groß ist das Potenzial von KI speziell für die MINT-Bildung? 

Niels Pinkwart: Groß, das ist auch extrem gut untersucht. Den aktuellen Marktstand in Deutschland speziell für MINT werden wir noch in diesem Jahr in einem „Trendmonitor Spezial“ genauer beleuchten. Klar ist jetzt schon: Die neuen Sprachmodelle machen nochmal ganz andere Formen von MINT-Lernumgebungen möglich, die unheimlich lernförderlich sein und auch Spaß machen können. Und das brauchen wir angesichts des Fachkräftemangels und der nachlassenden Kompetenzen in Mathe und Naturwissenschaften ganz dringend. 
 

Laut Trendmonitor ist KI gerade in der Verwaltung von Schule weiterhin sehr wenig im Einsatz. Eine vertane Chance?
 
Niels Pinkwart: Ja, absolut! Vor allem deshalb, weil Lehrkräfte und auch Schulleitungen KI dann akzeptieren, wenn sie ihnen die Arbeit erleichtert, sie entlastet, besonders bei den Aufgaben, die nicht zum pädagogisch-didaktischen Kerngeschäft gehören wie Berichte schreiben, Einsatzplanung und so weiter. Es gibt unheimlich viele Möglichkeiten, wie Schulen in der Verwaltung von KI profitieren, ihr nicht-pädagogisches Kerngeschäft effizienter gestalten können. Dieses Potenzial gilt es unbedingt zu heben. 
 
Doris Weßels: Wenn Schule ein Wirtschaftsunternehmen wäre und Prozesseffizienz stärker im Fokus stünde, dann hätte sie ganz selbstverständlich Verantwortliche, die die Verwaltung und auch IT zentral managen und auf diese Weise auch zur Unterstützung und Entlastung von Lehrkräften beitragen würden. Um ihren Job bestmöglich zu machen, würden sie ganz selbstverständlich hilfreiche digitale Werkzeuge bis hin zu KI-Tools einsetzen. Ich erlebe immer wieder Lehrkräfte, die unter der Zeitverschwendung durch schlecht organisierte Verwaltungsaufgaben leiden. Hier kann und muss der Bildungsbereich viel stärker von Wirtschaftsunternehmen lernen.

Der Trendmonitor betont besonders die Rolle der Lehrkräfte für KI in der schulischen Bildung. Warum – und was brauchen sie konkret? 

Niels Pinkwart: Für diese Transformation sind natürlich sehr viele verschiedene Akteure wichtig; solche Strukturveränderungen sind nur mit allen Beteiligten denkbar. Aber spätestens seit John Hatties Studie „Visible Learning“ von 2009 wissen wir um die zentrale Rolle der Lehrkraft. Das geht auch mit KI nicht weg. Die Rolle an sich wird sich ändern, aber nicht ihre eminente Bedeutung. Wir müssen deshalb sichergehen, die Lehrkräfte mitzunehmen. Und dabei kommt es auf vieles an: KI-Kompetenzen in Bezug auf Didaktik, auf Ethik, auf die Technik selbst und, und, und. Egal, wen wir gerade fragen: KI-Kompetenz gilt als absolute Priorität. Und klar, wie will ich denn KI-gestützt unterrichten oder mit Schülerfragen zu KI umgehen, ohne selbst die notwendigen Kompetenzen zu haben?

Der Trendmonitor unterstreicht zudem die große Chance, die KI für mehr Bildungsgerechtigkeit bietet. Worauf kommt es an, damit sich dieses Versprechen auch einlösen lässt?

Niels Pinkwart: Schon vor den sprachmodellbasierten KI-Anwendungen wie ChatGPT war absehbar, was KI für mehr Bildungsgerechtigkeit leisten kann. Weil ich schon mit sehr klassischen KI-Verfahren jedem einzelnen Lernenden besser gerecht werden kann – durch adaptive Lernsysteme, die sich an individuelle Bedürfnisse anpassen und da unterstützen, wo es jeweils notwendig ist. Die Sprachmodelle wirken da jetzt nochmal wie ein Booster. Damit sich dieses Versprechen auch einlösen lässt, müssen wir diese Systeme aber wirklich allen zugänglich machen, insbesondere denen, die mehr Förderung brauchen. Die Technologie selbst hat in jedem Fall das Potenzial, zu mehr Bildungsgerechtigkeit beizutragen.
 

Wir brauchen echte Empathie, echte Emotionen und eine authentische Kommunikation von Mensch zu Mensch.
_{Doris Weßels}

Womit sollten wir bei KI als nächstes für die Bildung rechnen?

Niels Pinkwart: Selbst jemandem, der wie ich im KI-Bereich tätig ist, fällt es schwer, eine Zukunftsprognose abzugeben. Wir hatten viele technologische Entwicklungen allein in den letzten paar Monaten. Was man aber voraussehen kann, ist, dass wir im Bildungsbereich zu einer höheren Integration von KI in Plattformen kommen werden, ob von Schulbuchverlagen, von Start-ups oder als ländergeförderte Open Source-Initiative. Eine noch größere Veränderung werden wir durch sogenannte KI-Agenten erleben: Nutzende haben damit einen zentralen virtuellen Begleiter (Hauptagenten), der Aufgaben an andere Anwendungen vergibt – bei einer Lehrkraft etwa eine für Prüfungskorrektur, eine für Unterrichtsvorbereitung oder eine für Lerndatenerfassung und -analyse. Deren Ergebnisse laufen auf einer integrierten Plattform zusammen, und der KI-Hauptagent gibt angepasste Antworten und Empfehlungen. Und bestimmt wird es in den nächsten Jahren noch Entwicklungen geben, die wir heute nicht vorhersagen können.
 
Doris Weßels: Die große Frage bei all dieser Entwicklung von KI ist aber immer: Was sind eigentlich unsere (neuen) Kompetenzziele? Was braucht der Mensch zukünftig, um in einer solchen Welt erfolgreich und glücklich zu sein? Für mich die allerschwierigste Frage – eine Frage, die wir im Bildungsbereich gerne ausblenden, vermutlich gerade weil sie so schwierig zu beantworten ist und die Suche nach Antworten viele Ängste schürt, denn die daraus resultierenden Veränderungen werden gravierend sein.

 
Wo sind Ihrer Meinung nach die Grenzen von KI in der Bildung? 
 
Doris Weßels: Was wir der KI niemals überlassen sollten, ist die Beziehungsarbeit. Die geht nur von Mensch zu Mensch. Vor einer Vermenschlichung von Systemen, wie sie auf Plattformen wie character.ai und Replika als virtuelle Lebensbegleiter in extremer Ausprägung zu sehen sind, müssen wir uns gerade im Bildungsbereich hüten! Wir brauchen echte Empathie, echte Emotionen und eine authentische Kommunikation von Mensch zu Mensch, mit all den Sinnen, die wir haben. Das wird eine KI nie können. Sie wird ihre Leistung immer weiter steigern, zweifelsohne, aber das können wir beim Co-Teaching durch neue didaktische Ansätze auch nutzen, im Sinne einer Kollaboration von Mensch plus Maschine. In der Bildung ist eine Zusammenarbeit, wo beide Seiten ihre Stärken einbringen können, meiner Meinung nach der Idealzustand. Dabei sollten wir uns aber bewusst sein: Der Mensch ist relativ stabil in dem, was er leisten kann; die KI-Lösungen dagegen entwickeln sich rasant weiter, und deshalb muss man dieses Zusammenspiel unter veränderten Rahmenbedingungen auch immer wieder neu justieren. Auch wichtig: Der EU AI-Act hat klare Regelungen, wenn es um Menschen geht, um ihre Karriere, ihre Zukunft – also auch beim Thema Leistungsbewertung. Es ist natürlich verführerisch, KI für die immens aufwendige Korrektur von Klausuren oder Bewertung von Hausarbeiten zu nutzen. Aber Anwendungen, die über Ergebnisse von Prüfungen automatisiert entscheiden, gelten als hochrisikoreich und müssen hohe Hürde nehmen, um überhaupt zum Einsatz kommen zu dürfen. Das ist gut so!

Über die Gesprächspartner:

• Prof. Dr. Doris Weßels ist Professorin für Wirtschaftsinformatik, zuletzt an der Fachhochschule Kiel. Sie ist wissenschaftliche Leiterin im KI-Anwendungszentrum Schleswig-Holstein für das Zukunftslabor Generative KI und Mitgründerin des Virtuellen Kompetenzzentrums „Künstliche Intelligenz und wissenschaftliches Arbeiten“ (VK:KIWA).
• Prof. Dr. Niels Pinkwart
ist Professor für Didaktik der Informatik/Informatik und Gesellschaft an der Humboldt-Universität Berlin und wissenschaftlicher Direktor des Educational Technology Lab am Deutschen Forschungsinstitut für Künstliche Intelligenz (DFKI) Berlin.