Welche Potenziale und Herausforderungen sehen Sie beim Einsatz von KI in Schulen?

Wie immer, wenn wir Technik verwenden, bringt auch der Einsatz von KI Vor- wie Nachteile mit sich. Im Idealfall übernimmt KI zeitaufwändige Routineaufgaben und unterstützt Lehrpersonen dabei, auf die individuellen Bedürfnisse ihrer Schülerinnen und Schüler einzugehen. Beispielsweise können adaptive Lernsysteme eine sinnvolle Ergänzung sein, um Bildungsangebote auf einzelne Lernende zuzuschneiden.

Ein Risiko besteht darin, dass man die Technik als alleiniges Allheilmittel ansieht und sie damit überschätzt. Wer sich darauf verlässt, dass KI der bessere, weil objektivere und effizientere Lehrer ist, muss erkennen, dass auch Algorithmen Fehler machen und dass Bildung auch menschliche Beziehungsarbeit erfordert. Schlimmer noch: Wer nicht merkt, dass schwächere Schülerinnen und Schüler weniger vom Einsatz von KI profitieren, schreibt ihnen das Versagen allein zu. Schliesslich hat man die neuesten Werkzeuge eingesetzt und sie haben es trotzdem nicht geschafft! Und manchmal treffen die Systeme unbemerkt Entscheidungen, die bestimmte Bevölkerungsgruppen benachteiligen («algorithmic bias»). So zum Beispiel, als im Jahr 2020 in Grossbritannien ein Algorithmus zur Bewertung von Schulabschlussprüfungen eingesetzt wurde. Wer aus einer strukturschwachen Gegend kam, wurde im Schnitt schlechter bewertet. Die KI hatte hier gelernt, dass an den Schulen in diesen Gegenden tatsächlich die schlechteren Abschlussnoten erreicht wurden. Dies benachteiligt aber die gute Schülerin, die an einer dieser Schulen ihren Abschluss macht. So werden durch die KI also unerwünschte Ungleichheitseffekte des Bildungssystems verstärkt, anstatt sie abzumildern.

«  Das erfordert Lehrpersonen, die eine grundlegende Kompetenz im Umgang mit datenbasierten Systemen wie KI-Tools mitbringen.  »

Insgesamt muss man zu einer realistischen Einschätzung der Potenziale, Grenzen und Risiken der technischen Systeme kommen. Das erfordert Lehrpersonen, die eine grundlegende Kompetenz im Umgang mit datenbasierten Systemen wie KI-Tools mitbringen. Ich denke, dass dies zukünftig eine wichtige Schlüsselkompetenz (nicht nur) von Lehrpersonen wird.

Sie arbeiteten an den «Ethischen Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke» der Europäischen Union, die 2022 veröffentlicht wurden, mit. Was sind für Sie die zentralsten Punkte dieser Leitlinien?

Eine Gruppe von 25 Expertinnen und Experten aus verschiedenen europäischen Ländern und aus unterschiedlichen Disziplinen hat sich zunächst einmal darüber verständigt, was zentrale Prinzipien beim Umgang mit KI in der Bildung sein sollen. Schnell war klar, dass Menschen weiterhin in der Lage sein müssen, informierte Entscheidungen auch gegen die KI treffen zu können («Vorrang menschlichen Handelns»). Der Einsatz von KI-Systemen muss zudem so erfolgen, dass Menschen ungeachtet ihrer Herkunft, ihres Geschlechts oder anderer Merkmale gerecht behandelt werden («Fairness»). Und über den Einsatz von KI darf nicht vergessen werden, dass menschliche Beziehungen zwischen Lehrenden und Lernenden wichtiger Bestandteil des Lernprozesses sind («Menschlichkeit»). Um all dies zu gewährleisten, braucht es aus meiner Sicht aber vor allem eines: Transparenz.

«  Um Fairness, Menschlichkeit und Vorrang menschlichen Handelns zu gewährleisten, braucht es vor allem eins: Transparenz.  »

Zum einen muss allen Beteiligten klar sein, dass in einer bestimmten Situation eine KI Verwendung findet. Und zum anderen sollten die Entwicklerinnen und Entwickler offenlegen, mit welchen Datensätzen und Modellen sie arbeiten. Nur so kann ich als Lehrperson oder Schulleitung einschätzen, ob ein System ethischen Standards gerecht wird.

Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten

Die «Ethischen Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke» sollen Lehrkräften helfen, das Potenzial von KI-Anwendungen und Datennutzung in der Bildung zu begreifen und sie für die möglichen Risiken zu sensibilisieren, damit sie in der Lage sind, sich positiv, kritisch und ethisch mit KI-Systemen auseinanderzusetzen und deren Potenzial vollständig auszuschöpfen. Die Leitlinien wurden durch eine internationale interdisziplinäre Expertengruppe erarbeitet und 2022 durch die Europäische Kommission veröffentlicht. 

Was hat sich gemäss Ihrer Einschätzung seither verändert?

Als wir die Leitlinien in den Jahren 2021-2022 entwickelt haben, waren Sprachmodelle wie ChatGPT noch kein grosses Thema. Dementsprechend finden sich im Dokument keine konkreten Hinweise dazu – also etwa wie man gewährleisten kann, dass Schülerinnen und Schüler auch in Zeiten von ChatGPT sinnvolle Aufgaben erhalten, welche sie zum Lernen motivieren. Die oben genannten Prinzipien gelten jedoch weiterhin, auch für den Einsatz von Sprachmodellen. Auch hier muss es fair zugehen und es ist notwendig, dass wir die Ausgaben der Sprachmodelle kritisch hinterfragen können. Dies gilt gerade in einer Zeit, in der durch ChatGPT & Co. KI-Systeme in der Breite in die Schulen Einzug gehalten haben.

Gesprächspartner

Tobias Röhl
Prof. Dr. Tobias Röhl
Zentrum Bildung und digitaler Wandel
PH Zürich
KI in der Bildung

Künstliche Intelligenz (KI) ermöglicht heute schon vieles – und das obwohl wir bei deren Nutzung gefühlt erst am Anfang stehen. Das Educa Dossier «KI in der Bildung» beleuchtet einige der Möglichkeiten, Unsicherheiten und Anforderungen, die diese Entwicklung für das Bildungssystem mit sich bringen. 

ähnliche Beiträge

Daten über Bildung und Lernen entstehen auf vielfältige Art und Weise. Warum die Sichtbarmachung dieser digitalen Datenflüsse hilft, Entwicklungspotenziale zu identifizieren, beantwortet uns David. H. Schiller, Professor an der Fachhochschule Graubünden und Leiter des Forschungsprojekts «Digitale Bildungsdatenwege».

Das Projekt IDENTI des Kantons Luzerns beschäftigt sich mit der digitalen Identität der Schülerinnen und Schüler und beleuchtet die Rahmenbedingungen von digitalen Lehrmitteln und Applikationen. Karin Weber und Reto Buchmann, Co-Projektleitung, haben für uns erste Lösungsansätze für die identifizierten Herausforderungen skizziert.

Mit der stärkeren Verbreitung von KI-Systemen im Bildungssystem tauchen viele rechtliche Fragen auf. Antworten auf einige der drängendsten Fragen gibt ein neuer Bericht, der von uns in Auftrag gegeben wurde.

Unsere neue Podcast-Serie widmet sich dem Thema «Daten im digitalen Bildungsraum». Die erste Episode dieser Serie gibt Antworten auf die Fragen: Was sind Datenflüsse; wieso sind sie wichtig und was können wir aus Datenflüssen lernen?