Datenschutz bei KI-Lernanwendungen: Worauf Schulen achten müssen

Für die Lehrkraft klingt das zunächst nach einer guten Möglichkeit zur Binnendifferenzierung: Wer zusätzliche Unterstützung braucht, bekommt sie sofort, während andere bereits an anspruchsvolleren Aufgaben arbeiten.

Am Dienstag kommt die naheliegende Frage: Was geschieht eigentlich mit den Daten?

Denn bei KI-Lernanwendungen entstehen schnell umfangreichere Schülerprofile, als der erste Blick vermuten lässt. Ein Name ist dabei nur ein Teil des Problems. Auch Testergebnisse, Bearbeitungszeiten, Fehlermuster, individuelle Eingaben, Chatverläufe oder Zugriffsprotokolle können Rückschlüsse auf einzelne Lernende zulassen. Datenschutz bei KI-Lernanwendungen in der Schule beginnt deshalb nicht erst bei der Datenschutzerklärung des Anbieters, sondern bei der pädagogischen Entscheidung: Wofür soll das System eingesetzt werden – und welche Daten braucht es dafür tatsächlich?

Lassen Sie uns den Weg Schritt für Schritt durchgehen. Nicht mit dem Anspruch, jede Schule müsse sofort eine umfassende Rechtsabteilung aufbauen, sondern mit einem Verfahren, das im Schulalltag handhabbar bleibt.

Der pädagogische Zweck kommt vor dem Tool

Eine Anwendung ist nicht deshalb datenschutzrechtlich passend, weil sie im Bildungsbereich angeboten wird oder besonders kindgerecht aussieht. Entscheidend ist der konkrete Einsatz.

Soll die KI lediglich allgemeine Rückmeldungen zu einem anonymisierten Text geben? Oder soll sie Lernstände einzelner Schülerinnen und Schüler speichern, Aufgaben automatisch zuweisen und daraus ein dauerhaftes Kompetenzprofil erstellen? Beide Szenarien können technisch ähnlich aussehen, stellen die Schule aber vor sehr unterschiedliche Fragen.

Der erste Schritt besteht daher in einer möglichst präzisen Zweckbeschreibung. Sie darf ruhig knapp sein:

• Die Anwendung gibt formative Rückmeldungen zu selbst verfassten Texten.
• Die Lehrkraft nutzt die KI zur Vorbereitung differenzierter Übungsaufgaben.
• Schülerinnen und Schüler erhalten Hinweise zu Lösungswegen, ohne dass daraus eine Note oder Einstufung abgeleitet wird.
• Die Anwendung speichert keine Lernhistorie über den konkreten Unterrichtszeitraum hinaus.

Je genauer der Zweck formuliert ist, desto leichter lässt sich beurteilen, ob die Verarbeitung personenbezogener Daten für die schulische Aufgabenerfüllung erforderlich ist. Eine pauschale Aussage wie „Wir möchten KI zum Lernen einsetzen" hilft dagegen kaum weiter. Sie beschreibt eine Vision, aber noch kein zulässiges Verarbeitungsszenario.

Nicht das Etikett „KI-Lernanwendung" entscheidet über die datenschutzrechtliche Bewertung, sondern der konkrete Zweck, die eingesetzten Daten und die tatsächliche Funktionsweise im Unterricht.

Gerade an dieser Stelle lohnt sich die Zusammenarbeit zwischen Lehrkraft, Schulleitung, Datenschutzbeauftragten und gegebenenfalls Schulträger. Die Lehrkraft kennt den Lernprozess und kann einschätzen, welche Unterstützung pädagogisch sinnvoll ist. Die Datenschutzverantwortlichen prüfen, ob diese Unterstützung mit den geplanten Datenverarbeitungen zusammenpasst. Beides gehört zusammen: Eine technisch vorsichtige Lösung, die keinen pädagogischen Mehrwert bietet, wird im Alltag nicht nachhaltig genutzt. Eine didaktisch überzeugende Anwendung ohne geklärten Datenschutz schafft dagegen Unsicherheit bei allen Beteiligten.

Datenminimierung: Was muss die KI wirklich wissen?

Viele KI-Anwendungen funktionieren auch mit deutlich weniger Informationen, als ihre Benutzeroberfläche nahelegt. Für ein Feedback zu einem Aufsatz muss das System möglicherweise weder den vollständigen Namen noch die Klasse, das Geburtsdatum oder eine langfristige Lernhistorie kennen. Häufig reicht eine zufällige Kennung – oder sogar eine Verarbeitung ohne dauerhaftes Benutzerkonto.

Das Prinzip der Datenminimierung ist dabei kein technischer Nebensatz, sondern eine pädagogische Entlastung. Je weniger personenbezogene Daten in ein System gelangen, desto kleiner ist die Angriffsfläche und desto überschaubarer sind spätere Auskunfts-, Lösch- oder Berichtigungsfragen.

In der Praxis können Schulen für jedes Einsatzszenario eine kleine Datenlandkarte anlegen:

Die Tabelle ersetzt keine rechtliche Prüfung, macht aber sichtbar, wo sich ein System unnötig aufbläht. Eine Lernplattform kann durch personalisierte Konten, Zugriffsprotokolle und Testergebnisse Persönlichkeitsprofile ermöglichen. Das bedeutet nicht automatisch, dass jede solche Funktion unzulässig ist. Es bedeutet, dass die Schule den Zweck jeder einzelnen Verarbeitung erklären können sollte.

Auch das Wort „anonym" verdient im Kollegium eine sorgfältige Verwendung. Werden Namen und E-Mail-Adressen entfernt, ist eine Person nicht zwingend anonymisiert. Wenn aus dem Text, dem Thema, der Klasse, einem besonderen Ereignis oder der Kombination mehrerer Angaben hervorgeht, wer gemeint ist, kann der Personenbezug erhalten bleiben oder wiederhergestellt werden. Für den Unterricht heißt das: Nicht nur direkte Identifikatoren entfernen, sondern auch den Kontext prüfen.

Eine hilfreiche Arbeitsfrage lautet: Könnte eine Lehrkraft, ein Anbieter oder eine andere Person mit vertretbarem Aufwand erkennen, von wem diese Eingabe stammt? Wenn die Antwort „möglicherweise ja" lautet, sollte die Verarbeitung weiterhin als personenbezogen betrachtet und entsprechend eingeordnet werden.

Rechtsgrundlage und Zuständigkeit: Die Einwilligung ist kein Universalpass

Für jeden Verarbeitungsschritt, bei dem eine KI-Anwendung personenbezogene Daten verarbeitet, braucht die Schule eine datenschutzrechtliche Rechtsgrundlage. Welche Rechtsgrundlage im konkreten Fall trägt, lässt sich nicht unabhängig vom Bundesland, vom Schulträger, vom Zweck und von der technischen Ausgestaltung beantworten. Die schulrechtlichen Vorgaben können unterschiedlich konkretisiert sein.

Das ist im Alltag unbequem, aber letztlich hilfreich: Es verhindert, dass Schulen eine vermeintlich einfache Standardlösung auf völlig unterschiedliche Anwendungen übertragen.

Besonders häufig wird die Einwilligung als Ausweg genannt. Sie kann in bestimmten Konstellationen eine Rolle spielen, ersetzt aber nicht die übrigen Anforderungen. Auch bei einer Einwilligung müssen Zweckbindung, Datenminimierung, Transparenz, Sicherheit und gegebenenfalls die Regeln für Übermittlungen in Drittländer geprüft werden. Ebenso muss die Einwilligung tatsächlich freiwillig und informiert erfolgen. Im schulischen Macht- und Abhängigkeitsverhältnis ist diese Freiwilligkeit nicht immer selbstverständlich.

Bei direkt an Kinder gerichteten Diensten der Informationsgesellschaft gilt nach Artikel 8 DSGVO grundsätzlich: Ab 16 Jahren können Minderjährige selbst einwilligen; die Mitgliedstaaten dürfen diese Schwelle auf mindestens 13 Jahre absenken. Unterhalb der jeweils geltenden Altersgrenze muss die Einwilligung durch die Inhaberin oder den Inhaber der elterlichen Verantwortung erteilt oder genehmigt und angemessen überprüft werden. Für Schulen folgt daraus jedoch nicht, dass eine elterliche Zustimmung jede weitere Prüfung erledigt. Die konkrete schulische Nutzung kann zusätzlichen Anforderungen unterliegen.

In einem Kollegium würde ich deshalb nicht mit der Frage beginnen: „Haben wir eine Einwilligung?" Sondern mit drei aufeinanderfolgenden Fragen:

1. Welche Daten verarbeitet die Anwendung genau?

Dazu gehören nicht nur Eingaben und Ergebnisse, sondern auch Kontodaten, Protokolle, Metadaten, Speicherfristen und mögliche Unterauftragsverarbeiter.

2. Wofür werden diese Daten verarbeitet?

Geht es um unmittelbares Feedback, um langfristige Lernstandsanalysen, um Produktverbesserung oder möglicherweise um das Training eigener oder fremder Modelle?

3. Welche schulische und datenschutzrechtliche Grundlage passt zu diesem Zweck?

Diese Bewertung kann je nach Bundesland und organisatorischem Rahmen unterschiedlich ausfallen.

Die Datenschutzgrundverordnung, landesrechtliche Schuldatenschutzregeln und – grundsätzlich ab dem 2. August 2026 – die EU-KI-Verordnung greifen dabei ineinander. Keine dieser Regelungen ersetzt die andere. Eine Anwendung kann beispielsweise unter datenschutzrechtlichen Gesichtspunkten Fragen aufwerfen, obwohl ihr konkreter KI-Zweck nicht als Hochrisiko-Anwendung eingeordnet wird. Umgekehrt kann die EU-KI-Verordnung zusätzliche Anforderungen an ein System stellen, ohne dass damit alle Fragen der DSGVO beantwortet wären.

Eine Einwilligung entlastet die Schule nicht von Zweckbindung, Datenminimierung und Transparenz – sie ist nur ein Baustein unter mehreren.

Anbieterprüfung: Hinter der Oberfläche beginnt die eigentliche Anwendung

Im Verkaufsgespräch klingt eine KI-Lernanwendung oft angenehm übersichtlich: Konto anlegen, Aufgabe auswählen, Feedback erhalten. Für die Schule zählen jedoch auch die Vorgänge, die nicht sichtbar sind.

Werden Eingaben zum Training eines Modells verwendet? Wie lange bleiben sie gespeichert? Werden Daten außerhalb der Europäischen Union verarbeitet? Welche Unterauftragsverarbeiter sind beteiligt? Kann die Schule die Speicherfrist konfigurieren und Konten zuverlässig löschen? Gibt es Rollen- und Berechtigungskonzepte? Werden Zugriffe protokolliert? Und können Lehrkräfte nachvollziehen, welche Daten die Anwendung über Lernende zusammenführt?

Ohne konkrete Anbieterangaben lassen sich diese Fragen nicht verlässlich beantworten. Gerade deshalb sollte eine Schule sich nicht mit allgemeinen Werbeaussagen zufriedengeben. „DSGVO-konforme KI-Tools für Schulen" zu sein ist keine ausreichende Beschreibung des eigenen Einsatzszenarios. Entscheidend sind die vertraglichen und technischen Details sowie die tatsächliche Konfiguration.

Für eine erste Prüfung können Schulen vom Anbieter mindestens folgende Informationen anfordern:

• Welche personenbezogenen Daten werden erhoben, aus welchen Quellen stammen sie und welche Felder sind optional?
• Werden Eingaben, Ausgaben oder Nutzungsdaten zum Training von Modellen verwendet?
• Wie lange werden Daten gespeichert und wie funktioniert die Löschung?
• Wo befinden sich die Systeme und an welche weiteren Dienstleister werden Daten übermittelt?
• Welche technischen und organisatorischen Maßnahmen schützen die Daten?
• Können Rollen, Zugriffsrechte und Protokollierung durch die Schule verwaltet werden?
• Welche Auswertungen erstellt die Anwendung über einzelne Schülerinnen und Schüler?
• Wie werden fehlerhafte Ergebnisse korrigiert und wie kann eine betroffene Person Auskunft erhalten?

Bei Übermittlungen in Drittländer darf das durch die DSGVO garantierte Schutzniveau nicht unterlaufen werden. Das ist kein Detail für die Vertragsablage, sondern eine Frage, die den Einsatz im Unterricht unmittelbar betrifft. Wenn eine Anwendung zwar eine europäische Oberfläche besitzt, Daten aber an weitere Dienste außerhalb der Europäischen Union übermittelt, muss dieser Weg in die Bewertung einbezogen werden.

Auch die Zugriffsrechte im Schulgebäude verdienen Aufmerksamkeit. Nicht jede Lehrkraft braucht Zugriff auf alle Lernverläufe. Eine Fachlehrkraft benötigt möglicherweise andere Informationen als die Klassenleitung, und Schülerinnen und Schüler sollten nicht automatisch die Profile ihrer Mitschülerinnen und Mitschüler einsehen können. Datenschutz wird hier zu einer Frage der pädagogischen Beziehung: Wer darf welche Information sehen, und wofür wird sie verwendet?

Datenschutz-Folgenabschätzung: Kein Papier, sondern ein Denkwerkzeug

Eine Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO ist erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen verursacht. Die Datenschutzkonferenz weist darauf hin, dass dies beim Einsatz von KI-Anwendungen häufig der Fall sein kann. Daraus folgt aber nicht, dass jeder Einsatz automatisch eine Datenschutz-Folgenabschätzung verlangt. Entscheidend ist das konkrete Risiko.

Im Bildungsbereich können mehrere Risikofaktoren zusammenkommen: Minderjährige als besonders schutzbedürftige Betroffene, umfangreiche Lernprofile, regelmäßige Überwachung, automatisierte Auswertungen oder Entscheidungen, die den weiteren Bildungsweg beeinflussen. Auch die Verknüpfung von Daten aus verschiedenen Lernprozessen kann das Risiko erhöhen.

Eine Datenschutz-Folgenabschätzung sollte deshalb nicht als bürokratische Hürde behandelt werden, die man möglichst schnell hinter sich bringt. Sie zwingt uns zu den Fragen, die im Unterricht oft zu spät gestellt werden:

• Welche Personen sind betroffen?
• Welche Daten werden in welcher Situation verarbeitet?
• Was könnte für die Lernenden schiefgehen?
• Wie wahrscheinlich und wie schwerwiegend wären diese Folgen?
• Welche Maßnahmen verringern das Risiko?
• Wer bemerkt einen Fehler und wer kann ihn korrigieren?
• Was geschieht, wenn die Anwendung ausfällt oder ein Anbieter nicht mehr erreichbar ist?

Ein Beispiel: Eine KI gibt einer Schülerin nach mehreren Aufgaben den Hinweis, sie sei für einen bestimmten Bildungsgang vermutlich nicht geeignet. Wenn dieser Hinweis nur als unverbindliche Lernhilfe erscheint, ist das bereits pädagogisch problematisch. Wenn er zusätzlich in einem Profil gespeichert und von mehreren schulischen Stellen eingesehen wird, steigt das Risiko. Wenn daraus später eine Entscheidung über Förderung, Kurswahl oder Zugang entsteht, verändert sich die Situation grundlegend.

Die Folgenabschätzung hilft, solche Übergänge sichtbar zu machen. Sie zeigt, ob die Anwendung nur ein Werkzeug im Lernprozess bleibt oder ob sie beginnt, Lernende zu kategorisieren und Entscheidungen vorzustrukturieren.

Hochrisiko-KI und verbotene Emotionserkennung

Die EU-KI-Verordnung trat am 1. August 2024 in Kraft; ihre Anwendung erfolgt stufenweise und begann grundsätzlich am 2. August 2026. Bestimmte Verbotsregelungen sind bereits seit dem 2. Februar 2025 anwendbar. Für Schulen ist vor allem die Zweckbestimmung eines Systems entscheidend.

KI-Systeme im Bildungsbereich können als Hochrisiko-Systeme eingeordnet werden, wenn sie beispielsweise den Zugang zu Bildung bestimmen, Lernergebnisse bewerten, das Bildungsniveau einer Person einschätzen oder während Prüfungen verbotenes Verhalten überwachen und erkennen. Nicht jede KI-Anwendung, die im Unterricht eingesetzt wird, ist deshalb automatisch Hochrisiko-KI. Ein System, das allgemeine Übungshinweise erstellt, ist anders zu bewerten als ein System, das Prüfungsleistungen bewertet oder über Bildungschancen mitentscheidet.

Diese Unterscheidung ist für die schulische Praxis zentral. Die gleiche technische Funktion kann je nach Verwendung in eine andere Risikokategorie fallen. Ein Textanalysewerkzeug, das ausschließlich zur freiwilligen Überarbeitung genutzt wird, erfüllt einen anderen Zweck als eine Anwendung, die daraus eine standardisierte Leistungsbewertung für die Zeugnisnote ableitet.

Besonders klar ist die Regelung bei der Emotionserkennung: KI-Systeme zur Ableitung von Emotionen natürlicher Personen in Bildungseinrichtungen sind grundsätzlich verboten, abgesehen von eng begrenzten Ausnahmen, etwa aus medizinischen oder sicherheitsbezogenen Gründen. Eine Anwendung, die behauptet, aus Gesichtsausdruck, Stimme oder Schreibverhalten Konzentration, Frustration oder Motivation einzelner Lernender zu messen, ist im schulischen Alltag regelmäßig unzulässig. Das gilt unabhängig davon, ob die Schule selbst die Anwendung betreibt oder ob ein Anbieter sie als „kleines Zusatzfeature" einbindet.

Für Schulen folgt daraus eine einfache Prüffrage: Beobachtet das System Menschen, um daraus innere Zustände abzuleiten? Wenn ja, ist genau hinzusehen – selbst wenn die Vermarktung das Wort „Emotion" vermeidet und stattdessen von „Engagement", „Lernbereitschaft" oder „Aufmerksamkeit" spricht.

Verbot automatisierter Entscheidungen und die Pflicht zur menschlichen Aufsicht

Die DSGVO enthält in Artikel 22 eine klare Grundregel: Betroffene haben das Recht, nicht einer ausschließlich automatisierten Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. Das gilt ausdrücklich auch im Bildungsbereich, etwa wenn über Aufnahme, Versetzung, Kurszuweisung oder Förderung entschieden wird.

Eine KI, die einer Schülerin ohne Beteiligung einer Lehrkraft mitteilt, sie sei „für den gymnasialen Zweig nicht geeignet", bewegt sich in genau diesem Spannungsfeld. Auch wenn das System den Hinweis nur als Vorschlag formuliert, kann die Wirkung erheblich sein, wenn die Schule den Vorschlag ungeprüft übernimmt.

Menschliche Aufsicht bedeutet in der schulischen Praxis nicht, dass eine Lehrkraft jeden Algorithmus im Detail verstehen muss. Sie bedeutet, dass eine pädagogisch verantwortliche Person die Entscheidung trifft, den Vorschlag bewertet, ihn hinterfragt und gegenüber den Lernenden und Eltern vertreten kann. Drei Anforderungen gehören dazu:

• Nachvollziehbarkeit: Die Lehrkraft muss erkennen können, auf welcher Grundlage das System zu seinem Vorschlag gekommen ist. „Die KI hat das so ausgegeben" reicht nicht.
• Eingriffsmöglichkeit: Es muss einen klaren Weg geben, die Entscheidung der KI zu korrigieren oder zu übersteuern, ohne dass das System diese Korrektur bei der nächsten Aufgabe „überstimmt".
• Dokumentation: Wenn eine KI in einen Prozess eingebunden ist, der den Bildungsweg berührt, sollte die Schule festhalten, dass eine menschliche Entscheidung getroffen wurde und auf welcher Grundlage.

Die EU-KI-Verordnung verschärft diese Anforderungen für Hochrisiko-Systeme. Dort ist die menschliche Aufsicht nicht nur ein datenschutzrechtliches Korrektiv, sondern ausdrückliche Voraussetzung dafür, dass das System überhaupt in Verkehr gebracht und eingesetzt werden darf. Anbieter müssen die Anwendung so gestalten, dass eine wirksame Beaufsichtigung durch Menschen technisch möglich ist.

Für Schulen heißt das: Wer ein Hochrisiko-System einsetzt, übernimmt Verantwortung dafür, dass diese Aufsicht im Alltag auch tatsächlich stattfindet. Eine einmalige Einführungsschulung reicht nicht, wenn die Lehrkräfte die Vorschläge des Systems später nur abnicken.

Transparenz gegenüber Eltern und Lernenden

Datenschutz endet nicht beim Vertrag mit dem Anbieter. Auch die Betroffenen – die Lernenden selbst und in der Regel ihre Eltern – haben ein Recht darauf zu verstehen, was mit ihren Daten geschieht.

Transparenz hat dabei mehrere Ebenen. Sie beginnt mit verständlichen Informationen darüber, welche Daten erhoben werden und wofür. Sie setzt sich fort in der Frage, wie Betroffene Auskunft, Berichtigung oder Löschung verlangen können. Und sie verlangt, dass die Schule Auskunft gibt, wenn etwas schiefgegangen ist – etwa bei einer Datenpanne oder einem fehlerhaften Auswerteergebnis.

Im schulischen Alltag empfiehlt sich eine zweistufige Vorgehensweise:

1. Vor dem Einsatz: Die Schule informiert in einer Form, die dem Alter der Lernenden angemessen ist. Jüngere Schülerinnen und Schüler brauchen eine kurze, alltagsnahe Erklärung. Eltern erhalten eine ausführlichere Information, die den Zweck, die Datenarten, die Speicherdauer und die Rechte der Betroffenen benennt.

2. Während des Einsatzes: Lehrkräfte bleiben ansprechbar. Wenn Lernende fragen, was die Anwendung mit ihren Eingaben macht, sollte eine ehrliche Antwort möglich sein. „Das weiß ich nicht" ist ehrlicher als eine beschwichtigende Vermutung – und sollte dann Anlass für eine Nachfrage beim Anbieter sein.

Datenschutz lässt sich nicht im Nachhinein einsetzen. Wer KI-Lernanwendungen verantwortlich nutzen will, beginnt das Gespräch mit Eltern und Lernenden, bevor das erste Konto angelegt wird.

Was im Schulalltag tatsächlich trägt

Am Ende bleibt die Frage, was eine einzelne Schule mit begrenzten Ressourcen realistisch leisten kann. Die ehrliche Antwort: mehr, als das Wort „Datenschutz" oft vermuten lässt.

Ein tragfähiges Verfahren besteht aus wenigen, aber konsequenten Schritten: pädagogischer Zweck, Datenlandkarte, Anbieterprüfung, gegebenenfalls Datenschutz-Folgenabschätzung, klare Zuständigkeit und transparente Information. Das ist kein Selbstzweck, sondern der Versuch, KI im Unterricht so einzusetzen, dass ihr Nutzen nicht durch ein späteres Datenproblem zunichtegemacht wird.

Die rechtlichen Rahmenbedingungen für KI an Schulen werden in den nächsten Jahren weiter wachsen – durch die schrittweise Anwendung der EU-KI-Verordnung, durch landesspezifische Regelungen und durch die Erfahrungen aus der Praxis. Schulen, die jetzt eine überprüfbare, dokumentierte Grundlage schaffen, sind auf diese Entwicklung nicht nur vorbereitet, sondern gestalten sie mit. Wer hingegen ohne Zweckbindung, ohne Datenminimierung und ohne bewusste Entscheidung über den Einsatz einsteigt, wird später die Fehler einer solchen Unordnung verwalten müssen – auf Kosten derjenigen, deren Daten am wenigsten geschützt sind: der Schülerinnen und Schüler.