Datenschutz bei KI-Tools in Schulen: Rechtliche Fallstricke

Innerhalb weniger Sekunden können der Text, die IP-Adresse, der Zeitstempel und weitere technische Metadaten an einen Anbieter übermittelt werden, dessen Verarbeitung außerhalb des europäischen Rechtsraums stattfindet. Die Lehrkraft handelt dabei nicht zwingend in böser Absicht. Die Schule hat vielleicht keinen Vertrag geschlossen und keine zentrale Freigabe erteilt. Aus Sicht des Datenschutzrechts kann dennoch eine unzulässige Verarbeitung oder eine nicht ausreichend abgesicherte Drittlandübermittlung vorliegen.

Genau darin liegt die eigentliche Schwierigkeit beim Datenschutz bei KI-Tools in Schulen: Die Oberfläche ist einfach, die rechtliche Einordnung nicht. Ein frei zugängliches Werkzeug wirkt wie ein digitales Arbeitsblatt. Tatsächlich kann dahinter eine komplexe Verarbeitungskette stehen – mit Eingaben, Protokolldaten, Nutzerkonten, Profilbildung, Trainingszwecken, Unterauftragnehmern und Speicherorten in mehreren Rechtsräumen.

Die Datenschutz-Grundverordnung, der EU AI Act und die Schulgesetze der Länder greifen dabei ineinander, verfolgen aber unterschiedliche Ziele. Die DSGVO schützt personenbezogene Daten und regelt die Verantwortung für ihre Verarbeitung. Der EU AI Act ordnet bestimmte KI-Systeme nach ihrem Risiko ein und legt zusätzliche Anforderungen fest. Die Länder bestimmen wesentliche Rahmenbedingungen des Schulbetriebs. Eine bundesweit einheitliche, abschließende Regelung für jede Form des KI-Einsatzes an Schulen gibt es deshalb nicht. Für Schulträger, Schulleitungen und Lehrkräfte entsteht ein rechtlicher Flickenteppich – aber kein rechtsfreier Raum.

Die Schule als datenschutzrechtlich Verantwortliche

Der erste Irrtum betrifft die Frage, wer für den Einsatz eines KI-Tools verantwortlich ist. Verantwortlicher im Sinne von Art. 4 Nr. 7 DSGVO ist nicht automatisch die einzelne Lehrkraft und auch nicht der Anbieter des verwendeten Systems. Verantwortlich ist grundsätzlich die Stelle, die über Zwecke und Mittel der Verarbeitung entscheidet. Im Schulbereich kann das je nach Landesrecht und Organisationsstruktur die Schule selbst oder der zuständige Schulträger beziehungsweise die staatliche Schulverwaltung sein. Diese Zuständigkeit darf nicht pauschal behauptet werden; sie muss für den konkreten Einsatz geklärt werden.

Die Lehrkraft bleibt trotzdem nicht außen vor. Sie kann durch die Eingabe von Schülerdaten eine Verarbeitung auslösen, die organisatorisch nicht freigegeben ist. Die Verantwortung für die datenschutzrechtliche Organisation liegt jedoch regelmäßig bei der zuständigen öffentlichen Stelle. Sie muss festlegen, welche Anwendungen eingesetzt werden dürfen, zu welchen Zwecken Daten verarbeitet werden und welche technischen sowie vertraglichen Schutzmaßnahmen erforderlich sind.

Sobald ein KI-Werkzeug personenbezogene Daten verarbeitet, braucht die verantwortliche Stelle eine nachvollziehbare Grundlage für diesen Vorgang. Das betrifft nicht nur offensichtliche Angaben wie Name, Adresse oder Geburtsdatum. Auch ein Aufsatz, eine individuelle Lernhistorie, eine Förderdiagnose oder eine Kombination aus Klasse, Fach und Aufgabenstellung kann einen Personenbezug aufweisen. Selbst wenn der Name entfernt wurde, bleibt die Anonymisierung unvollständig, wenn eine Person mit vertretbarem Aufwand wieder erkennbar ist.

Aus der Verantwortlichkeit folgen mehrere Pflichten:

• Der Zweck der Verarbeitung muss festgelegt sein. Soll ein Tool Unterrichtsmaterial erstellen, Texte sprachlich überarbeiten, Lernstände analysieren oder Bewertungen vorbereiten? Diese Zwecke sind rechtlich nicht austauschbar.
• Die verantwortliche Stelle muss eine passende Rechtsgrundlage bestimmen und prüfen, ob die Verarbeitung für den jeweiligen Zweck erforderlich und verhältnismäßig ist.
• Das eingesetzte System muss hinsichtlich Sicherheit, Speicherort, Unterauftragnehmern und Datenverwendung geprüft werden.
• Betroffene müssen verständlich darüber informiert werden, welche Daten verarbeitet werden und was mit ihnen geschieht.
• Die Verarbeitung gehört in das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO, soweit die Voraussetzungen dafür vorliegen.
• Je nach Risiko sind der Datenschutzbeauftragte, die IT-Verantwortlichen, die Personalvertretung oder weitere schulische Gremien einzubeziehen.

Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist dabei kein automatischer Pflichtschritt bei jeder Einführung eines digitalen Systems. Sie wird erforderlich, wenn eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Maßgeblich sind also Art, Umfang, Umstände und Zwecke der Verarbeitung. Eine Schule muss diese Risikofrage vor dem Einsatz prüfen und dokumentieren. Erst aus dieser Prüfung ergibt sich, ob eine DSFA notwendig ist.

Das ist mehr als eine juristische Feinheit. Ein KI-Tool, das ohne Personenbezug eine Unterrichtsidee formuliert, stellt andere Risiken dar als ein System, das Profile von Schülerinnen und Schülern erstellt, Leistungsdaten zusammenführt oder Empfehlungen über Fördermaßnahmen erzeugt. Wer beide Fälle mit demselben Verfahren behandelt, arbeitet weder effizient noch besonders sorgfältig.

Die Information des Datenschutzbeauftragten ersetzt die erforderliche Prüfung nicht. Ebenso wenig ist die bloße Aufnahme eines Tools in eine schulinterne Liste bereits eine vollständige Freigabe. Information ist nicht Dokumentation, Konsultation ist nicht automatisch Genehmigung. Eine belastbare Entscheidung muss erkennen lassen, welcher Zweck verfolgt wird, welche Daten fließen, welche Risiken bestehen und warum die gewählten Schutzmaßnahmen ausreichen.

Grenzen der Einwilligung im schulischen Abhängigkeitsverhältnis

Viele Schulen versuchen, rechtliche Unsicherheiten durch Einwilligungserklärungen zu lösen. Eltern erhalten ein Formular, Schülerinnen und Schüler unterschreiben eine Erklärung, anschließend soll das KI-Tool eingesetzt werden können. In der Praxis ist dieser Weg jedoch deutlich weniger tragfähig, als es die Unterschrift vermuten lässt.

Nach Art. 6 Abs. 1 lit. a DSGVO muss eine Einwilligung freiwillig, informiert und eindeutig erfolgen. Gerade im Schulverhältnis ist die Freiwilligkeit schwierig zu beurteilen. Schülerinnen und Schüler befinden sich in einer institutionellen Abhängigkeit. Lehrkräfte gestalten Unterricht, bewerten Leistungen und können mittelbar über Bildungswege und Chancen entscheiden. Eine Erklärung, die unter dem Eindruck entsteht, andernfalls im Unterricht benachteiligt zu sein oder eine Aufgabe nicht bearbeiten zu können, erfüllt die Anforderungen an eine freie Entscheidung möglicherweise nicht.

Das bedeutet nicht, dass eine Einwilligung im schulischen Kontext in jedem denkbaren Fall ausgeschlossen ist. Die konkreten landesrechtlichen Vorgaben, die Art der Verarbeitung und die tatsächlichen Ausweichmöglichkeiten sind entscheidend. Eine Einwilligung ist aber kein universeller Ersatz für eine tragfähige schulische Rechtsgrundlage. Vor allem darf sie nicht dazu dienen, die Verantwortung der Schule auf Eltern und Kinder abzuwälzen.

Besonders problematisch wird es, wenn die Nutzung eines KI-Tools faktisch verpflichtend ist. Eine Schülerin kann dann nicht frei entscheiden, ob sie ihre Daten einem externen Anbieter anvertrauen möchte. Gibt es keine echte Alternative ohne Nachteile, wird die behauptete Freiwilligkeit schwach. Eine datenschutzrechtlich saubere Lösung müsste deshalb sicherstellen, dass Schülerinnen und Schüler auch ohne Übermittlung ihrer Daten an den Anbieter am Unterricht teilnehmen können und daraus keine schlechtere Bewertung oder sonstige Benachteiligung entsteht.

Auch die Zustimmung der Eltern beseitigt dieses Problem nicht automatisch. Eltern können bei minderjährigen Kindern eine wichtige Rolle spielen, aber ihre Zustimmung ersetzt nicht die Prüfung, ob die Verarbeitung erforderlich, transparent und verhältnismäßig ist. Zudem muss die Schule die betroffenen Schülerinnen und Schüler selbst altersgerecht informieren. Ein mehrseitiges Formular in Verwaltungssprache schafft keine wirksame Transparenz, wenn die betroffene Person nicht versteht, welche Informationen das System erhält und wofür sie genutzt werden.

Eine Einwilligung kann die Prüfung nicht ersetzen, ob ein KI-Einsatz im schulischen Abhängigkeitsverhältnis tatsächlich freiwillig und verhältnismäßig ist.

Für die Praxis folgt daraus eine klare Reihenfolge. Zuerst muss die Schule den konkreten Zweck bestimmen und eine geeignete Rechtsgrundlage prüfen. Danach sind Datenminimierung, Alternativen und Schutzmaßnahmen zu bewerten. Erst dann stellt sich die Frage, ob eine Einwilligung überhaupt benötigt wird und ob sie unter realistischen Bedingungen freiwillig abgegeben werden kann.

Ein Formular, das die Nutzung eines frei zugänglichen Cloud-Chatbots nachträglich legitimieren soll, löst außerdem keine technischen und vertraglichen Probleme. Es ersetzt keinen Auftragsverarbeitungsvertrag, schafft keine ausreichenden Garantien für eine Drittlandübermittlung und verhindert nicht, dass der Anbieter Eingaben für eigene Zwecke verarbeitet. Die Einwilligung ist kein Papierschild gegen jede weitere Prüfung.

Risikoklassifizierung durch den EU AI Act im Bildungssektor

Die DSGVO und der EU AI Act setzen an unterschiedlichen Punkten an. Die DSGVO fragt vor allem, ob personenbezogene Daten verarbeitet werden, wer dafür verantwortlich ist und ob die Verarbeitung rechtmäßig sowie ausreichend geschützt ist. Der EU AI Act bewertet bestimmte KI-Systeme nach ihrem Risiko für Gesundheit, Sicherheit und Grundrechte. Ein System kann deshalb unter den AI Act fallen, auch wenn im konkreten Vorgang keine personenbezogenen Daten verarbeitet werden. Umgekehrt erfüllt ein datenschutzrechtlich problematisches Tool nicht automatisch die Voraussetzungen eines Hochrisiko-KI-Systems.

Für Schulen ist besonders wichtig, dass der Bildungsbereich im EU AI Act nicht pauschal als kritischer Infrastrukturbereich eingestuft wird. Nicht jedes KI-Tool im Unterricht ist ein Hochrisikosystem. Als hochriskant können vielmehr bestimmte Anwendungen gelten, die etwa den Zugang zu Bildung, die Zuweisung zu Bildungs- oder Ausbildungsstufen, die Bewertung von Lernergebnissen oder wesentliche Entscheidungen über Schülerinnen und Schüler beeinflussen. Entscheidend ist die konkrete Funktion des Systems und sein Einsatz in einem bestimmten Entscheidungsprozess.

Auch die emotionale Erkennung in Bildungseinrichtungen ist rechtlich besonders sensibel. Je nach konkreter Funktion können hier Verbote oder sehr strenge Vorgaben greifen. Eine Schule kann daher nicht allein aus der Bezeichnung eines Produkts ableiten, ob es zulässig ist. Sie muss verstehen, welche Fähigkeiten das System tatsächlich besitzt, welche Module aktiviert sind und ob das Tool Entscheidungen vorbereitet oder selbstständig trifft.

Die Einordnung sollte vor der Nutzung erfolgen. Dazu gehören mindestens folgende Fragen:

• Erzeugt das System lediglich Text, Bilder oder Aufgabenentwürfe?
• Verarbeitet es Daten über konkrete Schülerinnen und Schüler?
• Erstellt es individuelle Profile oder bewertet es Lernleistungen?
• Gibt es Empfehlungen aus, die in Noten, Förderentscheidungen oder Zugangsvoraussetzungen einfließen können?
• Werden biometrische oder emotionale Merkmale analysiert?
• Entscheidet ein Mensch tatsächlich selbst oder übernimmt er die Ausgabe des Systems faktisch ungeprüft?
• Verwendet der Anbieter die Eingaben zu eigenen Trainings- oder Produktzwecken?

Ein allgemeiner Schreibassistent, der mit vollständig anonymisierten Beispielen arbeitet, ist anders zu beurteilen als ein System, das aus Fehlermustern, Bearbeitungszeiten und Testergebnissen einen individuellen Lernstand ableitet. Auch ein Tool, das formal nur eine Empfehlung abgibt, kann rechtlich relevant werden, wenn diese Empfehlung regelmäßig in eine Bewertung oder Auswahlentscheidung übernommen wird.

Bei Hochrisiko-Anwendungen gelten zusätzliche Anforderungen. Dazu können je nach Rolle und Einsatz unter anderem Risikomanagement, technische Dokumentation, Protokollierung, menschliche Aufsicht und Anforderungen an Datenqualität gehören. Die Pflichten treffen nicht immer dieselbe Stelle: Anbieter und Betreiber haben unterschiedliche Aufgaben. Eine Schule, die ein System verwendet, darf deshalb nicht einfach davon ausgehen, dass die Konformität des Produkts alle eigenen Prüfpflichten erledigt.

Die entscheidende Trennlinie verläuft nicht zwischen „moderner“ und „einfacher“ Technologie. Sie verläuft zwischen unterschiedlichen Auswirkungen. Ein Tool, das eine Lehrkraft bei der Formulierung einer Aufgabenstellung unterstützt, greift anders in Grundrechte ein als ein System, das Schülerinnen und Schüler klassifiziert oder über ihren weiteren Bildungsweg mitentscheidet.

Sichere Einsatzszenarien: Demonstration versus aktive Datenverarbeitung

Für den schulischen Alltag ist eine Unterscheidung besonders hilfreich: die Demonstration eines KI-Tools ist nicht dasselbe wie seine aktive Nutzung mit Schülerdaten. Eine Lehrkraft kann die Funktionsweise eines Chatbots beispielsweise über einen Beamer zeigen, wenn sie dafür ein frei erfundenes Beispiel oder eigene, nicht personenbezogene Daten verwendet. Werden dabei keine personenbezogenen Daten von Schülerinnen und Schülern verarbeitet, ist das datenschutzrechtliche Risiko deutlich geringer.

„Deutlich geringer“ bedeutet allerdings nicht, dass jede Vorführung automatisch unproblematisch ist. Auch bei einer Demonstration können Nutzerkonten, IP-Adressen oder andere technische Daten verarbeitet werden. Außerdem können Nutzungsbedingungen, schulinterne Vorgaben, Urheberrecht und Jugendschutz eine Rolle spielen. Die Aussage betrifft vor allem den fehlenden Personenbezug zu den Schülerinnen und Schülern, nicht jede denkbare Rechtsfrage rund um das Tool.

Sobald ein echter Schülertext, eine individuelle Frage oder eine identifizierbare Lernleistung in ein externes System eingegeben wird, verändert sich die Lage. Dann muss die Schule den gesamten Datenfluss betrachten – nicht nur das sichtbare Eingabefeld. Dazu gehören die Übertragung, die Speicherung, die Protokollierung, mögliche Trainingszwecke, die Weitergabe an Unterauftragnehmer und die Löschung.

Die Tabelle zeigt auch, warum der Begriff „DSGVO-konforme KI im Unterricht“ allein wenig aussagt. Ein Anbieter kann bestimmte datenschutzfreundliche Einstellungen anbieten und trotzdem für einen konkreten schulischen Zweck ungeeignet sein. Umgekehrt kann ein System technisch gut abgesichert sein, während die Schule den Zweck nicht ausreichend bestimmt oder die Betroffenen nicht informiert.

Ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO ist ein zentraler Baustein, aber keine Generalerlaubnis. Die Schule muss zusätzlich prüfen, ob der Anbieter tatsächlich nur auf Weisung verarbeitet, welche Unterauftragnehmer eingesetzt werden und ob Daten in Drittländer übermittelt werden. Bei internationalen Cloud-Diensten können weitere Garantien erforderlich sein. Auch die bloße Angabe, Daten würden „sicher“ oder „verschlüsselt“ verarbeitet, beantwortet diese Fragen nicht.

Für den Schutz von Schülerdaten bei KI-Nutzung gilt deshalb ein praktisches Minimalprinzip: So wenig Daten wie möglich, so kurz wie nötig und nur in einem System, dessen Datenflüsse die Schule nachvollziehen kann. Namen, Kontaktdaten, Diagnosen, Noten, Förderbedarfe und freie Texte sollten nicht in ein Tool gelangen, wenn der pädagogische Zweck auch mit anonymisierten oder synthetischen Beispielen erreicht werden kann.

Je kleiner der Personenbezug, desto kleiner ist nicht automatisch jedes Risiko – aber die Schule gewinnt Handlungsspielraum, den sie bei identifizierbaren Schülerdaten schnell verliert.

Anonymisierung ist mehr als das Löschen des Namens

In der Praxis wird Anonymisierung häufig mit dem Entfernen des Namens verwechselt. Ein Aufsatz mit ungewöhnlichem Inhalt, einer konkreten Schule, einer seltenen Familiensituation oder einer individuellen Fördergeschichte kann weiterhin zuordenbar sein. Auch die Kombination aus Klassenstufe, Fach, Datum und Fehlerbild kann ausreichen, um eine Person im schulischen Umfeld zu erkennen.

Pseudonymisierte Daten bleiben personenbezogene Daten, wenn eine Zuordnung mit zusätzlichen Informationen möglich ist. Für die Schule bedeutet das: Ein Kürzel statt des Namens reduziert zwar die unmittelbare Sichtbarkeit, beendet aber nicht automatisch die Anwendung der DSGVO. Wer echte Anonymität erreichen will, muss die Rückführbarkeit mit vertretbarem Aufwand ausschließen. Das ist bei freien Texten und individuellen Lernprofilen oft schwieriger, als es zunächst scheint.

Dokumentationspflichten: Verzeichnis, DSFA und Transparenz

Die Dokumentation ist kein nachgelagerter Verwaltungsakt. Sie ist der Ort, an dem sich zeigt, ob die Schule den Einsatz eines KI-Tools überhaupt verstanden und beherrscht. Für jede geplante Anwendung sollte zunächst eine kurze, aber belastbare Beschreibung vorliegen: Welcher Zweck wird verfolgt? Welche Daten werden eingegeben? Wer kann die Ergebnisse sehen? Wo werden die Daten verarbeitet? Wie lange bleiben sie gespeichert? Wird der Anbieter die Eingaben für eigene Zwecke verwenden?

Das Verzeichnis der Verarbeitungstätigkeiten nach Art. 30 DSGVO bildet dafür den formalen Rahmen. Es sollte unter anderem Zweck, Kategorien betroffener Personen, Datenkategorien, Empfänger, geplante Löschfristen und – soweit relevant – Übermittlungen in Drittländer abbilden. Ein KI-System muss dabei nicht als abstrakte Technologie beschrieben werden. Entscheidend ist der konkrete Verarbeitungsvorgang, etwa die automatische Rückmeldung zu Schülertexten oder die Auswertung von Lernaktivitäten.

Die Datenschutz-Folgenabschätzung nach Art. 35 DSGVO kommt hinzu, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten der Betroffenen mit sich bringt. Eine solche Prüfung kann insbesondere naheliegen, wenn sensible oder umfangreiche Daten von Minderjährigen verarbeitet werden, wenn Personen systematisch bewertet oder überwacht werden oder wenn neue Technologien in einer Weise eingesetzt werden, die erhebliche Auswirkungen auf die Betroffenen haben kann. Ob eine DSFA tatsächlich erforderlich ist, muss risikobasiert anhand des konkreten Vorhabens entschieden werden.

Die richtige Formulierung lautet daher nicht: Bei jeder Einführung eines digitalen Systems ist eine DSFA obligatorisch. Richtig ist: Vor der Einführung muss die Schule prüfen, ob aufgrund der Verarbeitung voraussichtlich ein hohes Risiko besteht und deshalb eine DSFA erforderlich ist. Das Ergebnis dieser Prüfung sollte selbst dann nachvollziehbar sein, wenn die Schule zu dem Schluss kommt, dass keine vollständige DSFA notwendig ist.

Eine DSFA beschreibt typischerweise:

1. den geplanten Verarbeitungsvorgang und seine Zwecke,

2. die Notwendigkeit und Verhältnismäßigkeit der Verarbeitung,

3. die möglichen Risiken für Schülerinnen, Schüler und weitere Betroffene,

4. die vorgesehenen technischen und organisatorischen Maßnahmen,

5. die verbleibenden Risiken und den Umgang damit.

Die Transparenzpflichten nach Art. 13 und 14 DSGVO verlangen außerdem verständliche Informationen gegenüber den Betroffenen. Schülerinnen und Schüler sowie ihre Eltern müssen erkennen können, welche Daten verarbeitet werden, zu welchem Zweck, auf welcher Rechtsgrundlage, durch welchen Anbieter und für welche Dauer. Bei KI-Anwendungen gehört dazu auch eine Erklärung, welche Rolle das System im Unterricht spielt. Wird eine automatisierte Bewertung vorgenommen oder lediglich ein Entwurf für eine Lehrkraft erstellt? Dient die Ausgabe als unverbindliche Unterstützung oder kann sie faktisch die Note beeinflussen?

Gerade bei jungen Menschen darf Transparenz nicht mit dem Aushändigen einer Datenschutzerklärung verwechselt werden. Die Information muss in einer Sprache erfolgen, die zur Altersgruppe passt. Ein Link auf eine umfangreiche Anbietererklärung genügt nicht, wenn daraus nicht hervorgeht, was die Schule konkret mit dem Tool macht.

Verträge, Einstellungen und Zugriffskontrolle

Der Blick auf den Anbieter ist ebenso wichtig wie die interne Dokumentation. Bei Cloud-Diensten für Bildungseinrichtungen sollten Schulen mindestens klären:

• Gibt es einen Vertrag zur Auftragsverarbeitung oder eine andere passende rechtliche Einordnung?
• Verarbeitet der Anbieter Eingaben ausschließlich für den schulischen Zweck oder auch für eigene Produktentwicklung und Training?
• In welchen Ländern werden Daten gespeichert und verarbeitet?
• Welche Unterauftragnehmer sind beteiligt?
• Können Chatverläufe, Protokolle und Kontodaten gelöscht werden?
• Sind Zugriffe nach Rollen begrenzt und nachvollziehbar?
• Werden Daten standardmäßig für längere Zeit gespeichert?
• Welche Sicherheitsmaßnahmen gelten für Konten, Schnittstellen und Administrationszugänge?
• Was geschieht bei einer Beendigung des Vertrags?

Ein datenschutzfreundlicher Dienst sollte so konfiguriert werden, dass nur die notwendigen Personen Zugriff erhalten. Gemeinsame Klassenkonten, ungeschützte Freigabelinks und dauerhaft offene Sitzungen erschweren die Nachvollziehbarkeit. Auch die Ergebnisse eines KI-Tools können personenbezogene Informationen enthalten. Eine automatisch erzeugte Rückmeldung zu einer Schülerin darf deshalb nicht ohne Prüfung in einen frei zugänglichen Kursbereich kopiert werden.

Die Schule muss zudem festlegen, wie mit fehlerhaften oder diskriminierenden Ausgaben umgegangen wird. Datenschutz und KI-Governance lassen sich an dieser Stelle nicht sauber voneinander trennen. Ein System, das Schülerdaten schützt, aber falsche Leistungsprofile erzeugt, ist pädagogisch und rechtlich kein unproblematisches Werkzeug. Umgekehrt kann eine inhaltlich brauchbare Anwendung bei unklaren Speicher- und Übermittlungswegen dennoch unzulässig sein.

Wenn der Anbieter die Daten für eigene Zwecke nutzen will

Besondere Vorsicht ist geboten, wenn ein Anbieter sich vorbehält, Eingaben oder Ausgaben für eigene Zwecke zu analysieren. Dann ist nicht selbstverständlich, dass er lediglich als Auftragsverarbeiter der Schule tätig wird. Je nach Ausgestaltung kann eine eigene Verantwortlichkeit des Anbieters oder eine andere datenschutzrechtliche Rollenverteilung vorliegen. Diese Frage lässt sich nicht durch die Produktbezeichnung und auch nicht durch einen pauschalen Hinweis auf „KI-Training“ beantworten.

Für Schulen ist entscheidend, ob sie die Verarbeitung tatsächlich kontrollieren können. Wenn eine Anwendung Inhalte speichert, Profile erstellt oder Daten zur Verbesserung des allgemeinen Dienstes verwendet, muss dieser Zweck in die Prüfung einbezogen werden. Eine Schule darf nicht nur den unmittelbaren pädagogischen Nutzen betrachten und die weiteren Verarbeitungen ausblenden.

Dasselbe gilt für Schnittstellen und technische Zusatzdienste. Ein KI-Modell kann in einer schulischen Umgebung eingebunden sein, während Protokollierung, Identitätsmanagement oder Analysefunktionen von weiteren Unternehmen betrieben werden. Die Frage, welcher KI-Anbieter Datenschutz in der Schule gewährleistet, ist deshalb nur im Zusammenhang mit der gesamten Systemarchitektur sinnvoll. Ein einzelnes Gütesiegel oder eine Werbeaussage ersetzt die Prüfung der konkreten Konfiguration nicht.

Verantwortlichkeit im Unterricht

Auch bei einer freigegebenen Lösung bleibt die Lehrkraft pädagogisch verantwortlich. KI-Ausgaben dürfen nicht unbesehen in Bewertungen, Förderentscheidungen oder Disziplinarmaßnahmen einfließen. Das gilt unabhängig davon, ob der EU AI Act eine bestimmte Anwendung als Hochrisiko einstuft. Die schulische Praxis muss sicherstellen, dass eine qualifizierte Person die Ergebnisse einordnet und Betroffene nicht auf eine automatisierte Einschätzung reduziert werden.

Für Schülerinnen und Schüler sollte erkennbar sein, wann KI eingesetzt wird und welche Bedeutung ihre Ausgabe hat. Eine automatisch erzeugte sprachliche Rückmeldung ist etwas anderes als eine Entscheidung über die Versetzung. Ein System, das Lernmaterial auf einem bestimmten Niveau vorschlägt, ist etwas anderes als ein System, das dieses Niveau verbindlich festlegt. Je näher die Anwendung an einer Entscheidung mit spürbaren Folgen liegt, desto höher sind die Anforderungen an Kontrolle, Begründung und menschliche Überprüfung.

Auch die Möglichkeit zur Korrektur muss praktisch bestehen. Wenn ein KI-System einen Fehler macht, darf die betroffene Person nicht auf eine undurchsichtige technische Entscheidung verwiesen werden. Die Schule braucht einen Weg, Ergebnisse zu hinterfragen und gegebenenfalls zu berichtigen. Das gehört zur pädagogischen Verantwortung, aber auch zu einem fairen Umgang mit den Rechten der Betroffenen.

Was eine belastbare Einführung ausmacht

Eine rechtssichere Einführung beginnt nicht mit der Frage, welches Tool gerade beliebt ist. Sie beginnt mit dem Unterrichtszweck. Soll die Klasse lernen, wie generative KI arbeitet? Soll eine Lehrkraft Materialvarianten erstellen? Sollen Schülerinnen und Schüler ihre Texte überarbeiten? Oder soll ein System individuelle Lernpfade berechnen? Erst wenn dieser Zweck klar ist, kann entschieden werden, ob überhaupt personenbezogene Daten erforderlich sind.

Für viele Unterrichtssituationen genügt eine datensparsame Lösung. Die Lehrkraft kann mit synthetischen Beispielen demonstrieren, wie ein Modell formuliert. Schülerinnen und Schüler können Aufgaben bearbeiten, ohne dass Namen oder vollständige Profile an einen externen Dienst übertragen werden. Texte lassen sich – soweit pädagogisch vertretbar – vor einer Verarbeitung von identifizierenden Angaben bereinigen. Solche Maßnahmen machen aus einem ungeprüften Tool noch keine freigegebene Schulanwendung, sie senken aber den Umfang des Risikos.

Wo personenbezogene Daten erforderlich sind, braucht es eine institutionelle Entscheidung. Dazu gehören die Prüfung des Anbieters, die Festlegung der zulässigen Daten, ein Löschkonzept, klare Zugriffsrechte und eine Regelung für Fehlfunktionen. Ebenso sollte dokumentiert werden, wer das System administriert, wer Ergebnisse kontrolliert und an wen sich Betroffene mit Fragen oder Beschwerden wenden können.

Die häufigsten rechtlichen Hürden beim KI-Einsatz in Schulen entstehen nicht durch eine einzelne komplizierte Vorschrift. Sie entstehen durch das Zusammenspiel mehrerer kleiner Versäumnisse: eine unklare Zuständigkeit, ein fehlender Vertrag, eine zu weit gefasste Dateneingabe, eine nicht geprüfte Cloud-Verarbeitung, eine unverständliche Information oder die Annahme, eine Einwilligung könne alle anderen Fragen erledigen.

Datenschutzfreundliche Innovation sieht deshalb weniger spektakulär aus als der spontane Zugriff auf den neuesten Chatbot. Sie arbeitet mit klaren Zwecken, begrenzten Daten, überprüfbaren Einstellungen und einem Verfahren, das auch dann noch nachvollziehbar ist, wenn die erste Begeisterung über das Werkzeug nachlässt.

Der kritische Wächter bleibt notwendig

Die Versuchung ist groß, KI in der Bildung vorrangig als technologische Chance zu begreifen und das Datenschutzrecht als lästiges Hindernis zu behandeln. Diese Perspektive greift zu kurz. Datenschutz schützt im schulischen Kontext keine abstrakten Datenbestände, sondern Kinder und Jugendliche in einer Institution, in der sie sich einer Bewertung und organisatorischen Entscheidungen nicht ohne Weiteres entziehen können.

Gleichzeitig wäre es falsch, aus jeder Unsicherheit ein vollständiges Nutzungsverbot abzuleiten. Die rechtlich und pädagogisch bessere Antwort lautet nicht, KI grundsätzlich aus dem Unterricht fernzuhalten. Sie lautet, die Einsatzform zu verändern: keine identifizierbaren Schülertexte in ungeprüfte öffentliche Systeme, keine verdeckten Profilbildungen, keine automatisierten Entscheidungen ohne echte menschliche Kontrolle und keine Verträge, deren Datenflüsse niemand erklären kann.

Für Schulträger und Schulen bedeutet das, Verfahren aufzubauen, statt Einzelfälle improvisiert zu behandeln. Eine zentrale Liste freigegebener Anwendungen kann hilfreich sein, wenn sie regelmäßig aktualisiert und mit konkreten Nutzungsvorgaben verbunden wird. Lehrkräfte brauchen verständliche Regeln und Ansprechpartner, nicht nur allgemeine Warnungen. Datenschutzbeauftragte sollten frühzeitig einbezogen werden – nicht erst, wenn ein Tool bereits im Unterricht verwendet wird.

Am Ende ist die entscheidende Frage nicht, ob eine Schule KI einsetzt. Entscheidend ist, ob sie begründen kann, warum dieses System für diesen Zweck erforderlich ist, welche Daten dafür tatsächlich benötigt werden und wie die Rechte der Betroffenen geschützt werden. Das Verzeichnis der Verarbeitungstätigkeiten, die Transparenzinformationen und gegebenenfalls eine Datenschutz-Folgenabschätzung sind dabei keine bürokratischen Anhängsel. Sie machen sichtbar, ob aus einer technischen Möglichkeit ein verantwortbarer schulischer Einsatz wird.

Wer Datenschutz bei KI-Tools in Schulen ernst nimmt, blockiert Innovation nicht. Er verhindert, dass Innovation auf Kosten derjenigen stattfindet, die sich dem System am wenigsten entziehen können. Rechtssichere KI im Unterricht beginnt deshalb nicht mit dem Eingabefeld, sondern mit der Entscheidung, welche Daten dort niemals landen dürfen.