KI-Pilotprojekt an der Schule: Checkliste vor dem Start

Was als pädagogische Innovation beginnt, kann dann in einen Datenschutzvorfall münden, weil Zuständigkeiten, Datenflüsse und Löschfristen erst nach dem Projektstart geklärt werden. Die eigentliche Bruchlinie jeder KI-Offensive liegt deshalb nicht zwischen analogem und digitalem Unterricht, sondern zwischen dem Tempo der Einführung und der Verbindlichkeit ihrer Rahmenbedingungen.

Wer ein KI-Pilotprojekt verantwortet, muss mehrere Fragen gleichzeitig beantworten: Welche Daten verarbeitet das Tool? Auf welcher Rechtsgrundlage geschieht das? Was soll sich im Unterricht konkret verbessern? Wer darf das System nutzen, und wie wird die Nutzung gegenüber Lernenden und Erziehungsberechtigten erklärt? Und schließlich: Woran erkennt die Schule, ob der Versuch pädagogisch trägt oder nur zusätzliche Arbeit produziert?

Eine brauchbare Checkliste für ein KI-Pilotprojekt an der Schule ist daher keine Sammlung von Tool-Empfehlungen. Sie bildet eine Reihenfolge ab. Erst werden Zweck, Daten und Zuständigkeiten geklärt, danach wird das Werkzeug ausgewählt. Nicht umgekehrt.

Rechtlicher Rahmen: Art. 28 DSGVO und der EU AI Act als Prüfpunkt

Bevor ein externes KI-Tool im Unterricht eingesetzt wird, muss die Schule die konkrete Verarbeitung beschreiben. Werden personenbezogene Daten verarbeitet, ist zu prüfen, ob die Schule als Verantwortliche und der Anbieter als Auftragsverarbeiter handeln. Ist das der Fall, ist ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO erforderlich. Das gilt nicht automatisch für jedes KI-Tool, sondern hängt davon ab, welche Daten tatsächlich verarbeitet werden und in welcher Rolle der Anbieter auftritt.

Die Unterscheidung ist praktisch entscheidend. Ein System, das ausschließlich mit vollständig anonymisierten, nicht rückführbaren Beispieldaten arbeitet, kann datenschutzrechtlich anders zu bewerten sein als ein Dienst, in den individuelle Schülertexte, Namen, Förderinformationen oder Bewertungsdaten eingegeben werden. Zwischen beiden Szenarien liegt nicht nur ein technischer Unterschied, sondern eine andere Prüf- und Dokumentationslage.

Ein AVV sollte unter anderem Gegenstand und Dauer der Verarbeitung, Art und Zweck der Datenverarbeitung, Kategorien betroffener Personen und Daten, Weisungsrechte, Unterauftragsverhältnisse sowie die technisch-organisatorischen Maßnahmen abbilden. Für ein schulisches Pilotprojekt reicht es nicht, lediglich den Namen des Anbieters und den Produktnamen zu dokumentieren. Die Schule muss verstehen können, welche Funktionen aktiviert sind, wo Daten verarbeitet werden, wie lange sie gespeichert bleiben und ob sie für weitere Zwecke verwendet werden.

Besonders genau hinzusehen ist bei Funktionen, die in der Oberfläche unscheinbar wirken: Gesprächsverläufe können dauerhaft im Nutzerkonto gespeichert werden, Eingaben können in Administrationsoberflächen auftauchen, und manche Dienste unterscheiden zwischen Trainingsdaten, Protokolldaten und Inhaltsdaten. Diese Kategorien können unterschiedlichen Aufbewahrungs- und Löschregeln unterliegen. Eine datenschutzrechtliche Prüfung muss deshalb die konkrete Konfiguration des Dienstes erfassen, nicht nur dessen allgemeine Produktbeschreibung.

Der EU AI Act setzt daneben Anforderungen an die KI-Kompetenz der Personen, die KI-Systeme einsetzen oder ihren Einsatz organisieren. Für Schulen bedeutet das nicht, dass jede Lehrkraft eine technische Spezialausbildung absolvieren muss. Erforderlich ist aber eine auf Rolle und Risiko zugeschnittene Befähigung: Lehrkräfte müssen Grenzen und typische Fehler des Systems erkennen, Schülerinnen und Schüler beim Einsatz anleiten und Ergebnisse fachlich einordnen können. Für die Schulleitung und die Projektverantwortlichen kommen zusätzlich Fragen der Auswahl, Dokumentation und Aufsicht hinzu.

Schulrecht bleibt Ländersache. Zulassungswege, Vorgaben zur Leistungsbewertung, Beteiligungsrechte schulischer Gremien und Anforderungen an Einwilligungen können sich deshalb unterscheiden. Eine Schule sollte Aussagen wie bundesweit zugelassen oder generell unbedenklich nicht aus einer Anbieterbroschüre übernehmen. Sie braucht eine Prüfung, die zum eigenen Bundesland, zum konkreten Schulträger und zum geplanten Unterrichtsszenario passt.

Ein KI-Tool wird nicht dadurch schulgeeignet, dass seine Oberfläche vertrauenswürdig wirkt. Entscheidend ist, ob Zweck, Datenverarbeitung, Zuständigkeit und Konfiguration nachvollziehbar dokumentiert sind.

Datenminimierung: Was in ein KI-System gehört – und was nicht

Die wichtigste technische Maßnahme ist oft die einfachste: möglichst wenig eingeben. Für die erste Erprobung braucht eine Schule in der Regel weder Klarnamen noch Klassenlisten, Noten, Diagnosen oder individuelle Förderpläne. Wenn ein Unterrichtsvorhaben auch mit künstlich erzeugten Beispielen, anonymisierten Texten oder frei verfügbaren Materialien funktioniert, sollte es zunächst auf dieser Grundlage aufgebaut werden.

Dabei ist die Unterscheidung zwischen Pseudonymisierung und Anonymisierung zentral. Wird ein Name durch ein Kürzel ersetzt, bleibt die Information personenbezogen, sofern die Schule den Bezug zu einer bestimmten Person wiederherstellen kann. Pseudonymisierte Daten können das Risiko senken, unterliegen aber grundsätzlich weiterhin dem Datenschutzrecht. Von Anonymisierung kann erst gesprochen werden, wenn eine Zuordnung zu einer Person mit den verfügbaren Mitteln nicht mehr möglich ist.

Das hat Folgen für die Auswahl der KI-Tools. Ein Dienst muss nicht pauschal ungeeignet sein, nur weil er keine Anonymisierung für beliebige Eingaben verspricht. Für ein Vorhaben, das ausschließlich mit anonymen Unterrichtsbeispielen arbeitet, kann er dennoch in Betracht kommen. Sobald aber personenbezogene Daten verarbeitet werden sollen, müssen die dafür erforderlichen Schutzmaßnahmen, Vertragsgrundlagen und Einstellungen gesondert geprüft werden. Ein Tool, das keine belastbare Trennung von Identifikatoren ermöglicht, ist für solche Szenarien jedenfalls keine gute Wahl.

Auch die Nutzung durch Schülerinnen und Schüler verlangt eine differenzierte Betrachtung. Die Schule muss klären, ob die Verarbeitung auf einer gesetzlichen Grundlage, einer schulrechtlichen Regelung oder einer Einwilligung beruht. Eine Einwilligung der Erziehungsberechtigten kann erforderlich sein, ist aber nicht in jedem Fall die einzige oder automatisch passende Lösung. Alter, Art des Dienstes, Zweck der Verarbeitung und einschlägiges Landesrecht spielen eine Rolle. Die Schule sollte daher nicht mit einer pauschalen Altersgrenze arbeiten, sondern den konkreten Einsatz mit der zuständigen Datenschutzstelle oder dem Schulträger prüfen.

Unabhängig von der Rechtsgrundlage braucht es verständliche Informationen. Lernende und Erziehungsberechtigte sollten wissen:

• welches Tool eingesetzt wird und zu welchem Lernzweck;
• welche Daten eingegeben werden dürfen;
• ob Eingaben gespeichert oder für weitere Zwecke genutzt werden;
• wer Zugriff auf Konten und Protokolle hat;
• wie lange Daten aufbewahrt werden;
• an wen man sich bei Fragen oder einem Auskunftsersuchen wenden kann;
• welche Alternative besteht, wenn eine Person das Tool nicht nutzen kann oder soll.

Eine Alternative ist dabei keine pädagogische Nebensache. Wenn die Teilnahme am Unterricht faktisch davon abhängt, dass Lernende ein bestimmtes kommerzielles Konto anlegen, entstehen zusätzliche Fragen zu Freiwilligkeit, Gleichbehandlung und Zugang. Ein Pilotprojekt sollte deshalb von Anfang an vorsehen, wie Aufgaben ohne persönliche Nutzung des Dienstes bearbeitet werden können.

Kostenlose Konsumenten-Chatbots sind nicht automatisch verboten, aber sie passen häufig nicht zu den Anforderungen eines schulischen Vorhabens. Bei ihnen fehlen möglicherweise ein schulischer Administrationsbereich, klare Löschoptionen, getrennte Datenverarbeitung, verlässliche Rollen- und Zugriffskonzepte oder eine vertragliche Regelung für personenbezogene Daten. Das Problem ist dann nicht der Preis, sondern die fehlende Kontrolle über den Verarbeitungskontext.

Didaktische Rahmung: Werkzeug folgt Methode, nicht umgekehrt

Hier liegt die häufigste Fehlstelle vieler Pilotprojekte. Die Frage welches Tool nehmen wir wird gestellt, bevor geklärt ist, welche Lernhandlung unterstützt werden soll. Das führt zu Unterrichtsszenarien, in denen Schülerinnen und Schüler Texte erzeugen, Ergebnisse kopieren und anschließend über die Qualität des Outputs sprechen – obwohl das eigentliche Lernziel nie präzisiert wurde.

Pädagogik lässt sich nicht von hinten aufziehen: Erst kommt der Lerngegenstand, dann die Methode, dann das Werkzeug. Ein KI-System kann beispielsweise beim Vergleichen von Argumentationen, beim Überarbeiten eines Entwurfs oder beim Erkennen von Fehlern helfen. Es kann aber auch dazu führen, dass genau die Leistung ausgelagert wird, die im Unterricht entwickelt und bewertet werden sollte.

Vor dem Start sollte die Projektgruppe deshalb festlegen:

• welches fachliche oder überfachliche Lernziel im Mittelpunkt steht;
• welche Aufgabe ohne KI bisher schwierig oder besonders aufwendig ist;
• welche Funktion das System übernimmt: Anregen, Strukturieren, Überarbeiten, Simulieren oder Feedback geben;
• welche Teile der Leistung weiterhin eigenständig erbracht werden müssen;
• wie Schülerinnen und Schüler KI-Ausgaben überprüfen und begründen;
• welche Nachweise über den Arbeitsprozess für die Bewertung notwendig sind;
• woran die Schule erkennt, dass der Einsatz einen Mehrwert bringt.

Der letzte Punkt wird häufig unterschätzt. Ein Pilotprojekt ist nicht schon dann erfolgreich, wenn ein Tool verwendet wurde. Es muss sich zeigen, ob Lernende fachlich präziser arbeiten, bessere Rückmeldungen nutzen, unterschiedliche Perspektiven erkennen oder selbstständiger zu tragfähigen Ergebnissen kommen. Ebenso kann das Ergebnis lauten, dass ein Einsatz keinen ausreichenden Mehrwert bietet. Auch das ist eine verwertbare Evaluation.

Offenlegung und Leistungsbewertung

Eine schulische Regelung sollte nicht einfach jede KI-Nutzung verbieten oder jede Nutzung pauschal erlauben. Sie muss zwischen Aufgabenformaten unterscheiden. Bei einer Rechercheübung kann es sinnvoll sein, KI-Ausgaben zu analysieren. Bei einer Schreibaufgabe kann die eigenständige Formulierung der zentrale Leistungsgegenstand sein. Bei einer Projektarbeit wiederum kann die Nutzung eines Sprachmodells erlaubt sein, sofern sie dokumentiert, reflektiert und fachlich kontrolliert wird.

Eine Arbeit, bei der KI eingesetzt wurde, sollte entsprechend den schulischen Vorgaben nachvollziehbar machen, an welcher Stelle und in welcher Funktion das System beteiligt war. Das ist nicht zwingend dieselbe Formulierung in jedem Fach und bei jeder Aufgabe. Entscheidend ist, dass die Lehrkraft erkennen kann, welche Leistung die Schülerin oder der Schüler selbst erbracht hat und wie die Ausgabe des Systems geprüft wurde.

Dafür können Arbeitsversionen, kurze Reflexionen, Quellenprüfungen oder mündliche Erläuterungen geeigneter sein als eine bloße Erklärung am Ende des Dokuments. Die Schule sollte diese Anforderungen vor dem Pilotstart mit den zuständigen Gremien abstimmen. Sonst entsteht eine nachträgliche Beweislast, die weder für Lernende noch für Lehrkräfte fair ist.

Ablauf in fünf Phasen

Diese Phasen müssen nicht vollständig nacheinander abgearbeitet werden. Didaktische Planung und technische Prüfung können sich beispielsweise überschneiden. Eine Bedingung sollte jedoch nicht übersprungen werden: Der praktische Einsatz darf erst beginnen, wenn geklärt ist, welche Daten verarbeitet werden und ob dafür vertragliche oder organisatorische Voraussetzungen fehlen.

Für die Pilotphase braucht es außerdem einen begrenzten Rahmen. Dazu gehören eine definierte Lerngruppe, ein überschaubarer Zeitraum, benannte Verantwortliche und ein Verfahren für Störungen. Was geschieht, wenn ein Konto gesperrt wird, ein unangemessener Output erscheint oder versehentlich personenbezogene Daten eingegeben wurden? Ohne vorher festgelegte Reaktion wird aus einem kleinen Zwischenfall schnell ein Zuständigkeitsproblem.

Sechs Fehler, die den Pilotbetrieb gefährden

1. Start ohne geklärte Vertragslage.

Lehrkräfte legen Konten an und beginnen mit der Arbeit, obwohl noch nicht feststeht, ob personenbezogene Daten verarbeitet werden und ob dafür ein AVV oder eine andere Vereinbarung erforderlich ist. Die Prüfung muss vor der Verarbeitung abgeschlossen sein – nicht erst, wenn die ersten Ergebnisse vorliegen.

2. Verwendung von Klarnamen und sensiblen Angaben.

Namen, Noten, Beurteilungen, Diagnosen oder Förderinformationen werden in Eingabefelder übernommen, obwohl die Aufgabe ebenso mit anonymisierten Beispielen lösbar wäre. Datenminimierung sollte deshalb nicht erst als Korrekturmaßnahme einsetzen, sondern bereits bei der Unterrichtsplanung.

3. Einwilligung als Standardlösung.

Die Schule holt pauschal Einwilligungen ein, ohne zu prüfen, ob diese freiwillig, informiert und für den konkreten Zweck geeignet sind. Ebenso problematisch ist es, auf eine Einwilligung zu verzichten, obwohl keine andere tragfähige Rechtsgrundlage erkennbar ist. Rechtsgrundlage, Information und praktikable Alternative müssen zusammen betrachtet werden.

4. Keine Schulung der Lehrkräfte.

Eine Einführung beschränkt sich auf eine kurze Demonstration der Benutzeroberfläche. Nicht behandelt werden Halluzinationen, verzerrte Ergebnisse, Urheberrechtsfragen, Datenschutz, Promptgestaltung und die pädagogische Bewertung von KI-Ausgaben. KI-Kompetenz bedeutet nicht, möglichst viele Funktionen zu kennen, sondern Risiken im eigenen Einsatzszenario einschätzen zu können.

5. Training mit Schuldaten ungeprüft zulassen.

In den Einstellungen oder Nutzungsbedingungen kann vorgesehen sein, Eingaben zur Verbesserung des Dienstes oder zum Training von Modellen zu verwenden. Ob dies zulässig ist, hängt von der konkreten Datenverarbeitung und der rechtlichen Grundlage ab. Die Schule sollte diese Funktion nicht als Nebeneinstellung behandeln, sondern ausdrücklich prüfen, deaktivieren oder vertraglich ausschließen, soweit dies erforderlich ist.

6. Leistungsbewertung ohne klare Regeln.

Wenn nicht feststeht, wann KI erlaubt ist und wie ihre Nutzung offengelegt werden soll, bewerten Lehrkräfte möglicherweise unterschiedliche Leistungen nach unterschiedlichen Maßstäben. Das macht Ergebnisse schwer vergleichbar und kann zu Konflikten führen. Regeln müssen vor der Aufgabe bekannt sein, nicht erst nach der Abgabe.

Audit, Auskunft und Löschung im laufenden Betrieb

Datenschutz endet nicht mit der Freigabe des Tools. Während des Pilotbetriebs muss die Schule nachvollziehen können, welche Daten verarbeitet werden, wer Zugriff hat und ob die vorgesehenen Einstellungen tatsächlich aktiv sind. Dazu können Administrationsprotokolle, Nutzungsberichte und regelmäßige Stichproben gehören. Nicht jede Aktivität muss dauerhaft gespeichert werden; erforderlich ist eine angemessene Dokumentation, die den Zweck des Projekts und die datenschutzrechtlichen Pflichten berücksichtigt.

Die Fähigkeit zur Auskunft ist ein wichtiges Auswahlkriterium. Betroffene Personen können unter den Voraussetzungen des Art. 15 DSGVO Auskunft über die Verarbeitung ihrer personenbezogenen Daten verlangen. Dafür muss die Schule zumindest feststellen können, welche Kategorien von Daten in welchem System verarbeitet wurden und an wen sie gegebenenfalls übermittelt wurden. Ob und in welchem Umfang ein Tool dafür detaillierte Protokolle bereitstellt, ist vorab zu klären.

Audit-Logs sind deshalb nicht automatisch an die erste Stelle jeder Toolauswahl zu setzen. Ihre Notwendigkeit, ihr Umfang und ihre Aufbewahrung müssen zum Einsatz passen. Für ein System, das ausschließlich anonyme Texte verarbeitet, gelten andere Anforderungen als für einen Dienst mit individuellen Lernkonten und personenbezogenen Eingaben. In beiden Fällen sollte die Schule aber wissen, welche Protokolle entstehen und wie sie kontrolliert oder gelöscht werden können.

Was die Schule im laufenden Betrieb nicht nachvollziehen kann, kann sie später nur schwer erklären: weder Lernenden und Eltern noch Datenschutzbeauftragten oder Aufsichtsstellen.

Offenlegung, Modelltraining und Unteraufträge

Die Weiterverwendung von Eingaben für Modelltraining, Produktverbesserung oder andere Anbieterzwecke muss gesondert geprüft werden. Sie darf nicht aus einer unklaren Standardeinstellung heraus als akzeptiert gelten. Bei personenbezogenen Daten sind Zweckbindung, Transparenz und die einschlägige Rechtsgrundlage zu berücksichtigen. Bei nicht personenbezogenen, aber schulisch sensiblen Inhalten stellen sich zusätzlich Fragen zu Vertraulichkeit, Urheberrecht und institutioneller Kontrolle.

Auch Unterauftragsverarbeiter gehören in die Prüfung. Cloud-Infrastruktur, Identitätsmanagement, Support und Moderationsdienste können dazu führen, dass mehrere Unternehmen an der Verarbeitung beteiligt sind. Die Schule sollte nachvollziehen können, welche Dienstleister eingesetzt werden, in welchen Ländern sie tätig sind und wie Änderungen angekündigt oder beanstandet werden können.

Serverstandort und Drittlandtransfers sind ebenfalls keine bloßen Technikdetails. Sie müssen im Zusammenhang mit den konkreten Daten, den Übermittlungsinstrumenten und den zusätzlichen Schutzmaßnahmen bewertet werden. Ein Hinweis auf einen europäischen Serverstandort beantwortet beispielsweise nicht automatisch jede Frage zur gesamten Anbieterstruktur. Umgekehrt ist ein internationaler Dienst nicht allein deshalb ausgeschlossen. Entscheidend ist, ob die Verarbeitung rechtlich und technisch belastbar abgesichert werden kann.

Löschkonzept und Abschluss des Piloten

Vor dem Start sollte feststehen, welche Daten für die Evaluation benötigt werden und welche nicht. Lerninhalte, Konten, Eingaben, Protokolle und Ergebnisdaten müssen nicht zwangsläufig gleich lange gespeichert werden. Ein Löschkonzept legt fest, was zu welchem Zeitpunkt gelöscht oder anonymisiert wird, wer die Löschung ausführt und wie sie dokumentiert wird.

Nach Abschluss des Piloten braucht die Schule daher mehr als einen kurzen Erfahrungsbericht. Sie sollte prüfen:

• welche Konten und Zugriffsrechte noch bestehen;
• welche Eingaben und Dateien beim Anbieter gespeichert sind;
• ob Löschanfragen technisch umgesetzt wurden;
• welche Protokolle für Nachweise noch erforderlich sind;
• welche Evaluationsdaten anonymisiert weiterverwendet werden dürfen;
• ob die schulischen Regeln angepasst werden müssen.

Die Evaluation selbst sollte möglichst wenig neue personenbezogene Daten erzeugen. Für die Frage, ob Lernende eine Aufgabe besser verstanden haben, braucht es nicht automatisch vollständige Chatverläufe. Häufig reichen fachliche Kriterien, anonymisierte Arbeitsproben, strukturierte Rückmeldungen und eine dokumentierte Einschätzung der Lehrkräfte.

Position: Reihenfolge und Verantwortung

Künstliche Intelligenz an Schulen wird nicht allein deshalb scheitern, weil ein Werkzeug technisch unvollkommen ist. Projekte scheitern vor allem dann, wenn der pädagogische Zweck unklar bleibt, Datenflüsse nicht kontrolliert werden und niemand weiß, wer im Alltag die Verantwortung trägt.

Die Reihenfolge ist deshalb kein starres Rechtsritual, sondern eine praktische Absicherung:

Die Verantwortung liegt dabei nicht allein beim Anbieter und auch nicht ausschließlich bei der Datenschutzbeauftragten oder dem Datenschutzbeauftragten. Die Schulleitung muss sicherstellen, dass das Projekt einen zulässigen Zweck hat, Zuständigkeiten geklärt sind und die nötigen Prüfungen durchgeführt werden. Der Schulträger und die IT können technische und vertragliche Aufgaben übernehmen; die Fachschaft verantwortet die didaktische Qualität; Lehrkräfte setzen die vereinbarten Regeln im Unterricht um.

Ein KI-Pilotprojekt braucht außerdem eine Abbruchbedingung. Wenn der Anbieter keine ausreichende Auskunft über Datenverarbeitung geben kann, Löschungen nicht verlässlich möglich sind oder der erwartete Lerngewinn ausbleibt, darf die Konsequenz nicht lauten, das Projekt trotzdem fortzusetzen. Innovation zeigt sich nicht in der Zahl der eingesetzten Tools, sondern in der Fähigkeit, einen Versuch sauber zu begrenzen, aus ihm zu lernen und ihn gegebenenfalls zu beenden.

Die passende „ki pilotprojekt schule checkliste“ beginnt deshalb nicht mit dem Vergleich von Chatbots. Sie beginnt mit einer Entscheidung über Lernziel, Daten und Verantwortung. Erst wenn diese drei Punkte belastbar beantwortet sind, lohnt sich die Frage nach dem Werkzeug. Innovation an Schulen braucht keinen schnelleren Start um jeden Preis, sondern einen Rahmen, in dem pädagogischer Nutzen und institutionelle Sorgfalt zusammenpassen.