KI-Ethik-Richtlinien für Schulen: Checkliste vor dem Start
Die verbreitete Annahme, eine Schule benötige für den KI-Einsatz vor allem ein gutes Tool, einige Fortbildungen und eine Nutzungsordnung, ist bequem – und normativ unzureichend. Seit dem 2.
Februar 2025 gelten zentrale Teile der europäischen KI-Verordnung bereits: das Verbot bestimmter Praktiken und die Pflicht zu ausreichender KI-Kompetenz. Wer heute generative KI, Lernanalyse oder automatisierte Korrekturhilfen einführt, handelt also nicht in einem rechtsfreien pädagogischen Experimentierfeld.
Gerade die Lücke zwischen technisch möglicher und institutionell verantwortbarer Nutzung ist gefährlich. Eine KI-Ethik-Richtlinie für Schulen darf deshalb kein freundlicher Verhaltenskodex mit fünf Allgemeinplätzen sein. Sie muss Zuständigkeiten, Zweckgrenzen, Datenflüsse und Entscheidungsrechte so präzise ordnen, dass aus der Blackbox kein stiller Mitentscheider über Bildungswege wird.
Die folgende Checkliste ist kein Ersatz für die Prüfung durch Datenschutzbeauftragte, Schulträger oder zuständige Aufsichtsbehörden. Sie schafft jedoch die Architektur, ohne die eine rechtssichere und ethische KI-Nutzung im Bildungsbereich regelmäßig zur Fassade gerät.
Eine Schule kontrolliert KI nicht dadurch, dass sie ihre Nutzung erlaubt oder verbietet, sondern dadurch, dass sie Zwecke, Daten und Entscheidungsmacht verbindlich begrenzt.
Rechtlicher Rahmen: Erst den Einsatzfall definieren, dann das Werkzeug auswählen
Die KI-Verordnung behandelt Bildungs-KI keineswegs als harmlose Kategorie. Systeme können als Hochrisiko-KI eingestuft werden, wenn sie etwa über Zugang oder Zulassung entscheiden, Lernleistungen bewerten, Lernprozesse steuern, Bildungsniveaus bestimmen oder unerlaubtes Verhalten bei Prüfungen überwachen beziehungsweise erkennen sollen. Entscheidend ist nicht das Marketingetikett eines Anbieters, sondern der tatsächliche Verwendungszweck.
Ein Chatbot, der eine Lehrkraft bei der Formulierung eines Arbeitsblatts unterstützt, ist etwas grundlegend anderes als ein System, das Lernende nach vermeintlicher Leistungswahrscheinlichkeit sortiert. Zwischen beiden Fällen liegt nicht bloß ein Unterschied im Funktionsumfang, sondern in der Eingriffsintensität gegenüber jungen Menschen und ihrer informationellen Selbstbestimmung.
Die zeitliche Lage verlangt zudem Ordnungssinn. Die KI-Verordnung gilt grundsätzlich ab dem 2. August 2026. Die Vorschriften über KI-Kompetenz und verbotene Praktiken gelten jedoch bereits seit dem 2. Februar 2025. Für Artikel 6 Absatz 1 sowie die damit verbundenen Pflichten ist der 2. August 2027 maßgeblich. Schulen sollten daraus nicht den voreiligen Schluss ziehen, bis 2027 bleibe Raum für regulatorische Lässigkeit. Das Gegenteil ist richtig: Gerade die Übergangszeit muss für belastbare Verfahren genutzt werden.
Die erste Richtlinienentscheidung: Welche KI-Anwendungen sind überhaupt zulässig?
Eine brauchbare Richtlinie unterscheidet nicht pauschal zwischen „KI erlaubt“ und „KI verboten“. Sie führt eine Anwendungskarte, in der jedes System einem klaren Zweck, einer verantwortlichen Stelle und einer Risikokategorie zugeordnet wird.
| Einsatzbereich | Ethisch und rechtlich zentrale Frage | Leitplanke für die Schule |
|---|---|---|
| Unterrichtsvorbereitung | Werden personenbezogene Angaben in Eingaben übernommen? | Nur freigegebene Systeme; keine identifizierbaren Schülerdaten in offene Dienste |
| Lernbegleitung | Beeinflusst das System Lernwege oder Niveauzuordnungen? | Pädagogische Kontrolle, dokumentierte Eingriffs- und Korrekturmöglichkeiten |
| Leistungsbewertung | Erzeugt die KI eine Note, Teilnote oder faktisch verbindliche Vorauswahl? | Ausschließlich unterstützende Nutzung; Entscheidung und Begründung bei Lehrkräften |
| Prüfungsaufsicht und Detektion | Überwacht das System Verhalten oder behauptet es KI-Nutzung? | Keine automatisierte Sanktion; hohe Fehlerrisiken und Verhältnismäßigkeit prüfen |
| Kommunikation mit Eltern und Lernenden | Welche Daten gelangen an Dritte, und wofür werden sie weiterverarbeitet? | Freigegebene Vorlagen, Zweckbindung, keine sensiblen Fallinformationen |
Die Richtlinie muss ausdrücklich festhalten, dass Emotionserkennung in Bildungseinrichtungen seit dem 2. Februar 2025 grundsätzlich verboten ist. Ausnahmen bestehen lediglich für medizinische oder sicherheitsbezogene Zwecke. Wer Gesichtsausdrücke, Blickbewegungen oder Stimmmerkmale als Indikatoren für Aufmerksamkeit, Motivation oder Täuschung auswerten will, bewegt sich damit nicht an einer pädagogischen Innovationsgrenze, sondern an einer klaren rechtlichen Schranke.
Ebenso problematisch sind Systeme, die Schülerinnen und Schüler mit Risikoscores versehen: „Abbruch gefährdet“, „wenig kooperativ“, „wahrscheinlich unredlich“. Solche Kategorien wirken objektiv, weil sie numerisch auftreten. Ihre Normativität bleibt dennoch menschlich: Jemand hat entschieden, welche Daten zählen, welches Verhalten als Abweichung gilt und ab wann eine Prognose handlungsrelevant wird. Genau dort entsteht Bias – nicht als technischer Unfall, sondern als Folge einer schlecht legitimierten Modellannahme.
Datenschutz: Der Prompt ist kein neutraler Notizzettel
Beim Datenschutz im KI-Unterricht beginnt der Fehler häufig mit einem Satz: „Wir schreiben doch keine Namen hinein.“ Das genügt nicht. Auch ohne Klarnamen können Kombinationen aus Klasse, Fach, Leistungsstand, biografischem Kontext, Förderbedarf oder konkreter Aufgabenstellung einen Personenbezug herstellen. Pseudonymisierung ist nicht automatisch Anonymisierung; die Schule sollte sich diese begriffliche Nachlässigkeit nicht leisten.
Die Datenschutzkonferenz empfiehlt, Einsatzfelder und Zwecke vorab ausdrücklich festzulegen. Das ist keine verwaltungstechnische Fingerübung. Erst der konkret formulierte Zweck erlaubt die Prüfung, ob eine Verarbeitung personenbezogener Daten erforderlich ist und ob die Schule innerhalb ihres gesetzlichen Auftrags handelt.
Bei offenen cloudbasierten KI-Systemen verlassen Eingaben regelmäßig den geschützten Bereich der nutzenden Person. Abhängig von Produktgestaltung und Vertragsbedingungen können Daten gespeichert, zur Bereitstellung von Antworten verarbeitet oder in Drittstaaten übermittelt werden. Die jeweils aktuelle Vertrags-, Datenschutz- und Produktdokumentation des Anbieters ist daher kein Anhang für die Beschaffung, sondern Teil der pädagogischen Zulässigkeitsprüfung.
Die Datenschutzprüfung muss vor dem Pilotprojekt stehen
Eine KI-Ethik-Richtlinie sollte für jede Anwendung eine kurze, aber belastbare Freigabeakte verlangen. Sie muss nicht in bürokratischer Selbstverliebtheit enden. Sie muss jedoch beantworten, was sonst später niemand mehr beantworten kann: Warum dieses System, für welchen Zweck, mit welchen Daten und unter wessen Verantwortung?
Die interne Prüfung sollte mindestens diese Punkte abarbeiten:
1. Zweck präzisieren: „KI im Unterricht nutzen“ ist kein Zweck. Tragfähig wären etwa: individuelle Übungsaufgaben für eine definierte Jahrgangsstufe erstellen, sprachliche Überarbeitung eigener Entwürfe begleiten oder Lehrkräfte bei der Strukturierung anonymisierter Lernmaterialien unterstützen.
2. Datenarten erfassen: Zu unterscheiden sind insbesondere Inhaltsdaten, Nutzungsdaten, Metadaten, Leistungsdaten sowie besondere Kategorien personenbezogener Daten. Gesundheitsdaten, Angaben zu sonderpädagogischem Förderbedarf oder Informationen über familiäre Belastungen gehören nicht in improvisierte Prompts.
3. Notwendigkeit begründen: Wenn derselbe pädagogische Zweck ohne personenbezogene Daten oder mit einer lokal beziehungsweise technisch geschlossener betriebenen Lösung erreichbar ist, verliert die offene Plattform ihre Rechtfertigung. Datenminimierung ist keine Option unter mehreren.
4. Rollen und Verträge klären: Schule, Schulträger, Plattformanbieter und gegebenenfalls weitere Dienstleister dürfen nicht in einer diffusen Verantwortungswolke verschwinden. Wer verarbeitet Daten in welcher Rolle? Welche Weisungsrechte bestehen? Welche Drittlandtransfers sind betroffen?
5. Datenschutz-Folgenabschätzung prüfen: Ergibt die Vorabprüfung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen, ist nach Artikel 35 DSGVO eine Datenschutz-Folgenabschätzung erforderlich. Bei KI-Anwendungen wird dies vielfach der Fall sein, gerade wenn Lernprofile, Verhaltensdaten oder vulnerable Gruppen betroffen sind.
6. Lösch- und Ausstiegsregeln festlegen: Eine Richtlinie braucht ein Ende, nicht nur einen Start. Sie muss regeln, wie lange Daten verarbeitet werden, wann Zugänge deaktiviert werden und wie die Schule bei Anbieterwechsel oder Sicherheitsvorfall handlungsfähig bleibt.
Die Einwilligung von Eltern oder Lernenden darf dabei nicht als universeller Freibrief missverstanden werden. Im Schulverhältnis bestehen Abhängigkeitsstrukturen; außerdem hängt die Rechtsmäßigkeit der Verarbeitung stets vom konkreten Zweck, der Rechtsgrundlage, den Datenarten und der Ausgestaltung des Verfahrens ab. Eine eingescannte Unterschrift repariert keine unverhältnismäßige Datenverarbeitung.
Wo der Datenfluss unbekannt bleibt, ist die pädagogische Begründung bloß eine freundliche Verpackung für Kontrollverlust.
Leistungsbewertung: Die menschliche Letztentscheidung darf nicht dekorativ sein
Die schärfste Grenze verläuft dort, wo KI aus einem Hilfsmittel zum Bewertungsapparat wird. Nach Artikel 22 Absatz 1 DSGVO sind Entscheidungen, die rechtliche Wirkung entfalten oder Menschen in ähnlicher Weise erheblich beeinträchtigen, grundsätzlich nicht ausschließlich automatisiert zu treffen. Im schulischen Kontext betrifft dies nicht nur formale Zulassungsentscheidungen. Auch die faktische Vorentscheidung über Note, Förderstatus, Prüfungsvorwurf oder Übergangsempfehlung kann erhebliche Folgen entfalten.
Die Kultusministerkonferenz formuliert die Konsequenz eindeutig: Leistungsbewertung bleibt eine pädagogische und hoheitliche Aufgabe, die ausschließlich von Lehrkräften wahrgenommen werden kann. KI darf bei einer Vorkorrektur oder als Korrekturassistenz unterstützen. Die abschließende Bewertung und die Verantwortung dafür verbleiben bei den Prüfenden.
Das schließt eine KI-gestützte Bewertung nicht aus. Es verbietet jedoch die bequeme Simulation menschlicher Kontrolle. Wenn eine Lehrkraft hundert automatisch vergebene Punktwerte nur abnickt, ohne Kriterien, Grenzfälle und Fehlerquellen nachvollziehbar zu prüfen, ist die menschliche Beteiligung formal vorhanden und materiell leer.
Was die Richtlinie für Prüfungen festschreiben muss
Für Leistungsnachweise braucht die Schule eine gesonderte Regelung, nicht bloß einen Absatz in der allgemeinen KI-Nutzungsordnung. Sie sollte insbesondere bestimmen:
- Welche Formen der KI-Unterstützung bei Hausaufgaben, Projekten, Präsentationen und schriftlichen Arbeiten zulässig sind.
- Wie KI-Nutzung transparent gemacht wird: etwa durch einen kurzen Nutzungshinweis, die Dokumentation wesentlicher Prompts oder eine Erläuterung, welche Teile eigenständig überarbeitet wurden.
- Welche Prüfungsformate die eigenständige Reflexion absichern: mündliche Verteidigung, Prozessdokumentation, Vergleich verschiedener Entwürfe oder fachliche Rückfragen zum eingereichten Ergebnis.
- Dass ein KI-Detektor keinen belastbaren Schuldbeweis ersetzt. Für allgemein gültige, beweisfähige Trefferquoten solcher Systeme gibt es keine belastbare Grundlage.
- Wie bei Verdacht auf unzulässige Hilfe vorzugehen ist: Gespräch, fachliche Nachprüfung, dokumentierte Indizien und verhältnismäßige Reaktion statt automatisierter Verdächtigung.
Ein allgemeines KI-Verbot für zu Hause erstellte Schülerarbeiten ist weder durchhaltbar noch pädagogisch überzeugend. Die Kultusministerkonferenz empfiehlt gerade keine solche Standardlösung. Die bessere Antwort liegt in veränderten Aufgabenformaten und klaren Absprachen. Wer KI aus der Hausarbeit verbannen will, ohne Lernprozesse anders sichtbar zu machen, verteidigt lediglich eine Prüfungsform, deren Nachweislogik bereits erodiert ist.
Transparenz und KI-Kompetenz: Eine Richtlinie ohne Zuständigkeit bleibt Papier
Die Pflicht zu ausreichender KI-Kompetenz gilt nicht nur für IT-Verantwortliche. Anbieter und Betreiber von KI-Systemen müssen Maßnahmen treffen, damit Personen, die KI in ihrem Auftrag einsetzen, über ein angemessenes Kompetenzniveau verfügen. Dabei zählen technische Kenntnisse, Erfahrung, Ausbildung, konkreter Einsatzkontext und die betroffenen Personengruppen. In Schulen ist diese letzte Kategorie entscheidend: Minderjährige sind keine Testpopulation für unzureichend verstandene Systeme.
KI-Kompetenz erschöpft sich nicht darin, gute Prompts zu schreiben. Wer nur die Bedienoberfläche erklärt, aber Halluzinationen, Bias, Datenweitergabe, Urheberrecht und Haftungsfrage ausspart, schult Anwendung, nicht Urteilskraft.
Eine belastbare Richtlinie benennt deshalb Verantwortlichkeiten:
| Verantwortungsbereich | Verbindliche Aufgabe |
|---|---|
| Schulleitung | Freigabeprozess, Ressourcen, Rechenschaft gegenüber Schulträger und Gremien |
| Datenschutzbeauftragte Stelle | Bewertung von Datenarten, Rechtsgrundlagen, Risiken und erforderlichen Folgenabschätzungen |
| KI- oder Digitalsteuergruppe | Werkzeugregister, pädagogische Standards, Evaluation und Fortbildungsplanung |
| Lehrkräfte | Transparente Nutzung im Unterricht, keine Delegation von Bewertungsentscheidungen, Meldung von Auffälligkeiten |
| Lernende | Kennzeichnung vereinbarter KI-Nutzung, keine Eingabe fremder oder sensibler Daten, kritische Prüfung von Ergebnissen |
| Eltern und Sorgeberechtigte | Verständliche Information über eingesetzte Systeme, Zwecke und schulische Kontaktwege |
Transparenz bedeutet dabei mehr als einen Link im Impressum. Schülerinnen und Schüler müssen in verständlicher Form erfahren, wann sie mit einem KI-System interagieren, welche Rolle dieses System im Lernprozess spielt und welche Daten nicht eingegeben werden dürfen. Eltern benötigen keine Werbebroschüre über Innovation, sondern eine nachvollziehbare Beschreibung der Grenzen.
Für jüngere Lernende ist Zurückhaltung geboten. Die von UNESCO vorgeschlagene Altersgrenze von 13 Jahren für die selbstständige Nutzung generativer KI-Werkzeuge ist zwar kein geltendes deutsches Recht. Sie erinnert jedoch an eine Frage, die Schulen gerne überspringen: Kann ein Kind die Folgen einer Eingabe, die Qualität einer Antwort und die manipulative Wirkung einer souverän klingenden Maschine überhaupt realistisch beurteilen? Die Antwort darf nicht pauschal ausfallen, aber sie darf auch nicht durch das Vorhandensein eines Klassen-Accounts ersetzt werden.
Bias und algorithmische Fairness: Die Schule darf Vorurteile nicht skalieren
KI-Systeme sortieren, prognostizieren und formulieren auf Grundlage statistischer Muster. Diese Muster sind nicht neutral, nur weil sie rechnerisch erzeugt werden. Sie können sprachliche Normen privilegieren, soziale Herkunft indirekt abbilden, neurodivergente Kommunikationsweisen falsch interpretieren oder mehrsprachige Lernende systematisch benachteiligen.
Besonders heikel wird dies, wenn ein System Lernstände klassifiziert, Förderbedarfe priorisiert oder Verhaltensauffälligkeiten meldet. Ein Modell kann eine Korrelation erkennen, ohne einen pädagogisch legitimen Grund zu liefern. Die Schule darf diese Differenz nicht verwischen: Prognose ist keine Diagnose, und Klassifikation ist keine gerechte Entscheidung.
Die Richtlinie sollte daher vor der Freigabe eines Systems eine Bias-Prüfung verlangen. Das bedeutet praktisch:
- typische Fälle aus verschiedenen Leistungsniveaus, Sprachbiografien und Ausdrucksformen testen;
- prüfen, ob vergleichbare Eingaben zu nachvollziehbar unterschiedlichen Ergebnissen führen;
- dokumentieren, welche Gruppen durch Fehlklassifikationen besonders belastet wären;
- ein Beschwerde- und Korrekturverfahren für Lernende und Eltern vorsehen;
- Systeme aussetzen, wenn ihre Ergebnisse nicht hinreichend erklärbar, überprüfbar oder pädagogisch vertretbar sind.
Es wäre naiv zu erwarten, jede Verzerrung lasse sich technisch eliminieren. Die Aufgabe der Schule ist anspruchsvoller: Sie muss entscheiden, bei welchen Risiken ein System trotz möglicher Vorteile nicht eingesetzt werden darf. Digitale Souveränität beginnt genau dort, wo Institutionen auf ein Produkt verzichten können, dessen Logik sie nicht kontrollieren.
Urheberrecht und Kennzeichnung: Weder Freifahrtschein noch Reinheitsgebot
KI-generierte Inhalte werfen zwei getrennte Fragen auf, die regelmäßig vermischt werden: Wer darf fremde Inhalte nutzen, und wem gehört das Ergebnis? Vollständig durch KI erzeugte Inhalte sind nach der Darstellung des Deutschen Patent- und Markenamts grundsätzlich nicht urheberrechtlich geschützt, weil ihnen die persönliche geistige Schöpfung eines Menschen fehlt. Wird KI dagegen als Werkzeug eingesetzt, hängt der Schutz des Ergebnisses vom konkreten menschlichen Gestaltungsanteil ab.
Daraus folgt keineswegs, dass jede KI-Ausgabe risikolos weiterverwendet werden dürfte. Ein generiertes Bild kann bestehende Rechte berühren; ein Text kann problematische Übernahmen enthalten; eine scheinbar harmlose Unterrichtsfolie kann auf Material beruhen, dessen Herkunft nicht transparent ist. Schulen sollten daher nicht mit der Formel „Die KI hat es gemacht“ operieren. Sie entbindet niemanden von Verantwortung.
Die Richtlinie sollte für Unterrichtsmaterialien und Schülerprodukte drei Regeln verankern:
1. Herkunft kenntlich machen: KI-generierte oder wesentlich KI-bearbeitete Teile müssen nach der schulischen Vereinbarung transparent ausgewiesen werden. Die Kennzeichnung ist kein Strafzettel, sondern Voraussetzung einer fairen Bewertung.
2. Menschliche Bearbeitung sichtbar machen: Lernende sollen erläutern können, welche Entscheidungen sie selbst getroffen, welche Vorschläge sie verworfen und wie sie Aussagen überprüft haben. So wird aus der KI-Ausgabe kein Ersatz für Bildung, sondern ein Gegenstand reflektierter Arbeit.
3. Keine Rechteübertragung durch Ignoranz unterstellen: Vor einer Veröffentlichung auf Schulwebseiten, in Jahrbüchern oder sozialen Kanälen ist gesondert zu prüfen, ob Inhalte, Personenabbildungen und Nutzungsrechte dies tragen. Die Output-Oberfläche eines KI-Systems ist kein rechtsfreier Raum.
Die Richtlinie ist kein Dokument, sondern ein belastbarer Entscheidungsweg
Eine Schule, die KI einführt, muss nicht jede technische Entwicklung antizipieren. Sie muss jedoch jede konkrete Anwendung einem Verfahren unterwerfen, das Zweckbindung, Datenschutz, Fairness, pädagogische Verantwortung und Rechenschaft zusammendenkt. Das ist anspruchsvoller als ein Tool-Verzeichnis. Es ist aber die einzige Form von Innovation, die den institutionellen Charakter von Schule ernst nimmt.
Die zentrale Fehlentscheidung besteht darin, die Richtlinie erst nach der Beschaffung zu schreiben. Dann dient sie meist nur noch der nachträglichen Legitimation. Richtig herum lautet die Reihenfolge: pädagogischen Zweck bestimmen, Eingriffsrisiko bewerten, Datenfluss prüfen, Zuständigkeit klären, Kompetenz aufbauen, erst dann ein System freigeben.
KI kann Lehrkräfte entlasten und Lernprozesse sinnvoll ergänzen. Sie darf jedoch weder zur Blackbox für Bewertungen noch zum stillen Sammelpunkt kindlicher Daten werden. Eine Schule, die diese Grenze verbindlich zieht, ist nicht technikfeindlich. Sie handelt schlicht so, wie eine öffentliche Bildungsinstitution handeln muss: überprüfbar, verhältnismäßig und dem Menschen verpflichtet.