KI-Bias bei der Notenvergabe: Ist objektive Bewertung möglich?

Doch die Behauptung, automatisierte Notengebung sei deshalb objektiver, verwechselt Rechenleistung mit Normativität. Ein System kann Tausende Antworten konsistent nach denselben Mustern auswerten; daraus folgt keineswegs, dass diese Muster pädagogisch gerechtfertigt, diskriminierungsarm oder rechtlich zulässig sind.

Der KI-Bias bei der automatisierten Notenvergabe ist keine technische Fußnote, die sich mit einem freundlichen Hinweis auf „menschliche Kontrolle“ erledigen ließe. Noten strukturieren Bildungswege. Sie beeinflussen Versetzungen, Abschlüsse, Zugänge zu Ausbildung und Studium. Wer in diesem Feld einen Algorithmus einsetzt, delegiert nicht bloß Routine, sondern verteilt Chancen. Genau deshalb ordnet der europäische KI-Rechtsrahmen Systeme zur Bewertung von Lernergebnissen als Hochrisiko-KI ein.

Die präzise Antwort auf die Titelfrage lautet daher: Objektivität im Sinne einer vollständig neutralen, kontextfreien KI-Bewertung ist nicht erreichbar. Möglich ist jedoch eine eng begrenzte, empirisch geprüfte und rechtlich eingehegte Unterstützung der Bewertung. Das ist weniger bequem als das Versprechen automatischer Gerechtigkeit – aber es ist die einzig verantwortbare Route.

Die Illusion algorithmischer Neutralität

Eine Lehrkraft kann bei der Korrektur müde sein, voreilige Erwartungen haben oder unbewusst auf Namen, Handschrift und Sprachstil reagieren. Das ist kein Argument für die Maschine, sondern eine Beschreibung eines Problems, das Schulen ohnehin bearbeiten müssen. Die Maschine beseitigt diese Fehlerquellen nicht einfach; sie verlagert sie in Trainingsdaten, Modellarchitektur, Aufgabendesign und Schwellenwerte.

Jedes KI-Bewertungssystem enthält Entscheidungen, die keineswegs neutral sind:

• Welche Merkmale einer Leistung als relevant gelten: fachliche Richtigkeit, sprachliche Komplexität, Länge, Struktur, Fachwortschatz oder formale Fehler.
• Welche Beispielantworten das System als Maßstab erhalten hat und aus welchem Bildungskontext sie stammen.
• Ob ein Modell für eine einzelne Aufgabe optimiert oder auf viele Aufgaben übertragen wurde.
• Wie stark Fehlbewertungen toleriert werden, bevor eine Antwort zur menschlichen Prüfung eskaliert.
• Ob das System eine Bewertung begründet oder lediglich einen Punktwert ausgibt.

Gerade beim Schreiben zeigt sich die Schwäche einer auf Oberflächenmuster trainierten Bewertung. Ein überzeugend formulierter, aber sachlich fehlerhafter Text kann algorithmisch günstig aussehen, während eine fachlich starke Antwort in einfacher, nicht standardnaher Sprache schlechter eingeordnet wird. Das ist keine zwangsläufige Eigenschaft jedes Modells. Es ist aber ein strukturelles Risiko, sobald sprachliche Signale als Ersatzindikatoren für fachliche Leistung dienen.

Hinzu kommt ein grundlegender Zielkonflikt. Ein Modell kann im Durchschnitt sehr treffsicher sein und dennoch bestimmte Gruppen häufiger falsch bewerten. Es kann für eine Aufgabe hervorragend funktionieren, bei einer leicht veränderten Formulierung jedoch an Zuverlässigkeit verlieren. Es kann Konsistenz erzeugen und gleichzeitig einen schlechten Bewertungsmaßstab konsistent durchsetzen. Die Rede von „der Genauigkeit“ ist deshalb unerquicklich verkürzt.

Algorithmische Konsistenz ist keine pädagogische Gerechtigkeit; sie kann auch die gleichförmige Wiederholung eines systematischen Fehlers sein.

Die entscheidende Frage lautet nicht: „Erreicht die KI eine hohe Übereinstimmung mit menschlichen Bewertungen?“ Sie lautet: Mit welchen menschlichen Bewertungen, unter welchen Bedingungen und zulasten welcher Schülerinnen und Schüler? Wenn ein historisch gewachsener Bewertungsstil soziale oder sprachliche Privilegien reproduziert, dann wird ein darauf trainiertes System diese Verteilung nicht kritisch korrigieren, sondern mit mathematischer Ruhe fortschreiben.

Was die Forschung zu sozialer Lage und Sprachhintergrund zeigt

Die empirische Lage ist deutlich differenzierter als die üblichen Verkaufssätze der Anbieter. Eine AAAI-Studie aus dem Jahr 2024 verglich neun Verfahren der automatisierten Aufsatzbewertung anhand von sieben Metriken auf einem offenen Datensatz mit mehr als 25.000 Essays und demografischen Angaben. Das Ergebnis ist für Schulen unbequem: Aufgabenspezifische Modelle waren häufig treffsicherer, zeigten jedoch zugleich öfter stärkere Verzerrungen nach sozioökonomischem Status als aufgabenübergreifende Verfahren.

Darin liegt kein Widerspruch, sondern der Kern des Problems. Ein System, das auf eine bestimmte Prüfungsaufgabe und einen bestimmten Korpus zugespitzt wurde, kann lokale Regelmäßigkeiten außerordentlich gut erkennen. Gerade diese Regelmäßigkeiten können jedoch soziale Ungleichheiten codieren: Zugang zu sprachlicher Förderung, Vertrautheit mit schulischen Textsorten, Unterstützung im Elternhaus oder die Übung im Umgang mit standardsprachlichen Erwartungen. Höhere durchschnittliche Treffergenauigkeit ist folglich kein Freispruch in der Fairnessfrage.

Auch eine Untersuchung mit 38.722 kurzen Textantworten aus der deutschen PISA-Erhebung 2015 mahnt zur Präzision. Beim treffsichersten getesteten Verfahren wurden keine erkennbaren Unterschiede nach Geschlecht festgestellt. Hinsichtlich des Sprachhintergrunds zeigte sich jedoch eine geringe, statistisch signifikante Verzerrung. Wer daraus entweder „KI diskriminiert immer“ oder „die Effekte sind doch gering“ ableitet, argumentiert zu bequem.

Eine geringe Verzerrung kann bei einer einzelnen Übungsaufgabe begrenzte Folgen haben. In einer Folge von benoteten Prüfungen, in Übergangssituationen oder bei knappen Versetzungsentscheidungen kann sie sich hingegen akkumulieren. Zudem ist die statistische Größenordnung nicht die einzige relevante Kategorie. Für die betroffene Person ist eine fehlerhafte Bewertung keine abstrakte Abweichung, sondern unter Umständen ein schlechterer Abschluss oder ein versperrter Bildungsweg.

Der Begriff algorithmische Fairness in der Schule darf daher nicht zur dekorativen Kennzahl verkümmern. Unterschiedliche Fairness-Metriken können miteinander kollidieren. Ein Verfahren so zu justieren, dass Gruppen im Durchschnitt ähnliche Ergebnisse erhalten, kann die individuelle Kalibrierung verschlechtern; ein Modell mit optimaler Gesamtgenauigkeit kann wiederum gruppenspezifische Fehlerquoten vergrößern. Es gibt keinen allgemein anerkannten Grenzwert, ab dem eine Bias-Quote in der automatisierten Notenvergabe schlicht „akzeptabel“ wäre.

Das ist keine Einladung zur Beliebigkeit. Es bedeutet vielmehr, dass Schulen vor dem Einsatz normativ entscheiden müssen, welche Fehler sie nicht hinnehmen wollen und warum. Diese Entscheidung darf weder der Anbieter noch ein undurchsichtiger Standardwert im System treffen.

Behinderung, gesprochene Sprache und die falsche Gleichbehandlung

Besonders deutlich wird die Begrenztheit automatisierter Bewertungen bei gesprochenen Prüfungsleistungen. Eine Untersuchung zur maschinellen Bewertung gesprochener Antworten fand bei Testpersonen mit dokumentierten oder vermuteten Sprach- beziehungsweise Hörbeeinträchtigungen Abweichungen zwischen menschlichen und automatischen Bewertungen. Die automatisierten Bewertungen lagen in den untersuchten Gruppen tendenziell höher als die menschlichen Bewertungen.

Wer darin vorschnell einen Vorteil für betroffene Lernende sieht, verkennt den Befund. Eine Abweichung ist nicht erst dann problematisch, wenn sie schlechtere Noten erzeugt. Auch eine systematische Überbewertung kann Leistungsrückmeldungen verfälschen, Übergänge verzerren und den pädagogischen Blick auf Unterstützungsbedarfe trüben. Vor allem aber zeigt sie, dass das System andere Merkmale verarbeitet als die menschliche Bewertung – oder sie anders gewichtet.

Bei Sprach- und Hörbeeinträchtigungen steht häufig die technische Erfassung selbst auf dem Prüfstand: Aussprachevarianten, Sprechtempo, Hintergrundgeräusche, Artikulationsmuster und die Qualität der Audiodaten können das Ergebnis beeinflussen. Ein Modell, das unter Laborbedingungen plausibel funktioniert, ist nicht automatisch in einer realen Prüfungssituation belastbar.

Die Schule darf daraus nicht die zynische Folgerung ziehen, besondere Gruppen seien eben „zu kompliziert“ für automatisierte Verfahren. Das Gegenteil ist geboten: Je höher die Gefahr asymmetrischer Fehler, desto enger müssen Einsatzbereich und Kontrollmechanismus gezogen werden. Eine KI kann beispielsweise Hinweise auf auffällige Antwortmuster liefern. Sie darf aber nicht zur Instanz werden, die aus einer technisch schwer erfassbaren Leistung eine abschließende Bildungsentscheidung destilliert.

Was eine belastbare Prüfung vor dem Einsatz verlangt

Eine Schule oder ein Schulträger, der KI-gestützte Bewertung ernsthaft erwägt, muss mehr verlangen als eine Produktdemo und eine angebliche Übereinstimmungsquote. Mindestens diese Nachweise gehören auf den Tisch:

1. Aufgabenspezifische Validierung: Das System muss gerade für die verwendete Aufgabenart, Jahrgangsstufe, Sprache und Bewertungsskala geprüft sein. Eine allgemeine Zusage des Herstellers zur „Bildungsqualität“ ist wertlos.

2. Gruppenbezogene Auswertung: Fehlerraten müssen, soweit datenschutzrechtlich und statistisch belastbar möglich, nach relevanten Merkmalen analysiert werden. Dazu können Sprachhintergrund, unterschiedliche Unterstützungsbedarfe oder sozioökonomische Proxy-Risiken gehören. Eine Gesamttrefferquote verdeckt diese Fragen regelmäßig.

3. Klare Eskalationsregeln: Es muss feststehen, wann eine Lehrkraft zwingend erneut bewertet: bei niedriger Modellkonfidenz, bei Grenzfällen, bei ungewöhnlichen Antwortformaten und bei jeder Entscheidung mit erheblichen Folgen.

4. Begründbare Rückmeldung: Lernende müssen nachvollziehen können, worauf die Bewertung beruht. Ein bloßer Punktwert aus einer Blackbox ist didaktisch dürftig und rechtlich angreifbar.

5. Widerspruchs- und Korrekturweg: Eine wirksame menschliche Neubewertung braucht Frist, Zuständigkeit und Dokumentation. Ein Button mit der Aufschrift „Überprüfung anfordern“ genügt nicht, wenn die Lehrkraft faktisch nur den Maschinenwert abnickt.

Warum die KI-Verordnung die Notengebung als Hochrisiko behandelt

Die europäische KI-Verordnung ist am 1. August 2024 in Kraft getreten. Für KI-Systeme, die Lernergebnisse bewerten und damit Bildungs- oder Berufswege wesentlich beeinflussen können, sieht der europäische Rechtsrahmen eine Einstufung als Hochrisiko-Anwendungsfall vor. Nach dem von der Europäischen Kommission dokumentierten Zeitplan sollen die besonderen Regeln für solche Hochrisiko-Systeme im Bildungsbereich ab dem 2. Dezember 2027 gelten.

Das Datum ist kein Anlass, die Hände bis 2027 in den Schoß zu legen. Es markiert vielmehr den Zeitpunkt, ab dem ein bereits heute erkennbares Problem mit schärferen, spezifischeren Pflichten flankiert wird. Datenschutzrecht, schulrechtliche Vorgaben und allgemeine Grundsätze fairer Leistungsbewertung gelten nicht erst dann, wenn ein neues Etikett auf der Software steht.

Für Hochrisiko-KI verlangt der europäische Rahmen unter anderem Risikobewertung und Risikominderung, hochwertige Datensätze zur Verringerung diskriminierender Ergebnisse, Protokollierung, technische Dokumentation, menschliche Aufsicht sowie Anforderungen an Genauigkeit, Robustheit und Cybersicherheit. Der entscheidende Punkt liegt in der Kombination: Kein einzelnes Dokument, keine einzelne Bias-Prüfung und kein einzelner Mensch im Prozess kann diese Pflichtenkette ersetzen.

Gerade der letzte Einwand ist unhaltbar. Geschäftsgeheimnisse können technische Details schützen; sie suspendieren aber nicht die Rechenschaftspflicht einer Schule. Wer ein Werkzeug einsetzt, dessen Bewertungslogik nicht hinreichend nachvollzogen, geprüft und kontrolliert werden kann, entscheidet sich nicht für Effizienz, sondern für institutionalisierte Intransparenz.

Die Blackbox ist kein pädagogisches Argument. Wo eine Note folgenreich ist, wird sie zum Organisationsversagen.

Dabei ist zwischen verschiedenen Einsatzformen zu unterscheiden. Eine KI, die Lehrkräften Formulierungshinweise für Feedback liefert, ist etwas anderes als ein System, das Punkte vergibt. Ein Tool, das Aufgaben vorsortiert und Grenzfälle markiert, ist etwas anderes als ein System, dessen Bewertung ungeprüft ins Zeugnis einfließt. Die rechtliche und ethische Bewertung hängt am konkreten Design, nicht am werblichen Etikett „Assistenz“.

DSGVO: Der Mensch darf keine Kulisse sein

Artikel 22 DSGVO setzt einer ausschließlich automatisierten Einzelfallentscheidung Grenzen, wenn diese rechtliche Wirkung entfaltet oder die betroffene Person in ähnlicher Weise erheblich beeinträchtigt. Noten können – abhängig von ihrer Funktion und ihren Folgen – in diesen Bereich fallen. Ob eine konkrete automatisierte Zeugnis- oder Prüfungsnote Artikel 22 DSGVO verletzt, lässt sich nicht abstrakt für jede Schule und jedes Bundesland beantworten. Maßgeblich sind unter anderem die Ausschließlichkeit der Automatisierung, die Erheblichkeit der Entscheidung, die tatsächliche menschliche Beteiligung sowie zusätzlich geltendes Landes- und Schulrecht.

Entscheidend ist: Eine Lehrkraft im Prozess genügt nicht automatisch. Wenn die Lehrkraft den KI-Vorschlag regelmäßig übernimmt, ohne den Bewertungsweg prüfen, fachlich einordnen und eigenständig korrigieren zu können, bleibt die menschliche Beteiligung eine Fassade. Die Datenschutzkonferenz weist zutreffend darauf hin, dass fehlende Transparenz über den Entscheidungsweg einer KI einer automatisierten Letztentscheidung entgegenstehen kann. Eine vorhandene menschliche Bewertung oder Ermessensausübung kann eine vollständig automatisierte Entscheidung ausschließen – aber nur, wenn sie real und nicht rituell ist.

Für die schulische Praxis bedeutet das eine klare Trennlinie:

• Die Lehrkraft muss die Leistung selbst fachlich prüfen können, nicht nur den maschinellen Score ansehen.
• Sie muss befugt und in der Lage sein, von der KI-Empfehlung abzuweichen, ohne dafür einen unverhältnismäßigen Zusatzaufwand tragen zu müssen.
• Die Abweichung wie auch die Übernahme müssen nachvollziehbar dokumentiert sein.
• Schülerinnen und Schüler benötigen aussagekräftige Informationen über die involvierte Logik, die Tragweite und den angestrebten Zweck der Verarbeitung.
• Der Einsatz darf nicht dazu führen, dass sensible Leistungs- und Verhaltensdaten unkontrolliert an externe Anbieter fließen oder zum Training fremder Modelle verwendet werden.

Hier berührt die Debatte um KI-Bias unmittelbar die informationelle Selbstbestimmung. Schulen verarbeiten Daten in einem asymmetrischen Verhältnis: Kinder und Jugendliche können einer technologischen Infrastruktur nicht einfach ausweichen, wenn sie im Unterricht oder in Prüfungen verpflichtend eingesetzt wird. Deshalb ist die Schwelle für Transparenz, Datenminimierung und effektiven Rechtsschutz höher, nicht niedriger.

Wo KI tatsächlich helfen kann – und wo sie zurücktreten muss

Es wäre ebenso unpräzise, jede KI-gestützte Bewertung pauschal zu verwerfen. In eng abgegrenzten, vorab validierten Aufgaben kann Automatisierung nützlich sein: bei klaren Antwortformaten, bei Übungen mit niedriger Folgenrelevanz, beim Erkennen formaler Muster oder bei der Vorstrukturierung großer Mengen von Übungsmaterial. Der Nutzen steigt, wenn die KI nicht die Note produziert, sondern Lehrkräften Zeit für fachliche und pädagogische Rückmeldung verschafft.

Je offener, sprachlich komplexer, kreativer oder folgenreicher die Leistung ist, desto schwächer wird hingegen die Legitimation einer automatisierten Bewertung. Ein literarischer Essay, eine mündliche Prüfung, ein Projektbericht oder eine Abschlussleistung sind keine bloßen Datenpakete. Sie enthalten Kontext, Entwicklung, Argumentationsqualität und oft auch individuelle Ausdrucksweisen, die sich nicht ohne normativen Verlust in standardisierte Merkmale zerlegen lassen.

Der gangbare Weg für Schulen ist daher kein radikales Ja oder Nein, sondern eine Einsatzarchitektur mit klaren Grenzen:

• Übungsmodus statt Entscheidungsmodus: KI kann formative Hinweise geben; benotete Endentscheidungen bleiben bei qualifizierten Personen.
• Niedrige Folgenrelevanz zuerst: Wer pilotiert, beginnt nicht bei Versetzungen, Abschlüssen oder Zugangsentscheidungen.
• Lokale Validierung statt Anbieterzusage: Das konkrete Fach, die konkrete Lerngruppe und die konkrete Aufgabe sind zu prüfen.
• Dokumentierte Übersteuerung: Lehrkräfte müssen zeigen können, wann und weshalb sie algorithmischen Vorschlägen widersprochen haben.
• Regelmäßige Neubewertung: Ein Modell altert, Aufgabenformate verändern sich, Lernendengruppen ebenfalls. Eine einmalige Einführung ist kein Qualitätssiegel auf Dauer.

Die eigentliche Zumutung besteht nicht darin, dass KI-Systeme Fehler machen. Menschen machen ebenfalls Fehler. Die Zumutung besteht darin, dass technische Systeme den Anschein einer neutralen Instanz erzeugen, während ihre Wertungen aus Daten, Designentscheidungen und institutionellen Prioritäten hervorgehen, die kaum sichtbar sind. Gerade weil der Algorithmus nicht müde wird und keine Handschrift erkennt, wird ihm zu schnell eine Autorität zugeschrieben, die ihm nicht zusteht.

Objektive Bewertung ist kein Produktmerkmal. Sie ist eine dauerhafte institutionelle Aufgabe aus fachlicher Kompetenz, transparenten Kriterien, überprüfbaren Verfahren und wirksamem Rechtsschutz. KI kann darin eine begrenzte Rolle spielen. Sie darf jedoch weder zum unsichtbaren Zweitprüfer mit Vetomacht noch zum bequemen Ersatz für pädagogisches Urteil werden. Wer Noten automatisiert, muss nicht zuerst beweisen, dass die Technik beeindruckend ist. Er muss beweisen, dass sie den Grundsatz gleicher Bildungschancen nicht beschädigt.