KI im Klassenzimmer: Sachsen-Anhalt startet datenschutzkonformen Chatbot für Schulen

Sicher und verantwortungsvoll mit Künstlicher Intelligenz lernen: Sachsen-Anhalt führt AIS.chat an Schulen ein

Das Tool soll Lehrkräfte bei der Unterrichtsvorbereitung entlasten und Schülerinnen und Schüler im geschützten Rahmen an den Umgang mit Künstlicher Intelligenz heranführen. Bildungspolitisch ist es ein Richtungsentscheid: KI wird hier als Unterrichtsgegenstand und Unterrichtswerkzeug zugleich installiert – was die Frage nach informationeller Selbstbestimmung unausweichlich aufwirft.

Was die Architektur verspricht

Die Beschreibung des Ministeriums liest sich wie ein Katalog normativer Selbstbeschränkungen. Lehrkräfte sollen Lernmaterialien vorbereiten, Texte analysieren, Aufgaben differenzieren und eigene KI-gestützte Szenarien erstellen; Schülerinnen und Schüler können Themen aus mehreren Blickwinkeln erschließen oder simulierte Dialoge mit historischen oder fiktiven Figuren führen. Das Werkzeug ist auf deutsche Schulen zugeschnitten, wird innerhalb der Europäischen Union betrieben und verzichtet auf Klarnamen. Die anfallenden Daten dienen weder Werbung noch Profilbildung noch dem Training der eingesetzten KI-Modelle. Für konkrete Unterrichtssituationen stellt die Lehrkraft einen Zugang zu einem vorbereiteten Szenario bereit – ein reguläres Schülerkonto entfällt.

Die programmatische Begleitnorm ist mindestens so ambitioniert: Antworten sind kritisch zu hinterfragen, Quellen heranzuziehen, eigene Urteile zu bilden. Die pädagogische Verantwortung bleibt ausdrücklich bei den Lehrkräften. Eingebettet ist das Angebot in das länderübergreifende Projekt „Adaptives Intelligentes System".

Wo die Versprechen bislang leer laufen

So weit die Selbstbeschreibung. Die Crux indessen liegt jenseits der Datenschutz-Bekundungen. Erstens: EU-Hosting und Pseudonymität sind notwendig, nicht hinreichend. Die Trainingsdaten des eingesetzten Modells bleiben ein außerhalb der schulischen Sphäre liegender Tatbestand – ein informationelles Selbstbestimmungsproblem, das mit Standort Frankfurt oder Straßburg nicht erledigt ist. Ohne Auskunft über Modellherkunft, über Update-Zyklen und über Löschfristen bleibt die Auskunft „datenschutzkonform" eine normativ aufgeladene Behauptung, kein nachgeprüfter Befund.

Zweitens: „Kein Klarname" verhindert nicht jede Profilbildung. Sitzungsbezogene Metadaten – Lernstand, Nutzungsdauer, Themenpfade – erlauben Rückschlüsse, sofern sie sitzungsübergreifend gespeichert werden. Es fehlt bislang die präzise Aussage, welche Daten in welcher Granularität protokolliert werden und wer Einsicht erhält.

Drittens: Die Forderung, eigenes Denken nicht durch Technik zu ersetzen, bleibt pädagogisch folgenlos, solange ihre Umsetzung nicht evaluiert wird. Auditierbare Indikatoren – etwa zur Häufigkeit eigenständiger Quellenarbeit nach einer KI-Sitzung – legt die Mitteilung nicht vor. Auch die Blackbox-Frage, also die mangelnde Nachvollziehbarkeit der Modellausgaben, sowie das Risiko algorithmischer Bias bleiben offen.

Was Schulen und Träger jetzt verbindlich klären sollten

Wer AIS.chat einsetzt oder vergleichbare Wege plant, muss vier Fragen beantworten, bevor Schülerinnen und Schüler den Chat öffnen: Welches konkrete Modell verarbeitet die Eingaben – und auf welcher Datengrundlage wurde es trainiert? Welche Metadaten werden gespeichert, wie lange und mit welcher Zugriffsregelung? Wie ist die kritische Reflexion curricular verankert – als Querschnittsaufgabe oder als Randthema im Methodenkurs? Und schließlich: Wer haftet, wenn das Tool fehlerhafte oder verzerrte Antworten ausgibt, die in einer Leistungsüberprüfung verwendet werden?

Sachsen-Anhalt liefert mit AIS.chat eine richtungsweisende Antwort auf eine berechtigte Frage. Die Einführung indessen ist noch keine Lösung der Normativitätsfrage, die der Einsatz von KI im Bildungsraum aufwirft. Verantwortung beginnt nicht mit der Freischaltung eines Tools, sondern mit seiner rechtlichen und ethischen Vermessung.