KI-Korrektur und Datenschutz: was Lehrkräfte wissen müssen

Was die Länder sagen

Die Kultusministerkonferenz hat im Oktober 2024 eine Handlungsempfehlung zum Umgang mit KI in der Schule beschlossen. Sie setzt auf einen kritisch-konstruktiven Umgang und überlässt die Ausgestaltung den Ländern.

Konkreter wird das Schulministerium NRW. Auf einen Vorschlag zur KI-gestützten Korrektur von Klassenarbeiten antwortet es mit drei Hinweisen:

Dazwischen steht ein dritter Hinweis: Anwendungen, die automatisierte Bewertungen ermöglichen, gelten nach dem EU AI Act als hochriskant und sind nur unter strengen Auflagen und mit voller Transparenz zulässig. Für die Praxis heißt das: KI als Hilfsmittel ja, Notenvergabe durch KI nein.

Ist eine Klassenarbeit ein personenbezogenes Datum?

Ja, sobald sie einer Person zugeordnet werden kann. Der Name auf dem Deckblatt ist der offensichtliche Fall. Aber auch ohne Namen kann eine Arbeit personenbezogen sein: über die Handschrift, über Inhalte, die Rückschlüsse zulassen, oder schlicht, weil du die Zuordnung kennst.

Das hat eine unbequeme Folge. Eine echte Anonymisierung ist bei handschriftlichen Arbeiten kaum möglich. Pseudonyme helfen, weil sie die Zuordnung erschweren. Anonym werden die Daten dadurch nicht. Die DSGVO behandelt pseudonymisierte Daten weiter als personenbezogene Daten (Erwägungsgrund 26).

Wer handschriftliche Arbeiten mit KI auswerten lässt, verarbeitet also fast immer personenbezogene Daten. Die entscheidende Frage ist deshalb, ob diese Verarbeitung rechtlich abgesichert und von der Schule erlaubt ist.

Was eine Verarbeitung absichert

• Ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO. Er verpflichtet den Anbieter, die Daten nur nach Weisung zu verarbeiten. Ohne AVV gehören keine Schülerarbeiten auf fremde Server.
• Klarheit über Standorte und Unterauftragnehmer. Wo liegen die Daten, wer verarbeitet sie mit, gibt es Übermittlungen in Drittländer, und wie sind sie abgesichert?
• Kein Training mit den Daten. Manche frei zugänglichen Chatbots nutzen Eingaben je nach Einstellung zum Training. Für Schülerarbeiten ist das ein Ausschlusskriterium.
• Löschfristen. Wie lange bleiben Scans gespeichert, und kannst du sie selbst löschen?
• Technische und organisatorische Maßnahmen (TOM). Verschlüsselung, Zugriffskontrolle, Protokollierung, Datensicherung.

Wer den Vertrag schließt, ist eine eigene Frage. Datenschutzrechtlich verantwortlich ist in der Regel die Schule. Ob du ein Werkzeug als Lehrkraft einsetzen darfst, entscheidet deshalb meist die Schulleitung, oft nach Rücksprache mit der oder dem Datenschutzbeauftragten.

Was die KI-Verordnung verlangt

KI-Systeme, die Lernergebnisse bewerten, stehen in Anhang III der europäischen KI-Verordnung und gelten damit als Hochrisiko-Systeme. Anbieter müssen unter anderem Risiken managen, das System dokumentieren und menschliche Aufsicht ermöglichen. Schulen als Betreiber müssen die Aufsicht durch geschulte Personen sicherstellen und Betroffene über den Einsatz informieren. Die Kernpflichten für diese Systeme gelten nach heutigem Stand ab Dezember 2027.

Schon seit Februar 2025 gilt Art. 4: Wer KI-Systeme einsetzt, muss für ausreichende KI-Kompetenz des Personals sorgen. Fortbildungen zum Thema KI sind deshalb nicht nur didaktisch sinnvoll.

Für dich heißt das praktisch: Ein Werkzeug, das selbstständig Noten vergibt, ist der falsche Weg. Ein Werkzeug, das vorschlägt, begründet und dich entscheiden lässt, passt zum Prinzip der menschlichen Aufsicht.

Checkliste vor dem ersten Upload

1. Gibt es eine Vorgabe deines Landes oder Schulträgers zu KI-Werkzeugen? Manche Länder stellen eigene, geprüfte KI-Zugänge bereit.
2. Hat die Schulleitung den Einsatz erlaubt, und ist die oder der Datenschutzbeauftragte eingebunden?
3. Gibt es einen AVV, und wer schließt ihn ab: du oder die Schule?
4. Wo werden die Daten gespeichert und verarbeitet, und welche Unterauftragnehmer gibt es?
5. Werden Namen durch Pseudonyme ersetzt? Kannst du Deckblätter mit Namen weglassen?
6. Wie lange bleiben Scans gespeichert, und kannst du sie selbst löschen?
7. Triffst du die Entscheidung über die Note weiterhin aktiv selbst?
8. Wissen Schülerinnen, Schüler und Eltern, dass eine KI vorkorrigiert?

Wie Zencurio damit umgeht

Wir wollen nichts schönreden, deshalb konkret:

• Anwendung, Datenbank und Dateien liegen bei Hetzner in Deutschland.
• Texterkennung und KI laufen über Google Cloud in EU-Regionen. Für Support und Wartung kann Google Unterauftragsverarbeiter außerhalb der EU einsetzen, abgesichert durch Standardvertragsklauseln.
• Statt Klarnamen verwendet Zencurio standardmäßig Kennungen wie S-014. Scans und Texte werden dadurch nicht anonym.
• Den Namen auf der Arbeit schwärzt Zencurio automatisch, bevor eine Seite bewertet wird. Die Texterkennung und eine kurze Prüfung der Kopfzeile lesen ihn dafür einmal mit. Namen außerhalb der Kopfzeile erkennt das nicht sicher.
• Inhalte aus Zencurio werden nicht zum Training von KI-Modellen genutzt.
• Hochgeladene Arbeiten werden 365 Tage nach dem Hochladen automatisch gelöscht, wenn du sie nicht vorher löschst.
• Der AVV ist Teil der AGB und wird bei der Registrierung abgeschlossen. AVV, TOM und die Liste der Unterauftragsverarbeiter sind öffentlich einsehbar.
• Zencurio korrigiert vor, du entscheidest. Keine Note gilt, bevor du sie bestätigt hast.

Ob das für deine Schule reicht, entscheidet nicht Zencurio, sondern deine Schulleitung. Wo eine Vorgabe wie in NRW verlangt, gar keine personenbezogenen Daten zu übertragen, lässt sich das bei handschriftlichen Arbeiten mit keinem KI-Werkzeug vollständig ausschließen. Kläre den Einsatz deshalb vorher und zeig der Schulleitung die Unterlagen oben.