Das Wichtigste in Kürze
- Prüfungsarbeiten und Korrekturanmerkungen sind personenbezogene Daten (EuGH, C-434/16).
- Ein externer KI-Anbieter ist in der Regel Auftragsverarbeiter. Ohne Vertrag nach Art. 28 DSGVO dürfen Sie ihm keine Arbeiten schicken.
- Klären Sie schriftlich, dass Ein- und Ausgaben nicht zum Training verwendet werden.
- KI, die persönliche Aspekte bewertet, steht auf der Liste der deutschen Aufsichtsbehörden für Verarbeitungen mit Pflicht zur Datenschutz-Folgenabschätzung.
- Für KI-Systeme, die Lernergebnisse bewerten, gelten ab dem 02.12.2027 die Hochrisiko-Pflichten der KI-Verordnung, unter anderem menschliche Aufsicht.
Warum Prüfungsarbeiten personenbezogen sind
Im Fall Nowak hat der EuGH am 20.12.2017 entschieden: Die schriftlichen Antworten eines Prüflings und die Anmerkungen des Prüfers dazu sind personenbezogene Daten des Prüflings. Das gilt auch dann, wenn auf dem Blatt kein Name steht, solange sich die Arbeit einer Person zuordnen lässt. Teilnehmende haben deshalb unter anderem ein Auskunftsrecht nach Art. 15 DSGVO, das auch die Korrekturanmerkungen umfasst.
Für die KI-Korrektur heißt das: Jede Arbeit, die Sie an ein KI-System geben, unterliegt der DSGVO. Das gilt für ein Werkzeug, das Sie selbst betreiben, genauso wie für einen Cloud-Dienst.
Checkliste in 13 Punkten
| Nr. | Prüfpunkt | Grundlage | Erledigt, wenn |
|---|---|---|---|
| 1 | Zweck festlegen | Art. 5 Abs. 1 lit. b DSGVO | Schriftlich steht, wofür die KI eingesetzt wird, etwa Bewertungsvorschlag zu Einsendeaufgabe X, und wofür nicht. |
| 2 | Rechtsgrundlage bestimmen | Art. 6 Abs. 1 DSGVO | Geprüft ist, ob die Korrektur zur Erfüllung des Lehrgangsvertrags gehört (lit. b) oder eine andere Grundlage nötig ist. |
| 3 | Rolle des Anbieters klären | Art. 28 DSGVO | Ein Auftragsverarbeitungsvertrag liegt vor, mit Weisungsbindung, Vertraulichkeit, Löschung und Kontrollrechten. |
| 4 | Unterauftragnehmer kennen | Art. 28 Abs. 2 und 4 DSGVO | Sie haben die Liste der eingesetzten Unterauftragsverarbeiter, etwa Modell- und Hosting-Anbieter, und genehmigen Änderungen. |
| 5 | Training ausschließen | DSK-Orientierungshilfe KI, Abschnitt 1.9 | Vertraglich oder per Einstellung ist ausgeschlossen, dass Ein- und Ausgaben zum Training verwendet werden. |
| 6 | Ort der Verarbeitung prüfen | Art. 44 ff. DSGVO | Sie wissen, in welchen Ländern verarbeitet wird. Bei Drittländern gibt es einen Angemessenheitsbeschluss oder Standardvertragsklauseln. |
| 7 | Daten minimieren | Art. 5 Abs. 1 lit. c, Art. 25 DSGVO | Namen, Teilnehmernummern und Kontaktdaten gehen nicht mit an die KI. Die Zuordnung bleibt bei Ihnen. |
| 8 | Datenschutz-Folgenabschätzung prüfen | Art. 35 DSGVO, DSK-Liste Nr. 11 | Die DSFA ist durchgeführt oder schriftlich begründet, warum sie entbehrlich ist. |
| 9 | Menschliche Entscheidung sichern | Art. 22 DSGVO | Eine fachlich zuständige Person legt die Note fest, hat Zeit und Befugnis, vom Vorschlag abzuweichen, und tut das auch. |
| 10 | Teilnehmende informieren | Art. 13 DSGVO | Die Datenschutzhinweise nennen den KI-Einsatz, den Anbieter als Empfänger und gegebenenfalls das Drittland. |
| 11 | Auskunft vorbereiten | Art. 15 DSGVO | Sie können auf Anfrage Arbeit, Bewertungsvorschlag und finale Anmerkungen herausgeben. |
| 12 | Löschfristen festlegen | Art. 5 Abs. 1 lit. e, Art. 17 DSGVO | Für Arbeiten, Vorschläge und Protokolle beim Anbieter und bei Ihnen gibt es Fristen, die auch umgesetzt werden. |
| 13 | Dokumentieren | Art. 30 und 32 DSGVO | Die Verarbeitung steht im Verzeichnis der Verarbeitungstätigkeiten, die technischen und organisatorischen Maßnahmen sind beschrieben. |
Auftragsverarbeitung und Training
Setzt ein Bildungsträger eine KI-Anwendung eines externen Anbieters für eigene Zwecke ein, liegt nach der Orientierungshilfe der Datenschutzkonferenz vom 06.05.2024 häufig eine Auftragsverarbeitung vor. Der Anbieter darf die Daten dann nur nach Ihren Weisungen verarbeiten. Die DSK empfiehlt außerdem zu prüfen, ob Ein- und Ausgaben für das Training verwendet werden, und das möglichst auszuschließen. Ist das nicht möglich, braucht auch das Training eine eigene Rechtsgrundlage.
Fragen Sie bei jedem Anbieter nach, welches Sprachmodell im Hintergrund läuft und wer es betreibt. Der Modellanbieter ist meist ein weiterer Unterauftragsverarbeiter und muss in Ihrem Vertrag auftauchen.
Drittland: USA und andere Staaten
Für Übermittlungen in die USA gilt seit dem 10.07.2023 der Angemessenheitsbeschluss zum EU-US Data Privacy Framework. Er deckt nur Empfänger ab, die nach diesem Rahmen zertifiziert sind. Das Gericht der EU hat eine Klage gegen den Beschluss am 03.09.2025 abgewiesen (T-553/23). Gegen dieses Urteil ist ein Rechtsmittel beim EuGH anhängig (C-703/25 P). Wer US-Dienste nutzt, sollte diesen Stand beobachten und wissen, auf welche Alternative er ausweichen kann. Für andere Drittländer ohne Angemessenheitsbeschluss kommen vor allem Standardvertragsklauseln in Betracht.
Pseudonymisierung
Ohne Namen und Teilnehmernummer sinkt das Risiko. Personenbezogen bleiben die Arbeiten trotzdem, solange Sie sie zuordnen können. Freitexte enthalten außerdem oft Angaben, die auf eine Person schließen lassen, etwa zum Arbeitgeber oder zu eigenen Erfahrungen. Pseudonymisierung ist eine Maßnahme nach Art. 25 DSGVO. An den übrigen Punkten der Checkliste ändert sie nichts.
Datenschutz-Folgenabschätzung
Die deutschen Aufsichtsbehörden führen in ihrer Liste nach Art. 35 Abs. 4 DSGVO (Stand 17.10.2018) unter Nr. 11 den Einsatz künstlicher Intelligenz zur Bewertung persönlicher Aspekte der betroffenen Person. Die Bewertung einer Prüfungsleistung durch eine KI dürfte regelmäßig darunter fallen. Die DSK schreibt in ihrer Orientierungshilfe, dass beim Einsatz von KI-Anwendungen vielfach eine DSFA erforderlich sein wird. Für die DSFA brauchen Sie Informationen des Anbieters zur Funktionsweise. Fordern Sie diese vor Vertragsschluss an.
Wer entscheidet über die Note? (Art. 22 DSGVO)
Art. 22 DSGVO verbietet grundsätzlich Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung, die ausschließlich automatisiert fallen. Die DSK verlangt, dass der entscheidende Mensch einen tatsächlichen Entscheidungsspielraum hat. Zeitdruck, Personalmangel oder fehlende Transparenz dürfen nicht dazu führen, dass Vorschläge ungeprüft übernommen werden. Der EuGH hat 2023 entschieden, dass schon ein automatisiert ermittelter Wert eine solche Entscheidung sein kann, wenn ein anderer maßgeblich darauf aufbaut (C-634/21). Welche Folgen das für Noten und Bestehensentscheidungen hat, behandeln wir in einem eigenen Ratgeber.
Die EU verhandelt derzeit über Änderungen der DSGVO im Rahmen eines Digital Omnibus (Verfahren 2025/0360(COD)), unter anderem zu Art. 22. Das ist ein Entwurf. Bis zu einer Verabschiedung gilt der heutige Text.
Bezug zur KI-Verordnung
Die KI-Verordnung (Verordnung (EU) 2024/1689) zählt in Anhang III Nr. 3 KI-Systeme zu den Hochrisiko-Systemen, die Lernergebnisse bewerten sollen. Nach der Änderung durch die Verordnung (EU) 2026/1744 gelten die Pflichten dafür ab dem 02.12.2027. Ein Bildungsträger, der ein solches System einsetzt, ist Betreiber. Art. 26 verlangt dann unter anderem:
- menschliche Aufsicht durch Personen mit der nötigen Kompetenz, Schulung und Befugnis (Abs. 2)
- Aufbewahrung der automatisch erzeugten Protokolle, soweit sie unter Ihrer Kontrolle stehen, für mindestens sechs Monate (Abs. 6)
- Nutzung der Anbieterinformationen für die Datenschutz-Folgenabschätzung (Abs. 9)
- Information der betroffenen Personen, dass ein solches System bei Entscheidungen über sie eingesetzt wird (Abs. 11)
Die Protokollpflicht kann mit Ihren Löschfristen aus Punkt 12 kollidieren. Legen Sie beide gemeinsam fest. Ob ein System unter eine Ausnahme nach Art. 6 Abs. 3 fällt, etwa weil es nur vorbereitende Aufgaben übernimmt, ist eine Frage des Einzelfalls. Mehr zur Verordnung steht auf unserer Seite zum AI Act.
Wie wir das bei der Korrektur-Engine handhaben
Unsere Korrektur-Engine bereitet einen begründeten Bewertungsvorschlag vor. Die Note legt die zuständige Prüferin oder der zuständige Prüfer fest. Datenlage und Freigabeprozess klären wir mit Bildungsträgern vor dem Aufbau, die Checkliste oben eignet sich als Grundlage für dieses Gespräch. Wer abwägt, ob die Korrektur überhaupt an Dritte gehen soll, findet einen Vergleich im Ratgeber Korrektur auslagern. Die Datenschutzfragen bei KI-Systemen mit eigenen Dokumenten behandelt RAG und Datenschutz.
Quellen
- Verordnung (EU) 2016/679 (DSGVO), Art. 5, 6, 13, 15, 17, 22, 25, 28, 30, 32, 35, 44 ff.
- EuGH, Urteil vom 20.12.2017, C-434/16 (Nowak); Urteil vom 07.12.2023, C-634/21 (SCHUFA)
- Datenschutzkonferenz: Orientierungshilfe Künstliche Intelligenz und Datenschutz (06.05.2024)
- Datenschutzkonferenz: Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist, nicht-öffentlicher Bereich (Stand 17.10.2018)
- EU-Kommission: Durchführungsbeschluss (EU) 2023/1795 vom 10.07.2023 (EU-US Data Privacy Framework); EuG, Urteil vom 03.09.2025, T-553/23 (Latombe); Rechtsmittel C-703/25 P, ABl. C/2025/6610
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 6, Art. 26 und Anhang III; geändert durch Verordnung (EU) 2026/1744
- EU-Kommission: Navigating the AI Act (Hochrisiko-Regeln ab 02.12.2027)
- Europäisches Parlament, Legislative Observatory: Verfahren 2025/0360(COD), Digital Omnibus