Das Wichtigste in Kürze
- Neue Frist: Hochrisiko-Pflichten für Systeme nach Anhang III gelten ab 02.12.2027. Viele Seiten nennen noch den 02.08.2026. Das ist seit dem Digital Omnibus überholt.
- Bildung ist Anhang III Nr. 3: Zulassung, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus und Prüfungsüberwachung.
- Zwei Rollen: Der Tool-Hersteller ist Anbieter, der Bildungsträger meist Betreiber. Die Pflichten unterscheiden sich stark.
- Ausnahme möglich: Art. 6 Abs. 3 nimmt etwa vorbereitende Aufgaben aus. Ob KI-Korrekturvorschläge darunter fallen, ist offen.
- Heute schon: KI-Kompetenz (Art. 4) und Transparenzpflichten (Art. 50) gelten bereits.
Welche Fristen jetzt gelten
Die KI-Verordnung (EU) 2024/1689 sah für Hochrisiko-Systeme nach Anhang III ursprünglich den 02.08.2026 vor. Die Verordnung (EU) 2026/1744, der sogenannte Digital Omnibus zur KI, hat das geändert. Sie wurde am 24.07.2026 im Amtsblatt veröffentlicht und ist am 27.07.2026 in Kraft getreten.
| Seit / ab | Was gilt | Bedeutung für Bildungsanbieter |
|---|---|---|
| 02.02.2025 | KI-Kompetenz (Art. 4), verbotene Praktiken (Art. 5) | Gilt für jede KI-Nutzung im Haus. Seit dem Omnibus heißt es: Maßnahmen ergreifen, um die KI-Kompetenz des Personals zu unterstützen. Ein bestimmtes Niveau muss nicht garantiert werden. |
| 02.08.2026 | Transparenzpflichten (Art. 50) | Etwa bei Chatbots für Teilnehmende: Sie müssen erkennen können, dass sie mit einer KI sprechen. |
| 02.12.2027 | Hochrisiko-Pflichten für Anhang III (Art. 113 Abs. 3 Buchst. c Ziff. i) | Betrifft KI für Zulassung, Bewertung, Einstufung und Prüfungsaufsicht. |
| 02.08.2028 | Hochrisiko-Pflichten für Anhang I | KI in regulierten Produkten. Für Bildungsanbieter selten relevant. |
In Deutschland ist die Bundesnetzagentur Marktüberwachungsbehörde. Grundlage ist das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit 29.07.2026.
Welche KI in der Bildung hochriskant ist
Anhang III Nr. 3 der KI-Verordnung nennt vier Gruppen. Entscheidend ist jeweils die Zweckbestimmung, also wofür das System bestimmungsgemäß verwendet werden soll.
| Anhang III Nr. 3 | Inhalt | Beispiele |
|---|---|---|
| Buchst. a | Feststellung von Zugang oder Zulassung, Zuweisung zu Bildungseinrichtungen | KI-Vorauswahl von Bewerbungen für einen Lehrgang |
| Buchst. b | Bewertung von Lernergebnissen, auch zur Steuerung des Lernprozesses | KI-Korrektur von Einsendeaufgaben und Klausuren, automatische Punktvergabe |
| Buchst. c | Bewertung des angemessenen Bildungsniveaus | Einstufungstests, die über den Kurs entscheiden |
| Buchst. d | Überwachung und Erkennung verbotenen Verhaltens bei Prüfungen | KI-Proctoring bei Online-Prüfungen |
Der Wortlaut erfasst Einrichtungen und Programme „aller Ebenen der allgemeinen und beruflichen Bildung“. Eine Beschränkung auf Schulen oder Hochschulen steht dort nicht. Erwägungsgrund 56 begründet die Einstufung damit, dass solche Systeme über den Verlauf von Bildung und Berufsleben entscheiden können. Fernlehrgänge, Prüfungsvorbereitung und berufliche Weiterbildung dürften deshalb erfasst sein. Wie weit der Begriff bei rein kommerziellen Kursen reicht, haben weder Gerichte noch die Kommission bisher geklärt.
Prüfschema: Ist Ihr System hochriskant?
- Fällt der Einsatz unter Anhang III Nr. 3? Bewertet, sortiert, stuft ein oder überwacht die KI Teilnehmende? Wenn nein: kein Hochrisiko nach Nr. 3. Andere Pflichten (Art. 4, Art. 50, DSGVO) bleiben.
- Findet Profiling statt? Wertet das System persönliche Aspekte einer Person aus, etwa Leistungsprofile über mehrere Arbeiten hinweg? Dann ist es nach Art. 6 Abs. 3 Unterabs. 3 immer hochriskant.
- Greift eine Ausnahme nach Art. 6 Abs. 3? Das System ist nicht hochriskant, wenn es kein erhebliches Risiko birgt und das Ergebnis der Entscheidung nicht wesentlich beeinflusst. Zusätzlich muss eine der vier Bedingungen vorliegen: eng gefasste Verfahrensaufgabe, Verbesserung einer abgeschlossenen menschlichen Tätigkeit, Erkennen von Abweichungen ohne Ersetzen der menschlichen Bewertung oder eine vorbereitende Aufgabe für eine Bewertung.
- Dokumentieren. Wer als Anbieter eine Ausnahme annimmt, muss die Bewertung vor dem Inverkehrbringen dokumentieren und das System in der EU-Datenbank registrieren (Art. 6 Abs. 4, Art. 49 Abs. 2).
Für KI-Korrektur ist Schritt 3 die eigentliche Frage. Ein Korrekturvorschlag, den eine Korrektorin prüft und freigibt, lässt sich als vorbereitende Aufgabe verstehen. Dagegen spricht: Ein Punktvorschlag kann das Ergebnis wesentlich beeinflussen, wenn er in der Praxis meist übernommen wird. Die Kommission hat am 19.05.2026 Leitlinien zur Einstufung als Entwurf veröffentlicht. Eine endgültige Fassung lag bei Redaktionsschluss nicht vor. Bis dahin ist die sichere Annahme: Ein System, das Prüfungsleistungen bewertet, ist hochriskant, solange die Ausnahme nicht sauber begründet ist.
Anbieter oder Betreiber: wer was tun muss
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt (Art. 3 Nr. 3). Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4). Ein Bildungsträger, der ein KI-Korrekturtool einkauft, ist in der Regel Betreiber.
| Pflicht | Anbieter (Tool-Hersteller) | Betreiber (Bildungsträger) |
|---|---|---|
| Risikomanagement, Daten, technische Dokumentation | Ja (Art. 9–11, 16) | Nein |
| Qualitätsmanagement, Konformitätsbewertung, CE-Kennzeichnung | Ja. Für Anhang III Nr. 3 interne Kontrolle ohne notifizierte Stelle (Art. 43 Abs. 2) | Nein |
| Registrierung in der EU-Datenbank | Ja (Art. 49 Abs. 1) | Nur Behörden und öffentliche Stellen (Art. 49 Abs. 3) |
| Nutzung gemäß Betriebsanleitung | Liefert die Anleitung (Art. 13) | Ja (Art. 26 Abs. 1) |
| Menschliche Aufsicht durch kompetente Personen | Muss sie technisch ermöglichen (Art. 14) | Ja (Art. 26 Abs. 2) |
| Eingabedaten passend und repräsentativ | – | Soweit unter eigener Kontrolle (Art. 26 Abs. 4) |
| Betrieb überwachen, Risiken und Vorfälle melden | Marktbeobachtung (Art. 72) | Ja (Art. 26 Abs. 5) |
| Protokolle aufbewahren | Ja (Art. 19) | Mindestens sechs Monate (Art. 26 Abs. 6) |
| Beschäftigte informieren | – | Bei Einsatz am Arbeitsplatz (Art. 26 Abs. 7) |
| Betroffene informieren | – | Ja, wenn das System Entscheidungen über sie trifft oder unterstützt (Art. 26 Abs. 11) |
| Erläuterung auf Verlangen | – | Recht der Betroffenen nach Art. 86 |
Vorsicht bei Eigenentwicklungen und Anpassungen: Wer ein Hochrisiko-System unter eigenem Namen anbietet, es wesentlich verändert oder die Zweckbestimmung eines bisher nicht hochriskanten Systems so ändert, dass es hochriskant wird, gilt nach Art. 25 Abs. 1 selbst als Anbieter. Das ausdrücklich genannte Beispiel sind KI-Systeme mit allgemeinem Verwendungszweck. Lässt ein Bildungsträger ein allgemeines Sprachmodell mit eigenen Anweisungen Klausuren bewerten, sollte er diese Frage deshalb genau prüfen.
Eine Grundrechte-Folgenabschätzung nach Art. 27 müssen Betreiber durchführen, die Einrichtungen des öffentlichen Rechts sind oder als private Einrichtungen öffentliche Dienste erbringen. Erwägungsgrund 96 nennt dabei ausdrücklich den Bereich Bildung. Ob ein privater Weiterbildungsträger darunter fällt, hängt vom Angebot ab und ist nicht geklärt. Seit dem Omnibus kann die Abschätzung auf eine vorhandene Datenschutz-Folgenabschätzung verweisen (Art. 27 Abs. 4 n. F.).
Systeme, die schon vor dem Stichtag laufen
Nach dem neu gefassten Art. 111 Abs. 2 gilt die Verordnung für Hochrisiko-Systeme, die vor dem 02.12.2027 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann, wenn sie danach in ihrer Konzeption erheblich verändert werden. Für Systeme, die Behörden nutzen sollen, gilt eine Frist bis 02.08.2030. Verlassen Sie sich darauf nicht blind: Ob ein späteres Update eine erhebliche Änderung ist, entscheidet sich im Einzelfall. Und die Betreiberpflichten der DSGVO gelten unabhängig davon.
Was Sie bis Dezember 2027 vorbereiten sollten
- Inventar: Liste aller KI-Systeme, die Teilnehmende bewerten, einstufen, zulassen oder beaufsichtigen. Mit Zweckbestimmung laut Hersteller.
- Rolle klären: Je System festhalten, ob Sie Betreiber oder Anbieter sind. Bei Eigenbau und eigenen Prompts genau hinsehen.
- Herstellerunterlagen anfordern: Betriebsanleitung, Einstufung nach Art. 6, bei Ausnahme die Dokumentation nach Art. 6 Abs. 4.
- Aufsicht festlegen: Wer prüft KI-Ergebnisse, mit welcher Befugnis, nach welchem Maßstab? Ein dokumentierter Erwartungshorizont macht Freigaben nachvollziehbar.
- Protokolle und Löschfristen: Sechs Monate Mindestaufbewahrung mit den Löschfristen der DSGVO abstimmen.
- Information: Texte für Teilnehmende (Art. 26 Abs. 11) und, falls nötig, für Beschäftigte vorbereiten.
Viele dieser Punkte überschneiden sich mit dem Datenschutz. Die DSGVO-Checkliste für KI-Korrektur deckt Auftragsverarbeitung, Folgenabschätzung und Art. 22 DSGVO ab.
Wenn Sie KI-gestützte Korrektur planen, lohnt es sich, die menschliche Freigabe von Anfang an in den Prozess einzubauen. Wie das bei einer Korrektur-Engine für Weiterbildung aussieht, bei der die fachliche Freigabe beim menschlichen Prüfprozess bleibt, beschreiben wir dort.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3, 6, 13, 14, 16, 25, 26, 27, 43, 49, 86, 99, 111, 113, Anhang III Nr. 3, Erwägungsgründe 56 und 96
- Verordnung (EU) 2026/1744 vom 08.07.2026 (Digital Omnibus zur KI), ABl. L, 2026/1744, 24.07.2026, Art. 1 Nr. 5 (Art. 4), Nr. 13 (Art. 27), Nr. 39 (Art. 111), Nr. 40 (Art. 113)
- EU-Kommission: Navigating the AI Act (Inkrafttreten des Omnibus am 27.07.2026, Hochrisiko-Regeln ab 02.12.2027)
- EU-Kommission: Draft Commission Guidelines on the classification of high-risk AI systems (Entwurf vom 19.05.2026)
- KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), BGBl. 2026 I Nr. 223, in Kraft seit 29.07.2026; IHK Elbe-Weser: KI-MIG veröffentlicht