Was gilt als Hochrisiko-KI im Bildungsbereich?
Der AI Act der EU teilt KI-Systeme nach ihrem Risiko ein. Für Bildung nennt Anhang III Nummer 3 vier Einsatzzwecke, die als Hochrisiko gelten: KI, die über Zugang oder Zulassung entscheidet, die Lernergebnisse bewertet, die das angemessene Bildungsniveau einer Person einschätzt, und KI, die verbotenes Verhalten während Prüfungen überwacht.
Entscheidend ist also nicht die Technik, sondern der Zweck. Derselbe Assistent kann in einem Kurs unreguliert sein und in einem anderen Hochrisiko – je nachdem, wofür er eingesetzt wird.
Wo die Grenze verläuft
Nach dem Entwurf der Kommissions-Leitlinien vom Mai 2026 verläuft sie zwischen formativ und summativ. Erfasst sind Systeme, die summativ bewerten und damit auf Entscheidungen über Bildungs- und Berufswege hinwirken. Ausdrücklich nicht erfasst sind adaptive Lernsysteme, tutorielle Systeme mit persönlichem Feedback und Lernanalysen.
Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten seit der Änderung durch die Verordnung (EU) 2026/1744 ab dem 2. Dezember 2027. Für Systeme, die öffentliche Stellen schon nutzen, gilt spätestens der 2. August 2030.
So sieht das in nerilio aus
Eine Übung wie diese zählt nicht für eine Bewertung – sie ist formativ und fällt nach dem Entwurf der Leitlinien nicht unter Hochrisiko.
nerilio- Übung · zählt nicht für die BewertungRichtig oder falsch: Ein Lernziel beschreibt, was im Kurs behandelt wird.
- Richtig?
- Falsch. Ein Lernziel beschreibt, was die Teilnehmenden danach können. Was im Kurs behandelt wird, ist der Lerninhalt.Quelle: Workbook Modul 2 · Kapitel 1
Was das bei nerilio bedeutet
Für nerilio heißt das: Q&A und Tutor-Modus fallen nicht unter Anhang III Nummer 3, formative Übungen im Assessment-Modus ebenso wenig. Wer den Assessment-Modus für Prüfungen mit Bestehensgrenze oder Zertifikat einsetzt, kann dagegen in den Hochrisiko-Bereich fallen – das hängt von der konkreten Ausgestaltung ab.
Wir entwickeln nerilio entlang dieser Anforderungen und ordnen jeden Prüfungsfall vorab gemeinsam mit euch ein – auch die Frage, wer welche Rolle als Anbieter oder Betreiber übernimmt.