KI-Prüfungsüberwachung und der EU AI Act
Wir überwachen Prüfungen mit KI (Online-Proctoring)
Rechtliche Grundlage
Artikel
Erwägungsgründe
Annex-Pfad
III.3(d) — Überwachung/Erkennung verbotenen Verhaltens bei PrüfungenPraxis-Beispiele
Verboten
KI bewertet die Emotionen der Prüflinge zur Stresserkennung → Art. 5(1)(f) verboten.
Hochrisiko
KI erkennt verdächtiges Verhalten während einer Online-Klausur (Annex III.3(d)).
Grenzfall
KI-Proctoring stellt unbenotete Übungstests ohne Einfluss auf Zugang/Bewertung bereit — typischerweise limited.
Unkritisch
Reine Lern-Hilfe ohne Benotung oder Zugangswirkung (z.B. Übungsfeedback) — fällt nicht unter Annex III.3.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Verarbeitet biometrische Daten
- Erkennt Emotionen
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Hochrisiko fällt, hängt von folgenden Detailfragen ab:
- Proctoring-Überwachung fällt unter Annex III.3(d) Hochrisiko. EMOTIONSERKENNUNG in der Bildung ist nach Art. 5(1)(f) VERBOTEN.
- In welchem Kontext erfolgt die Emotionserkennung?
- Schliesst die biometrische Kategorisierung auf sensible Attribute (Rasse, ethnische Herkunft, politische Meinung, Religion, Sexualleben, Gewerkschaft)?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten