Proctoring-KI: III.3(d) und Art. 5(1)(f)
Wir nutzen KI zur Überwachung von Online-Prüfungen (Proctoring)
HochrisikoRange: high_risk / prohibited
Rechtliche Grundlage
Artikel
Annex III.3(d) EU AI ActArt. 5(1)(f) EU AI ActArt. 27(1)(b) EU AI ActDSGVO Art. 9
Erwägungsgründe
Recital 56Recital 44
Annex-Pfad
III.3(d)Praxis-Beispiele
Verboten
Proctoring-Anbieter erkennt "verdächtiges Stress-Verhalten" via Emotion-AI — Art. 5(1)(f) VERBOTEN.
Hochrisiko
Hochschule deployt Webcam-Proctoring mit Tab-Switch-Detection — III.3(d) + FRIA.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Verarbeitet biometrische Daten
- Erkennt Emotionen
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
GDPRNDSG REVDSG CHSECTORAL EDUCATION LAW
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Hochrisiko fällt, hängt von folgenden Detailfragen ab:
- KRITISCH: Erkennt das System Emotionen (Stress, Angst, Konzentration)? → Art. 5(1)(f) ABSOLUTES VERBOT in Bildungs-Kontext.
- Reines Behavior-Tracking ohne Emotion-Inference → III.3(d) Hochrisiko (nicht prohibited).
- Anbieter behaupten oft "kein Emotion-Tracking" — kritisch prüfen, was das Modell tatsächlich extrahiert.
- In welchem Kontext erfolgt die Emotionserkennung?
- Schliesst die biometrische Kategorisierung auf sensible Attribute (Rasse, ethnische Herkunft, politische Meinung, Religion, Sexualleben, Gewerkschaft)?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten