Emotionserkennung: Verbote und Erlaubnisse
Stand: Mai 2026 · Innopulse Consulting GmbH, Zug
Auf einen Blick
Emotionserkennung ist nach Art. 5(1)(f) EU AI Act am Arbeitsplatz und in Bildungseinrichtungen verboten — ausser für medizinische oder Sicherheits-Zwecke. Im Healthcare-Bereich (Schmerz-Erkennung Demenz) und in Customer-Care erlaubt mit Disclosure-Pflichten.
Emotion-AI ist eine der heikelsten Kategorien. Die Wissenschaft ist sich uneins, ob "Emotion" valide erkennbar ist — aber die Industrie verkauft entsprechende Tools (HireVue altes Setup, Affectiva, Smart Eye). Der AI Act setzt klare Grenzen.
Definition (Art. 3 Nr. 39)
"Emotionserkennungssystem" = "ein KI-System, das dem Zweck dient, Emotionen oder Absichten natürlicher Personen anhand ihrer biometrischen Daten festzustellen oder daraus abzuleiten."
Beispiele: - Gesichtsausdruck-Analyse für Stimmung - Stimm-Analyse für Stress/Aggression - Verhaltens-Analyse für Aufmerksamkeit
NICHT erfasst: - Pure Sentiment-Analyse von Text (kein biometrisches Datum) - Surveys mit Self-Report von Emotionen
Verbot Art. 5(1)(f)
Verboten ist Emotion-Erkennung "am Arbeitsplatz und in Bildungseinrichtungen". Ausnahmen: - Medizinische Zwecke: Schmerz-Erkennung bei Demenz-Patienten, Stress-Monitoring in Therapie - Sicherheits-Zwecke: Nicht weiter spezifiziert; vermutlich Aggression-Detection in sicherheitskritischen Bereichen (Cockpit, Leitstand)
Verbot ist universell — privater wie öffentlicher Sektor.
Erlaubt mit Disclosure (Art. 50)
Ausserhalb von Arbeitsplatz/Bildung: Hochrisiko Annex III Nr. 1 lit. c oder Limited-Risk mit Art. 50 Disclosure.
Beispiele erlaubt: - Customer-Service-Sentiment-Analyse (mit Customer-Information) - Healthcare-Schmerz-Erkennung - Marketing-Reaction-Studies (mit Einwilligung) - Driver-Müdigkeits-Erkennung im Auto (Sicherheits-Zweck)
Häufige Fragen
Ist Sentiment-Analyse im Callcenter verboten?
Was ist mit Aufmerksamkeits-Tracking in Online-Kursen?
Sind FACS-basierte Marketing-Studien erlaubt?
Relevante Rechtsgrundlagen
Art. 5(1)(f) EU AI ActAnnex III Nr. 1 lit. c EU AI ActArt. 3 Nr. 39 EU AI ActKlassifizieren Sie Ihre KI-Systeme — kostenlos
In 5 Minuten Risiko-Klasse, FRIA-Pflicht und Compliance-Aufwand für jedes KI-System.
Kostenloser EU AI Act Quick-Check →Verfasst auf Basis der Verordnung (EU) 2024/1689, EDPB-Guidelines und CJEU-Rechtsprechung (C-634/21 SCHUFA, C-203/22 Dun & Bradstreet). Gotthardstrasse 30, 6300 Zug, Schweiz · UID CHE-219.727.921.
Hinweis: Technische Orientierung — kein Ersatz für anwaltliche Rechtsberatung.