Annex III Beschäftigung: Wann HR-KI hochriskant ist
Annex III Nr. 4 stuft KI im Beschäftigungskontext als hochriskant ein: Personalauswahl und Recruiting (CV-Screening, Bewerber-Ranking), Entscheidungen über Beförderung und Kündigung, Aufgabenzuteilung sowie Leistungsüberwachung und -bewertung. Fast jedes KI-Tool im HR-Bereich fällt darunter. Folge: volles Hochrisiko-Pflichtenprogramm plus DSGVO und nationales Arbeitsrecht. Reine administrative Hilfstätigkeiten ohne Entscheidungseinfluss können über Art. 6(3) ausgenommen sein.
Warum HR einer der heikelsten KI-Bereiche ist
Der EU AI Act behandelt den Beschäftigungskontext mit besonderer Strenge, weil KI-Entscheidungen hier unmittelbar über Lebenschancen entscheiden — über Einstellung, Aufstieg und Existenz. Annex III Nr. 4 erfasst deshalb einen breiten Korridor von HR-Anwendungen als hochriskant. Für Personalabteilungen und HR-Tech-Anbieter ist das eine der folgenreichsten Stellen der Verordnung.
Was Annex III Nr. 4 konkret erfasst
Die Kategorie umfasst KI-Systeme, die bestimmt sind für:
- Personalbeschaffung und -auswahl: insbesondere zielgerichtete Stellenanzeigen, Sichtung und Filterung von Bewerbungen sowie die Bewertung von Bewerbern (CV-Screening, automatisiertes Ranking).
- Entscheidungen über Arbeitsbedingungen: Beförderung, Kündigung, Vertragsverlängerung.
- Aufgaben- und Arbeitszuteilung auf Basis von Verhalten oder persönlichen Merkmalen.
- Überwachung und Bewertung der Leistung und des Verhaltens von Beschäftigten.
In der Praxis trifft das nahezu jedes ernstzunehmende HR-KI-Tool — vom Recruiting-Filter über Performance-Analytics bis zur automatisierten Schichtplanung mit Leistungsbezug.
Die Pflichten als Provider und als Deployer
Anbieter solcher Systeme tragen das volle Provider-Programm (Art. 9–15, Konformitätsbewertung). Unternehmen, die ein zugekauftes HR-KI-Tool einsetzen, sind Deployer und müssen: das System zweckkonform betreiben, kompetente menschliche Aufsicht sicherstellen, betroffene Beschäftigte und Bewerber informieren und die Protokolle aufbewahren. Wichtig: Eine HR-KI-Entscheidung darf nicht allein der Maschine überlassen werden, wo menschliche Aufsicht vorgeschrieben ist.
Das Zusammenspiel mit DSGVO und Arbeitsrecht
Annex III Nr. 4 steht nie allein. Parallel greifen:
- DSGVO Art. 22: Verbot rein automatisierter Einzelentscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung — mit engen Ausnahmen und Recht auf menschliches Eingreifen.
- Nationales Arbeitsrecht und Mitbestimmung: In Deutschland kann der Betriebsrat bei der Einführung von KI-Systemen mitbestimmungspflichtig beteiligt sein; in der Schweiz greifen das DSG und arbeitsrechtliche Schutzpflichten.
Wer nur den AI Act erfüllt, aber DSGVO und Mitbestimmung ignoriert, ist nicht compliant.
Wann die Art.-6(3)-Ausnahme greifen kann
Nicht jede HR-Software ist automatisch hochriskant. Reine administrative Hilfstätigkeiten ohne Einfluss auf die Entscheidung — etwa ein Tool, das nur Bewerbungseingänge formal sortiert, ohne zu bewerten — können über Art. 6(3) ausgenommen sein. Sobald jedoch ein Ranking, Scoring oder eine Eignungsbewertung stattfindet, die die Entscheidung prägt, entfällt die Ausnahme. Die Grenze verläuft an der Frage: Beeinflusst das System die Personalentscheidung inhaltlich?
Praxis: typische Fälle
Ein CV-Screening, das Bewerber nach Eignung sortiert → hochriskant. Ein Chatbot, der nur FAQ zu offenen Stellen beantwortet → begrenztes Risiko. Eine Software, die Arbeitszeiten erfasst, ohne Leistung zu bewerten → meist minimal. Eine KI, die Mitarbeiterproduktivität misst und in Bewertungen einfließen lässt → hochriskant (Leistungsüberwachung). Und ausdrücklich verboten: Emotionserkennung am Arbeitsplatz (Art. 5(1)(f)).
Was Sie jetzt tun sollten
Inventarisieren Sie jedes HR-Tool mit KI-Komponente, klären Sie pro Tool Rolle (Provider/Deployer) und Risikoklasse, dokumentieren Sie die menschliche Aufsicht und stimmen Sie früh mit Datenschutz und — wo nötig — der Arbeitnehmervertretung ab. Planen Sie gegen die Annex-III-Frist 2. Dezember 2027 (Digital Omnibus), behalten Sie 2. August 2026 als geltendes Recht im Blick.
Häufig gestellte Fragen
Ist ein CV-Screening-Tool immer hochriskant?+
Wenn es Bewerber bewertet, filtert oder rankt, ja — es fällt unter Annex III Nr. 4. Nur rein administrative Tools ohne inhaltlichen Einfluss auf die Auswahlentscheidung können über die Art.-6(3)-Ausnahme herausfallen, was aber dokumentiert begründet werden muss.
Darf eine KI eine Kündigung allein entscheiden?+
Nein. Annex III Nr. 4 verlangt menschliche Aufsicht, und DSGVO Art. 22 verbietet grundsätzlich rein automatisierte Einzelentscheidungen mit erheblicher Wirkung. Die finale Entscheidung muss durch einen kompetenten Menschen getroffen oder zumindest wirksam überprüft werden.
Ist Emotionserkennung im Bewerbungsgespräch erlaubt?+
Nein. Emotionserkennung am Arbeitsplatz ist nach Art. 5(1)(f) eine verbotene Praktik — das schließt KI ein, die im Recruiting oder am Arbeitsplatz Emotionen der Betroffenen analysiert. Ausnahmen bestehen nur für eng umrissene medizinische oder Sicherheitszwecke.
Muss der Betriebsrat einbezogen werden?+
In Deutschland ist die Einführung von KI-Systemen im Beschäftigungskontext häufig mitbestimmungspflichtig. Unabhängig vom AI Act sollten Arbeitnehmervertretungen früh eingebunden werden. In der Schweiz greifen Informations- und Schutzpflichten nach DSG und Arbeitsrecht.
Direkt prüfen — kostenlos
Prüfe in 5 Minuten ob deine KI-Systeme unter den EU AI Act fallen — mit sofortigem Ergebnis.
Kostenloser EU AI Act Check →Dieser Artikel basiert auf der Verordnung (EU) 2024/1689 (EUR-Lex Originaltext) und EU-AI-Office-Guidelines. Wird monatlich aktualisiert. Hinweis: Technische Orientierung — kein Ersatz für Rechtsberatung.
Zuletzt aktualisiert: Juni 2026