Predictive Policing Individuum: Art. 5(1)(d)
Wir nutzen KI zur Risiko-Profilierung einzelner Personen (Straftat-Risiko)
Verboten (Art. 5)
Rechtliche Grundlage
Artikel
Art. 5(1)(d) EU AI Act
Erwägungsgründe
Recital 42
Praxis-Beispiele
Verboten
KI generiert "Top-600-Liste" potentieller Straftäter aus Profiling — Art. 5(1)(d) verboten.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
GDPRNDSG REVDSG CH
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Verboten (Art. 5) fällt, hängt von folgenden Detailfragen ab:
- Art. 5(1)(d): "solely based on profiling or assessment of personality traits" → absolute Prohibition.
- Wenn objektive verifizierbare Tatsachen + menschliche Bewertung dazukommen → Annex III.6 Hochrisiko statt Verbot.
- Basiert die Risiko-Bewertung von Personen ausschliesslich auf Profiling — OHNE objektive, verifizierbare Tatsachen mit direktem Bezug zu strafbaren Handlungen?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten