Rückfall-Prognose-KI: Annex III.6(d)
Justiz/Polizei nutzt KI zur Rückfall-Prognose
HochrisikoRange: prohibited / high_risk
Rechtliche Grundlage
Artikel
Annex III.6(d) EU AI ActAnnex III.8 EU AI ActArt. 5(1)(d) EU AI ActArt. 27(1)(a) EU AI Act
Erwägungsgründe
Recital 59Recital 42
Annex-Pfad
III.6(d)Praxis-Beispiele
Verboten
KI rein aus Profiling-Daten ohne menschliche Würdigung — Art. 5(1)(d) Verbot.
Hochrisiko
Justizvollzug nutzt Risiko-Tool mit objektiven Faktoren + Sozialarbeiter-Bewertung — Annex III.6(d).
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Öffentlicher Sektor / Verwaltung
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
GDPRNDSG REVDSG CH
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Hochrisiko fällt, hängt von folgenden Detailfragen ab:
- COMPAS-Lehren USA: Rückfall-Prognose darf nicht solely auf Profiling basieren.
- Wenn objektive verifizierbare Tatsachen + menschliche Würdigung dazukommen → Annex III.6(d) Hochrisiko, kein Verbot.
- Basiert die Risiko-Bewertung von Personen ausschliesslich auf Profiling — OHNE objektive, verifizierbare Tatsachen mit direktem Bezug zu strafbaren Handlungen?
- Wie autonom entscheidet das System?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten