EU AI Act für öffentliche Verwaltung: KI in Behörden, Sozialleistungen & Migration

Annex III adressiert vier öffentliche Bereiche explizit: - Nr. 5 lit. a: Eligibility-Prüfung für öffentliche Sozialleistungen (Bürgergeld, AHV, Kindergeld, Sozialhilfe) - Nr. 6: Strafverfolgung (Risk-Assessment, Lügendetektion, Beweismittel-Bewertung) — sehr eingeschränkt erlaubt - Nr. 7: Migration und Grenze (Asyl-Risk-Assessment, Visa-Antragsprüfung) — sehr eingeschränkt erlaubt - Nr. 8: Justiz und demokratische Prozesse (Recherche-Tools für Richter, Wahl-Beeinflussung)

Daneben Art. 5 Verbote besonders relevant für Behörden: Social-Scoring (lit. c), Predictive Policing rein profiling-basiert (lit. d), RBI in öffentlichem Raum (lit. h).

Behörden, die Hochrisiko-KI als Deployer einsetzen, müssen das System in der EU-AI-Datenbank registrieren — unabhängig vom Provider. Die Datenbank ist öffentlich, Bürger können nachschlagen, welche KI ihre Behörde nutzt.

Registrierung erfasst: - Behörden-Identität - KI-System-Beschreibung - Zweck und Einsatzbereich - Risikoklasse - FRIA-Zusammenfassung (öffentlich)

Wichtig: Diese Pflicht gilt nicht für privatwirtschaftliche Deployer — sie ist eine Public-Sector-spezifische Verschärfung.

Art. 27 verlangt für alle öffentlichen Stellen, die Hochrisiko-KI einsetzen, eine vollständige Grundrechte-Folgenabschätzung — vor Inbetriebnahme. Während Privatunternehmen FRIA nur bei bestimmten Annex-III-Anwendungen brauchen, ist sie für Behörden bei jedem Hochrisiko-System Pflicht.

Die FRIA muss: - Auswirkungen auf Grundrechte beleuchten - Diskriminierungsrisiken testen - Verhältnismässigkeit prüfen - Öffentlichkeit konsultieren (in DE: Beteiligungsverfahren möglich) - Vor Inbetriebnahme finalisiert sein

Nationale Datenschutzaufsicht (BfDI, DSB, EDÖB) hat Sonderzuständigkeiten.

Folgende Praktiken sind für Behörden absolut verboten — auch bei "öffentlichem Interesse": - Social-Scoring (Art. 5(1)(c)): Multidimensionale Bewertung des sozialen Verhaltens, die zu nachteiliger Behandlung führt - Predictive Policing rein profiling-basiert (Art. 5(1)(d)): Wahrscheinlichkeit künftiger Straftaten allein aus Persönlichkeitsmerkmalen - Untargeted Facial-Scraping (Art. 5(1)(e)): Datenbanken aus Internet-/CCTV-Aufnahmen aufbauen - Real-Time RBI in öffentlich zugänglichem Raum (Art. 5(1)(h)): Sehr enge Ausnahmen für Strafverfolgung mit Richter-Genehmigung

Verstösse hier können zu 35 Mio. EUR oder 7% Bussgeld führen.

Bürger haben besondere Auskunftsrechte gegenüber Behörden: - Art. 26 Abs. 11 AI Act: Information über KI-Einsatz vor Entscheidung - DSGVO Art. 13/14: Datenschutz-Information - DSGVO Art. 22: Recht auf menschliche Überprüfung automatisierter Entscheidungen - Nationales Verwaltungsverfahrensrecht: Begründungspflicht (§ 39 VwVfG / § 60 AVG / Art. 35 VwVG) - IFG / IGG: Akteneinsicht

In der Praxis: Behörden müssen Bürger pro KI-Entscheidung verständlich erklären, dass und wie KI mitgewirkt hat — in der jeweiligen Landessprache, nicht nur in englischen AGB.