Justiz & Demokratie: KI nach Annex III Nr. 8

Warum Justiz und Demokratie besonders geschützt sind

Rechtsprechung und demokratische Willensbildung sind Kernpfeiler des Rechtsstaats. KI, die hier eingreift, kann Grundrechte und die Integrität demokratischer Prozesse unmittelbar berühren. Annex III Nr. 8 erfasst deshalb zwei klar umrissene Bereiche als hochriskant.

Buchstabe a: KI in der Justiz

Hochriskant ist KI, die bestimmt ist, eine Justizbehörde bei der Recherche, Auslegung von Fakten und Recht und bei der Rechtsanwendung zu unterstützen — oder in ähnlicher Weise in der alternativen Streitbeilegung eingesetzt wird. Gemeint ist KI, die inhaltlich an der Rechtsfindung mitwirkt, etwa Entscheidungsvorschläge generiert oder Sachverhalte rechtlich bewertet.

Ausgenommen sind rein administrative Hilfstätigkeiten: Anonymisierung, Übersetzung, Dokumentenverwaltung, Terminierung. Eine KI, die nur Gerichtsakten organisiert, ist nicht hochriskant; eine KI, die Urteilsvorschläge erstellt, schon.

Buchstabe b: KI und demokratische Prozesse

Hochriskant ist KI, die bestimmt ist, das Ergebnis einer Wahl oder eines Referendums oder das Wahlverhalten von Personen zu beeinflussen. Erfasst sind etwa Microtargeting-Systeme, die Wähler nach psychologischem Profil gezielt ansprechen.

Ausgenommen ist KI, die nur die Organisation, Optimierung oder Verwaltung von Kampagnen aus administrativer oder logistischer Sicht unterstützt — etwa Terminplanung oder Spendenverwaltung.

Die Grenze zum Verbot (Art. 5)

Wahl-KI kann über das Hochrisiko hinausgehen: Setzt sie unterschwellige oder manipulative Techniken ein, die das Verhalten ohne Bewusstsein der Person wesentlich verzerren, fällt sie unter das Verbot des Art. 5(1)(a). Die Stufung lautet also: administrative Wahlsoftware (ausgenommen) → gezielte Beeinflussung (Annex III Nr. 8b, hochriskant) → unterschwellige Manipulation (Art. 5, verboten).

Legal Tech: nicht automatisch hochriskant

Ein häufiges Missverständnis: Nicht jedes Legal-Tech-Tool ist hochriskant. Vertragsanalyse, Recherche-Assistenten und Dokumentengeneratoren für Anwaltskanzleien und Unternehmen fallen nicht unter Annex III Nr. 8a — dieser betrifft die Unterstützung von Justizbehörden bei der Rechtsfindung. Privatwirtschaftliche Legal Tech ist meist begrenztes oder minimales Risiko, mit Transparenzpflicht bei generativen Funktionen.

Deepfakes im politischen Kontext

Synthetische politische Inhalte (Deepfakes) unterliegen der Offenlegungspflicht nach Art. 50(4). Werden sie zur Wahlbeeinflussung eingesetzt, kommen Annex III Nr. 8b und potenziell Art. 5 hinzu. Der Digital Omnibus verschärft den Bereich synthetischer Inhalte zusätzlich.

Fazit

Annex III Nr. 8 ist eng, aber wirkmächtig. Die zentrale Abgrenzung verläuft zwischen inhaltlicher Mitwirkung (hochriskant) und reiner Administration (ausgenommen) — sowohl in der Justiz als auch bei Wahlen. Wer Legal Tech für die Privatwirtschaft baut, ist meist nicht betroffen; wer Justizbehörden bei der Rechtsfindung oder Wähler in ihrem Verhalten beeinflusst, schon.