Verbotene KI-Praktiken: Was Art. 5 EU AI Act untersagt
Art. 5 verbietet bestimmte KI-Praktiken vollständig — seit 2. Februar 2025 geltendes Recht. Dazu zählen unterschwellige Manipulation, Ausnutzung schutzbedürftiger Gruppen, Social Scoring durch Behörden, Predictive Policing allein auf Profiling-Basis, ungezieltes Scraping von Gesichtsbildern, Emotionserkennung am Arbeitsplatz und in der Bildung sowie biometrische Kategorisierung nach sensiblen Merkmalen. Der Digital Omnibus ergänzt ein Verbot nicht-einvernehmlicher intimer Inhalte.
Die rote Linie des AI Act
Ganz oben in der Risikopyramide steht nicht "hochrisiko", sondern "verboten". Art. 5 listet KI-Praktiken, die als unvereinbar mit den Werten der EU gelten und deshalb vollständig untersagt sind — unabhängig von Schutzmaßnahmen. Diese Verbote gelten bereits seit dem 2. Februar 2025 und wurden vom Digital Omnibus nicht verschoben. Wer eine verbotene Praktik betreibt, ist sofort in der höchsten Sanktionskategorie.
Die verbotenen Praktiken im Überblick
1. Unterschwellige und manipulative Techniken (Art. 5(1)(a)): KI, die das Verhalten von Personen ohne deren Bewusstsein wesentlich verzerrt und ihnen dadurch erheblichen Schaden zufügen kann.
2. Ausnutzung von Schutzbedürftigkeit (Art. 5(1)(b)): KI, die gezielt Schwächen aufgrund von Alter, Behinderung oder sozialer/wirtschaftlicher Lage ausnutzt, um Verhalten schädlich zu beeinflussen.
3. Social Scoring (Art. 5(1)(c)): Bewertung oder Klassifizierung von Personen über die Zeit anhand ihres Sozialverhaltens, die zu Schlechterstellung in unzusammenhängenden Kontexten führt.
4. Predictive Policing allein auf Profiling-Basis (Art. 5(1)(d)): Vorhersage von Straftaten ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen.
5. Ungezieltes Gesichtsbild-Scraping (Art. 5(1)(e)): Aufbau oder Erweiterung von Gesichtserkennungs-Datenbanken durch ungezieltes Auslesen von Bildern aus dem Internet oder CCTV.
6. Emotionserkennung am Arbeitsplatz und in Bildung (Art. 5(1)(f)): mit engen Ausnahmen für medizinische oder Sicherheitszwecke.
7. Biometrische Kategorisierung nach sensiblen Merkmalen (Art. 5(1)(g)): Ableitung von Rasse, politischer Meinung, Gewerkschaftszugehörigkeit, Religion, Sexualleben aus biometrischen Daten.
8. Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zu Strafverfolgungszwecken (Art. 5(1)(h)): grundsätzlich verboten, mit eng begrenzten, genehmigungspflichtigen Ausnahmen.
Die neue Praktik aus dem Digital Omnibus
Der Digital Omnibus ergänzt Art. 5 um ein Verbot von KI-Systemen, die nicht-einvernehmliche intime Inhalte oder Darstellungen sexuellen Kindesmissbrauchs erzeugen — mit einem Safe-Harbour für Systeme mit wirksamen Schutzmaßnahmen. Geplantes Geltungsdatum: 2. Dezember 2026.
Wo die Grenzen verlaufen
Die Verbote sind eng definiert, aber folgenreich. Personalisierte Werbung ist nicht per se verboten — erst unterschwellige Manipulation, die erheblichen Schaden anrichtet, überschreitet die Linie. Emotionserkennung im Kundenkontext ist erlaubt (mit Transparenzpflicht nach Art. 50(3)), am Arbeitsplatz dagegen verboten. Behördliches Social Scoring ist verboten; eine sachlich begründete Bonitätsbewertung im Finanzkontext ist hochriskant, aber erlaubt. Es kommt auf Zweck, Kontext und Schadenspotenzial an.
Sanktionen
Verstöße gegen Art. 5 stehen in der höchsten Bußgeldkategorie: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Anders als bei Hochrisiko-Pflichten gibt es hier keine Übergangsfrist mehr — die Verbote gelten.
Was Sie jetzt prüfen sollten
Gleichen Sie jedes eingesetzte und geplante KI-System gegen die acht (bald neun) Verbotstatbestände ab. Besonders aufmerksam bei: Emotionsanalyse-Funktionen in HR- oder Meeting-Tools, biometrischer Kategorisierung und manipulativen Personalisierungstechniken. Eine verbotene Praktik ist kein Compliance-Projekt mit Frist — sie muss sofort eingestellt werden.
Häufig gestellte Fragen
Gelten die Verbote schon?+
Ja. Die Verbote nach Art. 5 sind seit dem 2. Februar 2025 geltendes Recht und wurden vom Digital Omnibus nicht verschoben. Es gibt keine Übergangsfrist — verbotene Praktiken müssen sofort eingestellt werden.
Ist personalisierte Werbung verboten?+
Nein, nicht generell. Verboten ist erst unterschwellige oder manipulative KI, die das Verhalten ohne Bewusstsein der Person wesentlich verzerrt und erheblichen Schaden anrichten kann, sowie die gezielte Ausnutzung von Schutzbedürftigkeit. Normale Personalisierung bleibt zulässig.
Darf ich Emotionserkennung im Kundenservice einsetzen?+
Im Kundenkontext ja, mit Transparenzpflicht nach Art. 50(3). Verboten ist Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen (Art. 5(1)(f)), abgesehen von engen medizinischen oder Sicherheitsausnahmen.
Wie hoch sind die Strafen bei verbotenen Praktiken?+
Verstöße gegen Art. 5 stehen in der höchsten Bußgeldkategorie: bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes, je nachdem welcher Betrag höher ist.
Direkt prüfen — kostenlos
Prüfe in 5 Minuten ob deine KI-Systeme unter den EU AI Act fallen — mit sofortigem Ergebnis.
Kostenloser EU AI Act Check →Dieser Artikel basiert auf der Verordnung (EU) 2024/1689 (EUR-Lex Originaltext) und EU-AI-Office-Guidelines. Wird monatlich aktualisiert. Hinweis: Technische Orientierung — kein Ersatz für Rechtsberatung.
Zuletzt aktualisiert: Juni 2026