Content-Moderation und der EU AI Act
Wir moderieren nutzergenerierte Inhalte mit KI
Rechtliche Grundlage
Artikel
Praxis-Beispiele
Hochrisiko
Content-Moderation steuert eine Entscheidung über Zugang, Preis oder Beschäftigung einer Person — mögliche Annex-III-Hochrisiko-Einstufung.
Grenzfall
Content-Moderation erzeugt personenbezogene Scores, die in Entscheidungen einfliessen könnten — Einzelfallprüfung nötig.
Unkritisch
KI markiert potenziell verbotene Beiträge zur menschlichen Prüfung — limited.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Automatisierte Entscheidungen
- Entscheidungsunterstützung (Mensch im Loop)
- Nutzt General-Purpose AI (GPAI)
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Content-Moderation ist primär DSA-reguliert. Unter dem AI Act meist limited/minimal; Transparenz gegenüber Nutzern empfohlen.
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten