KI-Companion-Apps und der EU AI Act
Wir bieten eine KI-Companion- oder Social-Chat-App
Rechtliche Grundlage
Artikel
Erwägungsgründe
Praxis-Beispiele
Verboten
App, die emotional abhängige Minderjährige zu schädlichem Verhalten verleitet → Art. 5(1)(b).
Grenzfall
Companion-App könnte den Eindruck menschlicher Kommunikation erwecken — Offenlegungspflicht nach Art. 50(1).
Unkritisch
Erwachsenen-Companion mit klarer KI-Kennzeichnung und Schutzmechanismen — limited.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Nutzt General-Purpose AI (GPAI)
- Generiert synthetische Inhalte
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Companion-Apps sind limited (Art. 50(1)). Ausnutzung der Schutzbedürftigkeit von Minderjährigen/Vulnerablen zur Verhaltensbeeinflussung → Art. 5(1)(b)-Verbot.
- Sieht der Endnutzer den KI-Output direkt?
- Zielt das System auf eine spezifische verletzliche Gruppe (Alter, Behinderung, soziale/ökonomische Notlage)?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten