KI-Companion-Chatbots und der EU AI Act
Wir bieten einen KI-Companion-Chatbot für emotionale/soziale Interaktion
Rechtliche Grundlage
Artikel
Erwägungsgründe
Praxis-Beispiele
Verboten
Bot, der Minderjährige durch manipulative Bindungstechniken zu schädlichem Verhalten bewegt → Art. 5.
Grenzfall
Companion-Chatbot könnte den Eindruck menschlicher Kommunikation erwecken — Offenlegungspflicht nach Art. 50(1).
Unkritisch
Begleiter-Chatbot mit klarer KI-Kennzeichnung und Schutzmechanismen für Minderjährige.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Profiling natürlicher Personen
- Erkennt Emotionen
- Nutzt General-Purpose AI (GPAI)
- Verletzliche Gruppen betroffen möglich
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Companion-Bots, die schutzbedürftige Nutzer manipulieren oder ausnutzen → Art. 5(1)(a)/(b) Verbot prüfen.
- Emotionserkennung am Arbeitsplatz/in Bildung ist verboten (Art. 5(1)(f)); im Consumer-Kontext nur transparenzpflichtig (Art. 50(3)).
- Sieht der Endnutzer den KI-Output direkt?
- In welchem Kontext erfolgt die Emotionserkennung?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten