Customer-Service-Chatbot: Art. 50 Disclosure
Stand: Mai 2026 · Innopulse Consulting GmbH, Zug
Auf einen Blick
Customer-Service-Chatbots sind Limited-Risk nach AI Act. Hauptpflicht: Art. 50 Disclosure ("Sie chatten mit einer KI"). Bei automatischen Refund-/Termin-Entscheidungen kann DSGVO Art. 22 zusätzlich greifen.
Chatbots sind die häufigste KI-Anwendung in DACH-Unternehmen. Compliance ist meist einfach — ein klarer Disclosure-Hinweis erfüllt 90% der Pflicht. Komplexer wird es nur bei Bots, die echte Entscheidungen automatisch treffen.
Was ist Pflicht (Art. 50)
Wer ein KI-System betreibt, das mit natürlichen Personen interagiert, muss zu Beginn der Interaktion oder in angemessener Form klarstellen, dass die Person mit einer KI kommuniziert.
Konkrete Umsetzung: - Erste Bot-Nachricht: "Hallo! Ich bin ein KI-Assistent. Bei komplexen Fragen verbinde ich Sie mit einem Menschen." - Avatar/Logo: Klares "KI"-Label oder Bot-Avatar - Bei Voice-Bots: "Sie sprechen mit einem virtuellen Assistenten"
NICHT ausreichend: - Hinweis nur in AGB - Hinweis nur auf Footer-Link - "Versteckter" Disclosure nach 5 Minuten Konversation
KI-Literacy für Bot-Operatoren
Mitarbeiter, die den Bot konfigurieren und überwachen, brauchen Schulung (Art. 4): - Wie der Bot funktioniert (Foundation-Model, Trainingsdaten, Limitationen) - Wie Hallucinations auftreten und vermieden werden - Wie kritische Anfragen an Menschen weiterzugeben sind - Wie Beschwerden zu Bot-Fehlern zu behandeln sind
Wenn Bot Entscheidungen trifft
Sobald der Bot autonome Entscheidungen mit rechtlichen oder erheblichen Auswirkungen trifft, greift DSGVO Art. 22: - Auto-Refund-Decisions - Auto-Subscription-Cancellation mit Nachteilen - Automatisches Account-Sperren
Lösung: Bot schlägt vor, Mensch entscheidet. Oder: Right-to-Human-Review klar kommunizieren und ermöglichen.
Häufige Fragen
Muss der Bot DSGVO-Hinweis geben?
Reicht "Powered by ChatGPT" als Disclosure?
Was wenn unser Bot mit Bewerbern spricht?
Relevante Rechtsgrundlagen
Art. 50 EU AI ActArt. 4 EU AI ActArt. 22 DSGVOArt. 13 DSGVOKlassifizieren Sie Ihre KI-Systeme — kostenlos
In 5 Minuten Risiko-Klasse, FRIA-Pflicht und Compliance-Aufwand für jedes KI-System.
Kostenloser EU AI Act Quick-Check →Verfasst auf Basis der Verordnung (EU) 2024/1689, EDPB-Guidelines und CJEU-Rechtsprechung (C-634/21 SCHUFA, C-203/22 Dun & Bradstreet). Gotthardstrasse 30, 6300 Zug, Schweiz · UID CHE-219.727.921.
Hinweis: Technische Orientierung — kein Ersatz für anwaltliche Rechtsberatung.