Voicebot und EU AI Act: Transparenz und Emotionserkennung
Wir setzen einen Voicebot für eingehende Anrufe ein
Rechtliche Grundlage
Artikel
Erwägungsgründe
Praxis-Beispiele
Hochrisiko
Voicebot, der Mitarbeiter-Anrufe auf Emotionen scannt → Annex III.1(c) im Beschäftigungskontext.
Grenzfall
Voicebot könnte den Eindruck menschlicher Kommunikation erwecken — Offenlegungspflicht nach Art. 50(1).
Unkritisch
Voicebot zur Anrufweiterleitung ohne Emotionsanalyse, mit KI-Hinweis zu Beginn.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Nutzt General-Purpose AI (GPAI)
- Generiert synthetische Inhalte
Zusätzliche regulatorische Overlays
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Wird Emotionserkennung eingesetzt → Art. 50(3) Offenlegung; im Arbeits-/Bildungskontext sogar Annex III.1(c)?
- Sieht der Endnutzer den KI-Output direkt?
- In welchem Kontext erfolgt die Emotionserkennung?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten