AI Agents mit Tool-Zugriff: EU AI Act und Risiko
Wir betreiben einen AI Agent der Tools/APIs aufrufen kann
Begrenztes RisikoRange: limited / high_risk
Rechtliche Grundlage
Artikel
Art. 4 EU AI Act
Erwägungsgründe
Recital 105
Praxis-Beispiele
Hochrisiko
Customer-Service Agent kann Bestellungen autonom stornieren oder Geld zurückerstatten — review-Status.
Unkritisch
Internal-Use Agent ruft Read-only APIs zur Datensuche — minimal/limited.
Pflicht-Trigger für diesen Fall
- Wirkt direkt auf natürliche Personen
- Entscheidungsunterstützung (Mensch im Loop)
- Nutzt General-Purpose AI (GPAI)
Zusätzliche regulatorische Overlays
GDPRNDSG REVDSG CH
Neben dem AI Act greifen für diesen Fall sektorale Vorschriften, die zusätzliche Pflichten auslösen können.
Was muss konkret geklärt werden?
Ob Dein konkreter Use-Case unter Begrenztes Risiko fällt, hängt von folgenden Detailfragen ab:
- Kann der Agent Aktionen ohne menschliche Freigabe ausführen?
- Trifft der Agent Entscheidungen über natürliche Personen?
- Worauf hat der KI-Agent Zugriff?
- Welche autonomen Aktionen kann der Agent ausführen?
- Wie autonom entscheidet das System?
Verwandte Anwendungsfälle
Klassifiziere Deinen konkreten Fall
Der Sector-First Wizard nimmt diesen Use-Case als Vorlage und stellt nur die wirklich relevanten Rückfragen — Du bekommst Risikoklasse, Pflichten-Liste und Audit-Package in unter 5 Minuten.
Assessment starten