KI-Agenten & Agentic AI: Wie der EU AI Act sie erfasst
KI-Agenten (Agentic AI) — Systeme, die autonom planen, Tools nutzen und handeln — werden vom AI Act nicht als eigene Kategorie geregelt, sondern über die bestehende Logik: Die Risikoklasse ergibt sich aus dem Anwendungsfall, nicht aus der Autonomie. Ein Agent in einem Annex-III-Kontext ist hochriskant; ein Agent als Assistent meist begrenzt. Höhere Autonomie verschärft jedoch die Anforderungen an menschliche Aufsicht (Art. 14) und Risikomanagement (Art. 9), inklusive des vorhersehbaren Fehlgebrauchs.
Die neue Frontlinie: handelnde KI
KI-Agenten — Systeme, die nicht nur antworten, sondern autonom planen, externe Tools aufrufen, Aktionen ausführen und Ziele über mehrere Schritte verfolgen — sind die dynamischste Entwicklung der letzten Zeit. Sie werfen eine berechtigte Frage auf: Wie erfasst ein Gesetz von 2024 eine Technologie, die sich so schnell wandelt?
Keine eigene Kategorie — die bestehende Logik trägt
Der AI Act regelt Agentic AI nicht als eigene Risikokategorie. Stattdessen greift die bewährte Grundlogik: Die Risikoklasse ergibt sich aus dem Anwendungsfall und der Wirkung, nicht aus der technischen Autonomie. Ein KI-Agent ist nicht per se hochriskant, weil er autonom handelt — sondern dann, wenn das, was er tut, in einen regulierten Bereich fällt.
- Ein Agent, der eigenständig Bewerbungen sichtet und vorsortiert → Annex III Nr. 4 (hochriskant).
- Ein Agent, der Termine koordiniert und E-Mails entwirft → meist minimal/begrenzt.
- Ein Agent, der über Kreditanträge entscheidet → Annex III Nr. 5 (hochriskant).
- Ein Recherche-Agent für interne Wissensfragen → meist minimal.
Wo Autonomie die Anforderungen verschärft
Auch wenn Autonomie die Klasse nicht ändert, erhöht sie die Anforderungen innerhalb der Klasse:
- Menschliche Aufsicht (Art. 14): Je autonomer ein Agent, desto wichtiger werden wirksame Eingriffs- und Stopp-Möglichkeiten. Ein Agent, der unbeaufsichtigt Aktionen mit Außenwirkung auslöst, braucht robuste Kontrollpunkte.
- Risikomanagement (Art. 9): Der vorhersehbare Fehlgebrauch und unbeabsichtigte Handlungsketten sind bei Agenten besonders relevant. Was passiert, wenn der Agent ein Tool falsch aufruft, in eine Schleife gerät oder eine unbeabsichtigte Transaktion auslöst?
- Protokollierung (Art. 12): Die Aktionskette eines Agenten muss nachvollziehbar protokolliert werden, um Verantwortung zuordnen zu können.
Die GPAI-Ebene
Viele Agenten basieren auf GPAI-Modellen. Hier gilt die bekannte Trennung: Der Modellanbieter trägt die Art.-53-Pflichten; wer den Agenten baut und einsetzt, ist Deployer (oder, bei wesentlicher Prägung des Zwecks, nach Art. 25 selbst Provider der Gesamtanwendung). Die Agenten-Logik ändert diese Rollenverteilung nicht.
Transparenz bei Interaktion
Interagiert der Agent mit Menschen, greift Art. 50(1): Die Person muss wissen, dass sie mit einer KI kommuniziert. Handelt der Agent im Namen eines Nutzers gegenüber Dritten, sind Transparenz und Verantwortungszuordnung besonders wichtig.
Praxis: so ordnen Sie einen Agenten ein
Fragen Sie nicht "Ist das ein Agent?", sondern: (1) In welchem Anwendungsfall handelt er — fällt dieser unter Annex I/III oder Art. 5? (2) Welche Aktionen mit welcher Außenwirkung führt er autonom aus? (3) Wie wirksam ist die menschliche Aufsicht über diese Aktionen? Daraus ergeben sich Klasse und Pflichtenintensität.
Fazit
Agentic AI ist regulatorisch kein Sonderfall, sondern ein Stresstest der bestehenden Logik: Der Anwendungsfall bestimmt die Klasse, die Autonomie bestimmt die Intensität von Aufsicht und Risikomanagement. Wer Agenten baut, sollte menschliche Kontrollpunkte und lückenlose Protokollierung von Anfang an mitdenken — nicht weil Agenten eine eigene Kategorie wären, sondern weil ihre Handlungsmacht die bekannten Pflichten besonders fordert.
Häufig gestellte Fragen
Sind KI-Agenten automatisch hochriskant?+
Nein. Der AI Act regelt Agentic AI nicht als eigene Kategorie. Die Risikoklasse ergibt sich aus dem Anwendungsfall, nicht aus der Autonomie. Ein Agent in einem Annex-III-Kontext ist hochriskant, ein Assistenz-Agent meist begrenzt oder minimal.
Was ändert hohe Autonomie an den Pflichten?+
Sie ändert nicht die Risikoklasse, erhöht aber die Anforderungen innerhalb der Klasse — vor allem an die menschliche Aufsicht (Art. 14), das Risikomanagement inklusive vorhersehbaren Fehlgebrauchs (Art. 9) und die Protokollierung der Aktionskette (Art. 12).
Wer ist für einen KI-Agenten verantwortlich?+
Wer den Agenten baut und einsetzt, ist in der Regel Deployer des GPAI-basierten Systems — oder nach Art. 25 selbst Provider, wenn er die Zweckbestimmung wesentlich prägt. Der Modellanbieter trägt die GPAI-Pflichten der Art. 53–55.
Muss ein KI-Agent sich als KI zu erkennen geben?+
Ja, wenn er mit Menschen interagiert (Art. 50(1)). Handelt der Agent im Namen eines Nutzers gegenüber Dritten, sind Transparenz und eine klare Verantwortungszuordnung besonders wichtig.
Direkt prüfen — kostenlos
Prüfe in 5 Minuten ob deine KI-Systeme unter den EU AI Act fallen — mit sofortigem Ergebnis.
Kostenloser EU AI Act Check →Dieser Artikel basiert auf der Verordnung (EU) 2024/1689 (EUR-Lex Originaltext) und EU-AI-Office-Guidelines. Wird monatlich aktualisiert. Hinweis: Technische Orientierung — kein Ersatz für Rechtsberatung.
Zuletzt aktualisiert: Juni 2026