GPAI mit systemischem Risiko: Die verschärften Pflichten nach Art. 55
GPAI-Modelle mit systemischem Risiko unterliegen über die Basispflichten (Art. 53) hinaus verschärften Anforderungen nach Art. 55: Modellbewertung inklusive adversarialem Testing, Bewertung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle und angemessene Cybersicherheit. Die Vermutung systemischen Risikos greift insbesondere oberhalb einer kumulierten Trainings-Rechenleistung von 10^25 FLOP. Für nahezu alle KMU ist diese Stufe irrelevant — sie betrifft die großen Modellanbieter.
Die oberste Stufe der GPAI-Regulierung
Über den allgemeinen GPAI-Pflichten (Art. 53) liegt eine verschärfte Ebene für Modelle, die ein systemisches Risiko darstellen. Diese Stufe zielt auf die leistungsstärksten Foundation-Models, deren Fähigkeiten so weitreichend sind, dass Fehlfunktionen oder Missbrauch gesellschaftsweite Auswirkungen haben könnten. Für die allermeisten Unternehmen ist sie nicht einschlägig — aber sie prägt die KI-Landschaft, auf der alle aufbauen.
Wann systemisches Risiko vermutet wird
Ein GPAI-Modell gilt als Modell mit systemischem Risiko, wenn es über Fähigkeiten mit hohem Wirkungsgrad verfügt. Die Verordnung knüpft eine Vermutung an die für das Training aufgewendete Rechenleistung: Übersteigt die kumulierte Trainings-Rechenleistung den Schwellenwert von 10^25 FLOP (Gleitkommaoperationen), wird systemisches Risiko vermutet. Daneben kann das AI Office ein Modell auch anhand qualitativer Kriterien als systemisch einstufen. Die Schwelle kann durch die Kommission angepasst werden, da sich der Stand der Technik verschiebt.
Die verschärften Pflichten (Art. 55)
Anbieter von GPAI-Modellen mit systemischem Risiko müssen zusätzlich zu den Art.-53-Basispflichten:
- Modellbewertungen nach standardisierten Protokollen durchführen, inklusive adversarialem Testing (Red-Teaming), um Risiken zu identifizieren und zu mindern;
- systemische Risiken bewerten und mindern, die aus der Entwicklung, dem Inverkehrbringen oder der Nutzung entstehen können;
- schwerwiegende Vorfälle und mögliche Korrekturmaßnahmen dem AI Office und ggf. nationalen Behörden melden;
- ein angemessenes Maß an Cybersicherheit für das Modell und seine physische Infrastruktur gewährleisten.
Warum das für KMU relevant ist — indirekt
Kein KMU trainiert Modelle dieser Größenordnung; die 10^25-FLOP-Schwelle erreichen nur die großen Labore (OpenAI, Anthropic, Google, Meta, Mistral u. a.). Trotzdem ist die Kenntnis dieser Stufe nützlich: Wenn Sie ein solches Modell nutzen oder darauf aufbauen, profitieren Sie von den dort durchgeführten Sicherheitsmaßnahmen — und Sie verstehen, warum die Modellanbieter bestimmte Nutzungsbeschränkungen vorgeben. Ihre eigenen Pflichten als Deployer oder Integrator ändern sich dadurch nicht.
Der Code of Practice
Zur Konkretisierung der GPAI- und systemischen Pflichten dient ein Code of Practice, der von der Branche unter Beteiligung des AI Office entwickelt wurde. Er bietet Modellanbietern einen praktikablen Weg, die Einhaltung nachzuweisen, bis harmonisierte Normen vorliegen.
Fazit
Art. 55 ist die Hochsicherheitsstufe für die mächtigsten Allzweck-Modelle: Red-Teaming, systemische Risikominderung, Vorfallmeldung und Cybersicherheit. Die 10^25-FLOP-Schwelle hält diese Pflichten bei den großen Modellanbietern. Für KMU ist die Stufe ein Kontext, kein Pflichtenkatalog — relevant zum Verstehen, nicht zum Erfüllen.
Häufig gestellte Fragen
Ab wann hat ein GPAI-Modell systemisches Risiko?+
Insbesondere, wenn die kumulierte Trainings-Rechenleistung den Schwellenwert von 10^25 FLOP übersteigt — dann wird systemisches Risiko vermutet. Daneben kann das AI Office ein Modell auch anhand qualitativer Kriterien einstufen. Die Schwelle kann von der Kommission angepasst werden.
Welche Zusatzpflichten gelten nach Art. 55?+
Modellbewertungen inklusive adversarialem Testing (Red-Teaming), Bewertung und Minderung systemischer Risiken, Meldung schwerwiegender Vorfälle an das AI Office und ein angemessenes Maß an Cybersicherheit — zusätzlich zu den Basispflichten aus Art. 53.
Betrifft Art. 55 mein KMU?+
Mit hoher Wahrscheinlichkeit nicht. Die 10^25-FLOP-Schwelle erreichen nur sehr große Modellanbieter. KMU, die solche Modelle nutzen, sind Deployer oder Integratoren und tragen nicht die Art.-55-Pflichten des Modellanbieters.
Was ist der Code of Practice?+
Ein von der Branche unter Beteiligung des AI Office entwickeltes Regelwerk, das die GPAI- und systemischen Pflichten konkretisiert und Modellanbietern einen praktikablen Nachweisweg bietet, bis harmonisierte Normen vorliegen.
Direkt prüfen — kostenlos
Prüfe in 5 Minuten ob deine KI-Systeme unter den EU AI Act fallen — mit sofortigem Ergebnis.
Kostenloser EU AI Act Check →Dieser Artikel basiert auf der Verordnung (EU) 2024/1689 (EUR-Lex Originaltext) und EU-AI-Office-Guidelines. Wird monatlich aktualisiert. Hinweis: Technische Orientierung — kein Ersatz für Rechtsberatung.
Zuletzt aktualisiert: Juni 2026