Provider oder Deployer? Wie Sie Ihre Rolle im EU AI Act bestimmen

Warum Ihre Rolle über alles entscheidet

Der EU AI Act (Verordnung 2024/1689) knüpft fast jede Pflicht an eine Rolle. Bevor Sie über Konformitätsbewertung, technische Dokumentation oder Transparenzpflichten nachdenken, müssen Sie eine Frage beantworten: Was sind Sie im Verhältnis zu diesem konkreten KI-System? Dieselbe Firma kann für System A Provider und für System B Deployer sein.

Was ist ein Provider (Anbieter)?

Ein Provider ist nach Art. 3 Nr. 3 eine natürliche oder juristische Person, die ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt — entgeltlich oder unentgeltlich. Entscheidend ist nicht, wer programmiert hat, sondern unter wessen Namen das System auf den Markt kommt.

Provider tragen die umfangreichsten Pflichten: Risikomanagementsystem (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Protokollierung (Art. 12), Transparenz gegenüber Deployern (Art. 13), menschliche Aufsicht ermöglichen (Art. 14), Genauigkeit/Robustheit/Cybersicherheit (Art. 15), Konformitätsbewertung und CE-Kennzeichnung.

Was ist ein Deployer (Betreiber)?

Ein Deployer ist nach Art. 3 Nr. 4 eine Person, die ein KI-System unter eigener Verantwortung verwendet — außer im Rahmen einer persönlichen, nicht-beruflichen Tätigkeit. Wenn Ihr Unternehmen ein zugekauftes KI-Tool (z. B. ein HR-Screening-System) einsetzt, sind Sie typischerweise Deployer.

Deployer-Pflichten (Art. 26) sind schlanker, aber real: Verwendung gemäß Betriebsanleitung, Sicherstellung menschlicher Aufsicht durch kompetente Personen, Überwachung des Betriebs, Aufbewahrung der automatisch erzeugten Protokolle, Information betroffener Personen sowie — bei bestimmten Hochrisiko-Systemen — Durchführung einer Grundrechte-Folgenabschätzung (FRIA, Art. 27).

Wann ein Deployer zum Provider wird (Art. 25)

Das ist die Falle, die viele übersehen. Nach Art. 25 wird ein Deployer (oder Importeur/Händler) selbst zum Provider eines Hochrisiko-Systems, wenn er:

Praktisch heißt das: Wer ein GPAI-Modell so fine-tuned oder in einen hochriskanten Anwendungsfall integriert, dass er die Zweckbestimmung wesentlich prägt, kann unversehens in die volle Provider-Haftung rutschen.

Importeur und Händler — die übersehenen Rollen

Neben Provider und Deployer kennt der AI Act den Importeur (Art. 23 — bringt ein System eines Drittland-Providers in den EU-Markt) und den Händler (Art. 24 — stellt ein System bereit, ohne Provider oder Importeur zu sein). Beide haben Sorgfalts- und Prüfpflichten, etwa zur CE-Kennzeichnung und zur Verfügbarkeit der Dokumentation.

Praxis: So bestimmen Sie Ihre Rolle in drei Schritten

1. Wer bringt das System unter eigenem Namen in Verkehr? Sind das Sie → Provider. Ein anderer → Sie sind eher Deployer/Importeur/Händler. 2. Verändern Sie das System wesentlich oder ändern Sie seine Zweckbestimmung? Wenn ja → Art. 25 prüfen, Sie könnten Provider werden. 3. Nutzen Sie es nur im eigenen Betrieb gemäß Anleitung? → Deployer mit Art.-26-Pflichten.

Dokumentieren Sie diese Einordnung schriftlich pro System. Nach dem Digital Omnibus wird die Registrierungspflicht für selbst als nicht-hochriskant eingestufte Annex-III-Systeme (Art. 6(3)) beibehalten — Ihre Rollen- und Klassifikationsbegründung wird damit zum öffentlichen Artefakt, das einer Prüfung standhalten muss.

Pflichten im direkten Vergleich

Die folgende Gegenüberstellung zeigt, warum die Rollenbestimmung so viel Gewicht hat. Provider eines Hochrisiko-Systems müssen ein dokumentiertes Risikomanagementsystem über den gesamten Lebenszyklus führen (Art. 9), die Daten-Governance für Trainings-, Validierungs- und Testdaten sicherstellen (Art. 10), die vollständige technische Dokumentation nach Annex IV erstellen (Art. 11), die automatische Protokollierung technisch ermöglichen (Art. 12), Transparenz und Betriebsanleitungen für Deployer bereitstellen (Art. 13), menschliche Aufsicht by design ermöglichen (Art. 14) sowie Genauigkeit, Robustheit und Cybersicherheit gewährleisten (Art. 15). Hinzu kommen Konformitätsbewertung, EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung in der EU-Datenbank.

Deployer hingegen verwenden das System gemäß Betriebsanleitung, weisen die menschliche Aufsicht kompetenten Personen zu, überwachen den Betrieb auf Auffälligkeiten, bewahren die automatisch erzeugten Protokolle auf (mindestens sechs Monate, soweit nicht anders geregelt), informieren betroffene Personen über den Einsatz und führen — falls einschlägig — die FRIA nach Art. 27 durch. Die Pflichtenlast ist real, aber ungleich schlanker.

Häufige Fehleinordnungen in der Praxis

Drei Muster führen immer wieder zu falschen Einordnungen. Erstens: Ein Unternehmen lässt ein System von einer Agentur entwickeln, bringt es aber unter eigenem Namen heraus — und glaubt, die Agentur sei Provider. Tatsächlich ist das beauftragende Unternehmen Provider, weil es unter eigenem Namen in Verkehr bringt. Zweitens: Ein Deployer passt ein zugekauftes System tiefgreifend an und übersieht, dass er nach Art. 25 selbst Provider-Pflichten übernimmt. Drittens: Ein Reseller geht davon aus, keine Pflichten zu haben, obwohl er als Händler nach Art. 24 Prüf- und Sorgfaltspflichten trägt.

Rolle und Lieferkette

Der AI Act denkt in Lieferketten. Provider müssen nachgelagerten Akteuren die nötigen Informationen geben; Deployer dürfen sich nicht blind auf den Provider verlassen, sondern müssen den zweckkonformen Einsatz sicherstellen. Verträge zwischen Provider und Deployer sollten die jeweiligen Pflichten, Informationsflüsse und Haftungsfragen ausdrücklich regeln — gerade wenn GPAI-Modelle Dritter im Spiel sind. Eine saubere vertragliche Zuordnung ist der beste Schutz gegen unbeabsichtigte Rollenwechsel.