Hochrisiko

EU AI Act für Schulen, Hochschulen & Weiterbildung

Stand: Mai 2026 · Innopulse Consulting GmbH, Zug

Auf einen Blick

Bildungs-KI ist über Annex III Nr. 3 Hochrisiko, wenn sie über Zulassung, Bewertung oder Cheating entscheidet. Lern-Apps zur Wissensvermittlung sind meist minimal. ChatGPT in Klassenräumen braucht KI-Literacy (Art. 4) und Transparenz.

Bildungseinrichtungen — Schulen, Universitäten, Erwachsenenbildung — sind nach Annex III Nr. 3 als Hochrisiko-Sektor eingestuft, sobald KI in Zulassung, Bewertung oder Verhaltens-Monitoring eingesetzt wird. Reine Lern-KI (Vokabel-Apps, adaptive Übungs-Tools) ist meist minimal-risk. Dieser Leitfaden zeigt die DACH-Bildungs-Compliance.

Was Annex III Nr. 3 erfasst

Annex III Nr. 3 lit. a-d: - (a) Zulassung zu Bildungseinrichtungen (Studienzulassung, Master-Auswahl) - (b) Bewertung von Lernergebnissen (automatische Aufsatz-Korrektur, ML-Klausur-Bewertung) - (c) Bewertung des Bildungsstands (Sprachstands-Tests, Einstufungs-KI) - (d) Verhaltens-Monitoring während Prüfungen (Online-Proctoring, Cheating-Detection)

Alle vier sind Hochrisiko mit voller FRIA, Logging, Transparenz an Prüfling.

Cheating-Detection und Online-Proctoring

Tools wie Proctorio, Respondus, ExamSoft sind Annex III Nr. 3 lit. d. Verschärft durch: - Webcam-Eye-Tracking nahe an Art. 5(1)(f) (Emotion am Bildungsplatz, soweit konkret untersagt) - Biometrik-Categorisation potenziell auch Annex III Nr. 1 - Hohe Diskriminierungsrisiken (dunkle Hauttöne schlechter erkannt; Behinderungen falsch interpretiert)

Niederlande: 2022 Vrije Universiteit gerügt für unrechtmässiges Proctoring. CJEU C-205/21 V.S. zeigt Sensibilität für biometrische Datenverarbeitung. Praxis: Proctoring nur mit klaren Alternativen, FRIA und CDM-Audit.

Plagiats-/KI-Erkennung (Turnitin, GPTZero)

Tools, die KI-generierte Texte erkennen, sind selbst KI — und nach Annex III Nr. 3 lit. b Hochrisiko.

Aktuelle Probleme: - GPTZero und Turnitin haben hohe Fehlerquoten — bis 5% False-Positives - Nicht-Muttersprachler werden überproportional als "KI-generiert" markiert - Mehrere DACH-Hochschulen haben Tools 2024 aussetzen müssen

Compliance-Anforderung: - Bias-Tests (Art. 10) - Menschliche Letzt-Entscheidung (Art. 14) - Transparenz an Prüfling - Beschwerdemechanismus mit Re-Bewertung - Dokumentation der Fehlerquote

ChatGPT, Copilot, Gemini im Unterricht

GPAI-Tools wie ChatGPT sind in Bildung breit einsetzbar — aber nicht in Hochrisiko-Funktionen ohne Konformitäts-Bewertung. Praxis-Pflichten: - Art. 4 KI-Literacy für Lehrer/Lehrbeauftragte - Art. 50 Disclosure beim KI-Einsatz - Datenschutz: keine personenbezogenen Schüler-Daten in OpenAI-Public-API - Schul-/Uni-spezifische AVV mit Microsoft Copilot oder OpenAI Enterprise - Keine automatisierte Schüler-Bewertung mit unsupervised GPT (das wäre Annex III ohne Konformitäts-Doku)

Mehrere DACH-Bildungsministerien haben 2024 Leitfäden veröffentlicht (KMK, BMBWF, EDK).

Zulassungs-KI an Hochschulen

Annex III Nr. 3 lit. a erfasst Zulassungs-KI: - Master-Auswahl-Algorithmen (Note + Erfahrung + Statement-Scoring) - Numerus-Clausus-Erweiterungs-Verfahren mit ML - Stipendien-Vergabe-Tools - Wohnheimsplatz-Verteilung mit Priorisierung

FRIA ist Pflicht. Diskriminierungs-Audit zwingend (Geschlecht, Migrationshintergrund, Behinderung). Beschwerdemechanismus muss menschliche Re-Prüfung erlauben.

Best Practice: Hochschule Bayern hat 2024 Leitfaden zur "fairen KI-Auswahl" publiziert; ÖHV (AT), swissuniversities (CH) haben analoge Empfehlungen.

Häufige Fragen

Dürfen Lehrer ChatGPT zur Klausur-Korrektur nutzen?

Eingeschränkt. Wenn die KI nur Vorschläge macht und Lehrkraft entscheidet: minimal-risk. Wenn die KI die Bewertung allein macht und Lehrkraft nur unterschreibt: Annex III Nr. 3 lit. b — voll regulatory mit FRIA, Logging, Transparenz. In der Praxis: Tools wie Turnitin Feedback Studio sind kontrolliert einsetzbar; reine ChatGPT-Korrektur ohne Konformitäts-Doku ist riskant.

Was ist mit Sprachlern-Apps wie Babbel oder Duolingo?

Reine Lern-Apps zur Wissensvermittlung ohne formelle Zertifizierung sind minimal-risk. Sobald Sprachzertifikate ausgestellt werden, die für Visa, Hochschulzulassung oder Arbeitsverträge relevant sind, kippt es in Annex III Nr. 3 lit. c.

Sind Vokabel-Karteikarten-KIs Hochrisiko?

Nein. Adaptive Repetition (Anki, Quizlet, Duolingo) ist minimal-risk. Sie geben kein Zertifikat aus und entscheiden nicht über formelle Bildungsbewertungen.

Brauchen Schulen eine FRIA?

Ja, bei jedem Annex-III-Hochrisiko-System (Art. 27). Schulen sind öffentliche Einrichtungen — daher gelten verschärfte Pflichten inkl. EU-Datenbank-Registrierung (Art. 49) und Transparenz an Eltern/Schüler.

Wie verhält sich der AI Act zum Schulrecht in DE/AT/CH?

Komplementär. Schulgesetze regeln pädagogischen Auftrag; AI Act regelt KI-Komponenten. Wichtig: Schulleitungen sind als Deployer verantwortlich; Lehrkräfte als Anwender brauchen Schulung. Datenschutzbehörden der Bundesländer (DE), des Bundes (AT) und Kantone (CH) haben sektorspezifische Leitfäden veröffentlicht.

Relevante Rechtsgrundlagen

Annex III Nr. 3Art. 4 EU AI ActArt. 50 EU AI ActArt. 5(1)(f)

Klassifiziert Ihre KI-Systeme — kostenlos

In 5 Minuten Risiko-Klasse, FRIA-Pflicht und Compliance-Aufwand für jede Schulen, Hochschulen & Weiterbildung-KI.

Kostenloser EU AI Act Quick-Check →

Innopulse Consulting GmbH — EU AI Act Compliance

Verfasst auf Basis der Verordnung (EU) 2024/1689, EDPB-Guidelines und CJEU-Rechtsprechung (C-634/21 SCHUFA, C-203/22 Dun & Bradstreet). Gotthardstrasse 30, 6300 Zug, Schweiz · UID CHE-219.727.921.

Hinweis: Technische Orientierung — kein Ersatz für anwaltliche Rechtsberatung.

Alle Branchen Quick-Check