Anatomie eines KI-Enforcement-Verfahrens: Ablauf und Stellschrauben

Die Höhe möglicher Geldbußen nach Art. 99 der Verordnung (EU) 2024/1689 ist bekannt. Weit weniger präsent ist, wie ein Enforcement-Verfahren überhaupt entsteht, welche Phasen es durchläuft und an welchen Punkten eine Organisation noch gestalten kann. Genau das entscheidet in der Praxis über den Ausgang: Ein Verfahren wird selten am Tag der Bußgeldfestsetzung gewonnen oder verloren, sondern in den Wochen davor. Diese Seite ordnet den Ablauf entlang der Verfahrensnormen des EU AI Act — nicht der Sanktionsnormen.

Die rechtliche Grundarchitektur

Der EU AI Act schafft kein eigenständiges Verfahrensrecht. Art. 74 verweist für die Marktüberwachung von KI-Systemen auf die Marktüberwachungsverordnung (EU) 2019/1020 und erklärt deren Instrumentarium für anwendbar. Darauf aufbauend enthalten Art. 79 bis Art. 83 des AI Act spezifische Verfahren für KI-Systeme, die ein Risiko darstellen, für formale Verstöße und für die unionsweite Eskalation.

Praktisch heißt das: Das Verfahren wird von einer nationalen Marktüberwachungsbehörde geführt, nach nationalem Verwaltungsverfahrensrecht — in Deutschland also nach VwVfG und gegebenenfalls OWiG. Die europäische Ebene setzt den materiellen Rahmen und greift erst bei Uneinigkeit oder bei GPAI-Modellen unmittelbar ein. Wer im Verfahren steht, verhandelt zunächst mit einer nationalen Behörde, nicht mit Brüssel.

Phase 1 — Der Auslöser

Ein Verfahren beginnt nicht spontan. Es gibt im Wesentlichen fünf Eingangskanäle:

Meldung eines schwerwiegenden Vorfalls. Anbieter von Hochrisiko-KI müssen nach Art. 73 schwerwiegende Vorfälle an die Marktüberwachungsbehörde melden — als Regelfrist nennt die Norm 15 Tage nach Kenntniserlangung, mit verkürzten Fristen für besonders schwere Fälle, unter anderem beim Tod einer Person. Die eigene Meldung ist damit selbst ein häufiger Verfahrensauslöser. Das ist kein Widerspruch, sondern gewollt: Die Verordnung setzt darauf, dass Vorfälle sichtbar werden.

Beschwerde. Art. 85 gibt jeder natürlichen oder juristischen Person das Recht, bei der zuständigen Marktüberwachungsbehörde Beschwerde einzulegen. Ergänzend gewährt Art. 86 betroffenen Personen ein Recht auf Erläuterung bei bestimmten Einzelentscheidungen durch Hochrisiko-KI — eine praktische Vorstufe zur Beschwerde.

Hinweis aus dem Unternehmen. Art. 87 unterstellt Meldungen von Verstößen dem Schutzregime der Whistleblower-Richtlinie (EU) 2019/1937. Interne Hinweisgebersysteme sind damit nicht nur Compliance-Pflicht, sondern reale Verfahrensquelle.

Behördeninitiative. Marktüberwachung ist stichprobenbasiert. Behörden dürfen prüfen, ohne dass ein konkreter Verdacht vorliegt.

Zulieferung anderer Aufsichten. Datenschutzbehörden, Sektoraufsichten und die nach Art. 77 mit Grundrechtsschutz betrauten Stellen können Verfahren anstoßen oder Erkenntnisse übermitteln.

Phase 2 — Die Prüfphase

Hier fällt die Vorentscheidung. Die Behörde bewertet nach Art. 79 Abs. 1, ob das KI-System ein Risiko darstellt, und stützt sich dabei auf die Befugnisse der Verordnung (EU) 2019/1020: Auskunftsverlangen, Zugang zu Dokumentation, in bestimmten Konstellationen Zugang zu Trainingsdaten und — soweit erforderlich und verhältnismäßig — zum Quellcode.

Der praktische Hebel liegt in der Vorbereitung. Wer eine technische Dokumentation nach Anhang IV, ein Risikomanagementsystem nach Art. 9, Logs nach Art. 12 und eine dokumentierte menschliche Aufsicht nach Art. 14 innerhalb weniger Tage vollständig, versioniert und nachvollziehbar vorlegt, führt ein anderes Gespräch als eine Organisation, die Nachweise erst rekonstruieren muss. Die Beweislage entsteht nicht im Verfahren — sie wird im Betrieb erzeugt oder eben nicht.

Ein Punkt, der oft übersehen wird: Art. 78 verpflichtet Behörden zur Vertraulichkeit gegenüber Geschäftsgeheimnissen und Quellcode. Die Sorge, Kooperation bedeute Offenlegung gegenüber Wettbewerbern, ist rechtlich adressiert.

Phase 3 — Korrekturaufforderung und Frist

Stellt die Behörde Nichtkonformität fest, ist der nächste Schritt keine Geldbuße, sondern eine Aufforderung. Nach Art. 79 Abs. 2 verlangt sie vom betroffenen Akteur, das System in Konformität zu bringen, vom Markt zu nehmen oder zurückzurufen — innerhalb einer von ihr gesetzten Frist, die in jedem Fall 15 Arbeitstage nicht überschreitet, sofern nicht spezielleres Unionsrecht etwas anderes vorsieht.

Diese Frist ist der eigentliche Engpass. Fünfzehn Arbeitstage genügen nicht, um ein Risikomanagementsystem aufzubauen, ein Modell neu zu trainieren oder eine Konformitätsbewertung nachzuholen. Sie genügen, um eine bereits vorhandene Konformität zu belegen oder eine bereits geplante Korrektur auszuführen. Organisationen, die an diesem Punkt scheitern, sind nicht am Verfahren gescheitert, sondern an der Vorlaufzeit.

Parallel dazu greift bei rein formalen Mängeln Art. 83 — fehlende oder unrechtmäßig angebrachte CE-Kennzeichnung, fehlende EU-Konformitätserklärung, fehlende Registrierung, fehlende technische Dokumentation. Auch hier steht die Beseitigung des Mangels vor der Sanktion. Formale Verstöße sind der wahrscheinlichste Einstieg in ein Verfahren, weil sie ohne technische Tiefenprüfung feststellbar sind.

Phase 4 — Maßnahmen und unionsweite Eskalation

Bleibt die Korrektur aus, ergreift die nationale Behörde einstweilige Maßnahmen: Beschränkung, Marktrücknahme, Rückruf. Sie informiert Kommission und übrige Mitgliedstaaten. Erhebt ein anderer Mitgliedstaat oder die Kommission Einwände, greift das Schutzklauselverfahren nach Art. 81: Die Kommission bewertet, ob die nationale Maßnahme gerechtfertigt ist. Ist sie es, müssen alle Mitgliedstaaten entsprechende Maßnahmen ergreifen — aus einem nationalen Verfahren wird ein Binnenmarkt-Ausschluss.

Art. 82 regelt den unbequemen Sonderfall: Ein KI-System kann formal konform sein und dennoch ein Risiko für Gesundheit, Sicherheit oder Grundrechte darstellen. Auch dann darf die Behörde Maßnahmen anordnen. Konformität ist damit keine Immunität.

Die Geldbuße nach Art. 99 steht am Ende dieser Kette, nicht an ihrem Anfang. Für Anbieter von GPAI-Modellen läuft das Verfahren abweichend: Hier evaluiert und sanktioniert die Kommission über das AI Office selbst, mit eigenem Bußgeldregime nach Art. 101.

Wo Organisationen tatsächlich Einfluss haben

Drei Stellschrauben, in absteigender Wirksamkeit.

Vor dem Verfahren. Die Bemessungsfaktoren des Art. 99 Abs. 7 belohnen unter anderem Kooperation, unverzügliche Abstellung des Verstoßes und vorhandene Managementstrukturen. Ein dokumentiertes AI-Management-System — AIMS nach ISO 42001, in seiner Reifegradbewertung entlang CMMI v3 — ist der einzige Faktor, den eine Organisation Jahre vor dem Verfahren beeinflussen kann. Es ist keine Garantie gegen Sanktionen; es ist ein Verhandlungsfundament.

In der Prüfphase. Vollständigkeit und Auffindbarkeit von Evidenz schlagen Argumentationsqualität. Nachweise, die erst gesucht werden müssen, wirken auf Behörden wie Nachweise, die es nicht gibt.

In der Korrekturfrist. Ein belastbarer, terminierter Abhilfeplan verschiebt die Diskussion von der Sanktionsfrage zur Umsetzungsfrage. Das ist die letzte Weiche vor der Eskalation.

Mit dem Beginn der Durchsetzung am 02.12.2027 wird dieser Ablauf von einem Papierverfahren zu gelebter Verwaltungspraxis. Die Vorlaufzeit ist die eigentliche Ressource.

Was aus der Korrekturfrist praktisch folgt — Templates, Nachweisstrukturen und Audit-Vorbereitung: ki-hochrisiko.de. Der Gesamtkontext des EU AI Act: Leitfaden auf eu-ai-verordnung.de.

Trust-Infrastructure systematisch aufbauen statt reaktiv auf Enforcement reagieren — mehr unter aegira.ai.