Aufsichtsbehörden für KI in Deutschland: Wer setzt durch?

Wer in Deutschland ein KI-System betreibt oder in Verkehr bringt, bekommt es im Enforcement-Fall nicht mit "der EU" zu tun, sondern mit einer konkreten nationalen Behörde. Der EU AI Act (Verordnung (EU) 2024/1689) verpflichtet jeden Mitgliedstaat, eigene zuständige Behörden zu benennen — eine notifizierende Behörde und mindestens eine Marktüberwachungsbehörde (Art. 70). Diese Seite ordnet, wer in Deutschland was durchsetzt, und wo die Zuständigkeit stattdessen in Brüssel liegt.

Das Grundprinzip: Marktüberwachung national, GPAI-Aufsicht in Brüssel

Der EU AI Act trennt zwei Aufsichtsebenen. Für klassische KI-Systeme — also alles, was unter die Risikoklassen-Logik fällt, insbesondere Hochrisiko-Systeme nach Annex III — liegt die Durchsetzung bei den nationalen Marktüberwachungsbehörden. Sie führen Verfahren, verhängen Bußgelder nach dem Rahmen des Art. 99 und können Anordnungen bis hin zur Marktrücknahme treffen.

Für General-Purpose-AI-Modelle (GPAI, Kapitel V der Verordnung) ist dagegen das AI Office der Europäischen Kommission in Brüssel zuständig. Wer ein Foundation Model anbietet, hat seinen Aufsichtskontakt direkt auf EU-Ebene; wer ein solches Modell lediglich in eine Anwendung integriert und betreibt, bleibt im nationalen Regime. Für die meisten Unternehmen in DE ist damit die nationale Ebene die relevante.

BNetzA: die zentrale Marktüberwachung

Deutschland hat sich für ein Modell mit zentraler Anlaufstelle entschieden: Die Bundesnetzagentur (BNetzA) ist als zentrale Marktüberwachungsbehörde für den EU AI Act vorgesehen. Sie übernimmt die Rolle des nationalen Single Point of Contact gegenüber dem AI Office und koordiniert die KI-Aufsicht über Sektoren hinweg.

Für die Praxis bedeutet das: Beschwerden, Marktüberwachungsverfahren und Auskunftsersuchen zu Hochrisiko-KI-Systemen außerhalb regulierter Sonderbereiche laufen über die BNetzA. Sie ist auch die Stelle, die das deutsche Reallabor-Regime (Regulatory Sandbox nach Art. 57 ff.) administriert — relevant für Unternehmen, die neue Hochrisiko-Anwendungen unter behördlicher Begleitung erproben wollen.

Wichtig für die zeitliche Einordnung: Die organisatorische Ausgestaltung der deutschen KI-Aufsicht war über mehrere Gesetzgebungsrunden in Bewegung. Verbindlich ist, was im jeweils aktuellen Durchführungsgesetz steht — der hier beschriebene Zuschnitt gibt den Stand der Behördenarchitektur wieder, nicht jede Detailregelung des Verfahrensrechts.

BfDI: Datenschutz-Schnittstelle und sensible Annex-III-Bereiche

Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) bleibt eigenständige Aufsicht für alles, was die DSGVO betrifft — und KI-Systeme verarbeiten fast immer personenbezogene Daten. Ein Enforcement-Verfahren kann deshalb zweigleisig laufen: AI-Act-Verstoß bei der Marktüberwachung, Datenschutzverstoß bei der Datenschutzaufsicht. Beide Sanktionen sind kumulativ möglich; Details dazu im Beitrag zum Strafrahmen des Art. 99.

Hinzu kommt eine Besonderheit des AI Act selbst: Für Hochrisiko-Systeme in den Bereichen Strafverfolgung, Migration, Grenzkontrolle und Justiz sieht Art. 74 Abs. 8 vor, dass die Marktüberwachung bei den Datenschutzaufsichtsbehörden oder anderen unter denselben Unabhängigkeitsanforderungen benannten Behörden liegt. In diesen grundrechtssensiblen Feldern ist die Datenschutzaufsicht also nicht nur Parallel-, sondern Hauptaufsicht. Für Unternehmen im privatwirtschaftlichen Bereich bleibt daneben die Landesdatenschutzaufsicht des jeweiligen Bundeslands für DSGVO-Fragen zuständig — die föderale Struktur des deutschen Datenschutzes setzt sich hier fort.

BaFin: Finanzsektor bleibt bei der Finanzaufsicht

Für KI-Systeme, die von regulierten Finanzinstituten eingesetzt werden, ordnet Art. 74 Abs. 6 EU AI Act an, dass die Finanzaufsicht — in Deutschland die BaFin — als Marktüberwachungsbehörde fungiert, soweit das System im Zusammenhang mit ihrer bestehenden Aufsichtstätigkeit steht. Das ist konsequent: Kreditwürdigkeitsprüfung und Risikobewertung bei Lebens- und Krankenversicherungen sind Annex-III-Use-Cases, und die BaFin kennt die Institute bereits aus der laufenden Aufsicht.

Praktisch heißt das für Banken und Versicherer: Der KI-Enforcement-Kontakt ist derselbe wie der prudenzielle — mit allen Konsequenzen. Die BaFin kann AI-Act-Befunde mit aufsichtsrechtlichen Instrumenten aus KWG und VAG verbinden, von Auflagen bis zu Geschäftsleiter-Konsequenzen. Die Eskalationsleiter ist im Finanzsektor damit länger als das reine Bußgeld.

Notifizierende Behörde und Konformitätsbewertung

Neben der Marktüberwachung verlangt der AI Act eine notifizierende Behörde, die Konformitätsbewertungsstellen (notified bodies) benennt und überwacht. In Deutschland ist diese Rolle bei der zentralen KI-Aufsicht angesiedelt, fachlich unterstützt durch die etablierte Akkreditierungsinfrastruktur (DAkkS). Für Anbieter von Hochrisiko-KI, die eine Drittzertifizierung benötigen, ist das der Pfad, über den ihre Prüfstelle ihre Befugnis erhält.

Wer ist mein Ansprechpartner? Kurz-Matrix

Die Zuordnung lässt sich auf vier Fragen reduzieren. Sind Sie ein reguliertes Finanzinstitut? Dann BaFin. Betreiben Sie Hochrisiko-KI in Strafverfolgung, Migration oder Justiz? Dann Datenschutzaufsicht als Marktüberwachung. Bieten Sie ein GPAI-Modell an? Dann AI Office Brüssel. Alles andere — und das ist die Mehrheit der Fälle, vom HR-Screening bis zur Qualitätskontrolle: BNetzA als zentrale Marktüberwachung, flankiert von der Datenschutzaufsicht für die DSGVO-Seite.

Zum Vergleich: Die Schweiz kennt keine AI-Act-Marktüberwachung, dort führen EDÖB und FINMA die Aufsicht über bestehendes Recht — eine eigene Architektur, die ki-regulierung.ch im Detail behandelt. Wer als Schweizer Anbieter in die EU liefert, fällt dennoch unter die hier beschriebene deutsche bzw. EU-Aufsicht.

Was das für die Vorbereitung auf den 02.12.2027 bedeutet

Mit dem Enforcement-Start am 02.12.2027 (Digital Omnibus) werden diese Zuständigkeiten scharf. Drei Konsequenzen für die Vorbereitung:

Erstens: Den eigenen Aufsichtspfad kennen. Ein Unternehmen mit KI im HR-Bereich und einer Tochter im Finanzsektor hat zwei verschiedene Marktüberwachungsbehörden — die Verfahren laufen getrennt und können unterschiedlich ausgehen.

Zweitens: Doppelzuständigkeit ernst nehmen. Marktüberwachung und Datenschutzaufsicht tauschen sich aus; eine Beschwerde bei der einen Behörde kann ein Verfahren bei der anderen auslösen. Wer nur eine der beiden Schienen dokumentationsfest bedient, hat eine offene Flanke.

Drittens: Nachweisbarkeit vor Zuständigkeitstaktik. Welche Behörde auch zuständig ist — verlangt wird dieselbe Substanz: technische Dokumentation, Risikomanagement, menschliche Aufsicht, Logs. Ein dokumentiertes AI-Management-System nach ISO 42001 wirkt bei jeder der genannten Behörden als Bemessungsvorteil im Verstoßfall. Einen Gesamtüberblick über die Pflichtenlage gibt der Leitfaden auf eu-ai-verordnung.de.

Trust-Infrastructure systematisch aufbauen statt reaktiv auf Enforcement reagieren — mehr unter aegira.ai.