Gesetz zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz)

Worum geht es?

Die EU hat 2024 mit der KI-Verordnung einheitliche Regeln für künstliche Intelligenz in allen Mitgliedstaaten beschlossen. Die Verordnung gilt seit dem 1. August 2024 und ist größtenteils ab dem 2. August 2026 anzuwenden. Sie verbietet bestimmte KI-Anwendungen, stellt strenge Anforderungen an besonders riskante KI-Systeme und schreibt für manche KI-Systeme Transparenz vor. Zugleich soll sie Innovationen fördern, vor allem bei kleinen und mittleren Unternehmen und Start-ups.

Die Pflichten für Unternehmen sowie für Bürgerinnen und Bürger stehen direkt in der EU-Verordnung. Jeder Mitgliedstaat muss aber selbst bestimmen, welche Behörden die Regeln überwachen und durchsetzen. Das regelt dieses deutsche Durchführungsgesetz. Es benennt die zuständigen Behörden, beschreibt ihre Aufgaben und ihre Zusammenarbeit und regelt das Verfahren für Bußgelder. Den Kern bildet das neue „KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz“ (KI-MIG). Außerdem passt das Gesetz einige bestehende Gesetze an.

Die Bundesregierung hat den Entwurf eingebracht. Der Ausschuss für Digitales und Staatsmodernisierung hat ihn noch geändert, unter anderem kamen ein Register für bestimmte Hochrisiko-KI-Systeme und Regeln zur Überprüfung des Gesetzes hinzu. Im Ausschuss stimmten CDU/CSU und SPD dafür, AfD und Grüne dagegen, Die Linke enthielt sich. Zusätzlich hat der Bundestag eine Entschließung beschlossen: Die Bundesregierung soll die Beratungsangebote der Bundesnetzagentur regelmäßig darauf prüfen, wie effizient, wirksam und praxisnah sie sind.

Was ändert sich?

• Die Bundesnetzagentur ist grundsätzlich die Behörde, die die Einhaltung der KI-Verordnung überwacht. Sie ist auch die zentrale Anlaufstelle für die Öffentlichkeit, für andere EU-Staaten und für das KI-Büro der EU.
• Für bestimmte Bereiche sind andere Behörden zuständig: Bei KI in Produkten, die schon unter EU-Produktvorschriften fallen, sind es die bisherigen Marktüberwachungsbehörden. Bei KI im Finanzsektor, etwa bei Banken, Versicherungen oder Zahlungsdiensten, ist es die Finanzaufsicht BaFin. Setzen Landesbehörden oder Medien KI ein, sind Behörden der Länder zuständig.
• Bei der Bundesnetzagentur gibt es eine unabhängige KI-Marktüberwachungskammer mit drei Mitgliedern. Sie überwacht bestimmte Hochrisiko-KI-Systeme in sensiblen Bereichen wie Strafverfolgung, Grenzmanagement sowie Justiz und Demokratie. Sie berichtet dem Bundestag jährlich, erstmals für das Jahr 2026.
• Ein Koordinierungs- und Kompetenzzentrum bei der Bundesnetzagentur unterstützt die Behörden mit Fachwissen und stimmt ihre Zusammenarbeit ab. Es bezieht Zivilgesellschaft, Gewerkschaften, Wirtschaft, Wissenschaft und Länder ein. Nach den Änderungen des Ausschusses bietet es auch Schulungen, Informationen und Prüfempfehlungen an. Außerdem kann es einen Bund-Länder-Ausschuss Künstliche Intelligenz einrichten.
• Für Beschwerden von Betroffenen gibt es ein Verfahren, das leicht zugänglich, barrierefrei und benutzerfreundlich sein muss.
• Die Bundesnetzagentur führt ein nicht öffentliches Register für bestimmte Hochrisiko-KI-Systeme. Anbieter müssen sich und ihr System dort eintragen, bevor sie es auf den Markt bringen oder in Betrieb nehmen. Für Bundesbehörden, die solche Systeme nutzen, gilt das ebenso.
• Das Gesetz legt fest, welche Stellen Prüfstellen für KI-Systeme zulassen und überwachen. Es enthält außerdem Regeln für Bußgeldverfahren bei Verstößen gegen die KI-Verordnung.
• Die Bundesregierung muss die neue Behördenstruktur überprüfen: spätestens 18 Monate nach Inkrafttreten ein erstes Mal und spätestens nach drei Jahren umfassend. Über die Ergebnisse berichtet sie dem Bundestag.

Wen betrifft es?

• Unternehmen, die KI-Systeme entwickeln, anbieten oder nutzen: Sie wissen nun, welche Behörde für sie zuständig ist. Ihre Pflichten selbst ergeben sich aus der EU-Verordnung. Laut Entwurf entsteht für die Wirtschaft durch dieses Gesetz kein zusätzlicher Erfüllungsaufwand. Anbieter bestimmter Hochrisiko-KI-Systeme müssen sich aber in das neue Register eintragen.
• Finanzunternehmen wie Banken, Versicherungen, Zahlungsdienstleister und Krypto-Dienstleister: Für ihren KI-Einsatz ist die BaFin zuständig.
• Bürgerinnen und Bürger: Sie können sich bei einer zentralen Stelle beschweren. Laut Entwurf entsteht für sie kein Erfüllungsaufwand.
• Behörden von Bund und Ländern: Sie übernehmen neue Aufsichtsaufgaben. Das betrifft vor allem die Bundesnetzagentur, aber auch die BaFin, das Bundesamt für Sicherheit in der Informationstechnik, die Datenschutzbeauftragte des Bundes und die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin. Der Aufwand der Verwaltung steigt laut Entwurf jährlich um rund 49 Millionen Euro. Davon entfallen rund 15,9 Millionen Euro auf den Bund und rund 33,1 Millionen Euro auf Länder und Kommunen. Hinzu kommen einmalig rund 4,1 Millionen Euro.
• Öffentliche Stellen und Medienanbieter, die KI einsetzen: Sie werden von den jeweils zuständigen Behörden des Bundes oder der Länder beaufsichtigt.

Was heißt das für dich?

Digitales und IT

Wenn dein Unternehmen KI-Systeme entwickelt, anbietet oder nutzt, ist grundsätzlich die Bundesnetzagentur für die Überwachung der EU-KI-Verordnung zuständig, deren Regeln überwiegend ab dem 2. August 2026 gelten. Anbieter bestimmter Hochrisiko-KI-Systeme müssen sich und ihr System vor dem Markteintritt in ein nicht öffentliches Register bei der Bundesnetzagentur eintragen. Das Koordinierungs- und Kompetenzzentrum dort bietet auch Schulungen, Informationen und Prüfempfehlungen an.

Finanzbranche

Setzt dein Unternehmen als Bank, Versicherung, Zahlungs- oder Krypto-Dienstleister KI ein, ist die BaFin die zuständige Aufsicht für die Einhaltung der EU-KI-Verordnung. Das Gesetz ist am 28. Juli 2026 verkündet worden; die EU-Regeln gelten grundsätzlich ab dem 2. August 2026.

Öffentlicher Dienst

Arbeitest du in einer Behörde, die KI einsetzt oder beaufsichtigt, kommen neue Aufgaben auf dich zu: Bundesbehörden müssen bestimmte Hochrisiko-KI-Systeme vor der Nutzung ins Register der Bundesnetzagentur eintragen, und KI-Einsatz bei Landesbehörden wird von Behörden der Länder überwacht. Neue Aufsichtsaufgaben übernehmen vor allem die Bundesnetzagentur, aber auch BaFin, BSI, die Bundesdatenschutzbeauftragte und die BAuA.

Arbeitgeber und Unternehmen

Nutzt oder vertreibt dein Betrieb KI-Systeme, weißt du jetzt, welche Behörde zuständig ist: meist die Bundesnetzagentur, bei KI in bereits regulierten Produkten die bisherige Marktüberwachungsbehörde. Deine Pflichten selbst stehen in der EU-KI-Verordnung, die überwiegend ab dem 2. August 2026 gilt; durch dieses Gesetz entsteht laut Begründung kein zusätzlicher Aufwand.

Ab wann gilt es?

Das Gesetz wurde am 28. Juli 2026 verkündet (BGBl. I 2026, Nr. 223). Der genaue Tag des Inkrafttretens steht nicht in den vorliegenden Auszügen. Die Regeln der EU-Verordnung gelten grundsätzlich ab dem 2. August 2026.

Begriffe erklärt

KI-Verordnung

EU-Verordnung 2024/1689 mit einheitlichen Regeln für künstliche Intelligenz. Sie gilt direkt in allen EU-Staaten.

Marktüberwachungsbehörde

Behörde, die kontrolliert, ob Produkte und Systeme auf dem Markt die gesetzlichen Regeln einhalten. Bei Verstößen kann sie eingreifen.

Hochrisiko-KI-System

KI-System, das nach der EU-Verordnung als besonders riskant für Gesundheit, Sicherheit oder Grundrechte gilt. Für solche Systeme gelten strengere Anforderungen.

Konformitätsbewertungsstelle

Zugelassene Prüfstelle, die kontrolliert, ob ein KI-System die Anforderungen der EU-Verordnung erfüllt. Zugelassen wird sie von einer sogenannten notifizierenden Behörde.

Entschließung

Beschluss des Bundestags, mit dem er eine Haltung äußert oder die Bundesregierung zu etwas auffordert. Eine Entschließung ist selbst kein Gesetz.

Hinweis: Diese Erklärung wurde automatisch mit künstlicher Intelligenz (Claude von Anthropic) aus den Bundestagsdrucksachen erstellt und nicht redaktionell geprüft. Sie kann Fehler enthalten und ist keine Rechtsberatung. Rechtsverbindlich ist allein der im Bundesgesetzblatt verkündete Text.