STELLUNGNAHME | DIGITALPOLITIK | KÜNSTLICHE INTELLIGENZ
Regierungsentwurf eines Gesetzes zur Durchführung der Verordnung (EU)2024/1689
Stellungnahme zum Durchführungsgesetz der KI-Verordnung
13. März 2026
Vorbemerkung
Der Einsatz von Künstlicher Intelligenz (KI) ist ein Wettbewerbsfaktor, mit dem die verfügbaren Ressourcen von Fachkräften wirtschaftlicher genutzt werden können. Die Verordnung (EU) 2024/1689 (im Folgenden „KI-VO“) ist in diesem Zusammenhang von volkswirtschaftlicher Relevanz. Um Unternehmen Rechtssicherheit im Umgang mit KI zu bieten, ist es dringlich, dass der vorliegende Regierungsentwurf zur Durchführung der KI VO (im Folgenden „KI VO DG RE“) das Gesetzgebungsverfahren zügig durchläuft. Dabei ist nach Überzeugung des BDI zuvorderst ein harmonisierter, schlanker und nutzerorientierter Durchsetzungsansatz sicherzustellen, um die Innovationskraft und die internationale Wettbewerbsfähigkeit der deutschen Industrie zu ermöglichen Damit KI-gestützte Innovationen vorangetrieben werden, muss die Aufsichtsstruktur transparent und Stakeholder inklusiv ausgestaltet sein, indem etwa relevante Stakeholder frühzeitig einbezogen werden. Kleinteilige Strukturen und konkurrierende Aktivitäten verschiedener Ressorts behindern eine weitsichtige institutionelle Zuständigkeitsklärung für Künstliche Intelligenz.
Darüber hinaus muss die Durchführung der Verordnung eng durch sektorspezifische technische Leitlinien begleitet werden, die auch neue technologische Entwicklungen spiegeln und, wo nötig, entsprechend ohne langwierige Gesetzgebungsverfahren angepasst werden. Eine sich rasant entwickelnde Technologie wie Künstliche Intelligenz muss sich institutionell in einer Gesetzgebung niederschlagen, die unternehmerische Freiheiten erhält.
Damit nationale Aufsichtsbehörden gelingen können, sollten diese aus Sicht der Industrie nur nachrangig Sanktionsfunktionen erfüllen. Die nationale Aufsicht über die KI-VO muss das Schaffen eines gemeinsamen Binnenmarktes für KI, Innovations- und Investitionsförderung sowie die Förderung der allgemeinen Nutzung von KI in Wirtschaft und Forschung sicherstellen. Zudem sind die Vorgaben des AI Acts, insbesondere für bereits stark regulierte Bereiche (Annex I), im Zuge des Simplification-Prozesses zu vereinfachen und bürokratische Hürden bzw. Komplexität abzubauen.
Zu § 2 KI-VO-DGRE Zuständige Marktüberwachungsbehörden
Kurzfristig befürworten wir die Benennung der BNetzA als zentrale Aufsichtsbehörde. Aufgrund der Kürze der Umsetzungsfristen wurde hier insgesamt ein pragmatischer Ansatz gewählt. Mittelfristig sollte das Ziel verfolgt werden, die bei der Bundesnetzagentur gebündelten Kompetenzen im Bereich der KI Aufsicht institutionell weiterzuentwickeln und dauerhaft zu verstetigen. Dabei sollte geprüft werden, wie eine stärker integrierte, digitalpolitisch kohärente Aufsichtsstruktur unter Wahrung bestehender sektoraler Zuständigkeiten erreicht werden kann.
In jedem Fall muss langfristig die Finanzierung eines solchen Single Point of Contact nachvollziehbar geklärt werden Auch kurzfristig muss die BNetzA zur Erfüllung ihrer Aufgaben mit fachlich qualifizierten personellen Kapazitäten ausgestattet werden
Ungeachtet dessen begrüßt der BDI, dass sektoral zuständige Behörden nach Anhang I der KI-VO weiterhin für die Marktüberwachung zuständig bleiben und von der BNetzA durch Koordination und Bereitstellung von Expertise unterstützt werden (s. dazu ausführlich § 5 KI-VO-DG-E). So bleibt Domänenwissen weiterhin Teil der Entscheidungspraxis und festgelegte Kompetenzen und Zuständigkeiten werden nicht untergraben Für die erfolgreiche Durchsetzung der KI-VO ist eine zielgruppenspezifische Kommunikation und Abstimmung der Aufsichtsbehörden entscheidend, da aufgrund der komplex verteilten Verantwortlichkeiten entlang der Wertschöpfungskette für Unternehmen, insbesondere für KMU, Unklarheiten über die Rolle eines Unternehmens als Provider, Deployer oder User bestehen.
Der BDI begrüßt es, dass eine angestrebte Unabhängige KI-Marktüberwachungskammer (UKIM) eingerichtet wird, welche gem. § 2 Abs. 5 KI-VO-DG-E die Marktüberwachung für grundrechtssensible Bereiche übernimmt. Eine solche Stelle bei der BNetzA zu errichten, ist nach Ansicht des BDI einer Marktüberwachung durch die Datenschutzbehörden zu bevorzugen, weil diese keine Erfahrung in der Produktregulierung vorweisen und sich als eher innovationsskeptisch erwiesen haben.
In das bei der BNetzA vorgesehene wissenschaftliche Gremium (§ 2 Abs. 6 KI-VO-DG-E) sollten Branchenexpertinnen und -experten als Sachverständige in relevantem Maße eingebunden werden, um die Arbeit der zentralen Aufsichtsbehörde fachlich zu begleiten. Auf diese Weise würde sichergestellt, dass ökonomisches Erfahrungswissen systematisch in die Beurteilung von technischer Fragestellung einfließt.
Der Vorsatz, die Zuständigkeit für die Aufsicht und Zulassung von KI-Systemen, die unter Anhang I Abschnitt B fallen, bei den dort bereits bestehenden sektorspezifischen Aufsichtsstrukturen zu belassen, ist bereits im Begründungsteil des Referentenentwurfs (S. 20) als Zukunftsklausel angelegt. Angesichts der Bedeutung dessen, Doppelstrukturen zu vermeiden, sollte diese Zielsetzung ausdrücklich gesetzlich abgesichert werden, um bei zukünftigen europäischen Rechtsakten und bei Überschneidungen mehrerer Anhänge der KI VO spezifische und rechtssichere Zuständigkeitszuweisungen zu gewährleisten.
Ebenso sollten verwirrende Aufsichtsstrukturen vermieden werden, indem für Konstellationen, in welchen die Zuständigkeit klärungsbedürftig ist, frühzeitig die jeweils zuständige Behörde klargestellt wird. Eine solche Konstellation besteht etwa, wenn ein Automotive-KI-System unter Annex I Abschnitt A und Annex I Abschnitt B fällt (Radarsensor), oder unter Annex III und Annex I Abschnitt B (Biometrie im Fahrzeug), wobei in dem benannten Beispiel das KBA zuständig sein sollte. Wir begrüßen ausdrücklich, dass die Aufsicht über Hochrisiko-KI-Systeme, die in direktem Zusammenhang mit der Erbringung
von Finanz- und Versicherungsdienstleistungen durch Finanz- und Versicherungsinstitute stehen (KIVerordnung, Anhang III 5 b) und c)), der Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin) übertragen werden soll. Dabei sollte jedoch berücksichtigt werden, dass Hochrisiko-KI-Systeme im Bereich der Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen (Anhang III 5 b)) sowie im Bereich der Lebens- und Krankenversicherung (Anhang III 5 c)) zwar überwiegend, aber nicht ausschließlich im Finanz- und Versicherungssektor eingesetzt werden.
Um überlappende Mehrfachstrukturen zu vermeiden und bestehende Fachkompetenz zu bündeln, sollte daher auch der Einsatz von Hochrisiko-KI-Systemen unter Anhang III 5 b) und c) außerhalb des Finanz- und Versicherungssektors unter die Aufsicht der BaFin fallen. Dies sollte ausdrücklich im Durchführungsgesetz festgelegt werden.
Der Regierungsentwurf sieht vor, dass bei KI Systemen, die durch öffentliche Stellen der Länder eingesetzt werden, die Marktüberwachung bei den Ländern liegt. Diese föderale Zuständigkeitsverteilung birgt die Gefahr einer fragmentierten Vollzugspraxis und divergierender Auslegungen. Wir halten es daher für zwingend erforderlich, dass bundeseinheitliche Vollzugsleitlinien entwickelt werden und dem Koordinierungs und Kompetenzzentrum eine starke Rolle bei der Harmonisierung des Vollzugs zukommt.
Kritisch sehen wir, dass Marktüberwachungsbehörden das Recht erhalten, eigenständig über die Einstufung als Hochrisiko-KI zu entscheiden – auch abweichend von Herstellerangaben. Dies kann die ohnehin schon schwierige Abgrenzung von Hochrisiko-KI unnötig verkomplizieren. Wir appellieren hier an einen pragmatischen Vollzug, der im Dialog mit allen beteiligten Stakeholdern erfolgen sollte.
Zu § 3 KI-VO-DG-RE Notifizierende Behörden und Akkreditierung
Die BNetzA grundsätzlich als zuständige notifizierende Behörde zu benennen, ist im Sinne einer harmonisierten, schlanken und nutzerorientierten Durchsetzungsstruktur und wird daher ebenso vom BDI begrüßt, wie die Rücksichtnahme auf etablierte sektorale Strukturen. Damit es nicht zu Engpässen oder Verzögerungen kommt, ist die BNetzA mit fachlich qualifiziertem Personal und Know-how auszustatten, auch vor dem Hintergrund neuer Beratungs und Koordinierungsaufgaben.
Ergänzend sollte im Gesetzgebungsverfahren sichergestellt werden, dass Akkreditierungs- und Notifizierungsverfahren für Konformitätsbewertungsstellen deutlich beschleunigt und praxistauglich ausgestaltet werden. Angesichts der ambitionierten Fristen der KI-Verordnung ist die fristgerechte Benennung geeigneter Prüfstellen ein kritischer Umsetzungspfad. Dafür bedarf es schleunigst klarer und einheitlicher verfügbarer Kriterien sowie effizienter Verfahren. Bestehende Akkreditierungen und Notifizierungen aus angrenzenden Bereichen des EU-Harmonisierungsrechts sollten dabei konsequent anerkannt und um KI-spezifische Anforderungen für Prüfstellen erweitert werden können, um Doppelstrukturen zu vermeiden und eine rasche Verfügbarkeit leistungsfähiger Prüfkapazitäten sicherzustellen
Zu § 5 KI-VO-DG-E Koordinierungs- und Kompetenzzentrum
Der BDI betont, dass es zwischen den deutschen Bundesländern nicht zu gravierenden Auslegungsunterschieden und Verantwortungsdiffusion bei der Umsetzung der KI-VO kommen darf bzw. unklare oder Doppelstrukturen vermieden werden müssen, da dies zu Rechtsunklarheit führen würde und nicht effizient wäre Insofern begrüßt der BDI, dass bei der BNetzA ein Koordinierungs- und
Kompetenzzentrum (KoKIVO) eingerichtet werden soll, welches in komplexen Entscheidungen als Ansprechpartner für die nach § 2 und § 3 KI-VO-DG-RE zuständigen Behörden dient, Koordinationsstelle für die zuständigen Behörden ist und auf eine einheitliche Beantwortung horizontaler Rechtsfragen hinwirkt, sowie bei der Aufstellung von Verhaltenskodizes mitwirkt. Langfristig jedoch sollte die einheitliche Beantwortung horizontaler Rechtsfragen durch Bündelung zentraler Aufsichtsbehörden sichergestellt werden, wobei sektoralen Besonderheiten Raum gegeben werden muss.
Um eine erfolgreiche Koordination zu gewährleisten, sollten die Erfahrungswerte der Industrie miteingebunden werden. Eine Beteiligung der Industrie ist essenziell, um praxisnahe Regeln für KI-Systeme und KI-Anwendungen zu entwickeln. Die Bedarfe der Industrie sollten über institutionalisierte Kanäle in den Prozess einfließen. Daher sollte zusätzlich ein Industrie-Expertenrat geschaffen werden, um agile Feedbackstrukturen aufzubauen, die den Wissenstransfer aus der Praxis in die Regulierungslandschaft garantiert
Weiterhin ist es für die Wettbewerbsfähigkeit des Standorts Deutschland notwendig, dass in Deutschland ansässige Unternehmen nicht strenger geprüft und überwacht werden als Unternehmen in oder aus anderen EU-Staaten. Eine derartige Inländerdiskriminierung sollte verhindert werden und ließe sich dem Aufgabenbereich der KoKIVO hinzufügen
Die KoKIVO sollte die Kompetenz haben, im Streitfall frühzeitig zu vermitteln und durch Leitlinien, koordinierte Stellungnahmen und transparente Verfahren faktisch verbindliche Orientierung für die Aufsichtspraxis zu schaffen.
Zu § 9 KI-VO-DG-RE Zusammenarbeit der zuständigen Behörden
Im Rahmen ihrer Zusammenarbeit mit anderen zuständigen Behörden muss sich die BNetzA gem. § 9 (4) Nr. 1 KI-VO-DG-RE mit den Datenschutzaufsichtsbehörden des Bundes und der Lände einbeziehen. Die Bundesregierung verzichtet insofern im Bereich der Datenschutzaufsicht auf eine Kompetenzbündelung bei der BfDI, wie sie in § 3 DA-DG-E im Regierungsentwurf eines Durchführungsgesetzes zum EU-Data Act vorgesehen ist.
Aus Sicht des BDI muss die Kompetenz- und Entscheidungsbündelung auch für datenschutzrechtliche Fragen für den nicht-öffentlichen Bereich im Verhältnis zum AI-Act gelten. Eine inhaltliche Rechtfertigung für eine unterschiedliche Ausgestaltung von Data Act und AI Act in Bezug auf die datenschutzrechtliche Aufsichtsstruktur ist für uns nicht ersichtlich. In beiden EU-Verordnungen ist das Verhältnis zur Datenschutzgrundverordnung (DSGVO) weitestgehend ungeklärt, was zu einem erheblichen Auslegungsbedarf führen wird. Eine schnelle und kohärente Entscheidungspraxis für die Wirtschaft macht deshalb auch hier eine Kompetenzbündelung bei der BfDI erforderlich.
Zu § 12 KI-VO-DG-RE Innovationsfördernde Maßnahmen
Im Rahmen ihrer Aufgabe, innovationsfördernde Maßnahmen durchzuführen, ist technische Expertise und Verständnis für industrielle Produktionsprozesse und Anwendungen auf Seiten der BNetzA, wie z. B. Edge AI Anwendungen oder Standardisierungs- und Interoperabilitätsvorgaben, unerlässlich. Entscheidend für innovationsfördernde Maßnahmen ist der interdisziplinäre, kollaborative Ansatz und die engagierte Repräsentation von Anliegen in Brüssel.
Der Regierungsentwurf sieht erstmals eine einzelfallbezogene Beratungsfunktion der Bundesnetzagentur zur Einordnung von KI-Systemen und zur Hochrisiko-Einstufung vor. Der BDI begrüßt diesen Ansatz grundsätzlich als Instrument zur Erhöhung von Rechtssicherheit für Unternehmen.
Gleichzeitig ist sicherzustellen, dass diese Beratung erkennbar von der Marktüberwachung abgegrenzt wird, Geschäfts- und Betriebsgeheimnisse umfassend geschützt werden und die Beratung nicht zu nationalen Sonderinterpretationen führt, die vom europäischen Vollzug abweichen.
Die KI-Verordnung betont, dass die begrenzten Ressourcen von KMU und Start-ups bei Prüfungen durch notifizierte Stellen besonders zu berücksichtigen sind (s. Erwägungsgrund 143 KI-VO). Zudem werden die Mitgliedstaaten aufgefordert, gemeinsam mit der Europäischen Kommission Maßnahmen zu ergreifen, um die Kosten freiwilliger Prüfungen durch Dritte zu senken (s. Erwägungsgrund 143 KIVO). Vor diesem Hintergrund sollte das Durchführungsgesetz eine unbürokratische finanzielle Förderung externer Konformitätsbewertungen von KMU und Start-ups vorsehen Der Fokus auf kleine und mittlere Unternehmen sowie Start-ups ist zu begrüßen, die Unterstützungsmaßnahmen dürfen aber nicht auf diese beschränkt sein, da auch große Unternehmen vor großen Abgrenzungsherausforderungen stehen, insbesondere im Hinblick auf Hoch-Risiko-KI und einen potenziellen Rollentausch (Provider, Deployer, User), vor allem im Zuge der Nutzung von Generativer KI in kundenfokussierten Produkten.
Zu § 13 KI-VO-DG-RE KI-Reallabore
Der BDI erachtet KI-Reallabore als sehr wichtiges und sinnvolles Instrument, um in verschiedenen Industriebereichen innovative Technologien, Produkte, Dienstleistungen oder Verfahrensansätze unter realen Bedingungen zu erproben 1 Der Zugang zu KI-Reallaboren sollte niederschwellig und möglichst unbürokratisch sein. Wir sprechen uns für digitale Antrags- und Administrationsprozesse mit maximalen Antwortzeiten von 30 Tagen aus. Für die Interaktion mit relevanten Behörden im Rahmen des KI-Reallabors, sollte die BNetzA im Sinne eines echten One-Stop Shop als fester Ansprechpartner für Unternehmen mit schneller, unbürokratischer und kostenfreier Interaktion zuständig sein. Damit die Chancen, welche mit KI-Reallaboren verbunden sind, zeitnah realisiert werden können, sollte eine „Experimentierklausel“ ergänzt werden, welche die rechtssichere Nutzung von KI-Reallaboren ermöglicht, solange das Reallabore-Gesetz noch nicht in Kraft getreten ist.
Die im Regierungsentwurf vorgesehene Öffnung der KI Reallabore für Hochschulen, Forschungseinrichtungen und Ausgründungen ist ausdrücklich zu begrüßen und stärkt den Innovationsstandort Deutschland.
Zu § 15 KI-VO-DG-RE Bußgeldvorschriften
Der Regierungsentwurf enthält erstmals konkretisierte nationale Bußgeldtatbestände zur Durchsetzung der KI-VO. Der BDI begrüßt grundsätzlich klare Zuständigkeiten, weist jedoch darauf hin, dass nationale Bußgeldregelungen strikt auf das zur Durchsetzung Erforderliche begrenzt bleiben
1 Vgl BDI, Stellungnahme zum Referentenentwurf des Bundesministeriums für Wirtschaft und Klimaschutz Reallabor-Gesetz BDI (Oktober 2024)
müssen. Es ist sicherzustellen, dass keine Doppelregulierung gegenüber den unmittelbar geltenden Sanktionsmechanismen der KI-VO entsteht und Unternehmen frühzeitig Klarheit über Reichweite, Maßstab und Verhältnismäßigkeit nationaler Sanktionen erhalten.
Evaluierung des Durchsetzungsgesetzes
Eine explizite Evaluierung der nationalen Behörden- und Aufsichtsstrukturen ist nach Abschnitt A VIII des allgemeinen Teils spätestens in drei Jahren vorgesehen, was der BDI vor dem Hintergrund der rasanten Entwicklung im Bereich der Künstlichen Intelligenz jedoch als zu spät erachtet. Es bedarf vielmehr einen Mechanismus zur laufenden Optimierung, wozu ein agiles Governance-Modell gewählt werden sollte, in welchem die Industrie frühzeitig eingebunden wird
Impressum
Bundesverband der Deutschen Industrie e.V. (BDI)
Breite Straße 29, 10178 Berlin www.bdi.eu
T: +49 30 2028-0
Redaktion
Polina Khubbeeva
Senior Referentin Innovation, Sicherheit und Technologie
T: +49 30 2028-1586 p.khubbeeva@bdi.eu
Lobbyregisternummer: R000534
BDI Dokumentennummer: D2240