Die Umsetzung der im August 2024 in Kraft getretenen europäischen KI-Verordnung (KI-VO) wirft in Deutschland wichtige Fragen zur Zuständigkeit und praktischen Durchführung auf. Auf Bundesebene wird über die Struktur der nationalen Marktüberwachung diskutiert. In Hessen wird mit einem konkreten Pilotprojekt zur Simulation von KI-Reallaboren ein praxisorientierter Weg eingeschlagen. Beteiligt am KI-Reallabor sind das Hessische Ministerium für Digitalisierung und Innovation, die Bundesnetzagentur (BNetzA) sowie die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI).
Das Hessische Pilotprojekt für KI-Reallabore
Am 9. Mai 2025 unterzeichneten die Hessische Digitalministerin, der Präsident der BNetzA und die BfDI einen Letter of Intent für ein gemeinsames Pilotprojekt im Bereich der KI-Reallabore. Ziel dieses Vorhabens ist es, unter realitätsnahen Bedingungen zentrale Anforderungen, Abläufe und Herausforderungen von KI-Reallaboren zu simulieren und so Wissen und Kenntnisse zu vergrößern. Das Pilotprojekt wird als bundesweit eines der ersten zur Simulation eines KI-Reallabors im Sinne der KI-VO beschrieben. Die Ergebnisse werden bis Ende 2025 erwartet und sollen allen Beteiligten sowie weiteren Bundesländern und öffentlichen Einrichtungen als Orientierung dienen.
Zusammenarbeit mit Fachexpertise
Die Partner bringen in dieses Projekt ihre spezifische Expertise ein. Die Bundesnetzagentur und die BfDI steuern ihre regulatorische Fachexpertise zur KI-Verordnung und zur Datenschutz-Grundverordnung (DSGVO) bei. Hessen unterstützt das KI-Reallabor mit Fachexpertise und KI-Infrastruktur aus hiesigen Einrichtungen wie hessian.AI, der AI Quality & Testing Hub GmbH und dem Zentrum verantwortungsbewusste Digitalisierung (ZEVEDI). Auch das Hessische Justizministerium unterstützt bei der Einhaltung der KI-Verordnung.
Für die BfDI, Prof. Dr. Louisa Specht-Riemenschneider, liegt die Priorität dabei auf einer praxisnahen Beratung. Sie betont die Notwendigkeit solcher Räume des begleitenden Ausprobierens und des Dialogs, um sich als Aufsicht frühzeitig zu wesentlichen Fragen positionieren zu können. Dies sei entscheidend, um auch künftig Innovationen zu ermöglichen, die Grundrechte achten.
Nationale Zuständigkeit der Marktüberwachung
Dieses kooperative Vorgehen in Hessen, bei dem BfDI und BNetzA gemeinsame praktische Erfahrungen sammeln, steht im Kontext der bundesweiten Diskussionen über die nationale Marktüberwachung für KI-Systeme. Der Referentenentwurf zur Durchführung der KI-VO sah vor, die Bundesnetzagentur als zentrale Marktüberwachungsbehörde für KI in Deutschland zu etablieren. Die Zuständigkeit sollte sich auch für den öffentlichen Sektor und damit die Überwachung des KI-Einsatzes in der Landesverwaltung erstrecken. Besonders kritisch wurde die Zuweisung der Zuständigkeit für grundrechtssensible Bereiche des staatlichen KI-Einsatzes (z.B. Strafverfolgung, Justiz) an die BNetzA mittels einer neu zu schaffenden „Unabhängigen Marktüberwachungskammer” (UKIM) gesehen. Die Frist für die Benennung der nationalen Marktaufsichtsbehörde ist der 2. August 2025. Der Referentenentwurf verlor mit der Neuwahl im Februar 2025 an Aktualität. Die Aufgabe liegt nun bei der neuen Bundesregierung, die Strukturen zügig und rechtskonform zu schaffen, wobei unklar ist, inwieweit der Entwurf übernommen wird.
BfDI bald mehr als nur Datenschutzaufsicht?
Die Beteiligung der BfDI, Prof. Dr. Louisa Specht-Riemenschneider, am hessischen Pilotprojekt fügt sich in ihre frühere Positionierung ein. In einer Pressemitteilung hatte sie erklärt, bereit zu sein, neue Verantwortlichkeiten zu übernehmen. Ziel sei dabei Datenschutz und Datennutzung im Sinne einer innovationsfreundlichen, zugleich grundrechtskonformen Aufsicht zusammenzudenken. Schon heute beaufsichtigt die BfDI bundesweit tätige Unternehmen in Bereichen wie Telekommunikation und Postdienste (z. B. Vodafone). Laut den Koalitionsplänen soll ihre Zuständigkeit auf die gesamte Privatwirtschaft ausgeweitet werden. Ziel ist eine stärker gebündelte, branchenspezifische Beratung und einheitlichere Entscheidungen – ohne dabei den Schutz der Bürgerrechte zu schwächen. Die geplante Umbenennung zur „Bundesbeauftragten für Datennutzung, Datenschutz und Informationsfreiheit“ unterstreicht diesen erweiterten Anspruch.
Fazit
Das hessische Pilotprojekt zur Simulation von KI-Reallaboren setzt ein wichtiges Signal. Anstatt auf die finale Klärung der nationalen Aufsichtsstrukturen zu warten, bündeln Bundes- und Landesbehörden ihre Kompetenzen, um so praktische Erfahrungen unter den Vorgaben der KI-Verordnung zu sammeln. Dieser pragmatische Ansatz kann helfen, frühzeitig Expertise für eine effektive Marktüberwachung aufzubauen – unabhängig davon, welche Behörde künftig welche Zuständigkeiten trägt.
Die Initiative macht deutlich, dass die Umsetzung der KI-VO nicht nur rechtliche, sondern vor allem auch praktische Herausforderungen mit sich bringt. Umso mehr werden die Ergebnisse des KI-Reallabors erwartet: Als Grundlage für Orientierung, Klarheit und eine informierte Regulierung auf nationaler Ebene.
Die Integration von KI-Systemen in Ihre Geschäftsprozesse erfordert mehr als nur rein technologische Anpassungen. Sie müssen zudem rechtliche, ethische und Compliance-Anforderungen berücksichtigen, welche mit dem Einsatz von KI einhergehen. Wir helfen gerne.
