Die Europäische Kommission hat einen bedeutenden Schritt zur Stärkung der Aufsicht über KI-Technologien unternommen, indem sie das AI Act Whistleblower Tool auf den Weg gebracht hat. Dieses Instrument, das vom Europäischen KI-Büro (AI Office) – dem Zentrum für KI-Fachwissen innerhalb der Kommission – eingerichtet wurde, bietet Einzelpersonen einen sicheren und vertraulichen Weg, mutmaßliche Verstöße gegen die KI-Verordnung direkt zu melden. Die Einführung dieses Tools unterstreicht die zentrale Bedeutung, die der Einhaltung des weltweit ersten rechtlichen Rahmens für KI beigemessen wird. Ziel ist es, Risiken zu mindern und gleichzeitig Europas führende Rolle in der KI-Entwicklung zu sichern. Das Tool trägt direkt dazu bei, dass KI in Europa sicher, transparent und vertrauenswürdig entwickelt wird.
Ein sicherer Meldekanal
Das AI Act Whistleblower Tool ermöglicht es Personen, die professionell mit einem Anbieter von KI-Modellen verbunden sind schädliche Praktiken zu melden. Dazu zählen aktuelle oder ehemalige Mitarbeiter, Auftragnehmer oder Mitglieder von Leitungsorganen. Diese Hinweisgeber spielen eine entscheidende Rolle, da sie oft zu den Ersten gehören, die mögliche Gesetzesverstöße bemerken, die ansonsten unentdeckt bleiben könnten und die Grundrechte, die Gesundheit oder das öffentliche Vertrauen gefährden. Durch die direkte Meldung an das KI-Büro wird dessen Fähigkeit gestärkt, Verstöße frühzeitig zu erkennen und zu bearbeiten. Meldungen können anonym und in jeder EU-Sprache eingereicht werden, wobei relevante Dokumente über ein sicheres Postfach beigefügt werden können. Dieses Postfach ermögliche auch eine bidirektionale Kommunikation und Status-Updates, ohne die Anonymität zu gefährden.
Vertraulichkeit und der zeitlich gestaffelte Rechtsschutz
Das KI-Büro verpflichtet sich nach eigenen Angaben zu einem Höchstmaß an Vertraulichkeit und hat interne Verfahren dokumentiert, um den Schutz der Identität der Hinweisgeber zu maximieren. Ein zentraler Punkt ist jedoch der zeitliche Rahmen des rechtlichen Schutzes vor Repressalien. Obwohl derzeit höchste Vertraulichkeit gewährleistet ist, greift der vollständige rechtliche Schutz vor Vergeltungsmaßnahmen durch die EU-Hinweisgeberrichtlinie für Meldungen, die spezifisch Verstöße gegen die KI-Verordnung betreffen, erst ab dem 2. August 2026. Bis zu diesem Datum dient die Vertraulichkeit als primäres Schutzmittel. Es ist jedoch wichtig zu beachten, dass einige KI-bezogene Aktivitäten, die bereits jetzt unter die Richtlinie fallen können – insbesondere im Zusammenhang mit Produktsicherheit, Verbraucherschutz, Datenschutz und Informationssicherheit – bereits den Schutz vor Repressalien bieten, sofern das berufliche Verhältnis EU-Recht unterliegt.
Anforderung an Hinweisgeber
Um die Vertraulichkeit zu wahren, empfiehlt das KI-Büro den Hinweisgebern nachdrücklich, keinerlei personenbezogene Daten in ihren Meldungen bereitzustellen. Weder über sich selbst noch über Dritte. Das KI-Büro versichert, die Vertraulichkeit der Meldung zu wahren, und gibt die Identität des Hinweisgebers oder indirekt ableitbare Informationen nur mit ausdrücklicher Zustimmung an befugte Mitarbeiter weiter.
Bedeutung für Unternehmen
Für Unternehmen, die KI-Modelle oder -Systeme bereitstellen oder nutzen, signalisiert die Einführung des Tools eine erhöhte Notwendigkeit zur internen Compliance-Vorsorge. Angesichts der Tatsache, dass Hinweisgeber, die mit dem Unternehmen beruflich verbunden sind, Verstöße melden können, ist die Robustheit interner Governance-Systeme entscheidend. Unabhängig von der verzögerten Anwendung des vollständigen Repressalienschutzes der KI-Verordnung ab 2026 sollten Unternehmen bereits jetzt sicherstellen, dass ihre Praktiken im Zusammenhang mit KI die Grundrechte, die Sicherheit und den Datenschutz wahren. Da Meldungen in Bereichen wie Datenschutz und Informationssicherheit bereits unter den bestehenden Schutz fallen können, muss die Compliance in diesen Bereichen ohnehin gewährleistet sein. Unternehmen sollten ihre internen Meldewege überprüfen und sicherstellen, dass sie auf die Anforderungen der KI-Verordnung vorbereitet sind.
Fazit
Das AI Act Whistleblower Tool stärkt die Durchsetzung der KI-Verordnung und kann die Transparenz in der Entwicklung von KI-Technologien verbessern. Es festigt die Rolle des KI-Büros als zentrale Aufsichtsinstanz und schafft für Unternehmen einmal mehr die Notwendigkeit, ihre KI-Governance an den europäischen Rechtsrahmen anzupassen.
Bei Unsicherheiten zur Umsetzung der KI-Verordnung oder zu bestehenden Compliance-Strukturen empfiehlt sich eine frühzeitige rechtliche Beratung, um Risiken zu minimieren und regulatorische Anforderungen rechtssicher zu erfüllen. Wir unterstützen Sie bei Fragen zur Umsetzung der KI-Verordnung oder zu internen Hinweisgebersystemen gerne beratend.
