Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat mit dem „Test Criteria Catalogue for AI Systems in Finance“ einen bedeutenden Prüfrahmen für den Einsatz von KI-Systemen in der Finanzbranche vorgestellt. Dieser umfassende Kriterienkatalog ist ein wegweisendes Instrument für Künstliche Intelligenz im Finanzsektor zur Evaluierung der Sicherheit, Fairness, Transparenz und Zuverlässigkeit von Künstliche Intelligenz im Finanzsektor. Er bietet klare, praxisorientierte Vorgaben für Entwickler, Betreiber und Prüforganisationen – und unterstützt gezielt die Umsetzung der Anforderungen der EU-KI-Verordnung (KI-VO).
100 Kriterien für vertrauenswürdige KI-Systeme
Der Kriterienkatalog entstand laut einer Pressemitteilung im Rahmen des Projekts AICRIV und umfasst nahezu 100 konkrete Testkriterien. Ziel ist es, die Bewertung von KI-Systemen methodisch abzusichern und Verantwortlichen in Banken, Versicherungen und FinTechs eine fundierte Entscheidungsgrundlage zu bieten. Jedes Kriterium ist detailliert beschrieben – mit Angaben zu Relevanz, Prüfmethoden, unterstützenden Leitlinien, technischen Prüfwerkzeugen sowie zugehörigen Artikeln der EU-KI-Verordnung.
Die Kriterien sind in zehn Dimensionen gegliedert, darunter IT- und KI-Sicherheit, Datenmanagement, Transparenz, Governance, menschliche Aufsicht und Fairness. Jedes Kriterium ist systematisch strukturiert und beinhaltet Informationen wie Bewertungsziel, Prüfmethodik, technische Hilfsmittel sowie Verweise auf relevante Artikel der EU-KI-Verordnung. Ergänzt wird der Katalog durch einen Fragebogen, der in der Initialphase einer Bewertung hilft, die für ein spezifisches KI-System relevanten Prüfpunkte zu identifizieren. So entsteht ein risikobasierter, kontextualisierter, flexibler Prüfansatz, der sowohl für interne Audits als auch zur Audit-Vorbereitung durch externe Prüfer geeignet ist.
Relevanz für Finanzunternehmen: Risikobewertung und Auditierung
Der Kriterienkatalog richtet sich primär an Entwickler, Anbieter und Betreiber von KI-Systemen in der Finanzbranche, kann jedoch auch als Blaupause für andere hochregulierte Sektoren dienen. Die englischsprachige Veröffentlichung trägt zur EU-weiten Zugänglichkeit bei und stärkt den internationalen Diskurs zu vertrauenswürdiger KI.
Ein zentrales Ziel des Katalogs ist die praktische Umsetzung der Anforderungen der EU-KI-Verordnung. Die systematische Verknüpfung der Kriterien mit den Artikeln des Gesetzesrahmens unterstützt Unternehmen dabei, regulatorische Anforderungen effizient in bestehende Compliance-Strukturen zu integrieren. Besonders im Fokus steht Artikel 17 der Verordnung, der ein umfassendes Qualitätsmanagementsystem (QMS) für Hochrisiko-KI-Anwendungen verlangt. Gerade für Finanzinstitute, die unter besonders hohen regulatorischen Anforderungen stehen, ist dies ein wertvolles Werkzeug zur systematischen Verankerung von KI-Governance und zur Integration in bestehende QMS.
Unterstützung der KI-Verordnung
Der Katalog stellt eine wichtige Brücke zur kommenden Regulierung auf EU-Ebene dar. Zwar ersetzt die Erfüllung eines Kriteriums nicht automatisch die Konformität mit der KI-Verordnung, sie stellt jedoch einen bedeutenden Beitrag zur regulatorischen Umsetzung dar.
Das BSI als Schrittmacher sicherer KI-Standards
Mit dem Kriterienkatalog unterstreicht das BSI seine führende Rolle im Bereich KI-Sicherheit. Aufbauend auf früheren Publikationen wie dem AIC4 für Cloud-Dienste oder den Leitfäden zur KI-Sicherheit und erklärbaren KI (XAI), bietet der neue Katalog nun einen hochspezialisierten Maßstab für die besonders sensible Finanzbranche. Das BSI verbindet dabei technologische Expertise mit normativer Orientierung und trägt zur Standardisierung und Operationalisierung vertrauenswürdiger KI bei.
Handlungsempfehlung: Jetzt vorbereiten und strategisch handeln
Für Unternehmen, die KI-Systeme im Finanzsektor einsetzen oder entwickeln, ist der neue Kriterienkatalog ein unverzichtbares Instrument. Er bietet nicht nur eine fundierte Prüfinfrastruktur, sondern auch konkrete Ansatzpunkte zur frühzeitigen Identifikation von Schwachstellen und zur Absicherung der regulatorischen Compliance.
Unsere KINAST Rechtsanwälte empfehlen Finanzdienstleistern und Technologieanbietern, den Kriterienkatalog für Künstliche Intelligenz im Finanzsektor aktiv in ihre Entwicklungs-, Evaluierungs- und Governance-Prozesse zu integrieren. Dies stärkt nicht nur die eigene Sicherheits- und Vertrauensbasis, sondern positioniert das Unternehmen zugleich als verantwortungsbewussten Akteur in einem zunehmend regulierten Marktumfeld. Wer regulatorische Anforderungen frühzeitig integriert, stärkt nicht nur Sicherheit und Transparenz, sondern verschafft sich auch einen klaren Wettbewerbsvorteil. Bei der praxisnahen Umsetzung unterstützen wir Sie gerne – etwa in den Bereichen KI-Governance, NIS-2-Compliance, Datenökonomie oder regulatorische Anforderungen im Finanzsektor.
