Die Europäische Kommission hat einen wichtigen Schritt in Richtung einer verantwortungsvollen und vertrauenswürdigen Künstlichen Intelligenz (KI) gemacht, indem sie aktualisierte Mustervertragsklauseln (MVK-KI) für die Vergabe öffentlicher Aufträge für KI-Systeme veröffentlicht hat. Diese Klauseln sind nicht nur ein bürokratisches Dokument, sondern ein essenzieller Baustein, um die hohen europäischen Standards für Datenschutz und Grundrechte auch im Bereich der KI zu sichern.
Der Hintergrund
Zur Unterstützung einer verantwortungsvollen KI-Beschaffung veröffentlichte die Community of Practice am 29. September 2023 EU-Mustervertragsklauseln. Die Notwendigkeit diese MVK-KI zu aktualisieren, ergibt sich aus der rasanten Entwicklung der KI und der verabschiedeten EU-Verordnung über Künstliche Intelligenz (KI-Verordnung). Die MVK-KI wurden speziell für öffentliche Einrichtungen entwickelt, die KI-Systeme von externen Anbietern beschaffen möchten. Sie sollen es öffentlichen Auftraggebern ermöglichen, ihren künftigen Verpflichtungen aus der KI-Verordnung nachzukommen, noch bevor diese vollständig anwendbar ist.
Ein modularer Ansatz für unterschiedliche KI-Risiken
Ähnlich wie die Standardvertragsklauseln für den internationalen Datentransfer gemäß DSGVO einen modularen Aufbau für verschiedene Datenübertragungskonstellationen (z.B. Verantwortlicher-zu-Verantwortlicher, Verantwortlicher-zu-Auftragsverarbeiter) aufweisen, bieten die MVK-KI einen differenzierten Ansatz. Neben einem Dokument mit Erläuterungen zu den Musterklauseln gibt es zwei Hauptversionen:
MVK-KI-Hochrisiko:
Diese umfassende Version ist für die Beschaffung von KI-Systemen konzipiert, die gemäß der KI-Verordnung als hochriskant eingestuft werden. Sie orientiert sich weitgehend an den strengen Anforderungen und Pflichten für Hochrisiko-KI-Systeme in Kapitel III der KI-Verordnung.
MVK-KI-Vereinfacht:
Diese „leichtere“ Version ist für KI-Systeme gedacht, die nicht als hochriskant im Sinne der KI-Verordnung gelten. Sie kann aber auch für andere algorithmische Systeme verwendet werden, die dennoch Transparenzpflichten oder Anforderungen an die Erläuterung individueller Entscheidungen durch die öffentliche Verwaltung erfordern. Auch wenn sie vereinfacht ist, basiert sie immer noch auf vielen der Anforderungen für Hochrisiko-KI, was eine genaue Prüfung der Verhältnismäßigkeit im Einzelfall erfordert.
Grenzen der Mustervertragsklauseln
Es ist wichtig zu verstehen, dass die MVK-KI keine vollständigen Verträge darstellen, sondern vielmehr Musterklauseln, die in bestehende oder umfassendere Verträge integriert werden können. Sie fokussieren sich ausschließlich auf KI-spezifische Aspekte und lassen allgemeine Vertragsbestandteile wie Datenschutz, Haftung, Zahlungsmodalitäten oder Lieferfristen offen, da diese in den Hauptverträgen geregelt werden sollen.
Die Klauseln sind zudem nicht für die Beschaffung von KI-Systemen mit allgemeinem Verwendungszweck (General Purpose AI, GPAI) verfasst worden. Sie können jedoch als Anregung dienen, wobei besondere Aufmerksamkeit und Anpassungen erforderlich sind.
Obwohl die MVK-KI nicht explizit für andere Organisationen als öffentliche Einrichtungen geeignet sind, könnten Teile davon auch von privaten Unternehmen genutzt werden. Es ist jedoch unerlässlich, dass private Unternehmen die Zweckmäßigkeit der Verwendung jeder einzelnen Klausel prüfen, bevor sie diese anwenden.
Der „KI-Beauftragte“ – Ihre Lösung für rechtssichere KI-Compliance
Die Kerninhalte der MVK-KI: Tiefergehende Einblicke
Die MVK-KI definieren eine Reihe von Pflichten für den Lieferanten von KI-Systemen, die sich auf zentrale Aspekte der KI-Governance und -Sicherheit konzentrieren. Hier sind einige der wichtigsten Bereiche:
Risikomanagementsystem (Artikel 2):
Diese Klausel stützt sich auf Artikel 9 der KI-Verordnung. Zusammengefasst ist der Lieferant
des KI-Systems nach diesem Artikel verpflichtet, ein Risikomanagementsystem für das KI-System
einzurichten und anzuwenden. Dies beinhaltet die Identifizierung, Abschätzung und Bewertung von Risiken für Gesundheit, Sicherheit oder Grundrechte, auch bei vernünftigerweise vorhersehbarer Fehlanwendung. Die Dokumentation aller erkannten Risiken, getroffenen Maßnahmen und durchgeführten Tests muss der öffentlichen Einrichtung zur Verfügung gestellt werden. Dieses System ist als kontinuierlicher Prozess zu verstehen, der während der gesamten Vertragslaufzeit regelmäßig überprüft und aktualisiert wird.
Daten und Daten-Governance (Artikel 3):
Dieser Artikel ist an Art. 10 KI-VO angelehnt. Der Lieferant muss danach sicherstellen, dass die bei der Entwicklung verwendeten Datensätze (Training, Validierung, Test) angemessenen Daten-Governance- und Datenmanagementverfahren unterliegen. Dies umfasst Maßnahmen zur Datenerhebung, -aufbereitung (z.B. Annotation, Bereinigung), die Untersuchung auf mögliche Verzerrungen (Bias) und Maßnahmen zu deren Abschwächung. Die Datensätze müssen relevant, hinreichend repräsentativ, fehlerfrei und vollständig sein und die geeigneten statistischen Merkmale aufweisen. Diese Pflichten gelten nicht nur vor der Lieferung, sondern für jede Datennutzung, die das Funktionieren des Systems während der Vertragslaufzeit beeinflussen könnte.
Technische Dokumentation und Gebrauchsanweisung (Artikel 4):
Der Lieferant hat die Pflicht, eine technische Dokumentation und Gebrauchsanweisung zu liefern. Die technische Dokumentation muss der öffentlichen Einrichtung eine Bewertung der Konformität des KI-Systems mit den Klauseln ermöglichen und die in Anhang C genannten Voraussetzungen erfüllen. Die Gebrauchsanweisung muss präzise, vollständig, korrekt und in verständlicher Form vorliegen (Anhang D).
Aufzeichnungspflichten (Artikel 5):
Das KI-System muss in der Lage sein, Ereignisse automatisch aufzuzeichnen („Protokollierung“), um eine Rückverfolgbarkeit des Systems zu gewährleisten. Diese Protokolle müssen vom Lieferanten während der Vertragslaufzeit aufbewahrt und der öffentlichen Einrichtung auf Verlangen zur Verfügung gestellt werden.
Transparenz des KI-Systems (Artikel 6):
Das KI-System muss so konzipiert sein, dass sein Betrieb hinreichend transparent ist, damit die öffentliche Einrichtung die Ergebnisse angemessen interpretieren und nutzen kann. Betriebsanleitungen müssen alle notwendigen Informationen enthalten, einschließlich der Merkmale, Fähigkeiten, Leistungsgrenzen, beabsichtigten Nutzung und vernünftigerweise vorhersehbarer Fehlanwendungen.
Menschliche Aufsicht (Artikel 7):
Ein zentraler Punkt ist die Möglichkeit der wirksamen menschlichen Aufsicht über das KI-System. Dies soll Risiken minimieren, die trotz anderer Sicherheitsmaßnahmen fortbestehen könnten. Maßnahmen müssen sicherstellen, dass menschliche Aufsichtspersonen die Fähigkeiten und Grenzen des Systems verstehen, Anomalien erkennen, Ausgaben interpretieren und bei Bedarf eingreifen oder das System stoppen können.
Genauigkeit, Robustheit und Cybersicherheit (Artikel 8):
Der Lieferant muss sicherstellen, dass das KI-System ein angemessenes Maß an Genauigkeit, Robustheit, allgemeiner Sicherheit und Cybersicherheit erreicht und beibehält. Dies beinhaltet die Widerstandsfähigkeit gegenüber Fehlern, Störungen und Angriffen, wie Daten- oder Modellvergiftung.
Grundrechte-Folge-Abschätzung (Artikel 10 MVK-KI-Vereinfacht / Artikel 12 MVK-KI-Hochrisiko):
Der Lieferant ist zur Mitwirkung bei der Bewertung der Auswirkungen der KI-Nutzung auf die Grundrechte (FRIA) verpflichtet, die von der öffentlichen Einrichtung durchgeführt wird.
Pflicht zur Erläuterung der Funktionsweise des KI-Systems im Einzelfall (Artikel 11 MVK-KI-Vereinfacht / Artikel 14 MVK-KI-Hochrisiko):
Der Lieferant muss die öffentliche Einrichtung dabei unterstützen, die Rolle des KI-Systems im Entscheidungsprozess klar und verständlich zu erläutern, insbesondere für betroffene Personen. Dies umfasst die Bereitstellung technischer und sonstiger Informationen, die notwendig sind, um zu erklären, wie das System ein bestimmtes Ergebnis erzielt hat, und den betroffenen Personen die Überprüfung zu ermöglichen. Bei Bedarf kann dies auch die Bereitstellung des Quellcodes oder anderer detaillierter technischer Informationen umfassen. Diese Klausel geht über die Mindestanforderungen der KI-Verordnung hinaus und zielt auf einen wirksamen Rechtsschutz ab.
Rechte zur Nutzung der Datensätze (Abschnitt C MVK-KI-Vereinfacht / Abschnitt D MVK-KI-Hochrisiko):
Ein kritischer Aspekt ist die Regelung der Nutzungsrechte an den Datensätzen. Rechte an Datensätzen der öffentlichen Einrichtung verbleiben bei dieser. Für Datensätze des Lieferanten und Dritter erhält die öffentliche Einrichtung ein nicht ausschließliches Nutzungsrecht zur Vertragserfüllung. Optional kann dies auch das Recht zur Weiterentwicklung des KI-Systems umfassen, um eine Anbieterabhängigkeit zu reduzieren.
Parallelen zu den DSGVO-Standardvertragsklauseln
Die MVK-KI zeigen deutliche Parallelen zu den bereits etablierten Standardvertragsklauseln (SCC) für den internationalen Datentransfer gemäß DSGVO. Beide Ansätze verfolgen das Ziel, ein gleichwertiges Schutzniveau zu gewährleisten, sei es für personenbezogene Daten im internationalen Kontext oder für die Nutzung von KI-Systemen, die Grundrechte und Sicherheit berühren können. Die DSGVO-SCCs, die am 4. Juni 2021 von der EU-Kommission angenommen wurden, sind Musterverträge, die den Transfer personenbezogener Daten in Drittstaaten absichern. Sie sind modular aufgebaut, um verschiedene Datenübertragungskonstellationen abzudecken (z.B. Verantwortlicher-zu-Verantwortlicher, Verantwortlicher-zu-Auftragsverarbeiter). Ähnlich bieten die MVK-KI-Versionen flexible Module für unterschiedliche KI-Risikoprofile.
Sowohl die DSGVO-SCCs als auch die MVK-KI legen erweiterte Pflichten fest. Bei den DSGVO-SCCs beinhaltet dies die Durchführung eines Transfer Impact Assessment (TIA), um sicherzustellen, dass der Datenimporteur die Klauseln trotz lokaler Gesetze einhalten kann. Bei den MVK-KI spiegelt sich dies in der Pflicht zur Mitwirkung bei der Grundrechte-Folgenabschätzung wider. Beide setzen auf Transparenz, Dokumentationspflichten und die Möglichkeit von Audits, um die Einhaltung der Vorschriften zu überprüfen. Ein weiterer wichtiger Aspekt ist die Stärkung der Rechte der betroffenen Personen. Sowohl die DSGVO-SCCs als auch die MVK-KI sehen vor, dass betroffene Personen bestimmte Klauseln als Drittbegünstigte geltend machen können, was ihnen durchsetzbare Rechte und wirksame Rechtsbehelfe verschafft.
Fazit
Für Behörden und Organisationen des öffentlichen Sektors oder Unternehmen, die KI-Lösungen für diesen bereitstellen, ist die Veröffentlichung der MVK-KI durch die EU-Kommission von praktischer Bedeutung. Dennoch ist es nicht ausreichend, lediglich die neuen Klauseln zu unterzeichnen. Vielmehr erfordert die Umsetzung eine sorgfältige Einzelfallprüfung des Datenschutzniveaus und der Einhaltung der KI-Verordnung, die über den reinen Vertragstext hinausgeht. Unternehmen müssen sicherstellen, dass ihre KI-Systeme und die zugehörigen Prozesse den umfassenden Anforderungen an Risikomanagement, Daten-Governance, Transparenz und Cybersicherheit genügen.
Die proaktive Auseinandersetzung mit diesen Musterklauseln ermöglicht es KI-Anbietern, Compliance-Risiken zu minimieren und sich als vertrauenswürdiger Partner für die KI-Beschaffung im öffentlichen Sektor zu positionieren. Sie sollten Ihre bestehenden Verträge überprüfen und bei Bedarf anpassen, um die neuen Anforderungen zu integrieren.
Unser KINAST „KI-Beauftragter“ ist von der Einhaltung der europäischen KI-Verordnung über Datenschutz-Compliance bis hin zur Schulung Ihrer Mitarbeiter ihr vertrauensvoller Partner für alle rechtlichen und regulatorischen Herausforderungen rund um den Einsatz von KI.
Der „KI-Beauftragte“ –
Ihre Lösung für rechtssichere KI-Compliance
Wir bieten Unternehmen eine umfassende Lösung für die rechtlichen und regulatorischen Herausforderungen, die der Einsatz von KI mit sich bringt.
