Sieben deutsche Datenschutzbehörden haben Prüfverfahren gegen DeepSeek eingeleitet und prüfen, ob die Anforderungen der Datenschutzgrundverordnung (DSGVO) insbesondere an die Ernennung eines Vertreters innerhalb der EU eingehalten werden. Die Datenschutzaufsichten vieler Bundesländer haben daher Handlungsempfehlungen zum Einsatz von KI-Anwendungen von Anbietern außerhalb der EU ohne Angemessenheitsbeschluss veröffentlicht. Zudem lohnt sich ein Blick über den Tellerrand von OpenAI und DeepSeek hin zu europäischen Alternativen.
Datenschutzbehörden warnen vor DeepSeek
DeepSeek, ein chinesischer KI-Anbieter, beeindruckt mit seinem leistungsstarken Modell R1, steht aber auch wegen starker Datenschutzbedenken in Verruf. Wie wir in unserem letzten Update zu DeepSeek bereits dargestellt haben, werden die Daten auf Servern in China gespeichert. Nutzer können dies nicht ablehnen (keine Opt-out-Option) was Behördenzugriffe ermöglichen könnte. Experten warnen vor Sicherheitslücken, Jailbreaks und potenzieller Malware. Zudem steht die KI wegen Zensurvorwürfen in der Kritik.
Nach aktuellen Meldungen verschiedener Landesdatenschutzbehörden sei aktuell davon auszugehen, dass die Anforderungen der europäischen KI-Verordnung und der Datenschutz-Grundverordnung (DSGVO) nicht eingehalten werden. Die eingeleiteten DSGVO-Prüfverfahren sind nun das Resultat der Bedenken.
Hintergrund: Anforderungen der DSGVO für Anbieter aus Drittstaaten
Die DSGVO ist auch von DeepSeek zu beachten. Die Verordnung findet auch auf nicht in der Union niedergelassenen Verantwortlichen oder Auftragsverarbeiter, soweit die KI-Anwendung von Personen in der Europäischen Union zur Verarbeitung personenbezogener Daten genutzt wird (Art. 3 DSGVO).
Außer-europäische Verantwortliche wie DeepSeek sind zudem dazu verpflichtet einen Vertreter innerhalb der EU zu benennen (Art. 27 Abs. 1 DSGVO). Dieser Vertreter wird beauftragt (zusätzlich zum Verantwortlichen oder an seiner Stelle) insbesondere für Aufsichtsbehörden und betroffene Personen bei sämtlichen Fragen der Einhaltung der DSGVO als Anlaufstelle zu dienen. Ein Verstoß gegen diese Pflicht kann mit einem Bußgeld geahndet werden. Nach aktuellem Kenntnisstand hat DeepSeek noch keinen Vertreter ernannt. Darüber hinaus gehört China nicht zu den Ländern, für die die Europäische Kommission einen Angemessenheitsbeschluss gemäß Art. 45 Abs. 3 DSGVO erlassen hat.
Neue Datenschutzrichtlinien bei DeepSeek
Ganz grundlegend ist DeepSeek nicht für den europäischen Markt und die damit einhergehende DSGVO-Konformität konzipiert. Immerhin wurde seit unserem letzten Update in den Datenschutzrichtlinien eine Ergänzung für die Nutzung im Europäischer Wirtschaftsraum („EWR“), Schweiz und Vereinigtes Königreich ergänzt. Darin beruft sich DeepSeek als Rechtsgrundlage auf die Erfüllung eines Vertrags, die Einwilligung oder auf ein berechtigtes Interesse. Zudem erklärt DeepSeek die verschiedenen Betroffenen und Auskunftsrechte. Dennoch sind die Kritiker laut: Es fehlt an Transparenz, und klaren Rechtgrundlagen für die Datenverarbeitung.
Sicherheits- und Datenschutzbedenken bei DeepSeek
Hauptursache für die datenschutzrechtlichen Bedenken ist die umfangreiche Erfassung von Nutzereingaben. Von den im Konto hinterlegten E-Mail-Adressen, Telefonnummern und Geburtsdaten, über jegliche Benutzereingaben, einschließlich Text- und Audiodaten bis zu technischen Informationen wie Telefonmodell, Betriebssystem, IP-Adresse. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) erklärte gegenüber dpa, dass möglicherweise auch Tastatureingaben innerhalb der App mitgelesen werden können, bevor sie abgeschickt werden. Diese Informationen nutzt DeepSeek nach eigenen Datenschutzrichtlinien für Werbe- und Analysezwecke sowie zum Training und der Verbesserung der Dienste. Mittels dieser Datensammlung ist es jedoch auch möglich Schreibmuster zu analysieren und daraus individuelle Nutzerprofile zu erstellen. DeepSeek gibt zudem selbst in ihrer Privacy Policy an, die erfassten Daten mit Informationen aus anderen Quellen zu verknüpfen und auch an Dritte weiterzugeben.
Zudem weist DeepSeek schwerwiegende Sicherheitslücken auf die Jailbreaks ermöglichen und die Anwendung für Cyberkriminelle interessant macht. Die Cybersicherheitsunternehmen KELA und Palo Alto Networks konnten die schwachen Sicherheitsvorkehrungen umgehen, um bösartige Inhalte zu produzieren. Nicht zuletzt sind der chinesische Serverstandort und ein möglicher Zugriff der chinesischen Regierung und Sicherheitsbehörden weitere Risikofaktoren. Wie auch nach dem amerikanischen US Cloud Act, der US-Behörden Zugriff auf Daten von Unternehmen gewährt, sieht auch das chinesische Geheimdienstgesetz die Kooperation von Unternehmen vor. Insgesamt hinterlässt DeepSeek ein Bild mangelnder Transparenz bei der Datenverarbeitung und deren datenschutzrechtliche Maßnahmen.
Prüfverfahren gegen DeepSeek
Aus den genannten Risiken und Bedenken folgen nun Taten: Wie der Hessische Beauftragte für Datenschutz und Informationsfreiheit mitteilte, haben nun am 14. Februar 2025 eine Reihe von deutschen Landesdatenschutzaufsichtsbehörden abgestimmte Prüfverfahren gegen den KI-Anbieter DeepSeek eingeleitet. Beteiligt sind neben Hessen die Aufsichtsbehörden von Rheinland-Pfalz, Baden-Württemberg, Thüringen, Sachsen-Anhalt, Bremen und Berlin. Ziel der Prüfverfahren ist es, zu klären, „ob die zwei hinter DeepSeek stehenden chinesischen Unternehmen einen Vertreter in der Europäischen Union benannt haben.“ Weitere Datenschutzaufsichtsbehörden wie Sachsen, Mecklenburg-Vorpommern und Niedersachsen haben zudem ihre Bedenken und Empfehlungen veröffentlicht.
Internationale Warnungen und Verbote
Neben den deutschen Aufsichtsbehörden sind auch andere Länder auf der Hut. Die italienische Datenschutzbehörde Garante hatte bereits im Januar Ermittlungen gegen DeepSeek begonnen und die Einschränkung der Verarbeitung der Daten italienischer Nutzer angeordnet. Auch die niederländische Datenschutzbehörde (AP) und die polnische Datenschutzbehörde (UODO) warnen vor der DeepSeek-App.
Zudem haben auch nicht-europäische Staaten Sicherheitsmaßnahmen gegen DeepSeek ergriffen: In Südkorea wurde die Möglichkeit zum Download von DeepSeek ausgesetzt, erklärte die nationale Datenschutzbehörde (PIPC). Daneben sei, nach Angaben der Tagesschau, in Taiwan, Australien und Teilen der USA die Verwendung von DeepSeek bei Bundesbehörden und staatlichen Einrichtungen verboten wurden. Dies deckt sich mit den Empfehlungen der KI-Expertin Miriam Meckel im ZDFheute-Interview: „Ich würde niemandem der im Unternehmensumfeld oder Regierungsumfeld arbeitet empfehlen dieses Modell auf das eigene Telefon zu laden.“ Unsere KI-Experten der Kinast-Rechtsanwälte sehen hier Unternehmen und Behörden in der Pflicht ihre Beschäftigten dahingehend zu sensibilisieren und gegebenenfalls weitere Schutzmaßnahmen zu ergreifen.
Empfehlungen der deutschen Datenschutzbehörden
Die Empfehlungen der Datenschutzbeauftragten der Länder sind nahezu identisch und umfassen folgende Mindestmaßnahmen:
- Transparenz: Unternehmen sollten bei der Auswahl einer KI-Anwendung auf die Transparenz des Anbieters und eine entsprechende Dokumentation achten, aus der nachvollziehbar hervorgeht, dass Garantien für die Einhaltung der DSGVO gegeben sind und diese eingehalten werden
- Keine personenbezogenen Daten: Bei der Verwendung einer Online-Schnittstelle Raten die Datenschutzbehörden niemals personenbezogene oder vertrauliche Daten einzugeben. Mit der Ausnahme, wenn wirksame Maßnahmen bekannt, die einen Missbrauch verhindern können.
- Ernennung eines Vertreters: Des Weiteren empfehlen Sie darauf zu achten, dass der Hersteller der KI-Anwendung, sofern er auch datenschutzrechtlich Verantwortlicher ist und seinen Sitz nicht in der EU hat, möglichst einen Vertreter nach Art. 27 DSGVO benannt hat. Nur damit kann eine effektive Durchsetzung der Betroffenenrechte gewährleistet werden.
- Sichere IT-Umgebung: Mithilfe einer separaten, gesicherten IT-Umgebung oder anderen geeigneten Maßnahmen, sollte vor Installation des KI-Modells sichergestellt werden, dass keine (personenbezogenen) Daten abfließen können.
- Sensibilisierung und Schulung: Wie nach Art. 4 KI-VO von Betreibern verlangt, sollten Beschäftigte und Nutzende aktiv für die mit der Nutzung von KI verbundenen Risiken sensibilisiert werden. Die KI-Kompetenz ist seit dem 2. Februar 2025 für Anbieter und Betreiber von KI-Systemen verpflichtend.
Weitere Informationen und Hilfestellungen
Darüber hinaus verweisen die Stellungnahmen auf bereits veröffentlichte Orientierungshilfen, Checklisten und weitere Dokumente allgemein zum Einsatz von KI-Anwendungen. Dazu zählt die Stellungnahme (abrufbar hier) des Europäischen Datenschutzausschusses (EDSA), die die Anforderungen an den Umgang mit personenbezogenen Daten in der Entwicklung und Nutzung von KI-Modellen präzisiert. Des Weiteren wird auf die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der DSK, die KI-Checkliste des Bayerischen Landesamts für Datenschutzaufsicht und die Checkliste zum Einsatz LLM-basierter Chatbots des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit verwiesen. Zudem sollte auch das Diskussionspapier des LfDI Baden-Württemberg zum Datenschutz bei Large Language Models berücksichtigt werden.
Handlungsempfehlungen für Unternehmen und Behörden
Die eingeleiteten Prüfverfahren gegen DeepSeek verdeutlichen die erforderliche Vorsicht und Ernsthaftigkeit bei der Auswahl des passenden KI-Tools. Um datenschutzrechtliche Risiken insbesondere bei der Nutzung von Anbietern aus außereuropäischen Drittstaaten wie China oder den USA zu minimieren, sollten Unternehmen und Behörden gezielt vorbeugende Maßnahmen ergreifen.
Lokales Hosting vs. Cloud-Dienste
Eine grundlegende Entscheidung betrifft die Wahl zwischen lokalem Hosting und Cloud-Diensten. On-Premises-Modelle bieten eine höhere Kontrolle über die Datenverarbeitung und verhindern, dass sensible Informationen an externe Anbieter abfließen. Datenschutzrechtliche Risiken, die bei direktem Zugriff über Drittanbieter-Plattformen wie die offizielle DeepSeek-Website oder App entstehen, können vermieden werden, indem Open-Source-KI-Modelle (wie es auch DeepSeek ist) auf eigenen Servern betrieben werden. Zudem ist es ratsam, die ethischen und politischen Filtermechanismen eines KI-Systems zu überprüfen. Damit können Sie sicherzustellen, dass sie mit den internen Compliance-Anforderungen des Unternehmens sowie der DSGVO übereinstimmen.
DSGVO-Konformität des Anbieters prüfen
Um die Einhaltung der DSGVO sicherzustellen, ist eine sorgfältige Prüfung des KI-Anbieters erforderlich. Die erste und wichtigste Frage ist dabei, ob überhaupt personenbezogene Daten mit dem KI-System verarbeitet werden. Weitere wichtige Fragen dabei sind, ob ein gesetzlicher Vertreter in der EU gemäß Artikel 27 DSGVO benannt wurde und ob klare Datenschutzrichtlinien mit der Möglichkeit zur Wahrnehmung von Nutzerrechten gibt. Falls personenbezogene Daten in Drittländer übermittelt werden, sollten Sie klären, ob Standardvertragsklauseln (SCCs) genutzt werden oder ein Angemessenheitsbeschluss vorliegt.
Alternativen zu DeepSeek
Anstelle von DeepSeek gibt es zahlreiche KI-Lösungen, die entweder in der EU oder in Ländern mit hohen Datenschutzstandards entwickelt und gehostet werden. Eine Möglichkeit sind Open-Source-Modelle wie etwa Mistral AI aus Frankreich, die lokal oder über europäische Cloud-Anbieter gehostet werden können. Auch Llama 2 von Meta aus den USA lässt sich lokal betreiben. Für Unternehmen, die auf Cloud-KI-Dienste angewiesen sind, gibt es europäische Anbieter. Dazu gehören Le Chat von Mistral AI oder die KI-Modelle der deutschen Unternehmen Aleph Alpha und OpenGPT-X. Falls es dennoch notwendig ist, KI-Dienste der großen Tech-Konzerne wie OpenAI, Google oder DeepSeek zu nutzen, können europäische Cloud-Dienstleister genutzt werden. Anbieter wie die Deutsche Telekom ermöglichen eine datenschutzfreundlichere Nutzung, indem sie die Verarbeitung innerhalb der EU halten.
Zusammenfassung und Ausblick
Die Prüfverfahren gegen DeepSeek verdeutlichen die erheblichen datenschutzrechtlichen Risiken, die mit der Nutzung von KI-Anwendungen aus Drittstaaten ohne EU-Vertreter verbunden sind. Neben regulatorischen Verstößen bestehen erhebliche Sicherheitsrisiken. Die Erfassung und Speicherung von personenbezogenen Daten auf chinesischen Servern, die Möglichkeit zur Analyse von Tastaturmustern und die Nutzung für Werbezwecke erhöhen das Risiko für Nutzer. Zudem ermöglicht die schwache Sicherheitsarchitektur Jailbreaks und macht DeepSeek zu einem potenziellen Ziel für Cyberkriminelle.
Da sich nicht nur deutsche, sondern auch internationale Datenschutz- und Sicherheitsbehörden zunehmend mit den Risiken befassen – von Italien über die Niederlande bis nach Südkorea – ist abzusehen, dass DeepSeek in Zukunft verstärkten Einschränkungen und Saktionen unterliegen könnte. Dies zeigt sich auch an bereits verhängten Nutzungsbeschränkungen in Taiwan, Australien und den USA.
Interessanterweise scheint der globale KI-Markt trotz dieser Bedenken weiter zu wachsen. Entgegen vielen Erwartungen hat Nvidia nicht unter den geopolitischen Spannungen oder Datenschutzbedenken bei chinesischen KI-Anbietern wie DeepSeek gelitten – im Gegenteil: Der Umsatz des Unternehmens ist massiv gestiegen. Die Nachfrage nach leistungsstarker KI-Hardware und Infrastrukturen wächst weiter.
Der KINAST KI-Beauftragte
Die rasante Entwicklung von KI-Technologien wie ChatGPT, DeepSeek oder Microsoft Copilot verändert Geschäftsprozesse und Behördenarbeit grundlegend. Unternehmen und öffentliche Stellen können sich diesem Fortschritt nicht entziehen. Der Einsatz von KI erfordert jedoch weit mehr als nur technologische Anpassungen. Sie müssen regulatorische, ethische und Compliance-Anforderungen von Anfang an berücksichtigen, um Datenschutzrisiken zu minimieren und rechtliche Sicherheit zu gewährleisten.
Als Ihr vertrauensvoller Partner unterstützen wir Sie mit unserem spezialisierten KI-Beauftragten dabei, die komplexen Anforderungen der europäischen KI-Verordnung, der DSGVO und weiterer datenschutzrechtlicher Vorgaben zu meistern. Wir helfen Ihnen, KI-Strategien zu entwickeln, die nicht nur innovativ, sondern auch zukunftssicher und rechtskonform sind.
