Ein aktueller Sicherheitsvorfall bei McDonald’s zeigt auf alarmierende Weise, wie fragil KI-Systeme in Kombination mit schlechten Passwörtern sein können. Über die Bewerbungsplattform McHire wurden sensible Daten von bis zu 64 Millionen Bewerbern offengelegt. Eine Meldung, die zentrale Fragen zur Zulässigkeit, Sicherheit und Kontrolle von KI-gestützten Recruiting-Prozessen aufwirft. Doch wo Technologie auf personenbezogene Daten trifft, entstehen neue Risiken.
Schwachstellen im KI-Recruiting-System
McDonald’s setzt im Recruiting oftmals die eigene Bewerberplattform „McHire“ ein, betrieben durch das US-Unternehmen Paradox.ai. Der dort eingesetzte KI-Chatbot „Olivia“ sammelt Bewerberdaten, führt Tests durch und begleitet die digitale Kommunikation. Sicherheitsforscher Ian Carroll und Sam Curry deckten jedoch erhebliche Schwachstellen auf.
Ein unzureichend geschützter interner Zugang erlaubte Administratoren ohne Multifaktor-Authentifizierung die Einsicht in Bewerberdaten. Die Forscher entdeckten eine Login-Möglichkeit für Paradox-Mitarbeiter auf der McHire.com-Website. Sie verwendeten den Benutzernamen „1232456“ und das gleichlautende Kennwort „123456“. Mit diesen Standardzugangsdaten, erhielten die Sicherheitsforscher Administratorzugriff auf ein Test-Restaurant innerhalb des McHire-Systems.
Millionen Bewerberdaten betroffen
Besonders kritisch war die zweite Sicherheitslücke. Diese betraf eine sogenannte Insecure Direct Object Reference (IDOR). Über eine interne API konnten die Forscher durch einfaches Austauschen der Bewerber-ID im Test-Restaurant auf beliebige Datensätze zugreifen – die IDs lagen im Bereich von über 64 Millionen. Dadurch konnten sie auf persönliche Daten wie Namen, E-Mail-Adressen, Telefonnummern, Wohnadressen, Bewerbungsstatus, alle Änderungen im Bewerbungsprozess sowie vollständige Chatprotokolle mit dem Chatbot Olivia zugreifen.
Risiko für Phishing und Identitätsdiebstahl
Die erfassten Daten sind aus datenschutzrechtlicher Sicht hochsensibel. Ein erfolgreicher Angriff durch beispielsweise Phishing-Attacken hätte schwerwiegende Folgen haben können, da sich Angreifer damit glaubwürdig als McDonald’s-Mitarbeiter hätten ausgeben können – bis hin zu Identitätsdiebstahl. Paradox.ai reagierte laut Ian Carroll nach Bekanntwerden mit der Schließung der Lücke und sprach von einem irrtümlich aktiven Testzugang. McDonald’s zeigte sich „enttäuscht über die inakzeptable Sicherheitslücke bei einem Drittanbieter“.
DSGVO und BDSG setzen klare Grenzen bei Bewerberdaten
Die Verarbeitung von Bewerberdaten ist in Deutschland durch die DSGVO und das BDSG eng begrenzt. Nach § 26 Abs. 1 BDSG dürfen personenbezogene Daten nur erhoben werden, wenn sie für die Entscheidung über ein Beschäftigungsverhältnis erforderlich sind. Zulässig sind etwa Kontaktdaten, Angaben zur Qualifikation und zum beruflichen Werdegang. Freiwillige Angaben wie Fotos oder das Geburtsdatum dürfen nur mit ausdrücklicher Einwilligung gemäß Art. 6 Abs. 1 lit. a DSGVO verarbeitet werden – ein jederzeit widerrufbares Einverständnis, das Unsicherheiten im Verfahren mit sich bringt.
Nach Abschluss eines Bewerbungsverfahrens gilt eine sechsmonatige Löschfrist für nicht erfolgreiche Bewerber. Eine längere Speicherung – etwa zur Aufnahme in einen Talentpool – ist nur mit gesonderter Einwilligung zulässig. Papierunterlagen müssen nach DIN 66399, Sicherheitsstufe P4, vernichtet werden. Zudem sind Unternehmen verpflichtet, Bewerber transparent über Art und Zweck der Datenverarbeitung zu informieren (Art. 12 DSGVO). Das BAG sprach zuletzt einem Bewerber 5.000 Euro Schadensersatz wegen fehlender Information über eine Google-Recherche zu.
Chancen für KI im Recruiting
Die Integration von KI-Systemen im Bewerbungsprozess bietet für Unternehmen viele Chancen. Automatisierte Kommunikation, Lebenslauf-Parsing und gezielte Analyse von Qualifikationen können Abläufe beschleunigen und standardisieren. Doch sie werfen auch erhebliche datenschutz- und gleichbehandlungsrechtliche Fragen auf. Laut der neuen EU-KI-Verordnung (KI-VO) gelten solche Systeme regelmäßig als Hochrisiko-KI. Damit sind strenge Anforderungen an Transparenz, Dokumentation und menschliche Kontrollinstanzen verbunden.
Risiken & verbotene KI-Praktiken
Ein zentrales Risiko ist die algorithmische Diskriminierung (Bias) – etwa durch Trainingsdaten, die unbewusst benachteiligende Muster übernehmen. Solche Verzerrungen können zu Verstößen gegen das AGG führen. Daher sind regelmäßige Audits der eingesetzten Systeme essenziell. Auch vollautomatisierte Einstellungsentscheidungen sind nur in Ausnahmefällen zulässig (Art. 22 DSGVO). Die finale Entscheidung muss immer bei einem Menschen liegen – Stichwort: „Meaningful Human Control“.
Ein besonders kritischer Bereich ist die Analyse emotionaler oder biometrischer Merkmale. Nach Art. 5 Abs. 1 lit. f der neuen KI-VO sind biometrische Analysen am Arbeitsplatz grundsätzlich untersagt. Auch Emotionsanalysen sind mangels Erforderlichkeit und fehlender Freiwilligkeit regelmäßig unzulässig. Ein weiterer Schwachpunkt vieler KI-Lösungen liegt in der mangelnden Nachvollziehbarkeit. Für viele HR-Abteilungen bleibt die Funktionsweise der Systeme eine Black Box. Umso wichtiger sind Transparenzpflichten und eine klare Dokumentation der eingesetzten Verfahren.
Beschäftigtendatengesetz
Eine solche Sicherheitslücke zeigt einmal mehr, dass es durchdachten Beschäftigtendatenschutz bedarf. Doch auf das geplante Beschäftigtendatengesetz (BeschDG), dass den Einsatz von KI im Arbeitsverhältnis künftig strenger regeln soll, ist weiter zu warten. Geplant ist etwa, die automatisierte Profilerstellung zu beschränken und neue Vorgaben zur Zulässigkeit psychologischer Tests und Gesundheitsfragen zu etablieren.
Fazit
Der Fall McHire verdeutlicht, dass Effizienzgewinne durch KI im Recruiting nicht zulasten des Datenschutzes gehen dürfen. Zudem dürfen einfach zu verhindernde Sicherheitslücken wie schlecht gesicherte Test-Accounts nicht unentdeckt bleiben. Unternehmen müssen technische Lösungen sorgfältig auswählen, DSGVO-Vorgaben konsequent einhalten und Dienstleister streng kontrollieren. Nur wer transparent, sicher und datenschutzkonform handelt, kann das Vertrauen von Bewerbern gewinnen – und langfristig halten.
Der „KI-Beauftragte“ – Ihre Lösung für rechtssichere KI-Compliance
