Der Bundesstaat Kalifornien hat mit dem Transparency in Frontier Artificial Intelligence Act (TFAIA), bekannt als SB 53, ein KI-Gesetz zur Regulierung der leistungsstärksten KI-Modelle verabschiedet. Dieser Vorstoß zielt darauf ab verbindliche Standards für Sicherheit und Rechenschaftspflicht zu etablieren. Große KI-Unternehmen wie Anthropic oder OpenAI haben ihren Sitz in Kalifornien. Angesichts dessen, kann diese staatliche Regulierung voraussichtlich über die Grenzen Kaliforniens hinaus die globale KI-Governance beeinflussen.
Der kalifornische Regulierungsansatz
Das KI-Gesetz SB 53 ist das Resultat der Lehren, die aus dem gescheiterten Vorgängerentwurf SB 1047 im Jahr 2024 gezogen wurden. SB 53 richtet sich an sogenannte Frontier Models. Dies sind Basismodelle, die mit einer Rechenleistung von mehr als 10^26 floating point operations (FLOPs) trainiert wurden. Die Pflichten gelten für große Frontier Developers, die solche Modelle entwickeln und zusammen mit ihren verbundenen Unternehmen im vorangegangenen Jahr einen Bruttoumsatz von über 500 Millionen US-Dollar erzielten.
Pflichten für Unternehmen aus SB 53
Im Mittelpunkt des Gesetzes steht das „Trust but Verify“-Prinzip. Anstatt auf technische Vorschriften zu setzen, wie es der frühere Gesetzesentwurf SB 1047 tat, verfolgt SB 53 den Ansatz, durch Offenlegungsanforderungen Transparenz herzustellen und damit das Prinzip „Vertrauen, aber überprüfen“ umzusetzen.
Die betroffenen Unternehmen sind verpflichtet, auf ihren Webseiten sogenannte Frontier AI Frameworks zu veröffentlichen. In diesen sollen sie beschreiben wie sie katastrophale Risiken managen, bewerten und mindern. Als katastrophale Risiken gelten solche, die vorhersehbar und wesentlich zum Tod oder zu schweren Verletzungen von mehr als 50 Personen oder zu Sachschäden von über einer Milliarde Dollar beitragen könnten. Zudem müssen die Entwickler Transparenzberichte veröffentlichen, die Zusammenfassungen ihrer Risikobewertungen enthalten. Darüber hinaus müssen sie darlegen, welche Maßnahmen im Rahmen des Frameworks ergriffen wurden. Auch die Meldung kritischer Sicherheitsvorfälle an das Office of Emergency Services innerhalb von 15 Tagen ist verpflichtend. Dazu gehöre ebenso die vertrauliche Übermittlung von internen Risikobewertungen. Bei Verstößen drohen zivilrechtliche Geldbußen von bis zu einer Million US-Dollar pro Fall.
Einordnung durch die Kommission für Datenschutz und Verbraucherschutz
Das zuständige Assembly Committee on Privacy and Consumer Protection des kalifornischen Parlaments hebt hervor, dass der Ansatz von SB 53 wesentlich enger gefasst ist als SB 1047. Die Kommission begrüßt die klaren Whistleblower-Schutzbestimmungen für Mitarbeiter, die Risiken melden. Die Kommission unterstützt zudem die Bestimmung, Berichte über interne Risikobewertungen von der öffentlichen Offenlegung auszunehmen, um Handelsgeheimnisse und Cybersicherheit zu schützen. Dennoch betont Sie ferner, dass die ursprünglichen Pläne für eine strenge Durchsetzung entschärft wurden. Die Forderung nach unabhängigen Audits wurde gestrichen und die maximale zivilrechtliche Strafe von 10 Millionen US-Dollar auf 1 Million US-Dollar reduziert.
Anthropic unterstützt mit Vorbehalten
Das Unternehmen Anthropic unterstützt das Gesetz, auch wenn es die Regulierung von Frontier AI grundsätzlich lieber auf Bundesebene sehen würde. Doch der Fortschritt in der KI-Entwicklung werde nicht auf ein politisches Einvernehmen in Washington warten. Doch SB 53 schaffe eine solide Grundlage für zukünftige nationale Vorschriften. Darüber hinaus formalisiere das Gesetz Praktiken, die Unternehmen wie Anthropic, Google DeepMind und OpenAI bereits freiwillig anwenden würden. Dies seien etwa Veröffentlichungen wie die Responsible Scaling Policy oder Systemkarten. Ein zentrales Argument für die Regulierung ist, dass die Transparenzpflichten für gleiche Wettbewerbsbedingungen sorgen. Ohne gesetzliche Vorgaben bestünde die Gefahr, dass Unternehmen im Wettbewerb ihre Sicherheitsstandards zurückfahren. Dadurch könne ein „race to the bottom“ entstehen, so Anthropic.
Gleichzeitig weist Anthropic auf Verbesserungspotenziale hin. So sei der Schwellenwert von 10^26 FLOPs lediglich ein akzeptabler Ausgangspunkt, da manche leistungsstarke Modelle damit nicht erfasst würden. Zudem sollten Entwickler verpflichtet werden, detailliertere Angaben zu Tests, Bewertungen und Minderungsmaßnahmen zu veröffentlichen, um die öffentliche Sicherheit zu stärken. Auch müssten die Vorschriften flexibel genug gestaltet sein, damit Regulierungsbehörden sie an die rasante technologische Entwicklung anpassen können.
Implikationen für Unternehmen
Für Unternehmen, die diese leistungsstarken KI-Modelle nutzen oder darauf basierende Produkte entwickeln, kann diese verpflichtende Transparenz einen Vorteil in der Lieferkette bewirken. Sie erhalten vor der Bereitstellung kritische Einblicke in die Bewertungen von Risiken und die spezifischen Nutzungseinschränkungen der Modelle. Da die Offenlegung von Sicherheits- und Risikominderungsmaßnahmen dadurch obligatorisch und nicht optional wird, setzt SB 53 einen verbindlichen Branchenstandard. Unternehmen, die KI-Modelle nutzen, sollten die veröffentlichten Frontier AI Frameworks und Transparenzberichte ihrer Zulieferer genau analysieren. Diese Informationen ermöglichen es nachgeschalteten Nutzern, ihre eigenen Sicherheits- und Compliance-Maßnahmen basierend auf den bekannten Risiken anzupassen. Dadurch können Unternehmen ihr Risikomanagement und Compliance proaktiv an die neuen, offengelegten Sicherheitsstandards anpassen und somit potenzielle Haftungsrisiken minimieren.
Fazit
Der Kaliforniens KI-Gesetz SB 53 markiert in der Gesamtschau mit der EU KI-Verordnung einen Trend. Dieser geht hin zu verpflichtender Transparenz und Rechenschaftspflicht für die leistungsstärksten KI-Modelle, insbesondere in Bezug auf die Bewältigung potenzieller Risiken. Unternehmen – ob als Large Frontier Developer oder als nachgeschalteter Nutzer – zeigt die Regulierung, dass KI-Sicherheit und Transparenz keine optionale Best Practice mehr ist. Vielmehr wird sie zunehmend zur gesetzlichen Pflicht. Ebenso signalisiert die Tatsache, dass ein führender Akteur wie Anthropic staatliche Regulierung begrüßt, dass sich die Marktbedingungen ändern.
Wenn Sie Unterstützung bei der rechtssicheren Einführung oder Nutzung von KI-Tools benötigen, stehen Ihnen unsere Experten mit praxisnaher KI- und Datenschutzberatung zur Seite.
Der „KI-Beauftragte“ –
Ihre Lösung für rechtssichere KI-Compliance
Wir bieten Unternehmen eine umfassende Lösung für die rechtlichen und regulatorischen Herausforderungen, die der Einsatz von KI mit sich bringt.
