Governor Newsom unterzeichnet am 29. September 2025 in Kalifornien das Gesetz SB 53 – Transparency in Frontier Artificial Intelligence Act (TFAIA). Damit macht Kalifornien als erster US-Bundesstaat regulative Vorgaben für besonders leistungsfähige KI-Systeme.
Das Ziel: Kalifornien will nicht nur Zentrum der KI-Entwicklung bleiben, sondern auch als Modell für verantwortliche KI gelten.
Inhalte des Gesetzes:
– Große KI-Unternehmen müssen ein Frontier-AI-Framework auf ihrer Webseite veröffentlichen, das Sicherheitsprüfungen, Tests und Risikobewertungen erläutert.
– Vor der öffentlichen Veröffentlichung eines neuen Frontier-Modells ist ein Transparenzbericht Pflicht.
– Kritische Sicherheitsereignisse müssen binnen 15 Tagen an das kalifornische Office of Emergency Services gemeldet werden.
– Mitarbeitende genießen Whistleblower-Schutz, Unternehmen dürfen keine Repressalien verhängen.
– Teile der Berichte können zum Schutz von Geschäftsgeheimnissen oder Sicherheitsinteressen redigiert werden, müssen aber für fünf Jahre aufbewahrt bleiben.
– Der Staat erhält die Möglichkeit, jährlich Anpassungen vorzunehmen.
Chancen:
– Kalifornien setzt ein Vorbild und kann Debatten auf Bundesebene vorantreiben.
– Unternehmen mit hohen Sicherheitsstandards gewinnen Legitimation.
– Stärkeres Vertrauen der Öffentlichkeit in KI-Forschung.
Risiken und Kritik:
– Fragmentierung durch unterschiedliche Regelungen in US-Bundesstaaten.
– Kleine und mittlere KI-Anbieter fallen weitgehend aus dem Anwendungsbereich.
– Möglichkeit der Redigierung könnte Transparenz einschränken.
– Unklare Durchsetzungs- und Kontrollmechanismen.
Kritische Analyse im internationalen Kontext:
Die EU hat mit dem AI Act einen umfassenderen Rahmen geschaffen, der alle KI-Systeme nach Risikostufen reguliert. Kalifornien fokussiert sich dagegen nur auf große Frontier-Modelle. Damit bleiben Anwendungen in Verwaltung, Medizin oder Bildung unberührt.
Für internationale Unternehmen entsteht zusätzlicher Compliance-Aufwand. Firmen, die bereits EU-konform arbeiten, müssen in Kalifornien weitere spezifische Anforderungen erfüllen. Besonders Startups mit globalem Anspruch stehen vor einer Doppelbelastung.
Unklar bleibt die Durchsetzung: Ohne verbindliche Auditstrukturen könnten Transparenzberichte reine Formalität sein. Zugleich könnte Kalifornien durch seine Vorreiterrolle Druck auf andere Staaten und die Bundesregierung ausüben – mit der Folge einer regulatorischen Flickenteppichs oder aber eines bundeseinheitlichen Gesetzes.
Quellen:
Governor Gavin Newsom, Office of the Governor of California, 29.09.2025, https://www.gov.ca.gov/2025/09/29/governor-newsom-signs-sb-53-advancing-californias-world-leading-artificial-intelligence-industry/
LegiScan, Text SB 53, 2025, https://legiscan.com/CA/text/SB53/id/3268028
Mayer Brown, „California Enacts SB 53“, 01.10.2025, https://www.mayerbrown.com/en/insights/publications/2025/10/california-enacts-sb-53-creating-new-requirements-for-developers-of-frontier-artificial-intelligence-models-and-related-whistleblower-provisions
AP News, „California governor signs bill regulating frontier AI“, 29.09.2025, https://apnews.com/article/9f888a7cbaa57a7dec9e210785b83280
Inside Tech Law, „Californias Transparency in Frontier Artificial Intelligence Act“, 30.09.2025, https://www.insidetechlaw.com/blog/2025/09/californias-transparency-in-frontier-artificial-intelligence-act
Reuters, „California’s Newsom signs law requiring AI safety disclosures“, 29.09.2025, https://www.reuters.com/legal/litigation/californias-newsom-signs-law-requiring-ai-safety-disclosures-2025-09-29/
Vox, „California SB 53 explained“, 30.09.2025, https://www.vox.com/future-perfect/461340/sb53-california-ai-bill-catastrophic-risk-explained
Tech Policy Press, „California signed a landmark AI safety law“, 01.10.2025, https://www.techpolicy.press/california-signed-a-landmark-ai-safety-law-what-to-know-about-sb53/