Kalifornien verschärft Regeln für KI-Sicherheit und Kinderschutz
Dieser Text wurde (ganz oder teilweise) mithilfe von KI erstellt.
Stand: 11.09.2026
Der verlinkte Politico-Artikel war beim Abruf technisch nicht direkt zugänglich. Die folgenden Angaben stützen sich deshalb auf offizielle Unterlagen des Bundesstaates Kalifornien sowie auf Berichte von Reuters, Associated Press, The Guardian und San Francisco Chronicle.
Kaliforniens Gouverneur Gavin Newsom hat am 9. September 2026 zwei neue Gesetze zur Kontrolle von Künstlicher Intelligenz unterzeichnet. Senate Bill 813 schafft einen Rahmen für unabhängige Prüfstellen, die KI-Systeme und KI-Modelle auf Risiken und die Einhaltung staatlicher Vorgaben prüfen können. Assembly Bill 1405 sieht ein staatliches Register für KI-Prüfer vor und legt Maßstäbe für deren Unabhängigkeit, Transparenz und Integrität fest. Für Laien bedeutet das: Nicht nur die Anbieter selbst sollen erklären, ob ihre Systeme sicher sind. Auch unabhängige Stellen sollen prüfen können, ob diese Aussagen tragen.
Die neuen Regeln bauen auf Kaliforniens Frontier-AI-Gesetz SB 53 aus dem Jahr 2025 auf. Dieses verpflichtet große Entwickler besonders leistungsfähiger KI-Modelle unter anderem dazu, Sicherheitsrahmen öffentlich zu machen, bestimmte schwerwiegende Sicherheitsvorfälle zu melden und Hinweisgeber zu schützen. Die aktuellen Gesetze ergänzen diesen Ansatz, indem sie die externe Prüfung und die Registrierung von Prüfern organisieren.
Am 10. September 2026 unterzeichnete Newsom außerdem ein umfangreiches Paket zum Schutz von Kindern und Jugendlichen im Internet. Dazu gehört Senate Bill 1119, auch Adam’s Law genannt. Das Gesetz verpflichtet Betreiber von sogenannten Companion Chatbots zu Schutzmaßnahmen wie Risikobewertungen, unabhängigen Kindersicherheitsaudits, Krisenprotokollen und Elternkontrollen. Nach dem Gesetz sollen zentrale Pflichten ab dem 1. Juli 2027 greifen. Ebenfalls unterzeichnet wurde Assembly Bill 1709. Dieses Gesetz richtet sich gegen bestimmte süchtig machende Funktionen auf großen Online-Plattformen für Nutzerinnen und Nutzer unter 16 Jahren, etwa automatisch fortlaufende Inhalte, Autoplay oder personalisierte Empfehlungsfeeds.
Die Gesetze sind Teil einer breiteren politischen Debatte. Befürworter sehen darin einen Versuch, Innovation mit überprüfbaren Schutzregeln zu verbinden. Kritiker warnen, dass strengere Alterskontrollen, Einschränkungen von Funktionen und Plattformpflichten auch den Zugang junger Menschen zu Informationen und Online-Gemeinschaften beeinträchtigen könnten. Wie stark die Gesetze wirken, hängt deshalb nicht nur vom Wortlaut ab, sondern auch von späteren Verordnungen, der Durchsetzung durch Behörden und möglichen Gerichtsverfahren.
Nach Berichten von The Guardian und San Francisco Chronicle unterstützten einzelne KI-Unternehmen Teile der neuen Regeln. The Guardian berichtete über Unterstützung von Anthropic für Gesetze zur unabhängigen KI-Prüfung. Der San Francisco Chronicle berichtete, OpenAI habe Adam’s Law letztlich unterstützt. Diese Unternehmenspositionen ändern aber nichts daran, dass die verbindlichen Vorgaben aus den verabschiedeten und unterzeichneten Gesetzestexten folgen.
Für Menschen außerhalb der USA ist der Schritt vor allem deshalb relevant, weil Kalifornien ein wichtiger Standort großer Technologie- und KI-Unternehmen ist. Regeln aus diesem Bundesstaat können deshalb über Kalifornien hinaus Einfluss darauf haben, wie Unternehmen Produkte entwickeln, Risiken dokumentieren und Schutzmaßnahmen erklären.
Quellen
Titel: Governor Newsom signs first-in-the-nation AI safeguards to protect Californians, calls on the federal government to do its part
Autor oder Organisation: Office of Governor Gavin Newsom
URL: https://www.gov.ca.gov/2026/09/09/governor-newsom-signs-first-in-the-nation-ai-safeguards-to-protect-californians-calls-on-the-federal-government-to-do-its-part/
Veröffentlichungsdatum: 09.09.2026
Abrufdatum: 11.09.2026
Titel: Bill Text – SB-813 Independent verification organizations.
Autor oder Organisation: California Legislative Information
URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB813
Veröffentlichungsdatum: 09.09.2026
Abrufdatum: 11.09.2026
Titel: Bill Text – AB-1405 Artificial intelligence: auditors: registration.
Autor oder Organisation: California Legislative Information
URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB1405
Veröffentlichungsdatum: 09.09.2026
Abrufdatum: 11.09.2026
Titel: Governor Newsom signs the strongest child safety chatbot and social media laws in the nation
Autor oder Organisation: Office of Governor Gavin Newsom
URL: https://www.gov.ca.gov/2026/09/10/governor-newsom-signs-the-strongest-child-safety-chatbot-and-social-media-laws-in-the-nation/
Veröffentlichungsdatum: 10.09.2026
Abrufdatum: 11.09.2026
Titel: Bill Text – SB-1119 Companion chatbots: children’s safety.
Autor oder Organisation: California Legislative Information
URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260SB1119
Veröffentlichungsdatum: 08.09.2026
Abrufdatum: 11.09.2026
Titel: Bill Text – AB-1709 Covered platforms: age restriction: e-Safety Advisory Commission.
Autor oder Organisation: California Legislative Information
URL: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=202520260AB1709
Veröffentlichungsdatum: 04.09.2026
Abrufdatum: 11.09.2026
Titel: California enacts new curbs on social media for children
Autor oder Organisation: Steve Gorman, Reuters
URL: https://www.reuters.com/legal/litigation/california-enacts-new-curbs-social-media-children-2026-09-11/
Veröffentlichungsdatum: 11.09.2026, Dateline 10.09.2026
Abrufdatum: 11.09.2026
Titel: New California laws aim to protect kids from social media harms
Autor oder Organisation: Sophie Austin, Associated Press
URL: https://apnews.com/article/6063026d1b54a8537d639605c23aab80
Veröffentlichungsdatum: kein Veröffentlichungsdatum im abgerufenen Seitentext eindeutig ausgewiesen
Abrufdatum: 11.09.2026
Titel: Gavin Newsom imposes strict new rules on AI, social media and chatbots for children
Autor oder Organisation: Dani Anguiano, The Guardian
URL: https://www.theguardian.com/media/2026/sep/10/gavin-newsom-social-media-bill
Veröffentlichungsdatum: 10.09.2026
Abrufdatum: 11.09.2026
Titel: Newsom signs sweeping measures to safeguard children’s internet use
Autor oder Organisation: Sophia Bollag, Kathryn Palmer und Hannah Wiley, San Francisco Chronicle
URL: https://www.sfchronicle.com/politics/article/newsom-signs-sweeping-measures-safeguard-children-21033748.php
Veröffentlichungsdatum: 10.09.2026
Abrufdatum: 11.09.2026