KI-Gesetz SB 1000 in Kalifornien streicht Schwellenwert von 1 Mio. Nutzern

Wie die Änderungen des California AI Transparency Act den Anbieterkreis verändern

Mit den Änderungen des California AI Transparency Act durch SB 1000 entfällt der bisherige Schwellenwert von mehr als 1 Million monatlichen Besuchern oder Nutzern, der für die Einstufung als regulierter Anbieter erforderlich war. Gemäß dem am 30. September 2026 unterzeichneten Gesetz können sich Entwickler nicht mehr auf Nutzerzahlen berufen, um Transparenzpflichten aufzuschieben. Das Gesetz weitet die Aufsicht auf alle Entwickler aus, die entsprechende generative KI-Systeme betreiben – unabhängig von der Reichweite. Darüber hinaus legt die Gesetzgebung spezifische Pflichten für Anbieter fest, wenn diese erfahren, dass ein identifizierbarer Dritter als Lizenznehmer ein lizenziertes generatives KI-System so verändert hat, dass es nicht mehr den staatlichen Vorgaben entspricht.

Was das Entfallen des Nutzer-Schwellenwerts unter SB 1000 für kleinere Plattformen bedeutet

Das Aufheben des Schwellenwerts unter SB 1000 unterwirft auch Softwareunternehmen in der Frühphase und Nischen-Tools für generative KI der direkten staatlichen Aufsicht. Zuvor fielen Systeme mit weniger als 1 Million monatlichen Besuchern nicht unter den spezifischen Anwendungsbereich des California AI Transparency Act. Nachdem Gouverneur Gavin Newsom Ende September 2026 SB 1000 zusammen mit AB 2713 unterzeichnet hat, müssen kleine Entwickler ihre KI-Modelle nun von Marktstart an an den staatlichen Standards messen.

Wie sich die kalifornischen Offenlegungspflichten für generative KI verändern

Die aktualisierten kalifornischen Offenlegungsregeln für generative KI führen verbindliche Standards für verborgene Kennzeichnungen in synthetischen Inhalten ein. Unter SB 1000 müssen regulierte Anbieter solche unsichtbaren Markierungen in die Ausgaben generativer KI-Systeme integrieren. Zudem schreibt das Gesetz Aktualisierungen der Prüfwerkzeuge vor, die Anbieter den Endnutzern zur Verfügung stellen müssen. Diese Verifizierungsmechanismen ermöglichen es Nutzern zu prüfen, ob Inhalte von einem generativen KI-Modell erstellt oder verändert wurden.

Welche Compliance-Anforderungen für Unternehmenseinsätze und Chatbots gelten

Neue Compliance-Anforderungen betreffen Änderungen an lizenzierter KI-Software, kommerzielle Chatbots und branchenspezifische Anwendungen. Wenn ein Anbieter weiß, dass ein Lizenznehmer ein lizenziertes KI-System regelwidrig modifiziert hat, greifen nach SB 1000 spezifische Regulierungs- und Meldepflichten. Ende September 2026 unterzeichnete Begleitgesetze enthalten weitere Einschränkungen. AB 1609 verbietet es großen Privatunternehmen, Kundenservice-Chatbots als menschliche Mitarbeiter auszugeben. Wenn Kunden irreführend getäuscht werden könnten, muss das Unternehmen einen klaren Hinweis bereitstellen, dass der Chatbot KI-generiert ist. AB 1609 verpflichtet große Unternehmen zudem zu vertretbaren Anstrengungen, Kunden auf Anfrage innerhalb von 15 Minuten mit einem menschlichen Mitarbeiter zu verbinden oder einen Termin zu vereinbaren.

Wie sich die Gesetzgebung auf spezifische Berufssektoren auswirkt

Parallel zu SB 1000 verabschiedete branchenspezifische KI-Gesetze legen gezielte Regeln für Rechtsberatung, Gesundheitswesen und Werbung fest. SB 574 untersagt Anwälten die Übertragung der Rechtsausübung an generative KI und verpflichtet sie, KI-Ausgaben auf Richtigkeit zu prüfen und Halluzinationen oder Fehler zu korrigieren. Im Gesundheitswesen verbietet AB 1979 Anbietern und Einrichtungen den Einsatz von KI zur direkten Durchführung bestimmter klinischer Aufgaben, während SB 903 Psychotherapeuten die Nutzung von KI-Tools ausschließlich auf administrative oder unterstützende Aufgaben beschränkt. In der Werbung verlangt SB 1050 klare Hinweise wie „diese Darbietung enthält einen synthetischen Darsteller“ oder „es wird kein menschlicher Darsteller gezeigt“, wenn Anzeigen realistisch wirkende digitale Personen oder Stimmen zentral darstellen.

Was das KI-Gesetz SB 1000 für Start-ups im Bereich generative KI ändert

Das kalifornische Gesetz SB 1000 verändert die Compliance-Pflichten für Start-ups im Bereich generative KI durch den Wegfall der Schonfrist bis 1 Million Nutzer. Start-ups müssen nun bereits vor dem öffentlichen Start Ressourcen für die technische Einhaltung der Vorgaben einplanen – etwa für den Aufbau von Verifizierungstools und die Einbettung verborgener Kennzeichnungen. Anstatt die Transparenzarchitektur bis zum Erreichen von 1 Million monatlichen Besuchern aufzuschieben, müssen Teams die erforderlichen Prüfprotokolle direkt in die Erstversion ihrer Modelle und in Lizenzverträge integrieren.

Fragen und Antworten

Welche Änderungen nimmt SB 1000 am California AI Transparency Act vor?

SB 1000 ändert den California AI Transparency Act, indem die Regelung gestrichen wird, wonach ein generatives KI-System mehr als 1 Million monatliche Nutzer haben muss, um als regulierter Anbieter zu gelten. Zudem werden die Regeln für Verifizierungstools aktualisiert, neue Anforderungen an verborgene Kennzeichnungen eingeführt und Vorgaben für Fälle festgelegt, in denen Lizenznehmer ein KI-System regelwidrig verändern.

Welche KI-Entwickler sind von der Streichung des Schwellenwerts betroffen?

Alle Entwickler, die regulierte generative KI-Systeme in Kalifornien betreiben, sind unabhängig von ihrer Nutzerzahl betroffen. Durch den Wegfall der Schwelle von 1 Million monatlichen Nutzern fallen auch kleinere Entwickler und Plattformen in der Frühphase unter denselben Regulierungsrahmen wie große Anbieter.

Wie wirkt sich SB 1000 auf KI-Start-ups und die Compliance in Unternehmen aus?

Start-ups im Bereich generative KI müssen Compliance-Funktionen wie verborgene Kennzeichnungen und Prüfwerkzeuge bereits vor dem Marktstart entwickeln. Unternehmen und regulierte Anbieter müssen zudem Risiken durch Lizenznehmer steuern und einschreiten, wenn Dritte ein lizenziertes KI-Modell entgegen den staatlichen Vorgaben modifizieren.