KI-Gesetz SB 947 in Kalifornien schränkt automatisierte HR-Entscheidungen ein
Am 30. September 2026 unterzeichnete der kalifornische Gouverneur Gavin Newsom das KI-Gesetz California SB 947, um automatisierte Entscheidungen bei Personalmaßnahmen einzuschränken. Das als SB 947 No Robo Bosses Act bekannte Gesetz verbietet es Unternehmen, sich ausschließlich auf Algorithmen zu verlassen, um Beschäftigte zu disziplinieren oder zu entlassen. Für Unternehmen schreibt das Gesetz vor, unabhängige Arbeitsabläufe zur menschlichen Überprüfung einzurichten und Mitarbeiter nach einer Entscheidung zu benachrichtigen, wenn automatisierte Entscheidungssysteme die Disziplinierung oder Leistung von Personal bewerten.
Was der No Robo Bosses Act für die menschliche Aufsicht vorschreibt
Senate Bill 947, bekannt als No Robo Bosses Act, setzt strenge betriebliche Grenzen für den Einsatz von Software in der Personalführung. Das Gesetz untersagt es Arbeitgebern, sich bei Disziplinarmaßnahmen oder Kündigungen ausschließlich auf ein automatisiertes Entscheidungssystem zu stützen. Nach dem Statut muss eine menschliche Prüfperson das automatisierte Ergebnis unabhängig bestätigen, bevor eine nachteilige Beschäftigungsmaßnahme erfolgt. Diese Anforderung wirkt sich direkt auf Verfahren bei KI-gestützten Kündigungen in Kalifornien aus und stellt sicher, dass algorithmische Bewertungen keine Entlassung ohne menschliche Validierung auslösen können. Arbeitgeber müssen die Beschäftigten zudem nachträglich informieren, wenn ein automatisiertes Entscheidungssystem eine Rolle bei Personalentscheidungen gespielt hat.
Was die kalifornischen Regeln für KI-Disziplinierung am Arbeitsplatz einschränken
Die neue Gesetzgebung führt klare Verbote dafür ein, wie Algorithmen Daten von Beschäftigten während Evaluierungsprozessen verarbeiten dürfen. Unter den kalifornischen Standards für KI-Disziplinierung am Arbeitsplatz dürfen Unternehmen automatisierte Entscheidungssysteme nicht nutzen, um geschützte Merkmale von Beschäftigten abzuleiten. Das Gesetz verbietet auch den Einsatz dieser automatisierten Werkzeuge, um Vorhersagen zu treffen oder Vergeltungsmaßnahmen gegen Arbeitnehmer zu ergreifen, die ihre gesetzlichen Rechte wahrnehmen. SB 947 stellt eine überarbeitete Version einer ähnlichen Gesetzgebung dar, gegen die Gouverneur Gavin Newsom im Jahr 2025 ein Veto eingelegt hatte. Mit der Unterzeichnung der aktualisierten Maßnahme am 30. September 2026 etablierte Kalifornien rechtliche Grenzen für Management-Software im kommerziellen Betrieb.
Welchen neuen Pflichten automatisierte Entscheidungssysteme für Arbeitgeber in Kalifornien unterliegen
Bei der Integration von Software in das Management müssen Arbeitgeber in Kalifornien Prüfverfahren für alle Human-Resources-Tools etablieren. Organisationen müssen untersuchen, ob ihre Software auf automatisierten Bewertungen basiert, und interne Prozesse für eine unabhängige Überprüfung einrichten. Kalifornien schließt sich damit anderen US-Bundesstaaten und Städten wie Colorado, Connecticut, Illinois, New York City und Texas an, die explizite Beschränkungen für automatisierte Beschäftigungstools erlassen haben. Zudem unterzeichnete Gouverneur Gavin Newsom am 30. September 2026 die Executive Order N-10-26, die staatliche Behörden verpflichtet, solche Technologien strikt als künstliche Intelligenz oder KI zu bezeichnen, sowie am 18. September 2026 die Executive Order N-9-26 zur Sicherheit von Frontier-KI-Modellen.
Was die kalifornischen Regeln zur Arbeitsplatzüberwachung unter AB 1883 verbieten
Der zusammen mit SB 947 unterzeichnete Assembly Bill 1883 führt spezifische Verbote gegen invasive Überwachungspraktiken von Beschäftigten ein. Unter den Bestimmungen von AB 1883 zur Überwachung am Arbeitsplatz ist es Arbeitgebern untersagt, KI-gestützte Überwachungstools einzusetzen, die emotionale Zustände vorhersagen oder neuronale Daten zur Messung der Aktivität des zentralen oder peripheren Nervensystems erfassen. Das Gesetz deckt nicht-menschliche Beobachtungswerkzeuge wie Video-, Audio-, Zeiterfassungs-, Geolokalisierungs- und fotooptische Systeme ab. Verstöße ziehen zivil- oder gesetzliche Strafen von bis zu 500 US-Dollar pro Verstoß nach sich. Obwohl das Gesetz kein direktes individuelles Klagerecht enthält, können Beschäftigte Ansprüche über den California Private Attorney General Act geltend machen. Werkzeuge, die ausschließlich der Arbeitssicherheit dienen, bleiben zulässig.
Wie die Grenzen für die Überwachung von Waschräumen unter AB 1331 gelten
Assembly Bill 1331 zielt auf die Überwachung in sensiblen Arbeitsbereichen ab und verbietet die Überwachung in Toilettenräumen von Beschäftigten. Arbeitnehmern ist es gesetzlich gestattet, Tracking-Geräte außerhalb von Sanitäranlagen zu belassen. Arbeitgeber können von Beschäftigten verlangen, elektronische Ausweise oder persönliche Alarmsysteme für den Zugang zu verschlossenen Waschräumen zu nutzen, sofern diese Zugangswerkzeuge keine Audio- oder Videoaufzeichnungssysteme enthalten und keine physisch eingebettete künstliche Intelligenz aufweisen. Wie AB 1883 sieht auch AB 1331 Strafen von bis zu 500 US-Dollar für jeden Verstoß vor.
Was sich für Arbeitgeber ändert
Das Gesetzespaket verändert die Art und Weise, wie Unternehmen Personalmanagement und Compliance-Programme verwalten. Um SB 947 bis zum 1. Juli 2027 zu erfüllen, müssen Unternehmen ihre Leistungsbeurteilungsprozesse so anpassen, dass keine Kündigung oder Disziplinarmaßnahme automatisiert erfolgt. Organisationen, die Drittanbieter-Anwendungen zur Überwachung nutzen, müssen eine Sorgfaltsprüfung durchführen, um sicherzustellen, dass die Werkzeuge keine verbotenen neuronalen Daten erfassen oder emotionale Zustände ableiten. Unternehmen müssen zudem Benachrichtigungsmechanismen aufbauen, um das Personal zu informieren, wann immer automatisierte Entscheidungstools bei wichtigen Karriereentscheidungen eingesetzt werden, um gesetzliche Bußgelder von bis zu 500 US-Dollar pro Fall und Risiken durch den Private Attorney General Act zu minimieren.
Fragen und Antworten
Was ist der kalifornische No Robo Bosses Act SB 947?
Der California Senate Bill 947, bekannt als No Robo Bosses Act, ist ein am 30. September 2026 unterzeichnetes Gesetz des Bundesstaates Kalifornien, das den Einsatz automatisierter Entscheidungssysteme durch Arbeitgeber einschränkt. Es verbietet Unternehmen, sich bei Disziplinierungen oder Kündigungen von Beschäftigten ausschließlich auf automatisierte Systeme zu verlassen, und schreibt eine unabhängige menschliche Überprüfung sowie eine nachträgliche Benachrichtigung der Mitarbeiter vor.
Dürfen Arbeitgeber in Kalifornien KI nutzen, um Mitarbeiter zu entlassen oder zu disziplinieren?
Arbeitgeber in Kalifornien dürfen KI-Tools bei Bewertungen für Disziplinarmaßnahmen oder Kündigungen verwenden, aber sie dürfen sich nicht ausschließlich darauf stützen. Unter SB 947 muss eine menschliche Prüfperson das automatisierte Ergebnis unabhängig bestätigen, bevor eine endgültige Disziplinar- oder Kündigungsentscheidung getroffen wird.
Wann tritt der California SB 947 für Arbeitgeber in Kraft?
Der Senate Bill 947 tritt für Arbeitgeber in Kalifornien am 1. Juli 2027 in Kraft. Arbeitgeber müssen ihre internen Personalprozesse und die Software-Aufsicht vor diesem Durchsetzungsdatum anpassen.
Die Sicht von MOZGII
Wie wir es bauen würden
Um die Anforderungen der Senate Bill 947 zu erfüllen, würden wir einen menschlichen Prüfprozess zwischen automatisierten Bewertungstools und HR-Managementsystemen einrichten. Die Pipeline würde von bestehenden Tracking-Anwendungen erzeugte Leistungsmeldungen aufnehmen. Sie würde die direkte Ausführung automatisierter Disziplinarmaßnahmen blockieren. Stattdessen würde das Tool jeden gemeldeten Vorfall über eine Warteschlange an eine namentlich benannte Prüfperson leiten. Die Benutzeroberfläche würde von dieser Person verlangen, die zugrunde liegenden Fakten unabhängig zu prüfen, schriftliche Notizen zu machen und die vorgeschlagene Maßnahme manuell zu bestätigen oder abzulehnen.
Die Hauptfehlerschwachstelle wäre eine Überprüfungsmüdigkeit, bei der Mitarbeiter automatisierte Meldungen ohne Faktenprüfung genehmigen. Um das zu verhindern, würden wir Pflichtfelder bei der Prüfung durchsetzen und die protokollierten Prüfzeiten kontrollieren. Die einzige zu verfolgende Kennzahl wäre die menschliche Übersteuerungsrate, die zeigt, wie oft Führungskräfte automatisierte Meldungen ablehnen. Als Nächstes würden wir einen automatisierten Benachrichtigungsgenerator entwickeln, der erforderliche Hinweise an Beschäftigte sendet, sobald ein bewertetes System ein Disziplinarergebnis beeinflusst.
Quellen
Woher die Fakten dieser Meldung stammen.