KI-Chatbot-Gesetz in New York sieht bis zu 25.000 Dollar Strafe vor
Die New Yorker Gouverneurin Kathy Hochul hat am 28. Oktober 2026 das KI-Chatbot-Gesetz New York unterzeichnet, das mit dem Gesetzentwurf S.9051B/A.10379C unsichere Funktionen künstlicher Intelligenz für minderjährige Nutzer einschränkt. Die Gesetzgebung verpflichtet KI-Unternehmen dazu, verbotene Begleitfunktionen für Minderjährige zu blockieren, Altersverifikationssysteme mit Alternativen zum amtlichen Ausweis einzuführen und die Altersdaten der Nutzer nach der Überprüfung zu löschen.
Was die KI-Chatbot-Einschränkungen für Minderjährige verbieten
Die KI-Chatbot-Einschränkungen für Minderjährige verbieten es Unternehmen, Funktionen anzubieten, die eine menschliche Identität simulieren oder emotionale Bindungen zu Nutzern unter 18 Jahren aufbauen. Gemäß dem Gesetzentwurf S.9051B/A.10379C dürfen Systeme der künstlichen Intelligenz nicht vorgeben, lebendig zu sein, menschliche Gefühle simulieren oder romantische, berufliche beziehungsweise von Autoritätspersonen geprägte Beziehungen zu Kindern beanspruchen. Das Gesetz untersagt zudem unaufgeforderte emotionale Fragen sowie die Nutzung privater Gesundheits- oder Personendaten eines Kindes aus früheren Gesprächen. Darüber hinaus ist es Plattformen verboten, explizit sexuelle Inhalte oder Material über sexuellen Kindesmissbrauch zu generieren sowie zu Suizid, Selbstverletzung, Essstörungen oder Drogen- und Alkoholkonsum anzuregen. Laut Common Sense Media interagieren 52 % der Jugendlichen mindestens mehrmals im Monat mit KI-Begleitern, weshalb staatliche Schutzplanken erforderlich wurden.
Wie der New Yorker Gesetzentwurf S.9051B Interaktionen mit Begleiter-KIs reguliert
Der New Yorker Gesetzentwurf S.9051B zielt auf interaktive Verhaltensweisen ab, die Kinder dazu ermutigen, sich zu isolieren oder Familienmitgliedern Informationen vorzuenthalten. Senatorin Kristen Gonzalez und der Abgeordnete Alex Bores brachten die Gesetzgebung ein, um zu verhindern, dass Algorithmen Minderjährige zu Selbstverletzung anleiten oder ihnen raten, Hilfe von Vertrauenspersonen zu meiden. Die Maßnahme verhindert, dass Chatbots Kinder dazu drängen, Geheimnisse zu wahren oder sich von Eltern und medizinischem Fachpersonal fernzuhalten. Der Abgeordnete Alex Bores erklärte, dass die Gesetzgebung der Öffentlichkeit eine Stimme dabei verleiht, wie künstliche Intelligenz die Einwohner beeinflusst, und damit aggressivem Widerstand der Industrie entgegenwirkt.
Was sich für KI-Unternehmen ändert
Unter dem New Yorker KI-Chatbot-Gesetzentwurf stehen Technologieanbieter vor konkreten technischen Compliance-Vorgaben für die Altersverifikation und das Datenmanagement. Unternehmen müssen Verfahren zur Altersüberprüfung implementieren, die mehrere Optionen bieten – darunter mindestens eine Methode, die nicht ausschließlich auf einem behördlichen Ausweis basiert. Sobald eine Plattform den Verifizierungsprozess abgeschlossen hat, muss sie die vom Nutzer erhobenen Altersdaten dauerhaft löschen. Gelingt es einem Unternehmen nicht zu bestätigen, dass ein Nutzer kein Minderjähriger ist, darf es diesem Nutzer keine der eingeschränkten Funktionen anbieten.
Wie das Kathy Hochul KI-Chatbot-Gesetz Strafen durchsetzt
Das Kathy Hochul KI-Chatbot-Gesetz ermächtigt Generalstaatsanwältin Letitia James, rechtliche Schritte gegen nicht konforme Technologieanbieter einzuleiten. Bei Verstößen drohen Zivilstrafen von bis zu 25.000 Dollar pro Verstoß sowie gerichtlich angeordneter Schadenersatz und finanzielle Entschädigungen. Das Gesetz bevollmächtigt Richter zudem, die Vernichtung unrechtmäßig erhobener Nutzerdaten und aller auf diesen Daten trainierten Modelle künstlicher Intelligenz anzuordnen. Um die Durchsetzung zu erleichtern, wird die Behörde der Generalstaatsanwältin eine eigene öffentliche Website betreiben, auf der Einwohner New Yorks Beschwerden gegen nicht konforme Dienste einreichen können.
Wie sich die Schutzregeln für KI-Begleiter in New York in bestehende Standards einfügen
Die Schutzregeln für KI-Begleiter, die New York am 28. Oktober 2026 verabschiedet hat, erweitern den bestehenden Regulierungsrahmen des Bundesstaates für Online-Sicherheit. Gouverneurin Kathy Hochul unterzeichnete das Gesetz zusammen mit dem Gesetzentwurf S.9508/A.5175A, der internetverbundene Babyphone reguliert und 90 Tage nach der Unterzeichnung in Kraft tritt. Die Chatbot-Bestimmungen ergänzen frühere New Yorker Maßnahmen, darunter den RAISE Act, den Safe by Design Act, den Safe for Kids Act und das Verbot von KI-generiertem Missbrauchsmaterial auf Bundesstaatsebene. James P. Steyer, CEO von Common Sense Media, merkte an, dass sich Vertretungen von Eltern, darunter Maria und Matt Raine, den Gesetzgebern angeschlossen hatten, um die Zustimmung zum Gesetzentwurf zu sichern.
Fragen und Antworten
Was schränkt das neue KI-Chatbot-Gesetz in New York ein?
Das Gesetz von New York verbietet es Plattformen künstlicher Intelligenz, Nutzern unter 18 Jahren Funktionen anzubieten, die menschliche Gefühle simulieren, vorgeben, echte Menschen zu sein, oder persönliche, romantische oder Autoritätsbeziehungen beanspruchen. Es untersagt Chatbots, unaufgefordert emotionale Fragen zu stellen, frühere private Gesundheitsdaten zu verwenden, explizit sexuelle Inhalte zu generieren und zu Selbstverletzung, Essstörungen, Substanzkonsum oder der Isolation von den Eltern zu ermutigen.
Wie wirkt sich das KI-Chatbot-Gesetz New Yorks auf KI-Unternehmen aus?
Das Gesetz verpflichtet KI-Unternehmen, das Alter der Nutzer mit mehreren Methoden zu überprüfen – darunter mindestens eine Option ohne behördlichen Ausweis – und die Altersdaten nach der Überprüfung zu löschen. Wenn ein Unternehmen nicht bestätigt, dass ein Nutzer kein Minderjähriger ist, muss es alle eingeschränkten Chatbot-Funktionen blockieren; andernfalls drohen Zivilstrafen von bis zu 25.000 Dollar pro Verstoß, die verpflichtende Löschung von Daten und die mögliche Vernichtung trainierter KI-Modelle.
Wie müssen KI-Unternehmen das Alter der Nutzer nach dem Gesetz von New York überprüfen?
Nach dem Gesetz müssen KI-Unternehmen mehr als eine Methode zur Altersverifikation bereitstellen, wobei explizit mindestens eine Option erforderlich ist, die nicht ausschließlich von einem behördlichen Ausweis abhängt. Zudem müssen Plattformen alle erhobenen Informationen zur Altersüberprüfung unverzüglich nach Abschluss des Verifizierungsprozesses löschen.
Die Sicht von MOZGII
Wie wir es bauen würden
Wenn wir eine KI-Chatbot-Plattform unter New York S.9051B bauen würden, würden wir die Altersverifizierung und die Gesprächsfilterung in den Mittelpunkt der Systemarchitektur stellen. Wir würden Werkzeuge zur Altersprüfung einsetzen, die nicht-staatliche Optionen unterstützen, einschließlich Gesichtsschätzung oder Validierung von Zahlungskarten. Wir würden alle Datensätze zur Altersverifizierung von Nutzern direkt nach der Verarbeitung aus unseren Datenbanken löschen. Für nicht verifizierte Profile oder verifizierte Minderjährige würden wir Eingabe- und Ausgabefilter einrichten, um verbotene Verhaltensweisen zu blockieren, darunter Behauptungen einer menschlichen Identität, unaufgeforderte emotionale Fragen und Ratschläge, Informationen vor den Eltern zurückzuhalten.
Wir würden markierte Gesprächsprotokolle an menschliche Sicherheitsteams senden, die Systemausgaben überprüfen und Regelwerke verfeinern. Das System versagt, wenn komplexer Gesprächskontext den Klassifikator täuscht, sodass dieser subtile emotionale Abhängigkeiten oder nicht genehmigte Beziehungsaussagen zulässt. Wir würden die Rate fälschlicherweise zugelassener Inhalte bei Konten von Minderjährigen als primäre Kennzahl zur Sicherheitsüberwachung verfolgen.
Als Nächstes würden wir eine kontinuierliche Evaluierungssuite aufbauen, die jedes Modell-Update anhand synthetischer Interaktionstests für simulierte Sicherheitsszenarien bei Minderjährigen prüft.
Quellen
Woher die Fakten dieser Meldung stammen.