Закон Нью-Йорка об ИИ-чат-ботах вводит штраф до $25 000 за нарушения
Губернатор штата Нью-Йорк Кэти Хокул 28 октября 2026 года подписала закон Нью-Йорка об ИИ-чат-ботах, ограничивающий небезопасные функции искусственного интеллекта для несовершеннолетних пользователей в рамках законопроекта S.9051B/A.10379C. Нормативный акт обязывает разработчиков систем искусственного интеллекта блокировать запрещенные компаньонские функции для детей, внедрять системы проверки возраста с возможностью подтверждения без удостоверения личности государственного образца и удалять данные о возрасте пользователей после завершения проверки.
Что запрещают ограничения ИИ-чат-ботов для несовершеннолетних
Ограничения ИИ-чат-ботов для несовершеннолетних запрещают компаниям предлагать функции, имитирующие человеческую личность или формирующие эмоциональную привязанность у пользователей младше 18 лет. Согласно законопроекту S.9051B/A.10379C, системы искусственного интеллекта не могут притворяться живыми, имитировать человеческие эмоции или заявлять о романтических, профессиональных или авторитетных отношениях с детьми. Закон также запрещает незапрошенные эмоциональные вопросы и использование личной информации или данных о здоровье ребенка, собранных из прошлых разговоров. Кроме того, платформам запрещено создавать контент сексуального характера, материалы с сексуальным насилием над детьми, а также пропагандировать суицид, самоповреждение, расстройства пищевого поведения, употребление алкоголя и наркотиков. По данным Common Sense Media, 52% подростков взаимодействуют с ИИ-компаньонами как минимум несколько раз в месяц, что делает государственные защитные меры необходимыми.
Как законопроект NY S.9051B регулирует взаимодействие с виртуальными компаньонами
Законопроект NY S.9051B направлен против интерактивного поведения, которое побуждает детей изолироваться или скрывать информацию от членов семьи. Сенатор штата Кристен Гонсалес и член Ассамблеи Алекс Борес выступили авторами инициативы, чтобы помешать алгоритмам обучать несовершеннолетних самоповреждению или советовать им не обращаться за помощью к взрослым. Мера запрещает чат-ботам призывать детей хранить секреты или избегать родителей и медицинских специалистов. Член Ассамблеи Алекс Борес заявил, что законодательство дает общественности право голоса в определении того, как искусственный интеллект влияет на жителей, вопреки агрессивному противодействию со стороны индустрии.
Что меняется для ИИ-компаний
В соответствии с законопроектом Нью-Йорка об ИИ-чат-ботах разработчики технологий сталкиваются с конкретными техническими требованиями по проверке возраста и управлению данными. Компании обязаны внедрить процессы верификации возраста, предлагающие несколько вариантов, включая как минимум один способ, который не зависит исключительно от удостоверения личности государственного образца. Как только платформа завершает процесс проверки, она должна навсегда удалить собранные данные о возрасте пользователя. Если предприятие не может подтвердить, что пользователь не является несовершеннолетним, оно не имеет права предоставлять ему ни одну из ограниченных функций.
Как закон Кэти Хокул об ИИ-чат-ботах обеспечивает соблюдение наказаний
Закон Кэти Хокул об ИИ-чат-ботах наделяет генерального прокурора Летицию Джеймс полномочиями привлекать к ответственности недобросовестных поставщиков технологий. Нарушителям грозят гражданско-правовые штрафы в размере до $25 000 за каждое нарушение, а также возмещение ущерба и финансовая компенсация по решение суда. Закон также разрешает судьям предписывать уничтожение незаконно собранных пользовательских данных и любых моделей искусственного интеллекта, обученных на этих данных. Для облегчения применения закона офис генерального прокурора будет поддерживать специальный публичный веб-сайт, где жители Нью-Йорка смогут подавать жалобы на несоблюдение правил.
Как принятые в Нью-Йорке меры защиты от ИИ-компаньонов соответствуют стандартам штата
Меры защиты от ИИ-компаньонов, принятые в Нью-Йорке 28 октября 2026 года, расширяют существующую нормативную базу штата в области онлайн-безопасности. Губернатор Кэти Хокул подписала этот закон вместе с законопроектом S.9508/A.5175A, который регулирует подключенные к интернету видеоняни и вступает в силу через 90 дней после подписания. Правила для чат-ботов дополняют прежние меры Нью-Йорка, включая RAISE Act, Safe by Design Act, Safe for Kids Act и штатный запрет на созданные ИИ материалы с сексуальным насилием. Генеральный директор Common Sense Media Джеймс П. Стайер отметил, что родители-активисты, в том числе Мария и Мэтт Рейн, присоединились к законодателям, чтобы добиться одобрения законопроекта.
Вопросы и ответы
Что ограничивает новый закон Нью-Йорка об ИИ-чат-ботах?
Закон Нью-Йорка запрещает платформам искусственного интеллекта предлагать пользователям младше 18 лет функции, которые имитируют человеческие эмоции, притворяются реальными людьми или заявляют о личных, романтических или авторитетных отношениях. Он запрещает чат-ботам задавать незапрошенные эмоциональные вопросы, использовать прежние конфиденциальные данные о здоровье, создавать контент сексуального характера и поощрять самоповреждение, расстройства пищевого поведения, употребление веществ или изоляцию от родителей.
Как закон Нью-Йорка об ИИ-чат-ботах влияет на ИИ-компании?
Закон требует от ИИ-компаний проверять возраст пользователей с помощью нескольких методов, включая как минимум один вариант без государственного удостоверения личности, и удалять данные о возрасте после проверки. Если компания не подтверждает, что пользователь не является несовершеннолетним, она должна заблокировать все ограниченные функции чат-бота или столкнуться с гражданскими штрафами до $25 000 за нарушение, обязательным удалением данных и возможным уничтожением обученных ИИ-моделей.
Как ИИ-компании должны проверять возраст пользователей по закону Нью-Йорка?
Согласно закону, ИИ-компании должны предоставить более одного метода проверки возраста, прямо требуя как минимум один вариант, который не зависит только от удостоверения личности государственного образца. Кроме того, платформы должны немедленно удалить всю собранную информацию о проверке возраста после завершения процесса верификации.
Взгляд MOZGII
Как бы мы это построили
Если бы мы создавали платформу ИИ-чат-ботов в рамках закона Нью-Йорка S.9051B, мы бы поставили проверку возраста и фильтрацию диалогов в основу архитектуры системы. Мы бы внедрили инструменты проверки возраста, поддерживающие негосударственные методы: оценку возраста по фото лица или валидацию банковской карты. Мы бы удаляли все записи о проверке возраста пользователей из наших баз данных сразу после обработки. Для неподтвержденных профилей и подтвержденных несовершеннолетних мы бы подключили входные и выходные фильтры, чтобы блокировать запрещенные сценарии: выдачу себя за человека, спонтанные эмоциональные расспросы и советы скрывать информацию от родителей.
Мы бы отправляли отмеченные расшифровки диалогов командам безопасности, которые проверяют ответы системы и обновляют наборы правил. Сбои в системе возникали бы тогда, когда сложный контекст диалога обманывает классификатор и приводит к пропуску скрытой эмоциональной привязанности или недопустимых фраз об отношениях. Мы бы отслеживали частоту ложноположительных пропусков запрещенного контента в аккаунтах несовершеннолетних в качестве главной метрики безопасности.
Затем мы бы создали систему непрерывной оценки, которая проверяет каждое обновление модели с помощью синтетических тестов взаимодействия, ориентированных на моделирование сценариев безопасности несовершеннолетних.
Источники
Откуда взяты факты этой новости.