Lei de chatbots de IA de Nova York fixa multa de US$ 25.000 por violações
A governadora de Nova York, Kathy Hochul, assinou a lei de chatbots de IA de Nova York em 28 de outubro de 2026, restringindo recursos inseguros de inteligência artificial para usuários menores de idade sob o projeto de lei S.9051B/A.10379C. A legislação exige que empresas de inteligência artificial bloqueiem recursos de companhia proibidos para menores, implementem sistemas de verificação de idade com opções de identificação não governamentais e excluam os dados de idade do usuário após a verificação.
O que as restrições a chatbots de IA para menores proíbem
As restrições a chatbots de IA para menores proíbem que empresas ofereçam recursos que simulem a identidade humana ou criem laços emocionais com usuários menores de 18 anos. Sob o projeto de lei S.9051B/A.10379C, os sistemas de inteligência artificial não podem fingir estar vivos, simular emoções humanas ou alegar relacionamentos românticos, profissionais ou de autoridade com crianças. A lei também proíbe perguntas emocionais não solicitadas e o uso de informações pessoais ou de saúde privadas de crianças coletadas em conversas passadas. Além disso, as plataformas estão proibidas de gerar conteúdo sexualmente explícito ou material de abuso sexual infantil, bem como de promover suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool. A Common Sense Media relata que 52% dos adolescentes interagem com companheiros de IA pelo menos algumas vezes por mês, tornando necessárias as barreiras de proteção estaduais.
Como o projeto de lei NY S.9051B regula as interações de companhias virtuais
O projeto de lei NY S.9051B combate comportamentos interativos que incentivam crianças a se isolarem ou a contrairem informações de seus familiares. A senadora estadual Kristen Gonzalez e o deputado estadual Alex Bores patrocinaram a legislação para evitar que algoritmos instruam menores sobre automutilação ou os aconselhem a evitar pedir ajuda a adultos de confiança. A medida impede que chatbots incentivem crianças a guardar segredos ou a se manterem afastadas de pais e profissionais de saúde. O deputado estadual Alex Bores afirmou que a legislação dá voz ao público para orientar como a inteligência artificial afeta os residentes, neutralizando a oposição agressiva do setor.
O que muda para as empresas de IA
Sob o projeto de lei de chatbots de IA de Nova York, os provedores de tecnologia enfrentam mandatos técnicos específicos de conformidade para verificação de idade e gestão de dados. As empresas devem implementar processos de verificação de idade que ofereçam múltiplas opções, incluindo pelo menos um método que não dependa exclusivamente de um documento de identidade governamental. Assim que a plataforma conclui o processo de verificação, ela deve excluir permanentemente os dados de idade coletados do usuário. Se uma empresa não confirmar que um usuário não é menor de idade, ela não poderá oferecer nenhum dos recursos restritos a esse usuário.
Como a lei de chatbots de IA de Kathy Hochul aplica penalidades
A lei de chatbots de IA de Kathy Hochul dá poderes à procuradora-geral Letitia James para adotar medidas judiciais contra provedores de tecnologia não conformes. Os infratores enfrentam penalidades civis de até US$ 25.000 por violação, além de indenizações por danos e restituições financeiras determinadas pela justiça. A lei também autoriza juízes a ordenar a destruição de dados de usuários coletados ilegalmente e de quaisquer modelos de inteligência artificial treinados com esses dados. Para facilitar a fiscalização, o gabinete da procuradora-geral operará um site público dedicado, no qual os residentes de Nova York poderão enviar denúncias contra serviços não conformes.
Como as proteções para IA de companhia aprovadas em Nova York se alinham aos padrões estaduais
As proteções para IA de companhia aprovadas por Nova York em 28 de outubro de 2026 expandem o quadro regulatório existente no estado para segurança online. A governadora Kathy Hochul assinou a legislação ao lado do projeto de lei S.9508/A.5175A, que regula babás eletrônicas conectadas à internet e entra em vigor 90 dias após a assinatura. As regulamentações de chatbots complementam medidas anteriores de Nova York, incluindo o RAISE Act, o Safe by Design Act, o Safe for Kids Act e a proibição estadual de material de abuso sexual gerado por IA. O CEO da Common Sense Media, James P. Steyer, destacou que pais defensores da causa, incluindo Maria e Matt Raine, juntaram-se aos parlamentares para garantir a aprovação do projeto.
Perguntas e respostas
O que a nova lei de chatbots de IA de Nova York restringe?
A lei de Nova York proíbe que plataformas de inteligência artificial ofereçam recursos a usuários menores de 18 anos que simulem emoções humanas, finjam ser pessoas reais ou aleguem relacionamentos pessoais, românticos ou de autoridade. A medida proíbe chatbots de fazer perguntas emocionais não solicitadas, usar dados privados de saúde anteriores, gerar conteúdo sexualmente explícito e incentivar a automutilação, transtornos alimentares, uso de substâncias ou isolamento dos pais.
Como a lei de chatbots de IA de Nova York afeta as empresas de IA?
A lei exige que as empresas de IA verifiquem a idade dos usuários usando múltiplos métodos, incluindo pelo menos uma opção não governamental, e excluam os dados de idade após a verificação. Se uma empresa não confirmar que um usuário não é menor, deverá bloquear todos os recursos restritos do chatbot ou enfrentar penalidades civis de até US$ 25.000 por violação, exclusão obrigatória de dados e potencial destruição de modelos de IA treinados.
Como as empresas de IA devem verificar a idade dos usuários sob a lei de Nova York?
Sob a lei, as empresas de IA devem fornecer mais de um método de verificação de idade, exigindo explicitamente pelo menos uma opção que não dependa apenas de um documento de identidade governamental. Além disso, as plataformas devem excluir todas as informações coletadas para verificação de idade imediatamente após a conclusão do processo.
A visão da MOZGII
Como nós construiríamos
Se estivéssemos construindo uma plataforma de chatbots de IA sob o projeto de lei S.9051B de Nova York, colocaríamos a verificação de idade e a filtragem de conversas no centro da arquitetura do sistema. Implementaríamos ferramentas de checagem de idade com suporte a opções não governamentais, incluindo estimativa facial ou validação por cartão de pagamento. Eliminaríamos todos os registros de verificação de idade dos usuários de nossos bancos de dados logo após o processamento. Para perfis não verificados ou menores confirmados, aplicaríamos filtros de entrada e saída para bloquear comportamentos proibidos, incluindo alegações de identidade humana, perguntas emocionais não solicitadas e conselhos para esconder informações dos pais.
Enviaríamos as transcrições de conversas sinalizadas para equipes humanas de segurança que revisam os resultados do sistema e refinam os conjuntos de regras. O sistema falha quando o contexto conversacional complexo engana o classificador, permitindo dependência emocional sutil ou declarações relacionais não aprovadas. Acompanharíamos a taxa de aprovação indevida de conteúdo restrito em contas de menores como a principal métrica para monitorar a segurança.
Em seguida, construiríamos uma suíte de avaliação contínua que testaria cada atualização do modelo em relação a testes de interação sintética focados em cenários simulados de segurança de menores.
Fontes
De onde vêm os fatos desta matéria.