Ley de chatbots de IA en Nueva York fija multas de $25.000 por infracciones

Qué prohíben las restricciones a chatbots de IA para menores

Las restricciones a chatbots de IA para menores prohíben a las empresas ofrecer funciones que simulen la identidad humana o creen lazos emocionales con usuarios menores de 18 años. Bajo el proyecto de ley S.9051B/A.10379C, los sistemas de inteligencia artificial no pueden pretender estar vivos, simular emociones humanas ni atribuirse relaciones románticas, profesionales o de figuras de autoridad con niños. La ley también prohíbe preguntas emocionales no solicitadas y el uso de información personal o de salud privada obtenida en conversaciones pasadas del menor. Además, las plataformas tienen prohibido generar contenido explícitamente sexual o material de abuso sexual infantil, así como promover el suicidio, las autolesiones, los trastornos alimentarios o el consumo de drogas y alcohol. Common Sense Media informa que el 52% de los adolescentes interactúa con compañeros de IA al menos algunas veces al mes, lo que hace necesarias las salvaguardias estatales de seguridad.

Cómo regula el proyecto de ley NY S.9051B las interacciones de compañía

El proyecto de ley NY S.9051B se enfoca en comportamientos interactivos que animan a los niños a aislarse o a ocultar información a los miembros de su familia. La senadora estatal Kristen Gonzalez y el asambleísta Alex Bores patrocinaron la legislación para evitar que los algoritmos aconsejen a menores sobre autolesiones o los orienten a evitar buscar ayuda de adultos de confianza. La medida impide que los chatbots insten a los niños a guardar secretos o a mantenerse alejados de sus padres y profesionales médicos. El asambleísta Alex Bores declaró que la legislación le da al público voz sobre cómo la inteligencia artificial afecta a los residentes, contrarrestando la agresiva oposición de la industria.

Qué cambia para las empresas de IA

Bajo el proyecto de ley de chatbots de IA de Nueva York, los proveedores de tecnología enfrentan mandatos técnicos específicos de cumplimiento para la verificación de edad y la gestión de datos. Las empresas deben implementar procesos de verificación de edad que ofrezcan múltiples opciones, incluyendo al menos un método que no dependa exclusivamente de una identificación gubernamental. Una vez que la plataforma completa el proceso de verificación, debe eliminar permanentemente los datos de edad recopilados del usuario. Si una empresa no confirma que un usuario no es menor de edad, no puede ofrecerle ninguna de las funciones restringidas.

Cómo aplica las sanciones la ley de chatbots de IA de Kathy Hochul

La ley de chatbots de IA de Kathy Hochul faculta a la fiscal general Letitia James a emprender acciones legales contra los proveedores de tecnología que no cumplan. Los infractores enfrentan sanciones civiles de hasta $25.000 por infracción, junto con indemnizaciones por daños y perjuicios y restitución financiera ordenadas por los tribunales. La ley también autoriza a los jueces a ordenar la destrucción de datos de usuarios recopilados ilegalmente y de cualquier modelo de inteligencia artificial entrenado con esos datos. Para facilitar el cumplimiento, la oficina de la fiscal general operará un sitio web público dedicado donde los residentes de Nueva York podrán enviar quejas contra los servicios que no cumplan.

Cómo se ajustan los salvaguardias para IA de compañía aprobados en Nueva York a los estándares estatales

Las salvaguardias para IA de compañía que Nueva York aprobó el 28 de octubre de 2026 amplían el marco regulatorio existente del estado para la seguridad en línea. La gobernadora Kathy Hochul firmó la legislación junto con el proyecto de ley S.9508/A.5175A, que regula los monitores de bebés conectados a Internet y entra en vigor 90 días después de su firma. Las regulaciones sobre chatbots complementan medidas anteriores de Nueva York, como la RAISE Act, la Safe by Design Act, la Safe for Kids Act y la prohibición estatal del material de abuso sexual generado por IA. El director ejecutivo de Common Sense Media, James P. Steyer, señaló que padres activistas, entre ellos Maria y Matt Raine, se unieron a los legisladores para lograr la aprobación del proyecto de ley.

Preguntas y respuestas

¿Qué restringe la nueva ley de chatbots de IA de Nueva York?

La ley de Nueva York prohíbe que las plataformas de inteligencia artificial ofrezcan a usuarios menores de 18 años funciones que simulen emociones humanas, pretendan ser personas reales o afirmen tener relaciones personales, románticas o de autoridad. Prohíbe que los chatbots hagan preguntas emocionales no solicitadas, utilicen datos de salud privados anteriores, generen contenido sexualmente explícito y fomenten la autolesión, los trastornos alimentarios, el consumo de sustancias o el aislamiento de los padres.

¿Cómo afecta la ley de chatbots de IA de Nueva York a las empresas de IA?

La ley exige a las empresas de IA verificar la edad del usuario mediante múltiples métodos, incluyendo al menos una opción que no requiera una identificación gubernamental, y eliminar los datos de edad tras la verificación. Si una empresa no confirma que el usuario no es menor de edad, debe bloquear todas las funciones restringidas del chatbot o enfrentar multas civiles de hasta $25.000 por infracción, la eliminación obligatoria de datos y la posible destrucción de los modelos de IA entrenados.

¿Cómo deben verificar la edad de los usuarios las empresas de IA según la ley de Nueva York?

Según la ley, las empresas de IA deben ofrecer más de un método para la verificación de edad, requiriendo explícitamente al menos una opción que no dependa únicamente de un documento de identidad gubernamental. Además, las plataformas deben eliminar toda la información de verificación de edad recopilada inmediatamente después de completar el proceso de verificación.