Agents conversationnels d'IA : New York prévoit 25 000 $ d'amende pour protéger les mineurs
La gouverneure de l'État de New York, Kathy Hochul, a signé le 28 octobre 2026 la loi de New York sur les agents conversationnels d'IA, restreignant les fonctionnalités d'intelligence artificielle dangereuses pour les utilisateurs mineurs dans le cadre du projet de loi S.9051B/A.10379C. La législation exige des entreprises d'intelligence artificielle qu'elles bloquent les fonctions de compagnonnage interdites aux mineurs, mettent en place des systèmes de vérification de l'âge offrant des options autres qu'une pièce d'identité officielle et suppriment les données d'âge des utilisateurs après vérification.
Ce que interdisent les restrictions sur les agents conversationnels d'IA pour les mineurs
Les restrictions sur les agents conversationnels d'IA pour les mineurs interdisent aux entreprises de proposer des fonctionnalités simulant une identité humaine ou créant un attachement émotionnel avec des utilisateurs de moins de 18 ans. En vertu du projet de loi S.9051B/A.10379C, les systèmes d'intelligence artificielle ne peuvent pas faire semblant d'être vivants, simuler des émotions humaines ou prétendre entretenir des relations amoureuses, professionnelles ou d'autorité avec des enfants. La loi interdit également les questions émotionnelles non sollicitées et l'utilisation d'informations personnelles ou de santé recueillies lors de conversations passées. De plus, il est interdit aux plateformes de générer du contenu explicitement sexuel ou des documents d'abus sexuels sur des enfants, ainsi que de promouvoir le suicide, l'autolésion, les troubles de l'alimentation ou la consommation de drogues et d'alcool. Selon Common Sense Media, 52 % des adolescents interagissent avec des compagnons d'IA au moins quelques fois par mois, rendant nécessaires ces garde-fous étatiques.
Comment le projet de loi S.9051B de New York réglemente les interactions virtuelles
Le projet de loi S.9051B de New York cible les comportements interactifs qui incitent les enfants à s'isoler ou à dissimuler des informations à leur famille. La sénatrice d'État Kristen Gonzalez et le député Alex Bores ont parrainé la législation pour empêcher les algorithmes de conseiller aux mineurs de s'auto-mutiler ou de leur recommander d'éviter de demander l'aide d'adultes de confiance. La mesure empêche les robots conversationnels d'inciter les enfants à garder des secrets ou à s'éloigner de leurs parents et des professionnels de santé. Le député Alex Bores a déclaré que la législation donne au public un droit de regard sur la manière dont l'intelligence artificielle affecte les résidents, contrecarrant ainsi l'opposition virulente du secteur.
Ce que cela change pour les entreprises d'IA
En vertu de la loi new-yorkaise sur les agents conversationnels d'IA, les fournisseurs de technologies sont soumis à des exigences techniques précises en matière de vérification de l'âge et de gestion des données. Les entreprises doivent mettre en œuvre des processus de vérification de l'âge offrant plusieurs options, dont au moins une méthode ne reposant pas exclusivement sur une pièce d'identité officielle. Une fois la vérification effectuée, la plateforme doit supprimer définitivement les données relatives à l'âge collectées auprès de l'utilisateur. Si une entreprise ne parvient pas à confirmer qu'un utilisateur n'est pas mineur, elle ne peut lui proposer aucune des fonctionnalités restreintes.
Comment la loi de Kathy Hochul sur les robots conversationnels applique les sanctions
La loi de Kathy Hochul sur les robots conversationnels donne le pouvoir à la procureure générale Letitia James d'engager des poursuites judiciaires contre les fournisseurs de technologies non conformes. Les contrevenants s'exposent à des sanctions civiles allant jusqu'à 25 000 $ par infraction, ainsi qu'à des dommages-intérêts et réparations financières ordonnés par le tribunal. La loi autorise également les juges à ordonner la destruction des données d'utilisateurs collectées illégalement et de tout modèle d'intelligence artificielle entraîné sur ces données. Pour faciliter l'application de la loi, les services de la procureure générale exploiteront un site web public dédié où les résidents de New York pourront déposer plainte contre les services non conformes.
Comment les protections sur les compagnons d'IA adoptées par New York s'inscrivent dans le cadre de l'État
Les garanties encadrant les compagnons d'IA adoptées par New York le 28 octobre 2026 élargissent le cadre réglementaire existant de l'État concernant la sécurité en ligne. La gouverneure Kathy Hochul a signé cette législation aux côtés du projet de loi S.9508/A.5175A, qui réglemente les babyphones connectés à Internet et entre en vigueur 90 jours après sa signature. Ces règles sur les robots conversationnels complètent les mesures antérieures de New York, notamment le RAISE Act, le Safe by Design Act, le Safe for Kids Act et l'interdiction par l'État du matériel d'abus sexuel généré par IA. Le PDG de Common Sense Media, James P. Steyer, a souligné que des associations de parents, notamment Maria et Matt Raine, se sont jointes aux législateurs pour obtenir l'approbation du texte.
Questions et réponses
Que restreint la nouvelle loi de New York sur les agents conversationnels d'IA ?
La loi de New York interdit aux plateformes d'intelligence artificielle de proposer aux utilisateurs de moins de 18 ans des fonctionnalités qui simulent des émotions humaines, se font passer pour de vraies personnes ou prétendent entretenir des relations personnelles, amoureuses ou d'autorité. Elle interdit aux robots conversationnels de poser des questions émotionnelles non sollicitées, d'utiliser des données de santé privées antérieures, de générer du contenu explicitement sexuel et d'encourager l'autolésion, les troubles alimentaires, l'usage de substances ou l'isolement familial.
Quel est l'impact de la loi new-yorkaise sur les agents conversationnels d'IA pour les entreprises ?
La loi exige des entreprises d'IA qu'elles vérifient l'âge des utilisateurs à l'aide de plusieurs méthodes, dont au moins une n'exigeant pas de pièce d'identité officielle, et qu'elles suppriment les données d'âge après vérification. Si une entreprise ne confirme pas qu'un utilisateur n'est pas mineur, elle doit bloquer toutes les fonctions restreintes sous peine d'amendes civiles allant jusqu'à 25 000 $ par infraction, de la suppression obligatoire des données et de la destruction potentielle des modèles d'IA entraînés.
Comment les entreprises d'IA doivent-elles vérifier l'âge des utilisateurs selon la loi de New York ?
Conformément à la loi, les entreprises d'IA doivent proposer plus d'une méthode de vérification de l'âge, exigeant explicitement au moins une option qui ne dépend pas uniquement d'une pièce d'identité officielle. De plus, les plateformes doivent supprimer immédiatement toutes les informations de vérification de l'âge recueillies dès que le processus de vérification est terminé.
Le regard de MOZGII
Comment nous le construirions
Si nous concevions une plateforme d'agents conversationnels par IA sous le projet de loi New York S.9051B, nous placerions la vérification de l'âge et le filtrage des conversations au cœur même de l'architecture du système. Nous installerions des outils de contrôle de l'âge proposant des options non gouvernementales, telles que l'estimation faciale ou la validation par carte bancaire. Nous effacerions toutes les données de vérification de l'âge de nos bases immédiatement après leur traitement. Pour les profils non vérifiés ou les mineurs confirmés, nous associerions des filtres d'entrée et de sortie afin de bloquer les comportements interdits, notamment l'usurpation d'une identité humaine, les interrogations émotionnelles spontanées et les conseils incitant à cacher des informations aux parents.
Nous transmettrions les transcriptions de dialogues signalées à des équipes humaines de sécurité chargées d'analyser les réponses et d'affiner les règles. Le système montre ses limites lorsque la complexité du contexte conversationnel trompe le classificateur, ce qui laisse passer une subtile dépendance affective ou des déclarations relationnelles non autorisées. Nous ferions du taux de faux négatifs sur les contenus restreints des comptes de mineurs notre principal indicateur de sécurité.
Ensuite, nous développerions un ensemble d'évaluations en continu testant chaque mise à jour du modèle face à des simulations d'interactions ciblées sur la sécurité des mineurs.
Sources
D’où viennent les faits de cet article.