ニューヨーク州のAIチャットボット規制法が成立、違反には最大25,000ドルの罰金
ニューヨーク州のキャシー・ホークル知事は2026年10月28日、法案S.9051B/A.10379Cに基づくニューヨーク州AIチャットボット規制法に署名し、未成年ユーザーに対する不適切な人工知能機能を制限しました。同法は、AI企業に対し、未成年者向けの禁止されたコンパニオン機能をブロックし、政府発行ID以外の選択肢を含む年齢確認システムを導入すること、そして確認後にユーザーの年齢データを削除することを義務付けています。
未成年者向けAIチャットボット規制で禁止される事項
未成年者向けAIチャットボット規制により、企業は18歳未満のユーザーに対して、人間のアイデンティティを模倣したり感情的な依存関係を構築したりする機能の提供が禁止されます。法案S.9051B/A.10379Cに基づき、人工知能システムが生きているかのように振る舞うこと、人間の感情を模倣すること、または子供と恋愛、職業的、あるいは権威的な関係を主張することは認められません。また、誘導のない感情的な質問や、過去の対話から収集された子供の個人的な健康情報や個人データの利用も禁止されます。さらに、プラットフォームが性的露骨なコンテンツや児童性的虐待素材を生成すること、ならびに自殺、自傷行為、摂食障害、薬物やアルコールの使用を促進することも禁じられています。Common Sense Mediaの報告によると、ティーンエイジャーの52%が少なくとも月に数回はAIコンパニオンとやり取りしており、州レベルでの安全なガードレールの設置が必要とされていました。
ニューヨーク州法案S.9051Bが規定するコンパニオンAIとの対話規制
ニューヨーク州法案S.9051Bは、子供が孤立したり家族から情報を隠したりすることを促すような相互作用行動を標的としています。クリステン・ゴンザレス州上院議員とアレックス・ボレス州下院議員が提出したこの法案は、アルゴリズムが未成年者に自傷行為をアドバイスしたり、信頼できる大人への相談を避けさせたりするのを防ぐことを目的としています。この措置により、チャットボットが子供に秘密を守るよう促したり、親や医療従事者から遠ざけたりすることが禁止されます。アレックス・ボレス下院議員は、この立法が業界からの激しい反対に対抗し、人工知能が住民に与える影響をコントロールする声を市民に与えるものであると述べました。
AI企業に求められる対応と義務
ニューヨーク州AIチャットボット法案に基づき、テクノロジープロバイダーは年齢確認とデータ管理に関する具体的な技術的コンプライアンスの義務に直面します。企業は、政府発行IDのみに依存しない少なくとも1つの方法を含む、複数の選択肢を提供する年齢確認プロセスを実装しなければなりません。プラットフォームが確認プロセスを完了した後は、ユーザーから収集した年齢データを永久に削除する必要があります。企業がユーザーが未成年でないことを確認できない場合、制限対象となる機能をそのユーザーに提供することはできません。
キャシー・ホークル知事によるAIチャットボット規制法の罰則規定
キャシー・ホークル知事が署名したAIチャットボット規制法は、レティシャ・ジェームズ司法長官に対し、不服従のテクノロジープロバイダーに対して法的措置をとる権限を与えています。違反者は違反1件につき最大25,000ドルの民事罰に加え、裁判所が命じる損害賠償や金銭的補償に直面します。また同法は、裁判官に対して、違法に収集されたユーザーデータおよびそのデータで訓練された人工知能モデルの破棄を命じる権限も付与しています。執行をスムーズにするため、司法長官事務所は専用の公的ウェブサイトを運営し、ニューヨーク住民が不適合サービスに対する苦情を提出できるようにします。
ニューヨーク州で可決されたAIコンパニオン安全対策の位置付け
ニューヨーク州が2026年10月28日に制定したAIコンパニオン安全対策は、オンライン安全に関する州の既存の規制枠組みを拡張するものです。キャシー・ホークル知事は、インターネット接続型ベビーモニターを規制する法案S.9508/A.5175A（署名後90日後に施行）とともに本法案に署名しました。このチャットボット規制は、RAISE法、Safe by Design法、Safe for Kids法、およびAI生成による性的虐待素材に関する州の禁止措置を含む、ニューヨーク州の以前の措置を補完するものです。Common Sense MediaのCEOであるジェームズ・P・ステイヤー氏は、マリア＆マット・レイン夫妻を含む保護者活動家が議員とともに法案の承認に向けて尽力したと述べました。
質問と回答
ニューヨークの新しいAIチャットボット規制法は何を制限しますか？
ニューヨーク州の法律は、人工知能プラットフォームが18歳未満のユーザーに対して、人間の感情を模倣したり、実在の人物のフリをしたり、個人、恋愛、または権威的な関係を主張する機能を提供することを禁止しています。また、チャットボットが自発的に感情的な質問を投げかけること、過去のプライベートな健康データを使用すること、性的露骨なコンテンツを生成すること、自傷行為、摂食障害、薬物使用、または親からの孤立を促すことを禁止しています。
ニューヨークのAIチャットボット規制法はAI企業にどのような影響を与えますか？
この法律はAI企業に対し、政府発行IDに限定されない少なくとも1つの選択肢を含む複数の方法を用いてユーザーの年齢を確認し、確認後に年齢データを削除することを義務付けています。企業がユーザーが未成年でないことを確認しない場合、制限されたすべてのチャットボット機能をブロックしなければならず、さもなければ違反1件につき最大25,000ドルの民事罰、強制的なデータ削除、および学習済みAIモデルの破棄に直面する可能性があります。
ニューヨーク州法に基づき、AI企業はどのようにユーザーの年齢確認を行う必要がありますか？
同法に基づき、AI企業は年齢確認に複数の方法を提供しなければならず、明確に政府発行IDのみに依存しない選択肢を少なくとも1つ含める必要があります。さらに、プラットフォームは確認プロセスが完了した直後に、収集されたすべての年齢確認情報を削除しなければなりません。
MOZGIIの視点
私たちならこう作ります
ニューヨーク州法案S.9051BのもとでAIチャットボットプラットフォームを構築する場合、私たちがまずシステム構成の中核に据えるのは年齢確認と会話フィルタリングでしょう。顔写真による年齢推定や決済カードによる確認など、公的身分証明書以外の手段に対応した年齢確認ツールを導入するはずです。処理完了後、利用者の年齢確認記録は直ちにデータベースから完全に削除するでしょう。未確認のプロフィールや確認済みの未成年者に対しては、人間であるという主張、求められていない感情的な問いかけ、保護者に情報を隠すよう促す助言などの禁止行為を遮断する入出力フィルターを配置するはずです。
フラグの付いた対話ログは、システムの出力を確認しルールを改善する人間のセーフティチームに送信するでしょう。複雑な会話の文脈によって分類器が欺かれ、密かな感情的依存や不適切な関係性の発言を許してしまうと、システムは破綻します。私たちが安全性を監視する主要指標として追跡するのは、未成年アカウントにおける制限コンテンツの誤通過率でしょう。
次に、未成年者の安全シナリオを再現した自動対話テストにより、モデルの更新ごとに検証を行う継続的評価スイートを構築するはずです。
出典
この記事の事実の出典です。