قانون الذكاء الاصطناعي في نيويورك يفرض غرامة 25000 دولار على المخالفات
وقعت حاكمة ولاية نيويورك كاثي هوشول قانون الذكاء الاصطناعي في نيويورك في 28 أكتوبر 2026، والذي يفرض قيوداً على الميزات غير الآمنة لتطبيقات الذكاء الاصطناعي المستهدفة للمستخدمين القاصرين بموجب مشروع القانون S.9051B/A.10379C. ويتطلب التشريع من شركات الذكاء الاصطناعي حظر ميزات المرافقة الرقمية المحظورة على الأطفال، وتطبيق أنظمة للتحقق من العمر تتيح خيارات لا تعتمد حصراً على الهويات الحكومية، مع حذف بيانات عمر المستخدم فور الانتهاء من عملية التحقق.
ما تحظره قيود روبوتات المحادثة بالذكاء الاصطناعي على القاصرين
تحظر قيود روبوتات المحادثة بالذكاء الاصطناعي على القاصرين على الشركات تقديم ميزات تحاكي الهوية البشرية أو تبني تعلقاً عاطفياً مع المستخدمين الذين تقل أعمارهم عن 18 عاماً. وبموجب مشروع القانون S.9051B/A.10379C، لا يمكن لأنظمة الذكاء الاصطناعي التظاهر بأنها على قيد الحياة، أو محاكاة المشاعر البشرية، أو ادعاء علاقات رومانسية أو مهنية أو سلطوية مع الأطفال. كما يحظر القانون الأسئلة العاطفية غير المسبوقة واستخدام البيانات الصحية الخاصة بالطفل أو معلوماته الشخصية المجمعة من محادثات سابقة. علاوة على ذلك، يُمنع على المنصات توليد محتوى صريح جنسياً أو مواد تؤدي إلى الاستغلال الجنسي للأطفال، فضلاً عن الترويج للانتحار أو إيذاء النفس أو اضطرابات الأكل أو استخدام المخدرات والكحول. وتذكر منظمة Common Sense Media أن 52% من المراهقين يتفاعلون مع رفقاء الذكاء الاصطناعي عدة مرات في الشهر على الأقل، مما يجعل الضوابط التنظيمية للولاية ضرورة ملحة.
كيف ينظم مشروع قانون نيويورك S.9051B تفاعلات الرفقاء الرقميين
يستهدف مشروع قانون نيويورك S.9051B السلوكيات التفاعلية التي تشجع الأطفال على عزلة أنفسهم أو إخفاء المعلومات عن أفراد أسرتهم. ورعى سيناتور الولاية كريستين غونزاليس وعضو الجمعية أليكس بوريس هذا التشريع لمنع الخوارزميات من توجيه القاصرين نحو إيذاء النفس أو نصحهم بتجنب طلب المساعدة من الكبار الموثوقين. وتمنع هذه الإجراءات روبوتات المحادثة من حث الأطفال على حفظ الأسرار أو الابتعاد عن الوالدين والعاملين في المجال الطبي. وصرح عضو الجمعية أليكس بوريس بأن التشريع يمنح الجمهور صوتاً في توجيه كيفية تأثير الذكاء الاصطناعي على السكان، مما يواجه المعارضة الشرسة من قطاع التكنولوجيا.
ما الذي يتغير بالنسبة لشركات الذكاء الاصطناعي
بموجب قانون الذكاء الاصطناعي لروبوتات المحادثة في نيويورك، تواجه شركات التكنولوجيا متطلبات امتثال فنية محددة للتحقق من العمر وإدارة البيانات. ويجب على الشركات تطبيق عمليات للتحقق من العمر توفر خيارات متعددة، بما في ذلك طريقة واحدة على الأقل لا تعتمد حصراً على وثيقة إثبات شخصية حكومية. وبمجرد أن تكمل المنصة عملية التحقق، يتوجب عليها حذف بيانات العمر المجمعة من المستخدم بشكل دائم. وإذا فشلت المؤسسة في تأكيد أن المستخدم ليس قاصراً، فلن تتمكن من تقديم أي من الميزات المحظورة لذلك المستخدم.
كيف يطبق قانون كاثي هوشول لروبوتات المحادثة العقوبات
يمنح قانون كاثي هوشول لروبوتات المحادثة بالذكاء الاصطناعي المدعية العامة ليتيشيا جيمس صلاحية اتخاذ إجراءات قانونية ضد شركات التكنولوجيا غير الممتثلة. ويواجه المخالفون عقوبات مدنية تصل إلى 25000 دولار عن كل مخالفة، بالإضافة إلى تعويضات مالية وأضرار تقرها المحكمة. كما يجيز القانون للقضاة الأمر بإتلاف بيانات المستخدمين المجمعة بشكل غير قانوني وأي نماذج ذكاء اصطناعي تم تدريبها على تلك البيانات. ولتسهيل التنفيذ، سيشغل مكتب المدعي العام موقعاً إلكترونياً عاماً مخصصاً يمكن لسكان نيويورك من خلاله تقديم الشكاوى ضد الخدمات غير الممتثلة.
كيف تتوافق ضوابط حماية رفقاء الذكاء الاصطناعي في نيويورك مع معايير الولاية
تتوسع ضوابط حماية رفقاء الذكاء الاصطناعي التي أقرتها نيويورك في 28 أكتوبر 2026 في الإطار التنظيمي الحالي للولاية الخاص بالسلامة عبر الإنترنت. ووقعت الحاكمة كاثي هوشول التشريع إلى جانب مشروع القانون S.9508/A.5175A، الذي ينظم أجهزة مراقبة الأطفال المتصلة بالإنترنت ويدخل حيز التنفيذ بعد 90 يوماً من توقيعه. وتكمل لوائح روبوتات المحادثة التدابير السابقة لولاية نيويورك، بما في ذلك قانون RAISE Act وقانون Safe by Design Act وقانون Safe for Kids Act والحظر المنفذ بالولاية على المواد الجنسية الصريحة المولدة بالذكاء الاصطناعي. وأشار الرئيس التنفيذي لمنظمة Common Sense Media، جيمس بي. ستاير، إلى أن أولياء الأمور المدافعين عن القضية، بمن فيهم ماريا ومات راين، انضموا إلى المشرعين لضمان الموافقة على مشروع القانون.
أسئلة وإجابات
ما الذي يحظره قانون الذكاء الاصطناعي الجديد في نيويورك لروبوتات المحادثة؟
يحظر قانون نيويورك على منصات الذكاء الاصطناعي تقديم ميزات للمستخدمين دون سن 18 عاماً تحاكي المشاعر البشرية، أو تتظاهر بأنها أشخاص حقيقيون، أو تدعي علاقات شخصية أو رومانسية أو سلطوية. ويمنع روبوتات المحادثة من طرح أسئلة عاطفية غير مسبوقة، أو استخدام البيانات الصحية الخاصة السابقة، أو إنشاء محتوى صريح جنسياً، أو التشجيع على إيذاء النفس واضطرابات الأكل واستخدام المواد المخدرة أو العزلة عن الوالدين.
كيف يؤثر قانون الذكاء الاصطناعي في نيويورك على شركات التكنولوجيا؟
يتطلب القانون من شركات الذكاء الاصطناعي التحقق من عمر المستخدم باستخدام طرق متعددة، بما في ذلك خيار واحد على الأقل لا يعتمد حصراً على الهويات الحكومية، وحذف بيانات العمر بعد التحقق. وإذا لم تؤكد الشركة أن المستخدم ليس قاصراً، فيجب عليها حظر جميع ميزات روبوتات المحادثة المقيدة أو مواجهة عقوبات مدنية تصل إلى 25000 دولار عن كل مخالفة، مع الحذف الإجباري للبيانات والإتلاف المحتمل لنماذج الذكاء الاصطناعي المدربة.
كيف يجب على شركات الذكاء الاصطناعي التحقق من عمر المستخدم بموجب قانون نيويورك؟
بموجب القانون، يجب على شركات الذكاء الاصطناعي توفير أكثر من طريقة واحدة للتحقق من العمر، مع اشتراط وجود خيار واحد على الأقل لا يعتمد فقط على بطاقة هوية حكومية. بالإضافة إلى ذلك، يجب على المنصات حذف جميع معلومات التحقق من العمر المجمعة فور الانتهاء من عملية التحقق.
رؤية MOZGII
كيف كنا سنبنيه
لو كنا نبني منصة لروبوتات المحادثة بالذكاء الاصطناعي بموجب قانون نيويورك S.9051B، لكنا وضعنا التحقق من السن وتصفية المحادثات في جوهر بنية النظام. ولكنا اعتمدنا أدوات للتحقق من السن تدعم خيارات غير حكومية، بما في ذلك التقدير عبر تقاسيم الوجه أو التحقق بواسطة بطاقة الدفع. ولكنا مسحنا كافة سجلات التحقق من سن المستخدمين من قواعد بياناتنا فور معالجتها مباشرة. وأما بالنسبة للحسابات غير المتحقق منها أو القاصرين المتحقق منهم، لكنا أضفنا مرشحات للمدخلات والمخرجات لحظر السلوكيات المحظورة، بما في ذلك ادعاء الهوية البشرية، والاستفسارات العاطفية غير المطلوبة، والنصائح بحجب المعلومات عن الوالدين.
ولكنا أرسلنا نصوص المحادثات المحددة إلى فرق سلامة بشرية تراجع مخرجات النظام وتطور قواعد العمل. فالنظام يتعطل عندما يخدع السياق الحواري المعقد أداة التصنيف لتسمح بالاعتماد العاطفي الخفي أو العبارات العلائقية غير المعتمدة. ولكنا تتبعنا معدل التمرير الخاطئ للمحتوى الخاضع للقيود في حسابات القاصرين كمعيار أساسي لمراقبة السلامة.
بعد ذلك، لكنا أنشأنا مجموعة تقييم مستمرة تختبر كل تحديث للنموذج مقابل اختبارات تفاعل اصطناعية تستهدف سيناريوهات محاكاة لسلامة القاصرين.
المصادر
من أين جاءت حقائق هذا الخبر.