CISA وNSA تصدران إرشادات أمن الذكاء الاصطناعي الوكيل بالتعاون مع تحالف العيون الخمس
أصدرت وكالة أمن البنية التحتية والأمن السيبراني (CISA) ووكالة الأمن القومي (NSA) وحلفاؤهما الدوليون في تحالف العيون الخمس إرشادات مشتركة لأمن الذكاء الاصطناعي الوكيل في أبريل 2026 لمعالجة المخاطر المرتبطة ببرمجيات الذكاء الاصطناعي المستقلة. توضح الإرشادات التدابير الدفاعية عبر مراحل التصميم والتطوير والنشر والتشغيل للوكلاء المستقلين. وتحدد هذه التوجيهات للمؤسسات معايير تشغيلية للحد من انقطاع الخدمات، ومنع تسريب البيانات، والحفاظ على إمكانية التدقيق عند دمج الوكلاء المستقلين في البنية التحتية للأعمال.
إرشادات تحالف العيون الخمس للذكاء الاصطناعي الوكيل والأنظمة المستقلة
تحدد إرشادات تحالف العيون الخمس لأمن الذكاء الاصطناعي الوكيل التدابير الأمنية لإدارة البرمجيات المكونة من وكيل واحد أو أكثر وتعتمد على نموذج ذكاء اصطناعي، مثل النماذج اللغوية الكبيرة (LLM)، لتفسير حالة العالم وتحليلها واتخاذ الإجراءات بشكل مستقل. وتصرف الوثيقة الصادرة بالتعاون بين CISA وNSA وشركاء الأمن السيبراني الدوليين اهتمامها نحو حماية البنية التحتية للمؤسسات من المخاطر الأمنية المرتبطة باتخاذ القرارات المستقلة. وتوصي وكالات الأمن السيبراني المؤسسات بالتخطيط للتبني الحذر لخدمات الذكاء الاصطناعي الوكيل من خلال تقييم خطوات عملية لتصميم هذه الأنظمة وتطبيقها وإدارتها بأمان.
خمس فئات من المخاطر الأمنية في الذكاء الاصطناعي الوكيل
تحدد إرشادات CISA لأمن الذكاء الاصطناعي الوكيل خمس فئات رئيسية للمخاطر الأمنية المرتبطة بنشر هذا النوع من الذكاء الاصطناعي. تحدث مخاطر الصلاحيات عندما يجمع الوكلاء أذونات عبر أدوات وبيئات متعددة، مما يجعل نقطة اختراق واحدة توفر وصولاً واسع النطاق. وتنشأ مخاطر التصميم والتكوين من التجهيز المعماري الضعيف أو ضوابط الوصول الثابتة أو المكونات الخارجية ذات الأذونات المفرطة التي تمكن المهاجمين من استغلال الأذونات القديمة والتحرك جانبيًا. بينما تنجم المخاطر السلوكية عن التصرفات غير المتوقعة وهجمات حث الأوامر وتسميم البيانات. وتنبع المخاطر الهيكلية من الأنظمة المتصلة وسلاسل سير العمل متعددة الخطوات التي قد تؤدي إلى إخفاقات متتالية أو توسيع نطاق الهجوم. أما مخاطر المساءلة فتنشأ عن غموض النظام مما يجعل تتبع القرارات أو تحديد المسؤوليات أمرًا صعبًا على نطاق واسع.
أفضل الممارسات الأمنية لتطوير الذكاء الاصطناعي الوكيل من NSA
تؤكد أفضل الممارسات الأمنية الصادرة عن NSA لتطوير الذكاء الاصطناعي الوكيل على تضمين الأمن والحوكمة والإشراف أثناء مرحلتي تصميم النظام وتطويره. ويجب على المطورين بناء تسلسل هرمي واضح للتعليمات لضمان توافق سلوك الوكيل مع النتائج المرجوة، وتضمين آليات قوية لإدارة الهوية، وإدراج ضوابط الإشراف البشري إلى جانب طبقات أمنية متداخلة. وخلال مرحلة التطوير، ينبغي للمؤسسات استخدام استراتيجيات اختبار شاملة مثل الاختبارات العدائية وفِرَق المحاكاة الحمراء. كما يجب أن تستخدم التقييمات الشاملة نماذج التهديدات، واختبار النظام في ظروف سياقية متنوعة ومستويات مختلفة من الاستقلالية. وتتطلب الأنظمة وجود إعدادات افتراضية آمنة في حالة الفشل للحد من نطاق تأثر التصرفات غير المتوقعة وإنتاج وثائق ومستندات شاملة لتعزيز المساءلة.
بروتوكولات تأمين وكلاء الذكاء الاصطناعي المستقلين في بيئات الإنتاج
لإدارة الأمن أثناء النشر الأولي، يجب على المؤسسات التي تعمل على تأمين وكلاء الذكاء الاصطناعي المستقلين زيادة مستويات الوصول والاستقلالية تدريجيًا للحد من التعرض المبكر للمخاطر. وتتطلب بروتوكولات النشر تطبيق مبدأ الحد الأدنى من الصلاحيات، وعزل الأنظمة، وضوابط المصادقة القوية. كما يتوجب على المطورين والمشغلين فرض قيود صارمة مثل قوائم الحظر، وقواعد الامتناع عن الفعل، والقيود الأمنية غير القابلة للتجاوز. وتضمن هذه التدابير عمل الوكلاء المستقلين ضمن حدود تشغيلية محددة مع منع الوصول غير المصرح به إلى أنظمة الأعمال المجاورة.
إجراءات المراقبة التشغيلية وتسجيل الأنشطة
خلال المرحلة التشغيلية، تعد المراقبة المستمرة أمرًا ضروريًا للكشف عن السلوك الشاذ أو الإجراءات غير المصرح بها أو المخاطر الناشئة في الوقت الفعلي. ويجب على المؤسسات الاحتفاظ بسجلات تفصيلية لقرارات الوكيل وإجراءاته لدعم التدقيق والمساءلة عبر جميع الوظائف الحيوية للأعمال. وتضمن السجلات التفصيلية قدرة فرق الأمن على تتبع مسارات القرارات المؤتمتة، والتحقيق في الإخفاقات ضمن سير العمل متعدد الخطوات، والتحقق من الامتثال لقواعد السلامة المؤسسية.
ما الذي تغيره الإرشادات لنشر الذكاء الاصطناعي في المؤسسات
تعالج الإرشادات الثغرات الأمنية الأساسية في المؤسسات التي تؤدي إلى انقطاع الخدمة وكشف البيانات وفقدان القدرة على التدقيق عبر العمليات التجارية. ومن خلال تحديد تجميع الصلاحيات وسلاسل سير العمل المتصلة، يساعد هذا الإطار مهندسي الأمن في المؤسسات على منع نقاط الفشل الأحادية عبر البنية التحتية المشتركة. كما يؤدي تطبيق الإعدادات الافتراضية الآمنة، والاستقلالية التدريجية، وضوابط الأمن المتداخلة إلى تقليل نطاق الضرر الناجم عن تصرفات الوكيل غير المتوقعة، مما يتيح للشركات تبني الذكاء الاصطناعي الوكيل مع الحفاظ على الإشراف التشغيلي والمساءلة.
أسئلة وإجابات
ما هي إرشادات تحالف العيون الخمس لتأمين الذكاء الاصطناعي الوكيل؟
تقدم إرشادات العيون الخمس، الصادرة بشكل مشترك عن CISA وNSA وشركاء الأمن السيبراني الدوليين، إطارًا عمليًا للتبني الحذر لأنظمة الذكاء الاصطناعي الوكيل. وتحدد التدابير الأمنية عبر دورة حياة نظام الذكاء الاصطناعي، بما في ذلك التسلسل الهرمي للتعليمات، والاختبارات العدائية، والنشر التدريجي للوصول، والقيود غير القابلة للتجاوز، والتسجيل التشغيلي المستمر.
ما هي المخاطر السيبرانية الرئيسية لوكلاء الذكاء الاصطناعي المستقلين وفقًا لـ CISA؟
تسلط CISA الضوء على خمس فئات رئيسية للمخاطر: مخاطر الصلاحيات الناجمة عن تجميع أذونات الوصول، ومخاطر التصميم والتكوين الناتجة عن الضوابط الثابتة، والمخاطر السلوكية بما في ذلك حث الأوامر وتسميم البيانات، والمخاطر الهيكلية الناجمة عن إخفاقات سير العمل المتسلسلة، ومخاطر المساءلة الناتجة عن غموض اتخاذ القرار المستقل.
كيف يمكن للمؤسسات تأمين عمليات نشر الذكاء الاصطناعي الوكيل وفقًا لتوصيات CISA؟
تستطيع المؤسسات تأمين عمليات النشر من خلال منح مستويات تدريجية من الوصول والاستقلالية، وفرض ضوابط صارمة للحد الأدنى من الصلاحيات وعزل الأنظمة، وإنشاء قيود أمان غير قابلة للتجاوز مثل قوائم الحظر، وإجراء مراقبة مستمرة مع سجلات تفصيلية للقرارات لضمان إمكانية التدقيق.
رؤية MOZGII
كيف كنا سنبنيه
لتطبيق هذه الإرشادات الأمنية في نظام قائم على الوكلاء، كنا سنوجه جميع طلبات الوكلاء المستقلين عبر بوابة ترخيص معزولة. وكنا سنحدد تسلسلات هرمية واضحة للتعليمات في بنية الأوامر البرمجية، ونفرض رموز هوية صارمة قائمة على الحد الأدنى من الصلاحيات لكل أداة تابعة. وكان المحللون الأمنيّون سيرراجعون الإجراءات عالية المخاطر المحددة قبل تنفيذها. وكانت قوائم الرفض غير القابلة للتجاوز ستحظر استدعاءات الشبكة المقيدة مباشرة على مستوى البنية التحتية.
يتعطل النظام عندما يتجاوز حاقن الأوامر التعليمات عالية المستوى، أو عندما تجمع مسارات العمل متعددة الخطوات الصلاحيات عبر الأدوات المتصلة. ويمكن للمهام السياقية المعقدة أن تتسبب في تنفيذ الوكلاء لاستدعاءات واجهة برمجة التطبيقات API غير مقصودة أو الدخول في حلقات تكرار لا تنتهي. وكنا سنتتبع معدل محاولات استخدام الأدوات غير المصرح بها كمعيار تشغيلي رئيسي. فالارتفاع المفاجئ في الاستدعاءات المحظورة يشير إلى هجمات تسلل محتملة أو خلل في منطق مسار العمل.
بعد ذلك، كنا سنبني مسار اختبار أمني هجومي مؤتمتا لاختبار حدود الوكيل باستمرار عبر مستويات استقلالية متغيرة. كما كنا سننفذ نظاما لسجلات القرارات المنظمة ينقل خطوات التفكير المنطقي للوكيل إلى سجل تدقيق غير قابل للتغيير لمراجعة الامتثال.
المصادر
من أين جاءت حقائق هذا الخبر.