CISA और NSA ने जारी किए Agentic AI सुरक्षा दिशानिर्देश

Five Eyes agentic AI guidance for autonomous systems

five eyes agentic ai guidance एक या अधिक एजेंटों से बने सॉफ्टवेयर को प्रबंधित करने के लिए सुरक्षा उपायों की रूपरेखा तैयार करती है जो दुनिया की स्थिति की व्याख्या करने और स्वायत्त रूप से कार्रवाई करने के लिए LLM जैसे AI मॉडल पर निर्भर करते हैं। CISA, NSA और अंतरराष्ट्रीय साइबर सुरक्षा भागीदारों द्वारा संयुक्त रूप से जारी यह प्रकाशन स्वायत्त निर्णय लेने से जुड़े सुरक्षा जोखिमों से एंटरप्राइज इंफ्रास्ट्रक्चर की रक्षा करने पर केंद्रित है। साइबर सुरक्षा एजेंसियां सिफारिश करती हैं कि एंटरप्राइज संगठन इन प्रणालियों को सुरक्षित रूप से डिजाइन, लागू और प्रबंधित करने के लिए व्यावहारिक कदमों का मूल्यांकन करके agentic AI सेवाओं को सावधानीपूर्वक अपनाने की योजना बनाएं।

Five categories of security risks in agentic AI

cisa agentic ai security guidance, agentic AI तैनाती से जुड़ी सुरक्षा जोखिम की 5 प्राथमिक श्रेणियों की पहचान करती है। विशेषाधिकार जोखिम (privilege risks) तब होते हैं जब एजेंट टूल और एनवायरनमेंट में अनुमतियों को एकत्र करते हैं, जिससे समझौता का एक बिंदु व्यापक पहुंच प्रदान करता है। डिजाइन और कॉन्फ़िगरेशन जोखिम खराब आर्किटेक्चर, स्थिर एक्सेस कंट्रोल या अत्यधिक अनुमतियों वाले तीसरे पक्ष के घटकों से उत्पन्न होते हैं जो हमलावरों को पुरानी अनुमतियों का फायदा उठाने और लेटरल मूव करने में सक्षम बनाते हैं। व्यवहार संबंधी जोखिम (behavioral risks) अप्रत्याशित कार्यों, प्रॉम्प्ट इंजेक्शन (prompt injection) और डेटा पॉइजनिंग (data poisoning) से उत्पन्न होते हैं। संरचनात्मक जोखिम (structural risks) आपस में जुड़े सिस्टम और बहु-चरणीय वर्कफ़्लो से उत्पन्न होते हैं जिससे कैस्केडिंग विफलताएं या विस्तारित हमला क्षेत्र बनता है। जवाबदेही जोखिम (accountability risks) सिस्टम की अपारदर्शिता से उत्पन्न होते हैं जो बड़े पैमाने पर निर्णयों को ट्रैक करना या जिम्मेदारी सौंपना कठिन बना देते हैं।

NSA agentic ai security best practices for development

nsa agentic ai security best practices सिस्टम डिजाइन और विकास के दौरान सुरक्षा, प्रशासन और निरीक्षण को शामिल करने पर जोर देती हैं। डेवलपर्स को स्पष्ट निर्देश पदानुक्रम (instruction hierarchies) बनाने होंगे ताकि एजेंट का व्यवहार इच्छित परिणामों के अनुरूप हो, मजबूत पहचान प्रबंधन तंत्र को शामिल किया जाए और सुरक्षा की ओवरलैपिंग परतों के साथ-साथ मानव निरीक्षण नियंत्रण शामिल किए जाएं। विकास के दौरान, संगठनों को एडवर्सरियल टेस्टिंग (adversarial testing) और रेड टीमिंग (red teaming) जैसी व्यापक परीक्षण रणनीतियों का उपयोग करना चाहिए। गहन मूल्यांकन में खतरे के मॉडल का उपयोग करना चाहिए, विभिन्न संदर्भ स्थितियों में परीक्षण करना चाहिए और विभिन्न स्वायत्तता स्तरों पर परीक्षण करना चाहिए। प्रणालियों को विफल-सुरक्षित डिफ़ॉल्ट (fail-safe defaults) की आवश्यकता होती है जो अप्रत्याशित व्यवहारों के प्रभाव को सीमित करते हैं और जवाबदेही में सुधार के लिए व्यापक दस्तावेज़ीकरण तैयार करते हैं।

Protocols for securing autonomous ai agents in production

प्रारंभिक तैनाती के दौरान सुरक्षा का प्रबंधन करने के लिए, स्वायत्त AI एजेंटों को सुरक्षित करने वाले संगठनों को शुरुआती जोखिम को सीमित करने के लिए पहुंच और स्वायत्तता के स्तर को उत्तरोत्तर बढ़ाना चाहिए। परिनियोजन प्रोटोकॉल के लिए कम से कम विशेषाधिकार पहुंच (least-privilege access), सिस्टम अलगाव और मजबूत प्रमाणीकरण नियंत्रण लागू करने की आवश्यकता होती है। डेवलपर्स और ऑपरेटरों को सख्त नियम (guardrails) लागू करने चाहिए, जैसे अस्वीकृत सूचियां (deny lists), न करने वाले नियम (do-not-do rules) और गैर-ओवरराइड करने योग्य सुरक्षा बाधाएं। ये उपाय यह सुनिश्चित करते हैं कि स्वायत्त एजेंट परिभाषित परिचालन सीमाओं के भीतर काम करें और आसपास के व्यावसायिक सिस्टमों तक अनधिकृत पहुंच को रोकें।

Operational monitoring and logging procedures

परिचालन चरण के दौरान, वास्तविक समय में असामान्य व्यवहार, अनधिकृत कार्यों या उभरते जोखिमों का पता लगाने के लिए निरंतर निगरानी आवश्यक है। सभी व्यवसाय-महत्वपूर्ण कार्यों में ऑडिटिंग और जवाबदेही का समर्थन करने के लिए संगठनों को एजेंट के निर्णयों और कार्यों के विस्तृत लॉग बनाए रखने चाहिए। विस्तृत लॉग रिकॉर्ड यह सुनिश्चित करते हैं कि सुरक्षा टीमें स्वचालित निर्णय पथों को ट्रैक कर सकती हैं, बहु-चरणीय वर्कफ़्लो में विफलताओं की जांच कर सकती हैं और संगठनात्मक सुरक्षा नियमों के अनुपालन की पुष्टि कर सकती हैं।

What the guidance changes for enterprise deployments

यह मार्गदर्शन मुख्य एंटरप्राइज कमजोरियों को संबोधित करता है जो पूरे व्यावसायिक संचालन में सेवा व्यवधान, डेटा एक्सपोजर और ऑडिट क्षमता के नुकसान का कारण बनती हैं। विशेषाधिकार एकत्रीकरण और आपस में जुड़े वर्कफ़्लो की पहचान करके, यह ढांचा एंटरप्राइज सुरक्षा आर्किटेक्ट्स को साझा इंफ्रास्ट्रक्चर में विफलता के एकल बिंदुओं को रोकने में मदद करता है। फेल-सेफ डिफॉल्ट्स, प्रगतिशील स्वायत्तता और ओवरलैपिंग सुरक्षा नियंत्रणों को लागू करने से अप्रत्याशित एजेंट कार्यों का प्रभाव सीमित होता है, जिससे कंपनियों को परिचालन निरीक्षण और जवाबदेही बनाए रखते हुए agentic AI को अपनाने की अनुमति मिलती है।

Questions and answers

What is the Five Eyes guidance on securing agentic AI?

CISA, NSA और अंतरराष्ट्रीय साइबर सुरक्षा भागीदारों द्वारा संयुक्त रूप से जारी Five Eyes guidance, agentic AI प्रणालियों को सावधानीपूर्वक अपनाने के लिए एक व्यावहारिक ढांचा प्रदान करता है। यह AI सिस्टम जीवनचक्र में सुरक्षा उपायों की रूपरेखा तैयार करता है, जिसमें निर्देश पदानुक्रम, एडवर्सरियल टेस्टिंग, प्रगतिशील पहुंच परिनियोजन, गैर-ओवरराइड योग्य गार्डरेल और निरंतर परिचालन लॉगिंग शामिल हैं।

What are the main cybersecurity risks of autonomous AI agents according to CISA?

CISA 5 प्राथमिक जोखिम श्रेणियों पर प्रकाश डालता है: एकत्रित एक्सेस अनुमतियों से विशेषाधिकार जोखिम, स्थिर नियंत्रणों से डिजाइन और कॉन्फ़िगरेशन जोखिम, प्रॉम्प्ट इंजेक्शन और डेटा पॉइजनिंग सहित व्यवहार संबंधी जोखिम, कैस्केडिंग बहु-चरणीय वर्कफ़्लो विफलताओं से संरचनात्मक जोखिम, और अपारदर्शी स्वायत्त निर्णय लेने के कारण जवाबदेही जोखिम।

How can enterprises secure agentic AI deployments under CISA recommendations?

उद्यम प्रगतिशील पहुंच और स्वायत्तता स्तर प्रदान करके, सख्त कम-से-कम-विशेषाधिकार नियंत्रण और सिस्टम अलगाव लागू करके, अस्वीकृत सूचियों की तरह गैर-ओवरराइड करने योग्य गार्डरेल स्थापित करके, और ऑडिट क्षमता सुनिश्चित करने के लिए विस्तृत निर्णय लॉग के साथ चल रही निगरानी का संचालन करके परिनियोजन को सुरक्षित कर सकते हैं।