हाल ही में जनरेटिव आर्टिफिशियल इंटेलिजेंस (Generative AI) के तेज़ी से फैलने के साथ, कई कंपनियाँ AI अपनाने पर विचार कर रही हैं या इसे अपने व्यवहार में लागू कर रही हैं। लेकिन AI के उपयोग के विस्तार के साथ आंतरिक गोपनीय जानकारी के रिसाव, अनधिकृत उपयोग और नियामकीय मुद्दों जैसे गंभीर सुरक्षा जोखिम भी बढ़ रहे हैं। सैमसंग के आंतरिक कोड लीक मामले और इटली की डेटा प्रोटेक्शन अथॉरिटी द्वारा ChatGPT को अस्थायी रूप से ब्लॉक करने की घटना इस बात की पुष्टि करती है।
मौजूदा AI सुरक्षा का मुख्य स्तंभ AWS, Google, Microsoft आदि द्वारा उपलब्ध कराए गए Guardrails हैं, जो AI के आउटपुट को फ़िल्टर करके हेट स्पीच, संवेदनशील जानकारी के खुलासे आदि को रोकते हैं। लेकिन Guardrails मुख्यतः 'आउटपुट सामग्री' पर ही केंद्रित रहता है, इसलिए कौन, कब और किस अनुमति से AI इस्तेमाल कर रहा है—जैसे संदर्भ-आधारित नियंत्रण—में इसकी सीमाएँ बड़ी हैं।
2024 में प्रस्तुत Anthropic के MCP (Model Context Protocol) ने AI को Slack, GitHub, AWS जैसी बाहरी प्रणालियों से जुड़कर वास्तविक काम करने में मदद करने वाला एक इनोवेटिव कम्युनिकेशन फ्रेमवर्क पेश किया। लेकिन जब AI MCP वातावरण में बाहरी सिस्टम्स तक सीधे पहुंचता है, तब सिर्फ सरल कंटेंट फ़िल्टरिंग से सुरक्षा जोखिमों पर नियंत्रण कठिन हो जाता है। इसलिए उपयोगकर्ता अनुमति प्रबंधन, व्यवहार-आधारित पॉलिसी और ऑडिट लॉगिंग को शामिल करने वाली Privileged Access Management (PAM) व्यवस्था ज़रूरी हो जाती है।
यह लेख MCP और PAM को एकीकृत करने वाली QueryPie की सुरक्षा आर्किटेक्चर पर केंद्रित है, और यह विश्लेषण करता है कि यह Guardrails के साथ कैसे परस्पर पूरक रूप से काम करता है तथा Prompt Injection, Insider Threat, संवेदनशील डेटा लीकेज जैसे नए AI खतरों से कैसे निपटता है।
मुख्य बिंदु
- Guardrails: AI आउटपुट-केंद्रित फ़िल्टरिंग, हेट स्पीच/हिंसा/व्यक्तिगत जानकारी ब्लॉक करने में प्रभावी, पर संदर्भ-आधारित नियंत्रण में कमी
- MCP PAM: बाहरी टूल कॉल से पहले उपयोगकर्ता अनुमति और कार्रवाई की सत्यापन, नीति-आधारित सटीक एक्सेस कंट्रोल प्रदान करता है
- थ्रेट रिस्पॉन्स: LLM misuse, Prompt Injection, Privilege Abuse, Sensitive info leakage, API abuse जैसे विविध अटैक सीनारियो का नीति-आधारित जवाब
- इंटीग्रेटेड सुरक्षा ढांचा: Guardrails की कंटेंट सेफ्टी + MCP PAM की नीति-आधारित व्यवहार नियंत्रण + आउटपुट के बाद DLP इंटीग्रेशन से मल्टी-लेयर डिफेंस
AI सुरक्षा अब सिर्फ सरल फ़िल्टरिंग से आगे बढ़कर, "किसने, कब और क्या अनुरोध किया" तक को मैनेज करने वाली प्रणाली बन रही है। MCP-PAM आर्किटेक्चर AI के नवाचार और सुरक्षा के बीच संतुलन स्थापित करने का भविष्य-दृष्टि समाधान है।
विस्तृत सामग्री और ठोस तकनीकी विश्लेषण तथा Threat Model response रणनीतियों के लिए नीचे दिए गए ब्लॉग को देखें।
👉 https://www.querypie.com/ko/resources/discover/white-paper/16
AI जितना स्मार्ट होता जाएगा, उतनी ही सुरक्षा भी बदलनी होगी। QueryPie इस बदलाव के केंद्र में समाधान खोज रहा है।
अभी कोई टिप्पणी नहीं है.