- Purple Llama Meta द्वारा संचालित open source AI reliability और security ecosystem का एक umbrella project है, जिसका लक्ष्य generative AI (LLM) development के लिए ज़रूरी विभिन्न security tools, guides, evaluation tools (Eval), benchmarks को एक साथ लाकर community के साथ मिलकर विकसित करना है
- LlamaFirewall Purple Llama project का एक मुख्य घटक है, जो generative AI (खासकर LLM-आधारित chatbot/agent) में उत्पन्न हो सकने वाले विभिन्न security threats (prompt injection, misalignment, code vulnerabilities आदि) को multi-layer scanner architecture के ज़रिए real time में detect और block करने वाला framework है
- यह Llama Guard, Prompt Guard, Code Shield, CyberSec Eval जैसे Purple Llama के कई security/reliability tools के साथ मिलकर system-level का एक comprehensive AI safety layer लागू करता है
- Llama Guard: Llama 3 आधारित input/output harmful content detection/blocking model. इसे LlamaFirewall policy में शामिल कर सभी input/output चरणों में अपने-आप लागू किया जा सकता है
- Prompt Guard: prompt injection/jailbreak attacks की detection के लिए विशेषीकृत, LlamaFirewall में PromptGuardScanner के रूप में integrated
- Code Shield: LLM-generated code में real time vulnerability/harmful code detection, LlamaFirewall में CodeShieldScanner के रूप में integrated
- CyberSec Eval: Purple Llama का LLM cybersecurity benchmark tool. LlamaFirewall-आधारित models की वास्तविक security resilience और vulnerabilities की testing में उपयोग होता है
- इसकी प्रमुख विशेषताएँ हैं low latency/high throughput, real time application, transparent open source, और strong extensibility
- security teams और AI developers LLM-आधारित chatbot, agent, और multi-step AI के लिए सुरक्षित Guardrail (रक्षा परत) को तेज़ी से लागू कर सकते हैं
अभी कोई टिप्पणी नहीं है.