Rust-आधारित Python LLM injection defense प्रोजेक्ट

यह Rust पर आधारित Python LLM injection defense package है!

AI API का उपयोग करके कई तरह के काम करते हुए मुझे पता चला कि injection attack उम्मीद से कहीं अधिक आम हैं। मैं बार-बार re-आधारित regex filtering और replace का काम कर रहा था, जो असुविधाजनक लगा, इसलिए मैंने सोचा कि अगर ऐसा कोई package हो तो कैसा रहेगा, और इसी वजह से यह service विकसित की। ( development में AI की काफी मदद मिली! )

मुख्य फीचर्स में IPS, IDS, और IUS शामिल हैं।
IPS - user prompt को block करता है और मौजूदा prompt को जारी रखने का निर्देश देता है
IDS - user prompt को block नहीं करता, लेकिन block rules से मेल खाने वाले शब्दों को दिखाता है
IUS - multithreading और caching के साथ तेज़ गति से काम करने वाला IPS

इसकी एक खासियत यह है कि package के अंदर rules.json की location पर नया JSON जोड़कर या मौजूदा rules.json को संशोधित करके blocking support किया जा सकता है, और init को फिर से call करके execution के दौरान rules बदले जा सकते हैं! ( custom rules -> provided rules )

इस तरह की चीज़ पहली बार पोस्ट कर रहा हूँ, इसलिए थोड़ा डर लग रहा है। कृपया सहयोग करें!