- डेवलपर्स को जिम्मेदारी के साथ जनरेटिव AI मॉडल deploy करने में सहायता देने के लिए open trust और safety tools तथा evaluations उपलब्ध कराने वाला एक umbrella project
- पहले चरण में दो tools जारी किए गए
- CyberSec Eval : LLMs के लिए cyber security safety evaluation benchmark
- Llama Guard : आसान deployment के लिए optimized input/output filtering हेतु Safety Classifier
- AI Alliance, AMD, AWS, Google Cloud, Hugging Face, IBM, Intel, Lightning AI, Microsoft, MLCommons, NVIDIA, Scale AI आदि के साथ मिलकर इन tools को open source community को उपलब्ध कराने की योजना
Purple क्यों?
- मान्यता है कि generative AI से उत्पन्न चुनौतियों को वास्तव में कम करने के लिए attack (red team) और defense (blue team) दोनों posture की आवश्यकता है
- red team और blue team के संयोजन से बना purple team, संभावित जोखिमों का आकलन और उन्हें कम करने के लिए एक collaborative approach है
- Purple Llama project को एक permissive license के तहत उपलब्ध कराया जाएगा, जिससे research और commercial use संभव हो सके
- यह community collaboration को बढ़ावा देने और generative AI development के लिए trust और safety tools के development तथा use को standardize करने की दिशा में एक महत्वपूर्ण कदम है
1 टिप्पणियां
AI Alliance - https://thealliance.ai क्या है, यह देखने गया तो पता चला कि यह IBM और Meta की अगुवाई में बना एक गठबंधन है।
50 से ज़्यादा कंपनियाँ/संगठन इसमें शामिल हैं, लेकिन हैरानी की बात यह है कि OpenAI, Google, NVidia, Microsoft जैसी कंपनियाँ इसमें नहीं हैं, तो थोड़ा अजीब-सा लगता है.. हाहा