- EU में “अस्वीकार्य जोखिम(unacceptable risk)” के रूप में वर्गीकृत AI सिस्टम के उपयोग पर पूर्ण प्रतिबंध लगा दिया गया है
- 2 फ़रवरी EU AI Act की पहली compliance deadline है, और यह नियम EU के भीतर सेवा दिए जाने वाले या उपयोग किए जाने वाले सभी AI technologies पर लागू होता है
- इसका उल्लंघन करने पर वार्षिक राजस्व का 7% या अधिकतम 3.5 करोड़ यूरो (लगभग 3.6 करोड़ डॉलर) में से जो भी अधिक हो, उतना जुर्माना लगाया जा सकता है
EU AI Act का अवलोकन
- AI जोखिम स्तर को 4 चरणों में बाँटकर विनियमित किया जाता है
- न्यूनतम जोखिम: उदाहरण) spam filter
- सीमित जोखिम: उदाहरण) customer support chatbot
- उच्च जोखिम: उदाहरण) medical decision support system
- अस्वीकार्य जोखिम: ऐसा AI जिससे लोगों को शारीरिक·मानसिक नुकसान या भेदभाव होने की आशंका अधिक हो
- अस्वीकार्य जोखिम के रूप में नामित AI पूर्ण उपयोग-प्रतिबंध के दायरे में आता है
- प्रमुख उदाहरण
- सामाजिक स्कोरिंग: व्यक्ति के व्यवहार के आधार पर risk profile बनाने वाला AI
- अवचेतन हेरफेर: लोगों के निर्णयों को गुप्त या भ्रामक तरीके से प्रभावित करने वाला AI
- कमज़ोर वर्गों का शोषण: उम्र, disability, आर्थिक स्थिति आदि का दुरुपयोग करने वाला AI
- दिखावट-आधारित अपराध पूर्वानुमान: किसी व्यक्ति की शक्ल-सूरत के आधार पर अपराध की संभावना का अनुमान लगाने वाला AI
- biometric-आधारित विशेषता विश्लेषण: sexual orientation जैसी व्यक्तिगत विशेषताओं का अनुमान लगाने वाला AI
- सार्वजनिक स्थानों पर real-time biometric data collection: law enforcement के उद्देश्य से real-time biometric data इकट्ठा करने वाला AI
- emotion inference AI: कार्यस्थल या स्कूल में लोगों की भावनाओं का विश्लेषण करने वाला AI
- facial recognition database का निर्माण: online या security camera से इमेज इकट्ठा कर facial recognition database बनाना या उसका विस्तार करना
पूर्व-प्रतिज्ञा
- 2 फ़रवरी की deadline से पहले, 2024 के सितंबर के आसपास लगभग 100 कंपनियों ने ‘EU AI Pact’ पर हस्ताक्षर कर यह वादा किया था कि वे AI Act लागू होने से पहले ही स्वेच्छा से इसके मानकों का पालन करेंगी
- Amazon, Google, OpenAI आदि इसमें शामिल हुए, लेकिन Meta, Apple, Mistral आदि ने हस्ताक्षर नहीं किए
- Pact में शामिल न होने वाली कंपनियों के लिए भी असंगत-जोखिम वाले AI का उपयोग प्रतिबंधित होना सिद्धांततः लागू है
संभावित अपवाद प्रावधान
- law enforcement agencies को कुछ विशेष परिस्थितियों में ही (जैसे अपहरण पीड़ित की तलाश, तत्काल खतरा) biometric information का उपयोग करने की सीमित छूट दी गई है
- इस स्थिति में भी, केवल एक AI system के परिणाम के आधार पर किसी व्यक्ति के खिलाफ प्रतिकूल निर्णय नहीं लिया जा सकता
- स्कूलों और कार्यस्थलों में emotion-detection AI भी ‘चिकित्सीय उद्देश्य या सुरक्षा’ सुनिश्चित करने जैसे वैध कारण होने पर सीमित रूप से अनुमति पा सकता है
- अतिरिक्त guidelines 2025 की शुरुआत में जारी होने की उम्मीद है, लेकिन अभी उनके ठोस विवरण सार्वजनिक नहीं किए गए हैं
आगे की चुनौतियाँ
- वास्तविक दंड और पूर्ण पैमाने पर लागू होना अगस्त के बाद अपेक्षित है
- तब तक प्रत्येक देश की “competent authorities” तय की जाएँगी, और जुर्माने व enforcement measures प्रभावी होंगे
- अन्य regulations (GDPR, NIS2, DORA आदि) के साथ overlapping applicability की संभावना है, जिससे कंपनियों में भ्रम पैदा हो सकता है
- यह सुनिश्चित करने के लिए सावधानी ज़रूरी है कि कई regulations द्वारा एक साथ माँगी जाने वाली reporting obligations या data management practices आपस में टकराएँ नहीं
- कंपनियों को आगे जारी होने वाले standards, guidelines, codes of conduct आदि को ध्यान में रखकर व्यवस्थित तैयारी करने की आवश्यकता है
2 टिप्पणियां
लगता है कि हाल में मैंने ऐसे बहुत से लेख देखे हैं जिनमें कहा जा रहा है कि regulation EU की growth में बाधा बन रही है, और फिर से ऐसा महसूस हो रहा है कि कोई स्पष्ट नतीजे दिखने से पहले ही regulation आ गई है।
इतना तो शायद कानून से सीमित किए जाने लायक हो सकता है।
मुझे लगता है कि यह इस खबर से काफी विपरीत है।
इन दिनों सच में बहुत सोचने वाली बातें बढ़ गई हैं।