'Lavender': गाज़ा पर बमबारी को निर्देशित करने वाली इज़राइल की AI मशीन

'Lavender': गाज़ा पर इज़राइल की बमबारी को निर्देशित करने वाली AI प्रणाली

• इज़राइली सेना ने 'Lavender' नाम का एक AI-आधारित प्रोग्राम विकसित किया, जिसने गाज़ा में फ़िलिस्तीनियों पर अंधाधुंध बमबारी में महत्वपूर्ण भूमिका निभाई।
• यह प्रणाली मानवीय निगरानी के बिना गाज़ा के दसियों हज़ार निवासियों को हत्या के लक्ष्य के रूप में चिह्नित करती है, और हताहतों को स्वीकार करने की नीति उदार है।
• Lavender को Hamas और Palestinian Islamic Jihad (PIJ) के सैन्य संगठन के सदस्यों को संभावित बमबारी लक्ष्य के रूप में चिह्नित करने के लिए डिज़ाइन किया गया है।

STEP 1: लक्ष्य तैयार करना

• Lavender गाज़ा के अधिकांश निवासियों पर बड़े पैमाने की निगरानी प्रणाली से एकत्र की गई जानकारी का विश्लेषण करता है, और प्रत्येक व्यक्ति के Hamas या PIJ के सैन्य संगठन का सदस्य होने की संभावना का आकलन कर उन्हें रैंक करता है।
• यह AI प्रणाली ज्ञात सैन्य संगठन के सदस्यों की विशेषताओं को सीखती है और सामान्य आबादी में उन्हीं विशेषताओं को खोजकर मूल्यांकन करती है।
• Lavender ने लगभग 37,000 फ़िलिस्तीनियों को Hamas के संदिग्ध 'सैन्य संगठन के सदस्य' के रूप में चिह्नित किया, जिन्हें हत्या के लक्ष्य बनाया गया।

STEP 2: परिवार के घर और लक्ष्य को जोड़ना

• इज़राइली सेना ने एक automated system का उपयोग कर लक्ष्यों को उनके परिवार के घरों से जोड़ा, और 'Daddy, where's home?' जैसे अतिरिक्त automated systems का उपयोग किया जो लक्ष्य के परिवार के घर में प्रवेश करते ही बमबारी का संकेत देते हैं।
• ये प्रणालियाँ लक्ष्य की लगातार निगरानी करती हैं और जैसे ही वह परिवार के घर में कदम रखे, उसी समय हमला करने में सक्षम बनाती हैं।

STEP 3: हथियार चुनना

• Lavender द्वारा हत्या के लक्ष्य के रूप में चिह्नित किए जाने के बाद, सैनिक पहले यह पुष्टि करते हैं कि लक्ष्य पुरुष है, और जब tracking software लक्ष्य को उसके घर में ढूँढ लेता है, तो बमबारी में इस्तेमाल होने वाले गोला-बारूद का चयन किया जाता है।
• कम लागत वाले 'dumb' bombs, precision-guided bombs की तुलना में अधिक collateral damage कर सकते हैं, और इन्हें मुख्यतः निचले स्तर के सदस्यों की हत्या के लिए इस्तेमाल किया जाता है।

STEP 4: नागरिक हताहतों को मंज़ूरी

• युद्ध के शुरुआती हफ्तों में, इज़राइली सेना ने Lavender द्वारा चिह्नित प्रत्येक निचले स्तर के सदस्य की हत्या करते समय अधिकतम 15 या 20 नागरिकों की मौत की अनुमति दी।
• यह 'collateral damage level' सभी संदिग्ध निचले स्तर के सदस्यों पर व्यापक रूप से लागू किया गया, चाहे उनका रैंक, सैन्य महत्व या उम्र कुछ भी हो।

GN⁺ की राय

• Lavender प्रणाली AI तकनीक के सैन्य अभियानों में उपयोग का एक उदाहरण है, जो संकेत देता है कि भविष्य के युद्ध में AI की भूमिका बढ़ती जाएगी।
• AI द्वारा तय की गई हत्या-लक्ष्य सूची पर निर्भरता गंभीर नैतिक समस्याएँ पैदा करती है, और गलत targeting के कारण नागरिक हताहतों की संभावना बहुत अधिक है।
• यह तकनीक युद्ध के स्वरूप को कैसे बदलेगी, इस पर गहरी चर्चा की आवश्यकता है, और international law तथा युद्ध के नियमों की नई व्याख्या की मांग करती है।
• Lavender जैसे systems की तैनाती सैन्य दक्षता बढ़ा सकती है, लेकिन साथ ही निर्दोष नागरिकों के जीवन को ख़तरे में डालने वाला दोहरा स्वरूप भी रखती है।
• यह तकनीक भविष्य में अंतरराष्ट्रीय समुदाय पर क्या प्रभाव डालेगी, और इसके लिए किस तरह के regulation या response measures की ज़रूरत होगी, इस पर विचार आवश्यक है।

[GN⁺]

Hacker News की राय

• शोधकर्ताओं ने बहुत पहले ही अप्रत्यक्ष संबंधों के आधार पर किसी व्यक्ति को target करने को लेकर चिंता जताई थी। ऐसे सिस्टम मूल रूप से surveillance के लिए इस्तेमाल किए जाते थे, लेकिन अब इन्हें सिर्फ निगरानी से आगे बढ़ाकर लोगों को वास्तव में मारने के लिए इस्तेमाल किया जा रहा है।

  अंतरराष्ट्रीय मानवीय कानून सशस्त्र समूहों के "लड़ाकों" के अलावा अन्य लोगों को मारने पर रोक लगाता है। केवल वे लोग जो "प्रत्यक्ष शत्रुतापूर्ण गतिविधियों में लगातार भाग लेते हैं" हमले का लक्ष्य बन सकते हैं। बाकी नागरिक केवल तब target किए जा सकते हैं जब वे प्रत्यक्ष शत्रुतापूर्ण गतिविधियों में भाग ले रहे हों।

• इस विचार पर चिंता जताई गई कि कृत्रिम बुद्धिमत्ता (AI) पहले से ही यह तय करे कि किसे मारना है। इस मामले में मानवीय मंजूरी थी, लेकिन यह भी बताया गया कि बिना मानवीय हस्तक्षेप के robots द्वारा लोगों के मारे जाने की स्थिति अब सिर्फ एक कदम दूर है।

  इस पर विचार किया गया कि AI के बिना क्या Israel और अधिक बेतरतीब ढंग से targets चुनता, या फिर बिल्कुल बमबारी ही नहीं करता। युद्ध की स्थिति में निर्दोष लोगों का मारा जाना टालना मुश्किल होता है।

• यह कहा गया कि बहुत से लोग केवल शीर्षक पढ़ेंगे और सामग्री नहीं पढ़ेंगे, और लेख के दूसरे पैराग्राफ पर ध्यान देने की सलाह दी गई।

  दावा किया गया कि AI system Lavender के इस्तेमाल के साथ, इज़राइली सैन्य अधिकारियों ने फ़िलिस्तीनी नागरिकों की बड़े पैमाने पर मौतों को स्वीकार किया।

• Serial podcast का मौजूदा season सुनने का सुझाव दिया गया।

  AI जिस data processing तरीके से "जूनियर" operators की तेज़ी से पहचान कर उन्हें target करता है, वह 2001 में इस्तेमाल किए गए तरीके से अलग नहीं है। फैसला AI नहीं बल्कि इंसानों द्वारा लिया जाता है।

• यह कहा गया कि भले ही यह Israel की कार्रवाइयों को नकारात्मक रूप में पेश करने वाली कहानी है, फिर भी कम से कम इसे सैन्य targets पर हमला करने की कोशिश के रूप में पढ़ा जा सकता है।

  Israel का लक्ष्य पत्रकारों, medical staff, aid workers आदि को निशाना बनाकर Gaza Strip में जीवन को असंभव बनाना है।

• इस तकनीक की accuracy पर सवाल उठाए गए, और कहा गया कि परिणामों से ज़्यादा रुचि इस बात में दिखती है कि यह advanced technology जैसी लगे।

  यह साबित करता है कि सत्ता में बैठे लोग "सटीकता" से ज़्यादा अपनी पूर्वधारणाओं की पुष्टि करने वाले औचित्य में दिलचस्पी रखते हैं।

• यह उल्लेख किया गया कि Israel Defense Forces (IDF) की दिलचस्पी केवल सैन्य इमारतों या सैन्य गतिविधि में लगे Hamas operators को मारने में नहीं थी।

  IDF ने परिवारों के घरों पर बमबारी करने में हिचक नहीं दिखाई, और system को ऐसी परिस्थितियों में उन्हें खोजने के लिए बनाया गया था।

• यह सवाल उठाया गया कि AI के इस्तेमाल से IDF को अपने लक्ष्य हासिल करने में आखिर क्या लाभ मिला।

  AI का लगातार इस्तेमाल शायद इसलिए समर्थित हो रहा हो क्योंकि यह युद्ध अपराधों में शामिल व्यक्तियों को बचाव का एक ठिकाना देता है।

• The Guardian भी इस कहानी को cover story के रूप में चला रहा है, और उसे पहले से विवरण दिए गए थे।

  ऐसी कहानियाँ सार्वजनिक हित से जुड़ी हैं, और उम्मीद है कि इन पर चर्चा होगी।

• एक source ने कहा कि मानव कर्मचारी मशीन के फैसलों पर केवल "rubber stamp" की भूमिका निभा रहे थे।

  इससे automation की irony पर लिखे गए एक paper की याद आती है: जब अधिकांश काम automated हो जाता है, तो मानवीय निगरानी लगभग बेकार हो जाती है।