कुछ समय पहले ईरान के तेहरान के पास हुई Ukraine International Airlines Flight 752 दुर्घटना के बारे में यह संभावना अधिक लगती है कि वह ईरान की तरफ से गलती से दागी गई मिसाइल की वजह से हुई। उस समय अमेरिका, ईरान के साथ तनाव के कारण, 6 B-52 रणनीतिक बमवर्षकों को ईरान के नज़दीक अग्रिम रूप से तैनात कर रहा था, और इस बढ़े हुए तनाव के कारण यह संभव है कि ईरानी वायु-रक्षा इकाई ने अपने ही क्षेत्र से उड़ान भर रहे एक सिविलियन विमान को अमेरिकी सैन्य विमान समझ लिया हो जो उनके हवाई अड्डे पर हमला करने आ रहा हो। संयोग से, इसी तरह की स्थिति और लगभग इसी क्षेत्र में अमेरिकी सेना की गलती से एक ईरानी यात्री विमान मार गिराए जाने की [USS Vincennes द्वारा Iran Air Flight 655 को मार गिराने की घटना] अचानक याद आती है; इस घटना के कारणों में मानसिक तनाव की स्थिति में लगातार हुई मानवीय गलतियाँ और अनुपयुक्त user interface जैसी बातें गिनी जाती हैं.
ऐसी स्थितियों में, जब इंसान तनाव में हो या अचानक किसी आपात और अप्रत्याशित परिस्थिति में फँस जाए, तो वह आसानी से भ्रमित होकर गलत निर्णय ले सकता है। इसीलिए बहुत से लोग समाधान के रूप में मशीन द्वारा automation या मानव हस्तक्षेप को न्यूनतम करने वाली autonomy की बात करते हैं। यानी, जब इंसान भ्रमित हो जाए या समय पर प्रतिक्रिया न दे पाए, तब मशीन को अपने आप पहले से कोई कार्रवाई कर लेनी चाहिए। बात सुनने में तर्कसंगत लगती है, लेकिन समस्या यह है कि उस मशीन को बनाने वाला इंसान अब भी अपूर्ण है। इसलिए उस मशीन के भी अपूर्ण होने की संभावना बहुत अधिक है। यानी मशीन द्वारा की गई automated कार्रवाई भी वास्तव में गलत हो सकती है। और यदि उस मशीन को चलाने वाला व्यक्ति automation को सही तरह से न समझे, तो वही automation उलटे समस्या को और बढ़ाने का कारण बन सकता है.
मुझे एक लेख मिला जो Patriot surface-to-air missile के गलत तरीके से दागे जाने के उदाहरण के जरिए autonomous systems के नकारात्मक पहलुओं को समझाता है। (अंग्रेज़ी) Patriot missile में दुश्मन की ballistic missiles को intercept करने की क्षमता है, लेकिन इसे मनुष्य द्वारा संचालित करना बहुत जटिल है और समय भी बहुत कम होता है। इसलिए इसमें [ऑटो मोड] जोड़ा गया, जिसमें स्विच ऑन करते ही radar पर ballistic missile दिखते ही यह अपने आप लॉन्च होकर interception की कोशिश करता है। यह ऑटो मोड Gulf War में Scud missiles को अच्छी तरह गिराता हुआ दिखाई दिया, इसलिए अमेरिकी सेना ने लापरवाही से इस पर भरोसा करना शुरू कर दिया। लेकिन Iraq War में ऑटो मोड पर चल रहे Patriot missiles ने दो बार अपने ही मित्र पक्ष के लड़ाकू विमानों को मार गिराया। radar में radio interference के कारण ऐसी ballistic missile दिखाई दी जो वास्तव में मौजूद ही नहीं थी, और Patriot अपने आप उड़ गया। जब missile अपने निर्दिष्ट target को नहीं ढूँढ़ पाया, तो उसने सबसे पास की वस्तु, यानी लड़ाकू विमान, को target मानकर उसे मार गिराया.
Patriot missile के ऑटो मोड का यह मामला Lethal Autonomous Weapon (मानव हस्तक्षेप के बिना स्वयं target चुनकर हमला करने के लिए डिज़ाइन किया गया autonomous weapon) की समस्याओं को ज्यों का त्यों दिखाता है। यानी वास्तविक दुनिया की अस्पष्ट और दुविधापूर्ण परिस्थितियों में automated systems की सही निर्णय लेने की क्षमता हमारी सोच से कहीं कम हो सकती है। केवल lethal autonomous weapons ही नहीं, autonomous systems धीरे-धीरे हमारे रोज़मर्रा के जीवन को भी प्रभावित कर रहे हैं। उदाहरण के लिए YouTube, machine learning के जरिए बच्चों के लिए बने content की स्वचालित पहचान करता है और इस प्रक्रिया में कई YouTubers के videos को अजीब तरीके से वर्गीकृत कर देता है, जिससे नाराज़गी पैदा होती है। और कोरिया में इस जुलाई से Level 3 partial autonomous driving feature वाली कारों को लॉन्च करने की अनुमति मिल जाएगी। मशीनों का वह दौर आ रहा है जिसमें मानव हस्तक्षेप लगातार कम होता जाएगा, लेकिन आपात स्थिति में मानव हस्तक्षेप अब भी ज़रूरी है—यह बात हमें याद रखनी चाहिए.
संदर्भ - ऊपर के लेख का कोरियाई अंश-सार :
2 टिप्पणियां
वीडियो आ गया है, और लगता है कि उसे सच में मिसाइल ने मारा था।
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
आखिरकार ईरान ने मान लिया है कि यह हादसा उसकी अपनी सेना की ओर से मिसाइल को गलती से दागे जाने के कारण हुआ था। दिवंगत लोगों की आत्मा की शांति के लिए प्रार्थना करता हूँ।
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111