इज़राइल के शीर्ष जासूसी प्रमुख की ऑनलाइन सुरक्षा चूक से असली पहचान उजागर

 (theguardian.com)
1 पॉइंट द्वारा GN⁺ 2024-04-07 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • बेहद गोपनीय रखी गई इज़राइली सैन्य खुफिया यूनिट Unit 8200 के कमांडर की पहचान 2021 की Amazon ई-बुक में बचे डिजिटल निशानों से उजागर हुई
  • Brigadier General YS उपनाम से प्रकाशित किताब में एक गुमनाम ईमेल पता शामिल था, और यह पता Yossi Sariel के नाम वाले Google account और Maps·Calendar profiles तक पहुंच गया
  • किताब The Human Machine Team सैन्य कर्मियों और AI के मेल पर चर्चा करती है, और Gaza युद्ध के छह महीनों के दौरान IDF द्वारा निर्भर किए गए AI-आधारित target recommendation system के blueprint से जुड़ती है
  • IDF ने कहा कि वह ईमेल निजी account नहीं, बल्कि किताब से जुड़े मामलों के लिए dedicated account था, लेकिन बाद में Sariel की निजी जानकारी के उजागर होने को “गलती” माना और दोबारा ऐसा न हो इसके लिए समीक्षा की बात कही
  • यह खुलासा 7 अक्टूबर 2023 के Hamas हमले को रोकने में नाकाम रही Unit 8200 को लेकर जवाबदेही की बहस और तकनीकी पक्षपात की आलोचना के बीच Sariel पर अतिरिक्त दबाव बन गया

Unit 8200 कमांडर की पहचान उजागर

  • इज़राइली Unit 8200 कमांडर की पहचान सेना के भीतर भी सबसे संवेदनशील रहस्यों में से एक मानी जाती है
    • Unit 8200 को अमेरिकी NSA से तुलना किए जाने लायक शक्तिशाली surveillance agency माना जाता है
    • कमांडर की पहचान Yossi Sariel के रूप में हुई है, जो 20 साल से अधिक समय तक सार्वजनिक रूप से सामने आए बिना काम करते रहे
  • Sariel की पहचान Amazon पर प्रकाशित किताब से जुड़े digital traces के जरिए उजागर हुई
    • ई-बुक में शामिल गुमनाम ईमेल पता Sariel के नाम से बनाए गए Google account तक पहुंचा
    • उस account से एक unique ID और Google Maps·Calendar profile links जुड़े हुए थे
  • IDF प्रवक्ता ने बताया कि वह ईमेल Sariel का निजी email नहीं, बल्कि किताब से जुड़े मामलों के लिए dedicated account था
  • बाद में IDF ने इज़राइली मीडिया के सामने निजी जानकारी के उजागर होने को “गलती” माना और कहा कि ऐसे मामलों की पुनरावृत्ति रोकने के लिए वह इस मामले की समीक्षा करेगा

The Human Machine Team और AI सैन्य रणनीति

  • Sariel ने Brigadier General YS उपनाम से 2021 में The Human Machine Team प्रकाशित की
    • यह उपनाम उनके initials से बना है
    • कई स्रोतों की पुष्टि के अनुसार Sariel ही इस किताब के गुप्त लेखक हैं
  • किताब में यह दृष्टि रखी गई है कि AI सैन्य कर्मियों और मशीनों के बीच संबंधों को कैसे बदल सकता है
  • Sariel का मानना है कि आधुनिक युद्ध में machine learning को हाशिये से हटकर केंद्र में आना चाहिए
  • मुख्य दिशा पूरी तरह autonomous systems के बजाय इंसान और AI की synergy तलाशने वाली human-machine teaming है
    • लक्षित पाठक वरिष्ठ सैन्य कमांडर और सुरक्षा अधिकारी हैं
    • माना जाता है कि Sariel ने अमेरिका के Washington DC स्थित National Defense University में visiting researcher के रूप में एक साल बिताने के बाद IDF की अनुमति से यह किताब लिखी

AI target machine की अवधारणा

  • किताब का एक हिस्सा AI-आधारित “targets machine” की अवधारणा पर चर्चा करता है
    • यह अवधारणा Gaza bombing में IDF द्वारा इस्तेमाल किए गए बताए जाने वाले target recommendation system के विवरण से मिलती-जुलती है
  • Sariel का मानना है कि प्रभावी target machine बनाने के लिए ऐसा big data चाहिए जिसे मानव मस्तिष्क process नहीं कर सकता
    • battlefield data, population information, visual information, mobile phone data, social media connections, photos, mobile phone contacts आदि उदाहरण के रूप में दिए गए हैं
    • उनका रुख है कि data जितना अधिक और विविध होगा, उतना बेहतर होगा
  • target machine छोटे-छोटे features को बड़े पैमाने पर जोड़कर prediction करने वाले complex models का उपयोग करती है
    • उदाहरणों में Hezbollah सदस्यों जैसे WhatsApp group में शामिल व्यक्ति, हर कुछ महीनों में नया mobile phone पाने वाला व्यक्ति, और अक्सर address बदलने वाला व्यक्ति शामिल हैं
  • AI को संभावित सैन्य targets बनाने की प्रक्रिया में मानव intelligence officers या सैनिकों से पैदा होने वाले bottlenecks घटाने के साधन के रूप में देखा गया है
    • नए targets की खोज और approval decisions
    • बड़े पैमाने पर data processing
    • intelligence और firepower को जोड़ना

Gaza युद्ध में AI systems

  • IDF ने Sariel की कमान में Unit 8200 द्वारा तेजी से विकसित और बेहतर किए गए कई AI-आधारित decision-support systems को Gaza युद्ध के छह महीनों के दौरान deploy किया
  • सार्वजनिक रूप से सामने आए systems में the Gospel और Lavender शामिल हैं
    • दोनों systems इज़राइल-फिलिस्तीन मीडिया +972 magazine, Hebrew media Local Call, और Guardian के जरिए सामने आए
  • IDF ने बताया कि AI systems मानव intelligence officers की सहायता के लिए हैं
    • मानव intelligence officers को यह पुष्टि करनी होती है कि कोई सैन्य संदिग्ध international law के तहत वैध target है या नहीं
    • प्रवक्ता ने कहा कि सेना विभिन्न tools और methods का उपयोग करती है, और AI-आधारित तरीके से intelligence researchers की मदद करने वाले tools भी मौजूद हैं

7 अक्टूबर के बाद Unit 8200 विवाद

  • Sariel की सुरक्षा चूक उस आलोचना के बीच सार्वजनिक हुई कि Unit 8200 7 अक्टूबर 2023 के Hamas हमले का अनुमान लगाने और उसे रोकने में नाकाम रही
    • उस हमले में फिलिस्तीनी सशस्त्र समूहों ने लगभग 1,200 इज़राइलियों की हत्या की और लगभग 240 लोगों को अगवा किया
  • Unit 8200 को कभी इज़राइल के भीतर और बाहर, ब्रिटेन के GCHQ के बराबर intelligence capabilities के लिए बहुत सराहा जाता था
    • माना जाता है कि उसने फिलिस्तीनी क्षेत्रों की बारीकी से निगरानी करने वाला बड़ा surveillance apparatus बनाया था
  • हमले के बाद आलोचना हुई कि Unit 8200 के technological hubris ने पारंपरिक intelligence-gathering techniques की बलि चढ़ा दी
  • इज़राइली अखबार Maariv ने फरवरी 2024 में 7 अक्टूबर के बाद Unit 8200 के अंदर जिम्मेदारी को लेकर चली खींचतान पर रिपोर्ट किया
    • Sariel को नाम के बजाय Unit 8200 कमांडर “Y” कहा गया
    • आलोचकों का मानना है कि Sariel की कमान में यूनिट ने “लत लगाने वाली और रोमांचक” technology को प्राथमिकता दी, जिससे यह त्रासदी हुई
  • Sariel को यह कहते हुए उद्धृत किया गया कि 7 अक्टूबर उन्हें आखिरी दिन तक परेशान करेगा; वे सबसे गहरे अर्थों में जिम्मेदारी स्वीकार करते हैं और कहते हैं, “हम हार गए। मैं हार गया”

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-04-07
Hacker News की राय

  • उद्धरण में बताए गए सुरक्षा से जुड़ी गलती की असल प्रकृति क्या थी, यह जानने की और जिज्ञासा है
    क्या Amazon में कोई bug है जिससे self-published authors के account email address उजागर हो जाते हैं, या फिर उन्होंने किताब में Google Maps या Google Calendar का content share किया और यह नहीं जानते थे कि ये features असली email दिखा देते हैं?

    • उस वाक्य और article के दूसरे हिस्सों को देखकर Amazon लगभग असंबंधित लगता है
      लगता है feedback, corrections, reviews और media contacts पाने के लिए एक Gmail account बनाया गया था; उसे लगभग anonymous होना चाहिए था, लेकिन शायद वह असली नाम से registered था
      कम-से-कम जिन लोगों को reply मिला, उन्हें नाम दिखा होगा, और दूसरे account connections के जरिए भी यह उजागर हुआ हो सकता है
    • किताब rank और initials से बने pen name से प्रकाशित हुई थी, और Amazon intro copy में यह लिखा है:

      [pseudonym], an expert analyst, technology director, commander of an elite intelligence unit, and winner of the prestigious Israel Defense Prize for his artificial intelligence based anti-terrorism project
      Defence Prize जीतने वाला project और वह unit जिसने project किया था, The Times of Israel में public हैं
      उस व्यक्ति की rank और name भी पुराने articles में publicly known थे
      इस context में उस general को उस unit से जोड़ने में Google account या Amazon बहुत अहम नहीं थे

    • “unique ID शामिल email ID leak” में unique ID क्या है, यह जानना चाहूंगा
      पता नहीं यह resident registration number जैसा कुछ है, military service number है, या कोई और identifier

  • यहां कोई security failure दिखता नहीं
    कुछ लोग अपनी असली पहचान छिपाने के लिए pen name इस्तेमाल करते हैं, लेकिन कुछ लोग अपने public persona और private life को अलग रखने के लिए pen name रखते हैं
    इस मामले में यह साफ तौर पर दूसरे वाले के ज्यादा करीब है
    उसने अपने initials और profession का इशारा करने वाले hints मिलाकर किताब publish की, और email को गंभीरता से छिपाने की कोशिश न करना भी उसी flow में स्वाभाविक लगता है
    यह उतना ही मामूली है जितना यह report करना कि JJ Lehto का असली नाम पता चल गया
    फिर सोचने पर, यह एक साथ nom de guerre और pen name भी है

  • operational security मुश्किल होती है
    और AI की संभावनाओं को लेकर आप चाहे जितने optimistic हों, किसे मारना है यह तय करने के लिए AI का इस्तेमाल करना भयानक और साफ तौर पर unethical है
    इससे बिना accountability के atrocities संभव हो जाती हैं
    शुरू से ही इस व्यक्ति का anonymous होना भी यह संकेत देता है कि मकसद accountability नहीं था

    • The Guardian ने कुछ दिन पहले IDF के AI use पर और report किया था, और वह काफी bleak है:
      https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai...
      हालांकि उस article में डरावने हिस्सों में से ज्यादातर human operators से आते हैं
      मशीन पर शक करने की वजहें खोजने में काफी गहरी उदासीनता दिखती है
    • Absolute statements देना मुश्किल है
      “किसे मारना है यह तय करने के लिए AI इस्तेमाल करना unethical है” इस भावना से सहमत हूं, लेकिन इतना strong proposition स्वीकार करना कठिन है
      उदाहरण के लिए, अगर 10 लोगों का एक group targeting decisions लेता है, और AI से workload घटाकर वे 10 लोग ज्यादा देर तक review कर सकते हैं, तो वह भी “किसे मारना है यह तय करने के लिए AI इस्तेमाल करना” ही होगा, लेकिन result उल्टा बेहतर हो सकता है
      समस्या यह है कि real world में लोग जिम्मेदारी मशीन पर डालकर कंधे उचका देंगे, इसकी संभावना ज्यादा है
    • दुखद और घिनौना है, लेकिन accountability न होना कुछ governments के लिए selling point बन जाता है
    • physical attack के decision-making process में technology कितनी शामिल करना ethical है?
      मुझे लगता है इस सवाल का ठीक से जवाब देना और साथ ही आसान जवाब देना मुश्किल है
    • उससे accountability कभी खत्म नहीं होती
      बल्कि इस तरह की comments और thinking accountability से बचना संभव बनाती हैं
      AI इस्तेमाल करने का फैसला किसी इंसान ने लिया है, और वही इंसान जिम्मेदार होना चाहिए
      अगर वह जिम्मेदारी नहीं उठा सकता, तो AI इस्तेमाल नहीं करना चाहिए

  • पहचान leak हो भी जाए तो बहुत मायने नहीं रखता
    अगर कोई director-level व्यक्ति है तो वह जो भी करे ज्यादा noticeable होगा, और छिप नहीं सकता
    military domain में senior officers military का प्रतिनिधित्व करते हैं, इसलिए उनकी identity protect नहीं की जाती
    बेशक junior और mid-level soldiers और personnel हमेशा पहचान protect किए जाने चाहिए, क्योंकि वे आदेशों को carry out करते हैं और असली risk लेते हैं
    जब वह travel करे तो assassination risk हो सकता है, इसलिए identity public न होना बेहतर होता, लेकिन honestly यह कोई बड़ी story नहीं है
    लगता है anti-Israel groups से सिर्फ hateful comments ही निकलेंगे

    • अगर 2021 में “Brigadier General YS” जैसे initials-based pen name से publish किया था, तो शुरुआत से ही ऐसा नहीं लगता कि वह वाकई पहचान छिपाने की कोशिश कर रहा था
    • आखिरी paragraph अजीब interpretation है
      ऊपर-ऊपर से तो उसने identity छिपाने की कोशिश की, और काफी बुरी तरह fail हुआ, इसलिए यह खबर बनी

  • किताब यहां है:
    https://www.amazon.com/Human-Machine-Team-Artificial-Intelli...

    • Author “Brigadier General Y.S” लिखा है, और Yossi Sariel का अनुमान लगाना खास मुश्किल नहीं है

  • व्यक्तिगत रूप से मुझे उसकी identity में दिलचस्पी नहीं है, लेकिन यह article उसकी प्रकाशित किताब की content को भी cover करता है, इसलिए वह हिस्सा कहीं ज्यादा interesting है

  • Yossi Sariel की चालाक 4D chess वाली चाल
    लगता है वह गलती का नाटक करके आधिकारिक इस्तीफा दिए बिना पद से निकलना चाहता था
    इस “गलती” ने उसके वरिष्ठों को उसे हटाने का बहाना दिया, और साथ ही 7 अक्टूबर की घटना से बच निकलने दिया

    • कोई भी गलती, अगर आप इस बात पर अड़े रहें कि वह नाकाम नहीं हुई और बस हम बोर्ड नहीं देख पा रहे, तो उसे “चालाक 4D chess चाल” की तरह पेश किया जा सकता है
      7 अक्टूबर के बाद जो कुछ हुआ, उसे देखकर दोनों पक्ष किसी भी तरह की रणनीति बनाने में सक्षम नहीं दिखते
      “चालाक 4D chess” तो बिल्कुल नहीं
    • लेकिन किताब तो 3 साल पहले आई थी
      क्या उसने 3 साल बाद इस्तीफा दिए बिना निकलने का रास्ता बनाने के लिए जानबूझकर तब गलती की थी?
    • खासकर जब किताब खुद शुरू से ही सार्वजनिक रूप से YS initials के साथ प्रकाशित होने वाली थी
      सच में लगता नहीं कि इसे गुप्त रखने की कोशिश की गई थी
    • असली 4D chess तो यह है कि अभी हो रही computerized mass killing के लिए वैचारिक नेतृत्व वाला manual लिख दो, और फिर बस इस्तीफा देकर सारी जिम्मेदारी से निकल पाओ
    • वह बस इस्तीफा देकर civilian बन सकता था, फिर जानबूझकर बेवकूफ जैसा क्यों दिखना चाहेगा?
      अगर चाहता, तो Snowden की तरह whistleblower भी बन सकता था

  • यह जानकर अजीब-सा सुकून मिलता है कि ऐसी चीजें experts के लिए भी मुश्किल होती हैं

  • “Sariel के आलोचकों का मानना है कि Unit 8200 ने पुराने ढंग की intelligence gathering की तुलना में ‘addictive और exciting’ तकनीक को प्राथमिकता दी, जिससे यह त्रासदी हुई” — तो क्या वे भी Kubernetes और latest frontend frameworks इस्तेमाल करते हैं?

    • Mt. Sinai की गहराइयों में बने secret IDF bunker में एक भयानक रहस्य है
      यह एक विशाल useEffect() loop है, जो सभी killer robots को hard-coded names से अलग-अलग control करता है
      memoization पर research करने के लिए अभी budget नहीं है, इसलिए यह थोड़ा slow है, लेकिन पर्याप्त powerful hardware पर ठीक चलता था
      ballistic calculations सब WebGL में किए गए, जिससे पिछले कुछ सालों में दुनिया भर में GPU shortage हुआ
      कभी-कभी viewport size गलत सेट हो जाता था, जिससे collateral damage भी हो जाता था :(
      सबक सीखते हुए, Israel का अगला AI project proven approach अपनाएगा और पूरा CSS में लिखा जाएगा
    • Kubernetes अब पुरानी और भद्दी technology है
      ज्यादा बेहतर उपमा यह होगी कि senior developers को निकालकर ChatGPT subscription वाले juniors को hire कर लिया जाए, और फिर उम्मीद की जाए कि development speed बहुत बढ़ जाएगी
    • या फिर, वे serverless पर चले गए
      basement में पड़े random computers को compromise करके छोटे functions distribute processing के लिए भेजते हैं
      data इतना छोटा होता है कि यह reconstruct करना असंभव है कि वे क्या कर रहे हैं
      Soviet-style SETI@HOME है
      आपको पता भी नहीं चलता और आप उनका data process कर रहे होते हैं
      आप बस इतना कर सकते हैं कि backdoors हटाने के लिए system format कर दें, हालांकि उम्मीद करनी होगी कि यह काम कर जाए

  • Operational security मुश्किल होती है
    99,999 बार सब कुछ सही करो, फिर भी एक गलती हुई तो खत्म

    • Amazon self-published book पर अपने initials डाल देने को क्या सच में operational security कहा जा सकता है?