Pentagon की Silicon Valley समस्या

Silicon Valley की Pentagon समस्या

• इज़राइल की आंतरिक सुरक्षा सेवा Shin Bet के प्रमुख Ron Bar ने एक स्व-विकसित AI प्लेटफ़ॉर्म पेश किया।
• इस तकनीक का उपयोग आतंकवादियों से संबंधित जानकारी का विश्लेषण करने, जोखिम का अनुमान लगाने और अलर्ट जारी करने के लिए किया जाता है।
• Hamas के हमले ने इज़राइल की रक्षा प्रणाली को पूरी तरह चौंका दिया, जबकि Hamas अपनी तैयारियाँ सार्वजनिक रूप से कर रहा था।

भविष्य के युद्ध में पीछे छूटती Big Tech

• Michèle Flournoy ने Silicon Valley और अमेरिकी सरकार के बीच संबंधों के महत्व पर ज़ोर दिया।
• Pentagon को नई तकनीकों के प्रति प्रतिरोधी माना जाता है, लेकिन वास्तव में वह कई AI प्रोजेक्ट्स में निवेश कर रहा है।
• AI तकनीक सैन्य अभियानों के तरीके को प्रभावित कर सकती है, लेकिन यह उस मिथक को भी बढ़ावा देती है कि tech industry के आदर्शवादी सैन्य मशीनरी में क्रांति ला रहे हैं।

यह विश्वास कि software मानवीय संघर्षों को हल कर सकता है

• अमेरिकी युद्ध संचालन में software की भूमिका का एक लंबा इतिहास रहा है।
• Vietnam War के दौरान Operation Igloo White ने दुश्मन की गतिविधियों का पता लगाने के लिए sensors तैनात किए, लेकिन वह विफल रहा।
• Silicon Valley का विकास उस electronics industry से हुआ जिसने द्वितीय विश्व युद्ध में जीत में योगदान दिया था, और जिसे Cold War के दौरान Pentagon का समर्थन मिला।

Silicon Valley और Pentagon का संबंध

• Silicon Valley की tech industry का मूल रूप से defense industry के साथ घनिष्ठ संबंध था, और internet का विकास Pentagon के ARPANET से हुआ।
• Peter Thiel का लक्ष्य Silicon Valley को फिर से military-industrial complex की ओर मोड़ना है।
• Pentagon, अमेरिका की तकनीकी बढ़त बनाए रखने के लिए Silicon Valley की तकनीकों का उपयोग करना चाहता है।

Silicon Valley की defense tech

• Silicon Valley की कंपनियाँ defense sector में अपनी गतिविधियाँ बढ़ा रही हैं, जिससे मौजूदा military-industrial complex में नए खिलाड़ी जुड़ रहे हैं।
• Google ने Project Maven के माध्यम से drone video processing के लिए तकनीक विकसित की, लेकिन कर्मचारियों के विरोध के बाद वह इस प्रोजेक्ट से हट गया।
• Silicon Valley की कंपनियाँ defense sector में अपनी भूमिका बढ़ा रही हैं, और यह defense budget से मिलने वाला स्थिर राजस्व स्रोत दिखाई देता है।

GN⁺ की राय

• यह लेख इस बात पर दिलचस्प अंतर्दृष्टि देता है कि defense tech और AI का विकास वास्तविक सैन्य अभियानों में कैसे लागू हो रहा है।
• यह सवाल उठाता है कि क्या AI तकनीक वास्तविक युद्धक्षेत्र की जटिलताओं को पूरी तरह समझ और संभाल सकती है।
• यह tech industry और defense sector के सहयोग का राष्ट्रीय सुरक्षा पर पड़ने वाले प्रभाव को लेकर एक महत्वपूर्ण चर्चा शुरू करता है।
• यह लेख उन नैतिक समस्याओं पर ज़ोर देता है जो Silicon Valley की कंपनियों की defense sector में गहरी भागीदारी से पैदा हो सकती हैं।
• यह याद दिलाता है कि तकनीकी प्रगति हमेशा सैन्य सफलता में नहीं बदलती, और इसे समर्थन देने के लिए अतीत की विफल परियोजनाओं के उदाहरण देता है।

[GN⁺]

Hacker News राय

• लेख में बताए गए उदाहरण चुनिंदा लगते हैं। वियतनाम में हुई विफलता का दोष सिर्फ IBM 360 कंप्यूटरों पर नहीं डाला जा सकता। हमास के हमले ने भले ही इज़राइल को चौंका दिया हो, लेकिन हाल के वर्षों में Iron Dome अच्छी तरह काम करता रहा है। अमेरिका ने रूस के यूक्रेन पर हमले की चेतावनी दी थी, लेकिन बहुत से लोगों ने उस पर ध्यान नहीं दिया। और परमाणु बम सैद्धांतिक भौतिकविदों ने बनाया था।
• कई मीडिया लेखों की तरह यह लेख भी AI को जरूरत से ज़्यादा सामान्यीकृत करके समझाता है। मशीन लर्निंग (ML) की predictive capabilities का इस्तेमाल आधुनिक सेनाओं में दशकों से होता आया है। लेख की शुरुआत यह संकेत देती है कि 7 अक्टूबर के हमले की intelligence failure में LLM की बड़ी भूमिका थी, लेकिन वास्तव में ऐसा नहीं है। ML आगे भी भूमिका निभाता रहेगा, सफलता और विफलता दोनों दोहराता रहेगा, और adversarial ML का सामना करते हुए और भी अपूर्ण होता जाएगा। अपूर्ण tools को दोष देना उपयोगी नहीं है।
• AI सिस्टम हमास के बारे में सब कुछ जानते थे, लेकिन हमास के सदस्यों ने वही data दिया जो AI सुनना चाहता था। जब सामने वाला आपके हर काम और हर बात को देख सकता हो, तब एकमात्र रक्षा privacy होती है। उपन्यास "Three-Body Problem" में privacy सिर्फ मनुष्यों के मन के भीतर मौजूद होती है, और वही ऐसी रणनीतियों के आधार पर निर्णय ले सकते हैं जिन्हें उन्होंने कभी शब्दों में व्यक्त नहीं किया। science fiction हकीकत बन रही है।
• स्पष्ट use case के बिना अच्छा system design करना लगभग असंभव है। यूक्रेन के पास ऐसे use cases हैं, और उन्हें हल करने की मजबूत प्रेरणा भी है। यूक्रेन साधारण कंप्यूटरों से युद्धक्षेत्र को नियंत्रित कर रहा है और long-range naval drones से कई रूसी युद्धपोत डुबो चुका है। हाल ही में उसने computer vision आधारित target recognition वाले सस्ते flying drones का बड़े पैमाने पर परीक्षण शुरू किया है। लेकिन अमेरिका शांति की स्थिति में है, जो अपने आप में अच्छी बात है, पर इससे अरबों डॉलर ऐसी तकनीक पर बर्बाद करना आसान हो जाता है जो व्यवहार में बेकार साबित होती है।
• 'हैरानी की बात' जैसा वाक्यांश अजीब है। इज़राइली मीडिया बार-बार रिपोर्ट कर चुका है कि frontline analysts ने चेतावनी दी थी, लेकिन उन्हें नजरअंदाज कर दिया गया। इसकी वजह sexism, ageism, conscription system के भीतर का भेदभाव, या सरकार के भीतर मौजूद settler groups की गाज़ा पट्टी को फिर से बसाने की प्रबल इच्छा हो सकती है। जो भी हो, संकेत मौजूद थे, और तैयारियों व अभ्यासों को लगभग एक साल से देखा जा रहा था। भले ही resistance groups ने अपने रहस्य सुरक्षित रखे हों, फिर भी किसी सामान्य intelligence corps या सेना अधिकारी को अंततः यह निष्कर्ष निकाल लेना चाहिए था कि हिंसक प्रतिक्रिया होगी।
• मुझे इज़राइली तकनीक के बारे में ज्यादा जानकारी नहीं है, लेकिन Pentagon की Silicon Valley में image problem है। ऐसा नहीं लगता कि वह सर्वोत्तम प्रतिभा भर्ती कर रहा है या उन्हें Palintir जैसी contracting companies में ले जा रहा है। हमारी पीढ़ी दूसरे विश्वयुद्ध की तुलना में इराक और वियतनाम के अधिक करीब है, और कई बेहतरीन दिमाग first-generation immigrants हैं। हाल में ad tech को भी image problem का सामना करना पड़ा है (क्योंकि लोग production process को ज्यादा देखने लगे हैं), लेकिन defense industry की तुलना में बड़ी consumer companies में काम करना अभी भी अधिक आकर्षक है। यदि आप मेरे साथियों से अमेरिकी सरकार के लिए, चाहे परोक्ष रूप से ही सही, काम करवाना चाहते हैं, तो आपको उन्हें ज्यादा पैसे देने होंगे। इसके बजाय अक्सर कम पैसा मिलता है, और काम के बाहर की गतिविधियों की स्वतंत्रता भी कम होती है।
• लेख के अंत में Cockburn शिकायत करता है कि जब उसने ChatGPT से IDF और Palantir के काम के बारे में पूछा, तो उसे काल्पनिक जवाब मिला। DuckDuckGo.com पर "IDF Palantir" खोजने से कई समाचार लेखों के लिंक मिल जाते हैं। अगर मुद्दा यह है कि LLM इस समय भरोसेमंद नहीं हैं, तो ठीक है; लेकिन अगर बात यह है कि यह जाना ही नहीं जा सकता कि Palantir, IDF के साथ काम कर रहा है या नहीं, तो उसके प्रमाण पहले से मौजूद हैं।
• measurement और countermeasures की शाश्वत सच्चाई से बचा नहीं जा सकता... tool वाला मूर्ख अब भी मूर्ख ही रहता है...
• लगता है कि operations staff on-call duty के false alarms से दब चुका है। गलती ठीक करने का सबसे अच्छा तरीका है... बस उसे नज़रअंदाज़ कर देना। ऐसा जटिल system जिसे bureaucratic staff को चलाना पड़े, वह असफल होने के लिए ही बना होता है।