Pentagon की Silicon Valley समस्या

 (harpers.org)
1 पॉइंट द्वारा GN⁺ 2024-03-29 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • अमेरिका और इज़राइल की रक्षा व खुफिया संस्थाएँ AI और Silicon Valley तकनीक को युद्ध संबंधी निर्णयों के लिए एक breakthrough के रूप में पेश करती हैं, लेकिन कई उदाहरण दिखाते हैं कि तकनीकी आत्मविश्वास बार-बार जमीनी विफलताओं से टकराया है
  • Shin Bet ने कहा कि उसने generative AI को निर्णय-निर्माण के “co-pilot” की तरह एकीकृत किया है, लेकिन 7 अक्टूबर 2023 के Hamas हमले ने surveillance video, सार्वजनिक training, आंतरिक reports और पूर्व दस्तावेज़ होने के बावजूद इज़राइली रक्षा व खुफिया तंत्र को चौंका दिया
  • अमेरिकी रक्षा क्षेत्र की Igloo White, Assault Breaker, Future Combat Systems, और Secure Border Initiative Network ने computing और sensors के ज़रिए battlefield को नियंत्रित करने की कोशिश की, लेकिन भारी लागत के बाद विफल हुए या रद्द कर दिए गए
  • Pentagon, AI को लेकर निष्क्रिय होने की छवि के विपरीत, कम-से-कम 686 AI projects को समर्थन देता है, और 2022 में प्रमुख tech कंपनियों को अधिकतम 9 अरब डॉलर के Joint Warfighting Cloud Capability contracts दिए
  • Google, Amazon, Microsoft, Palantir, Anduril रक्षा बाज़ार में गहराई से उतर चुके हैं, लेकिन Project Maven, IVAS, Roadrunner, और Palantir के मामले दिखाते हैं कि सैन्य AI के साथ ethics विवाद, performance सीमाएँ, marketing अतिशयोक्ति और hallucination की समस्याएँ भी जुड़ी हैं

AI 7 अक्टूबर का हमला क्यों नहीं पकड़ सका

  • Shin Bet प्रमुख Ronen Bar ने Hamas हमले से 3 महीने पहले घोषणा की थी कि आंतरिक सुरक्षा एजेंसी ने ChatGPT जैसी generative AI platform विकसित की है, जिसे स्वाभाविक रूप से “interdiction machine” में एकीकृत किया गया है
  • यह system किसी व्यक्ति की गतिविधियों, दोस्तों, परिवार, गतिविधि, बयानों और posts के आधार पर व्यवहार का विश्लेषण कर जोखिम का अनुमान लगाने और alert उठाने के लिए बनाया गया था
  • 7 अक्टूबर 2023 का Hamas हमला Shin Bet और इज़राइल की अरबों डॉलर की रक्षा व्यवस्था के लिए पूरी तरह चौंकाने वाला साबित हुआ
    • Hamas ने सीमा बाड़ और इज़राइली बस्तियों के मॉडलों के खिलाफ खुलेआम training की
    • Hamas-नेतृत्व वाले सशस्त्र समूहों ने training videos ऑनलाइन डाले
    • सीमा के पास रहने वाले इज़राइली नागरिकों ने इन अभ्यासों को देखकर चेतावनी दी, लेकिन उन्हें नज़रअंदाज़ किया गया
    • Gaza सीमा निगरानी कैमरों पर नज़र रखने वाली इज़राइली conscript सैनिकों ने बाड़ तोड़ने और बंधक बनाने की तैयारी पर विस्तृत reports दीं, लेकिन उन्हें “कल्पनात्मक परिदृश्य” कहकर खारिज कर दिया गया
    • इज़राइली खुफिया एजेंसियों के पास Hamas की हमले की योजना का विस्तृत दस्तावेज़ एक साल से अधिक समय से मौजूद था
  • Hamas के सदस्यों ने इज़राइल की खुफिया शैली को समझते हुए, अपने जानकार sources के ज़रिए वही data पहुँचाया जो इज़राइल सुनना चाहता था
    • Gaza के भीतर Hamas ने संकेत दिए कि वह इज़राइली labor market तक पहुँच के ज़रिए स्थानीय अर्थव्यवस्था सुधारने पर ध्यान दे रहा है
    • उसने यह आभास भी दिया कि इज़राइल की भारी सैन्य ताकत के कारण Hamas कार्रवाई से रुका हुआ है
  • यह विफलता उस आत्मविश्वास और वास्तविक सीमा के बीच का अंतर दिखाती है, जहाँ AI मानो “आतंकवादियों के बारे में सब कुछ जानता है”, लेकिन वास्तव में यह नहीं जान पाता कि वे सच में क्या सोच रहे हैं

रक्षा AI आशावाद और Pentagon की हकीकत

  • Michèle Flournoy ने Foreign Affairs में लिखा कि AI battlefield संचालन, threat detection, weapons systems maintenance, और रणनीतिक फैसलों की लागत का अनुमान बदल सकता है
  • tech कंपनियों के रक्षा क्षेत्र में प्रवेश की बाधा के रूप में अक्सर Pentagon bureaucracy को दोष दिया जाता है, लेकिन Pentagon को AI में अरुचि रखने वाला संगठन मानना मुश्किल है
    • बताया गया है कि उसने कम-से-कम 686 AI projects को fund किया है
    • 2022 के Joint Warfighting Cloud Capability contract के ज़रिए प्रमुख tech कंपनियों को अधिकतम 9 अरब डॉलर का काम दिया गया
    • Pentagon के एक अधिकारी ने कहा कि यह contract AI solutions को “turbocharge” करेगा
  • Gamechanger एक AI project है, जिसे Pentagon कर्मचारियों की मदद के लिए बनाया गया ताकि वे समझ सकें कि इतना बड़ा संगठन वास्तव में क्या कर रहा है और पैसा कहाँ जा रहा है
    • 2022 की शुरुआत में Joint Artificial Intelligence Center की press release में “28 Authoriative Sources” नाम से चिह्नित स्रोतों का उल्लेख था
    • Pentagon के एक वरिष्ठ accounting अधिकारी ने उम्मीद जताई कि Gamechanger बजट सामग्री के व्यापक visibility और understanding को बेहतर करेगा
  • इसके बावजूद Pentagon 2023 में भी financial audit pass नहीं कर सका, और लगातार 6वीं बार विफल हुआ
  • यह कथा कि tech industry के लोग सैन्य तंत्र में क्रांति ला देंगे, आगे चलकर उस मिथक में बदल जाती है कि रक्षा प्रणालियाँ, जो भारी खर्च, खराब प्रदर्शन और युद्ध में हार के लिए बदनाम रही हैं, अब मूल रूप से सुधर सकती हैं

computing से battlefield नियंत्रित करने की बार-बार विफल कोशिशें

  • अमेरिकी युद्ध संचालन में यह विश्वास बहुत पुराना है कि software मानवीय संघर्ष की समस्याओं को हल कर सकता है

  • Igloo White

    • 1967 से 1972 के बीच अमेरिकी वायुसेना ने दक्षिण-पूर्व एशिया के जंगलों में Ho Chi Minh trail के आसपास बड़े पैमाने पर sensors तैनात किए
    • इस operation का उद्देश्य कदमों की आवाज़, मूत्र में ammonia की गंध, और engine ignition के electronic signals से मानवीय गतिविधि का पता लगाकर, Thailand के एक गुप्त base में IBM computers को data भेजते हुए supply routes की पहचान करना था
    • इस पर हर साल कम-से-कम सैकड़ों मिलियन डॉलर खर्च हुए, लेकिन इसका अंत पूर्ण विफलता में हुआ
    • वियतनामी बलों ने रास्ते से हटकर पेड़ों पर मूत्र से भरी बाल्टियाँ टाँग दीं, या बेकार रास्तों पर पशु हाँक दिए ताकि computers उन्हें दुश्मन की गतिविधि मान लें
    • 1972 में उत्तर वियतनाम ने सैकड़ों tanks के साथ offensive शुरू किया, लेकिन Igloo White उसे बिल्कुल नहीं पकड़ पाया और जल्द ही program छोड़ दिया गया

  • Assault Breaker और बाद की परियोजनाएँ

    • वियतनाम से वापसी के बाद अमेरिका ने Assault Breaker पर भारी निवेश किया, जिसका उद्देश्य पूर्वी यूरोप में Soviet rear areas को airborne radar से देखना था
    • tests में यह system tanks, cars और हवा में हिलते पेड़ों में फर्क नहीं कर सका, और अगले दशक में इसे रद्द कर दिया गया
    • Future Combat Systems ने दावा किया कि sensors और weapons को high-performance processors से जोड़कर targets को इतनी आसानी से मारा जा सकेगा कि defensive armor की ज़रूरत ही नहीं बचेगी, लेकिन लगभग 20 अरब डॉलर खर्च करने के बाद भी यह बिना परिणाम के समाप्त हुआ
    • Department of Homeland Security का Secure Border Initiative Network radar, cameras और surveillance sensors से जुड़ी एक “virtual wall” के रूप में प्रचारित हुआ, लेकिन 2011 में रद्द कर दिया गया
    • Boeing, Future Combat Systems और Secure Border Initiative Network दोनों का प्रमुख contractor था, और ये विफलताएँ उस उम्मीद के विपरीत थीं कि Silicon Valley शैली की तेज़ innovation पारंपरिक defense contractors की नाकामी की जगह ले सकती है

Silicon Valley और military-industrial complex का फिर से जुड़ना

  • Silicon Valley उद्योग की जड़ें Pentagon के समर्थन से बढ़े electronics उद्योग से गहराई से जुड़ी हैं
    • आधुनिक computers का केंद्रीय घटक integrated circuit 1958 में Texas Instruments ने पहली बार बनाया, और defense budget ने उसके development को आगे बढ़ाया
    • इसका शुरुआती उपयोग Minuteman II intercontinental nuclear missile guidance system में हुआ
  • Apple Computer को दिसंबर 1980 में listing के एक महीने से भी कम समय बाद Ford से अधिक valuation मिला, और Macintosh को इस मुक्ति-दायक छवि के साथ पेश किया गया कि वह व्यक्तियों को corporate स्तर की computing power देगा
  • लेकिन defense से दूरी कभी पूरी तरह नहीं बनी
    • internet Pentagon की Advanced Research Projects Agency द्वारा विकसित ARPANET से निकला
    • Google संस्थापक Larry Page और Sergey Brin की Stanford में शुरुआती research को उसी Pentagon agency, जो बाद में DARPA बनी, से आंशिक funding मिली
    • Google Earth की शुरुआत Keyhole EarthViewer से हुई, जिसे CIA की venture capital इकाई In-Q-Tel ने आंशिक funding दी थी, बाद में Google ने उसे acquire किया
  • Peter Thiel ने PayPal की सह-स्थापना और Facebook में शुरुआती निवेश से संपत्ति बनाने के बाद military-industrial complex को फिर से Silicon Valley की ओर मोड़ने का रास्ता चुना
  • Palantir की स्थापना 2003 में हुई और इसने PayPal की fraud detection तकनीक पर आधारित ऐसा software दिया, जो data patterns को visual रूप में detect और communicate कर सके
    • CIA, In-Q-Tel के ज़रिए शुरुआती investors में से एक थी
    • कहा जाता है कि इसके कई शुरुआती contracts intelligence agencies से आए
    • GhostNet और Osama bin Laden के ठिकाने की पहचान में इसकी बड़ी भूमिका के दावे किए गए, लेकिन इसके समर्थन में कोई सबूत नहीं है
    • Palantir ने वरिष्ठ सैन्य अधिकारियों के विरोध के बावजूद मध्यम-स्तर के Army officers और सहयोगी lawmakers के माध्यम से अपनी तकनीक का प्रचार किया

रक्षा innovation संगठन और Project Maven

  • Robert O. Work ने चेतावनी दी कि अमेरिका nuclear weapons और precision-guided munitions में अपनी तकनीकी बढ़त खो रहा है, और China व Russia उसकी बराबरी पर आ रहे हैं
  • 2014 में रक्षा मंत्री Chuck Hagel ने Work की देखरेख में Defense Innovation Initiative की घोषणा की, जिसमें रक्षा विभाग के पारंपरिक दायरे से बाहर की कंपनियों और academics के प्रस्ताव सक्रिय रूप से खोजने की बात थी
  • Ash Carter ने tech क्षेत्रों का बार-बार दौरा किया और 2015 में Google और Apple headquarters के पास Mountain View में Defense Innovation Unit Experimental स्थापित किया
    • बाद में नाम से “Experimental” हटा दिया गया
    • Department of Homeland Security ने भी पास में एक satellite office खोला ताकि Silicon Valley tech कंपनियों से रिश्ते मज़बूत किए जा सकें
  • 2016 में Carter ने Eric Schmidt की अगुवाई में Defense Innovation Advisory Board बनाया; Schmidt बाद में National Security Commission on Artificial Intelligence के प्रमुख बने और Work उसके vice chair थे
  • Project Maven, Work द्वारा शुरू की गई परियोजना थी, जिसका लक्ष्य Pentagon की big data और machine learning integration को तेज़ करना था
    • 2017 में Google ने drone footage की लगातार stream को process कर targets की पहचान करने वाले tools के development का contract हासिल किया
    • Gizmodo को लीक हुए internal emails के अनुसार, Google की भागीदारी को company की अनुमति के बिना सार्वजनिक न करने पर सहमति थी
    • Google Cloud की AI chief scientist Fei-Fei Li ने email में “AI” का उल्लेख या संकेत देने से बचने को कहा
    • contract सार्वजनिक होने पर लगभग 4,000 Google कर्मचारियों ने एक petition पर हस्ताक्षर किए, जिसमें मांग थी कि Google या उसके contractors युद्ध तकनीक न बनाएँ; कुछ कर्मचारियों ने इस्तीफ़ा भी दे दिया

Maven के बाद सामने आई performance सीमाएँ और subcontracting का शिफ्ट

  • Project Maven के video input का स्रोत Reaper drone पर लगा camera pod system Gorgon Stare था
  • Gorgon Stare को ऐसे प्रचारित किया गया मानो वह सब कुछ देख सकता है, लेकिन Eglin Air Force Base की 2011 की test unit report ने कई खामियाँ बताईं
    • cameras targets को आसानी से खोज और पहचान नहीं पा रहे थे
    • transmission rate बहुत धीमी थी
    • test unit ने निष्कर्ष निकाला कि यह “operationally ineffective” है और Afghanistan deployment न करने की सिफारिश की, लेकिन Air Force ने इसे तैनात किया
  • एक पूर्व fighter pilot और Pentagon analyst ने कहा कि automatic target recognition (ATR) वर्षों के खर्च के बाद भी काम नहीं कर रही थी
  • Pentagon एजेंसी में संबंधित मुद्दों पर काम कर रहे एक अन्य combat veteran का मानना था कि AI developers सैन्य आवश्यकताओं के कुछ हिस्सों को समझ ही नहीं रहे थे
    • DARPA experiment में Marines की एक squad ने AI-controlled robot detection से बचने के लिए अपने शरीर की silhouette बदल ली
    • दो लोग बड़े cardboard boxes के भीतर जाकर आगे बढ़े, दूसरे ने cartwheel किया, और एक ने fir tree की शाखाएँ पहन लीं
    • वे सभी खुले मैदान को पार कर robot के पास पहुँचे और बिना detect हुए उससे संपर्क कर लिया
  • Google के Maven से हटने के बाद Microsoft, Amazon और Palantir ने subcontracting संभाली
    • यह तथ्य Google छोड़ चुके Jack Poulson ने उजागर किया
    • Poulson ने बाद में Tech Inquiry शुरू किया, जिसने Defense Innovation Unit contracts और संबंधित संगठनों को track किया

cloud contracts और tech-defense divide का मिटना

  • Google का Maven से हटना defense-tech खेमे में तीखी प्रतिक्रिया का कारण बना
    • Peter Thiel ने Google के रवैये को “देशद्रोही” कहा
    • Eric Schmidt ने कहा कि वह इस निर्णय से सहमत नहीं हैं
    • Jeff Bezos ने कहा कि अगर बड़ी tech कंपनियाँ Department of Defense से मुँह मोड़ लेंगी, तो अमेरिका मुश्किल में पड़ जाएगा
  • Amazon ने 2013 में CIA से 600 million dollar, 10-year contract जीता, जिसके तहत AWS cloud को intelligence use के लिए उपलब्ध कराया गया
  • cloud computing, Amazon, Microsoft, Oracle और Google जैसी कंपनियों के लिए नया revenue frontier बन गया
  • Google ने Maven विवाद के समय की नैतिक चिंताओं को पीछे छोड़ते हुए, अधिकतम 9 अरब डॉलर के Joint Warfighting Cloud Capability contract में हिस्सेदारी पाने के लिए बोली लगाई
  • कंपनियाँ commercial services से बड़ा मुनाफ़ा कमाते हुए भी सरकार को स्थिर और विशाल revenue source मानने लगीं, और tech industry तथा Pentagon के बीच की दूरी तेज़ी से घटने लगी

Anduril, Roadrunner, IVAS

  • Ukraine युद्ध में drones के प्रभाव पर बहुत चर्चा हुई, लेकिन दोनों पक्षों के कई आम और प्रभावी drones वास्तव में ऐसे सस्ते और सरल उपकरण हैं, जिन्हें Amazon account से खरीदे जा सकने वाले parts जोड़कर छोटे bombs या artillery shells ढोने लायक बनाया गया है
  • Anduril ने दिसंबर 2023 में Roadrunner पेश किया
    • यह एक छोटा jet-powered drone है, जिसके बारे में कहा गया कि वह drones सहित jet-powered threats को autonomously detect और destroy कर सकता है, और फिर base पर लौट सकता है
    • Newsweek के अनुसार इसकी कीमत “low hundreds of thousands of dollars” के स्तर पर है
    • launch video में Roadrunner को test पूरी तरह सफल करते दिखाया गया
  • Pentagon analyst Franklin “Chuck” Spinney ने Roadrunner के प्रचार को “marketing nonsense” कहा, और यह अजीब बताया कि desert में tail-first landing के दौरान उसके exhaust ने लगभग कोई dust plume नहीं बनाई
  • Anduril, Palmer Luckey की कंपनी है; Luckey ने Oculus बनाया था और उसे Facebook को 3 अरब डॉलर में बेचने के बाद defense sector पर ध्यान केंद्रित किया
    • Anduril का कहना है कि उसका AI-based sensor fusion platform बड़े क्षेत्रों का पूर्ण 3D model बना सकता है
    • Luckey ने भविष्यवाणी की कि भविष्य का soldier एक “superhero” होगा, जिसके पास अपने operational area में सभी enemies, friendlies और assets की स्थिति का “पूर्ण सर्वज्ञ” ज्ञान होगा
  • Army ने HoloLens-आधारित Integrated Visual Augmentation System (IVAS) के लिए 2021 में Microsoft के साथ 21.9 अरब डॉलर का contract किया
    • 2023 में Pentagon के Director, Operational Test and Evaluation की report में कहा गया कि परीक्षण में शामिल कई soldiers ने disorientation, dizziness, eye strain, headache, motion sickness, nausea, neck strain और tunnel vision जैसे कम-से-कम एक शारीरिक नुकसान की शिकायत की
    • soldiers ने low-light performance, display quality, भारीपन, कम reliability, friend-or-foe पहचान न कर पाना, firing में कठिनाई, शारीरिक असुविधा, और सीमित peripheral vision को भी समस्या बताया
    • Congress ने procurement budget का अधिकांश हिस्सा रोक लिया, लेकिन Army ने system modifications के लिए Microsoft को अतिरिक्त 125 million dollar दिए, और कुल price tag लगभग 23 अरब dollar तक पहुँच गया
    • Army का दावा है कि संशोधित system पर उसके अपने tests में soldiers की feedback सकारात्मक रही

AI boom, Palantir, और hallucination

  • ChatGPT के सार्वजनिक होने के बाद Microsoft को और बड़ा अवसर दिखा, लेकिन AI क्षमताओं को लेकर संदेह भी साथ-साथ बना रहा
  • Meta के chief AI scientist Yann LeCun का मानना है कि superintelligent machines के ख़तरे को लेकर चेतावनी देना अभी बहुत जल्दबाज़ी है, क्योंकि अभी तो हमारे पास बिल्ली-स्तर की learning ability से टक्कर लेने वाला system design भी नहीं है
  • Orso Partners के सह-संस्थापक Nate Koppikar ने 2016 के बाद की tech industry स्थिति को लगभग “nonsense” बताया
    • 2021 के अंत में फूटे bubble के बाद tech sector ने पैसा खोया और कर्मचारियों की कटौती की
    • उद्योग निवेशकों का नुकसान लगभग 7.4 trillion dollar बताया गया
    • उनका कहना था कि AI को “अगली बड़ी चीज़” बताने का वादा अचानक बेचा जा रहा है
    • उनके अनुसार AI robots का डर, technology की शक्ति पर विश्वास दिलाने वाली marketing campaign का हिस्सा है
    • AI में चीज़ें गढ़ लेने की प्रवृत्ति होती है, जिसे उद्योग में “hallucination” कहा जाता है
  • 2023 के AI craze के दौरान Palantir के shares तेज़ी से चढ़े, और CEO Alex Karp ने सार्वजनिक रूप से कहा कि Palantir “Israel के साथ खड़ा है”
  • Google Bard ने जवाब दिया कि Palantir ने 2019 में IDF के साथ AI tools development partnership की घोषणा की थी, और उसने एक professional press release जैसी भाषा में उत्तर दिया, लेकिन वह press release असल में मौजूद ही नहीं थी — यह एक hallucination था

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-03-29
Hacker News की राय

  • लेख में दिए उदाहरण काफ़ी चेरी-पिक्ड लगते हैं। Vietnam में विफलता का दोष सिर्फ़ IBM 360 पर डालना मुश्किल है, और Hamas हमले ने Israel को चौंकाया हो सकता है, लेकिन Iron Dome पिछले कुछ वर्षों में अच्छी तरह काम करने वाली technology रही है
    अमेरिका ने जिसे भी सुनना था, उसे चेतावनी दी थी कि Russia, Ukraine पर हमला करेगा, और परमाणु बम बनाने वाले भी काफ़ी हद तक theoretical physicists ही थे

    • यह बात ही हास्यास्पद है कि किसी को चेतावनी की ज़रूरत थी। यह बहुत साफ़ था कि Russia ने Olympics से ठीक पहले या बाद में Ukraine में घुसने का मन बना लिया था
      कोई मज़े के लिए अपनी Navy का बड़ा हिस्सा Europe के चारों ओर घुमा कर Black Sea तक नहीं भेजता। सीमा के पास जुटान-स्थलों पर blood supplies भेजना भी ऐसी चीज़ है जो सिर्फ़ training या शक्ति-प्रदर्शन के लिए कभी नहीं की जाती
    • संगठन अक्सर खुद को धोखा देकर विफल होते हैं। उनमें से एक है हलचल को प्रगति समझ लेना
      लेख का मुख्य बिंदु यह है कि Pentagon सोचता है कि वह technology में पैसा लगा रहा है, लेकिन उस पैसे के बराबर मूल्य नहीं पा रहा। वह इसलिए विफल होता है क्योंकि expertise, authority और responsibility को एक ही व्यक्ति के दिमाग में जोड़ने की इच्छा या क्षमता नहीं है
      जब संगठन जिम्मेदारी को फैलाते हैं, या ऐसे व्यक्ति को अधिकार देते हैं जो हलचल और प्रगति में फर्क नहीं कर सकता, तो नतीजा हमेशा बर्बादी और ठहराव होता है। जिन दुर्लभ क्षणों में कोई मज़बूत leader संगठन की इस entropy को कुछ समय के लिए उलट देता है, तब जादू जैसा कुछ होता है; ULA और SpaceX, DeepMind और OpenAI की तुलना करना ठीक रहेगा
      अगर संस्थागत क्षमता अस्थिर और छोटे चमत्कारों के बजाय standard होती, तो मानवता कहीं ज़्यादा ऊंचे तकनीकी स्तर पर होती
    • कई विफलताएँ बस मानवीय और राजनीतिक विफलताएँ होती हैं। Technology स्पष्ट चीज़ों को धुंधला कर सकती है या कम संभावना वाली बातों को उभार सकती है, लेकिन अभी तक यह इतनी आम तौर पर निर्णायक नहीं है
      अमेरिका ने Moscow हमले के बारे में भी Russia को चेतावनी दी थी, लेकिन उसे राजनीतिक दखल के रूप में देखा गया। लगभग निश्चित तौर पर यह अनदेखी की गई signals intelligence रही होगी
      https://apnews.com/article/russia-intelligence-duty-to-warn-...
    • 21 फरवरी 2022 को मैं एक Ukrainian model के साथ था और मैंने invasion की संभावना की बात की, लेकिन उस व्यक्ति ने इसे बेहद हल्के में लिया। मैं हैरान था कि यह coping mechanism था, सचमुच का विश्वास था, सिर्फ़ विरोध के लिए विरोध था, या कोई cultural reaction style था
      मेरे लिए सीमा पर सैनिकों का जमावड़ा, कई बयान, Biden की बातें, और बेवजह इसे political बनाने वाले Republicans—सब मिलाकर short-selling या prediction market के स्तर पर बहुत स्पष्ट invasion था। यह 0-day-to-expiry options contract जितना साफ़ था
      फिर भी वह प्रतिक्रिया मेरे मन में अटकी रहती है। आगे कैसे प्रतिक्रिया देनी चाहिए, यह समझ नहीं आता। अलग-अलग reality perceptions वाले व्यक्ति से चर्चा करना निरर्थक लगता है, और अंत में सिर्फ़ पूरी निष्क्रियता या financial betting ही बचती महसूस होती है
      जिस बात पर आप विश्वास करते हैं उस पर bet लगाना मुझे पसंद है, क्योंकि reward भी ठीक होता है और prediction गलत हो जाए तो भी ठीक है। फिर भी reality की shared understanding खोजने वाली बातचीत ज़्यादा natural लगती है, लेकिन आजकल वह बेकार लगती है
    • “air और sea unmanned systems अपनाने होंगे तभी खतरे को रोका जा सकता है” — हालिया घटनाओं को देखते हुए यह बात वास्तव में सही साबित हुई

  • मुझे लगता है कि यह लेख, इस क्षेत्र पर होने वाली कई media reports की तरह, artificial intelligence को जरूरत से ज़्यादा generalize करता है। Machine learning का predictive पहलू आधुनिक सेनाओं में दशकों से इस्तेमाल होता रहा है, और पहला paragraph यूँ ही संकेत देता है मानो 7 अक्टूबर के हमले की intelligence failure में LLM की बड़ी भूमिका थी
    यह आश्चर्यजनक नहीं कि LLM, बहुत-सी machine learning वाली systems का हिस्सा है। क्योंकि वह एक बेहतरीन human interface है। लेकिन मैं बिल्कुल नहीं मानता कि हमले को miss करने की जिम्मेदारी meaningful तरीके से उस पर डालने लायक उसकी भूमिका इतनी बड़ी थी
    Machine learning भूमिका निभाती रहेगी, सफलताएँ और विफलताएँ दोनों देखेगी, और adversarial machine learning से मुकाबला बढ़ने पर और भी imperfect होती जाएगी। एक imperfect tool को unavoidable failures का कारण बताना उपयोगी नहीं है, और जब alternative इंसान हैं, जो और अधिक failure-prone हैं, तो इसे “problem” कहना भी मुश्किल है

    • लगातार बनी confusion का एक हिस्सा यह है कि industry ने LLM को artificial intelligence कहना पूरी तरह अपना लिया है
      AI शब्द का वजन हमारी स्वीकारोक्ति से कहीं ज़्यादा है, और LLM के लिए इस term का इस्तेमाल उसके अर्थ को हल्का कर देता है
      आम इंसान जब AI सुनता है, तो वह मानव लेखन की भविष्यवाणी और नकल करने वाले algorithm से कहीं ज़्यादा की अपेक्षा करता है, चाहे वह कितना भी clever और impressive क्यों न हो
      लगता है industry ने next generation machine learning algorithms को “artificial intelligence” कहने पर सहमति बना ली है, क्योंकि यह बेहतर बिकता है और कहीं ज़्यादा funding लाता है। अगर ऐसा है, तो असली AI बनाने से पहले पूछे जाने वाले safety, moral और ethical सवालों का क्या होगा—यह चिंता की बात है
    • हालांकि उन tools के बारे में किए गए अत्यधिक बड़े-बड़े दावों की आलोचना करना निश्चित रूप से उपयोगी है

  • “AI systems Hamas के बारे में सब कुछ जानते हैं। उन्होंने क्या कहा, क्या post किया […] actions का analysis करते हैं, risk predict करते हैं, और alerts raise करते हैं।”
    “इसे अच्छी तरह समझने वाले Hamas सदस्यों ने दुश्मन को वही data खिलाया जो वह सुनना चाहता था। अंततः AI system terrorists के बारे में सब कुछ जानता था, लेकिन यह नहीं जानता था कि वह क्या सोच रहा है।”
    अगर विरोधी मेरी हर चीज़ देख सकता है और मेरी हर बात सुन सकता है, तो एकमात्र defense privacy है। उपन्यास The Three Body Problem में इसे चरम तक ले जाया गया है: वहाँ एकमात्र privacy मानव मन के भीतर है, और कुछ लोगों को ऐसी रणनीतियों के आधार पर निर्णय लेने दिए जाते हैं जिन्हें उन्होंने कभी शब्दों में नहीं कहा। Science fiction वास्तविकता बन गया है

    • वह बात sequel The Dark Forest में आती है

  • मेरे हिसाब से सबसे अहम सीख यह है कि स्पष्ट use case के बिना अच्छा system design करना लगभग असंभव है
    Ukraine के पास ऐसे use cases हैं, और उन्हें हल करने की प्रेरणा भी बेहद मजबूत है। Ukrainians general-purpose computers से युद्धक्षेत्र को नियंत्रित कर रहे हैं https://en.defence-ua.com/news/how_the_kropyva_combat_contro... उन्होंने लंबी दूरी के समुद्री drones से कई Russian युद्धपोत डुबोए हैं https://www.bbc.com/news/world-europe-68528761 और हाल ही में onboard computer vision-आधारित target recognition वाले कम लागत के flying drones का बड़े पैमाने पर परीक्षण शुरू किया है https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
    दूसरी ओर, अमेरिका शांतिकाल में है। अपने-आप में यह अच्छी बात है, लेकिन इससे ऐसी technology development पर अरबों डॉलर बर्बाद करना बहुत आसान हो जाता है जो PowerPoint में शानदार दिखती है, पर असल में बेकार होती है

    • यह अब तक की सबसे अहम सीख है। संदर्भ के लिए, non-military software development पर भी यही बात वैसे ही लागू होती है
    • Ukrainians लगता है युद्धक्षेत्र में prototypes test करते हैं, और जो designs काम नहीं करते उन्हें काफी जल्दी छोड़ देते हैं। मैंने automatic tracking machine gun का prototype भी देखा, जिससे Aliens 2 याद आ गई
      Flying drone designs भी कई companies बना रही हैं, ताकि किसी एक company के Russian missile attack में नष्ट हो जाने का जोखिम टाला जा सके। मुझे लगता है दूसरे defence products में भी ऐसा ही होगा
    • युद्धकाल में requirements और effect समझना कहीं ज्यादा आसान होता है, इसलिए weapon development हमेशा आसान होती है, लेकिन सस्ती नहीं
      फिर भी अरबों डॉलर बर्बाद होंगे, लेकिन वह पैसा युद्ध से तबाह हुई इमारतों, पुलों, infrastructure और जिंदगियों को फिर से बनाने में खर्च होगा
      Ukraine ने सस्ती और अपने दम पर जोड़ी गई technology से अद्भुत काम किए हैं, लेकिन इसकी कीमत देश के पुनर्निर्माण के लिए जरूरी 486 अरब डॉलर है
      https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
    • अमेरिका के शांतिकाल में होने की अवधारणा मुझे हमेशा समझना मुश्किल लगी है, क्योंकि WWII के बाद उसने बहुत बड़ी standing army बनाए रखने का फैसला किया था
      आसन्न युद्ध की तैयारी और शांतिकाल की स्थिति के बीच रेखा वास्तव में कहाँ खींचनी चाहिए, यह मुझे नहीं पता
    • हम अभी Ukraine में चीजों को सचमुच इस्तेमाल होते देख रहे हैं, और वे काम कर रही हैं
      WW3-स्तर की मात्रा में cluster munitions, जिन्हें scrap किया जाना था, AFU को मिल गईं, और पुराने Bradley, Javelin, Stinger वगैरह T-72 और Hind-D को उड़ाने के लिए design किए गए थे—और वे सच में वही कर रहे हैं। “PowerPoint में शानदार दिखने” वाली चीजें क्या कर सकती हैं, यह भी हम जल्द ही देखेंगे
      और Ukraine की military efficiency का बड़ा हिस्सा NATO intelligence sharing की वजह से है। अगर NATO ने Russian electronic warfare, ships और troop movements की mapping न की होती, तो combat control systems और समुद्री drones बस side show बनकर रह जाते

  • Israeli तकनीक के बारे में तो नहीं कह सकता, लेकिन Pentagon की Silicon Valley में image problem है, और यह मानना मुश्किल है कि Palantir जैसी contract कंपनियां भी सबसे बेहतरीन talent हासिल कर रही हैं।
    हमारी पीढ़ी WW2 की तुलना में Iraq और Vietnam के ज़्यादा करीब है, और बेहतरीन talent में पहली पीढ़ी के immigrant भी बहुत हैं। Ad tech की image भी हाल में खराब हुई है, लेकिन फिर भी defense की तुलना में बड़ी consumer कंपनियों में काम करना ज़्यादा आकर्षक है।
    सहकर्मियों को अमेरिकी सरकार के लिए, वह भी indirect रूप से, काम करने के लिए राज़ी करना हो तो शायद ज़्यादा पैसे देने पड़ेंगे, लेकिन आम तौर पर पैसे कम मिलते हैं, और काम के बाहर वे क्या कर सकते हैं इसकी आज़ादी भी अक्सर कम होती है।
    इसके अलावा, AI के साथ सेना से contract करना कुछ हद तक scapegoat insurance जैसा पढ़ाई देता है। यानी उन होशियार लोगों को दोष देना जिनके पास ऐसा computer है जिसे धोखा दिया जा सकता है, और उन लोगों को दोष न देना जिन्होंने उन्हें hire किया और उस signal को बाकी signals से ऊपर रखकर action लिया।
    इस industry में काम करने वाले किसी भी व्यक्ति को यह विचार बेतुका लगेगा कि ChatGPT model 10/7 रोकने में निर्णायक factor हो सकता था। शायद IDF को LLM बेचने की कोशिश कर रहे consultants ही इसका अपवाद हों।

    • जब quarterly sales KPI पूरा करने के लिए 7–8 अंकों की total contract value वाला federal government contract जीतना होता है, तो वह image problem गायब हो जाती है।
      असली बड़ी रुकावट procurement है। Federal standards के हिसाब से software procurement अपेक्षाकृत सरल है: Series E के बाद का startup FedRAMP और FIPS compliance के लिए dedicated roadmap पर 70–100 लाख dollar और 1–1.5 साल खर्च करे तो प्रवेश कर सकता है।
      Software से बाहर निकलते ही procurement paperwork hell बन जाता है। DoD और DoE जैसी R&D grant agencies का paperwork hell इसमें जोड़ दें, तो यह quasi-Soviet procurement system बन जाता है।
      irony यह है कि इस compliance और regulatory checks का ज़्यादातर हिस्सा corruption और bribery घटाने की नेक नीयत से जोड़ा गया था, लेकिन असल में उसने पूरे system को जाम कर दिया और startups व innovators को defense community के साथ direct काम करने से रोक दिया।
      DIUx और In-Q-Tel जैसे projects इसे बदलने की कोशिश कर रहे हैं, लेकिन बहुत कम और बहुत देर से; defense industrial base पूरी तरह इस पर निर्भर है कि Microsoft, Cisco, CrowdStrike, Zscaler जैसी कंपनियां promising startups को acquire करें और innovation को अंदरूनी तौर पर फैलाएं।
    • ऐसे technologists भी, जो सरकार में कम compensation लेकर काम करने को तैयार हैं, Uncle Sam द्वारा बनाए गए hiring quagmire से पार नहीं निकल पाते।
      Federal government industry talent को जल्दी onboard करने के लिए design नहीं की गई है। Senior roles के लिए advanced degrees मांगने वाले पुराने rules से भी वह अब भी बहुत बंधी हुई है।
    • आखिरी बार जब देखा था, तो लगता था कि कई defense contractors remote work के मौके भी नहीं देते।
    • Tech workers का “interview पर जाते हुए cannabis पीना” चाहना भी एक बड़ी समस्या है। ऐसा करने पर वे security clearance के पात्र नहीं रहते।
    • मैं 100% यकीन से नहीं कह सकता कि इसे जानबूझकर होने नहीं दिया गया। मुझे लगता है संभव है कि यह सब पूरी तरह रौंद देने का बहाना हासिल करने के लिए था, और वे सच में ऐसा कर भी रहे हैं; शायद वे सिर्फ पैमाने से हैरान हुए हों।
      संकेत हर तरफ थे, और Mossad कोई अक्षम paperwork gang नहीं है।
      जिम्मेदार व्यक्ति former special forces से है, और बिना पलक झपकाए लोगों को मारना भी उस काम का हिस्सा है, इसलिए उस तरफ से humanism की उम्मीद करना मुश्किल है।
      अगर मैंने अलग-अलग दौर और जगहों पर लगभग इसी तरह unfold हुई कहानियां न पढ़ी होतीं, तो शायद मैं इसे अलग तरह से देखता। AI राजनीतिक समस्याओं को हल नहीं करता; वह पहले से जटिल समस्याओं को और जटिल ही बनाता है।

  • “surprised by the attack” कहना अजीब है। Israeli media ने बार-बार ऐसी reports छापीं कि frontline analysts ने चेतावनी दी थी, लेकिन उन्हें ignore किया गया।
    इसकी वजह sexism, ageism, conscripts के खिलाफ bias हो सकती है, या यह भी कि settler organizations ने सरकार में अपने लोग बैठा रखे थे और Gaza Strip की resettlement बहुत strongly चाहते थे।
    किसी भी तरह, signals मौजूद थे, और वे करीब एक साल से preparation और training देख रहे थे। भले ही resistance organizations ने इसे secret रखा हो, intelligence agency या military का कोई साधारण officer भी “first principles” और उनके actions देखकर यह निष्कर्ष निकाल सकता था कि अंततः violent response होगा।

    • बाहरी observer के तौर पर मैं बहुत knowledgeable नहीं हूं, लेकिन लगता है कि Netanyahu की बढ़ती extreme politics से पैदा हुई government chaos और Israeli society के भीतर भारी divisions ने 7 October की defense failure में योगदान दिया होगा।
      Netanyahu ने Israeli society को इतना बांट दिया था कि 10/7 से पहले के महीनों में हर weekend लाखों लोग protest कर रहे थे, और reservists भी protest में service से इनकार कर रहे थे।
      अगर वे jail जाने से बचने के लिए किसी भी उपाय पर ध्यान देने के बजाय governance पर ज़्यादा ध्यान देते या पद छोड़ देते, तो national-level distraction कम हो सकता था। मैं यह तय करके नहीं कह रहा कि यह उनकी गलती है, लेकिन उनके पैदा किए chaos से मदद तो नहीं मिली होगी।
    • Violent response expected था। जो expected नहीं था, वह competent violent response था।
    • जो कोई IDF को सीधे जानता है, वह जानता होगा कि organization के भीतर गहराई तक जड़ जमा चुकी arrogance है।
    • यह गलत tool को दोष देने जैसा है।
      Israeli government और military चलाने वाले लोग ही tool जैसे थे। चाहे malice थी या incompetence और ignorance, वे साफ तौर पर fail हुए।

  • व्यक्तिगत रूप से पूरे article का सबसे interesting हिस्सा यह था:
    “इसके बाद उन्होंने defense work पर ध्यान केंद्रित किया, और अफसोस जताया कि future weapons बनाने से जुड़ी technical capabilities रखने वाले लोग ‘कुल मिलाकर defense sector के साथ काम करने से इनकार कर रहे हैं।’”
    मुझे उत्सुकता है कि यह अब भी किस हद तक सच है। यह साफ है कि बहुत पैसा बह रहा है, और कुछ लोग निश्चित रूप से पैसे के पीछे गए हैं। Palantir भी तो मौजूद है।

    • जब technologists ने उन हथियारों के नतीजे नहीं देखे थे, या वे मोटे तौर पर नहीं जानते थे कि वे वास्तव में क्या बना रहे हैं, तब उन्हें defense की ओर खींचना आसान था। Manhattan Project जैसा।
      लेकिन अगर लोग Twitter पर किसी neighborhood पर bombing live देख सकते हैं, तो वे ऐसे काम में मदद करने के बारे में फिर से सोच सकते हैं।
    • कुछ हद तक यह निश्चित रूप से सच है। ऐसे documented cases हैं जहां लोगों ने personally बड़ी कीमत चुकाकर भी defense sector के साथ काम करने से इनकार किया।
      अहम सवाल यह है कि workforce के भीतर resistance कितना है, और वह talent hiring ability को कितना प्रभावित करता है।
    • मुझे लगता है कि यह उन technologists की सोच से कहीं कम सच होगा जो अमेरिकी defense industry को नापसंद करते हैं। Progressive views और problem-solving intelligence के बीच correlation शून्य नहीं है, लेकिन बहुत ऊंचा भी नहीं है।

  • बर्बाद हुए टैक्स के पैमाने से झटका लगा। इतने सारे असफल प्रोजेक्ट हैं कि कुख्यात Big Tech की नाकामी भी अमेरिकी सैन्य-औद्योगिक कॉम्प्लेक्स के सामने कुछ नहीं लगती।
    पिछले 3/4 सदी में पश्चिमी सभ्यता का सारा surplus यहीं बहता रहा। अब surplus खत्म हो गया है, और मुख्य संसाधन व ऊर्जा स्रोत खत्म होते जा रहे हैं, इसलिए जल्द ही यह निगेटिव में चला जाएगा। उम्मीद है कि अमेरिका का वैश्विक वर्चस्व जितनी जल्दी हो सके खत्म हो।
    माफ कीजिए, लेकिन किसी भी समय अमेरिका पृथ्वी का वैध शासक नहीं रहा। मेरे पूरे-के-पूरे देश तबाह किए गए, पूरी आबादियां मारी गईं या पलायन के लिए मजबूर की गईं। यह सब इसलिए हुआ ताकि आप अपने बच्चे को नया Xbox दिला सकें और आपका पड़ोसी नई yacht खरीद सके।

    • बल्कि लेख में दिए आंकड़े बर्बादी के पैमाने को कम करके बताते हैं।
      2003 के बाद मध्य पूर्व की तबाही पर कम-से-कम 8 ट्रिलियन डॉलर खर्च हुए।
      उस पैसे से पूरे अमेरिका को clean energy पर शिफ्ट किया जा सकता था, दुनिया के हर भूखे इंसान को खाना खिलाया जा सकता था, और हर अमेरिकी बेघर व्यक्ति को घर दिया जा सकता था। पैसे फिर भी बचते।
      इसके बजाय वह पैसा लाखों लोगों को मारने, करोड़ों लोगों को विस्थापित करने, और कई पीढ़ियों के बच्चों को cancer और जन्मजात विकार देने में खर्च हुआ।
      यह इतना बुरा और मूर्खतापूर्ण है कि Noam Chomsky तक कहते हैं कि इसे बयान करने के लिए उनके पास शब्द नहीं हैं।
    • निष्पक्ष होकर देखें तो अमेरिका कोई करीब 247 साल पुराना देश ही है, है न? बड़े ऐतिहासिक परिप्रेक्ष्य में यह लगभग शिशु जैसा है। संस्थापकों को भी इस बात का बहुत भरोसा नहीं था कि यह व्यवस्था लंबे समय तक चलेगी।
      [1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
      “संवैधानिक सम्मेलन के अंत में George Washington ने कहा, ‘मुझे उम्मीद नहीं है कि संविधान 20 साल से ज्यादा टिकेगा।’ आज अमेरिका के पास दुनिया का सबसे पुराना लिखित संविधान है।”
      देश ने इस दौरान जो हासिल किया है, वह काफी असाधारण है। अपने अस्तित्व के बड़े हिस्से में अमेरिका वैसी महाशक्ति भी नहीं था जैसी आज हम जानते हैं। भविष्य तय नहीं है, लेकिन शायद हम ऐसा अलग-थलग अमेरिका देख सकते हैं जो सिर्फ अपनी आंतरिक समस्याओं पर ध्यान दे।

  • मैं Strategic Defense Initiative, यानी Star Wars, का ज़िक्र ढूंढ रहा था। उस program ने जिन technical समस्याओं को अंत तक पार नहीं किया, उनमें से एक थी आने वाली missiles को पर्याप्त रूप से पहचानना और intercepting defense को target की ओर guide करने की क्षमता।
    लेख में बताए Igloo White और Assault Breaker systems की तरह, यह decoys और असली targets में फर्क करने में नाकाम रहा।

    • यह तथ्यात्मक रूप से गलत है। missile recognition और interceptor guidance, दोनों क्षमताएं दशकों पहले साबित हो चुकी थीं।
      ballistic missile interception में सबसे बड़ी technical समस्या यह थी कि नए इस्तेमाल किए जाने वाले hypersonic rocket motor को guidance commands पर पर्याप्त precision के साथ react करवाया जाए। यह materials science की समस्या थी, और वही equipment अगर सामान्य rocket motor पर लगाया जाए तो असल में अच्छी तरह काम करता था।