तानाशाहों के लिए supercomputer बनाना ज़रूरी नहीं कि लोकतंत्र के लिए अच्छा हो

 (helentoner.substack.com)
1 पॉइंट द्वारा GN⁺ 2025-06-09 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • OpenAI OpenAI for Countries और Stargate UAE को “लोकतांत्रिक AI” के प्रसार के रूप में पेश करता है, लेकिन UAE में विशाल AI data center बनाना लोकतंत्र को बढ़ावा देगा, इसका आधार कमजोर है
  • Freedom House 2024 के आकलन में UAE को 18/100 अंक मिले; साथ ही वंशानुगत राजशाही द्वारा सत्ता पर एकाधिकार, राजनीतिक दलों पर प्रतिबंध, सरकार की आलोचना पर रोक, कार्यकर्ताओं की कैद, मीडिया सेंसरशिप और प्रवासी मज़दूरों के शोषण जैसी समस्याएँ भी सामने आती हैं
  • OpenAI की दलील दो हिस्सों में बँटती है: “अमेरिकी AI लोकतांत्रिक मूल्यों का प्रसार करता है” और “अगर अमेरिका चीन के साथ AI प्रतिस्पर्धा में जीतता है तो यह लोकतंत्र के पक्ष में होगा”; लेकिन यह मानने का कोई आधार नहीं कि Stargate UAE का लक्ष्य बिना सेंसरशिप वाली पहुँच या लोकतंत्र-समर्थक tools देना है
  • बड़े पैमाने का AI compute infrastructure अब राज्य सत्ता की एक प्रमुख संपत्ति बनता जा रहा है, और चूँकि UAE का शाही तंत्र इसमें भारी निवेश कर रहा है, advanced AI chips तक पहुँच या ownership के ज़रिए UAE सरकार का प्रभाव बढ़ने की आशंका है
  • semiconductor और AI infrastructure deals हमेशा बुरी नहीं होतीं, लेकिन chip की संख्या, ownership/use rights, और चीन को technology transfer रोकने की शर्तें सार्वजनिक न होने के बावजूद इसे लोकतंत्र परियोजना बताना एक जोखिम भरी पैकेजिंग है

OpenAI का “लोकतांत्रिक AI” तर्क और Stargate UAE

  • OpenAI ने मई की शुरुआत में OpenAI for Countries की घोषणा करते हुए कहा कि वह अमेरिका के Texas आदि में आगे बढ़ रहे Stargate से जोड़कर विभिन्न देशों को AI infrastructure बनाने में मदद करेगा
  • घोषणा का मूल तर्क यह था कि बड़े पैमाने का AI infrastructure भविष्य की आर्थिक वृद्धि और राष्ट्रीय विकास की आधारभूत संपत्ति बनेगा, और जो देश “लोकतांत्रिक AI rails” चाहते हैं उन्हें authoritarian AI का विकल्प मिलना चाहिए
  • इसके बाद OpenAI ने UAE में बड़े AI data center बनाने की partnership की घोषणा की और इसे “लोकतांत्रिक मूल्यों में निहित” परियोजना बताया
  • आलोचना का केंद्र यह है कि OpenAI ने लोकतंत्र के नाम पर अपनी पहली बड़ी deal किसी वास्तविक लोकतांत्रिक देश के साथ नहीं, बल्कि UAE के साथ की

UAE की राजनीतिक व्यवस्था और मानवाधिकार स्थिति

  • Freedom House के 2024 country scores में UAE को 18/100 अंक मिले, जो Haiti, Zimbabwe और Iraq से भी नीचे है
  • स्वतंत्रता स्कोर: {p:18}
  • UAE की राजनीतिक व्यवस्था वंशानुगत राजशाही द्वारा सत्ता के एकाधिकार पर आधारित है
    • राजनीतिक दल प्रतिबंधित हैं
    • उम्मीदवार निर्दलीय के रूप में चुनाव लड़ सकते हैं, लेकिन व्यवस्था को सार्थक चुनौती देना कठिन है
    • परामर्श परिषद की केवल आधी सीटें निर्वाचित हैं, बाकी सरकार द्वारा नियुक्त की जाती हैं
    • उस परामर्श परिषद के पास वास्तविक विधायी अधिकार नहीं हैं
  • सरकार की आलोचना प्रतिबंधित है, और मानवाधिकार या राजनीतिक सुधार की माँग करने वाले उम्मीदवारों व कार्यकर्ताओं को कैद किया जाता है या सामूहिक मुकदमों का सामना करना पड़ता है
  • हिरासत में लिए गए असंतुष्टों के परिवारों तक को व्यवस्थित निगरानी और दंड का निशाना बनाया जाता है
  • मीडिया या तो self-censorship करता है या सरकार की सक्रिय सेंसरशिप झेलता है, और कुछ मामलों में उसे बंद भी किया जा सकता है
  • UAE की आबादी का लगभग 90% हिस्सा ऐसे प्रवासी मज़दूरों का है जिनका कोई राजनीतिक प्रतिनिधित्व नहीं है; उनके मामले में पासपोर्ट जब्ती, वेतन न देना और भीषण गर्मी में जबरन श्रम जैसे श्रम शोषण के मुद्दे उठते रहे हैं
  • एक मानवाधिकार संगठन ने आकलन किया कि आधुनिक दासता की व्यापकता के मामले में UAE दुनिया का सातवाँ सबसे ऊँचा देश है

OpenAI के लोकतंत्र तर्क की दो धाराएँ

  • OpenAI के global affairs प्रमुख Chris Lehane ने The Hill में लिखा कि AI का भविष्य लोकतांत्रिक मूल्यों से आकार लेना चाहिए, और अगर अमेरिका AI बनाना चाहने वाले देशों की मदद नहीं करेगा तो तानाशाह उस खाली जगह को भर देंगे
  • OpenAI की व्याख्या मोटे तौर पर दो तर्कों में बँटती है
    • अमेरिकी AI में लोकतांत्रिक मूल्य निहित हैं, इसलिए उसे अधिक लोगों तक पहुँचाने से लोकतंत्र फैलेगा
    • अमेरिका एक लोकतांत्रिक देश है और चीन नहीं, इसलिए AI “प्रतिस्पर्धा” में अमेरिका की जीत लोकतंत्र के हित में होगी
  • पहला तर्क चरम स्थितियों में कुछ हद तक सही हो सकता है, लेकिन UAE deal पर ठीक से लागू नहीं होता
    • यदि कोई देश censored AI chatbot तक पहुँच पर रोक लगाकर बाद में उसे अनुमति दे, तो सूचना की स्वतंत्रता के लिहाज से यह लोकतांत्रिक मूल्यों के पक्ष में हो सकता है
    • किसी अलोकतांत्रिक सरकार की इच्छा के विरुद्ध लोकतंत्र-समर्थक AI tools उपलब्ध कराना भी सीमित रूप से सार्थक हो सकता है
    • लेकिन यह मानने का कोई आधार नहीं कि Stargate UAE ऐसा कोई परिदृश्य साकार करना चाहता है
  • OpenAI ने प्रचार किया कि UAE दुनिया का पहला देश बनेगा जहाँ ChatGPT को nationwide enable किया जाएगा, लेकिन यह स्पष्ट नहीं कि क्या पहले UAE में ChatGPT सीमित था, और अमेरिका, ऑस्ट्रेलिया या कनाडा जैसे देश “nationwide enablement” क्यों नहीं माने जाते
  • यह रिपोर्ट भी आई थी कि UAE निवासियों को ChatGPT Plus मुफ्त मिलेगा, लेकिन वह फर्जी खबर निकली

ChatGPT संचालन और UAE की सेंसरशिप सीमाएँ

  • ऐसा कोई संकेत नहीं है कि UAE में ChatGPT को दूसरे AI tools की तुलना में अधिक लोकतांत्रिक तरीके से चलाया जाएगा
  • UAE के निवासी Gemini, Claude और Llama जैसे अन्य अमेरिकी AI products तक भी पहुँच रखते हैं
  • OpenAI COO Brad Lightcap से पूछा गया कि क्या UAE में ChatGPT शाही परिवार की आलोचना जैसे संवेदनशील विषयों पर “red lines” का पालन करेगा; उन्होंने जवाब दिया, “अभी नहीं जानते। हमें देश के साथ partnership में मिलकर काम करना होगा।”
  • यह जवाब इस संभावना को खारिज नहीं करता कि ChatGPT को UAE की मौजूदा राजनीतिक सेंसरशिप सीमाओं से टकराव से बचाने के लिए ढाला जाएगा

AI compute infrastructure और राज्य सत्ता

  • दूसरा तर्क, यानी अमेरिका-चीन AI प्रतिस्पर्धा, अपेक्षाकृत अधिक विश्वसनीय लग सकता है
    • AI की सफलता में compute resources बड़ी भूमिका निभाते हैं
    • फिलहाल अमेरिका में विशाल data centers बनाना कठिन माना जाता है
    • यदि दूसरे देश पूँजी, energy और permits दें, तो अमेरिकी कंपनियाँ अधिक compute resources हासिल कर बेहतर AI बना सकती हैं
  • लेकिन केवल अमेरिका और चीन पर केंद्रित नजरिया UAE deal के बड़े निहितार्थों को अनदेखा कर देता है
  • बड़े compute infrastructure, खासकर सैकड़ों हज़ार advanced AI accelerators से बने विश्वस्तरीय AI supercomputers, अब राज्य शक्ति के महत्वपूर्ण इंजन बनते जा रहे हैं
  • इस दृष्टि से Stargate UAE, UAE सरकार की शक्ति और AI प्रभाव को काफी बढ़ाने वाली deal है
  • सार्वजनिक जानकारी के आधार पर यह बहुत अस्पष्ट है कि compute resources की ownership और usage rights किसके पास होंगे, लेकिन जब UAE इतना भारी निवेश कर रहा है तो यह मानना कठिन है कि उसे उन chips पर पर्याप्त पहुँच या ownership नहीं मिलेगी

Gulf AI/semiconductor deals की शर्तें और अनिश्चितताएँ

  • Gulf देशों के साथ semiconductor deals करना अपने आप में स्वभावतः बुरा नहीं है
  • OpenAI की UAE deal और ऐसी कई मिलती-जुलती deals के विवरण सार्वजनिक नहीं हैं, और कुछ तो अभी अंतिम रूप में भी नहीं पहुँचीं
  • अमेरिका राष्ट्रीय सुरक्षा कारणों से Gulf क्षेत्र की तानाशाही सरकारों के साथ लंबे समय से काम करता आया है, और कठोर realpolitik के नजरिए से ऐसे deal structures संभव हैं जिनमें लागत से अधिक लाभ हो
  • बाद में यह तय करने के लिए कि अमेरिका ने अच्छी deal की या नहीं, निम्न शर्तें अहम होंगी

    • chip की संख्या

      • compute resources की ownership और usage rights
      • चीन को technology transfer रोकने के safeguards
      • फिर भी Stargate UAE deal का सबसे अच्छा संभव संस्करण भी UAE शाही परिवार को स्वीकार्य शर्तों पर ही आधारित होगा, इसलिए इस partnership का लोकतंत्र को शक्तिशाली ढंग से बढ़ावा देना कठिन है

OpenAI का mission और शक्ति-संकेंद्रण की समस्या

  • अगर OpenAI एक साधारण for-profit company होती, या AI कम महत्वपूर्ण technology होती, तो इस deal के आसपास की प्रचार-भाषा का महत्व कम होता
  • लेकिन OpenAI खुद को mission-driven nonprofit के रूप में प्रस्तुत करता है, और बेहद शक्तिशाली technology बनाने का दावा करता है
  • “AI से पूरी मानवता को लाभ पहुँचाना” वाला mission अक्सर सुरक्षित AGI बनाने तक सीमित कर दिया जाता है, लेकिन दुनिया बदल सकने वाली technology को वास्तव में सबके हित में विकसित करना, “इसे सुरक्षित बनाना” या “इसे अमेरिका में बनाना” से कहीं अधिक जटिल प्रश्न है
  • शक्तिशाली AI systems तक किसकी पहुँच होगी और उनका नियंत्रण किसके पास होगा, यह तय करने वाला केंद्रीय सवाल है कि लाभ किसे मिलेगा
  • मौजूदा शक्ति-अंतर को और चौड़ा किए बिना, तानाशाही व्यवस्थाओं को मजबूत किए बिना, और आम लोगों की शक्ति को कमजोर किए बिना AI को आगे बढ़ाना अभी भी सभ्यता-स्तर की एक अनसुलझी चुनौती है
  • Stargate UAE को लोकतंत्र परियोजना के रूप में प्रचारित करना इस बात का संकेत ज्यादा लगता है कि OpenAI इस चुनौती को पर्याप्त गंभीरता से नहीं ले रहा

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-06-09
Hacker News की राय

  • मैं मोटे तौर पर इस दिशा से सहमत हूँ, लेकिन यह निराशाजनक है कि OpenAI जैसी मशहूर कंपनी जो कर रही है, उसकी तुलना Cisco·Oracle जैसी कम चर्चा में रहने वाली विशाल औद्योगिक कंपनियों ने एक पीढ़ी से जो किया है, उससे करते समय बहुत ज़्यादा विशेष छूट दे दी जाती है
    अगर विश्लेषण सिर्फ OpenAI से शुरू होकर उसी पर खत्म हो जाए, तो वह कम प्रभावशाली लगता है

    • Cisco और Oracle ने कभी भी मानवता की प्रगति को अपना लक्ष्य बताने वाले non-profit के रूप में शुरुआत नहीं की थी
      यह Google के “do no evil” छोड़ने पर हुई आलोचना से अलग नहीं है। और सिर्फ इसलिए कि अतीत में किसी कंपनी के बुरे व्यवहार को नज़रअंदाज़ कर दिया गया, इसका मतलब यह नहीं कि आगे दूसरी कंपनियों से बेहतर मानक की उम्मीद नहीं करनी चाहिए
    • उन्नत तकनीक उद्योग दशकों से UAE को विशाल कंप्यूटर सिस्टम और उन्नत तकनीक बेचता आया है
      AMD का GloFo spin-off भी मूल रूप से Abu Dhabi में state-of-the-art fab रखने की मंशा से था, लेकिन रेगिस्तान में कमजोर supply chain और मीठे पानी की कमी जैसी वास्तविकताओं से टकरा गया
    • यह बात सही लगती है कि राजनीति संभव की कला है
      यह झुंझलाने वाला है, लेकिन कम से कम लोग सिद्धांतों के इर्द-गिर्द संगठित होने की कोशिश तो करते हैं। भले ही वे सिद्धांत उनके असली प्रेरक कारण न लगें। इस मामले में लेखक साफ़ तौर पर OpenAI से खास नाराज़ दिखता है, फिर भी तर्क अपने आप में अच्छा है
    • मान लीजिए Joe और Jane दोनों ने illegal parking की
      Joe की illegal parking की ओर इशारा करना “विशेष छूट” नहीं है। इस अभिव्यक्ति का अर्थ वह नहीं है
    • मैं कुल मिलाकर सहमत हूँ, लेकिन यहाँ एक अहम संदर्भ यह है कि इस लेख का लेखक पहले OpenAI board में था
      वही board जिसने Sam Altman को हटाया था

  • आप यह चूक रहे हैं कि लेख अमेरिकी तानाशाह की नहीं, बल्कि खाड़ी राजशाही तानाशाहों की बात कर रहा है
    बात बहुत सीधी है। पहला, Nvidia के नज़रिए से अपने भरोसेमंद सऊदी निवेशकों को बड़े पैमाने पर GPU बेचना शानदार विचार लगता है। दूसरा, खाड़ी राजशाहियाँ अमेरिका पर निर्भर हैं और इस्लामी क्रांति से बचना चाहती हैं। तीसरा, वे चाहते हैं कि data center की बिजली के लिए solar cells इस्तेमाल हों।
    क्या वे users को track करेंगे? बिल्कुल। और GCHQ व NSA अपने-अपने घरेलू कानूनों को दरकिनार करने के लिए intelligence-sharing agreements कर सकते हैं। इसमें कुछ नया नहीं है। बस किसी भी SaaS service को अपनी सोच मत सौंपिए

    • मुझे लगता है कि समस्या “अपनी सोच मत सौंपिए” से थोड़ी अधिक पेचीदा है
      उनके पास पहले से मेरी खरीदारी का इतिहास, पते का इतिहास, call metadata है, और अब DOGE के ज़रिए संघीय डेटा का बड़ा हिस्सा भी है। मेरे हितों के खिलाफ होने के लिए उन्हें मेरी Twitter feed की भी ज़रूरत नहीं है।
      वे वेब को भी पागलों की तरह scrape कर रहे हैं, इसलिए सीमा SaaS से कहीं ज़्यादा व्यापक है
    • छोटे खाड़ी देशों में अब इस्लामी क्रांति करने वाला कोई बड़ा वर्ग लगभग बचा ही नहीं है
      स्थानीय नागरिक अल्पसंख्यक हैं, सुरक्षा बल पूरी तरह शासकों के अधीन विदेशी लोग हैं, और कुछ मामलों में उनकी संख्या कुल स्थानीय आबादी से भी अधिक है। स्थानीय लोग भी इतने समृद्ध हैं कि सब कुछ दाँव पर लगाकर लड़ने की प्रेरणा कम है
    • “वे data center की बिजली के लिए solar cells चाहेंगे” यह कुछ ज़्यादा ही आशावादी लगता है
      उलटे, मुझे लगता है कि AI प्रतिस्पर्धा में यह सबसे बुरे प्रदूषण स्रोतों में से एक बन सकता है। असीमित आपूर्ति वाले तेल और गैस को जलाने का प्रलोभन बहुत प्रबल है
    • अंततः HN एक छोटा बुलबुला है, और बाहर के बहुत से लोग पर्याप्त रूप से जागरूक नहीं हैं, और जल्द ही और भी ज़्यादा लोग सुविधा और गोपनीयता का सौदा कर देंगे
      एक नज़रिए से देखें तो बेहतर यही होगा कि ऐसा प्रलोभन पैदा ही न होने दिया जाए

  • मुझे यह काफ़ी स्पष्ट लगा कि LLM की मुख्य उपयोगिता समाज में भेजे जाने वाले संदेशों को बढ़ाने वाला शक्ति-गुणक है
    आम लोग लगभग नकल जैसी communication और interaction की मोटी चादर में घिर जाएँगे, जिनमें से अधिकांश इंसान नहीं होंगे। इंटरनेट को नियंत्रित करने का एकमात्र तरीका आखिरकार उसे डुबो देने की तरह ढक देना साबित हुआ है

    • मैं अक्सर यह दावा देखता हूँ कि LLM की मुख्य उपयोगिता सामाजिक संदेश-वृद्धि है, लेकिन यह मुझे बिल्कुल स्पष्ट नहीं लगता
      मैं काफ़ी introverted हूँ; जानना चाहता हूँ कि आप भी वैसे हैं या उलटे। मैं आमतौर पर कुछ खास माध्यम पढ़ता हूँ, online “interaction” ढूँढता नहीं, और social media से पूरी तरह बचता हूँ। social media से पहले यह सामान्य था। क्या आपको नहीं लगता कि LLM का दुरुपयोग लोगों को नेटवर्क के अधिक आदिम उपयोग-पैटर्न की ओर वापस धकेल सकता है?
      और यह भी कि इंटरनेट को नियंत्रित करने के लिए उसे ढक देना ही काफी है, जबकि वास्तव में हम कानूनों को मोड़ने में कोई खर्च न बचाने वाला व्यवहार भी देख रहे हैं। यहाँ सिर्फ “जनता” को नीचे धकेलने से कहीं अधिक दाँव पर लगा है
    • अपने ज्ञान और कल्पना पर कितनी अधिक अति-आत्मविश्वास होना चाहिए कि कोई यह मान ले कि LLM की मुख्य उपयोगिता क्या है, यह साफ़-साफ़ पता है
      1780 में लोग भाप इंजन की मुख्य उपयोगिता क्या मानते थे?
    • अगर “hoi polloi” से आपका मतलब आम जनता है, तो मैं सहमत नहीं हूँ
      व्यावसायिक लेन-देन में शायद ऐसी चीज़ काम आ जाए, लेकिन लोगों को social media पर टिकाए रखने वाली चीज़ वह सामाजिक अंतःक्रिया की ज़रूरत है, जो इस तरीके से पूरी नहीं होती। अगर आपका मतलब elite है, तब भी नहीं। वे पहले से ही लोगों को buffer की तरह इस्तेमाल करके यह करते आए हैं, और अगर वे पर्याप्त अमीर हैं तो आगे भी ऐसा करने की पूरी संभावना है
    • इस विचार को स्वीकार करना कठिन है
      media पहले ही किसी व्यक्ति की क्षमता से बहुत ज़्यादा चिपचिपे कचरे से भरा हुआ है। औसत attention पहले ही saturation पर है, इसलिए AI-generated कचरा और उड़ेल देने से बहुत फ़र्क पड़ेगा, ऐसा नहीं लगता।
      इंटरनेट को नियंत्रित करने का तरीका शाब्दिक रूप से उसे नियंत्रित करना है। ठीक वैसे जैसे सरकारें पहले से कर रही हैं

  • तानाशाहों के लिए कुछ बनाना ईमानदारी से कहें तो लोकतंत्र के लिए अच्छा नहीं होने की संभावना ज़्यादा है
    अगर आप चाहते हैं कि लोकतंत्र स्वस्थ रहे, तो कामगार वर्ग की संपत्ति को अधिकतम करना बेहतर है। जिन लोगों के पास अपने, अपने परिवार और समुदाय का थोड़ा ध्यान रखने लायक फुर्सत होती है, उनके पास लोकतंत्र में सार्थक भागीदारी के लिए समय और शिक्षा भी हो सकती है।
    चाहे वह अमेरिकी तानाशाह हो, खाड़ी देशों का तानाशाह हो, या रूसी तानाशाह, किसी के लिए भी ऐसा न करना ही बेहतर होगा। बेशक, कहना आसान है करना नहीं

    • ये बातें आपस में कुछ कम जुड़ी हुई लगती हैं
      मैं जानना चाहता हूँ कि तानाशाही देश में लोकतंत्र में भागीदारी का मतलब क्या है।
      विडंबना यह है कि जैसे-जैसे तकनीक singularity या उसके करीब के स्तर तक आगे बढ़ती है और low-skill व mid-skill नौकरियों के अधिकांश हिस्से को automate करती है, पश्चिम, खासकर अमेरिका में, अधिक dystopian प्रवृत्तियाँ दिखती हैं। दूसरी ओर, ऐसे तानाशाही राज्यों के पास लंबे समय से अपने नागरिकों, और अब निवासियों तक के लिए मज़बूत welfare systems रहे हैं, और उनकी आबादी छोटी होने के कारण वे AI boom के लाभ लेने की अनुकूल स्थिति में हैं

  • मेरा मानना है कि निहितार्थ उलटी दिशा में हैं
    कोई भी तकनीक जो पर्याप्त रूप से प्रभावशाली हो, किसी भी सरकार को तानाशाही और सर्वसत्तावादी बना सकती है। सत्ता में बैठे लोगों के लिए सब कुछ नियंत्रित करने की इच्छा सबसे बड़ा प्रलोभन है, और वहीं से भयानक राज्य और जनता पर शासन पैदा होता है

  • बस Orwell की 1984 का वह मुख्य विचार याद कर लें कि हर घर में मौजूद TV हमेशा निगरानी करता है, और उस डिवाइस के पीछे कोई वास्तव में जो देख रहा है उसे समझ भी लेता है
    आख़िरी हिस्सा ही dystopian माना जाता था। दिन भर सबको देखने और समझने लायक़ इतने लोग हो ही नहीं सकते, और निगरानी करने वालों पर निगरानी कौन रखेगा, यह सवाल भी है। 1984 के पास इसे लागू करने का कोई व्यावहारिक तरीका नहीं था, इसलिए वह एक डरावनी कल्पना के ज़्यादा क़रीब थी।
    इतिहास में पहली बार नए LLM/जनरेटिव AI 1984 के उस हिस्से को व्यावहारिक रूप से वास्तविक बना रहे हैं। “ख़तरनाक विचारों” की early warning के लिए प्रति घर एक GPU काफ़ी होगा, और यह या तो अभी संभव है या बहुत जल्द होगा। हर घर को दिए गए computation की मात्रा इतनी कम होगी कि केवल बुनियादी और कमज़ोर intelligence ही चल सकेगी, और यही बात उलटे इसे और भी परफ़ेक्ट बनाती है। AGI कम से कम सिद्धांत में दोनों पक्षों की बात सुनकर बड़ी तस्वीर की जाँच कर सकता है और विरोधी पक्ष का साथ भी दे सकता है, लेकिन एक linear LLM agent में ऐसी क्षमता नहीं होती।
    रिपोर्टें हैं कि OpenAI और Apple सहित कम-से-कम 6 कंपनियाँ ऐसे हमेशा निगरानी करने वाले घरेलू डिवाइस पर काम कर रही हैं जिनके backend में नवीनतम जनरेटिव AI होगा। सिर्फ़ एक वाक्य में अर्थपूर्ण मदद करने के लिए पर्याप्त context चाहिए, इसलिए आपकी हाल की पूरी ज़िंदगी को देखना ज़रूरी हो जाता है। और साथ ही इतना ही यह जानने के लिए भी काफ़ी है कि आप किसे वोट देंगे, आप किसी ऐसे protest में जाएँगे या नहीं जिसकी घोषणा अभी हुई भी नहीं है, और आपको डराकर न जाने देने का सबसे अच्छा तरीका क्या है। यह कील ठोकने वाले औज़ार और हत्या के हथियार के बीच फ़र्क जैसा है। दोनों में वही हथौड़ा है।
    TikTok-China campaign के दौरान LGBT लोगों के बहुत-से वीडियो थे जिनमें वे बता रहे थे कि TikTok ने उनकी sexual orientation कितनी जल्दी पहचान ली। उन्होंने किसी वीडियो को like नहीं किया था, किसी को follow नहीं किया था, और कोई track की जा सकने वाली profile information भी नहीं दी थी, फिर भी TikTok ने पहचान लिया — कभी-कभी तो उनके ख़ुद मान लेने से पहले ही। TikTok सिर्फ़ यह देखकर जान लेता है कि user क्या और कितनी देर तक देखता है। मर्दों के workout वीडियो पर महिलाओं के वीडियो की तुलना में बहुत ज़्यादा देर रुकना, या उसका उल्टा, इतना ही काफ़ी है। लगता है इसका इस्तेमाल लोगों को डराने के लिए किया गया था कि सिर्फ़ app के इस्तेमाल से China अमेरिकियों के बारे में कितना कुछ जान सकता है।
    अगर वह डरावना लगता है, तो इससे भी ज़्यादा डरावनी बात यह है। LLM-backend डिवाइस पहले से ही सिर्फ़ यह देखकर बहुत कुछ कर सकता है कि आप कौन-से TV program देखते हैं, किन हिस्सों पर हँसते हैं, और अपने पास बैठे व्यक्ति से क्या कहते हैं। हो सकता है उसे multimodal होने की भी ज़रूरत न पड़े। subtitles और speech-to-text ही काफ़ी लगते हैं। यह इस बात को भी पहचान सकता है कि आप आने वाले authoritarianism का विरोध करना चाहते हैं, उससे पहले कि आप ख़ुद अपने भीतर इसे स्वीकार करें।
    जब Helen Toner धरती के दूसरे छोर की democracy की चिंता कर रही हैं, तब लोकतंत्र का गढ़ शायद Orwell-शैली के समाज के पहले कामकाजी implementation से सिर्फ़ आख़िरी दो क़दम दूर रह गया है। पहला क़दम है सबको अपने फ़ायदे के लिए ऐसे डिवाइस घर में लाने के लिए राज़ी करना, और यह अभी चल रहा है। दूसरा क़दम है उस डिवाइस का उपयोग हमारे फ़ायदे के बजाय किसी और मक़सद के लिए कराने हेतु मालिक कंपनी को धमकाना या अपने क़ब्ज़े में लेना, और यह अभी बाकी है

    • 1984 तो बल्कि यह कहती है कि ऐसी निगरानी को प्रभावी बनाने के लिए हर समय सबको देखना ज़रूरी नहीं; बस इतना काफ़ी है कि कुछ ख़ास पलों में निगरानी में होने की संभावना इतनी ज़्यादा हो कि लोग विरोध के संकेत दिखाने की हिम्मत न करें
      “किसी भी क्षण यह जानने का कोई तरीका नहीं था कि आप पर नज़र रखी जा रही है या नहीं। Thought Police कितनी बार, या किस व्यवस्था के तहत, किसी व्यक्तिगत लाइन में घुसती थी, यह सिर्फ़ अनुमान का विषय था। हो सकता है वे हर किसी को हर समय देख रहे हों। लेकिन किसी भी हालत में, वे जब चाहें आपकी लाइन में घुस सकते थे। आपको इस धारणा के भीतर जीना पड़ता था कि आपकी हर आवाज़ सुनी जा रही है, और जब तक अँधेरा न हो, आपकी हर हरकत देखी जा रही है; और अंततः आदत वृत्ति बन गई, और आप वैसे ही जीने लगे।”
      हाँ, यह बात सही है कि इतिहास में पहली बार कई देश सचमुच पूर्ण संचार निगरानी के काफ़ी क़रीब पहुँच गए हैं
    • किसी व्यवहार को “ख़तरनाक” या “ग़ैर-ख़तरनाक” के रूप में classify करना जनरेटिव AI नहीं, बल्कि AI का — पुराने शब्दों में — machine learning का बिल्कुल सटीक उदाहरण है
      output कोई text explanation नहीं बल्कि एक binary yes/no होता है। यह LLM से भी किया जा सकता है, लेकिन उसी dataset पर train किए गए किसी विशेष machine learning model के लगभग हर quantitative metric पर बेहतर होने की संभावना ज़्यादा है, और यह तकनीक transformers के आने से बहुत पहले से मौजूद थी
    • “दिन भर सबको देखने और समझने लायक़ इतने लोग हो ही नहीं सकते” वाली बात पर, क्या सुबह व्यायाम करवाने वाला प्रशिक्षक कोई दर्जन-भर monitors नहीं देख रहा था?
      जैसे मोहल्ला-स्तर की Thought Police

  • तानाशाहों और तानाशाही शासन के साथ हर तरह का व्यापार प्रतिबंधित होना चाहिए
    मेरे हिसाब से इस सूची के शीर्ष 100 देशों के साथ व्यापार ठीक है: https://en.wikipedia.org/wiki/The_Economist_Democracy_Index
    बाक़ियों के साथ व्यापार करना सिर्फ़ अमानवीय शासन को मज़बूत करेगा, और दुर्भाग्य से ऐसे शासन सिर्फ़ अपने ही नागरिकों को नहीं मारते बल्कि पड़ोसी देशों पर भी हमला करते हैं। Ukraine को देखिए, और शायद जल्द Taiwan के साथ भी ऐसा हो सकता है। पैसे की गंध होती है

    • सोच रहा हूँ, आपका मतलब है कि उस सूची के शीर्ष 100 देश बाक़ियों से व्यापार करके पैसा कमा लें और फिर प्रतिबंध लगाएँ, या उससे पहले ही प्रतिबंध लगाएँ?
      विकसित देशों की संपत्ति का एक बड़ा हिस्सा विकासशील देशों के भ्रष्टाचार का फ़ायदा उठाकर बनाया गया है। इसलिए जब तक वे पश्चिमी ताक़तों के साथ सहयोग करते रहें और अपने संसाधन व लोगों का श्रम पश्चिमी कंपनियों को सस्ते में बेचते रहें, तब तक उनके भ्रष्ट बने रहने के लिए प्रोत्साहन बना रहता है

  • UAE के साथ व्यापार करके लाभ लेना, उस लाभ को आख़िरकार China तक जाने देने से बेहतर है
    मध्य पूर्व को हमेशा दबाकर रखने की कोशिश साफ़ तौर पर काम नहीं आई, इसलिए मुझे लगता है कि अभी जो हो रहा है वह realpolitik है और साफ़-साफ़ दिखने वाला जवाब भी। Saudi तो वैसे भी तानाशाही ही रहेगा, और यह किसी वास्तविक Hearts of Iron को अच्छे से खेलने जैसा है

    • मुझे समझ नहीं आता कि वह लाभ आख़िर है क्या
      नुकसान साफ़ हैं। यह उन लोगों को व्यवहार में हथियार देने जैसा है जिनकी worldview हमारी दुनिया की समझ से बुनियादी रूप से मेल नहीं खाती, और जो अभी भी ज़्यादा से ज़्यादा सुविधा के लिए बने ally हैं। और इस बात की भी कोई गारंटी नहीं कि जो हमने दिया है वह China को दोबारा बेचा नहीं जाएगा। उन शासन व्यवस्थाओं के बदनाम रूप से भ्रष्ट होने को देखते हुए, यह तो लगभग तय ही लगता है

  • वैसे भी यह स्पष्ट नहीं है कि “ज़िम्मेदार” लोगों में से किसी को वास्तव में परवाह भी है या नहीं
    सच कहें तो शायद असल मुद्दा यही है

  • AI का सबसे बड़ा खतरा बगावत नहीं है, बल्कि यह है कि यह तानाशाहों और सर्वसत्तावादियों को पूरी आबादी पर पूर्ण नियंत्रण करने में सक्षम बना सकता है
    पर्याप्त रूप से विकसित algorithms cross-reference, writing style वगैरह के आधार पर यह ढूँढ सकते हैं कि किसी व्यक्ति ने online क्या-क्या पोस्ट किया है, और उसके दृष्टिकोण व विचारों का काफ़ी उच्च सटीकता से आकलन कर सकते हैं। यह भी extrapolate किया जा सकता है कि उसके विचार समय के साथ कैसे बदले हैं।
    सरकार किसी असंतुष्ट व्यक्ति को, उसके खुद यह समझने से भी पहले कि वह असंतुष्ट है, संगठित होने का समय मिलना तो दूर, उससे बहुत पहले ही निशाना बना सकती है

    • क्या यह कुछ “काफ़ी स्मार्ट compiler” जैसा है
      Stylometric analysis एक अच्छी तरह से शोध किया गया क्षेत्र है। यह जानकर कुछ राहत मिल सकती है कि यह तभी व्यावहारिक होता है जब किसी पोस्ट के संभावित लेखक कम हों, और हर लेखक से sample के रूप में इस्तेमाल करने लायक पर्याप्त text मौजूद हो। यानी ऐसी स्थिति में जहाँ हर व्यक्ति संभावित suspect हो, anonymous पोस्ट को उसके लेखक से वापस जोड़ना ज़्यादातर मामलों में पूरी तरह असंभव है। कुछ व्यावहारिक मामलों में भी यह ज़्यादा से ज़्यादा आगे की जाँच के लिए एक कमज़ोर signal ही बनाता है।
      Greenstadt आदि का पेपर “Adversarial Stylometry: Circumventing Authorship Recognition to Preserve Privacy and Anonymity” दिलचस्प लग सकता है
    • सत्तावादियों के लिए सच या सटीकता मायने नहीं रखती
      Trump के लिए भी स्पष्ट रूप से नहीं रखती। लोगों को बिना सबूत, और कभी-कभी बिना औपचारिक indictment के भी deport किया जा रहा है। यही सत्तावाद का सार है। नेता जैसा चाहता है वैसा करता है। Trump को संभव बनाने वाली चीज़ AI नहीं, बल्कि checks and balances की एक बेअसर प्रणाली है। इसी तरह W ने अंतहीन युद्ध में घुसने के लिए weapons of mass destruction के बारे में झूठ बोला था। कारण सच न भी हो, उससे फ़र्क नहीं पड़ा। वह बच निकला, और अमेरिकी जनता की क़ीमत पर खुद को और अपने defense contractor दोस्तों को अमीर बना गया
    • तो फिर उस समय ज़रूरत database की है
      https://www.newsweek.com/donald-trump-database-palantir-dyst...
    • यह बस उसी तरह के निकृष्ट लोगों और उनके व्यवहार को समाज को लगातार बिगाड़ते रहने के लिए उकसाने वाला एक नया lever है
      बस यह कहीं बड़े पैमाने पर काम करता है
    • मुझे यक़ीन नहीं है कि आने वाले दशकों में राज्य उतना ही महत्वपूर्ण किरदार निभाएगा जितना उसने ऐतिहासिक रूप से निभाया है
      अभी रुझान यह दिख रहा है कि अमीर व्यक्ति लगातार ज़्यादा शक्ति केंद्रीकृत कर रहे हैं, और यह सार्वजनिक क्षेत्र में और भी स्पष्ट होता जा रहा है। खास तौर पर यह भी दिखता है कि AI development के ownership और control की अग्रिम पंक्ति में वही लोग हैं। संयोग से, इस तरह की प्रवृत्ति को अक्सर “tech fascism” कहा जाता है, और अंततः यह फिर से तानाशाह वाली संरचना तक पहुँच जाती है