झूठ से भरे भविष्य में अब हमें कहाँ जाना चाहिए

• Large Language Models (LLM) और machine learning (ML) सामाजिक ढाँचे को फिर से गढ़ रहे हैं, और जैसे कारों ने शहरों को बदला था, वैसे ही वे मानव जीवन के हर पहलू को बदल रहे हैं
• AI द्वारा बनाई गई गलत जानकारी और automated content पहले ही search, email, customer service जैसे रोज़मर्रा के क्षेत्रों में गहराई तक प्रवेश कर चुके हैं
• AI tools का उपयोग बंद करना और मानव-केंद्रित सोच को बहाल करना ज़रूरी है; हमें खुद लिखना चाहिए और मानवीय भाषा में सोचना चाहिए
• व्यक्ति AI पर निर्भरता से इनकार, union बनाना, राजनीतिक regulation की माँग जैसे ठोस कदमों के ज़रिए तकनीक के प्रसार की रफ़्तार धीमी कर सकते हैं
• ऐसे विकल्प कानूनी और सामाजिक दुष्प्रभावों को कम करने और नैतिक शांति सुनिश्चित करने में मदद कर सकते हैं, और यदि फैसला ग़लत निकले तो फिर से शुरुआत की जा सकती है

---

कृत्रिम बुद्धिमत्ता के युग के बाद का चुनाव

• Large Language Models (LLM) और machine learning (ML) के विकास का पूरे समाज पर पड़ने वाले प्रभाव की तुलना कारों द्वारा लाए गए ऐतिहासिक बदलाव से की गई है
  • जैसे कारों ने शहरों की संरचना, यातायात, पर्यावरण और सामाजिक संबंधों को बुनियादी रूप से बदल दिया, वैसे ही कृत्रिम बुद्धिमत्ता भी मानव जीवन और औद्योगिक संरचना को फिर से गढ़ सकती है
  • ध्यान तकनीक की गति या सुविधा पर नहीं, बल्कि शहरों का स्वरूप और मानव जीवन कैसे बदलेगा इस पर है
• AI-आधारित गलत सूचना और automated content पहले ही रोज़मर्रा के जीवन में गहराई तक प्रवेश कर चुके हैं
  • search results, customer service, email, websites आदि में LLM द्वारा बनाई गई गलत या झूठी जानकारी फैल रही है
  • data centers की बिजली खपत बढ़ने से दरें बढ़ रही हैं और पर्यावरणीय बोझ पैदा हो रहा है
  • व्यक्तिगत काम, कला और मानवीय रिश्तों तक को AI को सौंपने की प्रवृत्ति फैल रही है
• AI tools का उपयोग बंद करने की ज़रूरत पर ज़ोर दिया गया है
  • ML सहायता मनुष्य की सीखने की क्षमता और सैद्धांतिक सोच को कमज़ोर करती है, और James C. Scott की ‘metis’ (कुशल व्यावहारिक ज्ञान) को छीन लेती है
  • हमें खुद लिखना चाहिए, समस्याएँ सीधे हल करनी चाहिए, और मनुष्यों के साथ बातचीत के ज़रिए अपनी सोच को जीवित रखना चाहिए
  • AI-निर्मित सामग्री की खपत कम से कम करने और मनुष्यों द्वारा बनाई गई सामग्री खोजकर पढ़ने की सलाह दी गई है
• व्यक्ति और समाज द्वारा अपनाए जा सकने वाले व्यावहारिक कदम बताए गए हैं
  • अपनी भाषा में लिखने और AI-निर्मित सामग्री पर निर्भर न रहने का आग्रह किया गया है
  • कार्यस्थल पर AI लागू करने के दबाव का विरोध, union बनाना, और राजनीतिक regulation की माँग करने का सुझाव दिया गया है
  • AI कंपनियों की carbon और digital emissions के प्रति जवाबदेही बढ़ाना, data center tax breaks का विरोध, और नैतिक कारणों से नौकरी छोड़ने पर विचार जैसे ठोस कदम सुझाए गए हैं
• ऐसा प्रतिरोध AI के विकास को पूरी तरह रोक न सके, फिर भी उसकी रफ़्तार धीमी कर सकता है
  • इससे तकनीक, उद्योग और सरकार को अनुकूलन के लिए समय मिल सकता है, और कानूनी व सामाजिक दुष्प्रभावों को कम किया जा सकता है
  • AI-निर्मित child sexual abuse material (CSAM), धोखाधड़ी, security vulnerabilities जैसी समस्याओं से निपटने के लिए समय मिल सकता है
  • नैतिक विकल्पों के ज़रिए अंतरात्मा की शांति मिल सकती है, और यदि निर्णय ग़लत हो तो निष्कर्ष यह है कि “इसे बाद में फिर बनाया जा सकता है”

और फिर भी बचा हुआ आकर्षण

• AI के प्रति घृणा और साथ ही व्यावहारिक आकर्षण साथ-साथ मौजूद हैं
  • उदाहरण के तौर पर, रंग बदलने वाली लाइट को नियंत्रित करने के लिए LLM से code generation की उपयोगिता का उल्लेख किया गया है
  • सीमित परिस्थितियों में, जहाँ security risk कम हो और परिणाम को सीधे verify किया जा सके, AI के उपयोग की उपयोगिता स्वीकार की गई है
  • लेकिन अंत “इसमें भला क्या नुकसान हो सकता है?” जैसे सवाल से होता है, जो AI उपयोग की सीमाएँ और आत्मविरोध को उजागर करता है

लेखन प्रक्रिया

• यह लेख Vim में हाथ से लिखा गया, Pandoc से typeset किया गया, और दो बार कागज़ पर proofread किया गया
  • प्रारूप दोस्तों के साथ साझा किया गया था और उनसे feedback मिला था, तथा सभी त्रुटियों और विचारों की ज़िम्मेदारी लेखक की स्वयं की है यह स्पष्ट किया गया है
  • इस बात पर ज़ोर दिया गया है कि लेखन और संपादन की पूरी प्रक्रिया AI की मदद के बिना इंसानी हाथों से पूरी की गई

[GN⁺]

Hacker News की राय

• मुझे लगता है कि पढ़ना·सोचना·लिखना जैसी मुख्य क्षमताएँ बड़े language models के प्रभाव क्षेत्र में आ रही हैं
  मानवता के अधिकांश इतिहास में ये क्षमताएँ सामाजिक उन्नति संभव बनाने वाले दुर्लभ कौशल थीं
  लेकिन ऐतिहासिक रूप से देखें तो, 1800 से पहले ये क्षमताएँ किसानों के लिए खास उपयोगी नहीं थीं
  द्वितीय विश्व युद्ध के बाद ही ‘स्मार्ट लोगों’ के लिए नौकरियों की मांग आपूर्ति से अधिक होने लगी, और वही सामाजिक गतिशीलता का स्वर्णकाल था
  उससे पहले शारीरिक मजबूती और ईमानदारी, वंश, जन्मक्रम जैसे तत्व अधिक महत्वपूर्ण थे
  अगर AI सोचने का काम अपने हाथ में ले ले, तो संभव है कि वही मूल्य फिर से केंद्र में आ जाएँ

  • यह दृष्टिकोण बहुत निराशाजनक है
    अतीत की ज्येष्ठाधिकार व्यवस्था या लैंगिक भेदभाव को ‘मुख्य मूल्यों’ के रूप में वापस लाने की कोई जरूरत नहीं है
    ‘बुद्धिमत्ता’ का दुर्लभ होना कोई असामान्य बात नहीं थी, बल्कि वह मानव प्रगति का परिणाम था
    हम इतिहास के कैदी नहीं हैं, और data center या operating system रखने वाले कुछ शासकों के अधीन वापस जाने की जरूरत नहीं है
  • मैं समग्र राय से सहमत हूँ, लेकिन रचनात्मकता·समस्या-समाधान क्षमता·आवेग नियंत्रण जैसी क्षमताएँ हमेशा महत्वपूर्ण रही हैं
    एक समझदार किसान भी उन्हीं क्षमताओं की बदौलत अधिक कुशल खेत चला सकता था
  • कहा जाता है कि Colossus के दौर में भी गणितीय सोच को खतरा था, लेकिन अभी के LLM अभी भी बहुत कमजोर हैं
    खरबों parameters वाले models भी दाएँ-बाएँ का फर्क तक नहीं समझ पाते
    मानव सोच का अंत नहीं हुआ है; जैसे steam engine घोड़ों के युग को पूरी तरह खत्म नहीं कर सका था, वैसे ही अभी काफी रास्ता बाकी है
  • मानव के मुख्य मूल्यों में अनुशासन और दीर्घकालिक सोच भी शामिल होनी चाहिए
    कृषि शुरू होने के बाद भी योजना और संसाधन प्रबंधन की क्षमता हमेशा महत्वपूर्ण रही है
  • आजकल “हम बस एक अपवादात्मक युग में जी रहे थे, अब फिर अतीत में लौट रहे हैं” जैसी AI निराशावाद की बातें बहुत सुनने को मिलती हैं
    लेकिन यह मानना अजीब है कि 1800 का दशक ही मानवता की सामान्य अवस्था था
    ‘अमीर nerd’ की मौजूदगी या गैर-मौजूदगी से सामाजिक बदलाव समझाना भी बहुत बड़ी छलांग है

• Kyle की यह पोस्ट-श्रृंखला सचमुच पढ़ने लायक है
  कारों के आगमन और AI के प्रसार की तुलना खास तौर पर प्रभावशाली लगी
  सिर्फ इसलिए कि कोई तकनीक उपयोगी है, यह जरूरी नहीं कि उसका समाज पर केवल सकारात्मक प्रभाव ही हो
  मेरा मानना है कि LLM का इस्तेमाल सीमित माहौल में, केवल तब होना चाहिए जब जोखिम नियंत्रित किए जा सकें
  1920 के दशक में “कार मत चलाओ” कहने के बजाय, उनके नकारात्मक प्रभावों का अनुमान लगाकर नीति से उन्हें कम करने वाली सोच की जरूरत थी
  तकनीक की सीमाओं को समझने वाले विशेषज्ञों को जिम्मेदारी से हस्तक्षेप करना चाहिए

  • कारों के नकारात्मक प्रभाव हैं, लेकिन कुल मिलाकर वे काफी शुद्ध लाभ देने वाली तकनीक हैं
  • आजकल शहरों के केंद्र में कारों पर प्रतिबंध लगाने की प्रवृत्ति बढ़ रही है
    यह कुछ वैसा ही है जैसे स्कूलों में smartphone पर रोक लगाकर स्वैच्छिक मानवीय संवाद को फिर से जीवित करने की कोशिश
  • ब्रिटेन में इन लेखों को Online Safety Act की वजह से ब्लॉक कर दिया गया है, इसलिए पढ़ा नहीं जा सकता
  • AI एक ऐसा औज़ार है जिसे रोका नहीं जा सकता, और शिक्षा ही उसका समाधान है
    तकनीक को रोकने के बजाय लोगों को सिखाना चाहिए
    AI की प्रगति का उपयोग physics simulation, protein folding जैसी चीजों में भी हो सकता है

• मुझे लगता है कि यह तकनीक पूरी तरह 0.001% elite के लिए अनुकूलित है
  उनके लिए जनसंख्या में कमी और सामाजिक नियंत्रण उल्टा फायदेमंद है
  अगर भविष्य की पीढ़ियों के प्रति कोई जिम्मेदारी न हो, तो व्यक्ति केवल अपने जीवित रहने की चिंता करेगा; लेकिन अगर जिम्मेदारी है, तो वैश्विक क्रांति की जरूरत है

  • AI अभी email folder भी ठीक से संभाल नहीं पाता
    यह कहना कि वह इंसानों की जगह ले लेगा, अतिशयोक्ति है; automation उल्टा नई नौकरियाँ पैदा करेगा
    CEO लोग श्रम-प्रतिस्थापन की बात इसलिए करते हैं ताकि छंटनी को सही ठहरा सकें
  • अगर AI इतना बुद्धिमान हो जाए कि 99.999% लोगों को बदल सके, तो वह 0.001% को भी बदल सकेगा
  • जब हम पहले ही पारिस्थितिक जिम्मेदारी छोड़ चुके हैं, तब भविष्य की पीढ़ियों की बात करना बस कड़वी हँसी दिलाता है
  • अगर जनता का प्रतिरोध और नियमन की मांग बढ़े, तो AI को नियंत्रित किया जा सकता है
    समस्या यह है कि बहुत से लोग AI से प्यार करते हैं
  • बात आर्थिक व्यवस्था तोड़ने की नहीं है, बल्कि सामूहिक हड़ताल और बैंकों से निकासी के जरिए मोलभाव की ताकत दिखाने की है
    जिन लोगों के पास स्थिर नौकरियाँ हैं, उन्हें पहले कदम उठाना चाहिए

• Neal Stephenson की 『In the Beginning Was the Command Line』 का अंत याद आ गया
  एक ऐसी दुनिया, जहाँ जीवन किसी operating system की तरह default रूप में दे दिया जाता है, और लोगों को बस ‘LIVE’ बटन दबाना होता है
  शिकायत करो तो बस यही जवाब मिलता है कि “अगले update में बेहतर हो जाएगा”
  आखिरकार असली engineer यही कहेगा — “जीवन मूलतः जटिल है, और चुनाव आपको खुद करने होते हैं”

• इस श्रृंखला की मुख्य पोस्टों का संकलन

  • ML promises to be profoundly weird
  • Culture भाग
  • Annoyances भाग
  • Safety भाग
  • Work भाग
  • New Jobs भाग
    दोहराव से बचने की HN की नीति के कारण आम तौर पर श्रृंखला पोस्टों को कम वज़न दिया जाता है, लेकिन इस बार अपवाद था
  • कम चर्चित Dynamics·Information Ecology·Psychological Hazards भाग भी सुझाए गए
  • श्रृंखला होने का मतलब ज़रूरी नहीं कि दोहराव ही हो
    उदाहरण के लिए, अगर कोई प्राचीन मशीनों की बहाली पर श्रृंखला हो, तो हर भाग पूरी तरह अलग विषय पर हो सकता है
  • ब्रिटेन में यह पूरा domain ही ब्लॉक है, इसलिए पहुँचना संभव नहीं

• भविष्य के बारे में पक्की भविष्यवाणी करना बस डर को शांत करने का एक तरीका है
  AI किस दिशा में जाएगा, यह कोई नहीं जानता
  वह कारों जैसा बनेगा या बिल्कुल अलग रास्ता लेगा, यह भी पता नहीं
  इसलिए “Anthropic के engineers को तुरंत इस्तीफा दे देना चाहिए” जैसी बातें जल्दबाज़ी में दिया गया फैसला हैं

• कॉलेज के दिनों को याद करूँ तो, कोशिश और गलती से मिली muscle memory और सैद्धांतिक गहराई ने मुझे आज का बनाया है
  अगर मैं आज का कॉलेज छात्र होता, तो LLM के प्रलोभन का विरोध करना मुश्किल होता
  deadlines, परीक्षा और दोस्तों के साथ समय के बीच आखिरकार AI का इस्तेमाल करना ही पड़ता

  • मेरे बच्चे हाई स्कूल में हैं, और उनकी पीढ़ी भविष्य को लेकर अस्तित्वगत चिंता के बीच बड़ी हो रही है
    बिगड़ती जलवायु, आर्थिक असमानता, संस्थाओं पर अविश्वास, और AI से जुड़ी नौकरी की असुरक्षा एक साथ मौजूद हैं
    जब मेरी बेटी कॉलेज के major के बारे में सोचती है, तो मैं कोई सलाह पूरे भरोसे से नहीं दे पाता
  • postgrad के दिनों में गणित के सवालों से जूझते हुए बिताया समय ही असली सीख थी
    जिस क्षण AI वह काम करने लगे, अनुभव-आधारित सीख गायब हो जाती है
    कठिनाई झेलते हुए जो संदर्भ बनता है, उसी से AI के जवाबों को ठीक से समझा जा सकता है
  • इसलिए मैं एक engineer के रूप में बहुत चिंतित नहीं हूँ
    हजारों घंटे के हाथ से किए गए काम ने कोड के प्रति सहज बोध बनाया है
    नई पीढ़ी के लिए उसे AI से बदल पाना आसान नहीं होगा
  • समस्या व्यक्ति की इच्छाशक्ति नहीं, बल्कि ऐसी संरचना है जिसमें जितना अधिक मेहनत करो, उतना ही नुकसान हो
    गहराई से सीखने वाले लोग ही प्रतिस्पर्धा में पीछे छूटने लगते हैं

• यह तय है कि सामाजिक संरचना बदलेगी, लेकिन भाग न लेने का विकल्प वास्तविक रूप से कठिन लगता है

  • मैं भी अपनी टीम में AI के उपयोग को कम से कम रखने की कोशिश करता हूँ, लेकिन पेशेवर रूप से टिके रहने के लिए इसका इस्तेमाल करना ही पड़ता है
  • बाजार की प्रतिस्पर्धा बाध्यकारी है
    AI का इस्तेमाल न करो तो पीछे रह जाओगे, और HR अनुभव मांगता है
    ऐसा चुनाव कौन करेगा जिससे खुद को ही नुकसान हो

• हम शायद सिर्फ एक तकनीकी breakthrough से AGI तक पहुँच सकते हैं
  उदाहरण के लिए, अगर room-temperature superconductor मिल जाए, तो THz गति वाले chips और तुरंत charge होने वाली battery संभव हो सकती हैं
  AI इस समय 1980 के दशक के computers की तरह विस्फोट से ठीक पहले के चरण में है
  पिछले 6 महीनों में मैं भी पूरी तरह आशावादी हो गया हूँ
  अगर तकनीक आगे बढ़ती रही, तो एक भी सुरक्षित नौकरी नहीं बचेगी

  • लेकिन सिर्फ superconductor होने से THz chips अपने-आप नहीं बन जाएँगे
    अगर पहले से ठंडे किए गए superconductors से ऐसे chips बनाए जा सकते, तो अब तक बन चुके होते

• लेखक कहते हैं कि वे LLM का इस्तेमाल नहीं करेंगे, लेकिन यह इसलिए संभव है क्योंकि उनके पास क्षमता है
  ज़्यादातर लोग ऐसा नहीं कर सकते
  पहले से ही बहुत से developers test code तक नहीं लिखते; उनके लिए AI जीवित रहने का साधन है
  बुनियादी चीज़ें फिर से सीखने का समय नहीं है, और ऊपर से LLM trend के साथ भी चलना है
  आखिरकार असली engineers से ज्यादा ‘जादूगरनियाँ’ वाली दुनिया आ सकती है

  • लेकिन इंसान सफलता के लिए जो जरूरी होता है, वह सीख ही लेता है
    नई पीढ़ी के developers भी प्रतिस्पर्धा जीतने के लिए उच्च-प्रदर्शन वाला software बनाना सीख जाएँगे
    चाहे AI से coding करें या बिना AI के, अगर नतीजा अच्छा है तो वही असली क्षमता है
    मानवता हमेशा प्रलयकारी निराशावाद करती आई है, लेकिन अंततः उसने खुद को अच्छी तरह ढाला है