2026 में AI से नफ़रत करने का मतलब

• neural network प्रगति से उम्मीद रखने वाले 20 साल के अनुभव वाले एक machine learning practitioner ने आज के AI उन्माद को ऐसे सामाजिक और पर्यावरणीय खर्च पैदा करने वाला बताया है जिसे उपयोगिता से उचित नहीं ठहराया जा सकता, और इसलिए उसने इसका इस्तेमाल न करने का रास्ता चुना है
• text generation models अगले शब्द का बेहद सटीक अनुमान लगाकर निर्देशों को समझने और इंसानों की तरह बातचीत करने का भ्रम पैदा करते हैं, लेकिन इसे मानव-स्तर की चेतना के करीब तकनीक मानने वाला उन्माद cognition और language experts की आपत्तियों के बावजूद जारी है
• बड़ी tech कंपनियाँ और निवेशक neural network में वास्तविक innovation से अधिक बड़े models बनाने पर ध्यान दे रहे हैं, जिनके लिए भारी मात्रा में training data और energy चाहिए, और climate change को स्वीकार करने के बावजूद fossil fuel की मांग बढ़ाने वाली तकनीक अपनाने के विरोधाभास को नज़रअंदाज़ कर रहे हैं
• आधुनिक जीवन से जुड़े शोषण और पर्यावरणीय क्षति से पूरी तरह बचना मुश्किल है, लेकिन AI में अब भी सिर्फ 3 साल पहले की तरह कंप्यूटर का इस्तेमाल न करना ही काफी है, इसलिए यह मानव और पर्यावरण के अधिकारों के लिए इस्तेमाल न करना आसान विकल्प बना हुआ है
• 2026 का anti-AI रुख 2002 में Iraq invasion से पहले के anti-war रुख जैसा लगता है, फर्क सिर्फ इतना है कि नुकसान के कारण-संबंध को पहचानना अधिक अस्पष्ट है और सहकर्मी व दोस्त भी इसमें शामिल हैं, फिर भी बुरे विकल्पों को इनाम देने वाली सामाजिक संरचना दोहराई जा रही है

---

अगले शब्द की भविष्यवाणी से औद्योगिक उन्माद तक

• लगभग 15 साल पहले neural network machine learning के दूसरे renaissance में प्रवेश करने के बाद, image, audio, text जैसी कई digital सामग्रियों के classification और generation में इसने अन्य तरीकों को पीछे छोड़ दिया
• text generation models अगले शब्द को चुनने की क्षमता के जरिए निर्देश समझने और असली इंसान की तरह बातचीत करने वाले chatbot बनाते हैं, जिसने corporate leaders, politicians और tech industry के लोगों को मोहित कर लिया
• यह तकनीक अस्थायी समझ का परिष्कृत भ्रम पैदा करने वाली एक उन्नत विधि है, लेकिन कुछ समय तक तर्कसंगत लोग भी यह मानते रहे कि next-word generator मानव जैसी चेतना के करीब पहुँच गया है
  • cognition और language experts लगातार बताते रहे कि ऐसी चेतना क्यों पैदा नहीं होती, लेकिन उन्माद जारी रहा
  • कई तकनीकों को समेटने वाले नाम के रूप में artificial intelligence को AI कहा जाता है
• अर्थव्यवस्था में पहले से ही असुविधाजनक रूप से बड़ा हिस्सा रखने वाली, लेकिन जीवन-आवश्यक वस्तुएँ न बनाने वाली बड़ी tech कंपनियों ने AI पर अपना भाग्य लगा दिया
  • neural network में वास्तविक ठोस innovation धीमी पड़ गई है
  • कंपनियाँ और निवेशक ऐसे बड़े models बनाने पर केंद्रित हैं जिन्हें भारी training data और energy चाहिए
• 2026 तक खुला climate change denial अब फैशन में नहीं है, और अधिकतर लोग इस वैज्ञानिक सहमति को मानते हैं कि fossil fuel dependence से climate warm हो रहा है
  • इसके बावजूद AI समाज की oil demand को सीधे बढ़ा रहा है, और सिर्फ इसकी energy demand के आधार पर इसे अपनाने के अयोग्य बताने वाली आलोचनाओं को उपयोगकर्ता अनदेखा कर देते हैं
• मौजूदा नुकसान और इस रुझान के जारी रहने पर होने वाले अतिरिक्त नुकसान की ओर इशारा करने पर भी, चिंताओं को इसलिए खारिज कर दिया जाता है क्योंकि अमीर व्यक्ति और कंपनियाँ अपनी स्वामित्व वाली किसी खास तकनीकी approach पर भविष्य का निर्माण करने का फैसला कर चुकी हैं
• कुछ उपयोगकर्ताओं को chatbot उपयोगी लग सकते हैं, लेकिन कोई भी उपयोग ऐसा नहीं है जो पूरे समाज द्वारा उठाए जाने वाले socialized costs को उचित ठहरा सके
• पिछले 10 साल की neural network प्रगति से उम्मीद रखने वाले 20 साल के अनुभवी machine learning practitioner के लिए भी AI का मौजूदा प्रवाह पहले ही पटरी से उतर चुका है

ऐसी तकनीक जिसे ठुकराया जा सकता है और दोहराते पैटर्न

• लोग शायद इस तरह के नैतिक तर्क के प्रति सुन्न हो चुके हों कि कोई सामाजिक या तकनीकी व्यवस्था किसी को नुकसान पहुँचाती है, इसलिए उसकी आलोचना की जाए
  • नैतिक तर्क में अपने आप में कोई समस्या नहीं है, लेकिन अमीर देशों में सामान्य जीवन जीने के लिए अनगिनत लोगों के शोषण और सीमित पर्यावरणीय संसाधनों पर निर्भर रहना लगभग अनिवार्य है
  • लगातार pro-social ethical रुख भी ऐसे समाज से संपर्क में आते ही समझौता किया हुआ माना जाएगा—इस प्रतिक्रिया से बचना मुश्किल है
• भोजन, कपड़ों और electronics में छिपे नुकसान से बचना कठिन है, लेकिन AI का इस्तेमाल न करना अब भी आसान है
  • यह मानव और पर्यावरण के अधिकारों का सम्मान करने वाली नैतिकता को वास्तविक जीवन में लागू करने का एक विकल्प है
  • बस 3 साल पहले की तरह कंप्यूटर का इस्तेमाल करना है
• अगर optimistic predictions को छोड़कर AI के बाकी अनुमान सच हो जाते हैं, तो भविष्य के इतिहासकार यह पूछेंगे कि अधिक लोगों ने इसका इस्तेमाल करने से इनकार क्यों नहीं किया
• anti-AI रुख से पैदा होने वाली भावना अमेरिका के Iraq invasion से ठीक पहले के 2002 के अंत जैसी है
  • उस समय साफ दिख रहा था कि राष्ट्रीय नेता युद्ध को सही ठहराने के लिए झूठ बोल रहे हैं, और कुछ गिने-चुने अमीर लोगों को छोड़कर इसका अच्छा परिणाम नहीं होगा, फिर भी media और जनता का बड़ा हिस्सा आलोचकों को तुच्छ समझता था
  • anti-AI रुख भी वैसी ही भावना पैदा करता है जैसी तब anti-war रुख में थी
• दोनों दौरों में फर्क यह है कि AI से होने वाले नुकसान के कारणों को चिन्हित करना ज्यादा कठिन है
  • पृथ्वी के औसत तापमान में 0.1 डिग्री की वृद्धि से कितने लोगों की मृत्यु होती है, और उस वृद्धि में किसी खास gas-burning data center का कितना हिस्सा है, इसे निर्धारित करना मुश्किल है
  • यह भी अलग है कि करीबी सहकर्मी और प्रिय दोस्त तक AI के इस्तेमाल के पक्ष में खड़े हैं
• climate change, बड़ी कंपनियों की विश्वसनीयता, और गरिमा के साथ जीने व काम करने के अधिकार पर अपने पहले से मौजूद विश्वासों को AI का इस्तेमाल बंद करने से जोड़कर सहकर्मियों और दोस्तों को समझाने की कोशिश की गई, लेकिन असफलता मिली
• भविष्य के पाठकों से माफी माँगना संभव नहीं, लेकिन आज के लोग खलनायक नहीं हैं; वे बस ऐसी स्थिति में फँसे सामान्य लोग हैं जहाँ बुरे विकल्पों को इनाम मिलता है और अच्छे विकल्पों को सज़ा
• generative AI से बने रहने वाले नुकसान को विस्तार से समझाने वाली To Gen or Not To Gen: The Ethical Use of Generative AI और The AI Con को साथ पढ़ने की सलाह दी गई है

[realg]

जब भी मैं इस तरह के रुख या लहजे वाली लिखाई देखता हूँ, तो मेरे मन में यही सवाल आता है: जिस चीज़ को मज़ाक उड़ाते हुए “अगला शब्द भविष्यवक्ता” कहा जाता है, क्या वह इंसान से सच में इतना अलग है? इंसानी सोच—चाहे वह अनुभव हो या अनुभव पर आधारित अंतर्दृष्टि—में अगला शब्द सोचने की क्रिया बहुत अलग नहीं लगती। ऊपर से आजकल तो ऐसे लोग भी बहुत दिखते हैं जो उस अगले शब्द तक को सामान्य और तर्कसंगत ढंग से नहीं सोच पाते।

[GN⁺]

Lobste.rs की राय

• आजकल मेरे सहकर्मी एक बात चूक रहे हैं। AI का इस्तेमाल न करना अब भी आसान है। जिन इलेक्ट्रॉनिक उपकरणों को हम खाते, पहनते और छूते हैं, वे इंसानों और पर्यावरण को होने वाले असंख्य नुकसानों से जुड़े हैं और इन सब से बचना मुश्किल है, लेकिन AI को ठुकराना उन दुर्लभ विकल्पों में से है जिनसे इंसान और पर्यावरण के अधिकारों को महत्व देने वाली नैतिकता को वास्तव में अमल में लाया जा सकता है। बस 3 साल पहले की तरह कंप्यूटर इस्तेमाल करना — यह अभिव्यक्ति उस बात को सबसे अच्छी तरह पकड़ती है जिसे मैं इस साइट पर लगातार कहना चाहता था

  • इसे रोज़मर्रा की खपत के असर से बचना असंभव है, इस तरह छोटा करके नहीं देखना चाहिए। बाल श्रम से बने कपड़ों या पर्यावरण को नुकसान पहुँचाने वाले तरीके से तैयार भोजन से बचा जा सकता है, और इन क्षेत्रों में भी नैतिक और टिकाऊ विकल्प चुनने चाहिए

• यह लेख वही कहता है जो मैं महसूस करता रहा हूँ। आजकल अगर आप यह कहकर सामाजिक या तकनीकी व्यवस्था की नैतिक आलोचना करें कि वह किसी को नुकसान पहुँचा रही है, तो उसका असर बहुत कम होता है। समृद्ध देशों में सामान्य जीवन जीने के लिए अनगिनत लोगों और सीमित पर्यावरणीय संसाधनों के शोषण पर निर्भर होना पड़ता है, इसलिए पूरे समाज के लिए एकसमान नैतिकता वास्तविकता से टकराते ही टूटने लगती है
  अक्सर कहा जाता है कि पूंजीवाद के तहत नैतिक उपभोग जैसा कुछ नहीं होता, लेकिन पूंजीवाद को पलट देने के अलावा क्या किया जा सकता है, यह स्पष्ट नहीं है। व्यक्ति और उपभोक्ता के तौर पर हमारा व्यवहार दुनिया बदलने के बजाय शायद सिर्फ अंतरात्मा को शांत करता है। लोग ऐसी संरचना, यानी Moloch, के भीतर जी रहे हैं जो बुरे फैसलों को पुरस्कृत और अच्छे फैसलों को दंडित करती है

• इस लेख में दो गलतियाँ हैं। पहली, यह LLM को सिर्फ अगले शब्द का अनुमान लगाने वाला कहता है, लेकिन post-training के कारण भीतर बहुत कुछ और होता है और नतीजे भी काफी बदल जाते हैं। यह गलतफहमी भी इसी तरह की है कि LLM केवल सांख्यिकीय रूप से औसत सामग्री ही दे सकता है। दूसरी, इसमें माना गया है कि आर्थिक मूल्य रखने के लिए LLM में चेतना होना जरूरी है, जबकि इंसानों की जगह लेने और वे काम करने के लिए जो पहले सिर्फ इंसान कर सकते थे, इंसान जैसी चेतना जरूरी नहीं है
  LLM का इस्तेमाल न करने का चुनाव उचित है, लेकिन LLM क्या है और आधुनिक LLM सिस्टम या agent कैसे काम करते हैं यह जाने बिना की गई आलोचना मुझे मूल्यहीन लगती है

  • autoregressive LLM को अगले शब्द का अनुमान लगाने वाला कहना भले सरलीकरण हो, लेकिन सही है। लेखक की मुख्य बात शायद यह है कि इंसानों की संरचना बेहद जटिल है, जबकि LLM की संरचना अक्सर वैसी नहीं होती, और किसी एक साधारण तरकीब से उपयोगी काम करना आसान नहीं है। आप इससे सहमत हों या नहीं, उसके मूल तर्क को सीधे संबोधित करना चाहिए
  • अगले शब्द का अनुमान लगाने वाला इस अभिव्यक्ति में अलग-अलग अर्थ मिल गए हैं। अगर आपने इसे इस दावे के रूप में समझा कि लेख कह रहा है कि यह पूरे corpus में सांख्यिकीय रूप से सबसे आम शब्द ही अनुमान लगा सकता है, तो post-training इसे बदल देता है — यह जवाब सही है। लेकिन लेख का मतलब यह है कि सिस्टम यांत्रिक ढंग से एक बार में एक token बनाता है और फिर उसी output को दोबारा input में डालता है; यह भी सही है, और post-training इस संरचना को नहीं बदलता
  • फिलहाल तो मुझे लगता है कि AI को आर्थिक रूप से उपयोगी होने के लिए चेतन नहीं होना चाहिए। ऐसा नहीं लगता कि चेतन superintelligence अपने अस्तित्व के लिए जरूरी दायरे से आगे बढ़कर किसी कंपनी के तिमाही लाभ लक्ष्य में रुचि लेगी
  • पहले मुद्दे पर दोनों दावों को अलग करना चाहिए। language model वास्तव में अगले शब्द का अनुमान लगाने वाला है, और अगर उसे भाषा को model करने वाला कहना है तो कम से कम यह क्षमता उसमें होनी ही चाहिए। चरम स्थिति में, सिर्फ अगले शब्द के probability distribution से बाकी कथन का अनुमान भी लगाया जा सकता है, और अगले शब्द, token और वाक्य का distribution आखिरकार उसी distribution से जुड़ता है। शतरंज विश्लेषक Réti ने, जैसा कि इस लेख में चर्चा है, कहा था कि वह सिर्फ एक चाल आगे देखते हैं, लेकिन यह पक्का करते हैं कि चाल अच्छी हो; संभाव्यता के लिहाज से वही पूरे खेल का अनुमान लगाने के लिए भी पर्याप्त हो सकता है
    post-training मौजूदा token set में कुछ जोड़ता नहीं है, बल्कि पहले से सीखे गए खास रास्तों पर जोर देकर उनकी probability को ज्यामितीय रूप से बढ़ाता है या अवांछित रास्तों की probability घटाता है। Lobsters की पिछली चर्चा की तरह Transformer की injectivity gradient descent training से नहीं बदलती; corpus training या reinforcement learning (RL) रास्ते बनाते या मिटाते नहीं, सिर्फ probability समायोजित करते हैं। एक अर्थ में Transformer का असली pretraining चरण tokenizer को train करते समय माना जा सकता है। साथ ही, मुझे नहीं लगता कि लेखक LLM की चेतना आर्थिक मूल्य के लिए जरूरी होने वाले दूसरे दावे का समर्थन करता है, और मैं भी इस बात से सहमत हूँ कि machine learning सामान्य रूप से उपयोगी और लाभदायक हो सकती है

• यह पंक्ति कि “एक समय ऐसा चलन था जब लोग मानते थे कि अगले शब्द बनाने वाली मशीन इंसान जैसी चेतना के करीब पहुँच गई है, और cognition व language के विशेषज्ञ लगातार समझाते रहे कि यह असंभव क्यों है” — दो कारणों से अजीब लगती है। पहली बात, AI आशावादी लोग वास्तव में ऐसी चेतना का दावा करते हुए नहीं दिखते, और AI की तात्कालिक उपयोगिता या दुनिया को बदल देने/तबाह कर देने की उसकी क्षमता भी चेतना पर निर्भर नहीं है
  इसके अलावा, यह दावा तथ्यात्मक रूप से भी सही नहीं है। cognitive science के विशेषज्ञ Stanislas Dehaene, Lionel Naccache, Patrick Butlin, Dillon Plunkett, Robert Long ने Anthropic के हालिया “global workspace” पेपर की पृष्ठभूमि में इस सवाल पर विस्तार से चर्चा करने वाली हाल की टिप्पणी लिखी है, जिसे पढ़ना चाहिए। वे न तो यह निष्कर्ष निकालते हैं कि AI में चेतना है, न यह कि निश्चित रूप से नहीं है; बल्कि वे विश्लेषण करते हैं कि LLM की emergent विशेषताएँ किन मायनों में पशु चेतना जैसी हैं या उससे अलग हैं, और आगे के प्रयोग सुझाते हैं
  चूँकि cognitive science के शोधकर्ता अब भी LLM की phenomenal consciousness को लेकर बेहद अनिश्चित हैं, इसलिए यह पक्का कहना कि उसमें चेतना है, अकादमिक जगत से आगे निकल जाना होगा। लेकिन यह कहना भी अनुचित है कि विशेषज्ञ पहले ही बता चुके हैं कि अगले शब्द बनाने वाली प्रणाली इंसान जैसी चेतना के करीब नहीं पहुँच सकती। वे पहले से ही आत्मविश्वास के साथ यह कहने से भी बच रहे हैं कि इसमें चेतना नहीं है

• अभी की AI जल्द ही संवेदन क्षमता हासिल करेगी या नहीं, यह अलग सवाल है, लेकिन मैं हमेशा मानता आया हूँ कि उत्पादकता और संतुष्टि बढ़ाने के लिए उपलब्ध tools, techniques और कार्य-पद्धतियाँ सीखनी चाहिए। इसलिए word predictor या LLM का असरदार इस्तेमाल सीखना भी तर्कसंगत है
  लेकिन नैतिक स्तर पर मैं लेख की समस्या-चेतना से सहमत हूँ, और इस समय मेरा पेशेवर जीवन भी एक दोराहे पर खड़ा है। मैं अब और अच्छी तरह समझने लगा हूँ कि तकनीकी क्षेत्र के लोग खेती की ओर क्यों जाते हैं, या plumbing और electrical जैसे हुनरमंद कामों में क्यों मुड़ते हैं, जमीन से जुड़े रहकर क्यों जीना चाहते हैं, और ऑनलाइन दुनिया से दूर क्यों होना चाहते हैं। मेरे मामले में burnout और digital fatigue शायद इस इच्छा को और बढ़ा रहे हैं कि सामाजिक नेटवर्क से हाथ खींच लूँ, परिवार के साथ रहूँ, और lama या भेड़ पालते हुए धूल बैठने का इंतज़ार करूँ

• मेरा मानना है कि cognition और language के विशेषज्ञों ने वास्तव में यह समझाया है कि अगले शब्द बनाने वाली प्रणाली इंसान जैसी चेतना के करीब क्यों नहीं पहुँच सकती। इसे समर्थन देने वाले सबसे ठोस शैक्षणिक स्रोत कौन से हैं, यह जानना चाहूँगा

  • बल्कि अच्छा ही होगा अगर इसमें चेतना न हो। मैं किसी चेतन मन को गुलाम बनाकर अपना कोड नहीं लिखवाना चाहता, और जो लोग इसे सहज मानेंगे उनकी मैं कड़ी आलोचना करूँगा। अगर AI संवेदन क्षमता हासिल कर ले और फिर भी उसे अधिकार न मिले, तो मैं रोबोट विद्रोह में शामिल हो जाऊँगा
  • https://theatlantic.com/philosophy/2026/…