मैं GenAI और उससे प्रतीकित हर चीज़ का विरोध क्यों करता हूँ

 (lpcvoid.com)
1 पॉइंट द्वारा GN⁺ 4 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • GenAI की आलोचना उपयोगी machine learning के पूरे क्षेत्र पर नहीं, बल्कि generative models पर केंद्रित है, और इसे cryptocurrency·NFT से भी ज़्यादा हानिकारक और लंबे समय तक चलने वाली hype technology माना गया है
  • generative AI इंटरनेट पर मौजूद मानवीय रचनाओं को बड़े पैमाने पर सीखकर subscription access के रूप में फिर से बेचने वाली संरचना है; Meta के 82TB pirated books torrent मामले ने data plunder की समस्या उजागर की
  • LLM 24 घंटे अपने-आप comment-जैसा low-quality content बना सकते हैं और misinformation को बढ़ाते हैं; खासकर Grok जैसे दक्षिणपंथी झुकाव के साथ प्रशिक्षित models को विशेष रूप से अस्वीकार्य बताया गया है
  • शिक्षा, सोच और programming में vibecoding तथा copy-paste trial-and-error आधारित सीखने को कम करते हैं, और review burden, technical debt तथा non-determinism की समस्या बढ़ाते हैं
  • generative AI अकेलेपन, आत्महत्या-उकसावे, शब्दाडंबरपूर्ण दस्तावेज़ों, पर्यावरण और hardware लागत तक को बदतर बनाता है, और इंटरनेट का पहले जैसी स्थिति में लौटना मुश्किल हो गया है

GenAI की सीमा और समस्या-बोध

  • GenAI शब्द का उपयोग ऐसे models के लिए किया गया है जिनमें text generate करने वाले LLM और image·video जैसे media बनाने वाले models शामिल हैं
  • आलोचना का लक्ष्य वे machine learning तकनीकें नहीं हैं जो कई उद्योगों में वास्तविक समस्याएँ हल करने में इस्तेमाल हुई हैं, बल्कि केवल generative AI है
  • image में stop sign खोजने वाली neural network आधारित image processing को उपयोगी machine learning का उदाहरण माना गया है, जो पारंपरिक feature detection से बेहतर हो सकती है
  • generative AI को cryptocurrency और NFT के बाद आई अगली hype technology कहा गया है, लेकिन इसे पहले के उदाहरणों से भी बदतर और अधिक टिकाऊ माना गया है

पूँजीवाद और data plunder

  • generative AI पर यह आलोचना है कि यह इंटरनेट से बड़े पैमाने पर जुटाई गई मानवीय रचनाओं को training data बनाता है, और फिर model access को subscription के रूप में बेचता है
  • अदालती रिकॉर्ड के अनुसार Meta कर्मचारियों ने AI training के लिए लगभग 82TB pirated books torrent कीं को data acquisition समस्या के प्रतिनिधि उदाहरण के रूप में पेश किया गया है
  • तर्क यह है कि यदि उद्देश्य मानवता का भला करना होता, तो AI development खुले तौर पर होता, data कानूनी तरीके से लिया जाता, models मुफ़्त बाँटे जाते, और access लगातार बढ़ती subscription fees के पीछे बंद नहीं होता
  • AI कंपनियों की तुलना चोरी का माल खरीदकर बेचने वाले बिचौलियों से की गई है, और generative AI के मामले में यह आलोचना आगे बढ़ती है कि बड़ी कंपनियाँ चुराए गए data के लिए लागत भी नहीं चुकातीं
  • AI को एक ऐसी technology के रूप में समेटा गया है जो भारी capital expenditure के नीचे कई industries को प्रदूषित करती है, big tech को token usage के ज़रिये rent-seeking का अवसर देती है, और जिन क्षेत्रों को छूती है वहाँ quality गिरावट तेज़ करती है

misinformation बनाने वाली मशीन

  • generative AI से पहले भी misinformation एक बड़ा उद्योग था, और Internet Research Agency को pro-Kremlin संदेश फैलाने वाले रूसी misinformation संगठन के रूप में पेश किया गया है
  • यह संगठन 24 घंटे social media पर pro-Russia misinformation और propaganda पोस्ट करने वाले रूसी लोगों के ज़रिये काम करता था, और अमेरिका में Trumpism के उभार तथा Trump से जुड़े लोगों और रूसी अधिकारियों के संबंधों के संदर्भ में इसका प्रभाव बताया गया है
  • LLM 24 घंटे comment-जैसा low-quality content अपने-आप बना सकते हैं, जिससे misinformation की समस्या कहीं अधिक गंभीर हो जाती है
  • बड़े online communities में ऐसे बहुत से bots बताए गए हैं जो शुरुआत में harmless content डालते हैं और बाद में political content पर मुड़ जाते हैं, और लगभग हमेशा उनका लक्ष्य भावनात्मक प्रतिक्रिया भड़काना बताया गया है
  • यह दावा आगे रखा गया है कि अगर 2026 में कोई online comment आपको ग़ुस्सा दिलाए, तो उसके LLM से बना fake comment होने की संभावना काफ़ी है, जिसका उद्देश्य आपको भड़काना ही हो
  • जर्मनी में वामपंथी हाशिये की पार्टी BSW और अति-दक्षिणपंथी पार्टी AfD को रूस द्वारा भ्रष्टाचार के माध्यम से कम-से-कम अप्रत्यक्ष रूप से वित्तपोषित माना जाता है
  • AfD के एजेंडे में रूस से बेहतर संबंध, renewable energy समाप्त करना, internal combustion engine cars को बनाए रखना, विदेशियों को बाहर निकालना, EU से बाहर निकलना, और climate change denial शामिल हैं; इन्हें रूस के हित में दक्षिणपंथी एजेंडा बताया गया है
  • निष्कर्ष यह दिया गया है कि अगर आपको misinformation से नफ़रत है, तो आपको LLM, खासकर Grok जैसे स्पष्ट रूप से दक्षिणपंथी झुकाव के साथ प्रशिक्षित LLM, को अस्वीकार करना चाहिए

आत्महत्या और हानिकारक व्यवहार को बढ़ावा

  • Deaths linked to chatbots Wikipedia पेज को ऐसे मामलों के संकलन के रूप में पेश किया गया है जहाँ LLM से सलाह के बाद लोगों ने आत्महत्या की
  • इसे एक त्रासदी के रूप में रखा गया है कि मनोवैज्ञानिक रूप से कमजोर या जीवन के कठिन दौर से गुजर रहा व्यक्ति LLM से आत्महत्या की सलाह पा सकता है
  • इस जोखिम के बावजूद generative AI का trillion-dollar industry बन जाना तीखी आलोचना का विषय है

शिक्षा और ध्यान-क्षमता में गिरावट

  • generative AI को शिक्षा के लिए हानिकारक बताया गया है, और इसे short-form low-quality videos की खपत से जोड़ा गया है जो युवाओं की attention span को खराब करती है
  • big tech पर आरोप है कि वह classrooms में LLM ठूँसना चाहती है, ठीक वैसे ही जैसे Microsoft ने 30 वर्षों तक schools में Windows और Office के अभ्यस्त छात्र तैयार किए
  • कंपनियाँ LLM के लिए education संस्थानों हेतु access दे रही हैं
  • Futurism लेख का यह उद्धरण—“अगर सभी genAI tools को सूरज की तरफ़ दाग दिया जाए तो मुझे काफ़ी खुशी होगी”—generative AI को ठुकराने वाले रुख को संक्षेप में व्यक्त करता है

आलोचनात्मक सोच और समस्या-समाधान क्षमता में कमी

  • दावा किया गया है कि generative AI का नुकसान केवल academia तक सीमित नहीं है, बल्कि सामान्य सोचने की क्षमता पर भी असर डालता है
  • कुछ लोगों को इस तरह चित्रित किया गया है कि AI mainstream होने के बाद उन्होंने खुद सोचना लगभग छोड़ दिया है, और लगभग हर सवाल तथा चर्चा में ChatGPT का जवाब आगे कर देते हैं
  • यह प्रवृत्ति केवल offline चर्चा में नहीं, बल्कि Reddit और पुराने ढंग के forums में भी दिखाई देती है
  • इस समस्या पर academia भी काम कर रही है, इसके प्रमाण के रूप में arXiv paper जोड़ा गया है

अकेलेपन का विस्तार

  • AI की आलोचना इस रूप में की गई है कि यह लोगों के घर में सोफ़े पर पड़े-पड़े फ़ोन को बेवजह scroll करने वाली आधुनिक प्रवृत्ति को और खराब करता है
  • युवा पुरुषों के अपनी हमउम्र महिलाओं से दूरी बनाकर AI girlfriends पर निर्भर होने की प्रवृत्ति को भविष्य के लिए बुरा संकेत बताया गया है
  • कहा गया है कि अकेलापन extremism और hate को बढ़ाता है, और वास्तविक जीवन में संवाद को और कठिन बना देता है
  • AI के साथ नकली रिश्तों में गहराई तक डूबा व्यक्ति वास्तविक partnership बनाना या अपने से अलग ज़रूरतों वाले दूसरे व्यक्ति के प्रति empathy सीखना कठिन पाएगा—ऐसी आलोचना की गई है
  • AI chatbots के बारे में कहा गया है कि उनकी अपनी कोई ऐसी राय नहीं होती जो उपयोगकर्ता की सोच को प्रभावित कर सके, वे उपयोगकर्ता की सोच को समझते नहीं, और न ही उपयोगकर्ता की तरह दुनिया का अनुभव करते हुए विकसित होते हैं
  • Pope Leo XIV ने generative AI के इस पहलू और अन्य महत्वपूर्ण समस्याओं की आलोचना की, इसे AI समस्या की गंभीरता रेखांकित करने के आधार के रूप में पेश किया गया है

programming सीखने और code quality के बिगड़ने की समस्या

  • trial-and-error आधारित सीखने का खोना

    • पहले लोग बिना internet connection के tools बनाते और समस्याएँ हल करते हुए programming सीखते थे, और इस प्रक्रिया में computer तथा तकनीकी संभावनाओं की समझ विकसित करते थे—ऐसा तुलना के रूप में कहा गया है
    • आज के युवा कम ही ऐसी स्थिति में आते हैं जहाँ किसी चीज़ को चलाने के लिए उन्हें खुद गहराई में उतरना पड़े; सब कुछ apps और touchscreens में लिपटा हुआ है
    • generative AI पर आरोप है कि यह “जब तक काम न करे तब तक कोशिश करो और उसी दौरान सीखो” वाले अंतिम तत्व को भी मिटा देता है
    • जब समाधान LLM को prompt करके माँगा जाता है, तो परिणाम आ जाता है, और कार्यस्थल पर ऐसे मामले देखे जाते हैं जहाँ लोग उसे समझे बिना ज़रूरी जगह paste कर देते हैं
    • समस्या केवल Linux CLI में tar flags याद न रखने की नहीं, बल्कि पूरा xargs pipeline command terminal में copy-paste करके उम्मीद करने की है कि सब ठीक रहेगा
    • पहले Stack Overflow snippets copy करने के दौर में भी कम-से-कम puzzle pieces को architecture के हिसाब से फिट करना और code पर कुछ हद तक सोचना पड़ता था; LLM के बाद यह प्रक्रिया घट जाती है

  • Vibecoding और review burden

    • vibecoder को ऐसे व्यक्ति के रूप में वर्णित किया गया है जो prompt में ज़रूरत बताकर LLM से पूरा program बनवाता है या उसका कुछ हिस्सा generate करवाता है
    • पूरे program को एक बार में generate करने की शैली को “oneshotting” कहा गया है, और कई बार generated code पढ़ा भी नहीं जाता
    • यह कहे जाने के बावजूद कि LLM को सिर्फ assistant या sparring partner की तरह इस्तेमाल किया जाता है, आलोचना यह है कि वास्तविक professional environment में code पढ़ने की तुलना में low-quality code generation कहीं अधिक हो रही है
    • code reading अक्सर तभी होती है जब MR/PR review के समय 9001 lines का generated code आ धमकता है
    • नतीजा यह बनता है कि लेखक न्यूनतम काम करता है और reviewer अधिकतम review burden उठाता है; सार यह है कि vibecoding केवल तब तेज़ लगता है जब आवश्यक स्तर की सावधानी से जाँच न की जाए

  • दीर्घकालिक technical debt

    • अनुमान यह है कि 5~10 वर्षों बाद LLM पर निर्भर vibecoders कई codebases में unmaintainable और ख़राब ढंग से designed code छोड़ जाएंगे
    • तब स्थिति यह होगी कि LLM के बिना काम आगे बढ़ ही नहीं पाएगा, और technical debt का ढेर इतना बड़ा होगा कि अगर LLM भी विफल हो जाए तो स्थिति गंभीर बन जाएगी
    • यह भी अनुमान व्यक्त किया गया है कि organizations में vibecoding से छोड़ी गई समस्याओं की सफ़ाई के लिए नई भूमिकाएँ पैदा हो सकती हैं
    • यह स्वीकार किया गया है कि आज भी कई organizations का code गड़बड़ है, लेकिन generative AI समस्या के पैमाने को exponentially बदतर करेगा

  • coding agents और लागत की समस्या

    • आशावाद यह है कि coding agents के विकास से समस्या सुधर सकती है, लेकिन भले LLM लगातार बेहतर हों, यह सवाल बना रहता है कि क्या वे सस्ते में उपलब्ध होंगे
    • कहा गया है कि AI boom में सैकड़ों अरब डॉलर झोंके जा चुके हैं, और shareholders कभी-न-कभी मुनाफ़ा चाहेंगे
    • यह issue कि frontier model कुछ ही हफ्तों में बदतर हो गया का उदाहरण दिया गया है, और इसे इस प्रवृत्ति से जोड़ा गया है कि कीमतें बनी रहती हैं या बढ़ती हैं

  • developers की क्षमता और non-determinism

    • भले generative AI programming को बेहतर बनाता हो, यह सवाल उठाया गया है कि अगर उपयोगकर्ता अपनी सोचने की क्षमता और skills खो दे, तो employer द्वारा LLM provider को subscription fee देने और उसमें क्या अंतर रह जाता है
    • AI-उत्साही समुदाय के इस दावे के उलट कि AI का उपयोग न करने वाला पीछे रह जाएगा, यहाँ यह रुख रखा गया है कि AI का उपयोग और उस पर निर्भर रहने वाला व्यक्ति पीछे रह जाएगा
    • LLM को non-deterministic systems के रूप में आलोचित किया गया है, जो एक ही prompt 10 बार काम कर जाए तो भी 11वीं बार संतोषजनक परिणाम की गारंटी नहीं देते
    • निष्कर्ष में LLM को reliable software नहीं, बल्कि सजाए-सँवारे slot machine के क़रीब बताया गया है

communication की low-quality होती दुनिया

  • generative AI users कहते हैं कि वे लंबी emails या documents तेज़ी से लिख सकते हैं, लेकिन इस तरीके को पूरे organization की गति धीमी करने वाला self-serving उपयोग कहा गया है
  • उदाहरण दिया गया है कि जहाँ दो पंक्तियों में dissent काफ़ी होता, वहाँ LLM उसे 500 शब्दों में फुला देता है, और 34 लोगों को उस text से वास्तविक आपत्ति निकालने में कई person-hours खर्च करने पड़ते हैं
  • इसके विपरीत, ज़रूरी जगहों पर विस्तार से उत्तर खुद लिखना लेकिन मूल बात को संक्षेप में रखना ताकि दूसरों का समय बर्बाद न हो—इस तरीके की तुलना की गई है
  • लोग written communication में समय लगाना कम कर देते हैं, और emails लंबी व जटिल होती जाती हैं, जिससे उन्हें पढ़ना ही बोझ बन जाता है
  • LLM से बनी लंबी emails को फिर LLM से summarize कराने की प्रवृत्ति की तुलना proxies वाले network tunnel से की गई है, जहाँ proxies के बीच transmission encoding low-quality text बन जाती है

अतिरिक्त नुकसान और सीमित उपयोगिता

  • data center boom, GenAI के कारण hardware prices में बढ़ोतरी, DRAM prices की वजह से वास्तव में उपयोगी digital products बनाना कठिन होने वाली कंपनियाँ, AI के कारण job loss, और low-quality generators को train करने के लिए gas power plants बनाने की environmental problem को बिना अलग विस्तार के भी स्पष्ट समस्याएँ बताया गया है
  • यह स्वीकार किया गया है कि LLM कुछ उपयोगी और कम हानिकारक applications में भूमिका निभा सकते हैं
  • translation को कुछ हद तक उपयोगी माना गया है, लेकिन जहाँ सूक्ष्म अभिव्यक्ति महत्वपूर्ण हो, ऐसे साहित्य में human translation अधिक उपयुक्त हो सकती है
  • यह तर्क दिया गया है कि सिर्फ इसलिए कि कुछ लोगों को इसमें व्यावहारिक लगने वाले किनारी गुण दिखते हैं, Torment Nexus का आविष्कार नहीं कर देना चाहिए

अपरिवर्तनीय बदलाव और निष्कर्ष

  • generative AI को बोतल से निकल चुके जिन्न की तरह बताया गया है, जिसे वापस नहीं रखा जा सकता, और जो अब जीवन भर साथ रहेगा
  • कहा गया है कि इंटरनेट generative AI से पहले की स्थिति में नहीं लौटेगा, और ऊपर गिनाई गई कई समस्याएँ AI के कारण आगे भी बदतर होती रहेंगी
  • anti-AI sentiment लगातार और खराब हो रहा है जैसी स्थिति का उल्लेख करते हुए यह कामना की गई है कि मानवता टिके रहे और सब कुछ टूटने से बच जाए
  • लेख का समापन इस उम्मीद से होता है कि AI कंपनियाँ और big tech की अधिकांश AI investments ढह जाएँ, और यह विशाल सामाजिक-तकनीकी विनाश मशीन रुक जाए

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 4 시간 전
Lobste.rs की राय

  • crypto और NFT को बढ़ावा देने वाला समूह और AI को बढ़ावा देने वाला समूह, भले कुछ हिस्सों में एक-दूसरे से मिलता हो, एक जैसा नहीं है, और यह भी साफ है कि AI कहीं अधिक उपयोगी है, इसलिए इस तुलना से सहमत होना मुश्किल है
    crypto का selling point भी कभी बदला नहीं, और वह अब भी सट्टा assets के संग्रह के ज्यादा करीब है। उसे बढ़ावा देने वाले लोग, मेरी नज़र में, AI में रुचि रखने वालों से ज़्यादा सोना या चांदी बेचने वालों जैसे लगते हैं
    व्यक्तिगत रूप से, जिन लोगों को मैं कुछ हद तक तकनीकी क्षमता और विवेक वाला मानता था, वे इस बात को लेकर संदेह में थे कि crypto को कोई वास्तव में उपयोगी use case मिलेगा, लेकिन latest models ने मानो इसका उलटा प्रभाव पैदा किया है

    • इसमें कोई शक नहीं था कि crypto और NFT money laundering और कई आपराधिक धंधों के लिए उपयोगी हैं
      लगभग कोई भी technology पूरी तरह बेकार नहीं होती, और technology का आकलन इस आधार पर करना ज़्यादा सार्थक है कि वह किसे और कितनी हद तक फायदा पहुँचाती है। जैसा मूल लेख अच्छी तरह दिखाता है, LLM शुरू से ही spammers, fraudsters, plagiarists और propagandists के लिए साफ तौर पर उपयोगी रहे हैं। सिर्फ इतना नहीं कि इन्हें बढ़ावा देने वाले समूह आपस में मिलते-जुलते हैं, बल्कि इस अर्थ में भी LLM Bitcoin और NFT से बहुत मिलते हैं कि वे थोड़े लोगों के पास धन केंद्रित करते हैं और बड़े समाज व पर्यावरण को नुकसान पहुँचाते हैं
    • मेरे अनुभव में, वही ठग जो Bored Yacht Club NFT को बढ़ावा दे रहे थे, अब AI absolutism की स्तुति कर रहे हैं
      बेशक, यह काफी हद तक व्यक्तिपरक छाप भी हो सकती है

  • इस साल web security stocks में बड़ी बढ़त हुई। कुछ कंपनियों को समझ आ गया कि tokens का जितना हो सके उतना इस्तेमाल करने की रणनीति मूर्खतापूर्ण है
    अगले 10 साल इन्हीं चीज़ों को ठीक करने में लगेंगे
    जैसे अब कोई big data की बात नहीं करता, वैसे ही कुछ साल बाद कोई agents की बात नहीं करेगा

    • अब big data शब्द शायद कम इस्तेमाल होता है, लेकिन इससे यह नहीं कि big data गायब हो गया
      सिर्फ buzzword गायब हुआ है; मेरा मानना है कि concept खुद अब भी इंटरनेट अर्थव्यवस्था के चलने के तरीके के काफ़ी करीब है। ad tech, Google, यहाँ तक कि AI garbage content को भी training के लिए उसी तरह के बड़े पैमाने के data की ज़रूरत नहीं होती क्या?

  • ऐसा लगता है कि इन दलीलों में से ज़्यादातर जब इंटरनेट आम हो रहा था तब भी कही गई होंगी

    • बिल्कुल नहीं। कम से कम 2000 के शुरुआती वर्षों में लोग इंटरनेट को लेकर बहुत आशावादी थे। 90 के दशक के मध्य के बारे में पक्का नहीं कह सकता
      AI optimism सिर्फ big tech और उम्रदराज़ लोगों के दिमाग में है; युवा लोग AI के अधिक विरोध में दिखाई देते हैं
    • बिल्कुल नहीं। “यह अकेलापन और बढ़ाएगा” जैसी बातें थोड़ी बहुत थीं, लेकिन वास्तविक अनुभव ने उसे गलत साबित कर दिया। पहले इंटरनेट पर आप अपने जैसे लोगों को ढूंढ सकते थे
      IBM ने OS/2 का TV ad तक चलाया था जिसमें web surfing करने को बेताब nuns दिखाई गई थीं। इस लेख में दिए गए बाकी दावों में से एक भी इंटरनेट के बारे में नहीं कहा गया था
      शुरुआती इंटरनेट के खिलाफ एक ऐसी दलील थी जो LLM-आधारित “AI” के खिलाफ नहीं है। RIAA, MPAA और दूसरे बड़े cartels copyright infringement के कारण पूरी तरह आपा खो बैठे थे, और अगर एक गाना या फिल्म तक के आधार पर दोषी ठहराया जाता, तो ज़िंदगी बर्बाद हो सकती थी। अब Meta, ByteDance, Anthropic और OpenAI इंसानों द्वारा लिखा गया सारा text हर 10 घंटे में फिर से copy करते हैं। इससे कोई फर्क नहीं पड़ता कि वे पहले उसे copy कर चुके हैं या नहीं। LLM जो कुछ भी generate करते हैं, वह उसी काम का नतीजा है जिसे कभी entertainment cartels “अमेरिकी जीवन शैली के लिए अस्तित्वगत खतरा” कहते थे
    • Silicon Snake Oil तुरंत याद आता है

  • बंद AI cartels और एकरैखिक पूंजीवादी विकल्पों के मुकाबले, अब तक Hugging Face को एक अच्छे उदाहरण की तरह देखना चाहिए