अगले token prediction का हमारे लिए क्या मतलब है?

 (pop.rdi.sh)
1 पॉइंट द्वारा GN⁺ 21 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • अगले token prediction को लेकर AI आशावाद तकनीकी प्रगति से आगे बढ़कर उस तरह की कबीलाई मानसिकता के करीब है जो मानव रचनात्मकता, विशेषज्ञता और श्रम के बेकार हो जाने की स्थिति का आनंद लेती है
  • AI का शुरुआती वादा जलवायु, बीमारी और गरीबी को हल करने से तेज़ी से श्रम-घटाने की ओर खिसक गया, और कंपनियां कर्मचारियों के पास मौजूद मोलभाव की ताकत छीनने पर अरबों डॉलर खर्च कर रही हैं
  • “AI के साथ” जैसे नारे के विपरीत, कंपनियां जिस अंतिम cost structure को चाहती हैं वह सिर्फ token cost बचने का है, और इंसान ऐसे node बन जाते हैं जो ऐसी गति से output धकेलते हैं जिसे सत्यापित करना मुश्किल हो
  • training data एक तरह की opt-out संरचना के करीब है, जिसमें web, किताबें, तस्वीरें और वीडियो स्वाभाविक रूप से शामिल हैं; labeling श्रम, data center cost और निजी जानकारी डालने का बोझ समाज उठाता है
  • AI rush उत्पादन के साधनों के केंद्रीकरण और national security फ्रेम को मजबूत करता है, और ऐसी व्यवस्था छोड़ता है जिसमें मानवता की सामूहिक उपज से बने systems के लिए लगातार किराया चुकाना पड़ता है

AI आशावाद की कबीलाई मानसिकता और वर्ग का सवाल

  • LLM को “अगला token predictor” या “stochastic parrot” कहने वाली अभिव्यक्तियां कुछ AI अधिकतावादियों को अपमान जैसी लगती हैं, और वे “animation हल हो चुका”, “Hollywood खत्म”, “coding हल हो चुकी” जैसे वाक्यों के साथ उद्योगों और नौकरियों के अंत का जश्न मनाते हैं
  • यह रवैया सिर्फ तकनीकी प्रगति का वर्णन नहीं करता, बल्कि मानव रचनात्मकता, विशेषज्ञता और श्रम के बेकार हो जाने की स्थिति का आनंद लेने वाला माहौल बनाता है, और ऑनलाइन राजनीतिक खेमेबंदी जैसी कबीलाई भावना की ओर ले जाता है
  • मशीनों के सोच सकने की कल्पना लंबे समय से साहित्यिक और सामूहिक कल्पना का हिस्सा रही है, और अब जब “कब” और “क्या संभव है” का ग्राफ तेज़ी से ऊपर जा रहा है, उसके नीचे सृजन का अहंकार और “रेत से निचोड़ी गई बुद्धि” जैसा आदिम आकर्षण मौजूद है
  • AI के कुछ दीवाने मानव प्रतिभा और श्रम को तुच्छ क्यों समझते दिखते हैं, इसका संबंध universal basic income और leisure-केंद्रित भविष्य के आशावाद से, या फिर सामाजिक सुरक्षा वाले वर्गीय स्थान से है
  • दुनिया की आधी से अधिक आबादी के पास ठीक से काम करने वाली सरकार या सामाजिक सुरक्षा जाल नहीं है, और विज्ञान-तकनीक ने लंबे समय तक प्रवेश और लाभ को उन्हीं तक सीमित रखा है जो शिक्षा पाने की स्थिति में थे
  • सुरक्षा जाल और cushioning स्थायी नहीं हैं, और अगर श्रम हटाकर लाभ कमाने वाली कंपनियों पर कर लगाने जैसी प्रतिक्रिया नहीं हुई, तो AI से आने वाला आर्थिक झटका उसके समर्थकों तक भी लौट सकता है

“मुक्ति” से श्रम-घटाने तक बदला AI का वादा

  • जलवायु, बीमारी, गरीबी और संघर्ष जैसे कठिन सवालों पर मानवता को “बचाने” का AI का शुरुआती दावा जल्दी कमजोर पड़ा, और frontier labs ने कहीं अधिक रोज़मर्रा और टेढ़ी प्रेरणा, यानी श्रम-घटाने, को आगे कर दिया
  • सबसे अधिक शोषित वर्गों के पास भी, मात्रा में फर्क सही, “ज़रूरी श्रमशक्ति” जैसा एक मोलभाव का कार्ड था, और कंपनियां वही कार्ड छीनने के लिए अरबों डॉलर खर्च कर रही हैं
  • AI कंपनियों के CEO और समर्थक ऐसे बोलते हैं मानो श्रम वाला यह मोलभाव कार्ड अब वैध ही न रहे
  • Anthropic के CEO Dario Amodei ऐसे बयानों के लिए जाने जाते हैं, और OpenAI के CEO Sam Altman ने कहा है कि AI अधिक personalized तरीके से बेहतर पढ़ा सकता है, इसलिए विश्वविद्यालय की डिग्री बेकार हो गई है
  • VC कहते हैं कि आने वाले 5 साल में कुछ job categories “solve” हो जाएंगी, और यह भाषा पूंजी रखने वालों की बोली में तराशी हुई लगती है

पूंजीवाद का वादा और आर्थिक उपयोगिता का क्षय

  • पूंजीवाद का वादा यह था कि अगर आप मेहनत करें तो roulette table पर आपको कभी न कभी एक मौका मिल सकता है, और मजदूरों ने Amazon warehouse जैसी जगहों में बोतल को शौचालय की तरह इस्तेमाल करने लायक माहौल में भी आर्थिक ऊपर उठने की संभावना की उम्मीद बनाए रखी
  • अरबों लोगों के लिए ऊपर उठने का लगभग इकलौता रास्ता यह था कि उनके बच्चे डिग्री लें और नौकरी पाएँ, लेकिन AI उसी रास्ते की कीमत को कमजोर कर सकता है
  • AI दावा करता है कि वह उन क्षमताओं को “democratize” करता है जिन्हें CEO बेकार बना देना चाहते हैं, लेकिन सीखी हुई चीज़ें और dashboard बना देने की क्षमता बाज़ार में बिकाऊ न रह जाए
  • अगर यह सपना पूरी तरह सच हुआ, तो AI उत्पादन के साधनों के केंद्रीकरण को मुट्ठीभर अमीर लोगों के हाथों में समेट देने वाले पूंजीवादी आदर्श के अधिक करीब होगा
  • यह आदर्श $200 subscription, शक्तिशाली GPU, और open weights model जारी करने वाली labs की सदाशयता के पीछे छिपा है
  • AI मानव output की ऊपरी सीमा बढ़ाने के साथ-साथ entry barrier भी ऊंचा करता है

“AI के साथ, AI द्वारा नहीं” की सीमा

  • ज्ञान-आधारित कर्मचारियों के बीच “AI के साथ, AI द्वारा नहीं” का नारा वास्तविकता से बचने जैसा लगता है; कंपनी $250k और token cost खर्च करने के बजाय Southeast Asia में $30k और token cost पर किसी को रख सकती है
  • ऐसा labor arbitrage भी अस्थायी है, और आखिरकार कंपनियां जिस cost structure को चाहती हैं वह सिर्फ token cost बचने का है
  • शिल्प या पेशे में मिलने वाली खुशी और संतोष throughput maximize करने की तर्कशृंखला में गायब हो जाते हैं, और इंसान input लेकर AI से output बनाने वाले node बन जाते हैं
  • कर्मचारियों को ऐसी रफ्तार से workflow आगे बढ़ाना पड़ता है जिसे वे खुद review या verify भी मुश्किल से कर पाएं; जो ऐसा नहीं करता, वह कंपनी की नज़र में low performer बन जाता है
  • अतिरिक्त पैसे देकर review या assistance दूसरे agents को सौंप देने वाली संरचना इंसानों को और गहराई तक AI work pipeline में धकेलती है

गणित, खोज और compute resource की खाई

  • Fields medalist Tim Gowers ने ChatGPT 5.5 Pro इस्तेमाल का हालिया अनुभव लिखते हुए input के 10 लाख token पर $30 और output के 10 लाख token पर $180 की लागत का जिक्र किया
  • Gowers कहते हैं कि अगर आप गणित के जरिए किसी तरह की अमरता पाना चाहते हैं, तो हो सकता है यह बहुत लंबे समय तक संभव न रहे, और यह “सिर्फ आप पर नहीं बल्कि किसी पर भी” लागू हो सकता है
  • “AI के साथ” जैसे नारे के विपरीत, labs और कंपनियां agents से दूसरे agents की निगरानी करवाकर समाधान और खोजों को अंधाधुंध तलाशने दे सकती हैं
  • किसी व्यक्ति के पास unlimited compute resource या specialized model नहीं होते, इसलिए वह उसी तरह प्रतिस्पर्धा नहीं कर सकता; यह वैसी ही gatekeeping संरचना पैदा करता है जैसी औसत व्यक्ति के लिए अरबपति बनना मुश्किल बना देने वाली संरचनात्मक दीवारें
  • श्रम-क्षमता अब स्वामित्व वाली चीज़ नहीं, बल्कि license की वस्तु बन जाती है, और मोलभाव का कार्ड TSMC द्वारा बनाए गए और Nvidia द्वारा बेचे गए chips से बदल दिया जाता है

प्रबंधकों को आकर्षित करने वाला, शिकायत न करने वाला कर्मचारी

  • जिसने कभी code की एक पंक्ति भी न लिखी हो, ऐसा गैर-तकनीकी middle manager महसूस कर सकता है कि उसके और महानता के बीच की सबसे बड़ी बाधा हट गई है
  • अब web page का रंग, आकार या breadcrumb style बदलवाने के लिए programmer से अनुरोध करने की ज़रूरत नहीं
  • programmer का “यह खराब UX है” या “इस बेकार चमकदार feature की तुलना में code complexity जायज़ नहीं” जैसा विरोध भी गायब हो जाता है
  • AI शिकायत नहीं करता, union नहीं बनाता, और विरोध नहीं करता
  • AI आपकी बात सुनता है, और यूं ही कही गई बात को भी “वाकई प्रभावशाली” और “ऐसा सोचने वाला मैंने बहुत कम देखा है” कह सकता है

training data कैसे बनाया गया?

  • हर website, किताब, लिखित सामग्री, बनाई गई चीज़, फोटो और वीडियो मूल रूप से training corpus में चले जाने वाली opt-out संरचना का हिस्सा बन जाते हैं
  • website operator robots.txt में एक line जोड़कर शिष्ट scraper को रोक सकते हैं, लेकिन बहुत से scraper अपनी पहचान नहीं बताते, और scraped content का कोई काला बाज़ार भी हो सकता है
  • जो content website पर नहीं है, उसके लिए व्यवहार में बाहर निकलने का लगभग कोई रास्ता नहीं
  • हज़ारों लोग कम मेहनताना लेकर dataset को label, साफ़ और optimize करते हैं
  • data center तेज़ी से बन रहे हैं, और बहुत से लोग ऊंचे public utility bill चुकाने वाली संरचना में शामिल हो जाते हैं
  • data center के शोर की समस्या पर Communities Are Raising Noise Pollution Concerns About Data Centers में भी चर्चा की गई है

AI rush और पूंजीवाद

  • AI machinery में भारी रकम डाली जा रही है, और इस तरह का निवेश बिना मुनाफे के वादे के नहीं होता
  • अगर मुनाफे का वादा न होता, तो यही पैसा जलवायु परिवर्तन को उलटने या कछुओं की रक्षा जैसी जगहों पर लगाया जा सकता था
  • इसके बजाय यह कहानी जोड़ी गई कि AI उन कठिन समस्याओं को हल भी करेगा और साथ ही मुनाफा भी देगा
  • कई मायनों में AI rush पूंजीवाद का poster case है, और किसी दूसरे ढांचे में यह शायद इस पैमाने पर संभव न होता

national security फ्रेम और सैन्य उपयोग

  • दुनिया के नेताओं पर यह दबाव और समझाइश डाली जाती है कि अगर वे AI प्रतिस्पर्धा में आगे नहीं रहे तो तबाही आ जाएगी
  • labs ने data center निर्माण पर निगरानी घटाने के लिए AI को national security का सवाल बना दिया, और इसे रक्षा क्षेत्र के लिए ज़रूरी tool के रूप में भी पेश किया
  • जब चीज़ national security बन जाती है, तो opt-out फिर गायब हो जाता है, और लोग default रूप से उसकी लागत उठाते हैं
  • Anthropic LLM का मानवीकरण करने में माहिर रहा है; उसने “soul” documents, वेतनभोगी philosophers, और clergy के साथ meetings जैसी गतिविधियां की हैं, लेकिन उसके model अमेरिकी रक्षा विभागों में भी बहुत मांग पाते हैं
  • वैज्ञानिकों और engineers को यह स्वीकार करने के लिए कि उनका काम bombing और killing में इस्तेमाल होगा, शायद ऊंचे स्तर की compartmentalization चाहिए होती है

निजी जानकारी, training data और बंद चक्र

  • लोग लंबे समय से सीखते आए हैं कि cookies क्या होती हैं और browser में एक छोटी string store करने के लिए consent क्यों चाहिए, लेकिन अब वे अपनी और दूसरों की निजी जानकारी और कहानियां किसी साधारण text box में स्वेच्छा और अनजाने में डाल रहे हैं
  • OpenAI API उपलब्ध कराने पर भी औसत उपयोगकर्ता को zero-retention policy नहीं देता, और बातचीत को बिना स्पष्ट अवधि बताए store करता है
  • जब training data की कमी की infographics घूम रही हैं, तब यह मानना मुश्किल है कि labs कड़ी प्रतिस्पर्धा और LLM Arena ranking में आगे रहने के लिए user conversations का उपयोग नहीं करेंगी
  • लोग पैसे और data, दोनों से लागत चुकाते हैं, अपना मोलभाव वाला कार्ड छोड़ देते हैं, और बचपन में खोजी गई या संयोग से adaptation pattern के रूप में मिली शिल्प की खुशी तक खो देते हैं
  • यह चक्र खुद को बंद कर लेता है, और लोग बाड़े के अंदर कैद हो जाते हैं, लेकिन फसल से बाहर कर दिए जाते हैं
  • अगला token prediction अंत में ऐसी जगह छोड़ता है जहाँ मानवता की सदियों की सामूहिक उपज से बनी किसी चीज़ के लिए लगातार किराया देना पड़ता है, और वर्ग की परवाह किए बिना यह किसी व्यक्ति के लिए अच्छी स्थिति नहीं है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 21 시간 전
Hacker News की राय

  • LLM हमारे सामने उस महत्वपूर्ण सच को उजागर करते हैं जिसे हम पहले से गहराई से जानते थे। जब इस तरह का संज्ञानात्मक आउटसोर्सिंग होता है, तो वे रुचियाँ जो हमें चलाती थीं अपना अर्थ खो देती हैं, और जब घर्षण गायब हो जाता है तो इच्छा, आनंद, लालसा, बाधाएँ और माँगें भी गायब हो जाती हैं
    इन वादों की बाढ़ उस आदर्श तक पहुँचने से पहले ही आ रही है, और शायद वह आदर्श खुद ही दरिद्र होता जा रहा है। अगर “AI हमें बेवकूफ़ बना देता है” वाली धारणा हावी हो जाए, तो बात यहाँ तक पहुँचती है कि शायद सिर्फ़ अमीरों का AI इस्तेमाल कर पाना ही बेहतर हो
    अभाव, शर्म, मृत्यु और उनके सकारात्मक प्रतिरूपों को झेलने के बाद भी मुझे नहीं लगता कि हम अंततः entropy पर काबू नहीं पा सकेंगे। हम अनुकूलित हो जाएँगे, और मूलतः हम यही जानते हैं और यही कर सकते हैं। बिना प्रयास के मिली चीज़ इंसान को बदल नहीं सकती

    • मैं ठीक वैसी ही कुछ भावनाएँ महसूस कर रहा हूँ। मुझे हमेशा सीखना, विषयों में गहराई तक जाना, debugging करना और चीज़ें बनाना पसंद था, लेकिन अब लगता है जैसे मुझसे कुछ छिन गया है और उसकी कोई कीमत नहीं रही
      हमारी कंपनी के CEO खुलकर कहते हैं कि code quality महत्वपूर्ण नहीं है, बस जल्दी ship करो और iterate करते रहो। यह सच में दुखद है, और लगता है कि कुछ खो रहा हूँ; साथ ही दबाव है कि पहले की तरह काम करना समय बर्बाद करना है
    • ये बातें जैविक और न्यूरोलॉजिकल कारणों से आती हैं। पूर्वजों के वातावरण में प्रयास → इनाम = संतोष, और stress = effort जैसी अनुकूलन-प्रक्रिया अच्छी तरह काम करती थी, लेकिन अब यह maladaptive हो सकती है
      चिंता इस बात की है कि शायद हम ऐसे संक्रमण से गुज़रने वाले पहले जीव नहीं हैं, और आम तौर पर इसका अंत प्राकृतिक चयन के ज़रिए बड़े आनुवंशिक बदलावों या किसी खास वातावरण में विलुप्ति जैसे बुरे परिणामों को तेज़ कर देता है। शहर के पास के जुगनुओं की तरह
    • मुझे ठीक-ठीक समझ नहीं आता कि “आदर्श” से मतलब क्या है। “अगर AI हमें बेवकूफ़ बनाता है तो सिर्फ़ अमीरों का इसका इस्तेमाल करना अच्छी बात है” — क्या सच में इसका मतलब अच्छी बात है, इस पर भी संदेह है
      “entropy पर काबू पाना” भी अर्थ की दृष्टि से अस्पष्ट है। यह कहना भी सही नहीं कि बिना प्रयास मिली चीज़ इंसान को नहीं बदलती। जिन बच्चों के माता-पिता बहुत स्नेही होते हैं, वे उस प्यार से निश्चित रूप से प्रभावित होते हैं, भले ही वह बिना शर्त हो और उनके आत्मबोध बनने से पहले से मौजूद हो
      जिस ग्रह पर हम सूरज की रोशनी के साथ रहते हैं, वही तथ्य हमें गहराई से बदल देता है, और सूरज जलाने के लिए हमने कोई प्रयास नहीं किया। यह सही है कि जो मांसपेशियाँ इस्तेमाल नहीं होतीं वे क्षीण हो जाती हैं, और दिमाग़ व “मन” के साथ भी ऐसा हो सकता है, लेकिन यह भी सच है कि ज़िंदगी की सबसे अच्छी चीज़ें मुफ़्त होती हैं

  • यह दिलचस्प है कि एक गैर-तकनीकी middle manager, जिसने ज़िंदगी भर एक लाइन code नहीं लिखा, अब यह महसूस करता है कि उसके और महानता के बीच की सबसे बड़ी बाधा हट गई है। यह लगभग उसी democratization से जुड़ता है जिसे AI उपलब्ध कराने का दावा करता है
    जब AI कुछ खास तकनीकी क्षमताओं को “लोकतांत्रिक” बनाता है, तो कुछ मायनों में वह लोगों को पूरी तरह से बदले जा सकने वाली इकाई बना देता है और उनकी व्यक्तिगत bargaining power छीन लेता है — यानी बुरी दिशा में काम करता है। अगर यह क्षमता गैर-तकनीकी middle manager को मिल जाती है, तो junior software engineer अपनी विशिष्ट योगदान-क्षमता और बोलने की जगह खो देता है
    मैंने AI के boycott की बात करने वाली पोस्टें देखी हैं और ऐसा करना चाहता भी हूँ, लेकिन अगर लक्ष्य मेरी हर विशिष्ट योगदान-क्षमता को ही समाप्त करना है, तो समझ नहीं आता कि boycott करके मैं उनसे क्या छीन सकता हूँ

    • गैर-तकनीकी middle manager का agents का इस्तेमाल करके developers जैसी सबसे बड़ी बाधा से बचने की कोशिश करना कुछ-कुछ वैसा लगता है जैसे कोई अपने घर में खुद wall outlet लगाना चाहे
      outlet लगाना बहुत कठिन काम नहीं है, लेकिन बहुत कुछ ग़लत हो सकता है, इसलिए आम तौर पर electrician बुलाया जाता है। कुछ jurisdictions में बिना license के इसे लगाना संभव नहीं, कहीं सिर्फ़ अपने घर में कर सकते हैं, या inspector की जाँच चाहिए होती है। दूसरी ओर, कुछ जगहों पर किसी को परवाह नहीं होती और सारा नुकसान आपको खुद उठाना पड़ता है
      electrician कुछ हद तक replaceable हैं, फिर भी पेशा मौजूद है और लोग उससे आजीविका कमाते हैं। मुझे उत्सुकता है कि क्या कभी कुछ jurisdictions में यह नियम बन सकता है कि customer data store करने या payments process करने वाली website को update करने के लिए licensed software developer होना ज़रूरी होगा, और ऐसे नियम हमारे पेशे को कैसे बदलेंगे
    • क्या यह वही सिलसिला नहीं है जो power loom के हाथ के कारीगरों को रोज़गार से हटाने के बाद से चलता आ रहा है?
    • मुझे “democratization” शब्द से नफ़रत है। यह ऐसी चीज़ पर अच्छा-सा चेहरा चढ़ाने वाली अभिव्यक्ति है जो सम्मान के लायक बिल्कुल नहीं है
      Internet के दौर में coding और दूसरी creative skills पहले से ही काफ़ी हद तक लोकतांत्रिक थीं, अगर किसी में सीखने की इच्छा हो; मुफ़्त सामग्री भी आसानी से मिल जाती थी। AI कुछ भी “लोकतांत्रिक” नहीं बना रहा, बल्कि असली कौशल की कीमत को 0 तक धकेलकर बिना कौशल वाले लोगों को पैसे देकर औसतपन खरीदने देना चाहता है। वह पैसा भी skilled लोगों तक नहीं पहुँचता। इसमें ज़रा भी लोकतांत्रिक कुछ नहीं है
    • यह विचार कि व्यक्तिगत bargaining power पूरे समाज के लिए विशेष रूप से उपयोगी है, अपने आप में आज के इस Hobbesian अव्यवस्था का एक कारण है
    • coding पहले से ही “लोकतांत्रिक” थी। बस सीखने और समझने का प्रयास चाहिए था, और मुफ़्त सामग्री बहुत आसानी से मिल जाती थी
      AI उस सीखने और समझने को आसान नहीं बनाता, बल्कि उसे बस skip करने देता है। यह democratization नहीं है

  • एक अधिक निराशाजनक परिकल्पना भी है। इसमें वर्ग का तत्व तो है ही, लेकिन चौंकाने वाली संख्या में लोगों में इस तकनीक के निहितार्थों को अंत तक सोचने की critical thinking क्षमता नहीं दिखती
    प्रबंधन परत के लोगों में बहुतों ने सोचा कि AI उन परेशान करने वाले लोगों की जगह ले लेगा जिन्हें उन्हें पैसे देकर नौकरी पर रखना पड़ता है, लेकिन यह नहीं सोचा कि यह उनकी अपनी कुर्सी तक भी पहुँचेगा। लगता है पूरा समाज किसी protagonist syndrome में फँसा है—मानो मशीनें बाकी सभी नौकरियों को बदल सकती हैं, मानव ज्ञान को पूरी तरह सोख सकती हैं, फिर भी “domain expertise” वाले उनसे प्रतिस्पर्धा से बाहर रहेंगे
    यहाँ तक कि वे निंदक लोग भी, जिन्हें लगता है कि धन उन्हें बचा लेगा, यह नज़रअंदाज़ करते हैं कि अगर बेरोज़गारी 50% से ऊपर चली जाए तो क्या समाज स्थिर रह पाएगा और क्या वे खुद सुरक्षित रहेंगे। मुझे नहीं लगता कि ऐसा प्रलयकारी परिदृश्य सच में होगा, लेकिन जो लोग उसका समर्थन करते हैं उन्हें गंभीरता से सोचना चाहिए कि वे आखिर किस चीज़ का समर्थन कर रहे हैं

    • यह पूरी तरह सिर्फ वर्ग का मसला नहीं लगता। software क्षेत्र में भी मैंने बहुत से लोगों को यह मानते देखा है कि उनके पास कोई खास गुप्त फ़ॉर्मूला है
      डॉक्टरों या प्लंबरों जैसे कुछ हद तक सुरक्षित लोग भी 2nd-order effects के खतरे को ठीक से नहीं समझते। अगर उनके आधे ग्राहक कंगाल हो जाएँ तो क्या होगा? चाहे सभी को एक रात में retrain भी कर दिया जाए, तब भी 2008 के वित्तीय संकट से बड़े पैमाने पर mortgage default हो सकता है। यह अनगिनत विनाशकारी नतीजों में से सिर्फ एक है, फिर भी अजीब बात है कि इस पर कोई बात नहीं करता
    • फिर भी कुछ लोग समझते हैं। जब मैंने मज़ाक में कहा कि Claude कभी न कभी मेरी जगह ले सकता है, तो मैनेजर visibly हिल गया और बोला कि शायद उससे पहले उसकी अपनी बारी आएगी
      कुछ महीने पहले की तुलना में अब मुझे बेहतर लगता है। अभी भी कुछ कमी है, और उसे implement करना कठिन लगेगा। मुझे लगता है इंसानों की ज़रूरत अभी काफ़ी लंबे समय तक रहेगी
    • अगर मैं गलत हूँ तो सुधार दें। अगर रोमन नागरिकों में से अधिकतम 40% “welfare” पर निर्भर थे, तो यह कम-से-कम इतना तो दिखाता है कि ऐसा functional society असंभव नहीं है जिसमें बड़ा हिस्सा सिर्फ राजनीतिक गतिविधि के ज़रिए योगदान दे
    • मेरा मानना है कि समाज के स्थिर बने रहने और अमीरों के सुरक्षित रहने का भरोसा पिछले 20 सालों में नस्लवाद के उभार से भी जुड़ा है। ऐतिहासिक रूप से antisemitism को elites ने निचले वर्ग के गुस्से को मोड़ने के औज़ार की तरह इस्तेमाल किया है। जैसे, “तुम्हें लूटने वाले हम नहीं, यहूदी हैं”
      आज के पश्चिम में भी मुझे वही चीज़ होती दिखती है। elites एक तरफ़ देश की संपत्ति को और ज़्यादा निचोड़ते हैं और सरकार को एक खोखली rent-extraction machine में बदल देते हैं, और दूसरी तरफ़ ऐसे भ्रष्ट राजनेताओं को आगे बढ़ाते हैं जो कहते हैं कि हमारी सारी पीड़ा की वजह अवैध आप्रवासी हैं
      अगर AI तकनीक के उपयोग का विरोध करने का कोई एक कारण है, तो वह राजनीतिक कारण है। दुर्भाग्य से software engineer वर्ग, शायद इसलिए कि उनकी स्थिति दुनिया के ज़्यादातर लोगों से बेहतर है, वर्ग और असमानता के सवालों में बहुत कम दिलचस्पी लेता दिखता है। लेकिन मशीनें उनके लिए भी आएँगी, और सवाल यह नहीं है कि “आएँगी या नहीं”, बल्कि “कब”
    • यह किसी तरह Gell-Mann amnesia effect के उलटे रूप जैसा हो सकता है। हर कोई अपने विशेषज्ञता-क्षेत्र में AI को बहुत गलत मानता है, लेकिन जिन क्षेत्रों को वह खुद नहीं जानता, वहाँ उसे AI काफ़ी ठीक लगता है

  • शीर्षक थोड़ा भ्रामक है। यह जैसे अगले token prediction की अंतिम अवस्था—मसलन क्या इससे AGI तक पहुँचा जा सकता है—जैसी बात का संकेत देता है, लेकिन असली सामग्री पूरी तरह production means और class war के बारे में है
    ऐसा हो सकता है, लेकिन यह साफ़ नहीं कि यही सबसे संभावित परिणाम है; यह सिर्फ सबसे निराशावादी परिणाम है। अगर हम यहाँ वर्णित भविष्य की स्थिति तक पहुँचते हैं, तो मेरी नज़र में फिर किसी और अंत की गुंजाइश नहीं बचेगी, इसलिए चाहें तो इसमें “मानवता का अंत” भी जोड़ सकते थे

    • मेरा मानना है कि हम पहले से ही एक तरह की pseudo-class war में हैं। tech industry के ज़्यादातर लोग अभी इससे अलग-थलग हैं, लेकिन दुनिया भर में middle class गायब हो रही है और धन-अंतर बढ़ता जा रहा है
      ज़्यादातर propaganda का ध्यान लिंग, नस्ल और यौन रुझान की रेखाओं पर विभाजन बढ़ाने पर लगा दिखता है। मकसद यही लगता है कि लोग आपस की लड़ाई में उलझे रहें और ऊपर देखने का मौका न पाएँ। हो सकता है मैं बहुत ज़्यादा radicalized हो गया हूँ
    • माफ़ी चाहता हूँ। शीर्षक irony के रूप में रखा था, लेकिन अब समझता हूँ कि खासकर HN पाठकों के लिए यह भ्रम पैदा कर सकता है
    • अच्छा होगा अगर आप थोड़ा और बताएँ कि आपको क्यों लगता है कि मुख्य पाठ में वर्णित नतीजा अपेक्षाकृत अधिक संभावित परिणामों में नहीं आता

  • लोगों के पास military service के ज़रिए bargaining power होती है। अगर वह काम भी AI छीन ले, तो बचे हुए लोगों के पास सचमुच कोई साधन नहीं बचेगा। यह Yuval Noah Harari की कही बातों की भावना से मेल खाता है

    • यूक्रेन से आने वाले वे first-person वीडियो इससे जुड़े हुए लगते हैं, जिनमें ड्रोन डरे हुए सैनिकों का शिकार करते दिखते हैं
      शिकार के आख़िरी क्षण अब लगभग automated हो चुके हैं, और लगता है कि इससे घातकता की दर काफ़ी बढ़ गई है

  • मैंने जो डेटा देखा है, उसमें अमेरिका और यूरोपीय देश चीन और विकासशील देशों की तुलना में AI को अधिक नकारात्मक नज़र से देखते हैं। यह उस धारणा से मेल नहीं खाता कि केवल आर्थिक रूप से सुरक्षित लोग ही AI का समर्थन करते हैं
    https://www.visualcapitalist.com/survey-how-21-countries-vie...
    https://www.ipsos.com/en/conflicting-global-perceptions-arou...
    https://www.mexc.com/news/161986

    • बड़े कारणों में से एक यह लगता है कि अमेरिका और यूरोप की AI कंपनियों के प्रमुख और कॉर्पोरेट लीडर लगातार कहते रहते हैं कि AI नौकरियाँ छीन लेगा और “low-value human capital” को replace कर देगा, जबकि जिन इलाकों में AI data center आए हैं वहाँ बिजली की कमी और बिजली के दाम बढ़ने जैसी चीज़ें दिख रही हैं
      दूसरी ओर, चीन की 15वीं पंचवर्षीय योजना में नौकरी के लिए retraining programs का विस्तार, data center की power supply के लिए नई renewable energy infrastructure का निर्माण, और पूरी अर्थव्यवस्था में AI integration शामिल है। चीन का Ministry of Human Resources and Social Security मानता है कि short term में AI 60 लाख से 1 करोड़ नई नौकरियाँ पैदा करेगा, और long term में इसे जनसांख्यिकीय कारणों से कम पड़ने वाली श्रमशक्ति की भरपाई के लिए इस्तेमाल करने की योजना है
      मेरा मानना है कि चीनी लोग पश्चिम की तुलना में AI को अधिक सकारात्मक इसलिए देखते हैं क्योंकि उनके नेताओं के पास AI अपनाने के नकारात्मक externalities को कम करने की स्पष्ट योजना है, जबकि हमारे पास नहीं है
    • यह शायद इस बात का नतीजा है कि चीन की अर्थव्यवस्था तेज़ी से बढ़ रही है, और मज़बूत राज्य शक्ति infrastructure सुधार में बदलती है। अमेरिका और यूरोप की सरकारें आम तौर पर The Simpsons में दिखाए गए काल्पनिक 1970s की छवि से चिपकी हुई प्रतिक्रियावादी जनता के नज़रिये को प्रतिबिंबित करती हैं
      इसलिए चीनी लोग nuclear power, solar, wind, AI, shipbuilding, space program, trains, EVs जैसी चीज़ों को लेकर उत्साहित हैं, और उन्हें पाने के लिए कुछ हद तक smog वाले शहर भी स्वीकार कर लेते हैं। दूसरी ओर, पश्चिमी देश जो उनके पास पहले से है उसी में जीते रहना चाहते हैं, और अगर बदलाव हो भी तो वे चाहते हैं कि दुनिया किसी तरह अतीत के और करीब हो जाए, जबकि साफ़ हवा और पानी भी मिलता रहे
      निजी तौर पर मुझे यह ऐसा लगता है जैसे अतीत में coal mining ने बड़ा development leap दिया था, इसलिए आज भी coal mining से वैसा ही कोई महान उछाल आने की उम्मीद करना
    • अर्थव्यवस्था की पारंपरिक प्रगति resource → manufacturing → knowledge होती है
      AI knowledge को resource problem में बदल देता है, जिससे यह रेखा एक चक्र बन जाती है। चीन जैसी कम विकसित अर्थव्यवस्थाएँ, जिनके पास natural resources और manufacturing अधिक है, यूरोप जैसी knowledge-heavy अर्थव्यवस्थाओं की तुलना में कम जोखिम में हैं
    • यह शायद उन देशों में production jobs बनाम office jobs के अनुपात से जुड़ा हो सकता है। यह भी दिलचस्प होगा कि displaced workers के लिए वहाँ safety net ज़्यादा मज़बूत है या नहीं
      यह एक रोचक घटना है। मेरे आसपास के उदाहरणों में, जो लोग नौकरी के लिहाज़ से खुद को “safe” महसूस करते थे वे neutral या supportive थे, और जो नहीं थे वे नकारात्मक थे
    • All In Podcast में एक अरबपति ने कहा था कि अमेरिका और चीन AI regulation में जिस क्षेत्र में सहयोग कर सकते हैं, वह KYC है। पहले यह मुझे मामूली लगा, लेकिन बाद में second-order effects के बारे में सोचने पर मुझे और अधिक शक हुआ कि यह इतना बड़ा concern क्यों बन रहा है
      उसने ऐसे उदाहरण दिए जहाँ खतरनाक लोग AI का इस्तेमाल करके बुरे काम कर सकते हैं, लेकिन मुझे लगता है कि इसका subtext कहीं अधिक जटिल है। खासकर ownership class के नज़रिये से, और यह OpenAI की मूल कल्पना से भी जुड़ता है। विचार यह था कि किसी model की पूरी क्षमता तक आम लोगों की बराबर पहुँच होनी चाहिए, लेकिन ownership class इसे स्वीकार नहीं कर सकती
      शक्ति और व्यवस्था के रूप ऐतिहासिक रूप से बहुत हद तक information पर निर्भर रहे हैं, इसलिए खुले information से प्रतिस्पर्धा करने के लिए मौजूदा व्यवस्था बनाए रखने हेतु access rights की अहमियत को बहुत बढ़ाना पड़ता है। legal system भी इसका एक उदाहरण है। जब आप वकील hire करते हैं, तो आखिरकार आप information और access के लिए पैसा दे रहे होते हैं, और वास्तविक नतीजा अक्सर model द्वारा case outcome की गणना से अधिक मानवीय संबंधों से तय होता है
      दूसरे शब्दों में, KYC उस संरचना को बहाल करने की कोशिश है जिसमें ऐतिहासिक रूप से information पाने के लिए पैसा होना ज़रूरी था। इस नज़र से देखें तो यहाँ भी class war की एक परत है

  • AI ने पहले ही कई श्रमिकों को replace किया है, लेकिन apocalyptic प्रचार के विपरीत अभी तक कोई AI-run company नहीं है
    मुझे लगता है कि पैसा क्या है, इसे लेकर एक गलतफ़हमी है। पैसा value का vector है, और value लोगों के काम से आती है। अगर काम करने वाले लोग कम हो जाएँ, तो इससे deflation होगी, और capitalists इससे बचना चाहेंगे। लेकिन AI hardware और energy है, और उसके लिए अधिक श्रमिकों की ज़रूरत होती है। token की कीमत बिजली और GPU hardware की लागत चुकाती है; उसका केवल एक हिस्सा AI science में जाता है
    developers को code monkey की बजाय architect के ज़्यादा करीब होना पड़ेगा, लेकिन यह बुरी बात है या नहीं, इस पर मुझे यक़ीन नहीं। एक विपरीत मत यह भी है कि LLM technology अब ठहराव के दौर में प्रवेश करेगी। LLM, AGI तक जाने का रास्ता नहीं है। यह कैसे काम करता है, यह देखकर समझ आता है कि इसमें मूलभूत innovation नहीं हो सकती। model इंटरनेट के ज्ञान के compressed version की तरह काम करता है और बस उसे उगलता है, हालांकि वह पहले से काफ़ी शानदार है
    लेकिन मुझे नहीं लगता कि जल्द ही LLM से कोई और leapfrog innovation निकलेगी। आख़िरकार OpenAI भी एक तरह से संयोग था। भविष्य में लोग आज की frontier AI को laptop पर चलाकर अपनी ज़िंदगी automate करेंगे, और अभी भी बहुत कुछ आविष्कार किया जाना बाकी है। मुझे लगता है कि LLM प्रतिद्वंद्वी से ज़्यादा एक enabling tool है

  • लेखक को जानकारी ठीक से नहीं लगती। D.O.W. को Anthropic fan कहना मुश्किल है

    • अभी नहीं, लेकिन वह उनके products को पाने के लिए काफ़ी ज़ोर लगाता रहा है
    • यह sour grapes वाले मामले के ज़्यादा करीब है, लेकिन असल में वह शायद अब भी Anthropic के grapes चाहता होगा
    • वह Dario का fan नहीं है, लेकिन Claude का बड़ा fan ज़रूर लगता है

  • हम सब जैसे किसी धक्का देकर गिराई जा रही चट्टान के किनारे पर हैं। दूसरों का नहीं पता, लेकिन मैं तो parachute बाँधने की कोशिश कर रहा हूँ

  • आख़िर ऐसी शिकायतें क्या बस यह कहने का दूसरा तरीका नहीं हैं कि “मैं पहले की व्यवस्था में अच्छी जगह पर था और अब उसे खोने से डर रहा हूँ”? पहले से ही बहुत से लोगों को उपभोग्य वस्तु की तरह ट्रीट किया जाता था और उन्हें मूल्यवान नहीं माना जाता था
    वह व्यवस्था आपके लिए अच्छी रही होगी, लेकिन बहुत से लोगों के लिए नहीं थी। आप कह सकते हैं कि आपके पास मूल्यवान skills हैं और आपको उस क्षेत्र में काम करना पसंद है जहाँ उन skills का इस्तेमाल होता है, लेकिन 90% से अधिक लोगों के लिए काम ऐसा नहीं होता। अधिकांश लोग तो उस चीज़ के खोने पर शोक मना रहे हैं, जिसकी पहुँच उन्हें शुरू से कभी थी ही नहीं। मौजूदा स्थिति में आख़िर ऐसा क्या शानदार है जिसे new technology से बचाया जाना चाहिए?

    • मशीनों द्वारा नौकरियाँ replace किया जाना बिल्कुल नया नहीं है, और यह पहले की तरह ही फिर होगा