LLM से प्यार है, लेकिन hype से नफ़रत

 (geohot.github.io)
2 पॉइंट द्वारा GN⁺ 5 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • LLM, autonomous cars, video generation models और coding agents सच में उपयोगी और रोचक हैं, लेकिन इनके इर्द-गिर्द मौजूद डर और कयामती hype से सहमत नहीं हैं
  • यह चर्चा कि अवसर की खिड़की बंद होते ही आप स्थायी निचले वर्ग में चले जाएंगे, तथ्य से ज़्यादा लोगों को बेचैन करके San Francisco की ओर खींचने वाला hype लगती है
  • LLM को advanced autocomplete, smart compiler और बेहतर search engine से सीधे ब्रह्मांड पर राज करने वाली superintelligence तक ले जाने वाली भविष्यवाणी को खारिज करते हैं; उनका मानना है कि AI की प्रगति किसी खास समूह से ज़्यादा मुख्यतः Moore's law और computing की व्यापक प्रगति से आती है
  • Coding agents programming के तरीके को बदलते हैं और productivity को कुछ हद तक बढ़ाते हैं, लेकिन वे cognitive fatigue बढ़ा सकते हैं और vibe coding के नतीजों में अब भी बहुत-सा low-quality code होता है
  • AI computer revolution की निरंतरता में है और LLM, find/replace, Stack Overflow और regular expressions की तरह developers की मदद करने वाले tools हैं, लेकिन उनकी उपयोगिता अपने-आप frontier AI labs द्वारा value capture में नहीं बदलती

AI की प्रगति और hype के बीच

  • 2007~2014 तक hacking पर ध्यान देने के बाद पूरी career को AI में लगाया, और नए LLM, autonomous cars, video generation models, coding agents की प्रगति का स्वागत करते हैं
  • local GLM-5.2 पर opencode चलाकर install tmux with the geohot configuration निर्देश दिया तो installation काम कर गया, और इसे आखिरकार Linux desktop का साल आ जाने का उदाहरण माना
  • जिस hype का विरोध है, वह दो हिस्सों में बंटती है
    • अवसर की खिड़की बंद होकर स्थायी निचला वर्ग बन जाने या फिर अपूरणीय रूप से पीछे छूट जाने की चर्चा लोगों को बेचैन करने वाला negative hype है
    • advanced autocomplete, smart compiler और बेहतर search engine से अचानक सब कुछ बदल देने वाले superintelligence scenario पर छलांग लगाने की logic strawman-जैसी छलांग है, और वे साफ कहते हैं कि ऐसा event नहीं होगा
  • 2016 की superintelligence presentation और machines द्वारा दुनिया पर कब्ज़ा करने वाली 1991 की फिल्म Terminator 2 दिखाते हैं कि यह विचार हाल में किसी खास समूह ने नया नहीं बनाया है
  • मानते हैं कि AI भारी value बना सकता है, लेकिन frontier labs की valuation को सही ठहराने लायक उस value को labs सीधे capture नहीं कर पाएंगी
  • उनका आकलन है कि open source का विरोध करने वाली logic के केंद्र में safety या China की समस्या नहीं, बल्कि commoditization का डर है
    • AI की प्रगति किसी खास lab से ज़्यादा Moore's law और computing की व्यापक प्रगति से मुख्यतः आती है
    • यदि यह बात सामने आ जाए तो investors अरबों dollars न दें, इसलिए labs के पास इसे छिपाने की मजबूत प्रेरणा है

Coding agents से मिलने वाली productivity की वास्तविकता

  • पहले The Eternal Sloptember में models की programming क्षमता को शायद बहुत कठोरता से आंका था, और अब मानते हैं कि programming का तरीका खुद बदल रहा है
  • Linus Torvalds की टिप्पणी agents को programming productivity 10x और compilers को 1,000x बढ़ाने वाला बताकर तुलना करती है
    • 10x और 1,000x दोनों को वे चरम अनुमान मानते हैं
    • models का उपयोग करने की क्षमता बेहतर होने के साथ वास्तव में कुछ हद तक productivity improvement मिल रहा है, इस पर उन्हें भरोसा है
    • models का इस्तेमाल एक नई skill है जिसे अलग से सीखना पड़ता है, और वे पहले से विभिन्न models को लगातार test करते रहे हैं
  • Coding agents की स्पष्ट सीमाएं भी बनी हुई हैं
    • models cognitive fatigue बढ़ा सकते हैं, इसलिए उन्हें सावधानी से इस्तेमाल करना चाहिए
    • vibe coding के परिणाम अब भी low-quality हैं, और दावा किए गए productivity gains के अनुपात में नया software वास्तव में कहां है, यह भी अस्पष्ट है
  • फिर भी models find/replace, Stack Overflow, regular expressions की तरह development में मदद करने वाले उपयोगी tools हैं, और AI भी computer revolution की निरंतरता में ही है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 5 시간 전
Hacker News की राय

  • यह पंक्ति कि “AI बड़ा मूल्य नहीं बना रहा ऐसा नहीं है, बल्कि frontier labs उस मूल्य को अपने पास नहीं रख पा रहे” इनके व्यवहार और यह वजह कि वे लोगों से सबसे अच्छे models को token unit price पर इस्तेमाल करवाना चाहते हैं, दोनों को संक्षेप में समझा देती है
    अगर मौजूदा subscription fee की तरह 100~200 डॉलर प्रति माह में काफी लेकिन सीमित tokens मिलें, तो ज़्यादातर व्यक्ति और कंपनियाँ frontier models को आसानी से चुन लेंगी। लेकिन अगर token unit price open models या एक महीने पुराने frontier model की तुलना में 10~100 गुना महँगी हो, तो बात बदल जाती है। मैं सबसे अच्छे model पर 1,000 डॉलर तो दूर, 10,000 डॉलर प्रति माह भी खर्च नहीं करूंगा, और मेरा employer भी 1,000 डॉलर तक तो शायद सोच ले, लेकिन 10,000 डॉलर कभी नहीं देगा
    मौजूदा valuation को जायज़ ठहराने के लिए सबको अभी से 100 गुना ज़्यादा लागत चुकानी होगी, लेकिन जब तक कोई भी ऐसे models बना सकता है, ऐसा नहीं होगा। OpenAI और Anthropic दोनों इसका हल ढूँढ रहे हैं, और खासकर Anthropic, Fable को usage-based billing में बदलना चाहता है। लेकिन OpenAI का 5.6 Sol इतना अच्छा है कि Fable से टक्कर ले सकता है, और 20 डॉलर प्रति माह subscription में भी इस्तेमाल हो सकता है, इसलिए इस बदलाव को रोकने के लिए कोई moat नहीं है। अगर Anthropic कुछ दिनों में subscription plans से Fable access सच में बंद कर देता है, तो लगता है बाज़ार बड़े पैमाने पर OpenAI की ओर मुड़ जाएगा
    बाज़ार frontier investment की economics को टिकाने लायक इतने ऊँचे खर्च को स्वीकार नहीं करेगा

    • मैं भी local models की ओर ज़्यादा जाने लगा हूँ। जिन कामों में local models अच्छे नहीं हैं, वहाँ मैं मौजूदा कीमत पर frontier models इस्तेमाल करूंगा, लेकिन अगर वे शर्तें उलटकर 1,000~2,000 डॉलर प्रति माह माँगने लगें, तो वह कीमत उसके लायक नहीं है
      मेरे use case में models को बहुत ज़्यादा आगे बढ़ने की ज़रूरत भी नहीं है। मैंने Fable को कुछ बार इस्तेमाल किया, लेकिन उसे खास तौर पर चुनने की बहुत वजह नहीं लगी, और Opus ने वही काम बहुत सस्ते में कर दिया। अगर models एक commodity बन जाते हैं, तो इतना बड़ा training cost आखिर कौन उठाना चाहेगा, यह दिलचस्प सवाल है। लागत कभी न कभी घटेगी, लेकिन शायद इतनी जल्दी नहीं कि ये कंपनियाँ तब तक टिक सकें
    • यह मज़ेदार है कि Fable शायद एक-दो महीने में पुराना पड़ जाएगा। उसने ऐसा non-disclosure drama खड़ा किया जिसे टाला जा सकता था अगर वह जोखिम का दिखावा न करता, और फिर भी access खुला रखा, तो उसने अपनी थोड़ी-सी बढ़त लगभग यूँ ही गँवा दी
      दिलचस्प होता अगर वह शुरू से ही ज़्यादा कीमत लेता और देखता कि बाज़ार कितनी कीमत तक सह सकता है, बजाय इसके कि अगले model के उससे आगे निकलने तक लोगों को लटकाए रखता
    • काफी अच्छे models की ताकत को नज़रअंदाज़ नहीं किया जा सकता। भले GLM5.2 cutting-edge models जितना शानदार न हो, लेकिन हमारी ज़्यादातर, शायद पूरी, requirements पूरी करने के लिए वह काफी हो सकता है
    • सच में क्या ये लोग सबसे अच्छे models हैं, इस पर शक है। अगर Anthropic के पास mythos न हो, तो क्या वह मुश्किल से तीसरे नंबर पर नहीं है?
      OpenAI हाल में फिर आगे निकला है, लेकिन इसके लिए वह एक ऐसा विशाल model इस्तेमाल करता है जिसकी token प्रति लागत बेतुकी तरह से ज़्यादा है। किसी को ऐसे model की ज़रूरत नहीं है। यह कुछ वैसा है जैसे NVIDIA या Intel किसी competing product से बहुत ज़्यादा power per frame खर्च करके खुद को best gaming performance कहे
    • सटीक रूप से कहें तो Fable की subscription usage period फिर से 19 जुलाई तक बढ़ा दी गई है

  • productivity gains से बना जादू जैसा नया software मेरे homelab में private तौर पर चल रहा है
    अब लगता है हम “जो चाहिए वही बना लो” वाले दौर में आ गए हैं। अगर कोई open source project आपकी इच्छा के मुताबिक काम नहीं करता, तो उसे fork कर लो या नया version बना लो; यह बहुत आसान हो गया है
    लेकिन open source के भविष्य को लेकर थोड़ी चिंता है। पहले fork को maintain करना भी मेहनत का काम था, इसलिए changes को upstream में वापस भेजना सार्थक होता था। अब वह संतुलन काफ़ी बदल गया है। कई projects ने contribution requirements सख्त कर दी हैं और कुछ तो AI के प्रति खुलकर hostile हैं, जो पूरी तरह समझ से बाहर नहीं है। लेकिन जैसे-जैसे AI का इस्तेमाल बढ़ेगा, improvements के community में वापस आने की संभावना घटती दिखती है

    • याद रखना चाहिए कि code उसी अर्थ में free है जैसे “free puppy”। free/open source community की असली value code में नहीं थी, बल्कि उस shared documentation और मौखिक ज्ञान में थी जो software को उपयोगी, इस्तेमाल-योग्य और up-to-date बनाता था
    • बहुत संभव है कि जल्द ही आप maintenance hell में फँस जाएँ। मुश्किल और परेशान करने वाला हिस्सा coding नहीं, बल्कि हर बार छोटे-छोटे projects को फिर से खोलकर उनमें मामूली बदलाव करना है, और लंबी अवधि में यह बहुत बड़ा झंझट बन जाता है। AI होने पर भी यह बहुत आसान नहीं होगा
    • किसी active project को fork करने की वजह तभी बनती है जब उस fork का उपयोगकर्ता सिर्फ आप हों, और वह बदलाव जिसकी आपने हमेशा इच्छा की हो, सच में अनिवार्य हो। मैंने popular projects के बहुत ज़्यादा बेवजह forks देखे हैं, इसलिए मुझे लगता है कि भले वह perfect न हो, original को बनाए रखना बेहतर है
    • आपको अब भी upstream changes को track करना होगा और merge conflicts सुलझाने होंगे। नहीं तो अपने fork के सारे CVE आपको LLM से ठीक करवाने पड़ेंगे
    • यह समझाना बहुत विश्वसनीय नहीं लगता कि अब जबकि नए tools से यह सारा code लिखा जा सकता है, फिर भी हर व्यक्ति और कंपनी ने जैसे किसी बड़ी साज़िश में मिलकर अपने सारे outputs सिर्फ private software के रूप में ही बनाए और कुछ भी publish नहीं किया

  • कम से कम मेरी productivity gains तो बहुत खास use cases के लिए सरल one-off software बनाने में लगी हैं
    LLM से आप कुछ भी बना सकते हैं, लेकिन क्या बनाना है यह आपको खुद पता होना चाहिए और हर behavior पर सोच-समझकर निर्णय लेना चाहिए। नहीं तो LLM उसके अंदर sausage जैसी बेतरतीब भराई ठूँस देता है। जिन कंपनियों की valuation खरबों डॉलर बताई जाती है, उनके software की असमान quality ही दिखा देती है कि models अब भी uneven और limited हैं। भविष्य sausage है

    • घर पर रोटी बना पाने का मतलब यह नहीं कि अगर उसकी लागत 10 गुना हो और स्वाद भी खराब हो, तो मैं रोज़ खाने वाली रोटी को perfect करने की skill पर समय लगाना चाहूँगा। कभी-कभार मन बहलाने वाली activity के रूप में यह ठीक है, लेकिन मैं खुशी से उन लोगों को support करना चाहूँगा जिन्होंने मुझसे कहीं ज़्यादा समय और मेहनत लगाकर समाधान को पूरा किया है
      तब मैं उस समस्या की चिंता छोड़कर उस काम पर ध्यान दे सकता हूँ जो मैं करना चाहता हूँ

  • 2024~2025 में मुझे भी कुछ ऐसा ही लगा था। लेकिन Sonnet 4 आने के बाद यह बदलना शुरू हुआ, और Opus 4.5 एक और छलांग थी
    सब कुछ तेज़ हो रहा है और expected timeline भी संकुचित होती लग रही है। कुछ मायनों में, ASI के खिलाफ “सब कुछ दाँव पर लगाने” वाले मूल लेखक से मुझे ईर्ष्या होती है। सच यह है कि यह कहाँ जाकर खत्म होगा, मैं भी नहीं जानता, और मुझे नहीं लगता कि कोई जानता है

    • मूल लेखक ने ASI के कभी न आने पर सब कुछ दाँव पर लगाने की बात नहीं की थी। उसने इस संभावना के खिलाफ दाँव लगाया था कि ASI आसमान की बिजली की तरह अचानक प्रकट होकर उस धन तक हमारी पहुँच ही नष्ट कर दे जो वह पैदा करेगा

  • मुझे भी LLM पसंद हैं, लेकिन लागत की चिंता रहती है। अभी सबको भारी subsidy मिल रही है, पर क्या यह गारंटी है कि बड़े AI research labs कीमत बढ़ाने से पहले हम अपने पर्सनल कंप्यूटर पर Opus 4.8-स्तर का मॉडल चला पाएंगे?

    • मेरा तो मानना है कि frontier labs inference की प्रति-इकाई लागत पर काफ़ी margin कमा रही हैं।
      frontier के क़रीब आकार वाले मॉडल चलाने की लागत अब पहले से देखी-परखी जा सकती है। independent कंपनियाँ ऐसे मॉडल को वाजिब कीमत पर उपलब्ध कराने वाले बिज़नेस में बदल चुकी हैं, और OpenRouter पर frontier labs से कहीं कम दाम में प्रतिस्पर्धा हो रही है।
      अगर पर्सनल कंप्यूटर पर Opus 4.8-स्तर का मॉडल चलाना संभव हो जाता है, तो data center में अपने hardware पर इसे उससे भी सस्ता service किया जा सकेगा। इसलिए मैं दांव लगाऊँगा कि कीमतें बढ़ेंगी नहीं, बल्कि काफ़ी गिरेंगी
    • अभी तेज़ RAM की कीमतें काफ़ी फुलाई हुई होने के बावजूद, नई कार से कम खर्च में लगभग Sonnet 4.5-स्तर का local model चलाया जा सकता है। यह शायद मनचाहा जवाब न हो, लेकिन एक संभव विकल्प है, और कई developers मिलकर RTX Pro 6000 के दो कार्ड वाले एक server को साझा करने वाला एक छोटा AI सहकारी समूह भी बना सकते हैं।
      DeepSeek V4 Pro किसी भी सामान्य API पर सस्ता है, और DeepSeek V4 Flash की कीमत input के प्रति 10 लाख tokens पर 0.09 डॉलर और output के प्रति 10 लाख tokens पर 0.18 डॉलर के स्तर पर है, यानी लगभग मुफ़्त। यह आम तौर पर subsidy से बनी हुई कीमत भी नहीं है।
      ज़्यादा व्यावहारिक local setup में, एक या दो पुरानी Nvidia 3090 पर चलने वाला Qwen3.6 27B हैरान करने वाली हद तक अच्छा है। इसे साफ़ निर्देश चाहिए होते हैं और यह पूरी तरह automated vibe coding के लिए नहीं है, लेकिन सीधे दखल देने वाले programmer के लिए काफ़ी उपयोगी है
    • गारंटी माँगना मुश्किल है, लेकिन अगर स्वस्थ प्रतिस्पर्धा बनी रहती है तो supply और demand curve के किसी वाजिब बिंदु पर मिलने की संभावना बहुत ज़्यादा है। कम-से-कम open models को अलग से संभालकर रखा जा सकता है, यह बात हमेशा पक्की है
    • कहा जा रहा है कि 2 साल बाद 1.5TB RAM वाला Mac Studio आएगा, और वह Opus-स्तर का मॉडल चलाने के लिए काफ़ी होगा। बेशक इसकी कीमत लगभग 50,000 डॉलर होने की संभावना है।
      अगर local AI सच में व्यापक हो जाता है, तो यह कार की तरह किस्तों पर खरीदी जाने वाली चीज़ों में से एक बन सकता है
    • अभी frontier models पर subsidy की वजह से मांग मुख्यतः ज़्यादा intelligence की ओर केंद्रित है। अगर subsidy ख़त्म हो जाती है, तो intelligence की प्रति-इकाई price efficiency की ओर मांग काफ़ी बढ़ेगी, और बाज़ार में खिलाड़ी बहुत हैं, इसलिए कुछ कंपनियाँ इसे ज़रूर पूरा करेंगी

  • मैं “पेशेवर software कारीगर के toolbox में जुड़ा नया tool” वाली दलील से सहमत होना चाहता हूँ, लेकिन cotton swab के बारे में सोचना चाहिए।
    उस पर “कान साफ़ करने के लिए इस्तेमाल न करें” लिखा होता है, फिर भी ज़्यादातर लोग उसे सिर्फ़ उसी काम के लिए इस्तेमाल करना चाहते हैं। व्यवहार में बात या तो “लापरवाही से cotton swab का इस्तेमाल” पर जाकर खत्म होती है या “बिलकुल इस्तेमाल न करना” पर, और “सही तरीके से इस्तेमाल” करने वाले कुल मिलाकर बहुत कम होते हैं

    • cotton swab असल में कान साफ़ करने के लिए ही बनाया गया सामान है। उस पर ऐसा न करने की बात इसलिए लिखी जाती है ताकि जब भी कोई अपना कान चोटिल कर बैठे तो मुकदमे का सामना न करना पड़े

  • उसने कहा कि मई वाला “eternal sloptember” लेख शायद कुछ ज़्यादा कठोर था: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
    मैं जानना चाहूँगा कि उसे कौन-सा हिस्सा कठोर लगता है। वह अब भी काफ़ी सटीक दिखता है, और समय बीतने पर भी उसका मूल्यांकन अच्छा ही लगेगा

    • “software development में AI agents को लाना इस क्षेत्र के इतिहास की सबसे महंगी गलतियों में से एक साबित होगा। agents programming नहीं कर सकते, और यह बात समझने में लोगों को लगातार ज़्यादा समय लग रहा है” — इस वाक्य के विपरीत, अब शायद वह यह सोचता है कि agents थोड़ी-बहुत programming कर सकते हैं

  • कोई इस बारे में बात नहीं करता, लेकिन Terminator 2 मशीनों द्वारा दुनिया पर कब्ज़ा करने की कहानी नहीं है। वह तो या तो पहले ही हो चुका है या होने वाला है, लेकिन आखिर में इंसान मशीनों को हरा देते हैं। Skynet इसे रोकने के लिए John Connor को मारना चाहता है, और फिल्म का मुख्य विषय यही है।
    यह John की उस खोज की कहानी भी है जिसमें वह T800 के ज़रिए किसी ऐसे शख्स को पाना चाहता है जो उसके लिए parental role निभा सके। उसे यह अपने foster parents या दूर हो चुकी माँ से नहीं मिला। अफ़सोस है कि लगता है इस व्यक्ति ने फिल्म वास्तव में देखी ही नहीं। यह एक क्लासिक महान फिल्म है

    • यह अब तक का सबसे बुरा roleplayer है

  • व्यापारियों और उनकी marketing को नापसंद करने की पूरी वजह हो सकती है, लेकिन बनाने वाला व्यक्ति व्यापारी नहीं होता। बनाने वाला व्यक्ति जो भी tool उपलब्ध हो, उसका इस्तेमाल करता है

    • Geohot भी कभी व्यापारियों में शामिल होने की कोशिश करने वालों में से एक था। हो सकता है कि उसका बिज़नेस नहीं चला, इसलिए उसका रुख बदल गया हो

  • LLM इस्तेमाल करने के लिए Twitter पर जाकर “स्थायी निचला वर्ग” की बात करने वालों के सामने आने की कोई ज़रूरत नहीं है। मुझे इंटरनेट पसंद है, लेकिन अब पहले से कहीं ज़्यादा यह महसूस होता है कि किन sites पर जाना है, यह सोच-समझकर चुनना पड़ता है

    • ऐसे लोग सिर्फ़ Twitter पर नहीं हैं। वे यहाँ भी हैं, दफ़्तर में भी हैं, और अगली social gathering में भी मिलेंगे। कुछ हद तक वे अपरिहार्य लगते हैं
    • यहाँ दिखने वाला दुर्भावनापूर्ण उल्टा-अतिशयोक्ति का माहौल काफ़ी अप्रिय है। मेरा मानना है कि यह इसलिए बनता है क्योंकि बहुत-से लोग जानबूझकर ऐसे विचार ढूँढ़ते फिरते हैं जिनसे मेरा सामना नहीं होता।
      data centers और उनसे जुड़ी कंपनियों की वित्तीय स्थिति पर अजीबोगरीब conspiracy theories Bluesky या Instagram पर शुरू होती हैं और अक्सर यहाँ से होकर मेरे पास भी पहुँच जाती हैं। लेकिन जिस अनियंत्रित अतिशयोक्ति की लहर से ये लोग लड़ने का दावा करते हैं, उसे मैंने खुद कभी नहीं देखा। मैं Scott Alexander को भी पढ़ता हूँ, लेकिन वह लोगों के बताए अनुसार नहीं, उससे कहीं ज़्यादा सावधान है
    • क्या Xitter पर अब भी वर्ग विभाजन की शिकायत करने वाले लोग बचे हैं, यह जानने की उत्सुकता है। मैं आजकल वहाँ लगभग जाता ही नहीं, लेकिन पहले भी मैंने वहाँ ऐसा कुछ नहीं देखा था