1 पॉइंट द्वारा GN⁺ 2024-10-21 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • AI की मांग अमेरिका में कंप्यूटर, डेटा सेंटर और बिजली इन्फ्रास्ट्रक्चर निवेश को बढ़ा रही है, और Microsoft द्वारा Three Mile Island परमाणु संयंत्र की यूनिट 1 को फिर से शुरू करने की लागत उठाना दिखाता है कि डेटा सेंटर की बिजली किल्लत कैसे फिजिकल इन्फ्रास्ट्रक्चर निवेश तक फैल रही है
  • अमेरिका में डेटा सेंटर निर्माण खर्च सालाना दर से 28.6 अरब डॉलर के अब तक के उच्चतम स्तर पर है; यह पिछले साल से 57% और दो साल पहले से 114% बढ़कर रेस्टोरेंट, बार और रिटेल स्टोर निर्माण खर्च के कुल योग के बराबर हो गया है
  • निर्माण खर्च में सर्वर रैक और पुर्जे शामिल नहीं हैं, जबकि बड़े कंप्यूटरों और कंप्यूटर पार्ट्स/एक्सेसरीज़ का शुद्ध आयात पिछले एक साल में 65 अरब डॉलर से अधिक रहा; Taiwan से चिप्स, कंप्यूटर और संबंधित पार्ट्स का आयात भी तेजी से बढ़कर 38 अरब डॉलर से ऊपर पहुंच गया
  • इस AI बूम का प्रभाव पारंपरिक software hiring की तुलना में hardware, manufacturing, construction और power infrastructure पर ज्यादा दिख रहा है; पिछले एक साल में अमेरिका में tech jobs केवल 32,000 बढ़ीं
  • बड़े models और वास्तविक applications के फैलाव की धारणा पर निवेश की दौड़ जारी है, जिससे advanced semiconductors की मांग, Taiwan पर निर्भरता और China की access restrictions Chip War के केंद्रीय मुद्दों के रूप में और उभर रहे हैं

AI मांग फिजिकल इन्फ्रास्ट्रक्चर निवेश में बदल रही है

  • Microsoft ने बढ़ती डेटा सेंटर बिजली मांग को पूरा करने के लिए Three Mile Island परमाणु संयंत्र यूनिट 1 को फिर से शुरू करने की लागत उठाने का फैसला किया है, और Amazon के बाद यह मौजूदा परमाणु संयंत्र सुविधाओं को ऊर्जा मांग से निपटने में इस्तेमाल करने वाली दूसरी बड़ी अमेरिकी tech company बन गई है
  • Microsoft, OpenAI का प्रमुख निवेशक और compute provider है, और ChatGPT लॉन्च होने के दो साल से भी कम समय में AI development और usage तेजी से फैल गई है
  • AI products का इस्तेमाल code, text और image generation, data analysis, task automation और online platforms को बेहतर बनाने में हो रहा है, और usage बढ़ते रहने की उम्मीद है
  • नए AI models को training और inference के लिए बड़े पैमाने के computing resources चाहिए, और उन्हें चलाने के लिए high-performance hardware, industrial-scale facilities, बिजली, पानी और broadband infrastructure की जरूरत होती है

डेटा सेंटर और कंप्यूटर निवेश में तेज उछाल

  • अमेरिका में डेटा सेंटर निर्माण सालाना दर से 28.6 अरब डॉलर पर पहुंचकर सर्वकालिक उच्च स्तर पर है
    • पिछले साल की तुलना में 57% वृद्धि
    • दो साल पहले की तुलना में 114% वृद्धि
    • यह अमेरिका के restaurant, bar और retail store construction spending के कुल योग के बराबर है
  • यह आंकड़ा केवल इमारतों को शामिल करता है; डेटा सेंटर के दिमाग की तरह काम करने वाले high-performance computer racks, cables, fans और अन्य components इसमें शामिल नहीं हैं
  • अगस्त में अमेरिका का बड़े computers का net import सर्वकालिक उच्च स्तर पर पहुंचा, और computer parts, accessories और अन्य components का net import उससे पिछले महीने रिकॉर्ड स्तर पर था
  • अमेरिका ने पिछले एक साल में इन दो categories में 65 अरब डॉलर से अधिक का आयात किया है, और घरेलू उत्पादन भी साथ-साथ बढ़ रहा है

tech companies के investment structure में बदलाव

  • नए डेटा सेंटर, computers और equipment का ज्यादातर हिस्सा information technology sector की कंपनियां खरीदती हैं
    • Amazon जैसे computing infrastructure providers
    • Google जैसी web search companies
    • Microsoft जैसे software publishers
  • इन कंपनियों ने पिछले एक साल में real estate, plants और equipment की net holdings 95 अरब डॉलर से अधिक बढ़ाई हैं, जो रिकॉर्ड स्तर है
  • करीब 10 साल पहले Facebook ने Instagram को 1.2 अरब डॉलर में और दो साल बाद WhatsApp को 15 अरब डॉलर में खरीदा था
    • उस समय Instagram में केवल 13 कर्मचारी और WhatsApp में केवल 55 कर्मचारी थे, और उनका physical base बस offices और developer workstations तक सीमित था
  • Meta ने 2024 की पहली छमाही में ही 15.2 अरब डॉलर का capital expenditure किया, जिसका बड़ा हिस्सा Llama AI models को support करने वाले बड़े computing infrastructure पर खर्च हुआ
  • मौजूदा AI बूम पिछले tech booms की तुलना में कहीं ज्यादा hardware-intensive है, और अमेरिका के भीतर construction और investment को तेजी से बढ़ा रहा है

high-performance computers और Taiwan imports बने मुख्य धुरी

  • AI बूम के बीच अमेरिकी कंपनियों का computers और संबंधित equipment में निवेश inflation-adjusted basis पर पिछले एक साल में 16.6% बढ़कर सर्वकालिक उच्च स्तर पर पहुंच गया
  • 2010 के दशक में लगभग एक दशक तक computer investment अपेक्षाकृत ठहरा रहा, और pandemic के दौरान remote work की मांग ने इस trend को तोड़ा
  • 2022 में work-from-home levels और internet usage स्थिर होने पर computer investment घटा, लेकिन 2023 के अंत से AI बूम के साथ फिर तेजी से बढ़ा
  • advanced computer systems की growth rate कुल computer investment से भी तेज है
    • TSMC advanced semiconductors की दुनिया की अग्रणी manufacturer है
    • अमेरिका में Taiwan से chips, computers और संबंधित parts का आयात पिछले एक साल में 38 अरब डॉलर से अधिक रहा, और पिछले साल की तुलना में 140% से ज्यादा बढ़ा
    • अमेरिका का logic chips का direct import निचले स्तर से बढ़कर सालाना दर से लगभग 5 अरब डॉलर तक पहुंच गया
    • computer parts और components अभी भी सबसे बड़ा import item हैं

software companies भी hardware race में उतरीं

  • 2023 तक के detailed industry investment data के अनुसार Amazon और Google जैसी data processing और web search companies tech sector में सबसे बड़े investment scale को बनाए रखे हुए हैं
  • सबसे तेज investment growth software developers में दिखी
    • software publishers का real investment in intellectual property 2021 के बाद से 40% बढ़ा है
    • इस category में AI models खुद और संबंधित R&D शामिल हैं
    • computers जैसे equipment में real investment 96% बढ़ा है
  • अग्रणी software developers के हल्के hardware structure का दौर अब तेजी से hardware capability बनाने की दौड़ में बदल गया है

डेटा सेंटर locations क्षेत्रों के हिसाब से बहुत अलग हैं

  • डेटा सेंटरों को networking needs और infrastructure constraints से बचने के लिए कुछ हद तक distributed होना पड़ता है, लेकिन large-scale clusters में concentration से efficiency बढ़ती है और cost व latency घटती है
  • AI में ये concentration effects विशेष रूप से महत्वपूर्ण हैं, और कंपनियां model development में जितनी हो सके उतनी computing power लगाने के लिए data center size और networking की limits को push कर रही हैं
  • official construction statistics data center spending को केवल regional level पर बांटते हैं, इसलिए granular construction data उपलब्ध नहीं है
  • अमेरिका में data center expansion ऐतिहासिक clusters वाले South में सबसे मजबूत बना हुआ है
  • growth rate Midwest और West Coast markets में ज्यादा तेज रही, जबकि Northeast पर लगभग कोई असर नहीं पड़ा

बिजली मांग और regional power grids पर असर

  • Energy Information Administration ने data center demand को ध्यान में रखते हुए power load growth forecasts को कई बार ऊपर संशोधित किया है
  • मौजूदा forecast के मुताबिक commercial sector electricity consumption इस साल 3% और अगले साल 1% बढ़ेगा
  • इस forecast में भी commercial users, residential electrification और industrial reshoring की तुलना में electricity consumption growth के छोटे driver हैं, लेकिन commercial sector के लिए यह कई सालों में सबसे तेज demand growth है
    • 2007 से 2023 तक commercial electricity consumption कुल मिलाकर केवल 5% बढ़ा
    • AI बूम से पहले official estimates में computers और office equipment, commercial electricity consumption का 11.4% थे
  • कुछ क्षेत्रों में data center electricity consumption power load growth का मुख्य driver बन गया है
    • North Dakota में 2022 में बड़े data center के खुलने के बाद commercial electricity consumption 45% से अधिक बढ़ गया
    • North Dakota का power और computing market छोटा है, इसलिए raw power demand growth का पैमाना Virginia और Texas जैसे बड़े data center clusters में ज्यादा बड़ा है

Virginia और Texas की डेटा सेंटर बिजली मांग

  • Washington DC के उत्तर में Virginia suburbs का byteway दुनिया का सबसे बड़ा computing power cluster है
  • इस cluster के कारण 2019 के बाद से Virginia की commercial energy consumption 30% बढ़ी, और यह अमेरिका में commercial electricity demand की raw increase में सबसे बड़ी है
  • Texas ने energy load management programs के हिस्से के रूप में data centers और cryptocurrency miners को आकर्षित किया है
  • 2019 के बाद से Texas की commercial electricity consumption 10% बढ़ी है, और आगे और बड़ी growth की उम्मीद है
  • data center load growth ने Texas की renewable energy investment outperformance में योगदान दिया है
    • ERCOT और PJM के इस साल और 2025 में renewable energy growth में पूरे अमेरिका से आगे निकलने का अनुमान है
    • data center clustering advantages के कारण AI companies में बड़े power resources के पास concentrate होने की प्रवृत्ति बढ़ रही है
    • यही nuclear energy में बढ़ती रुचि और tech companies की power generation infrastructure में direct investment की इच्छा की पृष्ठभूमि है

revenue recovered, लेकिन tech hiring कमजोर

  • AI बूम के बीच information technology sector revenue 2022–2023 की slowdown से उबर गया है
  • software publishers, web search portals और computing infrastructure providers, सभी की revenue पिछले एक साल में 12–15% बढ़ी है
  • यह 2021 के स्तर से कम है, लेकिन pre-COVID benchmark के हिसाब से मजबूत revenue growth है
  • physical investment में तेज उछाल और revenue recovery के बावजूद tech sector में employment growth बहुत कमजोर है
    • अमेरिका ने पिछले एक साल में 32,000 tech jobs जोड़ीं
    • यह 2021, 2022 और pandemic से पहले के नौ वर्षों में किसी भी समय से कम स्तर है
    • AI बूम के केंद्र में मौजूद software publishers और computing infrastructure industries में भी पिछले एक साल में net employment growth लगभग नहीं हुई
  • हालिया computer science graduates को परेशान करने वाला tech job market ज्यादा सुधरा नहीं है

labour market का असर traditional tech roles से बाहर ज्यादा स्पष्ट

  • AI investment boom का labour market पर कोई असर नहीं है, ऐसा नहीं है, लेकिन असर traditional information technology sector के बाहर ज्यादा concentrated है
  • semiconductor manufacturing में total compensation 2023 की पहली तिमाही से 2024 की पहली तिमाही तक 25% बढ़ा
    • NVIDIA जैसी कंपनियों के कर्मचारियों पर अधिक valuable हुए stock options का असर पड़ा
  • पिछले एक साल में commercial construction jobs 30,000 बढ़ीं, और इसका कुछ हिस्सा data center demand का downstream effect है
  • chip fabs और अन्य manufacturing sectors में industrial construction employment boom, power और व्यापक infrastructure expansion से जुड़ी hiring growth भी साथ चल रही है
  • AI बूम की employment dynamics पिछले दशक के tech labour market से काफी अलग हैं, और traditional programmers की तुलना में hardware investment, manufacturing/design companies और infrastructure builders पर ज्यादा केंद्रित हैं

investment race और Chip War तक विस्तार

  • AI developers इस भरोसे के साथ कड़ी प्रतिस्पर्धा कर रहे हैं कि product improvements और commercialization का विस्तार मौजूदा ऐतिहासिक investment levels को justify करेगा
  • short term में advanced models के development और autonomous vehicles जैसे real-world applications के फैलाव के साथ investment और बढ़ने की उम्मीद है
  • policymakers AI को अमेरिकी economy के भविष्य का core sector मानते हैं
    • Silicon Valley और बड़ी अमेरिकी tech giants के dominance की बदौलत अमेरिका ने AI development और data center capabilities में substantial lead बनाई है
    • माना जाता है कि AI बूम ने किसी भी दूसरे देश से ज्यादा अमेरिकी investment को फायदा पहुंचाया है
  • hardware capabilities को लेकर geopolitical competition और तेज होने की संभावना है
    • CHIPS Act, ChatGPT से पहले बनाया गया कानून है, और कुछ industry leaders ने शिकायत की है कि priorities और scale के लिहाज से यह पुराना लगता है
    • advanced semiconductor demand में बढ़ोतरी, Taiwan imports पर अमेरिका की निर्भरता को बढ़ाती है, जिसे CHIPS Act कम करना चाहता था
    • data center-scale supply पूरी करने के लिए जरूरी कई components में अमेरिका अभी भी China पर निर्भर है
  • अमेरिका China के AI development को धीमा करने के लिए top-tier chips तक access restrictions जारी रख सकता है, और China import dependence घटाने के लिए chip manufacturing capabilities बढ़ाता जा रहा है
  • AI investment boom जैसे-जैसे आगे बढ़ेगा, वह मौजूदा Chip War के केंद्र में और आता जाएगा

1 टिप्पणियां

 
GN⁺ 2024-10-21
Hacker News की राय
  • यह लेख पढ़ने के बाद, मुझे दांव लगाने का मन होता है कि यह capital-intensive investment boom भी अमेरिकी इतिहास के बड़े investment booms जैसा ही आगे बढ़ेगा
    1800s में रेलवे बिछाने, 1900s की शुरुआत में ऑटोमोबाइल कंपनियों की भरमार, और 1990s के अंत में telecom fiber boom की तरह, बड़े पैमाने पर infrastructure overbuild के बाद एक collapse आया जिसमें industry का बड़ा हिस्सा दिवालिया हो गया, लेकिन बाद में वही infrastructure absorb हुआ और economy व society को बड़ा लाभ मिला
    90s के अंत से 2000s की शुरुआत तक telecom investment और bankruptcies के बाद बिछा हुआ dark fiber आखिरकार चालू हुआ और Netflix जैसी high-quality multimedia growth को संभव बनाया—यह उदाहरण याद आता है
    यहां भी average investor महंगे chips, datacenters और energy supply में पैसा लगाएगा और काफी निराश होगा, लेकिन लंबे समय में यह बड़ा dividend देगा, ऐसा मैं मानता हूं
    खासकर केवल energy investment के लिहाज से भी, भले ही AI को climate heating वाला बहुत बड़ा energy hog बताया जाए, अब जब renewables सबसे सस्ती बिजली बन चुकी हैं, मुझे विश्वास है कि funding की यह भारी demand fossil fuels से transition को तेज करेगी

    • बात सही लगती है, और कभी न कभी bubble burst होगा
      लेकिन सवाल है कब. अगर अभी dot-com boom का 1999 नहीं बल्कि 1995 वाला दौर है, तो आगे 4 साल की high growth बाकी है, और collapse के बाद भी 2029 का market 2024 से कहीं बड़ा हो सकता है. Cisco भी 2001 में 1995 की तुलना में अब भी 4 गुना बड़ा था
      पुराने bubbles से थोड़ा अलग पहलू यह है कि जितनी ज्यादा compute होगी, AI उतना ही ज्यादा smart और capable होगा
      मैं यह अंदाजा लगाने के लिए कि हम अभी boom के शुरुआती चरण में हैं या नहीं, यह देखता हूं कि क्या Slack पिछले 2 सालों में chat में लिए गए business और technical decisions पर भरोसेमंद जवाब देने वाला LLM chatbot बेच रहा है. अभी ऐसा product नहीं है, और शायद इसलिए कि इतने बड़े context window के साथ इतना inference चलाने की cost अभी भी बहुत ज्यादा है
      इसलिए मेरा मानना है कि अभी हम bubble के अंत से ज्यादा शुरुआत के करीब हैं
      एक और देखने वाली बात यह है कि क्या LLM scaling laws तेजी से टूटते हैं, जिससे ज्यादा compute economically ज्यादा intelligence न दे पाए. अगर ऐसा हुआ तो bubble burst होने जैसा लगेगा, और हर कोई देख रहा है कि GPT-5-class models यह signal दिखाएंगे या नहीं
    • समझ नहीं आता कि इसे ऐसा कैसे देखा जा सकता है. rail networks, road networks और fiber networks मूल investors के डूब जाने के बाद भी दशकों तक इस्तेमाल हो सके
      लेकिन मौजूदा AI compute datacenters की समस्या यह है कि अगर AI companies डूब गईं, तो उन्हें दूसरे उपयोगों में लगाना practically मुश्किल है
      compute infrastructure investment की समस्या यह है कि अगले 5 साल के भीतर इसका पूरा उपयोग करने की योजना होनी चाहिए. उसके बाद लोग इसे मुफ्त में भी शायद न लें
    • renewables पहले से ही इतनी सस्ती हैं कि वैसे भी शायद इसी pace से बनतीं
      इसके उलट महंगा nuclear power generation इस bubble के बिना शायद नहीं बनता, लेकिन अजीब तरह से nuclear की तरफ भी पैसा बहता दिख रहा है
    • telecom bubble में बाद में भी value रखने वाली asset सिर्फ जमीन के नीचे बिछी fiber optic cable थी. terminal equipment कुछ सालों में obsolete हो गया और बदलना पड़ा, जबकि fiber reusable था और उसे install करना महंगा था, इसलिए वही core asset था
      AI bubble में 5 साल बाद भी कौन-सी asset value रखेगी? 5 साल पुराने GPUs से भरा warehouse शायद नहीं. शायद nuclear plants हो सकते हैं
    • railways और computer networks network effects बनाते हैं, लेकिन बहुत तेजी से obsolete होने वाले hardware से भरे datacenters पर भी यही बात लागू होती है या नहीं, यह पक्का नहीं है
  • कहा जाता है कि यह railways जैसा है, लेकिन बहुत पैसा लगने के अलावा यह railways से बिल्कुल अलग है
    railways दशकों तक टिके रहे और आगे भी दशकों तक meaningful रहेंगे. वे धीरे-धीरे घिसते हैं, और land transport का सबसे efficient रूप हैं
    इसके उलट ऐसे hardware investments 6 साल बाद पूरी तरह depreciate हो जाएंगे, और power cost के मुकाबले output के कारण इन्हें चलाना worth it नहीं रहेगा, इसलिए इनके discard होने की संभावना है
    साथ ही यह extra risk भी है कि future AI systems किसी भी वजह से current-generation hardware पर efficiently न चलें

    • हो भी सकता है और नहीं भी. Nvidia P40 GPU 8 साल पहले आया था और काफी heat पैदा करता है, लेकिन पिछले 1 साल में इसकी price दोगुनी हो गई है
      6 साल में कोई चीज पूरी तरह depreciate नहीं होने वाली. लोग शायद 15 साल बाद भी A100 इस्तेमाल कर रहे होंगे. 7 साल पुराना V100 32GB GPU card भी eBay पर अब भी 1500 डॉलर में बिकता है
      मौजूदा hardware को पूरी तरह replace करने वाले किसी नए तरह के बेहतर hardware का invention होने की तुलना में ज्यादा संभावना लगती है कि ज्यादा efficient software architecture invent होगा
    • इस analogy में public good AI hardware नहीं, बल्कि AI models हैं
    • buildings और power supply जैसी कुछ assets शायद usable बनी रहेंगी. फिर भी chips जल्द ही नए से replace होने की संभावना है
    • IT infrastructure की lifespan railway industry से बहुत छोटी है, लेकिन margins भी हैरान करने लायक ऊंचे हैं
      railway investments की recovery में आम तौर पर दशकों लगते हैं, जबकि IT industry में आम तौर पर कुछ सालों में recovery हो जाती है
  • इस discussion में एक बड़ा gap महसूस होता है. लगभग सब कुछ GPU और hardware investment पर focused है, और यह सच है कि वही current AI boom को काफी drive कर रहा है, लेकिन software side गायब है
    AI-based platforms, tools और applications में लगने वाली significant venture investment को भी cover करना चाहिए. यह लेख hardware पर बहुत ज्यादा झुका हुआ है, इसलिए इसे ‘GPU investment boom’ कहना ज्यादा accurate लगता है
    software investment को भी उतनी ही attention मिलनी चाहिए

    • GPU और datacenters को मैं AI में dot-com boom के fiber optic cable जैसा मानता हूं
      बहुत सारे LLM-based software economically viable इसलिए नहीं हैं क्योंकि वे जो काम करना चाहते हैं, उसे संभालने के लिए compute और electricity अभी पर्याप्त नहीं हैं
    • क्या इसका share अच्छी तरह estimate करने वाला कोई data है? जिन AI startups को मैं कुछ हद तक जानता हूं, उन्हें देखकर impression यही है कि hardware startup न होने पर भी raise किए गए venture funds का ज्यादातर हिस्सा directly या indirectly hardware costs में वापस चला जाता है
      हालांकि पक्के numbers नहीं हैं
    • आजकल YC और Product Hunt देखने पर, अभी जो software बढ़ा-चढ़ाकर promote किया जा रहा है, वह लगभग पूरा “AI Powered कुछ” है
      अगर एक company है जहां AI सचमुच useful काम कर रहा है, तो करीब दस companies ऐसी हैं जो किसी existing app में जबरदस्ती AI ठूंसकर उसे “AI Powered” कहकर package कर रही हैं, जो काफी annoying है
      हाल ही में हमारी company ने Zenhub evaluate किया, और sales team ने बहुत जोर देकर बताया कि app में AI इस्तेमाल होता है. लेकिन देखने पर वह prompt से story description generate करने वाला सबसे basic AI integration ही निकला
      AI बहुत useful है, लेकिन उसे हर चीज में डालने की जरूरत नहीं है
    • datacenters और cloud compute की बात बहुत होती है, लेकिन on-device inference chips का जिक्र नहीं है
      interface layer में mobile की position को देखते हुए, अगर मैं venture investor होता तो on-device inference पर bet करता
  • पता नहीं हर अतिशयोक्तिपूर्ण article ऐसी पंक्तियों से क्यों शुरू होता है जैसे “AI products का इस्तेमाल code, text, image generation, data analysis, task automation, online platforms को बेहतर बनाने वगैरह में व्यापक रूप से हो रहा है और आगे usage बढ़ने की उम्मीद है”
    निजी तौर पर coding करते समय Copilot usage कम हो गया है। लगातार कोशिश की, लेकिन यह जल्दी ही भटक जाता था और subtle bugs निकाल देता था, इसलिए खुद लिखने की तुलना में debugging में ज़्यादा समय लग गया
    हमेशा लगता है कि शायद मैंने code को पर्याप्त रूप से verify नहीं किया, और “यह production में किसी अनजान तरीके से फट सकता है”। सहकर्मियों और दोस्तों ने भी कहा कि उन्हें ऐसा ही लगता है
    नया ‘chain of thought’ model भी आज़माया, लेकिन अजीब तरह से वह और खराब लगा

    • यह comment देखकर मुझे याद आया कि मेरा Copilot subscription चल रहा था
      कई महीनों से useful code suggestions नहीं दे पाया था, इतना कि याद से ही निकल गया था। अभी login करके cancel कर दिया
      अब देखना पड़ेगा कि बाकी subscriptions भी cancel कर सकता हूँ या lower plan में घटा सकता हूँ
    • मेरा अनुभव भी मिलता-जुलता है। हाल की coding task में Claude इस्तेमाल किया, तो वह लगातार rabbit holes में ले जाता रहा और हर बार पहले से बदतर लगता था
      फिर भी वह “माफ़ कीजिए, लेकिन असल में मुझे पता नहीं कि आपकी मदद कैसे करूँ” कहकर रुक नहीं पाता था
    • मुझे लगता है कि अभी AI implementer से ज़्यादा teacher जैसा है। कुछ नया सीखने या किस दिशा में जाना है इसका idea पाने में यह सच में मददगार है
      लेकिन actual code अब भी ज़्यादातर इंसानों को ही लिखना पड़ता है
      AI एक बेहतरीन tool है और speed काफी बढ़ा देता है, लेकिन यह उस जादुई सोच से मेल नहीं खाता कि हम सिर्फ ideas देंगे और AI सारा grunt work कर देगा
      आम तौर पर भ्रम नहीं, बल्कि actual evidence के आधार पर thinking model बनाना हमेशा बेहतर होता है, और अभी इसमें बहुत भ्रम मिला हुआ है। इसका मतलब यह नहीं कि future progress को लेकर pessimistic होना चाहिए, लेकिन वह सुधार किस रूप में आएगा, यह predict करना बहुत मुश्किल है
    • मेरे अनुभव में समय के साथ यह बेहतर हो रहा है, और खासकर LLM को language server protocol और दूसरे tools के साथ integrate करने में अभी भी relatively easy improvements की काफी गुंजाइश है
      फिर भी फिलहाल यह independently काम करने के लिए पर्याप्त नहीं है, इसलिए इसे ऐसे इस्तेमाल करना बेहतर है जैसे किसी medium-level human developer के साथ pair programming कर रहे हों, जिसके पास project context ज्यादा नहीं है और attention span छोटा है
      खासकर जब AI को एक बार में सिर्फ एक function या एक refactoring सौंपता हूँ, और बीच-बीच में आसानी से test करने लायक रखता हूँ, तो इससे काफी value मिल रही है
    • क्योंकि articles भी सारे AI से लिखे जाते हैं
  • जब भी ऐसे लेख और चर्चाएँ देखता हूँ, तो हमेशा हैरानी होती है कि हम यह कहते हैं कि हमने ग्रह को बर्बाद कर दिया है और मूलभूत नुकसान तक शायद सिर्फ 5–6 साल बचे हैं, और साथ ही LLMs में कल्पना से परे संसाधन लगा रहे हैं—यह कितना absurd है, यह समझ में क्यों नहीं आता
    आखिर में या तो हमें यह उम्मीद छोड़नी होगी कि पर्याप्त investment वाला LLM कुछ बड़ा ला सकता है, या फिर पृथ्वी को हमारे नुकसान पर बहुत शोरगुल वाला, लेकिन असल में खोखला दिखने वाला तर्क छोड़ना होगा

    • यहाँ “हम” कौन हैं, यह समझ नहीं आ रहा। समाज का एक हिस्सा पर्यावरण को irreversible damage होने की चेतावनी दे रहा है, और दूसरा हिस्सा व्यापक मानव जीवन पर पड़ने वाले प्रभावों पर विचार किए बिना, या जानबूझकर उन्हें नजरअंदाज करके, numbers को जितनी जल्दी हो सके ऊपर ले जाना चाहता लगता है
      AI investment को आगे बढ़ाने वाले लोग climate change के असर से ज्यादा प्रभावित नहीं होंगे। अगर उष्णकटिबंधीय क्षेत्रों में करोड़ों लोग मर भी जाएँ और संगठित मानवीय गतिविधि का बड़ा हिस्सा ढह भी जाए, तो भी आखिरी पल तक वे परिणामों से सुरक्षित रहेंगे, इसलिए उन्हें फर्क नहीं पड़ता
    • शायद, सच में शायद, अब जब ज़्यादा energy की ज़रूरत पड़ रही है, तो हम आखिरकार more sustainable development methods खोज निकालें
    • “खोखला तर्क” से आपका मतलब क्या है, यह जानना चाहूँगा
    • आपने solar boom के बारे में सुना ही होगा। यह exponentially grow कर रहा है
      और पूरी दुनिया को कोई एक व्यक्ति command करके यह तय नहीं कर रहा कि क्या होगा
  • AI bubble अगले साल फूटेगा। अभी हम dot-com bubble के 1998 के आसपास हैं, और एक और AI winter आने वाला है
    LLM और generative AI इस साल के “internet पर business” या “X के लिए Uber” जैसे business plans हैं

    • क्या AI bubble का collapse बाकी startup industry को भी नीचे खींच लेगा, या non-AI tech में ज़्यादा investment संभव होगा
      climate-related tech को ज़्यादा money चाहिए
    • मुझे नहीं लगता ऐसा होगा
      economic bubble election के बाद फूटेगा, और जब Fed फिर से rates बढ़ाना शुरू करेगा तब पता चलेगा। हालांकि इस बार catalyst शायद commercial real estate होगा
      commercial real estate में datacenters investors की नजर में अकेला ठीक-ठाक item हैं, और AI boom की वजह से और भी ज्यादा। मुझे लगता है कि ऐसे investors planned collapse से बचने के लिए power generation और AI-related दूसरे sectors में पहले से ज्यादा पैसा झोंकेंगे
      सबसे बड़ा variable यह है कि transnational oligarchy इस collapse का इस्तेमाल central bank digital currency जैसे कहीं बड़े monetary policy shift के लिए करना चाहती है या नहीं
    • market का price-to-earnings ratio बहुत ऊँचा है, और काफी समय से ऊँचा है। tech stocks और AI उसका बड़ा हिस्सा संभाले हुए हैं
      Tesla के fundamentals थोड़े हिलने शुरू हुए तो क्या हुआ, यह देख लीजिए। फिर भी “AI bubble” अगले साल फूटेगा, ऐसा predict करने में मैं सावधान रहूँगा
  • अच्छा होगा अगर AI bubble खत्म हो जाए ताकि HN किसी और चीज़ पर बात कर सके

    • cryptocurrency bubble से तो AI bubble कभी भी बेहतर है
    • अगर थक गए हैं तो WordPress mess वाली चर्चा में शामिल हो जाइए। आजकल यहाँ वह काफी सक्रिय रूप से उछल रही है
    • अगर Fed ने तय किया कि inflation खत्म नहीं हुआ है और 6 महीने के भीतर फिर से rates बढ़ाने शुरू कर दिए, तो लगता है यह फूट जाएगा
      bubble को सिर्फ तब तक feed किया जा सकता है जब तक आम लोग महंगाई को और झेल नहीं पाते
    • पिछले महीने HN के top 30 posts (https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...) में AI केवल 6 थे
      सबसे ऊँचा AI post 10वें नंबर पर “OpenAI to become for-profit” था, और नंबर 1 “Bop Spotter” था, उसके बाद Starship और click करके subscription cancel करने वाली post थी
    • लोग अपनी बची हुई पूरी जिंदगी AI के बारे में बात करेंगे। चाहें तो Amish community में शामिल हो जाइए या जंगल में रहकर Firewatch जैसा काम कर लीजिए
  • सोच रहा हूँ कि इसका हम जैसे लोगों की cloud costs पर क्या असर पड़ेगा
    एक तरफ economies of scale बन सकती हैं, लेकिन दूसरी तरफ दूसरे लोग cloud resources consume करके prices बढ़ा सकते हैं। क्या होगा, इस पर कोई अंदाजा है?

    • traditional CPU-based cloud costs बढ़ेंगी, ऐसा नहीं लगता
      बस Ampere 192-core और AMD 196-core CPU देख लीजिए। efficiency gains traditional cloud की price-performance को लगातार कम करते रहेंगे
  • स्वाभाविक रूप से hallucinate न करने वाला “AI” अभी तक नहीं मिला, और hallucinate करने वाला “AI” niche use cases से बाहर कैसे उपयोगी हो सकता है, समझ नहीं आता

    • नए models में मनगढ़ंत बातें कम हो रही हैं। दिए गए documents के आधार पर मनगढ़ंत जवाब, यानी RAG के लिए अहम cases, यहां test किए हैं: https://github.com/lechmazur/confabulations/
      GPT-4 Turbo और GPT-4o के बीच का फर्क काफी बड़ा है
    • बहुत संकरे और focused topics में LLM कहीं ज्यादा मददगार और आम तौर पर सही लगता है। Generated content को संबंधित source code या official docs से verify कर लेना चाहिए
      theoretically, जब कोई सरल चीज पूछनी हो, Claude या 4o से बात करने पर रोज बहुत समय बचता है। पहले चार या उससे ज्यादा search engines खंगालने पड़ते थे और बहुत सारे search-engine-optimization spam से गुजरना पड़ता था, जो निराशाजनक था
      summarization feature भी अब meme जैसा हो गया है, लेकिन बेहद उपयोगी है। दिन भर जो भी links दिलचस्प लगते हैं, उन्हें database में डाल देता हूं; फिर Cloudflare का cron job हर link का body fetch करता है, 4o से summary बनवाता है और उसे save कर देता है
      weekend में saved links की summaries देखता हूं, और अगर वे काफी दिलचस्प लगें तो खुद जाकर पढ़ता और आगे research करता हूं
      सच में, HN के page 4 पर कुछ ही votes वाली एक random post से SolidJS के बारे में पता चला, और summary भर से इतनी जानकारी मिल गई कि ReactJS पर शिकायतों वाली पूरी post पढ़े बिना ही SolidJS को check करने लायक लगा
    • मुझे लगता है कि लक्ष्य hallucination को न्यूनतम करने का नहीं, बल्कि उसे ठीक से adjust करने का होना चाहिए। इंसान जब “झूठ” बोलता है तो उसके familiar तरीके होते हैं। “वह restaurant शायद यहीं कहीं होगा”, “क्या वह व्यक्ति Inception में नहीं था?” जैसे वाक्यों में इंसान आवाज, gestures और writing style से अच्छी तरह जताता है कि किस जानकारी पर उसे भरोसा है और क्या uncertain है
      Gemini से एक सरल सवाल पूछा था, और hallucination सच में खटकने वाली थी। जब वह आत्मविश्वास से गलत बात कहता है, तो मेरा instinctive brain उसे भरोसे लायक नहीं मानता और आगे सवाल पूछने का मन नहीं करता
      LLMs की probabilistic nature को देखते हुए hallucination हटाना संभव नहीं होगा, लेकिन उसे इंसानों के सामने कैसे present किया जाए, इसे बेहतर tune किया जा सकता है
    • इसके लिए कल्पना करने की जरूरत नहीं है। Generative AI पहले से ही कई non-niche applications में बहुत उपयोगी है
    • मुझे लगता है कि content generation के बहुत सारे cases में quality सच में अहम नहीं होती। ऐसे cases में hallucination भी खास मायने नहीं रखती
      जब तक वह legally problematic न हो, जैसे hate speech या defamation
      articles, social media posts, यहां तक कि videos को बड़े पैमाने पर फैलाने में scale के हिसाब से hallucination बहुत बड़ी समस्या नहीं है। पहले से ही पर्याप्त content पर्याप्त views ला रहा है, जिससे यह कुछ हद तक viable strategy बन रही है
  • मुझे याद है कि 90s के आखिर में Bell Labs का नेतृत्व कर रहे Dr. Robert Martin ने कहा था कि bandwidth capacity अनंत की ओर जाएगी और per-bit cost शून्य की ओर
    bubble फूटने से पहले उस समय के optical capacity builders का क्या हुआ, यह हम सब जानते हैं
    क्या यह मानने का आधार है कि intelligence की demand खत्म नहीं होगी? क्या यह मानने का आधार है कि, जैसा Sama कहते हैं, system input के रूप में intelligence की cost datacenter GPUs चलाने वाली electricity की कीमत के बराबर हो जाएगी? दोनों संभव हैं
    फिर भी bandwidth के एक bit के बारे में भी यही कहा जा सकता था

    • Infinite intelligence का knowledge workers के living standards पर सकारात्मक असर होगा, इस पर मुझे बहुत संदेह है
      ज्यादा pessimistic पक्ष में, AI हमें replace कर देगा और हमें coal mines में भेज दिया जाएगा
      सबसे optimistic रूप में भी living standards वास्तविकता में जड़ें जमाए कई factors का composite हैं, इसलिए असली upper limit जीवन की quality के करीब दोगुनी होने जितनी लगती है। इसका मतलब यह नहीं कि यह कुछ भी नहीं है, लेकिन पिछले 150 वर्षों को देखें तो यह अभूतपूर्व स्तर नहीं है
    • Generated text intelligence नहीं है