AI निवेश उछाल

पिछले महीने Microsoft की घोषणाएँ

• Microsoft, OpenAI का एक प्रमुख निवेशक और computing provider है
• Microsoft ने घोषणा की कि वह Three Mile Island परमाणु ऊर्जा संयंत्र की Unit 1 को फिर से चालू करने के लिए फंड देगा
• इसका उद्देश्य data center की तेज़ी से बढ़ती बिजली मांग को पूरा करना है
• इस तरह Amazon के बाद यह legacy nuclear plant पर निर्भर होने वाली दूसरी बड़ी अमेरिकी tech company बन गई

AI प्रोडक्ट्स का मौजूदा उपयोग

• code, text, image generation, data analysis, task automation और online platform enhancement आदि में इनका व्यापक उपयोग हो रहा है
• cutting-edge models को training और inference के लिए बेहद बड़े computing resources की आवश्यकता होती है
• इसके लिए industrial-scale facilities में रखे गए बड़े advanced hardware arrays की ज़रूरत होती है
• इन facilities को चलाने के लिए बहुत अधिक बिजली, पानी, broadband और अन्य infrastructure तक पहुँच चाहिए

AI उछाल के downstream परिणाम

• computing demand में बढ़ोतरी को पूरा करने के लिए अमेरिका में fixed investment में तेज़ वृद्धि हुई है
• advanced computers, data center facilities, power plants आदि में दर्जनों अरब डॉलर लगाए जा रहे हैं
• अमेरिकी data center construction सालाना 28.6 अरब डॉलर के साथ रिकॉर्ड उच्च स्तर पर है
• यह लगभग उतना ही है जितना अमेरिका restaurants, bars और retail stores के construction पर कुल मिलाकर खर्च करता है

data center निवेश का पैमाना

• construction के आँकड़े केवल physical buildings के लिए हैं; इनमें computers, cables, fans आदि शामिल नहीं हैं
• पिछले एक साल में 6.5 अरब डॉलर से अधिक के बड़े computers और components आयात किए गए
• information technology कंपनियाँ इन नए data centers और equipment का अधिकांश हिस्सा खरीद रही हैं
• पिछले एक साल में property, plant and equipment की net holdings 95 अरब डॉलर से अधिक के रिकॉर्ड स्तर तक बढ़ी हैं

10 साल पहले की तुलना में बदलाव

• Facebook ने Instagram को 1.2 अरब डॉलर में और WhatsApp को 15 अरब डॉलर में अधिग्रहित किया था
• उस समय ये tech history के सबसे बड़े acquisitions में से थे
• Instagram में केवल 13 कर्मचारी थे, WhatsApp में 55, और दोनों की physical presence लगभग न के बराबर थी
• आज Meta ने केवल 2024 की पहली छमाही में ही capital expenditure पर 15.2 अरब डॉलर खर्च किए
• AI boom इतिहास में पहले कभी न देखे गए स्तर तक hardware-intensive है

AI boom का निवेश पर प्रभाव

• अमेरिकी कंपनियों का computers और संबंधित equipment में investment रिकॉर्ड स्तर तक उछल गया है
• 2010 के पूरे दशक में सापेक्ष ठहराव के बाद पिछले एक साल में इसमें 16.6% की वृद्धि हुई
• इससे पहले केवल pandemic दौर के remote work boom ने ही इस रुझान को तोड़ा था
• 2022 में computer investment कुछ घटा था, लेकिन 2023 के उत्तरार्ध में AI boom के साथ फिर तेज़ी से बढ़ा

TSMC के लिए बढ़ती semiconductor demand

• TSMC दुनिया की अग्रणी advanced semiconductor manufacturer है
• AI computing की मांग के कारण Taiwan से आयात होने वाले chips, computers और संबंधित components बढ़े हैं
• पिछले एक साल में यह 38 अरब डॉलर से अधिक पर पहुँच गया, जो साल-दर-साल 140% से ज्यादा की वृद्धि है
• logic chips का direct import अपेक्षाकृत छोटे स्तर से बढ़कर सालाना लगभग 5 अरब डॉलर तक पहुँच गया
• computer parts और components अब भी सबसे बड़ा import category हैं

2023 तक के investment data का विश्लेषण

• Amazon/Google जैसे data processors और web search companies tech sector में सबसे बड़े investment स्तर बनाए हुए हैं
• software developers सबसे तेज़ investment growth दिखा रहे हैं
• software developers के intellectual property में real investment 2021 के बाद से 40% बढ़ा है
• computers जैसे equipment में real investment 96% बढ़ा है
• software developers इस बात में प्रतिस्पर्धा कर रहे हैं कि वे hardware capabilities कितनी तेज़ी से बना सकते हैं

data center construction में क्षेत्रीय असंतुलन

• data centers को networking requirements पूरी करने और infrastructure constraints से बचने के लिए कुछ हद तक geographically distributed होना पड़ता है
• लेकिन उन्हें बड़े clusters में केंद्रित करना प्रभाव को अधिकतम करने और cost/latency घटाने में मदद करता है
• आधिकारिक construction data केवल regional level पर data center spending का breakdown देता है
• अमेरिकी दक्षिण के ऐतिहासिक clusters में data center निर्माण सबसे अधिक सक्रिय है
• Midwest और West Coast markets में growth इससे भी तेज़ रही है
• Northeast कार्यात्मक रूप से लगभग अप्रभावित है

data centers का बिजली मांग पर प्रभाव

• Energy Information Administration (EIA) ने data center demand के आधार पर load growth forecasts को बार-बार ऊपर संशोधित किया है
• उसका अनुमान है कि commercial sector की बिजली खपत इस साल 3% और अगले साल 1% बढ़ेगी
• commercial users, residential electrification और industrial reshoring की तुलना में बिजली खपत वृद्धि के छोटे driver हैं
• लेकिन 2007 से 2023 तक commercial electricity consumption कुल मिलाकर केवल 5% बढ़ी थी
• AI से पहले के estimates बताते थे कि computers और office equipment commercial electricity consumption का सिर्फ 11.4% थे

राज्यवार data center बिजली खपत की स्थिति

• North Dakota में 2022 में एक प्रमुख data center खुलने के बाद commercial electricity consumption 45% से अधिक बढ़ी
• लेकिन North Dakota अपेक्षाकृत छोटा power और computing market है
• बिजली मांग में सबसे बड़ी वृद्धि Virginia और Texas जैसे बड़े data center clusters में हुई
• Virginia की commercial energy consumption 2019 के बाद से 30% बढ़ी है, जो देश में commercial power demand की सबसे बड़ी वृद्धि है
• Texas में 2019 के बाद से commercial electricity consumption 10% बढ़ी है, और आने वाले वर्षों में इससे कहीं अधिक वृद्धि की उम्मीद है

AI कंपनियों के power investment रुझान

• AI कंपनियाँ बड़े power resources के पास केंद्रित होने की कोशिश कर रही हैं
• इसके साथ nuclear energy में नई रुचि उभर रही है
• tech कंपनियाँ जैसे-जैसे computing capabilities बना रही हैं, power generation infrastructure में सीधे निवेश करने की इच्छा भी बढ़ रही है
• information technology sector की sales, 2022 और 2023 की सुस्ती से उबर रही हैं
• software developers, web search portals और computing infrastructure providers की आय पिछले एक साल में 12% से 15% बढ़ी है

AI boom के बावजूद tech employment की कमजोरी

• अमेरिका ने पिछले एक साल में केवल 32,000 tech jobs जोड़ीं
• यह 2021, 2022 या pandemic से पहले के पिछले 9 वर्षों में किसी भी समय की तुलना में कम है
• cutting-edge AI boom के केंद्र में मौजूद software developers और computing infrastructure industries में भी पिछले एक साल में वास्तविक employment growth नहीं हुई
• हाल के computer engineering graduates को परेशान करने वाला कमजोर job market अब तक खास बेहतर नहीं हुआ है

AI investment boom का labor market पर प्रभाव

• semiconductor manufacturing में total compensation 2023 की पहली तिमाही से 2024 की पहली तिमाही तक 25% बढ़ी
• NVIDIA जैसी कंपनियों के कर्मचारियों को कहीं अधिक मूल्यवान stock options मिल रहे हैं
• पिछले एक साल में commercial construction jobs में 30,000 की वृद्धि data center demand का प्रभाव है
• semiconductor fabs, अन्य manufacturing sectors, और power व infrastructure build-out के कारण industrial construction jobs में भी उछाल और employment growth देखी गई है
• लेकिन अब तक AI boom की job dynamics पिछले दशक के tech labor market से काफी अलग रही हैं
• इसका फोकस पारंपरिक programmers की तुलना में hardware investment, manufacturing/design companies और infrastructure build-out पर अधिक है

AI developers की प्रतिस्पर्धा और policymakers का नज़रिया

• AI developers कड़ी प्रतिस्पर्धा में हैं और उम्मीद करते हैं कि product improvements तथा commercialization के ज़रिये वे मौजूदा investment scale को सही साबित कर पाएँगे
• निकट अवधि में, जैसे-जैसे अधिक advanced models विकसित होंगे और AI का उपयोग अधिक वास्तविक applications तक फैलेगा, investment के और बढ़ने की उम्मीद है
• policymakers AI को भविष्य की अमेरिकी अर्थव्यवस्था के केंद्र के रूप में देख रहे हैं
• AI development और data center capacity ऐसे advanced industries हैं जिनमें अमेरिका के पास उल्लेखनीय बढ़त है
• AI boom ने शायद किसी भी अन्य देश की तुलना में अमेरिकी investment को अधिक लाभ पहुँचाया है

hardware capacity को लेकर geopolitical competition के तेज़ होने की संभावना

• CHIPS Act का उद्देश्य Taiwan imports पर निर्भरता कम करना था, लेकिन advanced semiconductors की बढ़ती मांग के कारण उल्टा निर्भरता और बढ़ गई
• data center-scale supply को पूरा करने के लिए अमेरिका अब भी China पर निर्भर है
• अमेरिका, China के AI development को सीमित करने के लिए advanced chips तक उसकी पहुँच पर और पाबंदियाँ जारी रख सकता है
• China import dependence कम करने के लिए chip manufacturing capabilities का निर्माण जारी रखे हुए है
• AI investment boom जारी रहने पर यह चल रहे chip war की अग्रिम पंक्ति में और गहराई तक जा सकता है

GN⁺ की राय

• AI युग में semiconductor competitiveness हासिल करना बेहद महत्वपूर्ण कार्य है
• advanced semiconductors की मांग में विस्फोटक वृद्धि के कारण अच्छी semiconductor technology के बिना प्रतिस्पर्धी AI models बनाना कठिन है
• technological leadership के अलावा military और economic power में भी semiconductor capability की अहम भूमिका है
• अमेरिका और China के बीच semiconductor competition और तेज़ होगा, और दोनों देश घरेलू production capacity सुरक्षित करने पर ध्यान देंगे
• दोनों देशों के बीच cooperation और trade पर भी कुछ प्रतिबंध लगने की संभावना है
• semiconductor supply chain में एकतरफा निर्भरता कम करने और diversification की ज़रूरत है
• नए advanced semiconductors के विकास के लिए भारी R&D investment और skilled workforce अनिवार्य हैं
• Korea, Taiwan, Japan जैसे एशियाई देशों की भूमिका पर भी ध्यान देने की ज़रूरत है
• लंबी अवधि में यह अमेरिका-चीन tech supremacy competition का एक प्रमुख क्षेत्र बनने की संभावना है

[GN⁺]

Hacker News राय

• एक उपयोगकर्ता का अनुमान है कि अमेरिकी इतिहास में रेलवे, ऑटोमोबाइल कंपनियों और telecom fiber boom जैसे बड़े पूंजी निवेश boom फिर दोहराए जाएंगे। उनका मानना है कि ऐसे निवेशों में शुरुआत में कई कंपनियां दिवालिया हो सकती हैं, लेकिन अंततः ये अर्थव्यवस्था और समाज को बड़ा लाभ पहुंचाएंगे। खास तौर पर उनका विचार है कि energy investment जीवाश्म ईंधन से दूर जाने में योगदान देगा

• एक अन्य उपयोगकर्ता का तर्क है कि रेलवे और मौजूदा hardware investment की तुलना करना उचित नहीं है। रेलवे लंबे समय तक टिकाऊ रहता है, लेकिन मौजूदा hardware investment 6 साल बाद बेकार हो सकता है। वह यह भी चेतावनी देता है कि भविष्य के AI systems मौजूदा hardware पर कुशलता से नहीं चल पाएंगे

• एक और उपयोगकर्ता ने इशारा किया कि LLM में भारी संसाधन लगाते हुए environmental destruction की बात करना विरोधाभासी है। उसके अनुसार, अंततः या तो LLM से उम्मीदें छोड़नी होंगी या environmental destruction के दावे

• एक उपयोगकर्ता का कहना है कि मौजूदा AI boom GPU और hardware investment पर केंद्रित है, जबकि software और AI platforms में निवेश पर भी ध्यान जाना चाहिए। उसके मुताबिक इस कहानी को 'GPU investment boom' कहना ज्यादा सटीक होगा

• cloud cost को लेकर चिंता जताने वाला एक उपयोगकर्ता सोचता है कि बड़े पैमाने का निवेश cloud cost को कैसे प्रभावित करेगा। उसका अनुमान है कि economies of scale से लागत घट सकती है, लेकिन संसाधन खत्म होने पर कीमतें बढ़ भी सकती हैं

• AI bubble के जल्द फूटने की भविष्यवाणी करने वाला एक उपयोगकर्ता मौजूदा स्थिति की तुलना 1998 के dot-com bubble से करता है। उसके अनुसार LLM और generative AI इस साल के buzzwords बनेंगे

• AI hallucination की समस्या उठाने वाला एक उपयोगकर्ता कहता है कि ऐसे AI niche market के बाहर ज्यादा उपयोगी नहीं होंगे

• एक उपयोगकर्ता का कहना है कि भविष्य की capacity के लिए investment boom चल रहा है, और वह सोचता है कि क्या demand इसका साथ दे पाएगी। उसका अनुमान है कि excess capacity बन सकती है, जिससे कुछ दिवालिया होंगी और computing/AI cost सस्ती होगी। उसके अनुसार इससे अगली पीढ़ी के startups या कंपनियों को फलने-फूलने का मौका मिल सकता है

• Dr. Robert Martin की एक बात याद करने वाला एक उपयोगकर्ता bandwidth capacity के लगभग अनंत बढ़ने और cost के लगभग शून्य होने की स्थिति का जिक्र करता है। वह यह संभावना उठाता है कि intelligence की demand अनंत हो सकती है और intelligence की cost power cost के करीब पहुंच सकती है

• एक उपयोगकर्ता कहता है कि AI products code, text, image generation, data analysis और task automation जैसे कई कामों में इस्तेमाल हो रहे हैं, लेकिन व्यक्तिगत रूप से उसका Copilot इस्तेमाल कम हो गया है। उसका तर्क है कि AI सूक्ष्म bugs पैदा करता है, जिससे debugging में ज्यादा समय लगता है। उसने 'chain of thought' model भी आजमाया, लेकिन और खराब नतीजे मिले