NVIDIA·CoreWeave·Nebius द्वारा बनाए गए GPU बूम की circular financing संरचना

 (io-fund.com)
1 पॉइंट द्वारा GN⁺ 4 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • CoreWeave और Nebius ने नए NVIDIA GPU तेज़ी से उपलब्ध कराकर बड़े पैमाने के दीर्घकालिक कॉन्ट्रैक्ट हासिल किए, लेकिन contracted power को वास्तविक data center capacity में बदलने के लिए उन्हें cash flow से काफी अधिक capital expenditure उठाना होगा
  • Microsoft और Meta के neocloud कॉन्ट्रैक्ट अधिकतम 122.2 अरब डॉलर तक हैं, और OpenAI·Anthropic से जुड़े कॉन्ट्रैक्ट शामिल करने पर संभावित commitments 145 अरब डॉलर से अधिक हो जाते हैं, लेकिन CoreWeave और Nebius का 2026 का अनुमानित revenue क्रमशः केवल 12.6 अरब डॉलर और 3.4 अरब डॉलर है
  • Hyperscalers GPU capacity तेज़ी से सुरक्षित करते हुए, सीधे निर्माण के लिए जरूरी upfront capital expenditure को दीर्घकालिक operating expense में फैलाते हैं, और इससे जुड़ा infrastructure investment और financing burden neoclouds पर स्थानांतरित हो जाता है
  • NVIDIA ने दोनों कंपनियों में प्रत्येक में 2 अरब डॉलर निवेश किए हैं और CoreWeave की unsold capacity को 2032 तक खरीदने की guarantee दी है; वहीं दोनों कंपनियां फिर NVIDIA GPU बड़े पैमाने पर खरीदते हुए circular financing relationship बनाती हैं
  • CoreWeave और Nebius को 2026 की investment plans पूरी करने के लिए अतिरिक्त debt या share issuance की जरूरत है, और interest rates व interest costs में बढ़ोतरी, तेज़ revenue और backlog growth के बावजूद profitability और financial self-sufficiency की संभावना पर दबाव डालती है

Hyperscalers द्वारा committed 120 अरब डॉलर से अधिक की capacity

  • Microsoft ने CoreWeave, Nebius, Nscale आदि के साथ लगभग 60 अरब डॉलर के कॉन्ट्रैक्ट किए हैं
  • Meta के संभावित commitments अधिकतम 62.2 अरब डॉलर तक पहुंचते हैं
  • Microsoft और Meta के combined commitments अधिकतम 122.2 अरब डॉलर हैं, जो AWS के पिछले 12 महीनों के revenue के लगभग 90% के बराबर है
  • OpenAI और Anthropic द्वारा समर्थित कॉन्ट्रैक्ट शामिल करने पर संभावित commitments 145 अरब डॉलर से अधिक हो जाते हैं
    • OpenAI, Meta के साथ CoreWeave के दो सबसे बड़े ग्राहकों में से एक है
    • CoreWeave ने Anthropic के साथ multi-year computing agreement किया है
    • OpenAI और Anthropic से जुड़े कॉन्ट्रैक्ट की सटीक राशि publicly disclosed नहीं है
  • कॉन्ट्रैक्ट का आकार दोनों कंपनियों के मौजूदा revenue से काफी अधिक है
    • CoreWeave का FY2026 अनुमानित revenue 12.6 अरब डॉलर है
    • Nebius का 2026 अनुमानित revenue 3.4 अरब डॉलर है
  • Hyperscalers द्वारा neoclouds को capital allocate करने के पीछे तीन कारण हैं: latest GPU की तेज़ उपलब्धता, high compute utilization, और direct build-out से होने वाले capital expenditure को balance sheet में recognize न करने की सुविधा

Latest GPU पहले deploy करने की speed

  • Neoclouds, hyperscalers के अपने data centers की तुलना में compute capacity अधिक तेज़ी से जोड़ सकते हैं, जिससे खर्च और revenue generation के बीच का समय घटता है
  • JLL का आकलन है कि hyperscale data center बनाने में जहां कई साल लगते हैं, वहीं neoclouds high-density GPU infrastructure कुछ महीनों में deploy कर सकते हैं
  • CoreWeave, NVIDIA H100·H200·GH200 clusters को AI-scale production environments में सबसे पहले supply करने वाले operators में से एक है, और खुद को GB200 NVL72 instances आम तौर पर उपलब्ध कराने वाला पहला cloud operator बताता है
    • नए chips मिलने के बाद कम-से-कम 2 हफ्तों में उन्हें infrastructure में deploy कर ग्राहकों को capacity दी जा सकती है
    • जून की शुरुआत में उसने Vera Rubin system को सबसे पहले चालू करने का दावा किया
  • Nebius भी latest-generation NVIDIA GPU सबसे पहले deploy करने वाले operators में से एक होने का track record highlight करता है
  • NVIDIA ने CoreWeave और Nebius में प्रत्येक में 2 अरब डॉलर निवेश किए हैं, और दोनों कंपनियां 2030 तक 5GW से अधिक data center capacity deploy करने की दिशा में काम कर रही हैं
  • NVIDIA के साथ partnership, Blackwell Ultra और Rubin जैसे next-generation platforms को अन्य operators से पहले build करने की neoclouds की supply competitiveness में बदलती है

Software से बढ़ाया गया GPU utilization

  • CoreWeave hardware supply को software और operations capabilities के साथ जोड़कर GPU idle time और compute wastage घटाता है
    • CoreWeave Kubernetes Service(CKS) हजारों GPUs के बीच workloads assign करता है
    • SUNK training और inference workloads को एक ही cluster में चलाकर utilization optimize करता है
    • CoreWeave Tensorizer model loading time कम कर GPU idle time घटाता है
    • तेज़ failure detection और recovery capabilities भी साथ दी जाती हैं
  • Model FLOPs utilization(MFU) यह मापता है कि GPU सिर्फ चालू है या नहीं, इसके बजाय वास्तविक compute capacity कितनी इस्तेमाल हो रही है
    • सामान्य GPU utilization केवल यह मापता है कि किसी खास समय पर kernel execute हो रहा है या नहीं, इसलिए यह नहीं दिखा पाता कि सभी cores इस्तेमाल हो रहे हैं या maximum parallelization हो रही है
    • वास्तविक उपयोग और theoretical compute capacity के बीच MFU gap अक्सर 30~40% तक होता है
  • CoreWeave ने listing के समय disclose किया कि उसका MFU 35~45% है और competitors से 20% अधिक है
    • यह तुलना इस आधार पर थी कि अन्य AI data centers का MFU 30% range में है
    • मार्च 2025 में उसने Hopper GPU पर 50% से अधिक MFU हासिल करने की बात कही
  • Latest GPU का तेज़ deployment और high utilization का combination neoclouds की core competitiveness है

Hyperscalers के capital expenditure को operating expense में बदलना

  • Hyperscalers neocloud capacity rent करके बड़े upfront capital expenditure(capex) को long-term contract period में फैले operating expense में बदल सकते हैं
  • यह देखते हुए कि hyperscalers के पास खुद software optimization और GPU utilization सुधारने की capabilities हैं, यह accounting structure ही neocloud demand को समझाने वाला एक weak argument बन जाता है
  • Meta का 2026 अनुमानित operating cash flow 136 अरब डॉलर है और capital expenditure guidance 125 अरब~145 अरब डॉलर है
    • अगर capital expenditure upper end पर पहुंचता है, तो free cash flow negative में जा सकता है
    • अगर अधिकतम 62.2 अरब डॉलर की neocloud capacity को सीधे build किया जाए, तो यह राशि capital expenditure में reflected होगी और free cash flow पर और दबाव डालेगी
    • CoreWeave·Nebius contracts 2031~2032 तक चलते हैं, जिससे operating expense payments को सालाना औसतन 10 अरब डॉलर से कम में फैलाया जा सकता है
  • Microsoft की 2026 capital expenditure guidance 190 अरब डॉलर है, और अनुमानित operating cash flow 200 अरब डॉलर है
    • अगर forecasts सही साबित होते हैं, तो operating cash flow का 95% capital expenditure पर खर्च होगा
    • 60 अरब डॉलर के neocloud contracts कई वर्षों में operating expense के रूप में treat करते हुए compute capacity expand करने का तरीका हैं
  • Hyperscalers ने balance sheet से जो capital expenditure हटाया, वह CoreWeave और Nebius में shift होकर दोनों कंपनियों के लिए बड़े external financing needs पैदा करता है

NVIDIA के investment·supply·demand guarantee से बनी circular structure

  • NVIDIA neoclouds की GPU supplier होने के साथ-साथ investor और demand guarantor की भूमिका भी निभाता है
  • NVIDIA का पिछले 12 महीनों का free cash flow 119 अरब डॉलर है, जो Apple के बाद दुनिया की कंपनियों में दूसरा सबसे बड़ा है
    • मजबूत balance sheet और cash flow वाली NVIDIA का support, CoreWeave और Nebius को बेहतर terms पर financing जुटाने में असर डाल सकता है
  • NVIDIA CoreWeave की unsold GPU capacity के लिए 6.3 अरब डॉलर की financial backstop देता है
    • अगर CoreWeave के ग्राहक data center capacity पूरी तरह इस्तेमाल नहीं कर पाते, तो NVIDIA को 13 अप्रैल 2032 तक बची हुई capacity खरीदनी होगी
    • 6.3 अरब डॉलर initial contract value है, इसलिए समय के साथ यह बढ़ सकती है
  • जब NVIDIA equity funding देता है, तो CoreWeave और Nebius उस पैसे से NVIDIA GPU बड़े पैमाने पर खरीदते हैं
    • NVIDIA अपेक्षाकृत छोटे equity investment से tens of billions of dollars के GPU खरीदने वाले customer relationships secure करता है
    • अगर दोनों कंपनियां self-sustaining हो जाती हैं, तो latest systems लगातार बेचने के लिए वह दो बड़े customers बनाए रख सकता है
  • जब तक neocloud revenue capital expenditure से 2-to-1 पीछे रहता है, नए infrastructure के लिए cash कब तक raise करना पड़ेगा, यही मुख्य challenge बना रहता है

Contracted power को वास्तविक capacity में बदलने का funding burden

  • CoreWeave और Nebius ने प्रत्येक ने 3.5GW contracted power secure किया है, लेकिन उसका अधिकांश हिस्सा अभी operational नहीं है
  • CoreWeave अभी 1GW operate कर रहा है और 2026 के अंत तक 1.7GW, तथा 2027 के अंत तक contracted power का अधिकांश हिस्सा active capacity में बदलना चाहता है
  • Nebius का लक्ष्य 2026 के अंत तक GPU install होते ही activate की जा सकने वाली capacity सहित 800MW~1GW connected power है
  • 2026 का investment पूरा होने पर भी CoreWeave की active power contracted amount के 50% से कम, यानी 1.7GW होगी, और Nebius का upper target 1GW भी contracted amount के 30% से कम है
  • जब power constraints data center expansion को limit कर रहे हैं, तब contracted power को active power में बदलना जरूरी है ताकि backlog revenue में बदले, लेकिन इस प्रक्रिया में continuous infrastructure investment और external funding चाहिए

CoreWeave का cash flow और तेजी से बढ़ता debt

  • हालिया quarterly revenue YoY 112% बढ़कर 2.08 अरब डॉलर था
    • operating cash flow 2.98 अरब डॉलर था, लेकिन capital expenditure 7.7 अरब डॉलर तक पहुंच गया
    • free cash flow negative 4.71 अरब डॉलर रहा
  • Cash पिछले quarter से 890 मिलियन डॉलर, यानी 28.3% घटकर 2.27 अरब डॉलर रह गया
  • Debt पिछले quarter की तुलना में लगभग 3.5 अरब डॉलर, यानी 16.1% बढ़कर 24.86 अरब डॉलर हो गया
  • Annual capital expenditure guidance 31 अरब~35 अरब डॉलर है और midpoint 33 अरब डॉलर है
    • बाकी अवधि में required capital expenditure 25.3 अरब डॉलर है
    • 2026 operating cash flow estimate 8.68 अरब डॉलर है, और बाकी अवधि का estimate 5.7 अरब डॉलर है
    • 2.27 अरब डॉलर cash को शामिल करने पर भी funding shortfall 17.33 अरब डॉलर है
  • Listing के बाद पहले पांच earnings announcements के दौरान share issuance 3.5 अरब डॉलर था, लेकिन debt issuance उससे 5 गुना से अधिक, 18.81 अरब डॉलर था
  • Net cash position negative 22.6 अरब डॉलर होने के बावजूद capital expenditure के लिए primary funding source के रूप में debt का इस्तेमाल जारी रहने की संभावना अधिक है

Nebius की अपेक्षाकृत बेहतर financial position और additional financing

  • Nebius के पास 9.37 अरब डॉलर cash और 8.45 अरब डॉलर debt है, यानी net cash 920 मिलियन डॉलर है
  • हालिया quarterly revenue YoY 684% बढ़कर 339 मिलियन डॉलर रहा
    • बड़े customer prepayments के कारण operating cash flow पिछले quarter से 170.7% बढ़कर 2.26 अरब डॉलर हुआ
    • capital expenditure 2.47 अरब डॉलर था, और free cash flow negative 214.9 मिलियन डॉलर था
  • Annual capital expenditure guidance का midpoint 22.5 अरब डॉलर है, और बाकी अवधि में लगभग 20 अरब डॉलर खर्च करने होंगे
    • cash और लगभग 6.9 अरब डॉलर के contractual commitments को शामिल करने पर भी midpoint cover करने के लिए 6.3 अरब डॉलर की additional funding चाहिए
  • Q4 2024 के बाद share issuance लगभग 3.92 अरब डॉलर था, जिसमें NVIDIA द्वारा खरीदे गए 2 अरब डॉलर के prepaid warrants शामिल हैं, और debt issuance 8.32 अरब डॉलर था
  • Asset-backed financing, corporate bonds, और share issuance funding options के रूप में मौजूद हैं
    • अभी इस्तेमाल न किया गया 25 million shares का at-the-market share issuance program है
    • अगर प्रति share 200 डॉलर पर पूरा issue किया जाए, तो कुल 5 अरब डॉलर raise होंगे, लेकिन मौजूदा shareholders की stake लगभग 8% dilute होगी
  • Financial position CoreWeave से बेहतर है, लेकिन पिछले trend को देखते हुए asset-backed financing और corporate bonds मुख्य funding routes होने की संभावना अधिक है

GPU-collateral loans और customer credit ratings

  • CoreWeave data center build-out के हर चरण में अलग-अलग funding draw करने वाले GPU-backed delayed draw term loans(DDTL) पर काफी निर्भर है, और उसने कुल 6 facilities पर agreement किया है
  • मार्च 2026 में किया गया 8.5 अरब डॉलर का DDTL 4.0 अपनी category का पहला loan था जिसे investment-grade credit rating मिली
    • Q1 2026 तक drawn amount केवल 1.26 अरब डॉलर था
    • मौजूदा total debt में केवल drawn amount शामिल है, इसलिए भविष्य में DDTL 4.0 से additional draws होने पर debt भी बढ़ेगा
  • Investment-grade evaluation में long-term customer contracts और खरीदे गए GPUs की value collateral की भूमिका निभाती है
    • CoreWeave ने कहा कि investment-grade AI company के साथ long-term contracts ने rating support की, और माना जाता है कि यह Meta के recent contract से जुड़ा है
    • अपनी financial position भर से पाना मुश्किल favourable interest rates, customer credit quality और GPU collateral के जरिए हासिल किए जाते हैं
  • मई में किया गया 3.1 अरब डॉलर का DDTL 5.0 दो non-investment-grade customer contracts पर आधारित है
    • investment grade न मिलने के कारण इस पर DDTL 4.0 से अधिक interest rate देना पड़ता है
  • CoreWeave की funding cost सिर्फ उसकी अपनी financial position पर नहीं, बल्कि customer contracts की credit rating पर भी निर्भर करती है

Interest rate rise से बढ़ता profitability pressure

  • DDTL 4.0 का fixed-rate portion weighted average maturity 3.14 साल वाले US Treasury yields में 2 percentage points का premium जोड़कर तय होता है
  • उस maturity segment में Treasury yields 2026 की शुरुआत में 3.6% से कम से बढ़कर जून में लगभग 4.2% हो गए, जिससे future funding costs बढ़ती हैं
  • CoreWeave का Q1 interest payment 536 मिलियन डॉलर था
    • revenue 2.08 अरब डॉलर का 25.8%
    • adjusted EBITDA 1.157 अरब डॉलर का 46.3%
  • अगले quarter guidance का midpoint revenue 2.525 अरब डॉलर और interest expense 690 मिलियन डॉलर है
    • interest expense का revenue के मुकाबले ratio 27.3% तक बढ़ने का अनुमान है
  • जब तक operating cash flow और capital expenditure के बीच gap बना रहता है, debt increase या shareholder dilution कई वर्षों तक जारी रह सकता है, और high interest rates बढ़ते interest expense के जरिए profitability पर और दबाव डालते हैं
  • Neoclouds की growth sustainability इस पर निर्भर करती है कि वे NVIDIA के capital support पर कितना निर्भर हैं, NVIDIA की GPU demand neocloud model से किस हद तक जुड़ी है, और operating cash flow कब capital expenditure के करीब पहुंचता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 4 시간 전
Hacker News की राय

  • समझ नहीं आता कि यह इतना बड़ा मुद्दा क्यों है। Nvidia ने CoreWeave में 9% हिस्सेदारी 2 अरब डॉलर में खरीदी, लेकिन CoreWeave का 2026 का पूंजीगत व्यय 35 अरब डॉलर है, इसलिए Nvidia का निवेश एक साल के खर्च का सिर्फ 5.7% है, और बाकी 32 अरब डॉलर कहीं और से आते हैं, इसलिए इसे circular financing कहना मुश्किल है
    Nvidia neo-clouds में इसलिए निवेश कर रही है क्योंकि hyperscalers अपने खुद के chips और rack designs को प्राथमिकता देते हुए बहुत ज़्यादा ताकतवर हो रहे हैं, और वह उनके मुकाबले के लिए प्रतिस्पर्धियों को बढ़ाना चाहती है। neo-clouds को Nvidia का निवेश मिलने पर नए chips पहले मिल सकते हैं, और नए Nvidia chips पुराने chips की तुलना में लगभग 5~20 गुना अधिक efficient होते हैं, जो उन्हें प्रतिस्पर्धात्मक बढ़त देता है
    Nvidia पहले DGX Cloud के ज़रिए hyperscalers से सीधे प्रतिस्पर्धा करना चाहती थी, लेकिन अपने सबसे बड़े ग्राहकों से टकराए बिना वही लक्ष्य हासिल कर सकने के कारण उसने public approach रोक दी और neo-cloud निवेश की ओर मुड़ गई। जिन neo-clouds में उसकी हिस्सेदारी है, वे GPU से लेकर network और storage racks तक Nvidia का पूरा stack अपनाते हैं और usage data भी देते हैं, जबकि hyperscalers अपने design को प्राथमिकता देते हैं और data साझा नहीं करना चाहते, इसलिए Nvidia के नज़रिए से यह एक उचित रणनीति है

    • हाल के tech industry के बड़े trends में से एक रहे cryptocurrency में fraud, deception और बिना ठोस आधार वाले निवेश भरे पड़े थे, और GPU से भरे power-hungry datacenters की भी ज़रूरत थी। इसलिए बहुत से लोग AI boom को भी उसी नज़र से देखते लगते हैं
    • मेरी समझ से समस्या पैसे से ज़्यादा business structure में है। अगर आप नई कंपनी को फंड देते हैं और उसके साथ long-term contract करते हैं, तो वह कंपनी मिले हुए पैसे और उन contracts को collateral बनाकर भारी कर्ज लेती है, datacenters बनाती है, बड़े पैमाने पर GPU खरीदती है, और नतीजतन निवेशक का performance भी बेहतर दिखने लगता है
      अगर profitability आ जाए तो ठीक है, लेकिन समस्या तब है जब कर्ज या फंडिंग खत्म हो जाए। अगर unused capacity वापस खरीदनी पड़े, तो बड़ी मात्रा में unused GPUs की buyback होने पर performance कैसा बदलेगा, यह भी देखना होगा
    • लगता है लोग सिर्फ लेख के शीर्षक पर प्रतिक्रिया दे रहे हैं। लेखक AI optimist है, और वह यह नहीं कह रहा कि यह कोई बहुत बड़ी समस्या है; वह सिर्फ इस structure का विस्तार से विश्लेषण कर रहा है
    • Nvidia सिर्फ neo-clouds को GPU priority पर नहीं दे रही, बल्कि अगर वे resell न हो पाएँ तो व्यवहार में उन्हें खुद absorb भी करती दिख रही है। CoreWeave contract के मुताबिक, अगर उसके अपने ग्राहक datacenter capacity पूरी इस्तेमाल नहीं कर पाते, तो Nvidia को 13 अप्रैल 2032 तक न बिकने वाली शेष capacity खरीदनी होगी, और शुरुआती contract size ही 6.3 अरब डॉलर है, जो आगे और बढ़ सकता है
      Nvidia CoreWeave को होने वाली GPU revenue को accounting में कैसे दिखाती है, यह मुझे नहीं पता, लेकिन उस पर काफ़ी disclosures होने चाहिए। यह वास्तविक sale से ज़्यादा consignment sale जैसा लगता है, और अगर CoreWeave upfront cash नहीं दे रही, तो उसके पास बिना जोखिम बहुत ज़्यादा GPU order करने की मज़बूत incentive बनती है
    • क्योंकि ऐसा title निकालना आसान है

  • सीधे लेख से जुड़ा नहीं है, लेकिन CoreWeave का माहौल बहुत YC जैसा vibe देता था। मैंने referral के साथ apply किया था और मेरा interview ऐसे interviewer ने लिया जो मेरे कई साथियों को जानता था, लेकिन उसने सिर्फ़ textbook-style सवाल पूछे, जिन्हें शायद किसी specific role में formal schooling से ही सीखा जा सकता है
    लगभग हर दूसरे पहलू में मुझे लगा कि मैं उनसे बेहतर जानता हूँ, लेकिन शायद मेरे जवाब उनकी अपेक्षा पर खरे नहीं उतरे। दो roles में तीन बार interview देने के बाद भी यह बात अभी तक कड़वी लगती है

    • हो सकता है कंपनी के अंदर किसी को बस लगा हो कि applicant fit नहीं बैठता। मैंने भी एक ऐसे व्यक्ति को, जिसके बारे में मुझे पूरा भरोसा था कि वह असली काम में बहुत अच्छा fit होगा, उसी role के लिए तीन बार refer किया, लेकिन hiring process के senior managers ने हर बार काफ़ी उत्साह नहीं दिखता, या दूसरे candidate self-promotion बेहतर करता है जैसी मामूली वजहों से उसे reject कर दिया
      आखिरकार उसने apply करना छोड़ दिया, और मुझे बेवजह recommend करने का guilt होता है

  • Circular financing पर बहस काफ़ी हो चुकी है, इसलिए मेरे लिए ज़्यादा दिलचस्प सवाल यह है कि इस datacenter निर्माण से आर्थिक रूप से profit निकलने का कोई रास्ता है भी या नहीं। हमें प्रति डॉलर token के ROI और कंपनियों के token budget को देखना होगा, और यह समझना होगा कि किस बिंदु के बाद token ROI की तुलना में infrastructure ज़रूरत से ज़्यादा बनने लगता है। open-weight models जैसी चीज़ों का token prices पर पड़ने वाला downward pressure भी ध्यान में रखना होगा

    • मुझे नहीं पता कि token का ROI कैसे मापा जा सकता है। tokens कोई interchangeable commodity नहीं हैं; आप उन पर लाखों डॉलर खर्च कर सकते हैं और वे revenue में ज़रा भी योगदान न दें, जबकि वास्तविक परिणाम देने वाले काम में सिर्फ़ 10 डॉलर ही लगें
    • बदलाव इतनी तेज़ी से हो रहा है कि अभी ऐसे सवालों का जवाब देना मुश्किल है। शायद इसी वजह से लोग, भले तर्क कुछ कमज़ोर हों, अभी साबित किए जा सकने वाले circular financing जैसे विषयों से चिपके हुए हैं
    • कंपनी स्तर पर profitability हो सकती है। अगर किसी कंपनी में बहुत सारे software developers हैं, तो वह महँगी usage fees भी झेल सकती है, लेकिन बाकी ज़्यादातर लोग वास्तविक operating cost चुकाना नहीं चाहेंगे
      अंत में पूरे industry को अपने मौजूदा आकार से बहुत सिमटना पड़ेगा, और सिर्फ़ एक काफ़ी छोटा core market बचेगा जो सच में profit कमा सके

  • यह शायद शुरुआती स्तर का सवाल है, लेकिन अगर Nebius capacity dashboard पर लगभग 3 non-reservable B200 दिखते हैं, तो क्या इसका मतलब कुल holdings सिर्फ़ 3 हैं, या इसका मतलब यह है कि on-demand पर मैं 3 किराए पर ले सकता हूँ?
    profitability का एक पहलू आने वाले कुछ सालों में पुराने hardware की utilization और pricing भी है। पहले से ही H100 और A100 नए devices की throughput और pricing को देखते हुए काफ़ी कम आकर्षक लगते हैं। निजी तौर पर मैं H200 को on-demand इस्तेमाल कर पाने से खुश हूँ, लेकिन optimized software और models में B200 या B300 थोड़ा ही ज़्यादा खर्च लेकर बहुत ज़्यादा काम कर देते हैं, इसलिए कोई भी कंपनी, जब तक utilization बनाए रख सके, नए hardware को ही प्राथमिकता देगी
    अगर Vera Rubin लगभग 3 गुना अधिक efficient है, तो gradual obsolescence और भी गंभीर हो जाएगी। असली सवाल यह है कि क्या अपेक्षित payback period खत्म होने तक पुराने equipment की कीमत पर्याप्त बनी रह सकती है और उसकी demand भी बनी रह सकती है
    महँगे Nvidia hardware में बड़े पैमाने पर निवेश करने वाले neo-clouds के लिए असली खतरा यह हो सकता है कि Mythic AI या d-Matrix जैसे startups कहीं ज़्यादा efficient products को तेज़ी से scale कर दें और पूरे Nvidia hardware ecosystem की pricing नीचे ले आएँ। हालाँकि manufacturing और power bottlenecks को देखें तो अभी तक ऐसे breakthrough efficiency वाले startups में Nvidia जैसी scale क्षमता किसी में नहीं दिखती, और मुझे शक है कि इसके पीछे खुले और fair ecosystem से ज़्यादा मौजूदा निवेशों की रक्षा करने वाला पक्षपात और दबाव भी कुछ हद तक है

    • जुड़े हुए सभी लोग शायद यह उम्मीद नहीं कर रहे होंगे कि prices हमेशा बने रहेंगे, और उन्होंने इसे अपनी planning में पहले ही शामिल किया होगा। GPU prices latest top-spec होने पर सबसे ऊँचे होते हैं, और हर साल नीचे आते हैं क्योंकि नए models वही काम कम लागत पर कर लेते हैं, इसलिए neo-clouds के लिए नए hardware पहले पाना बहुत महत्वपूर्ण है
      GPU price data देखें तो H100 की कीमत 2023 में 3 डॉलर प्रति घंटा से 2025 में 1.75 डॉलर तक लगभग linear तरीके से गिरी है। हालाँकि इस साल supply shortage के कारण कीमतें बढ़ना एक असामान्य स्थिति है

  • RAM की कीमतें बढ़ रही हैं, ऐसे में लगता है कि इन कंपनियों को, खासकर NVIDIA को, हमें पैसे लौटाने चाहिए। अभी जब व्यवहार में monopoly कंपनियाँ मौजूद हैं, free market ठीक से काम नहीं कर रहा, और AI boom ने इस समस्या को उजागर कर दिया है। सोचता हूँ कि politicians कुछ करते क्यों नहीं — क्या वे पहले से ही बहुत ज़्यादा खरीदे जा चुके हैं?

  • पता नहीं circular financing सच में समस्या है या नहीं। NVIDIA compute market का सबसे शक्तिशाली नाम है, इसलिए कोई भी कंपनी NVIDIA assets पर पैसा खर्च करना ही चाहेगी, और वह इतनी अमीर हो चुकी है कि उसे समझ नहीं आता पैसा कहाँ लगाए। यह बस उन कंपनियों को पैसे के सहारे टिकाए रखने जैसा ज़्यादा लगता है जो उसे दिलचस्प लगती हैं

  • financing, power, permits में delay जैसी वजहों से कंपनियाँ datacenters उतनी तेज़ी से नहीं बना पा रहीं जितना वे चाहती हैं; यह उलटे छिपा हुआ वरदान साबित हो सकता है। क्योंकि AI bubble फूटने पर बचे रहने वाली संभावित unused datacenter capacity की upper limit इससे कम हो जाएगी

    • यह किसके लिए वरदान है, समझ नहीं आता। bubble फूटने के बाद बची capacity market price पर बिकेगी, और इससे नए cloud providers और colocation options बढ़ेंगे

  • जब तक सब ठीक है, सब ठीक ही दिखता है, लेकिन जैसे ही समस्या आएगी, यह विशाल वित्तीय ताश का महल ढह जाएगा

  • अगर यह bubble फूटा, तो हम सब गरीब हो जाएँगे

    • मुझे भी ऐसा ही लगता है, लेकिन यह रिपोर्ट पढ़ने के बाद लगता है कि बड़े hyperscalers bubble फूटने पर भी बच जाएँगे
      अगर उन्होंने datacenters में बहुत सारे GPU सीधे own करने के बजाय उन्हें operating expense model पर lease किया है, तो bubble के बाद वे इन्हें discounted कीमत पर capital assets के रूप में खरीद सकते हैं। यह dot-com bubble के बाद Amazon द्वारा dark fiber खरीदने जैसी स्थिति होगी

  • सोचता हूँ लेखक चाहता क्या है — कि Nvidia cash की जगह सीधे GPU देकर equity खरीदे? इस deal को वास्तव में circular structure कहना मुश्किल है

    • यह circular structure ही है। GPU को collateral बनाकर loan लिया जाता है, और फिर उसी loan के पैसों से और GPU खरीदे जाते हैं