xAI अब frontier research lab से ज़्यादा data center rental business (REIT) जैसा बनता जा रहा है

 (martinalderson.com)
2 पॉइंट द्वारा GN⁺ 4 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • हाल के हफ्तों में Anthropic और Google को बड़े पैमाने पर GPU capacity lease करने के लगातार सौदे करके, यह model developer की तुलना में infra leasing business के अधिक करीब जाता दिख रहा है
  • फ़रवरी में xAI ने SpaceX के साथ merger किया, जिससे lease revenue जल्द सूचीबद्ध होने वाली entity में सीधे प्रवाहित होने की संरचना बनी
  • Anthropic के लिए यह मासिक $1.25bn/300MW (लगभग 2.2 लाख GPU) और Google के लिए मासिक $920mn/1.1 लाख GPU के स्तर का है; अगर 18 महीने तक जारी रहे तो लगभग $40bn की पूरी निर्माण लागत वसूल हो सकती है
  • GPU की बेहद गंभीर कमी और SpaceX/xAI की data center तेज़ी से बनाने की क्षमता इन सौदों का वास्तविक competitive advantage बन रही है
  • अपनी ही model Grok के लिए तय capacity को सीधे प्रतिस्पर्धियों को lease करने से, frontier lab race में पीछे हटने की आशंका और उत्तर अमेरिका के इतिहास के सबसे बड़े IPO की सफलता एक-दूसरे से जुड़ गई है

सौदे की संरचना और SpaceX merger की पृष्ठभूमि

  • xAI ने हाल ही में Anthropic और Google के साथ बड़े पैमाने पर GPU capacity supply partnership की
  • फ़रवरी में xAI का SpaceX के साथ merger हुआ, जिससे इन contracts की आय IPO की तैयारी कर रही entity में सीधे जाती है
  • SpaceX के IPO से पहले financial engineering की संभावना की चर्चा है, लेकिन मामला सिर्फ accounting tactics से बड़ा भी हो सकता है

Anthropic की capacity shortage समस्या

  • Claude product में खास तौर पर यूरोप की दोपहर के शुरुआती घंटे और अमेरिका की सुबह में गंभीर capacity shortage देखी गई
    • यही वह समय है जब यूरोप और अमेरिका के users एक साथ काम करते हैं और capacity competition सबसे ज़्यादा होता है
  • Anthropic ने subscription service में peak-time limits लागू कीं
    • PT के अनुसार सुबह 5 से 11 बजे / GMT के अनुसार दोपहर 1 से 7 बजे के उपयोग पर usage limit ज़्यादा तेज़ी से खर्च होती थी
    • लक्ष्य peak और off-peak demand को अधिक समतल करना था
  • demand तेज़ी से बढ़ रही होने के कारण केवल demand shifting से बात नहीं बन रही थी, और अतिरिक्त restrictions लगभग अपरिहार्य हो गई थीं
    • Google और OpenAI के साथ customer acquisition की प्रतिस्पर्धा के बीच यह स्थिति अनुकूल नहीं थी
    विज्ञापन

xAI के capacity supply contracts

  • मई की शुरुआत में xAI ने Anthropic को Memphis स्थित पुराने Colossus 1 data center तक access देने की घोषणा की
    • इसके बाद Anthropic ने subscription usage limits वापस लीं; service stability अभी भी अधूरी थी, लेकिन peak-time shortage अस्थायी रूप से कम हुई
  • Anthropic contract का आकार बढ़कर 300MW capacity पर मासिक $1.25bn तक पहुँच गया, जो लगभग 2.2 लाख GPU के बराबर है
  • पिछले हफ्ते Google ने भी ऐसा ही partnership घोषित किया, 1.1 लाख GPU पर मासिक $920mn
  • दोनों contracts में cancellation clause शामिल है
    • शुरुआती lock-in period के बाद 90 दिन पहले notice देकर दोनों पक्ष contract खत्म कर सकते हैं

profitability analysis

  • सतही तौर पर देखें तो ये xAI के लिए बेहद अधिक लाभकारी contracts लगते हैं
    • अगर 18 महीने तक बने रहें, तो लगभग $40bn capex की पूरी recovery संभव है, और फिर भी सैकड़ों MW की GPU capacity xAI के पास रह सकती है
    • हालांकि इसमें opex और depreciation शामिल नहीं हैं
    विज्ञापन
  • मध्यम अवधि में computing shortage जारी रहने की संभावना ऊँची है, इसलिए 18 महीने बाद भी पुराने H100 बहुत उपयोगी रह सकते हैं

  • power cost (opex) estimate

    • 300MW full utilization पर सालाना लगभग 2.6 अरब kWh खपत होगी
    • Tennessee की सस्ती industrial electricity (लगभग 6 cent/kWh) के आधार पर grid से खरीदने पर सालाना लगभग $160mn खर्च होगा
    • Colossus मुख्य रूप से अपने on-site gas turbines से चलता है; simple-cycle thermal efficiency ~10,000 Btu/kWh और Henry Hub gas ~$3.50/MMBtu मानें तो fuel cost सालाना लगभग $90mn पड़ती है, यानी और सस्ती
    • जब Anthropic 300MW के लिए सालाना लगभग $15bn दे रहा हो, तब बिजली की लागत revenue का लगभग 1% ही बनती है

इन contracts पर आपत्तियाँ (red flags)

  • Elon Musk और OpenAI के बीच तीखा कानूनी विवाद चल रहा है, इसलिए संभव है कि Anthropic contract का मकसद commercial gain से ज़्यादा OpenAI पर दबाव बनाना हो
  • Google, SpaceX का प्रमुख shareholder है, इसलिए IPO valuation बढ़ाने की प्रेरणा भी मौजूद है
  • लेकिन असली बात यह है कि GPU की कमी बहुत बड़े पैमाने पर बनी हुई है
    • data center capex boom के पीछे यह सच्चाई भी है कि लगभग सभी operators schedule से काफ़ी पीछे चल रहे हैं
    • OpenAI का प्रमुख Stargate UAE data center भी मौजूदा Iran conflict से सीधे जोखिम में है; Iranian drones पहले ही UAE के दूसरे data centers पर हमला कर चुके हैं

SpaceX/xAI की construction edge

  • SpaceX/xAI की सबसे बड़ी ताकत तय समयसीमा में data center खड़ा करने की क्षमता है
    • शुरुआती Colossus 1 केवल 122 दिनों में बनाया गया था
    विज्ञापन
  • Musk group बड़े infrastructure projects की planning, construction और execution को बहुत तेज़ी से करने में मजबूत माना जाता है
  • hyperscalers के पास भी अनुभव है, लेकिन वे कम urgency वाले माहौल में build करते रहे हैं, और सामान्य projects को पूरा होने में कई साल लगते हैं
    • capex का तेज़ विस्तार भी पिछले कुछ वर्षों में ही वास्तव में शुरू हुआ है, इसलिए कई projects अभी भी कई साल बाद पूरे होने वाले हैं
  • यह xAI का एक महत्वपूर्ण competitive advantage है, जिसे हल्के में नहीं लिया जा सकता

Grok की स्थिति

  • Grok के training और inference के लिए तय data center capacity का बड़ा हिस्सा सीधे competitors को lease किए जाने से Grok की स्थिति अस्पष्ट हो गई है
  • यह frontier-class lab competition से स्पष्ट पीछे हटना लगता है
    • हालांकि यह भी संभव है कि data center capacity का अनुमान ज़रूरत से ज़्यादा लगाया गया हो, या Grok model की inference demand अनुमान से बहुत कम रही हो, इसलिए surplus capacity को monetize किया जा रहा हो
    • xAI और Cursor के बीच contract इस स्थिति को और जटिल बनाता है
  • financial engineering, भारी computing shortage, और data center construction advantage — तीनों बातें कुछ हद तक सच लगती हैं
    • इन कारकों का अनुपात ही उत्तर अमेरिका के इतिहास के सबसे बड़े IPO की सफलता या विफलता तय करेगा
  • कुल मिलाकर xAI अब frontier lab के साथ जुड़ा data center business कम, और frontier lab के साथ जुड़ा data center REIT ज़्यादा दिखता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 4 시간 전
Hacker News की राय

  • Google के पास SpaceX में 5~6% हिस्सेदारी है। अगर SpaceX 1.77 ट्रिलियन डॉलर valuation का लक्ष्य रखता है, तो Google की हिस्सेदारी 88.5 अरब~106.2 अरब डॉलर हो जाती है
    मैं AI/LLM खुद को लेकर संदेहवादी नहीं हूँ, लेकिन इस तरह के circular deals बहुत संदिग्ध लगते हैं, और चिंता है कि जब यह खेल रुकेगा तो क्या होगा

    • एक दूसरी संभावना भी है। अभी computing shortage है, और xAI के पास computing resources हैं, साथ ही वह उन्हें अच्छी तरह चला भी रहा हो सकता है
      कोई GPU खाली नहीं पड़ा है, और frontier AI labs में computing सीधे पैसे में बदलती है। कुछ संदिग्ध circular deals ज़रूर हैं, लेकिन मुझे नहीं लगता कि यह मामला उनमें आता है
    • अगर इस तरह के deals speculative players के सहारे टिके होते, तो खेल रुकने का जोखिम रहता, लेकिन AI की वास्तविक value और revenue है
      यह ऐसा speculative product नहीं है जहाँ token खरीदकर फिर बेचना हो; यहाँ token inference के समय consume होते हैं
    • यह बात ऐसे कही जा रही है जैसे इस deal के साथ Google की SpaceX हिस्सेदारी 88 अरब डॉलर की हो जाती है, और इसके बिना वह बेकार है
      असल में यह जानना मुश्किल है कि यह deal SpaceX market cap को कितना बढ़ाती है, और जब तक Google जल्द SpaceX हिस्सेदारी बेचने नहीं जा रहा, इसे circular deal कहना भी खास मायने नहीं रखता
    • क्या किसी को bailout मिल रहा है और cycle फिर शुरू हो रही है? शायद चीज़ें मूल रूप से ऐसे ही चलती हैं
    • Google ने अभी-अभी 80 अरब डॉलर के नए equity raise की भी घोषणा की है
      यह debt की जगह equity से किया जा रहा है ताकि Anthropic और OpenAI के IPO market excitement का कुछ असर कम किया जा सके या नहीं, पता नहीं, लेकिन बाज़ार इस नई equity supply को कैसे लेता है यह दिलचस्प होगा। कोई न कोई अपनी target raise पूरी नहीं कर पाएगा, और जो बाद में IPO करेगा उस पर दबाव आ सकता है

  • अभी कुछ समय पहले तक क्या लोग यह नहीं कह रहे थे कि SpaceX valuation Starlink के कुछ मुनाफ़े और भारी speculation पर टिकी है?
    लेकिन फिर जब पता चला कि Google और Anthropic से हर महीने 2.2 अरब डॉलर, यानी सालाना 26 अरब डॉलर का नया revenue आ रहा है, तो चर्चा उस दिशा में जाने के बजाय “xAI की technology खास नहीं है”, “Google/SpaceX structure अर्थव्यवस्था के लिए खराब है” जैसी दिशा में मुड़ गई
    यह motivated reasoning है। नई जानकारी आने पर पुराने निष्कर्ष अपडेट होने चाहिए, लेकिन लोग बस नकारात्मक प्रतिक्रिया देने का दूसरा रास्ता ढूँढ़ रहे हैं। Elon/SpaceX से नफरत करने वाले लोग narrative को पूरी तरह दूषित कर रहे हैं

    • मेरे हिसाब से मुख्य बात यह है कि xAI GPU/data centers को monetize तो कर रहा है, लेकिन frontier lab multiple पर नहीं, बल्कि REIT/leasing business multiple पर monetize कर रहा है
      लगता है xAI ने तय किया है कि अपनी assets से value निकालने का यह सबसे अच्छा तरीका है। Google और Anthropic भी साफ़ तौर पर मानते हैं कि वे उन assets का इस्तेमाल SpaceX को दिए जाने वाले rent से ज़्यादा value पैदा करने में कर सकते हैं
    • दोनों बातें एक साथ सही हो सकती हैं। पहले speculative pricing को justify करने के लिए capital लगानी पड़ती थी, लेकिन अब capital लगाकर moderate investment return मिल रहा है
      इसलिए यह speculation वाली दलील को कमजोर भी करता है, और साथ ही दिखाता भी है कि उस speculation के केंद्र में जो technology थी, उसमें समस्या है
    • ये चिंताएँ एक-दूसरे से काफ़ी अलग हैं, इसलिए अलग-अलग लोगों द्वारा उठाई जा रही हों तो यह काफ़ी plausible लगता है
      अगर Grok और competing models दोनों इस्तेमाल किए जाएँ, तो यह बुनियादी बात खारिज करना मुश्किल है कि Grok competing models जितना अच्छा नहीं है। business के नज़रिए से यह महत्वपूर्ण भी हो सकता है और नहीं भी
    • मैं इससे काफ़ी हद तक असहमत हूँ। narrative को दूषित करने वाली चीज़ Elon के पक्ष और विरोध दोनों तरफ़ की अतिशयोक्ति है, और Tesla की बेहूदा valuation भी उसी तरह की है
      लेकिन इस मामले में बदला हुआ business model value proposition को बुनियादी रूप से बदल देता है। “एक space company जो space business से पैसा कमाती थी, अब computing reseller जैसा काम कर रही है, और यह अच्छी बात है” — यह narrative क्यों ज़्यादा वांछनीय माना जाए, समझ नहीं आता
      और किसी “narrative” को सीधे संबोधित किए बिना घुमा-फिराकर निशाना बनाना भी ठीक नहीं लगता। यहाँ “हम” कौन हैं यह भी स्पष्ट नहीं है, और यह ऐसे लगता है जैसे कोई मौजूद न रहने वाली सहमति को मौजूद दिखाया जा रहा हो

  • अब हमें पता चल गया कि ये GPU कितने पर किराए पर दिए जा रहे हैं। अब सच में यह जानने की जिज्ञासा है कि बिजली उत्पादन की input cost क्या है
    क्या इन deals में xAI के पास depreciation cost झेलने लायक margin वास्तव में बचता है?
    फुटनोट के अनुसार Colossus ज़्यादातर onsite gas turbines पर चलता है, और simple-cycle thermal efficiency लगभग 10,000 Btu/kWh तथा Henry Hub gas price $3.50/MMBtu मानें, तो fuel cost सालाना लगभग 9 करोड़ डॉलर बनती है
    यह तो हास्यास्पद रूप से सस्ता है। मैं भी जानना चाहता हूँ कि hyperscalers को GPU किराए पर देने वाले business में कैसे घुसा जाए

    • मुश्किल हिस्सा GPU हासिल करना है। पहले तो उन्हें पाना ही कठिन है, फिर उन्हें वाजिब दाम पर पाना अलग चुनौती है

  • यह data center REIT नहीं है। data center REIT computing नहीं बेचता, बल्कि computing के लिए space, power, cooling बेचता है
    मैं समझता हूँ कि लेखक क्या कहना चाहता है। शायद उसका मतलब यह है कि SpaceX की सबसे मूल्यवान asset computing capacity है, लेकिन यह analogy सटीक नहीं है
    अभी SpaceX व्यवहार में Tesla को छोड़कर Elon की लगभग हर चीज़ को समेटने वाली holding company के ज़्यादा करीब है। अगर आप SpaceX पर दांव लगा रहे हैं, तो आप एक conglomerate पर दांव लगा रहे हैं

  • LLM बनाया है, इसलिए इसे AI research lab कहना सही है, लेकिन मॉडल की quality देखें तो इसे frontier कहना मुश्किल है

    • मैं ChatGPT, Claude, Gemini, और Grok सभी को paid account पर इस्तेमाल करता हूँ
      सबके अपने फायदे-नुकसान हैं, और निजी तौर पर मुझे अब भी ChatGPT सबसे अच्छा लगता है, उसके बाद Gemini/Claude, और फिर Grok।
      सामान्य उपयोग में Grok अक्सर competing models से 1–2 generations पीछे महसूस होता है, लेकिन इसमें मुझे तीन बातें पसंद हैं। पहली, latest events की समझ शायद सबसे अच्छी लगती है। यह X integration की वजह से है या backend tool-calling optimization की वजह से, पता नहीं, लेकिन अगर चल रही current events के बारे में पूछो तो दूसरे models के पास अक्सर पुरानी जानकारी होती है या जवाब खास अच्छे नहीं होते।
      दूसरी, निजी मामलों में यह आम तौर पर सबसे कम चापलूसी करता है। Anthropic भी इस दिशा में जा रहा है, और ChatGPT व Gemini भी बेहतर हो रहे हैं, लेकिन पुराने models मैं जो कर रहा था उसके बारे में लगभग कभी नकारात्मक बात नहीं कहते थे। जब career advice या personal advice चाहिए होती है, तो मुझे Grok के जवाबों का tone पसंद आता है।
      तीसरी, काम में कुछ ऐसे topics होते हैं जिन्हें दूसरे models handle करने से मना कर देते हैं। मेरी पिछली company में legal users बहुत थे, और जब deposition transcripts से किसी specific topic का summary चाहिए होता था, तो ज़्यादातर models मना कर देते थे, लेकिन Grok मना नहीं करता था। मुझे safety की ज़रूरत समझ में आती है और मैं दूसरे providers को दोष नहीं देता, लेकिन कुछ specialized professional work में ऐसे models की सचमुच ज़रूरत होती है जो sensitive topics को process कर सकें
    • Benchmarks शायद कुछ और कहते हों, लेकिन जब web search से आसानी से न मिलने वाली specific information ढूँढनी हो, तो मैं ChatGPT, Gemini, और Grok तीनों इस्तेमाल करता हूँ
      “2017 में $vague_thing कर रहा GitHub repository ढूँढो” जैसे cases में Grok ज़्यादा बार मनचाही जानकारी ढूँढ देता है
    • हो सकता है वह model data center model को monetize करने के लिए marketing cost रहा हो
      मेरा मतलब यह नहीं कि यह जानबूझकर ऐसा किया गया, लेकिन नतीजे में इसका असर वैसा ही हुआ
    • अगर Elon की बात मानें, तो xAI की योजना LLM को शुरू से फिर से बनाने की भी है
      उसके लिए inference data center नहीं, बल्कि विशाल training data center चाहिए
    • Grok frontier के बिलकुल सबसे आगे नहीं है, लेकिन उस दायरे के अंदर तो निश्चित रूप से है

  • जो लोग परिचित नहीं हैं, उनके लिए: REIT का मतलब real estate investment trust, यानी real estate investment trust है

  • क्या यह पोस्ट दो दिन पहले HN user runako की comment[1] को लेख का रूप देकर बनाई गई है?
    यह भी पूरी तरह संभव है कि कई लोगों को एक ही समय पर वही idea आया हो, लेकिन अगर लेखक ने खुद यह पोस्ट डाली है, तो इसका ज़िक्र न करना थोड़ा असभ्य लगता है
    [1] https://news.ycombinator.com/threads?id=runako#48426082

  • यही idea दो दिन पहले यहाँ comments में भी आया था: https://news.ycombinator.com/item?id=48426082

    • जोड़ूँ तो, मैंने यह भी कहा था कि xAI शायद AGI race से बाहर होती दिख रही है: https://news.ycombinator.com/item?id=48214042
      अभी OpenAI और Anthropic की बराबरी करना बहुत मुश्किल है। revenue बनाना, उस revenue से और computing खरीदना, और ज़्यादा computing से और smarter models train करना — इस virtuous cycle ने competition को बहुत कठिन बना दिया है।
      अगर अब cutting-edge LLM में compete करना संभव नहीं रहा, तो SpaceXAI के नज़रिए से computing supply करना ज़्यादा समझदारी की बात है

  • Elon hardware में अच्छा है, लेकिन xAI में उसने PayPal Mafia-style बड़े पैमाने पर layoffs किए, और Twitter acquisition की तरह जल्द ही फिर hiring की कोशिश की, लेकिन software engineers को बड़े पैमाने पर जुटाने में नाकाम रहा
    data center deals उसके बाद आईं। लेकिन जिस व्यक्ति ने दुनिया में free speech बचाने और “pro-human” AI systems का वादा किया था, वही अब competitors को बेच रहा है, और अपने ही Grok app की daily usage limits को single-digit multiple तक घटा रहा है।
    अगर आप दुनिया के सबसे अमीर आदमी के साथ deal कर रहे हैं, तो बाकी rhetoric कुछ भी हो, आख़िर में पैसा दूसरे considerations से ऊपर आएगा — यह अनुमान लगाया जा सकता है। फिर भी यह strategy दिलचस्प है।
    निष्पक्ष होकर कहें तो, पिछले साल के interview में उन्होंने कहा था कि hardware को उन्होंने “bottleneck” माना था। लेकिन मुझे पक्का लगता है कि उन्होंने software problems को कम आँका। app में पहले भी बहुत समस्याएँ थीं और अब भी बहुत हैं

    • “Elon hardware में अच्छा है” से ठीक-ठीक क्या मतलब है, यह मुझे समझ नहीं आता

  • xAI एक vertically integrated company है, और computing side पर इसने बहुत अच्छा काम किया है। इसका top model कभी top tier और 1–2 generations पीछे के बीच झूलता रहा है, और कागज़ों पर एक बार थोड़े समय के लिए यह top पर भी था
    अगर यह कल फिर top पर आ जाए, तो इनके पास scale करने की know-how है। अगर Google या Anthropic सहमत हों, तो वे उधार दिए गए resources वापस भी खरीद सकते हैं