1 पॉइंट द्वारा GN⁺ 2024-09-28 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • NYT की रिपोर्ट के अनुसार, AI infrastructure को बहुत तेजी से बढ़ाने की OpenAI की योजना को TSMC जैसे प्रमुख manufacturing partners ने अवास्तविक पैमाने की माना
  • Altman ने कई वर्षों में 7 ट्रिलियन डॉलर के निवेश, 36 semiconductor factories और data centers बनाने की कल्पना की थी, लेकिन बताया जाता है कि TSMC के भीतर इसे बेहूदा माना गया
  • OpenAI के हालिया बयानों में चर्चा का पैमाना घटाकर सैकड़ों अरब डॉलर के स्तर पर ला दिया गया है, और वास्तविक निवेशक कौन होंगे और बदले में क्या मिलेगा, यह अब भी अस्पष्ट है
  • बताया जाता है कि Korea में Samsung और SK Hynix के साथ चर्चा UAE और China संबंधों से जुड़ी राष्ट्रीय सुरक्षा चिंताओं के कारण रुक गई
  • OpenAI को लगभग 3 अरब डॉलर revenue के मुकाबले करीब 7 अरब डॉलर खर्च वाली संरचना के रूप में पेश किया गया है, और Copilot व Apple Intelligence के उदाहरण AI की killer app की कमी पर बहस को बढ़ाते हैं

Altman की Asia manufacturing partners को मनाने की कोशिश

  • Sam Altman ने पिछली सर्दियों में East Asia का तेजी से दौरा किया और TSMC, Samsung, SK Hynix जैसी कंपनियों के senior executives से मुलाकात की
  • लक्ष्य AI विकास के लिए जरूरी Asian manufacturing क्षमता, Middle East funding और US regulators को एक ही योजना में जोड़ना था
  • NYT ने OpenAI वार्ताओं के करीब रहे 9 anonymous sources का हवाला दिया

TSMC में टकराई 7 ट्रिलियन डॉलर की योजना

  • बताया जाता है कि Taiwan यात्रा के दौरान Altman ने TSMC executives को कई वर्षों में 7 ट्रिलियन डॉलर के निवेश की योजना बताई
  • इस योजना में 36 semiconductor factories और AI expansion के लिए data centers का निर्माण शामिल था
  • TSMC executives ने इस योजना को बेहूदा माना, और NYT के एक source के अनुसार बाद में Altman को “podcasting bro” कहा
  • बताया जाता है कि TSMC के भीतर यह चिंता भी उठी कि कुछ ideas को ही लागू करना भी बेहद जोखिम भरा हो सकता है

TSMC chairman की पहले की प्रतिक्रिया से मेल खाती स्थिति

  • TSMC की 2024 annual shareholders meeting में भी OpenAI की योजना पर संदेहपूर्ण प्रतिक्रिया सामने आई
  • नए चुने गए chairman Dr. C. C. Wei ने Sam Altman के बारे में कहा कि वे “बहुत aggressive हैं, मेरे लिए भरोसा करने लायक से भी ज्यादा aggressive” हैं
  • यह टिप्पणी NYT की उस रिपोर्ट के साथ एक ही दिशा में पढ़ी जाती है कि TSMC executives ने Altman की बड़े पैमाने की AI infrastructure योजना पर भरोसा नहीं किया

निवेश पैमाने और execution time की सीमाएं

  • NYT sources ने माना कि निवेश का पैमाना ट्रिलियनों डॉलर तक पहुंचता है, जो US के वार्षिक output के लगभग एक-चौथाई के बराबर है
  • OpenAI के हालिया बयानों में चर्चा का पैमाना घटकर “सैकड़ों अरब डॉलर” रह गया है
  • OpenAI की computing expansion योजना पूरी करने के लिए कई वर्षों का construction period भी जरूरी होगा
  • कौन कितना निवेश करेगा और बदले में क्या पाएगा, यह अब भी अस्पष्ट है

Korean कंपनियों के साथ चर्चा और UAE factor

  • Altman ने लगभग उसी समय Korea जाकर Samsung और SK Hynix के senior officials से भी चर्चा की
  • NYT के अनुसार, यह चर्चा उस समय UAE जैसे देशों के China से संबंध बनाए रखने को लेकर राष्ट्रीय सुरक्षा चिंताओं के कारण रुक गई
  • इसके बाद President Biden और UAE President Sheikh Mohammed bin Zayed ने White House में मुलाकात की और senior officials को AI cooperation पर memorandum तैयार करने का निर्देश दिया
  • UAE से जुड़ी technology योजनाएं बदल सकती हैं, और TSMC व Samsung की UAE में बड़ी factories से जुड़ी अफवाहें भी साथ में चर्चा में आईं

अब भी चर्चा में मौजूद investors और companies

  • OpenAI की महत्वाकांक्षी योजना को लेकर अनिश्चितता अब भी बड़ी है
  • Emirates की technology investment specialist company MGX को OpenAI के साथ अब भी बातचीत कर रही कंपनी के रूप में बताया गया
  • Microsoft, Nvidia, Apple जैसी बड़ी technology companies भी OpenAI के साथ बातचीत जारी रखने वाले नामों में गिनी गईं

OpenAI की cost structure और AI demand पर बहस

  • OpenAI के मौजूदा business model को मजबूत भरोसा जगाने वाला नहीं माना जा रहा है
  • कंपनी का annual revenue करीब 3 अरब डॉलर है, लेकिन annual spending करीब 7 अरब डॉलर बताई गई है
  • Altman की बड़ी योजना इस विचार से शुरू होती है कि AI बिजली जैसी हो जाएगी
    • तर्क यह है कि अगर AI का उपयोग आसान हो जाए, तो लोग उसके ज्यादा और बेहतर use cases खोजेंगे
  • प्रमुख technology companies के बारे में आकलन है कि वे अब तक AI की killer app नहीं खोज पाई हैं
    • Microsoft Copilot की गलतियों और delays के मामले अच्छी तरह ज्ञात हैं
    • Apple ने iPhone 16 और 16 Pro को Apple Intelligence के साथ announce किया, लेकिन पहली AI features अगले महीने तक नए devices पर उपलब्ध नहीं होंगी

1 टिप्पणियां

 
GN⁺ 2024-09-28
Hacker News की राय
  • बेहतर होगा कि मूल NYT लेख पढ़ा जाए। इस पोस्ट ने मूल लेख का ठीक से सारांश नहीं दिया है
    https://web.archive.org/web/20240926063521/https://www.nytim...

    • मुझे लगता है कि मूल लेख चिप निर्माण की जटिलता और वास्तविकता को बेहतर दिखाता है। TSMC यह बात अच्छी तरह जानता है, और यह उन लोगों की चांद पर उतरने जैसी योजनाओं के उलट है जो semiconductor supply chain की बारीकियों को पूरी तरह नहीं समझते
  • मूल लेख फिर से पोस्ट कर दिया गया है
    Behind OpenAI's plan to make A.I. flow like electricity - https://news.ycombinator.com/item?id=41663562
    submitter को “कृपया मूल स्रोत submit करें। अगर कोई पोस्ट किसी दूसरी साइट पर मिली चीज़ की रिपोर्ट कर रही है, तो उस मूल साइट को submit करें” वाली guideline का पालन करना चाहिए - https://news.ycombinator.com/newsguidelines.html

  • मौजूदा AI उफान ने developers की उस कमजोर नस को ठीक से छू लिया है कि “AGI बस कुछ कदम दूर है।” सोच यह है कि अगर कंप्यूटर भरोसेमंद लगने वाले लेकिन गलत वाक्य बना सकता है, तो जल्द ही वे वाक्य तथ्यात्मक रूप से भी सही होने लगेंगे
    इसके बाद आने वाली सर्दी कठोर लगती है

    • Claude 3.5 Sonnet को Cursor Composer में इस्तेमाल करने पर coding में पहले से ही बड़ा फायदा है। मैं पहले से कहीं ज्यादा productive हूं, और models लगातार बेहतर हो रहे हैं
      मैं यह नहीं कह रहा कि AGI बिल्कुल सामने है या वह निश्चित रूप से हासिल होगी, लेकिन फायदे को नकारना मुश्किल है, और o1 ने test-time compute भी जोड़ा है। तंज कसने की जरूरत नहीं
    • मुझे एक पुरानी दंतकथा याद आती है, जिसमें बाहरी दुनिया से कभी संपर्क न रखने वाले द्वीपवासी प्रकृति को विस्मय से देखते थे और सपना देखते थे कि वे एक दिन चांद पर जाएंगे
      वे घास-फूस के घरों में रहते थे, और पेड़ पर चढ़ने से ज्यादा ऊंचाई पर कभी नहीं गए थे, लेकिन एक दिन एक genius ने सबसे ऊंचे पेड़ से भी बड़ी संरचना बनाई और उसे “सीढ़ी” कहा
      लोग सीढ़ी पर चढ़े, पेड़ों की चोटियों को नीचे देखा, और घोषित किया, “अब अगर इसे बस थोड़ा और ऊंचा कर दें, तो हम चांद तक पहुंच सकते हैं”
    • कुछ साल पहले की self-driving cars याद आती हैं। robotaxi हो या self-driving car, या उससे पहले का AI Watson, सब कुछ कुछ ऐसा ही था
      तब hype cycle ज्यादा जल्दी खत्म हो गया था
    • यह सर्दी GPU से निकलने वाली गर्मी की वजह से गर्म रहेगी ;)
    • “भरोसेमंद लगने वाले लेकिन गलत वाक्य” कहना सस्ते, reflexive cynicism जैसा है। LLM किसी भी reasonable मानक से एक बहुत बड़ा breakthrough है
      आगे की progress को लेकर optimistic होने की वजह यह है कि पिछले कुछ वर्षों में capabilities बहुत बढ़ी हैं, और कम से कम अगले कुछ वर्षों तक यह trend जारी रहने की संभावना है। यह हमेशा scale नहीं होगा, लेकिन धूल बैठने के बाद आज के cutting edge से कहीं ज्यादा शक्तिशाली LLM बचने की संभावना बड़ी दिखती है, और मौजूदा स्तर भी पहले से ही useful है
      यह “superintelligence” या “last invention” तक पहुंचेगा या नहीं, इस पर शक है, लेकिन यह निश्चित रूप से बड़ी बात है। कम से कम इसकी तुलना Google Search से की जा सकती है, जिसने लोगों के कंप्यूटर और इंटरनेट इस्तेमाल करने का तरीका बदल दिया
  • लगता है Sam कभी semiconductor manufacturing facility के अंदर गया ही नहीं है। अगर गया भी होगा, तो उसने अपने आसपास क्या हो रहा है, इस पर बिल्कुल ध्यान नहीं दिया होगा
    ऐसी facility को अपनी आंखों से देखने के बाद भी 36 ऐसी facilities बनाने की बात यूं ही हल्के में कैसे कही जा सकती है, यह समझ नहीं आता। आज के दौर में नए fab investment की recovery में 10 साल से काफी ज्यादा लगने की संभावना है, और एक संकरे use case के लिए करीब 4 customers के पीछे भागना ऐसी company चलाने वाले के नजरिए से कोई मायने नहीं रखता

    • उसके नजरिए से यह rational है। capital आप लोग लगाएं, और उसे ज्यादा compute resources मिलें
      अगर बात नहीं बनी और orders बंद हो गए? वह उसकी समस्या तो नहीं है, है ना
    • Altman ने हाल की “Intelligence Age” पोस्ट में कहा था कि superintelligence शायद सिर्फ कुछ हजार दिन दूर हो
      बेशक वह गलत हो सकता है, लेकिन अगर उसकी बात को गंभीरता से लिया जाए, तो chip demand में विस्फोट होना स्वाभाविक निष्कर्ष है
    • मुझे नहीं पता कि Sam कभी ऐसा दिखा भी था या नहीं कि वह कोई technical visionary है, न कि चमकदार ठग। पिछले कुछ वर्षों में उसके बारे में मैंने जो लगभग सब कुछ पढ़ा, उससे वह clueless डींगमार इंसान जैसा लगा जो सिर्फ पैसे के लिए आया है
      अगर आप बोलने में अच्छे हों, connections हों और चालाक हों, तो competent और ईमानदार होने की तुलना में कहीं ज्यादा आसानी से कहीं ज्यादा पैसा कमा सकते हैं
    • facilities को छोड़ भी दें, तो सुना है कि talent shortage बहुत बड़ा bottleneck है। खासकर अमेरिका में तो और भी ज्यादा
  • मौजूदा AI विमर्श में तीन बातें खटकती हैं। पहली, आम जनता का AGI पर ध्यान देना लगभग ध्यान भटकाने जैसा है। AGI तक पहुँचने से पहले ही बेहद specialized models बड़े पैमाने पर नौकरियाँ ले लेंगे, और software engineering व computer science पहले से ही इसके असर में आ चुके हैं
    दूसरी, यह सोच कि किसी job को replace करने के लिए AI को उस job के सारे tasks करने होंगे। अगर software engineer 50% ज़्यादा efficient हो जाए और company आधे लोगों को निकाल दे तो? इतना ही economic shock बहुत बड़ा होगा, और मौजूदा cutting-edge level पर भी यह काफी plausible है
    तीसरी, यह सोच कि निकाले गए सभी लोग AI से बनने वाले अवसरों की वजह से नई नौकरियाँ पा लेंगे। यह शायद मेरी knowledge gap हो, लेकिन कौन-सा अवसर अभी दिखने लग रही efficiency के scale को offset करने जितना बड़ा है, यह मुझे नहीं दिखता। Western world की उलटी-पिरामिड जैसी population structure कुछ हद तक cushion देगी, लेकिन

    • “software engineer 50% ज़्यादा efficient हो जाए और आधे लोगों को निकाल दिया जाए?” में fixed amount of work मान लेने की गलती है
      second-order effects देखने होंगे। जब ज्ञात तरीकों को दोहराने में लगने वाला समय घटता है, तो अधिक ambitious काम लिए जाते हैं, और humans+AI इस्तेमाल करने वाली companies के बीच competition standards को ऊपर खींचता है। Software पिछले 60 वर्षों से हर नई language और framework आने पर खुद को cannibalize करता रहा है, लेकिन employment अब भी मजबूत है
    • यह उन robotaxi या self-driving cars जैसा है, जिनके बारे में कहा गया था कि वे हमें इधर-उधर ले जाएँगी। आजकल हर कोई चीजें आसानी से खरीदने के लिए जिस non-fiat currency का इस्तेमाल करता है, उसे भी नहीं भूलना चाहिए
    • General-purpose न होने वाला AI, पहले की productivity-enhancing technologies की तरह, mass unemployment नहीं पैदा करेगा। जब तक इंसान ऐसे valuable outputs बना सकते हैं जिन्हें machines नहीं बना सकतीं, higher-output economy इंसानों को employ करने का तरीका ढूँढ लेगी
      कुछ लोगों को jobs बदलने की जरूरत नहीं पड़ेगी। AI tools production cost घटाएँगे तो वे जो provide करते हैं उसकी demand बढ़ सकती है, और software engineers के साथ भी ऐसा हो सकता है
      दूसरे लोग नई technology से पैदा होने वाली jobs में जा सकते हैं, या ऐसी jobs में जो अभी बहुत-से लोगों को पैसे देने के लिहाज से हास्यास्पद लगती हैं। Historically भी यह consistent pattern रहा है। Transition तेज़ हुआ तो temporary disruption होगा, लेकिन आखिर में चीजें settle हो जाएँगी
      इस dynamics को तोड़कर permanent structural unemployment की संभावना सिर्फ AGI पैदा कर सकता है, जो हर useful काम में human capability से आगे निकल जाए
    • अगर AI मेरा काम कर सकता है तो employer मुझे क्यों निकालेगा? अगर AI seat license की marginal cost पर मुझसे 200% productivity मिल सकती है, तो वह तो खुश ही होगा न
      कई job-loss predictions इस tacit assumption पर खड़ी हैं कि हम पहले ही “maximum workload” तक पहुँच चुके हैं। Productivity बढ़े तो jobs घटनी चाहिए—यह तभी सच है जब करने के लिए और काम न हो। लेकिन लगता है बहुत कम लोग यह कहने की कोशिश करते हैं, कर पाते हैं, या यहाँ तक कि recognize करते हैं कि असल में यह साबित करना होगा कि करने के लिए और काम नहीं है
      Historically इंसान future में काम के types और scale का अनुमान लगाने में बहुत खराब रहे हैं, लेकिन खुद को busy रखने के लिए नए काम invent करने में चौंकाने लायक अच्छे रहे हैं
    • जब बिजली सस्ती हुई, तो हमने बिजली और ज़्यादा इस्तेमाल की
      बस सोचिए कि हमारे आसपास कितना खराब software है। मेरी पत्नी ने doctor के पास test book करने के लिए app इस्तेमाल किया, लेकिन वह बिल्कुल काम नहीं कर रहा था; staff को भी पता था कि app काम नहीं करता, फिर भी वे उसी app की ओर भेज रहे थे
      हम खराब software से घिरे हुए हैं, और अगर इसे सस्ता बनाया जा सके तो करने के लिए बहुत काम है। अभी सिर्फ अमीर companies ही शानदार software बना सकती हैं
  • Sam Altman का background YC होना ironic है। यह startup-style thinking के उलट है
    छोटे scale पर तेजी से disruption करने के बजाय, ऐसा लगता है कि technology कहाँ इस्तेमाल होगी, इस पर धुंधले idea के साथ ही वह massive upfront investment चाहता है

    • “massive upfront investment और technology के use cases पर vague idea” तो venture-funded startup mindset जैसा ही सुनाई देता है
    • उसे पहले से पता होगा कि आगे के कुछ model builds के लिए 100 million dollars, शायद 1 billion dollars की जरूरत पड़ेगी। यह सिर्फ एक single model बनाने की compute cost है
      product-market fit लगभग validate हो चुका है और cost structure भी मोटे तौर पर समझ आ चुका है, इसलिए उसे पैसे की जरूरत क्यों है, यह काफी straightforward है
      हालांकि यह एक bet है, क्योंकि अगर कोई नई technique से 10 million dollars वाला model लेकर आ गया तो OpenAI की cost structure problem बन जाएगी। अगर ऐसा हुआ तो मेरा मानना है कि scientists काफी जल्दी adapt कर लेंगे
    • दूसरा sentence बहुत-से startups का वर्णन करता है
  • अच्छा है। TSMC के बारे में जितना पढ़ता हूँ, उतना ही पसंद आता है

    • Taiwan culture और TSMC culture मुझे हमेशा काफी restrained लगे हैं। इसलिए अगर “podcasting bro” जैसा phrase leak हुआ है, तो उसका असल मतलब शायद “bloody scammer” के करीब होगा
    • इस frenzy में शामिल लोगों में से Sam की योजना पर मैंने जो सबसे sane assessment देखा है, यह उसके काफी करीब लगता है
      अगर ताश के पत्तों का यह घर गिरा, तो यह अब तक देखे किसी भी bubble से कहीं बड़ा होगा। चाहे यह overheating हो या fraud
      resources और attention की बर्बादी बहुत बड़ी है, और crypto hype के बाद बचे venture investors को भी अब serious लेना मुश्किल है
    • TSMC असल में Spacing Guild है, इसलिए कोई भी उसे यूँ ही छेड़ नहीं सकता
    • Musk के SpaceX शुरू करने से पहले Russians ने भी उसका मजाक उड़ाया था
  • OpenAI का मौजूदा business model confidence नहीं देता। annual revenue करीब 3 billion dollars है, लेकिन annual spending 7 billion dollars के सामने पूरी तरह दब जाता है, और यह “tomorrow’s jam” का वादा करने वाली structure जैसा दिखता है
    यानी सालाना 4 billion dollars loss, रोज़ 10 million dollars loss। IPOs भी आम तौर पर Bitcoin की तरह greater fool theory पर चलते आए हैं। inflated price अगले बड़े fool को pass कर दो, और आखिर में Twitter की तरह end पर कोई रह जाता है जिसे पता नहीं होता कि वह पैसा कैसे recover करेगा
    पता नहीं OpenAI रोज़ 10 million dollars loss कितने दिन झेल सकता है, लेकिन मौजूदा macroeconomic environment में outlook अच्छा नहीं दिखता

    • ज्यादातर cost शायद training और free tier operations से आती होगी। दोनों को कभी भी बंद किया जाए तो यह बेहद profitable हो सकता है
      लगता है लोग यह scale नहीं समझते कि 2 साल से भी कम समय में यह 3 billion dollars annual recurring revenue तक पहुँच गया। AI hype है? बिल्कुल। क्या यह crypto जैसा bubble है जहाँ हर कोई nonsense बेच रहा है? बिल्कुल नहीं
    • Amazon भी कई सालों तक profit नहीं कमा पाया था, लेकिन आज दुनिया की सबसे valuable companies में से एक है। वजह यह है कि वह लगातार grow करता रहा
      OpenAI भी अगर उसी तरह grow करता रहे तो “sustainable” है। 2023 की गर्मियों से 2024 की गर्मियों तक revenue 6 गुना बढ़कर 3.4 billion dollars हो गया, और अगले साल 4 गुना, उसके अगले साल 3 गुना हुआ तो revenue 40 billion dollars हो जाएगा
    • 3 billion dollars ARR figure कहाँ से आया, यह जानना चाहूँगा। source जानना है
  • हो सकता है अंत में वही हँसे। दुनिया भर में घूमकर UAE और Taiwan में fabs बनाने की धमकी देना, अमेरिकी hardliners को सक्रिय करने की एक कूटनीतिक चाल हो सकती है
    असल में ClopenAI ने CHIPS Act से जुड़े लोगों को पहले ही hire कर लिया है
    “अपने प्रयासों को तेज करने के लिए OpenAI ने Clinton White House के वकील रहे Chris Lehane को global policy vice president के रूप में नियुक्त किया, और Commerce Department के 2 पूर्व लोगों को भी जोड़ा जिन्होंने घरेलू chip manufacturing बढ़ाने के लिए bipartisan कानून CHIPS Act पर काम किया था। उनमें से एक आगे चलकर infrastructure projects और policy संभालेगा।”
    “अगर CHIPS Act का पैसा नहीं दोगे तो विदेश में factory बनाऊँगा” कहना एक बेहतरीन रणनीति है

    • “fab बनाना” बहुत गलत नज़रिए से देखना है
      अगर TSMC से मुकाबला करने वाला fab बनाना इतना आसान होता, तो Intel ने कर लिया होता, और China ने भी कर लिया होता। hardware software से कहीं ज्यादा मुश्किल है
    • CHIPS Act में सहयोगी देशों के fabs को funding में मदद देने वाले provisions हैं
      इसलिए Biden और Modi ने QUAD summit में US-India defence systems के लिए dedicated fab की घोषणा की [0], और UAE को India के साथ “Major Defence Partner” के रूप में नामित किया [1], जिसमें technology transfer की शर्तें भी शामिल हैं
      CHIPS और IRA का बड़ा हिस्सा अंतरराष्ट्रीय सहयोगी देशों के technology और innovation ecosystems को subsidize करने के लिए रखा गया है, ताकि वे China की तरफ न झुकें [2]
      [0] - https://www.bloomberg.com/news/articles/2024-09-23/biden-mod...
      [1] - https://www.reuters.com/world/us/harris-plans-raise-gaza-cea...
      [2] - https://cset.georgetown.edu/publication/agile-alliances/
  • कुछ बहुत specific और बड़े impact वाली समस्याएँ हैं जिन्हें सच में address किया जा सकता है, लेकिन vaporware पर इतना पैसा और राजनीतिक capital खर्च होते देखना वाकई हैरान करने वाला है

    • अगर दोनों में पहले से reliably फर्क कर पाओ, तो बहुत पैसा कमा सकते हो
    • पूंजी arbitrary लोगों को ताकत देने के लिए नहीं, बल्कि और ज्यादा power हासिल करने के लिए खर्च की जाती है। यही उस दुनिया की reality है जिसमें हम रहते हैं
    • AI पिछले 10 सालों से ही हर तरह की “बहुत specific” और “बड़े impact वाली” समस्याओं में इस्तेमाल हो रहा है
    • 7 trillion dollars से America के हर व्यक्ति को कितना खाना दिया जा सकता है, कल्पना करो। शायद कुछ हद तक छत भी मुहैया कराई जा सकती है