23 पॉइंट द्वारा xguru 2024-12-30 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • 2025 रिपोर्ट (90p slides) का संक्षिप्त सार और अतिरिक्त व्याख्या
  • "मेरी ज़िंदगी में क्रांतिकारी टेक डेमो सिर्फ 2 रहे हैं: GUI और ChatGPT - Bill Gates"
  • OpenAI का valuation अनुमानित $157B पर पहुँचा (Microsoft को वहाँ तक पहुँचने में 20 साल लगे)
    • ChatGPT अभूतपूर्व गति से mainstream awareness तक पहुँचा
    • रुचि बहुत है, लेकिन उपयोग सीमित है और लोग इसे पर्याप्त उपयोगी नहीं मानते
    • बाज़ार में पहले से यह बात भी उठ रही है कि क्या निवेश के मुकाबले लाभ नहीं मिल रहा
  • Hype Cycle में "Plateau of Productivity" तक पहुँचने में समय लगता है
  • अगला platform shift है "Generative AI"
    • Mainframe → PCs / SQL → Web / Open Source → Smartphones / Cloud → Generative AI
  • लेकिन अभी सब कुछ खुला हुआ है और जवाब स्पष्ट नहीं हैं
    • How far will this scale?
    • How is this useful?
    • How do we deploy this?

How far will this scale? यह कितना scale हो सकता है?

  • क्या LLM लगातार बड़े होते जाएँगे (scaling?) - क्या LLM 'सब कुछ (everything)' कर पाएँगे?
  • Scaling कठिन है
    • इन models को बड़ा बनाना कई चुनौतियों से भरा है और इसमें समय लगेगा
      • GPU और बिजली, training data, execution और engineering, क्या नतीजे बेहतर होंगे?
    • अभी की स्थिति में निवेश करना लगभग अनिवार्य है (नहीं किया तो अगले 10~15 साल की सबसे अहम टेक्नोलॉजी छूट सकती है)
    • "हमारे पास moat नहीं है - Google"
    • "जो models अभी train हो रहे हैं उनकी लागत $1b के करीब है, और 2025/2026 में यह $5b या $10b तक जा सकती है - Anthropic CEO"
    • "Llama 4 को train करने के लिए 3 के 10 गुना से अधिक compute चाहिए, और future models इससे भी बड़े होते जाएँगे - Mark Zuckerberg"
  • अगर moat "capital" है, तो अभी Nvidia demand पूरी नहीं कर पा रहा
  • Big 4 (Meta, Alphabet, AWS, MSFT) का capex 2023 में $90b था, 2024 में $220b, और 2025 में यह और बढ़ेगा
  • हमारे पैरों तले टेक्नोलॉजी लगातार आगे बढ़ रही है और बहुत तेज़ी से बदल रही है
    • AI को आगे बढ़ाने के लिए outcomes (बेहतर results), direction, और resource efficiency (training cost, inference cost, carbon footprint) के बीच संतुलन ज़रूरी है
  • "फ्री में लॉन्च करो, word-of-mouth से फैलाओ, और बाद में revenue model सोचो" वाला consumer internet model आज के large language model (LLM) cost structure के साथ फिट नहीं बैठता
    • परंपरागत software में शुरुआती development cost ऊँची होती थी, लेकिन copy या deploy करने की लागत लगभग शून्य होती थी, यानी "marginal cost" लगभग नहीं होती थी
    • LLM को training और inference दोनों में भारी compute resources (बिजली, server आदि) चाहिए, और users बढ़ने के साथ लागत भी तेज़ी से बढ़ती है
    • फ्री में देकर बड़े user base तक पहुँचना तब तक sustainable नहीं है जब तक monetization model स्थापित न हो
    • यानी शुरुआत से ही cost recovery की स्पष्ट strategy चाहिए
  • "टेक इंडस्ट्री में हर कोई किसी और के business model को फ्री कर रहा है"
    • टेक इंडस्ट्री में competitors या अन्य organizations के business model या core technology के open source या अन्य रूपों में free होने से कुछ कंपनियों की exclusive competitive edge कमज़ोर हो रही है
    • Meta जब AI model जैसी अहम तकनीकी assets को open source करता है, तो वह technology सबके लिए उपलब्ध common infrastructure (commodity infrastructure) में बदलने लगती है
    • Apple edge computing के ज़रिए users के device पर सीधे AI model चलाने की दिशा में बढ़ रहा है; central server पर model चलाने के बजाय उसे simple API call जैसा बना रहा है, जिससे technology की commercial value कम हो सकती है
  • 2023-2024 का model boom: अच्छा, तेज़, सस्ता — इनमें से 2 चुनो

How is this useful? यह कितना उपयोगी है?

  • 2013 : machine learning ने इंसान/कुत्ता/कुर्सी में फ़र्क करना शुरू किया। "स्मार्ट है, तो क्या?"
  • 2023 : ChatGPT जैसी generative ML उपयोगी है? "स्मार्ट है, तो क्या?"
  • Error recognition अभी भी सीमित है। प्रभावी error handling के लिए हर स्तर पर balanced approach चाहिए
    • यह scientific problem (model improvement), use case definition, और product design (UX improvement) का मिला-जुला challenge है
  • "2024 में, LLM किस तरह उपयोगी हैं?"
    • LLM मूल रूप से next word predict करने वाली probability-based systems हैं
    • मौजूदा स्तर: information summary या synthesis में उपयोगी, लेकिन complex reasoning में अभी सीमित
    • LLM में नए प्रकार के काम automate करने की क्षमता है, लेकिन इसे पूरी तरह समझने और define करने के लिए और exploration चाहिए
  • VisiCalc दुनिया का पहला electronic spreadsheet program था, जिसने 20 घंटे का calculation work 15 मिनट में ला दिया
    • कोई वकील इसे देखकर कह सकता है कि यह बहुत innovative और smart है, लेकिन उसके अपने काम में इसकी ज़रूरत न लगे
    • लेकिन ऐसे use cases बढ़ रहे हैं
      • coding, marketing, customer support जैसे साफ़ ज़रूरत वाले कामों में यह तुरंत value देता है
  • "ग्राहक अनुभव से शुरू करो और फिर तकनीक तक पीछे जाओ। - Steve Jobs"

How do we deploy this? इसे deploy कैसे करें?

  • नई तकनीक के आने पर आम तौर पर यह प्रक्रिया चलती है
      1. Absorb (एकीकृत करना): नई तकनीक को feature बनाकर मौजूदा business या product में जोड़ना
      1. Innovate (नवाचार): नई तकनीक के आधार पर नए ideas या products बनाना। startup इसे अलग करके (unbundle) उपयोग करते हैं
      1. Redefine markets (बाज़ार को फिर से परिभाषित करना): नई तकनीक मौजूदा बाज़ार सीमाओं को तोड़कर पूरी तरह नए markets बना सकती है। इसका अनुमान लगाना मुश्किल है, और success cases दुर्लभ भी हो सकते हैं
  • नई तकनीक अपनाते समय कंपनियाँ आम तौर पर ये standard सवाल पूछती हैं
    • "Buy versus build?" (खरीदें या खुद बनाएँ?)
    • "Single vendor or multi-vendor?" (एक vendor या कई vendors?)
    • "Which use cases first? Whose budget?" (पहले कौन से use cases? बजट किसका?)
    • "Opex or capex? What’s the EPS impact?" (operating cost या capital expenditure? EPS पर असर क्या होगा?)
  • भविष्य आने में समय लग सकता है
    • cloud अब पुराना और उबाऊ शब्द लग सकता है, लेकिन अभी भी पूरे workflow का केवल 30% है
    • 2024 में CIOs के 1/4 ने LLM-based कुछ लॉन्च किया, लेकिन आधे लोग अगले साल भी कुछ करने की योजना नहीं बना रहे
  • लेकिन नया platform नए tools भी लाता है
    • SaaS automation से बहुत आगे बढ़ते हुए SAP, Excel, Email से workflows को unbundle कर रहे हैं
  • "पैसा कमाने के दो तरीके हैं। bundle करो, या unbundle करो. - Jim Barksdale"
  • अगर LLM सब कुछ संभाल सके तो? : अगर model काफ़ी आगे बढ़ जाए, तो क्या हमें बहुत कम software की ज़रूरत रह जाएगी?
    • अगर LLM की specific tasks सँभालने की क्षमता मौजूदा स्तर से बेहतर नहीं होती, तो हमें नया software बनाते रहना होगा
    • अगर LLM लगातार scale और improve करते रहे, तो software development का बड़ा हिस्सा अनावश्यक हो सकता है
      • "general-purpose AI" की ओर बढ़ने की संभावना, जो सब कुछ संभाल सके
  • क्या LLMs infrastructure हैं? API हैं? platform हैं? या नया user experience? : क्या हम logical systems से LLM को control करेंगे, या LLM से logical systems को control करेंगे?
    • LLM सिर्फ API के रूप में भी इस्तेमाल हो सकते हैं, या पूरा platform बन सकते हैं और बाकी सब API में बदल सकता है
    • technology की progress और scalability के साथ LLM की भूमिका लगातार बदलती रहेगी
  • क्या LLM हमारा use case discovery model तोड़ देंगे? : अगर हर चीज़ का UX एक जैसा हो जाए, तो entrepreneurs नए use cases और self-expression के नए तरीके कैसे invent करेंगे?
    • पारंपरिक software development में startups और कंपनियाँ specific use cases की कल्पना और आविष्कार करती हैं
    • अगर LLM इतने विकसित हो जाएँ कि वे हर use case को संभाल और automate कर सकें, तो पारंपरिक software development की ज़रूरत घट सकती है
    • अगर LLM UX का केंद्र बन जाएँ, तो users को खुद नए use cases कल्पना करके बनाने पड़ सकते हैं
      • software development और UX design में paradigm shift
  • 'AI' अक्सर 'automation' में बदल जाता है : As technology matures, it disappears (तकनीक mature होते ही गायब-सी हो जाती है.)
    • AI! → Smart → Auto → Just software
  • LLM products के लिए तीन models?
    • मौजूदा applications में नए features जोड़ना: "मेरा email फिर से लिख दो, reviews summarize कर दो"
    • नए tools: "500 financial reports analyze और summarize कर दो"
    • general-purpose AI: "मेरे लिए एक घर खरीद दो"
  • शायद हर AI सवाल के सिर्फ दो जवाब हैं
    • "यह हर platform shift की तरह ही काम करेगा."
    • "किसी को नहीं पता"

Meanwhile...

  • vision से execution तक: क्या चीज़ पहले से बड़ी है, क्या अभी बन रही है, और आगे क्या आने वाला है?
    • 2000s की शुरुआत में e-commerce मुख्य innovation idea था: "लोग online चीज़ें खरीदेंगे"
    • 2010s में SaaS (Software as a Service), automation, collaboration tools, और workflow management जैसे ideas पर ध्यान गया
    • 2030 की ओर देखते हुए Generative AI नई vision के रूप में उभर रहा है
  • Meta अब भी metaverse (VR & AR) पर काम कर रहा है। वह अब तक कम से कम $60b निवेश कर चुका है, और पिछले 12 महीनों में $17.4b निवेश किया
  • e-commerce अभी भी लगभग वैसा ही है (COVID का समय अपवाद था)। यह tech graphs में सबसे उबाऊ charts में से एक है
  • Unbundling Amazon: Shopify का GMV (Gross Merchandise Volume) $270b पार कर गया। यह Amazon GMV का 35% है
  • Amazon की ad revenue लगातार बढ़ रही है। retail/AWS से भी ज़्यादा cash flow
  • Software eats media: नए channels, नए models, नए bundles
    • YouTube और TikTok जैसे software-centric media platforms पारंपरिक media जैसी आय हासिल कर रहे हैं और media market के बड़े players बन रहे हैं
    • Disney जैसी बड़ी पारंपरिक media companies अभी भी मज़बूत revenue ला रही हैं, लेकिन software platforms की growth speed का सामना कर रही हैं
    • streaming (Netflix) जैसे नए media forms पारंपरिक cable और broadcast-centric model को चुनौती दे रहे हैं
    • पारंपरिक media content libraries और exclusive content के दम पर प्रतिस्पर्धा बनाए रखने की कोशिश कर रहा है, जबकि software platforms ad-based और subscription-based models को मिलाकर revenue maximize कर रहे हैं
  • Software eats cars? : दशकों के वादों और अरबों डॉलर के निवेश के बाद, शायद self-driving सच में काम करना शुरू कर रही है
    • robotaxi rides लगातार बढ़ रही हैं। auto industry software-centric service में बदल रही है
  • क्या cars software बन जाएँगी?: BEV कुल sales के 10% के करीब पहुँच रहे हैं, लेकिन जीतेगा कौन? क्या यह process Android जैसा चलेगा?
    • Battery Electric Vehicle ने 2023 में कुल auto sales का लगभग 10% हिस्सा लिया और mainstream technology बन रहे हैं
    • Tesla जैसी कंपनियाँ BEV को सिर्फ वाहन नहीं, बल्कि software-centric product में बदल रही हैं। इससे संकेत मिलता है कि BEV smartphone जैसे software-centric ecosystem बना सकते हैं