OpenAI का असंतुलन और Microsoft का फायदा

 (stratechery.com)
2 पॉइंट द्वारा GN⁺ 2023-11-21 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Sam Altman की बर्खास्तगी और Greg Brockman के इस्तीफे से शुरू हुआ OpenAI का वीकेंड संकट, Microsoft के लिए मुख्य प्रतिभा और OpenAI IP दोनों का उपयोग करने के अवसर में बदल गया
  • Microsoft के पास पहले से ही source code और model weights सहित स्थायी लाइसेंस था, और AGI-पूर्व तकनीक तक पहुंच के ऊपर अब उसे प्रतिभा भर्ती की संभावना भी मिल गई
  • OpenAI की non-profit governance संरचना इस तरह डिज़ाइन की गई थी कि वह मुनाफे से पहले “पूरी मानवता के लिए लाभकारी AI” को प्राथमिकता दे, लेकिन भारी computing लागत के कारण वह Microsoft funding और Azure पर निर्भर संरचनात्मक अस्थिरता से घिरी हुई थी
  • ChatGPT ने 10 करोड़ से अधिक साप्ताहिक users और 1 अरब डॉलर से अधिक revenue के साथ बड़े consumer platform बनने की संभावना दिखाई, लेकिन productization की गति और AI risk control के बीच आंतरिक टकराव भी बढ़ाया
  • AI प्रतिस्पर्धा की कमान Altman और Microsoft की ओर खिसक गई, जिसका असर Azure API चुनने, Google·Anthropic की स्थिति, और बड़े tech कंपनियों-केंद्रित AI विकास पर पड़ा

वीकेंड के दौरान उलट गई OpenAI और Microsoft की स्थिति

  • शुक्रवार को OpenAI non-profit संगठन को नियंत्रित करने वाले board ने उस समय के CEO Sam Altman को हटा दिया, और उस समय के president Greg Brockman को board से बाहर किए जाने के बाद उन्होंने इस्तीफा दे दिया
  • वीकेंड भर Altman की वापसी पर बातचीत की अफवाहें चलती रहीं, लेकिन OpenAI ने पूर्व Twitch CEO Emmett Shear को CEO नियुक्त कर दिया
  • रविवार रात Satya Nadella ने घोषणा की कि Altman और Brockman “अपने सहयोगियों के साथ” Microsoft में शामिल होंगे
  • यह घटनाक्रम Microsoft के लिए बेहद फायदेमंद साबित हुआ
    • Microsoft के पास पहले से OpenAI IP पर स्थायी लाइसेंस है
    • इस लाइसेंस में source code और model weights शामिल हैं, लेकिन OpenAI की संरचना के अनुसार AGI, Microsoft के साथ commercial terms और IP licensing से बाहर है
    • Altman और Brockman के हटाए जाने के बाद जिस OpenAI talent exodus की चिंता थी, उसके Microsoft की ओर जाने की संभावना बढ़ गई
  • OpenAI लंबे समय से funding और computing के लिए Microsoft पर निर्भर रहा है, इसलिए उसके विकल्प सीमित हो गए
    • OpenAI में रहकर कर्मचारी जो AI काम करेंगे, वह स्थायी लाइसेंस के कारण Microsoft के अधिकार-क्षेत्र में आ सकता है
    • और अगर कर्मचारी Altman की टीम में शामिल होते हैं, तो वही काम सीधे Microsoft के भीतर होगा

OpenAI का non-profit मॉडल और संरचनात्मक बदलाव

  • OpenAI की स्थापना 2015 में “non-profit artificial intelligence research company” के रूप में हुई थी
    • शुरुआती लक्ष्य यह था कि वित्तीय रिटर्न पैदा करने की बाध्यता से मुक्त होकर digital intelligence को आगे बढ़ाया जाए ताकि उससे पूरी मानवता को लाभ मिले
    • उस समय की भाषा में योजनाओं और क्षमताओं को सार्वजनिक रूप से साझा करने का वादा भी शामिल था
  • OpenAI वास्तव में एक 501(c)(3) non-profit entity है, और IRS filings में भी उसका non-profit mission दर्ज है
  • समय के साथ mission की भाषा बदलती गई
    • 2016 के दस्तावेज़ों में “योजनाओं और क्षमताओं को सार्वजनिक रूप से साझा” करने की बात थी
    • दो साल बाद यह भाषा हटा दी गई
    • तीन साल बाद “digital intelligence को आगे बढ़ाने” का लक्ष्य बदलकर “AGI बनाना” हो गया
  • 2018 में Semafor की रिपोर्ट के अनुसार Elon Musk ने कंपनी पर नियंत्रण पाने की कोशिश की, लेकिन असफल रहे; इसके बाद उन्होंने board छोड़ा और OpenAI के operating costs का भुगतान भी बंद कर दिया
  • बड़े computing costs उठाने की ज़रूरत के बीच Altman ने limited-profit company OpenAI Global, LLC बनाई, जिसमें Microsoft की अल्पांश हिस्सेदारी थी
    • OpenAI Global पूंजी जुटा सकती है और revenue कमा सकती है
    • लेकिन operating agreement में स्पष्ट है कि OpenAI, Inc. का mission और OpenAI Charter के सिद्धांत, profit generation obligations से ऊपर हैं
    • कंपनी लाभ न भी कमाए तो चल सकता है, और उस पर लाभ कमाने की कोई बाध्यता नहीं है
  • Microsoft इन सीमाओं के बावजूद OpenAI का investor और customer बना, और उसने OpenAI तकनीक को अपने कई products में integrate किया

ChatGPT ने बढ़ाई consumer platform की संभावना और आंतरिक टकराव

  • ChatGPT नवंबर 2022 के अंत में जारी होने के बाद तेज़ी से फैल गया
    • अब इसके 10 करोड़ से अधिक साप्ताहिक users हैं
    • इसका revenue 1 अरब डॉलर से अधिक है
    • इसने प्रमुख कंपनियों और सरकारों में AI पर चर्चा को मूल रूप से बदल दिया
  • ChatGPT ने यह संभावना दिखाई कि वह एक नई बड़ी consumer tech company की नींव बन सकता है
    • consumer products में महत्वपूर्ण efficient customer acquisition उसने word of mouth से हासिल किया
    • network effects बहुत बड़े नहीं थे, लेकिन word-of-mouth effect बेहद मजबूत था
    • इसे Google की तरह ऐसा product माना गया, जो बाज़ार के दूसरे products से बेहतर है और जिसे users खुद सीखकर इस्तेमाल करने लगते हैं
  • OpenAI ने platform बनने की कोशिश की
    • ChatGPT plugins का concept मज़बूत था, लेकिन UI सही तरह से फिट नहीं बैठा
    • बाद में अपनी पहली developer event में उसने GPTs की घोषणा कर platform प्रयास को फिर आगे बढ़ाया
  • बताया गया कि Altman, OpenAI के बाहर chip और hardware कंपनियों की संभावनाएँ तलाश रहे थे, और ऐसी रिपोर्टें भी हैं कि board को इसकी जानकारी नहीं थी
  • The Atlantic की रिपोर्ट के अनुसार Altman की बर्खास्तगी OpenAI के भीतर दो वैचारिक ध्रुवों के बीच सत्ता संघर्ष का परिणाम थी
    • एक पक्ष Silicon Valley का tech-optimist समूह था, जो तेज़ commercialisation से ऊर्जा लेता है
    • दूसरा पक्ष मानता था कि AI मानव अस्तित्व के लिए जोखिम पैदा कर सकता है और इसे बहुत सावधानी से नियंत्रित किया जाना चाहिए
  • ChatGPT की रिलीज़ ने दोनों पक्षों के बीच संतुलन तोड़ दिया
    • इसने product monetisation की दौड़ तेज़ कर दी
    • infrastructure और risk evaluation·mitigation संभालने वाले कर्मचारियों पर अभूतपूर्व दबाव डाला
    • Altman ने 2019 के एक employee email में इन आंतरिक समूहों को “tribes” कहा था

board के फैसले और mission लागू करने के बीच टकराव

  • OpenAI board पर भारी value destruction का आरोप लगा, लेकिन OpenAI कोई ऐसी for-profit company नहीं है जिस पर shareholders के प्रति fiduciary duty हो
  • OpenAI Charter में साफ़ है कि वह financial return पैदा करने की बाध्यता से बंधा नहीं है
  • अगर board ने यह निष्कर्ष निकाला कि Altman और उनका समूह “मानवता के लिए लाभकारी AGI” नहीं बना रहे थे, तो उसे Altman को हटाने का अधिकार था
  • non-profit संरचना की अस्थिरता Microsoft के साथ उसके सौदे में स्पष्ट दिखी
    • Microsoft ने अपने भविष्य का बड़ा हिस्सा OpenAI partnership पर दांव पर लगाया था
    • OpenAI की तकनीक Windows, Office, Dynamics CRM सहित कई Microsoft products में integrate की गई
    • Microsoft ने OpenAI के लिए optimized infrastructure में भारी निवेश किया और OpenAI models चलाने के लिए custom chips भी पेश किए
  • Microsoft का इतनी गहराई से ऐसे संगठन पर निर्भर होना, जिसके पास profit motive नहीं है, अस्थिर फैसला लगता था; लेकिन OpenAI के पास भी अपनी स्वतंत्रता बनाए रखने लायक पूंजी नहीं थी
    • OpenAI की संरचना पारंपरिक venture capital deals को रोकती थी, और भारी computing जरूरतों के कारण उसे Azure credits के बदले Microsoft को IP सौंपना पड़ा
    • safe AI development को Charter में रखने वाला संगठन अंततः अपना काम और काफी प्रतिभा एक विशाल for-profit कंपनी की ओर धकेलता दिखा
  • इस संरचना ने यह आकलन जन्म दिया कि OpenAI के घोषित mission को निभाने के लिए incentive alignment ठीक नहीं था

Altman की बर्खास्तगी के कारणों पर बाकी सवाल

  • यह संभावना अब भी बनी हुई है कि board की कार्रवाई के पीछे उचित कारण रहे हों
  • OpenAI board ने कहा कि Altman, board के साथ संवाद में “लगातार ईमानदार नहीं” थे
  • Eric Newcomer ने बताया कि board के कुछ सदस्यों को Altman का संवाद बेईमान और अविश्वसनीय लगा, और उनका मानना था कि Altman की बातों पर भरोसा न होने के कारण कंपनी की निगरानी करना संभव नहीं था
  • Newcomer के अनुसार कुछ बातों पर विचार करना चाहिए
    • OpenAI board का Charter
    • यह तथ्य कि Anthropic के founders को OpenAI छोड़ने की ज़रूरत महसूस हुई
    • Elon Musk की Altman के प्रति नाराज़गी
    • यह कि Altman का Y Combinator से अलग होना अब भी कुछ हद तक अस्पष्ट है
  • Altman का Microsoft जाना चौंकाने वाला कदम है
    • Microsoft वही जगह है जहाँ OpenAI IP तक पहुंच बनी रहती है
    • वहाँ लगभग असीमित funding और GPUs तक पहुंच को जोड़ा जा सकता है
    • यह संयोजन उस व्याख्या को मज़बूती देता है कि AI पर power, Altman की मुख्य प्रेरणा है

बदला हुआ AI प्रतिस्पर्धी परिदृश्य

  • Altman और Microsoft अब AI की ड्राइविंग सीट पर हैं
    • Microsoft के पास IP है
    • उसके पास cash और infrastructure है
    • OpenAI partnership में पहले जो coordination issues थे, उन्हें भी वह घटा सकता है
    • साथ ही Microsoft अभी भी OpenAI का partner है
  • बाहरी कंपनियों के लिए OpenAI API की बजाय Azure API पर build करना अब ज़्यादा स्पष्ट विकल्प दिखता है
    • Microsoft मूल रूप से developer platform कंपनी है
    • OpenAI दिलचस्प कंपनी है, लेकिन उसे ऐसा खिलाड़ी भी माना जाता है जो features को copy कर सकता है या पुराने APIs बंद कर सकता है
  • enterprise customers के लिए OpenAI निर्भरता की वजह से Azure से दूर रहने का तर्क कमजोर हो गया
    • long-term risk को देखने वाले enterprise customers के लिए यह अहम है कि Microsoft अब पूरा stack अपने पास रखता है
  • Google को शायद बड़े बदलाव की ज़रूरत पड़े
    • उसका latest model Gemini delayed है
    • Cloud business उस समय धीमा पड़ रहा है जब खर्च AI की ओर जा रहा है
    • यह Google की उम्मीद के उलट नतीजा है
  • एक स्वतंत्र कंपनी के रूप में Anthropic की स्थिति और अस्थिर दिखती है
    • उसने Google और Amazon के साथ partnerships की हैं
    • लेकिन उसे ऐसे Microsoft से मुकाबला करना है जिसके पास लगभग असीमित funding और GPUs तक पहुंच है
    • B Corp, non-profit की तुलना में कहीं अधिक आसानी से अधिग्रहित की जा सकती है
  • निकट और मध्यम अवधि में यह दृष्टिकोण मज़बूत हुआ कि AI disruptive innovation से ज़्यादा sustaining innovation जैसा है
    • ऊँची लागत के कारण सबसे बड़ी कंपनियों को ही मुख्य लाभ और deployment का अवसर मिलने की संभावना है
    • channels और customer acquisition की समस्या जोड़ दें तो बड़ी कंपनियों का फायदा और बढ़ जाता है
    • ChatGPT की बदौलत OpenAI के Big Five जैसी श्रेणी में शामिल होने की संभावना थी, लेकिन अब वह संभावना कमज़ोर पड़ती दिखती है
  • Nadella की insight यह है कि बड़ी कंपनियाँ startup की तरह खुद आविष्कार करके नहीं, बल्कि अपने scale का उपयोग कर acquisition करने या तेज़ी से catch up करने के जरिए जीतती हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-21
Hacker News की राय

  • यकीन नहीं होता कि लोग इस कदम का समर्थन कर रहे हैं
    Tigris तो शुरू होते ही खत्म हो गया. एक वजह यह भी है कि इससे MSFT बोर्ड नाराज़ हो सकता है, लेकिन बड़ी वजह यह है कि अगर Sam MSFT executive हैं तो SEC द्वारा उन्हें गिरफ्तार किए जाने की संभावना बड़ी है. ज़्यादा से ज़्यादा वे passive investor हो सकते हैं, बस इतना ही
    क्या सच में लगता है कि OpenAI कर्मचारी अपनी equity छोड़कर Microsoft में level के हिसाब से मिलने वाला सामान्य stock compensation, 1% salary hike, कुछ साल तक bonus नहीं, और board द्वारा थोपी गई headcount reduction स्वीकार कर लेंगे
    Sam तो board के सामने और भी कमज़ोर होंगे, और 3 trillion dollar company का board OpenAI board की तुलना में कहीं ज़्यादा risk-averse होगा
    कल online इस fanfic की भरमार थी कि Satya ने board पर चाल चलकर उसे मजबूर कर दिया, लेकिन शुरुआत से ही बात ऐसी नहीं थी. पैसे का सही इस्तेमाल सुनिश्चित करने का अधिकार हासिल करने के नज़रिए से देखें तो उन्होंने Silicon Valley के इतिहास के सबसे खराब investments में से एक किया. 10 billion dollars लगाने के बाद भी voting rights 0, vote बदलने की कोई ताकत नहीं

    • weekend के दौरान भारी value destruction होते देखा. OpenAI कर्मचारियों को पता है कि उनके पास जो था और जो वादा किया गया था, वह सब उड़ गया है
      उनका सबसे अच्छा विकल्प यह है कि Sam उन्हें Microsoft के अंदर की नई company में ले जाएं. उन्हें पहले जैसे या बेहतर terms मिलेंगे, और शायद 6 महीनों के भीतर वे वह बना देंगे जो अभी OAI के पास है, और वह भी कुछ ऐसा जिसने Ilya को coup करने के लिए डराया था
      यह Satya का शानदार power move था. इस तरह के talent drain के बाद OpenAI के लिए कोई उम्मीद बची है, ऐसा नहीं लगता
    • Satya के tweet को देखें तो लगता है कि Sam का नया division/subsidiary LinkedIn या GitHub की तरह चलेगा, और OpenAI ने काफी साफ कह दिया है कि उसे पैसे कमाना पसंद नहीं है, इसलिए compensation issue नहीं होना चाहिए
      अभी अगर Sam products बनाना और पैसा कमाना चाहते हैं और Microsoft भी यही चाहता है, तो board पर authority बहुत मायने नहीं रखती. Microsoft के पास ज़रूरी intellectual property भी सब है. अभी OpenAI को control करने वाले लोग कौन हैं, यह देखें तो यह equity से बेहतर deal है. वे सक्रिय रूप से profit पर focus नहीं कर रहे हैं
      यह AI या मानवता के लिए अच्छा नतीजा है या नहीं, इससे अलग, Microsoft ने निश्चित रूप से जीत हासिल की. ऊपर से, OpenAI से जितने ज़्यादा लोग वह ले आएगा, OpenAI से उलझने की ज़रूरत उतनी कम होगी और सब कुछ internal हो जाएगा
      Edit: हे भगवान, Sam को बाहर करने वाले व्यक्ति तक ने announce कर दिया कि अगर Sam वापस नहीं आते तो वह resign करना चाहता है—यह आखिर हो क्या रहा है
    • OAI कर्मचारियों के पास equity नहीं है. उनके पास बस profit participation rights हैं. board को साफ तौर पर profit में रुचि नहीं है
      MS हर मामले में risk-averse है, एक चीज़ को छोड़कर. वह एक चीज़ है Google को उड़ा देना. उसके लिए वह दुनिया में आग लगा देगा
    • OAI की किस equity की बात कर रहे हैं? profit sharing के लिए equity? जिसे profit sharing stake में interest था, वह board ने जो किया उससे काफी नाराज़ होगा
      investors को Satya का OAI investment पसंद आया था, इसलिए समझ नहीं आता कि इसे Silicon Valley के इतिहास के सबसे खराब investments में से एक कैसे कहा जा सकता है
      MSFT और OpenAI की risk concerns की तुलना कैसे कर सकते हैं? OpenAI को लेकर impression यह है कि risk concerns खासकर profit-seeking से जुड़ी हैं. business perspective से large language models में लागत घटाने और profits को कई गुना बढ़ाने की क्षमता है
    • “Sam तो board के सामने और भी कमज़ोर होंगे, और 3 trillion dollar company का board OpenAI board की तुलना में कहीं ज़्यादा risk-averse होगा” — मुझे तो यही जीत की बात लगती है
      Newcomer की Altman को लेकर चिंताएं valid हैं [1]. OpenAI CEO के रूप में बनाई गई reputation और उनके crypto startup में दिखी reckless lawlessness को साथ समझना मुश्किल है
      Microsoft बड़े खेल में negotiation करना जानता है. वह मजबूत व्यक्तित्व वाले लोगों को constrain करना भी जानता है
      [1] https://www.newcomer.co/p/give-openais-board-some-time-the

  • OpenAI छोड़ने की योजना बना रहे कर्मचारियों के लिए एक tip: अभी शायद अपनी company शुरू करने के सबसे अच्छे मौकों में से एक है
    अगर किसी नए startup में शामिल हों, तो founder status ज़रूर हासिल करें और अच्छी-खासी equity लें. अगले कुछ महीनों में investors बेतुकी valuations पर पैसा देने के लिए आपके दरवाज़े पर लाइन लगाएंगे, तो उसे लीजिए और वह काम कीजिए जो आप हमेशा करना चाहते थे. असफल होने पर भी बड़ी companies आपको acquire करने के लिए इतनी रकम देंगी, जितनी वे आम salary के रूप में कभी नहीं दे पातीं

  • लेख का विश्लेषण कुल मिलाकर बहुत अच्छा है, लेकिन इस observation से असहमत हूं
    The biggest loss of all, though, is a necessary one: the myth that anything but a for-profit corporation is the right way to organize a company.
    इस वीकेंड जो हुआ, उससे यह निष्कर्ष कैसे निकलता है, समझ नहीं आता। बेशक, बोर्ड की कार्रवाई की वजह से OpenAI की revenue और consumer traction काफी छोटी रह जाने की संभावना ज्यादा दिखती है। लेकिन OpenAI को non-profit बनाने की वजह ही यही थी कि ऐसे लक्ष्य कंपनी पर हावी न हो जाएं
    जो निष्कर्ष वैध रूप से निकाला जा सकता है, वह कुछ ऐसा है: “for-profit company को organize करने के लिए for-profit corporation के अलावा कोई और तरीका सही है—यह मिथक”, लेकिन यह तो बहुत obvious है

    • इसका मतलब है कि ऐसे संगठन कभी scale नहीं कर सकते, और इसलिए वह विशाल सामाजिक प्रभाव भी नहीं बना सकते जिसकी उन्हें उम्मीद थी
      अब investors ऐसी non-profits को कभी हाथ नहीं लगाएंगे। ऐसा गैर-जिम्मेदार board, जो company के majority और investors को rebellion की तरफ धकेल सकता है, investors के लिए radioactive material जैसा है
      यह घटना साबित करती है कि shares = voting rights वाली standard corporate structure ही ultra-large organization बनाने का एकमात्र तरीका है
      OpenAI अपने goals बनाए रखेगी, लेकिन कुछ हासिल नहीं कर पाएगी। आखिर में इसके niche research lab में degrade होने की संभावना बड़ी है, जिसके पास meaningful काम करने के resources भी नहीं होंगे और GPUs भी नहीं
    • आज के business/legal environment में for-profit और non-profit का फर्क धीरे-धीरे बेअर्थ होता जा रहा है। सबसे बढ़कर, यह marketing device जैसा लगता है
      उदाहरण के लिए, एक हाथ से “socially responsible, good” non-profit बनाई जा सकती है, और दूसरे हाथ से for-profit corporation बनाकर उस for-profit को non-profit का sole supplier बनाया जा सकता है, ताकि non-profit में आया सारा पैसा वहां बह जाए। तब काफी taxes avoid करते हुए मजबूत profit बनाया जा सकता है। ऐसी structures अनगिनत हैं, और खोजें तो सैकड़ों examples मिल जाएंगे
      large language models का असली मुद्दा open source बनाम proprietary है
    • इस non-profit structure में 4 लोग अपनी मर्जी से कुछ भी decide कर सकते हैं, बिना किसी परिणाम की जिम्मेदारी लिए, और सैकड़ों jobs को risk में डाल सकते हैं, हजारों companies का future दांव पर लगा सकते हैं, और उस service पर निर्भर लाखों लोगों को हिला सकते हैं
      वजह DevDay announcement पर मतभेद था, क्या?
      समझ नहीं आता कि इतने लोग क्यों सोचते हैं कि board यहां altruistic है। ऐसी unchecked power पागलपन की हद तक लगती है
    • अगर Altman वापस जाते हैं तो शायद वे उस model को बचा सकें जिसे बनाने में उन्होंने योगदान दिया था। CEO को हटाने जैसे फैसलों को verify करने का कोई mechanism जरूरी रहा होगा
      यह drama और तेज इसलिए हुआ, क्योंकि अब भी किसी को ठीक से पता नहीं कि ऐसा फैसला क्यों लिया गया। अगर यह non-profit है, तो ऐसे decisions में एक स्तर की transparency मांगना बहुत reasonable लगता है
    • लगता है उन्हें अतिरिक्त investment की जरूरत है, लेकिन उनके goals संभावित investors की majority से मेल नहीं खाते
      अगर goal सच में AI का “safe” development है, तो इस weekend की actions दूसरी तरह से justified भी हों, तब भी अब वे उस goal को pursue करने के लिए objectively कमजोर position में हैं

  • शीर्षक को “OpenAI की गलती और Microsoft का शानदार damage control” में बदलना चाहूंगा
    मुझे नहीं लगता कि Microsoft जरूरी तौर पर Thursday से बेहतर position में है। score गिनें तो:

    • पूरे AI stack पर control बढ़ा
    • वस्तुतः पहले वाला OpenAI, लेकिन अब OpenAI 2.0, own करने लगा
    • OpenAI 2.0 शायद coup से पहले अच्छी तरह चल रहे OpenAI 1.0 से खराब business होगा
    • OpenAI 2.0 का operational control लंबे समय में बेहतर execution दे सकता है
    • wage costs में बढ़ोतरी
    • OpenAI के business disruption से project delays
    • OpenAI talent के Google, Meta, Anthropic, Amazon, Apple जैसे competitors के पास चले जाने की संभावना
    • बचे हुए OpenAI 1.0 के उन competitors में से किसी एक को बिक जाने का risk
    • OpenAI 1.0 के सचमुच open source में बदलकर GPT-4 weights release करने का risk
    • अगर GPT-4 weights, RLHF software और logs, data sources तक सब सचमुच release हो जाएं, तो यह बहुत बड़ी बात होगी
    • “बचे हुए OpenAI 1.0 के उन competitors में से किसी एक को बिक जाने का risk” कहते हैं, लेकिन commercially exploit करने की position में और कौन-सी company है?
      बताया जाता है कि Microsoft तक demand पूरी करने के लिए Oracle से GPUs rent कर रहा है। यह शैतान से सौदा है
      potential compute capacity और business sense दोनों के साथ attack कर सकने वाली सिर्फ Amazon है, लेकिन उसका अपना business पहले से है। Google भी संभव है, लेकिन वह non-Google model इस्तेमाल करने से reputation को लगने वाले नुकसान को willingly झेलेगा या नहीं, पता नहीं
    • काफी अच्छी list लगती है, लेकिन बहुत कुछ इस पर निर्भर करता है कि हर item को कितना weight देते हैं, और Microsoft के formal control के बिना OpenAI से strategically tied रहने वाली पुरानी स्थिति में negative factors पहले से कितने priced in थे
    • अच्छा होगा अगर OpenAI 1.0 Netscape बन जाए

  • “आखिरकार Sunday देर रात, Satya Nadella ने tweet करके announce किया कि Altman और Brockman ‘colleagues के साथ’ Microsoft join करेंगे”
    जैसा expected था, EEE पूरा हो गया। यह पुराने Microsoft का जादू है। अब career शुरू कर रहे young people इस पर ध्यान दें, यही उम्मीद है। Gates जो स्वर्ग का ticket खरीदने के लिए इतना पैसा बांटते हैं, वह भी उसी tactic से आया है

    • सहमत नहीं हूं। Satya का Microsoft Embrace-Extend-Share के ज्यादा करीब है। BillG का “एक company सब पर राज करे” नहीं, बल्कि पुराने conglomerates की तरह operate कर रहा है
      मेरे हिसाब से नया Microsoft platforms का platform है। profits Windows, Azure जैसे lower platforms में flow करते हैं, लेकिन Office, Xbox, LinkedIn जैसी सभी layers में बनते हैं, और कुछ layers में employees/partners के साथ भी share होते हैं
      Satya ने दरअसल Bezos की insight—scale का इस्तेमाल करके ऐसा platform बनाओ जिसे बाहर भी बेचो—को उलट दिया है। जितने ज्यादा platforms हो सकें, उनका इस्तेमाल करके scale बनाना और बनाए रखना। यह नया नहीं है; 100 साल पहले के conglomerates भी यही करते। बस वह Amazon या Google से कम rules तोड़ते हुए इसे systematically कर रहे हैं। सच में respect करता हूं
    • board पर blame जाना justified है, लेकिन Altman और Brockman ने भी अविश्वसनीय स्तर पर independence खो दी है
      इसे उनके लिए victory या अच्छी damage control story की तरह depict किया जाना दुखद स्थिति है। फिर सब लोग सारी समस्याओं का दोष board पर डालते हैं, लेकिन यहां तक पहुंचने में सबके हाथ मैले हैं। पूरा mess है
    • इसका EEE से आखिर क्या लेना-देना है? OpenAI board ने खुद अपने साथ यह किया
    • जिन्हें नहीं पता, उनके लिए विस्तार से: Embrace, Enhance, Extinguish

  • यह OpenAI का नुकसान और Microsoft का फायदा हो सकता है, लेकिन AI को किसी भी तरह का समर्थन मानवता के लिए त्रासदी है
    हर चीज़ तभी अच्छी होती है जब वह संतुलन में हो, और AI के ज़रिए हम efficiency को उस अच्छे बिंदु से बहुत आगे धकेल रहे हैं। AI न केवल illustrator जैसे creators की नौकरियाँ छीन सकता है और पहचान की चोरी में इस्तेमाल हो सकता है, बल्कि यह लोगों के एक-दूसरे पर निर्भर रहने वाले रिश्तों को भी खत्म कर रहा है
    समाज इसलिए टिकता है क्योंकि लोगों को एक-दूसरे की ज़रूरत होती है। लोग इसलिए मिलते हैं क्योंकि उन्हें एक-दूसरे की ज़रूरत होती है, और यही स्थानीय communities को मजबूत बनाता है। AI यह सब छीनकर हमें ऐसी स्थिति में ला रहा है जहाँ हमें सिर्फ Microsoft, Google जैसी Big Tech और बेजान संगठनों की ज़रूरत रह जाएगी
    यह सामंतवाद की ओर गिरावट है। हर कोई बुनियादी जीवन-ज़रूरतों के लिए Big Tech को भुगतान करेगा। शुरुआत में यह एक विकल्प होगा, बाद में smartphone की तरह अनिवार्य बन जाएगा
    Big Tech से स्वतंत्र रहना चाहने वाले पुरुषों और महिलाओं के लिए अब यह लगातार कठिन होता जाएगा, और इन कंपनियों के अनैतिक व्यवहारों के ज़रिए हम इंसान होने का अर्थ समझने की अपनी संवेदना खोते जा रहे हैं

    • बिल्कुल सहमत नहीं। जैसे-जैसे technology शून्य से अधिक संपत्ति पैदा करती है, हम सब बेहतर जीते हैं और हमारे आपसी रिश्ते भी बेहतर होते हैं। कमी संघर्ष और पीड़ा पैदा करती है, और समृद्धि दुश्मनों को भी अच्छे पड़ोसी बना देती है
      आधुनिक सुविधाओं का अधिकार पाने के लिए अगर बड़ी कंपनियों को पैसे देने पड़ें तो मुझे आपत्ति नहीं। बशर्ते वह सुविधा लगातार अधिक लोगों तक पहुँचे। अगर कोई फिर कभी भूख से न मरे, तो Monsanto मेरा सारा पैसा ले ले। अगर मुझे फिर कभी repetitive काम न करना पड़े, तो Microsoft मेरा सारा data ले ले
    • मज़ेदार है कि कुछ साल पहले तक यह विचार था कि automation/AI truck drivers, factory workers और blue-collar jobs को replace करेगा, जबकि developers, lawyers और knowledge workers सुरक्षित रहेंगे
      blue-collar jobs को replace करने वाला आखिरी चरण information workers को AI से replace करने की तुलना में ज्यादा महँगा और ज्यादा कठिन, या शायद असंभव भी लगता है
    • सही। AI जैसी विशाल तकनीकी छलांग से तेज़ हो रही जिस दुनिया की ओर हम बढ़ रहे हैं, वह अफसोसजनक, दयनीय और बेरहम होगी; वह पीड़ा को बढ़ाएगी और इंसानियत को निरर्थक कर देगी
      आतंकवादी हमले का शिकार होते बच्चे की image असली है या नकली? पीड़ित के लिए असली है, राजनीतिक सत्ता के लिए नकली है, और बड़ी कंपनियों के लिए पैसा है
    • यह निराशावाद सच भी हो सकता है, लेकिन मैं फिर भी आशावाद की तरफ ही खड़ा रहता हूँ
      AI tools repetitive काम घटाते और creativity के लिए अधिक समय देते लगते हैं
      अगर यह प्रवाह जारी रहा, तो creativity अनिवार्य रूप से अधिक collaboration पैदा करेगी। क्योंकि creativity अलग-थलग डिब्बों में ही फल-फूल नहीं सकती
    • सचमुच जिज्ञासा है
      low-quality games industry और Instagram ad scam industry को छोड़ दें, तो AI वास्तव में अभी किन जगहों पर मौजूदा jobs छीनने की धमकी दे रहा है

  • जिसने भी nonprofit में काम किया है, वह कभी-कभी ऐसे board को पहचान सकता है जो अधिक आसानी से समझ आने वाले profit motive से हटकर स्वतंत्र रूप से चलता है
    अब शायद बस यह देखना बाकी है कि इतिहास के सही पक्ष में कौन खड़ा है। यहाँ असली हारने वाला शायद ethical AI है। यहाँ यह अलोकप्रिय विचार होगा, लेकिन computing और AI में हम industrial revolution की गूँज के बीच लगते हैं। जैसे 19वीं सदी के profit motive ने child labor और असुरक्षित, अमानवीय कामकाजी हालात जैसी गहरी मानवीय अन्याय स्थितियाँ पैदा की थीं
    बेशक AI, social media की तरह, सकारात्मक और नकारात्मक दोनों तरफ कहीं अधिक बड़ा प्रभाव डाल सकता है

    • अगर आपको लगता है कि child labor या असुरक्षित और अमानवीय कामकाजी हालात industrial revolution के साथ शुरू हुए, तो आपके history teachers बुरी तरह असफल रहे
      ये चीज़ें industrialization से बहुत पहले से मौजूद थीं। मानव इतिहास के अधिकांश हिस्से में शिक्षा दरअसल child labor ही थी

  • “सबसे बड़ा नुकसान, लेकिन एक जरूरी नुकसान भी, यह मिथक है कि profit corporation के अलावा company को organize करने का कोई सही तरीका नहीं है” — सच में?
    https://en.wikipedia.org/wiki/Robert_Bosch_Stiftung
    https://en.wikipedia.org/wiki/Tata_Sons
    इसके बजाय अधिक विश्वसनीय सीख यह लगती है कि Altman ने OpenAI को ऐसी स्थिति में धकेल दिया जो nonprofit उद्देश्य के साथ असंगत थी

    • Bosch वाला उदाहरण ठीक नहीं बैठता
      “charitable foundation funding के लिए भारी बहुमत shares रखता है, लेकिन उसके पास voting rights नहीं हैं और वह Bosch के business से असंबंधित health और social उद्देश्यों में शामिल है” — इसकी संरचना ऐसी है
      Ikea के ownership structure का उदाहरण भी है, लेकिन वह बस एक विशाल tax avoidance structure है

  • “आप Sutskever/Shear खेमे से सहमत हों या नहीं, board का charter और responsibility पैसा कमाना नहीं है। यह shareholders के प्रति fiduciary duty वाला profit corporation नहीं है, और जिस हद तक board मानता है कि Altman और उसका खेमा ‘मानवता को लाभ पहुँचाने वाली artificial general intelligence बना’ नहीं रहे, उसे हटाने का अधिकार उनके पास है। वे ऐसा मानते थे, इसलिए उन्होंने ऐसा किया”
    इस हिस्से पर मुझे थोड़ी असहमति है। हटाने का अधिकार तो है, लेकिन अगर वे इसे इस तरह करते हैं कि सबसे बड़ी asset, यानी profit arm, की value ध्वस्त हो जाए, तो यह कहना कठिन है कि वे nonprofit के हित में अच्छा काम कर रहे हैं। खासकर अगर negotiated exit या investors को उचित advance warning देने जैसे दूसरे विकल्प संभावित रूप से मौजूद थे

  • मैंने Microsoft द्वारा acquire किए गए startup में काम किया है, और संक्षेप में कहूँ तो MS culture को मारने वाली company है। हमारी खुली गतिशीलता और मुक्त चर्चा MS-style management के कंबल के नीचे मुरझा गई
    मुझे नहीं लगता कि OpenAI और MS की cultures को compatible बनाया जा सकता है। MS नीरस है। productization में बहुत प्रभावी है। लेकिन गहरी innovation को आगे बढ़ाने वाली culture लंबे समय तक नहीं टिकेगी

    • क्या वह Nadella के दौर में था?
      मेरी जानकारी में चीज़ें काफी बदल चुकी हैं