क्या Ilya Sutskever Altman को हटाए जाने के “केंद्र” में थे?

 (twitter.com/karaswisher)
1 पॉइंट द्वारा GN⁺ 2023-11-19 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • सूत्रों के हवाले से जानकारी सामने आई है कि OpenAI की आंतरिक उथल-पुथल में chief scientist Ilya Sutskever मुख्य व्यक्ति थे
  • टकराव की धुरी Sam Altman·Greg Brockman और Sutskever के बीच भूमिका और प्रभाव के मुद्दों पर थी, और कहा गया कि बोर्ड Sutskever के पक्ष में खड़ा हुआ
  • Developer Day और स्टोर शुरू करने के तरीके को उस मोड़ के रूप में बताया गया, जब यह धारणा बनी कि Altman चीज़ों को बहुत तेज़ी से और बहुत आगे तक धकेल रहे थे
  • यह जानकारी Kara Swisher की सूत्रों के हवाले से लिखी गई एक छोटी पोस्ट पर आधारित है, और इसमें ठोस आंतरिक प्रक्रियाओं या बोर्ड के निर्णय लेने की प्रक्रिया का विवरण शामिल नहीं है
  • Swisher ने अपनी निजी राय के तौर पर यह भी जोड़ा कि Altman सोमवार तक नई कंपनी बना सकते हैं

Sutskever के इर्द-गिर्द आंतरिक टकराव

  • OpenAI chief scientist Ilya Sutskever इस घटना के केंद्र में थे, ऐसी जानकारी सूत्रों के हवाले से सामने आई
  • बताया गया कि Sutskever और Sam Altman, Greg Brockman के बीच भूमिकाओं और प्रभाव को लेकर टकराव बढ़ा
  • इसमें यह बात भी शामिल है कि इस प्रक्रिया में Sutskever ने बोर्ड को अपने पक्ष में कर लिया

Developer Day के बाद दबाव

  • Developer Day और स्टोर शुरू करने के तरीके को उस वजह के रूप में बताया गया जिसके चलते माना गया कि Altman ने “बहुत आगे, बहुत तेज़” धक्का दिया
  • Kara Swisher ने अपनी निजी राय के तौर पर माना कि Altman सोमवार तक नई कंपनी बना लेंगे

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-19
Hacker News की राय

  • मेरी पसंदीदा परिकल्पना एक पुरानी कहानी जैसी है। Sam Altman, Icarus की तरह Microsoft की विशाल पैसे की धारा के बहुत करीब उड़ गए, और कंपनी के founding mission से दिशा बदलकर उस जिन्न को छोड़ दिया जिसे वे मूल रूप से संभालना चाहते थे।
    लगता है OpenAI के अंदर ऐसे लोग सचमुच मौजूद थे जो मूल vision पर ईमानदारी से विश्वास करते थे।

    • या फिर वजह यह भी हो सकती है कि Altman, Nvidia से मुकाबला करने वाले AI chip startup के लिए funding जुटाने की कोशिश कर रहे थे, या Jony Ive के साथ AI-oriented hardware बनाने वाली नई कंपनी में SoftBank से अरबों डॉलर का investment लाना चाहते थे।
      उनकी मौजूदा बाहरी activities में से काफी कुछ board को असहज कर सकता है, और अगर उन्होंने अपने आगे के plans ईमानदारी से share नहीं किए, तो मुझे लगता है कि हटाया जाना बनता था।
    • अगर यह सच है, तो मुझे अभी की तुलना में मानवता पर विश्वास थोड़ा और हो जाएगा।
    • मूल vision काफी स्पष्ट था, और भारी commercialization benefits होने के बावजूद रास्ते से न भटकने की यह एक मजबूत वजह थी।
      अच्छी बात है कि M$ ने board पर कब्जा नहीं किया।
    • मुझे लगता है PR moves पहले ही शुरू हो चुके हैं। OpenAI के नए personality/identity अपनाने के तरीके से regulatory capture को जायज़ ठहराया जाएगा, और मैं इस पर विश्वास नहीं करता।
      पहाड़ों को हिलाने वाली चीज़ नैतिक प्रतिष्ठा नहीं, बल्कि पैसा और profit है। ऐसी optimistic व्याख्या पर यकीन करना बिल्कुल मुश्किल है।
      अगर उन्होंने सचमुच नैतिक stance लेकर ऐसा किया होता, तो किसी और motive के बिना वे इतने लंबे समय तक चुप नहीं रहते।
    • इस नज़रिए से देखें तो VC या tech bros द्वारा इसे coup बताने के उलट, सब कुछ समझ में आता है।

  • मुझे हैरानी है कि क्या Sam को पता था कि वह इस power struggle में हारेंगे, और उन्होंने board से छिपाकर अपने loyal लोगों के साथ escape plan बनाना शुरू कर दिया था।
    हो सकता है board को यह पता चल गया हो और उन्होंने company resources से competitor बनने से रोकने के लिए उन्हें जितनी जल्दी हो सके बाहर निकाल दिया हो।

    • ऐसा हो ही नहीं सकता कि Sam के पास competitor के लिए funding जुटाने और talent खींचने वाला reputational capital न हो। Board ने एक तरह से वह फैसला उनकी जगह ले लिया।
      मैं तो बस एक साधारण व्यक्ति हूं जो invest कर सकता है, और कोई संबंध नहीं है।
      [1] https://news.ycombinator.com/item?id=35306929
    • यह hypothesis सच हो या न हो, अभी तक ज्ञात facts से काफी अच्छी तरह मेल खाती है।
    • तो क्या आखिर में CEO पर लगभग सबसे खराब आरोप लगाकर उन्हें जलाने की कोशिश की जा रही है, ताकि Sam की वह fundraising कमजोर पड़े जो स्पष्ट रूप से सफल होने वाली है?

  • sama और gdb को सिर्फ strategy difference जैसी मामूली वजह से निकालना पूरी तरह unprofessional है। इसका मतलब है sama पर गंभीर misconduct का आरोप लगा।
    OpenAI technology को commercialize करने में वे जरूरत से ज्यादा aggressive रहे हों, तब भी यह circus justify करने लायक बात नहीं है।

    • 501(c)(3) charity के charter में लिखे मूल mission का वास्तविक दुनिया में क्या मतलब है, इस पर बुनियादी सहमति न होना कोई मामूली strategy difference नहीं है।
      साथ ही, goals को लेकर factional conflict था, इसका मतलब यह नहीं कि उस context में कोई गंभीर specific act नहीं हुआ।
    • strategy difference किसी executive को fire करने की मुख्य वजह हो सकती है।
    • क्या यह ज्यादा संभव नहीं कि हमें अभी पूरी कहानी पता ही न हो?
    • यह कोई छोटी बात नहीं, बल्कि company का core mission है; यही उसके बनने की वजह है, investors के आने की वजह है, और world-class scientists के वहां काम करने की वजह है।
      शुरुआत में तो यह nonprofit ही था।

  • सोचता हूं Hinton ने अपने पुराने student Sutskever पर कितना असर डाला होगा। Sutskever शायद Hinton का लगभग किसी भी व्यक्ति से ज्यादा सम्मान करते होंगे, और Hinton की कड़ी आपत्तियों को गंभीरता से लिया होगा।
    निजी तौर पर यह अफसोसजनक है। यह trend अब पूरी तरह unavoidable लगता है, और अगर इस तरह जानबूझकर brakes लगाकर अमेरिका अपनी leading position खो देता है, तो मुझे बिल्कुल नहीं लगता कि सबसे advanced AI technology को China द्वारा control किया जाना ज्यादा सुरक्षित दुनिया होगी।

    • समझ नहीं आता कि एक company को यह तय करने वाला क्यों माना जा रहा है कि AI में अमेरिका China को हराएगा या नहीं।
      मैं जिन AI papers को पढ़ता हूं, उनके authors में करीब 75% Chinese होते हैं; अगर सच में डर है कि China आगे निकल रहा है, तो वह कहीं ज्यादा warning signal है।
    • मानवता के long-term interests के लिए यह बुरा है या अच्छा, नहीं पता, लेकिन अभी यह Klaus Fuchs moment जैसा लग रहा है।
    • मैं Hinton की बात को ज्यों का त्यों मान रहा हूं। शायद वे आधे साल नहीं, बल्कि 5 साल तक large language model technology में कुछ नहीं कर पाए, इसलिए Google से किनारे कर दिए गए।

  • कुछ हफ्ते पहले Bloomberg में Altman और OpenAI के programming side के एक व्यक्ति का साथ में interview सुना था; दोनों के बीच opinion difference साफ था और host ने तो उस पर मजाक भी किया।
    शायद Altman की किस्मत अगला SBF बनने की थी। लगता है वे public को वही बातें बताते हुए बहुत ज्यादा distort करते रहे हैं जो लोग सुनना चाहते हैं।

    • क्या उस interview को याद करके link दे सकते हो? देखना चाहता हूं।
    • किस बात पर opinion difference था?

  • Sutskever: “आप इसे तख्तापलट कह सकते हैं और मैं समझता हूँ कि आपने वह शब्द क्यों चुना, लेकिन मैं सहमत नहीं हूँ। यह Board द्वारा अपने कर्तव्य का पालन था—उस non-profit mission के लिए, जो यह सुनिश्चित करता है कि OpenAI सारी मानवता के हित में AGI बनाए।”
    Scoop: theinformation.com
    https://twitter.com/GaryMarcus/status/1725707548106580255

    • व्यावहारिक रूप से देखें तो यह बात Sutskever के लिए और खराब दिख सकती है। कोई भी पीठ में छुरा घोंपने वाले के साथ काम नहीं करना चाहता
      अगर बात बस इतनी होती कि “हमारे विचार अलग थे, इसलिए हमने अलग-अलग रास्ते चुनने का फैसला किया,” तो अलग बात थी, लेकिन Board ने दावा किया कि Altman ने झूठ बोला था। अगर हटाने की वजह रणनीतिक दिशा में अंतर निकली, तो कोई भी Sutskever के साथ फिर काम करना नहीं चाहेगा। मुझे भी नहीं लगता कि मैं कभी करूँगा
      यह ऐसे व्यक्ति के बारे में बेहद मानहानिकारक बयान है, जिसने पेशेवर मतभेद के अलावा कुछ गलत नहीं किया
    • यह असल में पुष्टि ही है, बस इसे बयान करने के लिए कौन-सा शब्द चुना जाए इस पर थोड़ी असहमति है
    • इस बात से मेल खाते कुछ अंदरूनी विवरण हैं
      https://www.reddit.com/user/Anxious_Bandicoot126/
    • ऐसे मतभेदों को संभालने का यह तरीका बेहद गैर-पेशेवर है
    • मज़ेदार बात यह है कि अब तक OpenAI ने सच में AGI बनाने की दिशा में कोई साबित करने योग्य प्रगति नहीं दिखाई है
      ChatGPT एक शानदार तकनीकी उपलब्धि है और कई मायनों में उपयोगी है, लेकिन इस बात का कोई सबूत नहीं कि इसी approach को scale करने से AGI मिल जाएगा। शायद कुछ और बड़े breakthroughs की ज़रूरत होगी

  • शायद ऐसी भावना व्यक्त करने के लिए यह सही जगह नहीं है, लेकिन यह हैरानी की बात है कि सिद्धांतों वाला एक उत्कृष्ट वैज्ञानिक कम-से-कम अभी के लिए अपनी रचना को किसी और के कब्ज़े में जाने से रोक पाया
    No Priors में Sutskever का interview सुनें तो उसके और Altman के बीच का अंतर इससे अधिक स्पष्ट नहीं हो सकता, और पहले वाले का बाद वाले पर जीतना काफी दुर्लभ होता है

  • George Senior की आवाज़ में कहें तो: इसलिए दुनिया के लिए महत्वपूर्ण काम non-profit के रूप में नहीं करने चाहिए। non-profit में politics हमेशा असली value को हरा देती है

    • यह इस पर निर्भर करता है कि आप असली value किसे मानते हैं
      अगर असली value का मतलब monetary value है, तो शायद सही हो। लेकिन अगर असली value scientific value या social value है, तो वह ज़रूरी नहीं कि financial gain की चाह से मेल खाए
      संदर्भ के लिए, मैं फिलहाल एक non-profit research institute में काम करता हूँ और shareholders को और अमीर बनाने में मेरी बिल्कुल रुचि नहीं है। अगर अफवाहें सच हैं, तो OpenAI का non-profit values की ओर लौटना और अपने नाम में मौजूद Open को याद रखना एक अच्छा बदलाव है

  • Ilya Sutskever किस तरह का व्यक्ति है और क्या सोचता है, इसका मुझे ज़्यादा अंदाज़ा नहीं था, इसलिए मैंने हाल के interviews खोजे। 2 हफ्ते पहले No Priors podcast में उसका interview है
    https://www.youtube.com/watch?v=Ft0gTO2K85A
    कम-से-कम मुझे तो आज की हलचल के बारे में कोई स्पष्ट सुराग नहीं मिला, लेकिन फिर भी सुनने लायक दिलचस्प था

    • इस interview से लगता है कि ज़्यादा openness की उम्मीद करना मुश्किल है। Ilya शायद model को open source करने के खिलाफ है, क्योंकि models बहुत शक्तिशाली हो सकते हैं
      शुक्र है कि किसी ने उससे पहिया invent करने को नहीं कहा। आखिर लोग अपनी safety को नुकसान पहुँचाने जितनी तेज़ी से चल भी सकते हैं

  • यह hypothesis इतनी जल्दबाज़ी और बिना सोचे-समझे की गई लगती है कि इस पर यकीन करना मुश्किल है। Sam Altman गैर-जिम्मेदार रहा होगा और risks लिए होंगे, लेकिन उनके पास अविश्वसनीय रूप से अच्छी स्थिति थी
    मैं यह नहीं कह रहा कि अच्छे दिन Sam Altman की वजह से थे, लेकिन group के सबसे prominent लोगों में से एक को अचानक निकाल देना, individual loyalties कहाँ हैं यह उजागर कर देना, और बिना किसी warning के Microsoft के stock price को हिलाकर उसे नाराज़ कर देना—इन सब से वह अच्छी स्थिति खत्म होने की संभावना बहुत बढ़ जाती है
    यह सब enormous capital और world-class talent के बिना संभव नहीं था, और शायद उन्होंने दोनों को हासिल करना कहीं ज़्यादा मुश्किल बना दिया
    लेकिन मुझे क्या पता? अगर आप खुद को यह समझा सकते हैं कि absurdly बड़े large language models बनाते हुए आप सच में AGI बना रहे हैं, तो आप खुद को और भी बहुत-से बेवकूफाना ideas पर यकीन दिला सकते हैं

    • समझदार लोग भी कभी-कभी बेवकूफाना फैसले लेते हैं। बात सच में इतनी ही सरल है
      एक युवा आदमी है जो अचानक बेहद अमीर हो गया, शायद power भी मिल गई, और national TV पर धरती की सबसे ताकतवर सरकार से बात कर रहा है। क्या यह चौंकाने वाली बात है कि ऐसा व्यक्ति थोड़ा घमंडी हो जाए, अपना काम क्या है यह भूल जाए, और यह सोचने लगे कि OpenAI वहाँ काम करने वाले सभी लोग नहीं बल्कि वह खुद है? फिर उसे reality कठिन तरीके से सीखनी पड़ती है
      इसमें चौंकने वाली क्या बात है? यह बहुत ही आम मानवीय बात है, बिल्कुल भी हैरान करने वाली नहीं, और हमेशा होती रहती है
      यहाँ कई लोगों को यह idea स्वीकार करने में मुश्किल होती है कि बुद्धिमान व्यक्ति मूल रूप से कोई खास अलग चीज़ नहीं होता, और बुद्धिमान होने से गलतियाँ करने या बुरा व्यवहार करने की संभावना जादुई रूप से खत्म नहीं हो जाती
    • पंक्तियों के बीच पढ़ें तो संभव है कि Sam इस “अविश्वसनीय रूप से अच्छी स्थिति” को बहुत पैसा कमाने की दिशा में ले जा रहा था, और non-profit Board ने दूसरे goals को अधिक प्राथमिकता दी
    • अगर ऐसा दिखे कि Board ने CEO की बहुत तेज़ी से आगे बढ़कर बहुत कुछ तोड़ डालने की इच्छा के बजाय कर्मचारियों का पक्ष लिया, तो यह world-class talent आकर्षित करने में उल्टा मदद भी कर सकता है
      यह महसूस करना ज़्यादा आकर्षक होगा कि CEO Cybernet को कल deploy करने पर तुला नहीं है और उसे अगले हफ्ते तक टाल रहा है, इसलिए आप रात को घर जा सकते हैं
    • सच कहूँ तो यह ऐसा पढ़ता है जैसे Ilya खुद को Tony Stark समझता है और अभी भी प्रभावशाली language model को Iron Man suit जैसी चीज़ समझने की भूल कर रहा है
      यह अज्ञानता के करीब वाला घमंड है, और reality इतनी romantic नहीं होती
      बस उम्मीद है कि यह OpenAI को multimodal models का gatekeeper बनने की दिशा में न ले जाए, या उल्टा बाकी सभी OpenAI को धूल की तरह पीछे छोड़ने की दिशा में न चले जाएँ
    • Microsoft का stock price कब crash हुआ?
      https://finance.yahoo.com/quote/MSFT/