पूर्व OpenAI बोर्ड सदस्य ने Sam Altman को अस्थायी रूप से हटाए जाने की वजह बताई

 (businessinsider.com)
1 पॉइंट द्वारा GN⁺ 2024-05-29 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • पूर्व OpenAI बोर्ड सदस्य Helen Toner का दावा है कि Sam Altman ने बोर्ड से कई बार झूठ बोला, और भरोसे में आई इसी टूटन ने नवंबर 2023 में उनके अस्थायी निष्कासन तक बात पहुंचाई
  • Toner के अनुसार, बोर्ड को ChatGPT के लॉन्च के बारे में Twitter से पता चला, और Altman ने वर्षों तक कंपनी की आंतरिक स्थिति छिपाई या गलत तरीके से पेश की
  • Altman द्वारा OpenAI startup fund के मालिकाना हक की जानकारी न देना एक अहम उदाहरण के रूप में पेश किया गया, जो उनके उस दावे से टकराता था कि वे स्वतंत्र बोर्ड सदस्य हैं
  • Toner का मानना है कि Altman ने OpenAI की आधिकारिक safety processes की संख्या को लेकर भी गलत जानकारी दी, जिससे बोर्ड के लिए safety measures की पर्याप्तता का आकलन करना मुश्किल हो गया
  • बोर्ड ने अक्टूबर 2023 से ही उन्हें हटाने पर गंभीरता से चर्चा शुरू कर दी थी, लेकिन कर्मचारियों के छोड़कर जाने की धमकियों और Microsoft द्वारा Altman की टीम को भर्ती किए जाने की संभावना उठने के बाद, एक हफ्ते से भी कम समय में उन्हें CEO पद पर वापस ला दिया गया

Helen Toner ने हटाए जाने की पृष्ठभूमि बताई

  • पूर्व OpenAI बोर्ड सदस्य Helen Toner ने Bilawal Sidhu के “The TED AI Show” इंटरव्यू में Sam Altman को नवंबर 2023 में अस्थायी रूप से हटाए जाने की पृष्ठभूमि का खुलासा किया
  • Toner के मुताबिक, Altman ने बोर्ड से “कई बार” झूठ बोला, और बोर्ड को ChatGPT के लॉन्च की जानकारी भी Twitter के जरिए मिली
  • बताया जाता है कि Altman ने वर्षों तक जानकारी छिपाई और कंपनी में हो रही चीजों को गलत तरीके से पेश किया
  • साथ ही, उन्होंने बोर्ड को यह नहीं बताया कि OpenAI startup fund पर उनका मालिकाना हक है, जबकि वे लगातार खुद को कंपनी में कोई वित्तीय हित न रखने वाला स्वतंत्र बोर्ड सदस्य बताते रहे
  • इस घटना ने Altman पर बोर्ड के भरोसे को गंभीर रूप से नुकसान पहुंचाया, और अक्टूबर 2023 तक उन्हें हटाने की जरूरत पर पहले ही काफी गंभीर चर्चा हो रही थी
  • Business Insider की टिप्पणी के अनुरोध पर OpenAI ने तुरंत जवाब नहीं दिया

Safety processes और नेतृत्व पर भरोसे का मुद्दा

  • बताया जाता है कि Altman ने OpenAI में मौजूद कुछ आधिकारिक safety processes को लेकर भी बोर्ड को गलत जानकारी दी
    • इसकी वजह से बोर्ड के लिए यह समझना लगभग असंभव हो गया कि safety measures पर्याप्त हैं या उनमें बदलाव की जरूरत है
  • Toner का कहना है कि और भी अलग-अलग मामले थे, लेकिन अंततः बोर्ड ऐसी स्थिति में पहुंच गया जहां वह Altman की बातों पर भरोसा नहीं कर सकता था
  • यह भी रेखांकित किया गया कि बोर्ड की भूमिका OpenAI पर स्वतंत्र निगरानी रखना थी, न कि केवल CEO को अधिक पूंजी जुटाने में मदद करना
  • अक्टूबर 2023 में, दो executives ने बोर्ड से कई बार बातचीत करके Altman के साथ अपने अनुभव बताए और “psychological abuse” शब्द का इस्तेमाल किया
    • इन executives ने निष्कर्ष निकाला कि Altman कंपनी को AGI तक ले जाने के लिए सही व्यक्ति नहीं हैं
    • उन्होंने यह भी कहा कि उन्हें भरोसा नहीं है कि Altman बदल सकते हैं या बदलेंगे, और उन्हें feedback देने या समस्याएं साथ मिलकर सुलझाने की कोशिश करने का कोई फायदा नहीं है
  • Toner के अनुसार, जब बोर्ड को Altman को बदलने की जरूरत का एहसास हुआ, तो यह साफ था कि अगर Altman को इसका पता चला तो वे बोर्ड की पहल रोकने के लिए “हर संभव तरीका अपनाएंगे”
    • Toner के मुताबिक, Altman ने Toner को बोर्ड से बाहर करवाने के लिए अन्य बोर्ड सदस्यों से झूठ बोलना शुरू कर दिया
    • बोर्ड ने legal team के अलावा पहले से लगभग किसी को भी जानकारी न देते हुए 17 नवंबर 2023 तक प्रक्रिया आगे बढ़ाई
  • Altman की बर्खास्तगी ज्यादा देर नहीं चली, और कर्मचारियों द्वारा इस्तीफे की धमकियों तथा Microsoft द्वारा Altman की टीम को OpenAI से निकालकर सीधे नौकरी पर रखने की अटकलों के बाद, बोर्ड ने एक हफ्ते से भी कम समय में उन्हें CEO पद पर बहाल कर दिया
  • Toner ने Altman के CEO पद पर लौटने के दो हफ्ते से भी कम समय बाद OpenAI बोर्ड से इस्तीफा दे दिया

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-29
Hacker News की राय

  • https://archive.is/LpDuJ

  • यह पूरी घटना नाममात्र के अधिकार और वास्तविक शक्ति का एक दिलचस्प case study है
    कागजों पर बोर्ड के पास अधिकार होता है, वह management की निगरानी करता है और नियुक्ति/बर्खास्तगी की भूमिका निभाता है, लेकिन असल में जानकारी के मामले में वह management पर निर्भर रहता है
    वास्तविक शक्ति वहां होती है जहां कोई investor आधा हिस्सा रखता हो, founders roadmap चला रहे हों और key talent के निकलने या न निकलने पर भी प्रभाव रखते हों

    • इस मामले में OpenAI board की स्थिति इससे भी ज्यादा खराब थी
      कंपनी असल में researchers, engineers और Microsoft Azure credits का संयोजन थी, इसलिए CEO को बदला जा सकता था, लेकिन अगर उन्हें यह पसंद न आता तो कंपनी की पूरी value चलकर बाहर जा सकती थी
    • Board ने बस हार मान ली
      वे इस काम के लिए सही लोग नहीं थे, और अगर वे थोड़ा और टिकते और PR strategy अच्छी बनाते, तो जीत सकते थे
    • ज्यादा सटीक रूप से कहें तो यह position-based power और relationship-based power का फर्क है
    • A Song of Ice and Fire का एक संवाद याद आता है 
      Varys smiled. “Here, then. Power resides where men believe it resides. No more and no less.”

“So power is a mummer’s trick?”

“A shadow on the wall,” Varys murmured, “yet shadows can kill. And ofttimes a very small man can cast a very large shadow.”

  • यह बात सच होने की संभावना काफी ज्यादा लगती है, लेकिन साथ ही यह board को अक्षम और टकराव संभाल न पाने वाले समूह जैसा दिखाती है
    आधिकारिक आपत्ति उठाना, निगरानी बढ़ाना, Sam की जिम्मेदारियां किसी और को सौंपना, कानूनी कार्रवाई की चेतावनी देना जैसे विकल्प थे, लेकिन इसके बजाय उन्होंने गुप्त coup की कोशिश की, जिसके परिणामस्वरूप Sam कमजोर पक्ष जैसा दिखने लगा

    • लगता है board की भूमिका को मूल रूप से गलत समझा जा रहा है
      अक्सर कहा जाता है कि किसी कंपनी board के पास व्यावहारिक रूप से एक ही काम होता है: CEO को नियुक्त करना और हटाना
      यह थोड़ा बढ़ा-चढ़ाकर कहा गया हो सकता है, लेकिन इसका मूल भाव यह है कि जब board management के फैसलों में दखल देता है तो चीजें बिगड़ती हैं
      अगर फैसले पसंद नहीं हैं तो CEO को बदलना चाहिए, और अधिकार भी वहीं है
      “आधिकारिक आपत्ति” किसके सामने उठानी है, यह समझ नहीं आता
      Board ही अंतिम authority है, तो वह शिकायत किससे करेगा, यह अस्पष्ट है
      “Sam की जिम्मेदारियां किसी और को सौंपना” भी corporate governance विशेषज्ञों की नजर में आपदा का नुस्खा होगा, और कंपनी hierarchy में संभव भी नहीं है
      मैंने कई बार कहा है कि Altman को हटाने का तरीका बहुत naive था और उस समय communication भी बेहद खराब था, लेकिन मैं इसे किसी तरह का “coup” नहीं मानता और सुझाए गए responses भी बेतुके हैं
    • “coup” शब्द बहुत देखा है, लेकिन उसे justify करना मुश्किल है
      ये लोग board हैं, और CEO को hire और fire करना उनका core काम है
      nonprofit organization में mission alignment बनाए रखना भी वैसा ही है
    • “आधिकारिक आपत्ति” किसके सामने उठानी है?
      Board खुद ही जांच करने और action लेने का अधिकार रखने वाली अंतिम authority है
      अगर सदस्यों को चिंता है तो वे action लेते हैं या नहीं लेते, जिम्मेदारी आगे डालने की कोई दूसरी जगह नहीं है
    • अगर कोई व्यक्ति इतना अविश्वसनीय है कि उसे सही व्यवहार कराने के लिए रूपक रूप से straitjacket पहनानी पड़े, तो उसे CEO बनाए रखने का मतलब क्या है, समझ नहीं आता
      ऊपर से अगर उसका स्वभाव retaliatory है, तो वह अंदर authority रखते हुए कहीं ज्यादा आसानी से नुकसान पहुंचा सकता है
    • निजी रिश्तों में abusive व्यक्ति से निपटने की standard सलाह भाग जाना होती है, ऐसा मैं मानता हूं
      आम तौर पर यह उम्मीद करना अवास्तविक होता है कि उसे सुधारा जा सकता है
      भरोसे पर आधारित business relationship पर भी यही logic लागू न होने की कोई वजह है क्या?

  • Altman की रुकावट से board को बचाने के इरादे से लगभग किसी को भी पहले से नहीं बताया गया, लेकिन नतीजे में board ऐसी स्थिति में आ गया जिसका बचाव करना असंभव था
    बहुत अमीर और अच्छी networking वाले लोगों के खिलाफ, अपने पक्ष में कोई narrative तक न होने के साथ अकेले लड़ने जैसा हो गया

    • लगता है कि सिर्फ एक press release परिणाम को पूरी तरह बदल सकती थी
      Board हो तो कम से कम आपस में एक press release पर सहमति बना पाने में सक्षम होना चाहिए, है ना?
    • मुख्य बात यह है कि यह करने के बाद भी वे सार्वजनिक रूप से यह नहीं समझा पाए कि उन्होंने ऐसा क्यों किया
      ऐसा काम करना हो तो सारी तैयारी पूरी करके और defense के लिए तैयार रहना चाहिए

  • कहा गया है कि “किसे बताना है, इसे बहुत सावधानी और सोच-समझकर चुना गया, और legal team को छोड़कर व्यावहारिक रूप से लगभग किसी को भी पहले से नहीं बताया गया”; अगर leak की इतनी चिंता थी, तो कम से कम उसी दिन के लिए प्रमुख investor, यानी Microsoft, को देने लायक briefing material तो तैयार होना चाहिए था, नहीं?
    अगर वे प्रमुख investor, असल में अपने bosses, को पहले से convince नहीं कर पाए थे, तो यह और भी जरूरी था

    • इस मामले में प्रमुख investor board के boss नहीं हैं
      OpenAI एक nonprofit organization है
      Microsoft के पास nonprofit charter के लक्ष्यों के खिलाफ काम करने का incentive है, और इस बार उसने सच में ऐसा ही किया

  • सारे evidence इस ओर इशारा करते हैं कि Altman ने झूठ बोला और दोहरा व्यवहार किया
    मैं होता तो उसे निकाल देता

    • वही व्यक्ति जिसने government orders मानने से इनकार किया और लोगों की आंखें scan करके shitcoin के बदले देने का काम बंद न करने की वजह से दो देशों से निकाला गया?
      वह व्यक्ति झूठ बोलता और दोहरा व्यवहार करता है?

  • अब भी अजीब बात यह है कि बोर्ड उसे वापस कैसे ले आया
    किसी भी कोण से यह समझ नहीं आता
    यह बहुत साफ था कि उसने झूठ बोला और चालें चलीं, फिर भी समझ नहीं आता कि यह समस्या क्यों बनी
    हटाए जाने के बाद उसके पास कोई अधिकार नहीं था
    अगर कोई दूसरी कंपनी उसे नौकरी देना चाहती थी, तो देने देते; और अगर वह Twitter पर बस सुनने में अच्छी लगने वाली बातें कर रहा था, तो ध्यान देने की जरूरत नहीं थी
    अगर कर्मचारी छोड़ने की धमकी दे रहे थे, तो उन्हें जाने देते
    मुझे लगता है कि उनमें से काफी लोग असल में नहीं जाते, और अगर जाते भी, तो फिर से hiring करके एक सही CEO ढूंढा जा सकता था
    जो कर्मचारी रुकते, शायद वही लोग थे जिन्हें बचाकर रखना चाहिए था
    लेकिन उसे दोबारा hire करके फिर इस्तीफा क्यों दिया? उसे निकाला हुआ ही छोड़कर इस्तीफा दे सकते थे, नहीं?
    यह भी समझ नहीं आता कि Microsoft ने Altman की इतनी चिंता क्यों की
    उसके पास बोर्ड सीट भी नहीं थी, तो वह मजबूर था, और उसे प्रभाव नहीं रखना चाहिए था
    अगर OpenAI चाहिए था, तो खरीद लेते
    Microsoft को Altman को अपनी कंपनी में लाकर क्या मूल्य मिलना था, यह भी समझ नहीं आता
    कुछ भी समझ में नहीं आता
    बल्कि सबसे साफ बात Altman के नकारात्मक व्यवहार का तरीका है
    याद है, वह जोर-जोर से भोला बनकर ऐलान कर रहा था कि OpenAI में उसकी कोई हिस्सेदारी नहीं है
    हां, हमें यह मान लेना चाहिए कि एक अनुभवी venture investor ने अपनी नई कंपनी की संरचना ऐसी बनाई कि उसे कोई आर्थिक फायदा न हो?
    किसी और timeline में OpenAI उसे हटाकर interim CEO नियुक्त करता, बाकी सारे शोर को नजरअंदाज करता और नया CEO चुनता, तो भी सब ठीक चलता
    समझ नहीं आता कि Microsoft और दूसरों ने इतना बड़ा हंगामा क्यों किया, और बोर्ड भी विवरण दे सकता था, फिर उसने इतनी रहस्यमयी press release क्यों निकाली
    conspiracy theory वाली संभावनाएं भी खोलकर देखें, तब भी समझ नहीं आता
    शामिल लोगों में से कोई भी, Satya Nadella तक, क्या कर रहा है यह नहीं जानता लगता है

    • आपने जवाब पहले ही कहकर भी dismiss कर दिया
      बोर्ड ने Sam Altman की वापसी इसलिए मानी क्योंकि यह एक भारी दबाव अभियान था, जिसमें 90% से अधिक कर्मचारियों ने इस्तीफे की धमकी दी और OpenAI की intellectual property रखने वाले Microsoft ने उन्हें तुरंत सभी को hire करने का प्रस्ताव दिया
      इसमें कंपनी की core leadership भी शामिल थी
      संगठन रातोंरात बिखर रहा था, और यह “कुछ असंतुष्ट कर्मचारी जा सकते हैं” वाली सीमा से बहुत आगे निकल चुका था
      संभालने के लिए OpenAI खुद ही नहीं बचता
    • तो मौजूदा बोर्ड फिर किस स्थिति में रह जाता है?
      CEO ने माफी या जिम्मेदारी स्वीकार भी नहीं की, और अगर की भी होती, तो बोर्ड oversight में सक्रिय रूप से बाधा डालना साफ तौर पर red line है
      जो CEO अपनी भूमिका निभाने के लिए जरूरी जानकारी तक देने से इनकार करने वाला रवैया दिखा चुका हो, उसके साथ बोर्ड अपनी भूमिका कैसे निभा सकता है?
      जब तक यह CEO उस पद पर बना है जहां वह सूचना तक पहुंच रोक सकता है, बोर्ड की कोई विश्वसनीयता नहीं है
    • पूरी तरह सहमत
      OpenAI या बोर्ड सदस्यों में मेरी कोई दिलचस्पी नहीं है, लेकिन बोर्ड को कम से कम ठीक से करनी चाहिए ऐसी एक ही चीज, यानी hiring और firing, में बहुत ज्यादा अक्षमता दिखी
      सिर्फ इसी वजह से बोर्ड का reshuffle अच्छा था, ऐसा मानता हूं
      इस मामले में आप किसका समर्थन करते हैं, इससे फर्क नहीं पड़ता
    • Microsoft को बिकी हुई version वाली OpenAI चाहिए
      ताकि ethics और safety पर परेशान करने वाली बातें करने वाले लोगों के बिना जितना संभव हो उतना पैसा कमाया जा सके
    • Helen Toner के मुताबिक, OpenAI के lawyers ने कहा कि अगर वे उसे लगातार बाहर रखते हैं और कंपनी बहुत पैसा खो देती है, तो Toner और दूसरे बोर्ड सदस्य व्यक्तिगत रूप से जिम्मेदार हो सकते हैं

  • यह मजेदार है कि AGI के सबसे करीब मानी जाने वाली कंपनी का CEO बहुत बुद्धिमान है, लेकिन उसमें साफ alignment problem है

  • Toner की यह व्याख्या Sam को हटाए जाने की वजह के बारे में तथ्य जैसी लगती है
    बातों में consistency है
    Sam व्यक्ति के बारे में आप जो भी सोचें, अगर मैं उस स्थिति में होता तो शायद वही फैसला करता
    CEO का बोर्ड से कई बार झूठ बोलना और धोखा देना काफी गंभीर red line है

    • यह Sam को Y Combinator से हटाए जाने की वजह से भी मिलता-जुलता है
      यह कोई नई बात नहीं है; जब पैसा दांव पर होता है तो लोगों की याददाश्त नैतिकता जितनी ही धुंधली हो जाती है

  • यह irony है कि लोग Y Combinator बोर्ड पर Sam Altman का बचाव करने दौड़ पड़ते हैं
    YC ने भी मिलती-जुलती वजहों से उसे executive leadership role से हटाया था

    • Altman के बारे में मेरी सोच वही है जो GPT-2 को safety reasons से धीरे-धीरे release करने के समय थी
      वास्तविकता जो भी हो, सबसे खराब स्थिति मानकर ऐसे systems और procedures रखना सबसे अच्छा है जो उसके सच होने की संभावना भी संभाल सकें
    • उन लोगों के लिए जो Loopt की शुरुआत और अंत दोनों देखने जितने पुराने हैं, यह बिल्कुल सामान्य common sense है
      Altman एक dark triad-type sociopath है जिसके पास बेचने लायक सिर्फ एक skill है, और वह skill pg के शब्दों में “powerful बनना” है
      वह coding नहीं कर सकता, design नहीं कर सकता, papers publish नहीं कर सकता, fraud-prevention controls थोड़े भी मौजूद हों तो traditional corporate ladder नहीं चढ़ सकता, और cookie jar से हाथ भी नहीं निकाल सकता
      इसके बजाय वह बिना झिझक या पछतावे के झूठ बोल सकता है, धमका सकता है, फुसला सकता है, manipulate कर सकता है और रिश्वत दे सकता है
      मैं 10 साल से इस बेतुकी चीज के खिलाफ bet कर रहा हूं, और इससे दिवालिया हुए बिना टिके रहने में मदद तो नहीं मिली, लेकिन जब बाजार rational होता है तो आम तौर पर एक साथ होता है
      Karpathy, Ilya, Yoon तुरंत याद आते हैं और इनके अलावा गिनती से बाहर लोग हैं
      LeCun कुछ समय पहले X पर जानबूझकर आक्रामक अंदाज में उतर आए थे
      ऐसा लगता है जैसे insiders Goldman द्वारा Burry से निपटने वाले समय की तरह short positions ले रहे हों
      उसकी नौ जानें हैं; fraud जैसे मुद्दों पर लगभग तीन बार निकाले जाने के बावजूद वह अब भी वैसी ही जिंदगी जी रहा है, तो शायद आखिरकार वह मेरे प्याले में Ice Nine डालने जितना लंबा टिक जाए
      लेकिन यह चीज अनंत बार दोहराई नहीं जा सकती
    • सच नहीं है: https://twitter.com/paulg/status/1796107666265108940
    • उसकी बहन से जुड़ा मामला सुलझा क्या?
    • आपने “हटाया गया” लिखा, लेकिन मैंने Google पर कोई specific और भरोसेमंद source खोजने की कोशिश की, नहीं मिला
      जो मिला उनमें सबसे अच्छा बस इतना था कि “Altman को अपने हितों को प्राथमिकता देने के कारण YCombinator president पद से हटाया गया बताया जाता है”
      यहां मुख्य बात “allegedly” शब्द है
      क्या कोई YC press release या insider द्वारा हटाए जाने की व्याख्या है? अगर नहीं, तो यह बस अफवाह है
      साफ कर दूं, यह Altman या YC का बचाव करने के लिए नहीं लिख रहा हूं