अगर OpenAI लगातार 501(c)(3) charity बनी रहती है, तो board में शामिल Microsoft employee पर Microsoft की business जरूरतों के बजाय charity के mission को प्राथमिकता देने का fiduciary duty होगा। conflict of interest इतना साफ है कि IRS को यह structure पसंद आएगा, ऐसा नहीं लगता
बड़ी कंपनियों के boards में “कागज पर” conflict of interest आम होते हैं। अगर आप चाहते हैं कि असली management experience वाला व्यक्ति board में बैठे और जिम्मेदारी से काम करे, तो यह किसी भी industry में होता है; यह सिर्फ tech industry या OpenAI की खास समस्या नहीं है
असल में, board rules और common sense के हिसाब से जरूरत पड़ने पर recuse करने और बेवकूफी न करने के तरीके से काम चलता है
किसी nonprofit organization पर शायद पहले कभी इतनी बड़ी जांच-पड़ताल नहीं हुई होगी, और नए directors अपनी सुरक्षा के लिए lawyers को शामिल करना चाहेंगे। कल्पना करें कि जब Sam Altman ने सच में हटाए जाने लायक कुछ किया हो, तब उनकी स्थिति कैसी होगी
OpenAI को public benefit charity बनाना एक बड़ी गलती थी, और ऐसी उथल-पुथल में जाना असहज लगता है। आगे चलकर अगर यह private foundation status की ओर झुकता है, तो मामला और दिलचस्प हो जाएगा
OpenAI कोई charity नहीं है। Microsoft का investment for-profit company OpenAI Global, LLC में गया है https://openai.com/our-structure के अनुसार, for-profit subsidiary को OpenAI Nonprofit पूरी तरह control करता है, और board members को “व्यापक रूप से लाभकारी, सुरक्षित AGI” के mission के लिए fiduciary duty निभानी होती है। investors और employees, तथा Microsoft के profit share पर cap है, और cap से ऊपर बची value मानवता के हित के लिए nonprofit organization को वापस जाती है। इसके अलावा AGI हासिल हुआ या नहीं, यह board तय करता है, और AGI Microsoft की intellectual property license और commercial terms से बाहर है
ऐसा कोई संकेत नहीं है कि Microsoft द्वारा nominate किया गया director अनिवार्य रूप से Microsoft employee ही होगा। बेशक ऐसा हो सकता है, लेकिन बड़े nonprofit organizations में for-profit companies से आए directors अक्सर होते हैं
IRS ऐसी चीज पर बहुत ज्यादा ध्यान देगा, ऐसा नहीं लगता। अगर दावा यह है कि OpenAI tax देने वाली for-profit company Microsoft को फायदा पहुँचा रहा है, तो सबसे खराब बदनीयत हस्तक्षेप मान लें तब भी यह IRS से ज़्यादा SEC का मामला लगता है
सरकार इसे सख्ती से regulate करेगी, ऐसा नहीं लगता। AI सरकार और सेना के लिए बहुत अहम है, इसलिए वे किसी मामूली conflict of interest की वजह से competitive advantage धीमा नहीं करना चाहेंगे
Sam के CEO के रूप में लौटने से लगता है कि OpenAI board ने साबित कर दिया कि वह काम करने लायक नहीं रहा। board में कोई भी हो, CEO को हटाने की सबसे बुनियादी शक्ति का इस्तेमाल अब नहीं किया जा सकेगा, और Sam ने दिखा दिया कि वह दरअसल जिसे निकाला नहीं जा सकता ऐसा व्यक्ति है
इसका मतलब यह दावा करना नहीं है कि Sam ने झूठ बोला था या आगे बोलेगा
बिल्कुल नहीं। बस board ने उस group में सबसे अक्षम तरीके से काम किया, जिसके जिम्मे accountability थी
अगर due process अपनाई जाती, employees और investors को बताया जाता, और CEO को हटाने की वजह घोषित की जाती, तो 15 मिनट के Google Meet में निपटाकर फिर पूरी तरह चुप्पी साध लेने जैसी स्थिति नहीं होती, और ऐसा गुस्सा भी नहीं भड़कता
कल्पना करें कि Apple board ने Tim Cook को ठीक उस समय बिना किसी warning के हटा दिया, जब उन्होंने stage पर उस साल के developer platform updates और record growth/sales announce किए हों; फिर कई दिनों तक investors को वजह या कोई उपयोगी communication देने से इनकार किया हो; और उसी weekend में पहले interim CEO को बिल्कुल अलग industry से आए एक और interim CEO से replace कर दिया हो
अगर आपको लगता है कि सिर्फ CEO हटाने की बुनियादी शक्ति इस्तेमाल करने की वजह से board के खिलाफ shareholder rebellion नहीं होता, तो आप स्थिति का कुछ हिस्सा miss कर रहे हैं
लोगों के सोचने से यह board के लिए बेहतर deal है और Sam के लिए खराब deal। Sam, Greg, Ilya तीनों board से बाहर हो गए, D'Angelo अपनी बेतुकी हरकत के बावजूद बना रहा, और नए directors की नियुक्ति पर veto power और बड़ी आवाज उसके पास होगी
आगे से सभी Sam को लेकर सावधान रहेंगे। उसके पास पिछले board में जितना leverage था, उससे काफी कम होगा। आखिरकार वह charm और social skills से बाकी independent directors को मना कर जीत सकता है, लेकिन उन्हें D'Angelo के पक्ष में नहीं बल्कि अपने पक्ष में बनाए रखने के लिए उसे अपने व्यवहार पर बहुत नियंत्रण रखना होगा
सही है, लेकिन उलटा यह भी है कि इस घटना ने दिखा दिया कि OpenAI अब smoothly नहीं चल रहा है, और शायद फिर कभी चलना मुश्किल होगा। सांप का सिर काटकर फिर जोड़ देने के बाद उससे पहले की तरह रेंगने की उम्मीद नहीं कर सकते
Sam के बने रहने पर भी OpenAI जैसे complex organization में हजारों implicit rules, relationships और hidden procedures होते हैं, जिन्हें CEO के direct involvement के बिना अच्छी तरह चलना चाहिए। Sam को फिर से रखना इस बात का संकेत लगता है कि भविष्य का OpenAI पहले की धुंधली परछाईं जैसा रह जाएगा। अगर वह सच में फिर से अपनी जगह बना लेता है तो अजीब लगेगा, और दूसरे resign करने वालों को देखते हुए और भी ज्यादा। इसका मतलब यह नहीं कि OpenAI मर जाएगा, लेकिन उसने अपनी कमजोरी जरूर दिखा दी है
अगर board पहले key stakeholders को मना ले, तो वह अब भी Sam को हटा सकता है। अच्छा काम कर रहे व्यक्ति को बिना किसी justification के हटाना ही बेतुका था, और लगता है यही असली मुद्दा था
आखिरकार सब जानते हैं कि यह nonprofit structure दिखावे के लिए है और ठीक से काम नहीं करेगा
पता नहीं क्यों Coke/New Coke fiasco याद आ जाता है। नतीजा यह हुआ कि Coke Classic पहले से भी ज्यादा मशहूर हो गया
consumers इस बात पर नाराज़ हो गए कि उन्हें वही स्वाद वापस चाहिए जिसके साथ वे बड़े हुए थे, और पुराने product को वापस लाने की मांग इतनी बढ़ गई कि journalists ने यहां तक कहा कि क्या यह पूरा project staged था। इस पर Coca-Cola के president Don Keough ने 10 जुलाई 1985 को यूँ जवाब दिया: “हम न तो इतने बेवकूफ हैं, और न इतने होशियार।” https://en.wikipedia.org/wiki/New_Coke
Stranger Things की वजह से जब New Coke फिर से लॉन्च हुआ था, तब मैंने उसे पीकर देखा था, और वह Coca Cola Classic से कहीं बेहतर लगा। अफसोस है कि वह असफल रहा
मुझे लगा था कि वह प्रस्तुति चीनी से high-fructose corn syrup पर स्विच करने को छिपाने के लिए रही होगी
Ilya बोर्ड से बाहर हो गए हैं, लेकिन Adam अभी भी बने हुए हैं। भौंहें चढ़ाने वाली बात है, लेकिन खैर ऐसा ही है
Sam के वापस आ जाने से यह मामला बस यूँ ही गायब नहीं हो जाएगा। चूँकि Sam ऐसे दिखे जैसे उन्हें बदला नहीं जा सकता, OAI में बड़ा बदलाव आएगा। लंबी अवधि में मुझे संदेह है कि OAI Facebook या Uber जैसी बड़ी कंपनियों में से एक बनेगी; उसने भरोसा खो दिया है
बात यह नहीं कि वह अपरिहार्य हैं, बल्कि यह है कि अगर किसी को अचानक बिना खास वजह निकाल दिया जाए तो समस्या पैदा होती है
इतिहास ने बार-बार दिखाया है कि अच्छा product भरोसे से कहीं ज्यादा अहम होता है, और Facebook व Uber इसका सबूत हैं। scandal के तुरंत बाद सब लोग जोर-शोर से कहते हैं कि भरोसा खत्म हो गया, लेकिन समय आने पर चुपचाप contract renew कर देते हैं
Google, Amazon, Facebook जैसी बड़ी advertising कंपनियों में लगभग हर महीने scandal होते हैं, फिर भी ad revenue आता रहता है। Meltdown बड़ा scandal था, लेकिन Intel अब भी chips बना रही है
Facebook ने इतना भरोसा खोया है कि गिनती नहीं की जा सकती, फिर भी क्या वह अभी भी Megacorp नहीं है?
Sam Altman बेहद charismatic founder CEO हैं, जिन्हें कुछ लोग manipulative मानते हैं, लेकिन कई employees उन्हें पसंद करते हैं। बोर्ड ने उन्हें निकाल दिया था, और जब बोर्ड को अपनी गलती समझ आई तो वे लौट आए
यह Facebook, Amazon, Microsoft, Google जैसी बेहद सफल कंपनियों की founder story से पूरी तरह मेल नहीं खाता, लेकिन मुझे अब भी लगता है कि ऐसा व्यक्ति एक विशाल कंपनी बना सकता है। बेशक, विशाल कंपनी बनाने से ज्यादा महत्वपूर्ण है पागलपन की हद तक बेहतरीन product बनाना
आखिर में, असल में क्या हुआ था यह हमें अभी भी नहीं पता, और शायद आगे भी नहीं पता चलेगा। लेकिन यह साफ दिखता है कि तेज commercialization वाले Team Sam और शुरुआती principles बनाए रखने वाले Team Helen/Ilya के बीच दरार थी
GPT-3 से पहले प्रकाशित एक article में भी कहा गया था कि transparency, openness और collaboration के founding ideals तीखी competition और ज्यादा funding pressure के कारण कमजोर हो रहे थे। Team Helen ने घबराहट में कदम उठाया, लेकिन शायद उन्हें लगा होगा कि वे संगठन के founding principles की रक्षा कर रहे हैं, इसलिए वे जीतेंगे। लेकिन शुरू से ही उनके पास जीतने का मौका नहीं था। आम जनता में AI Safety की सच में परवाह करने वाले लोग कम हैं, बाकी लोगों को यह पसंद है कि ChatGPT homework में मदद करता है। बोर्ड ने बेहद मूर्खतापूर्ण तरीके से काम किया, जिसके लिए उनकी आलोचना होनी चाहिए, लेकिन दूसरी तरफ यह भी सोचना चाहिए कि अगर वे सच में मानते थे कि superhuman AI करीब है और दुर्भावनापूर्ण व्यवहार कर सकता है, तो क्या वे गति धीमी करने की कोशिश नहीं करते?
ईमानदारी से कहूँ तो उस खतरे को गंभीरता से लेना कठिन है, लेकिन अब मैं उसे पहले से गहराई से समझना चाहता हूँ। शायद वह उतना बेबुनियाद नहीं है जितना मैंने सोचा था। उम्मीद है कि कभी वह दिन न आए जब Team Helen कहे, “हम इसी चीज़ को रोकने की कोशिश कर रहे थे” https://www.technologyreview.com/2020/02/17/844721/ai-openai...
यहाँ आम जनता क्या सोचती है, यह महत्वपूर्ण नहीं है। निर्णायक कारक employee revolt था, और employees के बिना संगठन सिर्फ खाली खोल है
employees वास्तविक दुनिया में तेज प्रभाव डालने वाले पक्ष में खड़े हुए, और इसका उनके careers और stock options पर भी सीधा असर था। इसे principles की लड़ाई मानना भी भोला होगा। तेज commercialization बनाम principles वाला नारा हर खेमे ने अपने समर्थक जुटाने के लिए लगाया था, और असल में यह कमजोर और उलझी हुई organizational structure का फायदा उठाकर की गई खुली power grab होने की अधिक संभावना है। Altman को हटाने का “सही” तरीका यह था कि बोर्ड में धीरे-धीरे उनके अधिकार बाँधे जाते, उन्हें बढ़ते हुए ceremonial role में धकेला जाता और उन्हें खुद इस्तीफा देने पर मजबूर किया जाता
अगर OpenAI singularity के करीब पहुँच रही है, तो Google, Meta, Baidu आदि भी वैसे ही हैं। तो NSA या White House को शामिल करना और Google, Meta, Microsoft तक को साथ लेकर mitigation measures शुरू करना सही होता
सिर्फ OpenAI को धीमा करना, assumption गलत होने पर कंपनी के लिए नुकसानदेह है, और सही होने पर भी मददगार नहीं है। यह principles और direction की लड़ाई से ज्यादा ego और power की लड़ाई लगती है
यह narrative plausible है, लेकिन शुरू की press release की अजीब और आक्रामक wording को explain नहीं करता
अगर founding principles या charter की ओर इशारा करके बोर्ड कहता कि Sam और उसकी interpretation को लेकर उनके बीच ऐसी असहमति थी जिसे सुलझाया नहीं जा सका, और साथ ही अब तक के योगदान के लिए गहरी कृतज्ञता जताता, तो स्थिति अलग हो सकती थी। बेशक, उचित successor CEO और employees के PPU liquidate होने की guarantee कहीं ज्यादा महत्वपूर्ण रही होती। शुरुआत में statement इतना खराब था कि लगा Sam ने कोई crime कर दिया होगा
responsible progress की बात करने वाले संगठन का अपने ही संगठन के भीतर incentive structure alignment तक न कर पाना एक ऐसी विडंबना है जिसका मजाक उड़ना चाहिए। यह credibility पर बड़ा झटका है, और उनके द्वारा उठाई गई ethical concerns पर भी शक पैदा करता है
अगर आपको लगता है कि खतरा सच है, तो क्या हम पहले ही हार नहीं चुके? OpenAI इस समस्या पर research करने वाली कई teams में से सिर्फ एक है, और सभी के पीछे बड़ी public companies की भारी funding और talent है
OpenAI ने unique contribution दिया है, यह सही है, लेकिन वह overwhelmingly आगे भी नहीं है। अगर OpenAI डगमगाती है, तो संभव है कि कोई और lead ले ले, और अगला बड़ा innovation कहाँ से आएगा, यह भी नहीं पता। अगर threat को सच माना जाए, तो समझ नहीं आता कि OpenAI को absolute leader क्यों माना जा रहा है। कंपनी को धीमा करने का सबसे संभावित नतीजा यह है कि lead किसी और को सौंप दी जाए
frame को ऐसे देखा जा सकता है। एक developer Ilya बनाम एक businessman Sam में Sam जीतते हैं। सैकड़ों developers नौकरी छोड़ने की धमकी देते हैं और बोर्ड अड़ा रहता है, तो developers जीतते हैं
बाहर से देखने पर ऐसा लगता है कि developers के हाथ में शुरू से ही ताकत थी, और होना भी यही चाहिए
किसी भी कंपनी में 95% लोगों का एक ही stance लेना अभूतपूर्व है, लेकिन इसकी कुछ वजहें हैं
उन्हें नए Microsoft startup में मिलते-जुलते पद और compensation मिल सकते थे, इसलिए उनकी jobs risk में नहीं थीं; Sam ने शुरुआत में हर hiring approve की थी; और OpenAI ऐसे लोगों को hire करती आई थी जो ज्यादा compensation देने वाली अन्य companies के बजाय mission-oriented nonprofit में काम करना चाहते थे। जो भी हो, साथ में resign करने की धमकी देकर एकजुट होना अच्छी strategy थी और काम कर गई। “OpenAI is nothing without its people” खराब बोर्ड पर power check था
तीन dragons हैं: employees, customers, government। अगर वे motivated और aligned हों, तो इनमें से कोई भी चाहे तो company खत्म कर सकता है
dragon को जगाना नहीं चाहिए
यह पैसे की जीत के ज़्यादा करीब है। ज़्यादातर कर्मचारियों को OpenAI के मिशन की खास परवाह नहीं थी, यह साफ दिखता है। मैं उन्हें दोष नहीं देता, क्योंकि उन्हें for-profit OpenAI कंपनी ने नौकरी पर रखा था और उसी लक्ष्य के मुताबिक equity से compensation दिया गया था
मेरे हिसाब से board का OpenAI के मूल मिशन को बचाने की कोशिश करना सही था। हालांकि अब उस मिशन का कोई मतलब नहीं रह गया है। यह तर्क कि Google, Meta, Microsoft तो वैसे भी इसे develop करेंगे, एक सुविधाजनक logic है। nuclear arms race में भी “अगर हम नहीं बनाएंगे तो दूसरे बना लेंगे” जैसा तर्क इस्तेमाल हुआ था, और उसका नतीजा आज की स्थिति है
क्या हम पक्का कह सकते हैं कि इस सब की जड़ Ilya था? उसने शुरुआत में समर्थन किया था, लेकिन बाद में reversal न होने पर इस्तीफा देने की धमकी वाले signature में भी शामिल हुआ
मैं जानना चाहता हूं कि D'Angelo नहीं बल्कि Ilya ही इसके पीछे था, इसका सबूत क्या है
developers का गठजोड़ खुद कंपनी से ज्यादा मजबूत दिखता है। इसीलिए Big Tech executives unions से इतनी नफरत करते हैं
private industry-led AI safety approach से उम्मीद थी, लेकिन अब यह मुश्किल लगती है, और public AI R&D में सरकारी निवेश धीमा होने की वजह से AI safety के सभी approaches अनिश्चित लगते हैं
toy models पर safety research आगे बढ़ती रहेगी, लेकिन industry का अनुमान यह लगता है कि emergent properties की वजह से frontier models पर research किए बिना safety के बारे में सीखने की एक कम ceiling है। Altman ने OpenAI के governance structure को safety को प्राथमिकता दिलाने वाला mechanism बताकर promote किया था, लेकिन safety staff को ChatGPT load handling की तरफ reassign किए जाने की reports चिंताजनक हैं। अब board ने दिखा दिया कि technically तो यह संभव था, लेकिन इन हितों को control करने लायक वह मजबूत नहीं था, और यह unclear हो गया है कि Anthropic सहित safety-oriented organizations funders के accelerationist influence से कैसे बच पाएंगे
emergent properties जैसी कोई चीज नहीं होती, बस searchable knowledge linear तरीके से बढ़ता है
यह planning नहीं कर सकता, arithmetic नहीं कर सकता, reasoning नहीं कर सकता। natural language queries से knowledge को लगभग search कर सकता है और यह हिस्सा काफी अच्छा है, और data को natural language और दूसरे modalities में encode कर सकता है। मुझे इससे खुद चिंता नहीं है, लेकिन चिंता इस बात की है कि लोग इस model की क्षमताओं को बहुत गलत समझकर इसे महत्वपूर्ण कामों में इस्तेमाल करना चाहेंगे
ChatGPT को लगातार stable चलाने जैसी शुरुआती commercialization पर अगर ज्यादा effort लगाया जाए, तो शायद frontier capabilities develop करने में effort कम भी जा सकता है। Altman तो शुरू से AI safety person नहीं था, इसलिए व्यक्तिगत तौर पर उम्मीद है कि Anthropic बेहतर leadership के साथ इस problem से बचेगा
बस incompetent न हों और personal gain के लिए power abuse न करें। लोग उतने बेवकूफ नहीं हैं जितना समझा जाता है; वे ऐसी बकवास को भेद लेते हैं, और किसी बेवकूफ tyrant को follow करने के बजाय छोड़ देंगे
जानना चाहूंगा कि “toy model” नहीं होने वाला model कौन-सा है
सच में नहीं लगा था कि ऐसा होगा। अगला सवाल स्वाभाविक रूप से यह है कि Ilya का क्या होगा। इस announcement के मुताबिक लगता है कि वह board से बाहर है, लेकिन क्या वह अभी भी chief scientist है? यह यकीन करना मुश्किल है कि वह और Sam रिश्ता सुधारकर इतनी नजदीकी से साथ काम कर पाएंगे
Adam का board में बने रहना भी interesting है, और लगता है कि यहां घूम रही कई theories—कि conflict of interest की वजह से वही mastermind था—को खारिज करता है
Ilya के लिए बहुत कुछ बदला हुआ नहीं दिखता। Sam ने commercialization कितनी तेजी से आगे बढ़ानी है, इस पर ongoing differences के कारण एक महीने पहले उसे sidelined कर दिया था
अगर Ilya अभी भी sidelined है, तो शायद वह छोड़ देगा, और जो कंपनी उसे सबसे ज्यादा control देगी वह उसे ले जाएगी। अगर fired हुआ तो भी यही होगा। अगर deal के हिस्से के तौर पर उसे फिर से center में लाया गया, तो शायद वह chief scientist बना रहेगा। उम्मीद है अब Sam की hostility कुछ कम होगी
अजीब बात है, लेकिन मुझे लगता है Ilya इस घटना से काफी अच्छी तरह बाहर निकलता है। उसने अपने values और AI safety के लिए जिसे best decision माना, उसके आधार पर फैसला किया, और फिर परिणाम देखकर मन बदला और जिम्मेदारी ली
उसे पता रहा होगा कि internet पर पलटने के लिए उसका मजाक उड़ेगा, फिर भी उसने signed employees के लिए जिसे best direction समझा, उसी तरफ कदम बढ़ाया। उसके actions की आलोचना हो सकती है, लेकिन मुझे लगता है उसका moral character दिखा। बाकी board members ने ज्यादा personal reasons से फैसला किया हुआ लगता है, और यह Adam के conflict of interest से भी मेल खाता है। ईमानदारी से कहूं तो 4 लोगों में से board में रखना चाहूंगा तो केवल Ilya को। leadership position में ऐसे व्यक्ति की जरूरत होती है जो नई information के आधार पर दिशा बदल सके
इसे थोड़ा ज्यादा optimistic तरीके से भी देखा जा सकता है। दोनों एक-दूसरे को काफी अच्छी तरह जानते हैं, और बड़े काम साथ में करने का तरीका भी जानते हैं। कभी-कभी चीजें बिगड़ जाती हैं या कोई गलती कर सकता है, और एक sincere, simple apology काफी दूर तक असर करती है
Sam जानता है कि business relationships कैसे काम करते हैं, इसलिए रिश्ते सुधारने में उसे दिक्कत नहीं होगी। इसके अलावा Ilya ने tweet में दिखा ही दिया कि वह पहले ही ring kiss कर चुका है
नया board ऐसा लगता है कि Adam D'Angelo pro-board है, Brett Taylor pro-Sam है, और Larry Summers लगभग neutral है। Brett रविवार से Sam की वापसी push कर रहा था, इसलिए मानता हूं कि Sam और OpenAI leadership उसे पसंद करते हैं। Larry ने AI field में काम नहीं किया है, लेकिन आम तौर पर respected नाम है, और दोनों sides ने compromise से पहले व्यापक interviews और reputation checks किए होंगे
आगे board कैसे बदलेगा, यह interesting होगा। मोटे तौर पर दो factions थे। एक faction ने Sam को बहुत तेज माना और उसे हटाया, और जिस faction ने Sam की trajectory ठीक मानी उसमें Sam और Greg थे। अब board में balance है, और बाद की appointments किसी एक तरफ झुका सकती हैं। दुर्भाग्य से divided board लंबे समय तक टिकना मुश्किल है और आखिरकार किसी एक side के जीतने की संभावना है। मुझे लगता है अंत में Sam की side जीतेगी, लेकिन देखना होगा
इस drama के सबसे दुखद outcomes में से एक Greg का OpenAI से धकेला जाना था। Greg न सिर्फ शानदार व्यक्ति है, बल्कि उसने OpenAI में लगातार हफ्ते में 80–90 घंटे लगाए, और कह सकते हैं कि अपनी जिंदगी का बड़ा हिस्सा इस organization को बनाने में समर्पित किया। अगर ऐसे व्यक्ति को उस board ने हटना पड़ा जिसने OpenAI बनाने में 90 घंटे काम करना तो दूर, लगभग contribute भी नहीं किया, तो यह अपमान है। Ilya exception है, और यह भी noteworthy है कि जब उसने देखा कि उसके actions OpenAI को मार रहे हैं, तो उसने अपना रुख पलट दिया
यहां डराने वाला choice Larry Summers है। banking deregulation पर उसके views global financial crisis की ओर ले गए, और racist व sexist stances के कारण भी कई controversies हुईं। इसके अलावा वह Epstein का पुराना दोस्त था और उसके island पर कई बार गया था
Greg को नौकरी से नहीं, सिर्फ board seat से हटना था
1 टिप्पणियां
Hacker News की राय
इस थ्रेड में 1800 से ज़्यादा comments हैं। अगर सब पढ़ना चाहें, तो हर page के नीचे More दबाएँ या नीचे की तरह page सीधे खोल सकते हैं
https://news.ycombinator.com/item?id=38375239&p=2
https://news.ycombinator.com/item?id=38375239&p=3
https://news.ycombinator.com/item?id=38375239&p=4
अगर OpenAI लगातार 501(c)(3) charity बनी रहती है, तो board में शामिल Microsoft employee पर Microsoft की business जरूरतों के बजाय charity के mission को प्राथमिकता देने का fiduciary duty होगा। conflict of interest इतना साफ है कि IRS को यह structure पसंद आएगा, ऐसा नहीं लगता
असल में, board rules और common sense के हिसाब से जरूरत पड़ने पर recuse करने और बेवकूफी न करने के तरीके से काम चलता है
OpenAI को public benefit charity बनाना एक बड़ी गलती थी, और ऐसी उथल-पुथल में जाना असहज लगता है। आगे चलकर अगर यह private foundation status की ओर झुकता है, तो मामला और दिलचस्प हो जाएगा
https://openai.com/our-structure के अनुसार, for-profit subsidiary को OpenAI Nonprofit पूरी तरह control करता है, और board members को “व्यापक रूप से लाभकारी, सुरक्षित AGI” के mission के लिए fiduciary duty निभानी होती है। investors और employees, तथा Microsoft के profit share पर cap है, और cap से ऊपर बची value मानवता के हित के लिए nonprofit organization को वापस जाती है। इसके अलावा AGI हासिल हुआ या नहीं, यह board तय करता है, और AGI Microsoft की intellectual property license और commercial terms से बाहर है
IRS ऐसी चीज पर बहुत ज्यादा ध्यान देगा, ऐसा नहीं लगता। अगर दावा यह है कि OpenAI tax देने वाली for-profit company Microsoft को फायदा पहुँचा रहा है, तो सबसे खराब बदनीयत हस्तक्षेप मान लें तब भी यह IRS से ज़्यादा SEC का मामला लगता है
Sam के CEO के रूप में लौटने से लगता है कि OpenAI board ने साबित कर दिया कि वह काम करने लायक नहीं रहा। board में कोई भी हो, CEO को हटाने की सबसे बुनियादी शक्ति का इस्तेमाल अब नहीं किया जा सकेगा, और Sam ने दिखा दिया कि वह दरअसल जिसे निकाला नहीं जा सकता ऐसा व्यक्ति है
इसका मतलब यह दावा करना नहीं है कि Sam ने झूठ बोला था या आगे बोलेगा
अगर due process अपनाई जाती, employees और investors को बताया जाता, और CEO को हटाने की वजह घोषित की जाती, तो 15 मिनट के Google Meet में निपटाकर फिर पूरी तरह चुप्पी साध लेने जैसी स्थिति नहीं होती, और ऐसा गुस्सा भी नहीं भड़कता
अगर आपको लगता है कि सिर्फ CEO हटाने की बुनियादी शक्ति इस्तेमाल करने की वजह से board के खिलाफ shareholder rebellion नहीं होता, तो आप स्थिति का कुछ हिस्सा miss कर रहे हैं
आगे से सभी Sam को लेकर सावधान रहेंगे। उसके पास पिछले board में जितना leverage था, उससे काफी कम होगा। आखिरकार वह charm और social skills से बाकी independent directors को मना कर जीत सकता है, लेकिन उन्हें D'Angelo के पक्ष में नहीं बल्कि अपने पक्ष में बनाए रखने के लिए उसे अपने व्यवहार पर बहुत नियंत्रण रखना होगा
Sam के बने रहने पर भी OpenAI जैसे complex organization में हजारों implicit rules, relationships और hidden procedures होते हैं, जिन्हें CEO के direct involvement के बिना अच्छी तरह चलना चाहिए। Sam को फिर से रखना इस बात का संकेत लगता है कि भविष्य का OpenAI पहले की धुंधली परछाईं जैसा रह जाएगा। अगर वह सच में फिर से अपनी जगह बना लेता है तो अजीब लगेगा, और दूसरे resign करने वालों को देखते हुए और भी ज्यादा। इसका मतलब यह नहीं कि OpenAI मर जाएगा, लेकिन उसने अपनी कमजोरी जरूर दिखा दी है
आखिरकार सब जानते हैं कि यह nonprofit structure दिखावे के लिए है और ठीक से काम नहीं करेगा
पता नहीं क्यों Coke/New Coke fiasco याद आ जाता है। नतीजा यह हुआ कि Coke Classic पहले से भी ज्यादा मशहूर हो गया
consumers इस बात पर नाराज़ हो गए कि उन्हें वही स्वाद वापस चाहिए जिसके साथ वे बड़े हुए थे, और पुराने product को वापस लाने की मांग इतनी बढ़ गई कि journalists ने यहां तक कहा कि क्या यह पूरा project staged था। इस पर Coca-Cola के president Don Keough ने 10 जुलाई 1985 को यूँ जवाब दिया: “हम न तो इतने बेवकूफ हैं, और न इतने होशियार।”
https://en.wikipedia.org/wiki/New_Coke
Stranger Things की वजह से जब New Coke फिर से लॉन्च हुआ था, तब मैंने उसे पीकर देखा था, और वह Coca Cola Classic से कहीं बेहतर लगा। अफसोस है कि वह असफल रहा
Ilya बोर्ड से बाहर हो गए हैं, लेकिन Adam अभी भी बने हुए हैं। भौंहें चढ़ाने वाली बात है, लेकिन खैर ऐसा ही है
Sam के वापस आ जाने से यह मामला बस यूँ ही गायब नहीं हो जाएगा। चूँकि Sam ऐसे दिखे जैसे उन्हें बदला नहीं जा सकता, OAI में बड़ा बदलाव आएगा। लंबी अवधि में मुझे संदेह है कि OAI Facebook या Uber जैसी बड़ी कंपनियों में से एक बनेगी; उसने भरोसा खो दिया है
Google, Amazon, Facebook जैसी बड़ी advertising कंपनियों में लगभग हर महीने scandal होते हैं, फिर भी ad revenue आता रहता है। Meltdown बड़ा scandal था, लेकिन Intel अब भी chips बना रही है
यह Facebook, Amazon, Microsoft, Google जैसी बेहद सफल कंपनियों की founder story से पूरी तरह मेल नहीं खाता, लेकिन मुझे अब भी लगता है कि ऐसा व्यक्ति एक विशाल कंपनी बना सकता है। बेशक, विशाल कंपनी बनाने से ज्यादा महत्वपूर्ण है पागलपन की हद तक बेहतरीन product बनाना
आखिर में, असल में क्या हुआ था यह हमें अभी भी नहीं पता, और शायद आगे भी नहीं पता चलेगा। लेकिन यह साफ दिखता है कि तेज commercialization वाले Team Sam और शुरुआती principles बनाए रखने वाले Team Helen/Ilya के बीच दरार थी
GPT-3 से पहले प्रकाशित एक article में भी कहा गया था कि transparency, openness और collaboration के founding ideals तीखी competition और ज्यादा funding pressure के कारण कमजोर हो रहे थे। Team Helen ने घबराहट में कदम उठाया, लेकिन शायद उन्हें लगा होगा कि वे संगठन के founding principles की रक्षा कर रहे हैं, इसलिए वे जीतेंगे। लेकिन शुरू से ही उनके पास जीतने का मौका नहीं था। आम जनता में AI Safety की सच में परवाह करने वाले लोग कम हैं, बाकी लोगों को यह पसंद है कि ChatGPT homework में मदद करता है। बोर्ड ने बेहद मूर्खतापूर्ण तरीके से काम किया, जिसके लिए उनकी आलोचना होनी चाहिए, लेकिन दूसरी तरफ यह भी सोचना चाहिए कि अगर वे सच में मानते थे कि superhuman AI करीब है और दुर्भावनापूर्ण व्यवहार कर सकता है, तो क्या वे गति धीमी करने की कोशिश नहीं करते?
ईमानदारी से कहूँ तो उस खतरे को गंभीरता से लेना कठिन है, लेकिन अब मैं उसे पहले से गहराई से समझना चाहता हूँ। शायद वह उतना बेबुनियाद नहीं है जितना मैंने सोचा था। उम्मीद है कि कभी वह दिन न आए जब Team Helen कहे, “हम इसी चीज़ को रोकने की कोशिश कर रहे थे”
https://www.technologyreview.com/2020/02/17/844721/ai-openai...
employees वास्तविक दुनिया में तेज प्रभाव डालने वाले पक्ष में खड़े हुए, और इसका उनके careers और stock options पर भी सीधा असर था। इसे principles की लड़ाई मानना भी भोला होगा। तेज commercialization बनाम principles वाला नारा हर खेमे ने अपने समर्थक जुटाने के लिए लगाया था, और असल में यह कमजोर और उलझी हुई organizational structure का फायदा उठाकर की गई खुली power grab होने की अधिक संभावना है। Altman को हटाने का “सही” तरीका यह था कि बोर्ड में धीरे-धीरे उनके अधिकार बाँधे जाते, उन्हें बढ़ते हुए ceremonial role में धकेला जाता और उन्हें खुद इस्तीफा देने पर मजबूर किया जाता
सिर्फ OpenAI को धीमा करना, assumption गलत होने पर कंपनी के लिए नुकसानदेह है, और सही होने पर भी मददगार नहीं है। यह principles और direction की लड़ाई से ज्यादा ego और power की लड़ाई लगती है
अगर founding principles या charter की ओर इशारा करके बोर्ड कहता कि Sam और उसकी interpretation को लेकर उनके बीच ऐसी असहमति थी जिसे सुलझाया नहीं जा सका, और साथ ही अब तक के योगदान के लिए गहरी कृतज्ञता जताता, तो स्थिति अलग हो सकती थी। बेशक, उचित successor CEO और employees के PPU liquidate होने की guarantee कहीं ज्यादा महत्वपूर्ण रही होती। शुरुआत में statement इतना खराब था कि लगा Sam ने कोई crime कर दिया होगा
OpenAI ने unique contribution दिया है, यह सही है, लेकिन वह overwhelmingly आगे भी नहीं है। अगर OpenAI डगमगाती है, तो संभव है कि कोई और lead ले ले, और अगला बड़ा innovation कहाँ से आएगा, यह भी नहीं पता। अगर threat को सच माना जाए, तो समझ नहीं आता कि OpenAI को absolute leader क्यों माना जा रहा है। कंपनी को धीमा करने का सबसे संभावित नतीजा यह है कि lead किसी और को सौंप दी जाए
frame को ऐसे देखा जा सकता है। एक developer Ilya बनाम एक businessman Sam में Sam जीतते हैं। सैकड़ों developers नौकरी छोड़ने की धमकी देते हैं और बोर्ड अड़ा रहता है, तो developers जीतते हैं
बाहर से देखने पर ऐसा लगता है कि developers के हाथ में शुरू से ही ताकत थी, और होना भी यही चाहिए
उन्हें नए Microsoft startup में मिलते-जुलते पद और compensation मिल सकते थे, इसलिए उनकी jobs risk में नहीं थीं; Sam ने शुरुआत में हर hiring approve की थी; और OpenAI ऐसे लोगों को hire करती आई थी जो ज्यादा compensation देने वाली अन्य companies के बजाय mission-oriented nonprofit में काम करना चाहते थे। जो भी हो, साथ में resign करने की धमकी देकर एकजुट होना अच्छी strategy थी और काम कर गई। “OpenAI is nothing without its people” खराब बोर्ड पर power check था
dragon को जगाना नहीं चाहिए
यह पैसे की जीत के ज़्यादा करीब है। ज़्यादातर कर्मचारियों को OpenAI के मिशन की खास परवाह नहीं थी, यह साफ दिखता है। मैं उन्हें दोष नहीं देता, क्योंकि उन्हें for-profit OpenAI कंपनी ने नौकरी पर रखा था और उसी लक्ष्य के मुताबिक equity से compensation दिया गया था
मेरे हिसाब से board का OpenAI के मूल मिशन को बचाने की कोशिश करना सही था। हालांकि अब उस मिशन का कोई मतलब नहीं रह गया है। यह तर्क कि Google, Meta, Microsoft तो वैसे भी इसे develop करेंगे, एक सुविधाजनक logic है। nuclear arms race में भी “अगर हम नहीं बनाएंगे तो दूसरे बना लेंगे” जैसा तर्क इस्तेमाल हुआ था, और उसका नतीजा आज की स्थिति है
मैं जानना चाहता हूं कि D'Angelo नहीं बल्कि Ilya ही इसके पीछे था, इसका सबूत क्या है
private industry-led AI safety approach से उम्मीद थी, लेकिन अब यह मुश्किल लगती है, और public AI R&D में सरकारी निवेश धीमा होने की वजह से AI safety के सभी approaches अनिश्चित लगते हैं
toy models पर safety research आगे बढ़ती रहेगी, लेकिन industry का अनुमान यह लगता है कि emergent properties की वजह से frontier models पर research किए बिना safety के बारे में सीखने की एक कम ceiling है। Altman ने OpenAI के governance structure को safety को प्राथमिकता दिलाने वाला mechanism बताकर promote किया था, लेकिन safety staff को ChatGPT load handling की तरफ reassign किए जाने की reports चिंताजनक हैं। अब board ने दिखा दिया कि technically तो यह संभव था, लेकिन इन हितों को control करने लायक वह मजबूत नहीं था, और यह unclear हो गया है कि Anthropic सहित safety-oriented organizations funders के accelerationist influence से कैसे बच पाएंगे
यह planning नहीं कर सकता, arithmetic नहीं कर सकता, reasoning नहीं कर सकता। natural language queries से knowledge को लगभग search कर सकता है और यह हिस्सा काफी अच्छा है, और data को natural language और दूसरे modalities में encode कर सकता है। मुझे इससे खुद चिंता नहीं है, लेकिन चिंता इस बात की है कि लोग इस model की क्षमताओं को बहुत गलत समझकर इसे महत्वपूर्ण कामों में इस्तेमाल करना चाहेंगे
सच में नहीं लगा था कि ऐसा होगा। अगला सवाल स्वाभाविक रूप से यह है कि Ilya का क्या होगा। इस announcement के मुताबिक लगता है कि वह board से बाहर है, लेकिन क्या वह अभी भी chief scientist है? यह यकीन करना मुश्किल है कि वह और Sam रिश्ता सुधारकर इतनी नजदीकी से साथ काम कर पाएंगे
Adam का board में बने रहना भी interesting है, और लगता है कि यहां घूम रही कई theories—कि conflict of interest की वजह से वही mastermind था—को खारिज करता है
अगर Ilya अभी भी sidelined है, तो शायद वह छोड़ देगा, और जो कंपनी उसे सबसे ज्यादा control देगी वह उसे ले जाएगी। अगर fired हुआ तो भी यही होगा। अगर deal के हिस्से के तौर पर उसे फिर से center में लाया गया, तो शायद वह chief scientist बना रहेगा। उम्मीद है अब Sam की hostility कुछ कम होगी
उसे पता रहा होगा कि internet पर पलटने के लिए उसका मजाक उड़ेगा, फिर भी उसने signed employees के लिए जिसे best direction समझा, उसी तरफ कदम बढ़ाया। उसके actions की आलोचना हो सकती है, लेकिन मुझे लगता है उसका moral character दिखा। बाकी board members ने ज्यादा personal reasons से फैसला किया हुआ लगता है, और यह Adam के conflict of interest से भी मेल खाता है। ईमानदारी से कहूं तो 4 लोगों में से board में रखना चाहूंगा तो केवल Ilya को। leadership position में ऐसे व्यक्ति की जरूरत होती है जो नई information के आधार पर दिशा बदल सके
नया board ऐसा लगता है कि Adam D'Angelo pro-board है, Brett Taylor pro-Sam है, और Larry Summers लगभग neutral है। Brett रविवार से Sam की वापसी push कर रहा था, इसलिए मानता हूं कि Sam और OpenAI leadership उसे पसंद करते हैं। Larry ने AI field में काम नहीं किया है, लेकिन आम तौर पर respected नाम है, और दोनों sides ने compromise से पहले व्यापक interviews और reputation checks किए होंगे
आगे board कैसे बदलेगा, यह interesting होगा। मोटे तौर पर दो factions थे। एक faction ने Sam को बहुत तेज माना और उसे हटाया, और जिस faction ने Sam की trajectory ठीक मानी उसमें Sam और Greg थे। अब board में balance है, और बाद की appointments किसी एक तरफ झुका सकती हैं। दुर्भाग्य से divided board लंबे समय तक टिकना मुश्किल है और आखिरकार किसी एक side के जीतने की संभावना है। मुझे लगता है अंत में Sam की side जीतेगी, लेकिन देखना होगा
इस drama के सबसे दुखद outcomes में से एक Greg का OpenAI से धकेला जाना था। Greg न सिर्फ शानदार व्यक्ति है, बल्कि उसने OpenAI में लगातार हफ्ते में 80–90 घंटे लगाए, और कह सकते हैं कि अपनी जिंदगी का बड़ा हिस्सा इस organization को बनाने में समर्पित किया। अगर ऐसे व्यक्ति को उस board ने हटना पड़ा जिसने OpenAI बनाने में 90 घंटे काम करना तो दूर, लगभग contribute भी नहीं किया, तो यह अपमान है। Ilya exception है, और यह भी noteworthy है कि जब उसने देखा कि उसके actions OpenAI को मार रहे हैं, तो उसने अपना रुख पलट दिया