OpenAI CEO Sam Altman को हटाने वाले अप्रत्याशित board coup की पूरी कहानी
(arstechnica.com)- OpenAI बोर्ड ने शुक्रवार को CEO Sam Altman को अचानक हटा दिया, जिसके बाद President Greg Brockman और 3 वरिष्ठ शोधकर्ताओं ने कंपनी छोड़ दी; मुख्य निवेशक Microsoft भी पहले से अनजान था और इस कदम से हैरान रह गया
- टकराव के केंद्र में Chief Scientist Ilya Sutskever थे, जहां Altman की तेज़ commercialization और growth strategy का गैर-लाभकारी mission-आधारित safety responsibility से सीधा टकराव हुआ
- गैर-लाभकारी संस्था द्वारा लाभकारी subsidiary के ownership और control वाली असामान्य governance structure के कारण, Altman और Brockman के हटने के बाद बोर्ड में केवल Sutskever, Adam D’Angelo, Tasha McCauley और Helen Toner बचे
- बोर्ड ने हटाने की वजह “लगातार स्पष्ट और ईमानदार communication न होना” बताई, लेकिन COO Brad Lightcap के internal memo ने कहा कि यह फैसला misconduct या financial, business, safety, security, privacy practices के कारण नहीं था
- इस घटना ने सुरक्षित development pace और monetization pressure के बीच तनाव को उजागर किया, और interim CEO Mira Murati के तहत operations को स्थिर करना employees, partners, users और customers—सभी के लिए तत्काल चुनौती बन गया
Altman को हटाने से पैदा हुई तत्काल अफरा-तफरी
- OpenAI ने शुक्रवार को CEO Sam Altman को अचानक हटा दिया, और इस फैसले के बाद President Greg Brockman ने इस्तीफा दिया तथा 3 senior scientists ने कंपनी छोड़ दी
- मुख्य निवेशक और minority stake holder Microsoft को भी पहले से सूचना नहीं दी गई थी; Bloomberg के अनुसार CEO Satya Nadella बेहद नाराज़ हुए
- Altman को हटाने की कार्रवाई संभवतः Chief Scientist Ilya Sutskever ने OpenAI technology deployment की safety और pace को लेकर चिंताओं के आधार पर आगे बढ़ाई
- Sutskever ने शुक्रवार दोपहर urgent all-hands meeting में कहा कि बोर्ड ने “यह सुनिश्चित करने” के गैर-लाभकारी mission के प्रति अपनी जिम्मेदारी निभाई कि OpenAI ऐसा AGI बनाए जो पूरी मानवता के हित में हो
- OpenAI जिस AGI का लक्ष्य रखता रहा है, वह ऐसी काल्पनिक technology को संदर्भित करता है जो इंसानों द्वारा किए जा सकने वाले intellectual tasks कर सके
Commercialization की रफ्तार और safety को लेकर दरार
- internal conflict Altman द्वारा आगे बढ़ाई गई commercialization और company growth की रफ्तार को लेकर बढ़ा, जबकि Sutskever का रुख था कि pace धीमा किया जाना चाहिए
- Kara Swisher को sources द्वारा दी गई बातों के अनुसार, 6 नवंबर का OpenAI Dev Day वह turning point माना गया जहां Altman ने consumer-facing products को आगे रखकर “बहुत दूर, बहुत तेज़” push किया
- Altman और Brockman ने शुक्रवार रात joint statement में कहा कि वे बोर्ड की कार्रवाई से “हैरान और दुखी” हैं
- angel investor Ron Conway ने इसे 1985 में Apple बोर्ड द्वारा Steve Jobs को बाहर करने के बाद शायद ही देखे गए board coup के रूप में आलोचना की, और कहा कि यह Sam, Greg और OpenAI के builders के साथ सही नहीं हुआ
Non-profit governance structure और बचा हुआ बोर्ड
- OpenAI की असामान्य structure है, जिसमें non-profit 501(c)(3) public charity लाभकारी division का ownership और control रखती है
- हटाए जाने से पहले non-profit organization के बोर्ड में Altman, Brockman, Ilya Sutskever और OpenAI employees नहीं होने वाले 3 लोग शामिल थे
- Adam D’Angelo: Quora CEO
- Tasha McCauley: RAND corporation adjunct senior management scientist
- Helen Toner: Georgetown Center for Security and Emerging Technology में strategy and foundational research grants director
- Altman की removal और Brockman को बोर्ड से बाहर किए जाने के बाद बोर्ड में केवल Sutskever, D’Angelo, McCauley और Toner बचे
हटाने की प्रक्रिया और internal notification
- Brockman और Altman के joint statement के अनुसार, Altman को हटाया जाना उन दोनों के लिए पूरी तरह surprise था
- Altman से गुरुवार रात शुक्रवार दोपहर की remote board meeting में शामिल होने को कहा गया, और अगले दिन उसी meeting में उन्हें हटा दिया गया
- उस समय OpenAI board chairman रहे Brockman को उस meeting में invite नहीं किया गया
- करीब 30 मिनट बाद Sutskever ने Brockman को बताया कि उन्हें board role से हटाया जा रहा है, लेकिन वे कंपनी में रह सकते हैं; साथ ही यह भी बताया कि Altman को हटा दिया गया है
- Brockman ने कंपनी में बने रहने से इनकार किया और शुक्रवार देर रात इस्तीफा दे दिया
- Brockman के अनुसार, OpenAI management को इस फैसले के तुरंत बाद ही इसकी जानकारी मिली, लेकिन उस समय CTO और बाद में interim CEO बनीं Mira Murati को गुरुवार रात सूचना दे दी गई थी
“ईमानदार communication न होना” और misconduct से इनकार
- OpenAI के Altman departure announcement में कहा गया कि Altman बोर्ड के साथ communication में “लगातार स्पष्ट और ईमानदार नहीं रहे”, जिससे बोर्ड को अपनी जिम्मेदारियां निभाने में बाधा हुई
- कंपनी ने अभी तक स्पष्ट नहीं किया है कि इस expression का ठोस अर्थ क्या है
- insiders का मानना है कि यह कदम मुख्य रूप से Altman और Sutskever के बीच power struggle और cultural rift से उपजा
- conflict factors में Altman की management style और बढ़ा हुआ external PR push शामिल था
- Sutskever ने 29 सितंबर को X पर लिखा, “Ego is the enemy of growth”
- Axios द्वारा प्राप्त COO Brad Lightcap के internal memo में कहा गया कि बोर्ड का फैसला misconduct या financial, business, safety, security/privacy practices से संबंधित नहीं था
- Lightcap ने इस घटना को “Sam और बोर्ड के बीच communication breakdown” बताया
शोधकर्ताओं का जाना और internal unrest
- Altman के समर्थक 3 AI researchers ने भी शुक्रवार की खबर पर प्रतिक्रिया देते हुए कंपनी छोड़ दी
- Jakub Pachocki: GPT-4 lead और OpenAI director of research
- Aleksander Madry: AI risk assessment team के प्रमुख
- Szymon Sidor: open source baselines researcher
- उनके इस्तीफों से साफ हुआ कि Altman को हटाने से पैदा हुई internal turmoil research organization तक फैल गई थी
Superalignment, GPT-5 और pace debate
- Sutskever imaginary superintelligent AI को control करने के तरीकों पर research करने वाली Superalignment team के co-lead हैं
- इस role के कारण rumors फैल गए कि OpenAI के अंदर slow development और fast development के बीच की दरार हाल की internal breakthroughs से जुड़ी हो सकती है
- Altman ने गुरुवार को APEC CEO Summit में कहा कि वे OpenAI के इतिहास में चार ऐसे moments के साथ रहे हैं जब “अज्ञानता के परदे को पीछे धकेला गया और discovery frontier को आगे बढ़ाया गया”, और सबसे हालिया moment “पिछले कुछ हफ्तों में” था
- इन चिंताओं का मतलब यह नहीं है कि OpenAI ने superintelligence develop कर ली है, और experts इसे कम संभावना वाला मानते हैं
- Altman द्वारा उल्लेखित नया breakthrough गैर-लाभकारी organization की सुरक्षित progress की मांग और लाभकारी subsidiary की monetization demands के बीच pressure बढ़ा सकता था
- Altman ने हाल में कहा था कि GPT-4 के powerful successor माने जा रहे GPT-5 पर development जारी है
Employee messages और damage control की चुनौती
- OpenAI engineering manager Evan Morikawa ने X पर कहा कि कंपनी products जारी करती रहेगी, और Sam तथा Greg micromanagers नहीं थे
- उन्होंने कहा कि research, product, engineering और design में कई talented लोग results बना रहे हैं, और leaders के बीच बड़े mission को लेकर internal alignment है
- Lightcap ने internal memo में स्वीकार किया कि employees भ्रम, दुख और डर महसूस कर सकते हैं
- कंपनी situation को handle करने, उसे resolve करने और clarity हासिल करने, तथा काम पर लौटने पर focus कर रही है; साथ ही employees, partners, users, customers और व्यापक दुनिया के प्रति responsibility पर जोर दे रही है
- उन्होंने कहा कि कंपनी की position अभी भी मजबूत है और interim CEO Mira Murati का समर्थन किया; साथ ही process handling को लेकर concerns साझा किए और कहा कि वे situation को resolve करने के लिए काम कर रहे हैं
1 टिप्पणियां
Hacker News की राय
Sam और Greg के लिए अफसोस की बात है, लेकिन बोर्ड का काम Sam & Greg के साथ अच्छा व्यवहार करना नहीं, बल्कि OpenAI के लिए सही फैसले लेना है
जब मैनेजमेंट 10,000 कर्मचारियों को निकालता है तो निवेशक “यह तो बिजनेस है” कहकर तालियां बजाते हैं, लेकिन अपने करीबी CEO को निकाले जाने पर नैतिकता की दुहाई देना गलत लगता है
बेशक कर्मचारियों पर पड़ने वाले असर पर भी विचार करना चाहिए, लेकिन CEO कंपनी के नतीजों के लिए बड़ी जिम्मेदारी और अधिकार रखने वाले कमांडर जैसा होता है, जबकि आम कर्मचारी छंटनी झेलने में कहीं ज्यादा मुश्किल स्थिति वाले नागरिक जैसे होते हैं
Satya जैसे पार्टनर की पीठ में छुरा घोंपा, कंपनी को दो खेमों में बांट दिया, और Sam व Greg को गुस्से में बदला लेने का रास्ता खोजने पर मजबूर कर दिया
नतीजतन यह जोखिम भी पैदा हो गया कि बिना किसी ऊंचे उद्देश्य वाली for-profit OpenAI बाजार पर हावी हो जाए, और जिस तरह यह सब हुआ, उसे सही ठहराने की गुंजाइश नहीं दिखती
सहायक for-profit entity OpenAI Global LLC के निवेशकों को साफ तौर पर बताया गया था कि वे अपने निवेश को दान जैसा मानें, और कंपनी का उद्देश्य निवेशकों को रिटर्न देना नहीं, बल्कि nonprofit entity के public-benefit function को पूरा करना है
ऐसा लगा कि उन्हें बिल्कुल एहसास नहीं था कि अर्थपूर्ण और प्रभावशाली कंपनियां बनाना चाहने वाले श्रोताओं के सामने यह बात कैसी लगेगी
बहुत पैसा होने का मतलब यह नहीं कि उस व्यक्ति का निर्णय-विवेक उपयोगी हो
वे निश्चित रूप से founder-friendly हैं, लेकिन लागत कटौती या layoffs को धकेलने वाले निर्मम investor type नहीं लगे
अगर इसे भारी बहुमत की सहमति पर ही संभव बनाया जाए तो यह ज्यादा निष्पक्ष हो सकता है, और कम से कम एक दिलचस्प ढांचा तो होगा
सब लोग हंगामा कर रहे हैं, लेकिन कई कंपनियों में “महत्वपूर्ण” CEOs के साथ काम करने के अपने अनुभव के आधार पर, अगर वह CEO चला भी जाता तो मुझे बिल्कुल फर्क नहीं पड़ता
CEO बाहर से कंपनी के प्रदर्शन का श्रेय जरूरत से ज्यादा ले लेते हैं, और इसका मतलब यह नहीं कि CEO वाकई उतने महत्वपूर्ण हैं
OpenAI अलग हो सकता है, लेकिन मैं यह मानकर नहीं चलूंगा कि यह पूरी तरह अपवाद है
लेकिन अगर public-interest mission वाली nonprofit संस्था किसी for-profit कंपनी की मालिक हो, तो वह दिशा गलत तरफ जा सकती है
Dev Day announcements, खासकर marketplace, संकेत दे सकते हैं कि OpenAI में ठीक यही हो रहा था
हर कोई “move fast and break things” तरीके से शानदार LLM खिलौने बेचना नहीं चाहेगा, और लगता है कि ये लोग चाहते हैं कि दूसरों के गैर-जिम्मेदाराना ढंग से करने से पहले जिम्मेदार AGI का नेतृत्व करें
समूह इतना छोटा होता है कि अगर कोई सब कुछ पूरी तरह बर्बाद न कर दे, तो उसे तुरंत genius मान लिया जाता है
अरबों डॉलर और सैकड़ों शानदार engineers व researchers दे दिए जाएं तो बहुत से लोग किसी तरह चीजें चला सकते हैं, लेकिन ऐसे मौके बहुत कम लोगों को मिलते हैं, इसलिए ऐसा होता है
अक्सर असली काम किए बिना ही श्रेय ले लिया जाता है
यह भी सामने आ सकता है कि Sam और दूसरे लोग असल में सक्षम technical evangelists या salesmen के ज्यादा करीब थे, और शायद इसी वजह से अभी tech industry के लोग बेचैन हैं
पिछली दिशा काफी हद तक लोगों को technology के ऊपर कुछ बनाने देने पर केंद्रित थी
अब चिंता है कि यह बदलकर सिर्फ उन researchers तक access नियंत्रित करने का तरीका बन जाएगा जिन्हें “safe” माना जाता है
अगर कोई किसी production process से बहुत गहराई से परिचित नहीं है, तो लोग उसके सबसे publicly visible पहलू और सबसे ज्यादा अधिकार वाला दिखने वाले व्यक्ति पर अटक जाते हैं
भले ही directors या CEOs को भी अक्सर दूसरों के प्रति जवाबदेह होना पड़ता है; हां, किसी व्यक्ति का प्रभाव बड़ा हो सकता है, लेकिन वह महानता शायद ही कभी अकेले दम पर आती है
जिस board का खुद अपने ऊपर या अपने कर्मचारियों पर नियंत्रण नहीं है, उस पर यह भरोसा करना मुश्किल है कि वह AI को जिम्मेदारी से मैनेज कर सकता है, और यह भी सवाल है कि क्या कोई भी AGI को मैनेज कर पाएगा
nonprofit संगठनों में पुराने governance issues होते हैं, और अस्पष्ट लक्ष्य अंदरूनी राजनीति को जन्म देते हैं
for-profit board का फायदा यह है कि लक्ष्य अभी growth बनाम बाद में growth जैसे अच्छी तरह समझे जाने वाले risk trade-off तक सीमित हो जाते हैं, और board members भी ऐसे लोग चुने जाते हैं जिनका उन लक्ष्यों में वास्तविक हित हो
धार्मिक संगठनों या वैचारिक सरकारों पर भरोसा करना कठिन होने की वजह भी यही है कि वे अंदरूनी राजनीति के कब्जे में आ जाते हैं
मुझे लगता है कि AI/AGI को पूरी तरह for-profit business ही रहने देना, लेकिन जिम्मेदारी का default उलटकर product से बनने वाली सभी external costs developer पर डालना ज्यादा तर्कसंगत होगा
software और internet ऐसे क्षेत्र रहे हैं जहां consumers को थोपे गए costs के लिए व्यावहारिक रूप से कोई remedy नहीं मिलती थी, और उसी की बदौलत इनमें जबरदस्त growth और disruptive innovation हुआ
AI/AGI को control करना हो तो उसे for-profit बनाएं, लेकिन external cost liability developers पर डालें; तब applications बहुत संकरे हो जाएंगे और केवल उन मामलों तक सीमित रहेंगे जिनमें net social benefit हो
केवल economic logic को आँख मूंदकर follow करने से समस्याएं पैदा हो सकती हैं, और अमेरिकी corporate culture के अच्छे product पहले बनाने से shareholder value maximization की ओर जाने का एक बड़ा कारण भी यही है
हालांकि सिर्फ इस decision को देखें तो OpenAI board मनमौजी और impulsive लगता है
इसलिए nonprofit organizations में मानवीय स्तर की politics ज्यादा शामिल होना अनिवार्य है
अगर आप nonprofit के actions के बीच रहना चाहते हैं, तो यह बात स्वीकार करनी होगी
politics की वजह से इसे भरोसे लायक नहीं कहना कुछ वैसा ही है जैसे कहना कि मानवीय मामले शामिल होते ही यह computer से कम भरोसेमंद हो जाता है
अगर आप effective politics की कल्पना नहीं कर सकते, तो effective human affairs की भी कल्पना नहीं कर सकते, और फिर capitalism के market जैसे simple optimization systems का mechanical काम ही बचता है
ये सब छोटी-सी कमाई के लिए हुआ
बस current data को model में real time में reflect करने का तरीका ढूंढना होगा, और लगता है OpenAI में भी इस पर सक्रिय रूप से काम हो रहा होगा: https://www.workbyjacob.com/thoughts/from-llm-to-rqm-real-ti...
असली खतरा यह नहीं है कि बच्चे illegal drugs बनाने की recipes पूछेंगे, बल्कि यह है कि कोई government उस output को Skynet जैसे national defense system में डाल देगी
LLM के military-industrial complex applications पर अजीब चुप्पी देखकर संदेह होता है कि शायद यह भी OpenAI की कहानी का हिस्सा हो
HN पर मैंने देखा कि लोग कह रहे थे कि बहुत अहम engineer भी इतना अहम नहीं होता और Ilya भी replaceable हैं, उदाहरण के तौर पर Woz के जाने के बाद Apple के बढ़ने का मामला देते हुए; लेकिन मुझे लगता है कि बेहतर तुलना Quake रिलीज़ होने के बाद John Carmack द्वारा id Software से Romero को निकालने की है
Carmack ने Commander Keen की smooth horizontal scrolling से लेकर Doom के नकली 3D और Quake के full 3D तक, करीब 10 साल तक cutting-edge तकनीक को आगे बढ़ाते हुए graphics में बहुत बड़ा विकास किया, और 1991–1996 के दौरान id के नए engines ने असल में नए genres बना दिए
उस समय id के अंदर भी यह बात पता थी, और इसी वजह से Carmack के पास co-founder John Romero को fire करने जितनी ताकत थी
Romero id का चमकदार और हर जगह दिखने वाला public face था, लेकिन निकाले जाने के बाद बहुत पैसा और जबरदस्त publicity मिलने पर भी वह Doom या Quake जितनी बड़ी चीज़ नहीं बना सका और उसकी नई company भी बंद हो गई
इसके उलट Carmack के तहत id लगातार hits देता रहा
cutting-edge तकनीक से थोड़ा-थोड़ा extra performance निकालने पर जब revenue बहुत बढ़ता हो, तो engineering expertise वाकई बहुत अहम होती है; जैसे 90s के PC graphics में था, वैसे ही आज LLM output quality में भी है
इसलिए जैसे Carmack id की growth का core engine था, मुझे लगता है कि Ilya के OpenAI में वैसी ही भूमिका होने की काफी संभावना है
Quake 1 के बाद id का output साफ तौर पर एक स्तर नीचे चला गया; तकनीक शानदार थी, लेकिन games boring और inspiration से खाली थे, और ज्यादा से ज्यादा “अच्छे” थे, “महान” नहीं
2016 में Doom आने तक 20 साल तक वे फिर से कोई सचमुच interesting चीज़ नहीं बना पाए
Romero के बाद id की सबसे बड़ी सफलता game developer के तौर पर नहीं, बल्कि technology licensing company के तौर पर थी, जिसने Half Life, Medal of Honor, Call of Duty जैसे games को चलाया
दूसरी तरफ Romero की Ion Storm आखिरकार fail हुई, लेकिन Deus Ex और Anachronox जैसे interesting games तो निकले, और मेरे हिसाब से Daikatana भी Quake 2 या Quake III से ज्यादा interesting है
ऐसा व्यक्ति जरूरी है जो revenue, investors और partners के जरिए capital लगातार लाए और GPU व proprietary datasets तक access दिलाए
Carmack एक computer और अपने दिमाग के दम पर graphics को आगे बढ़ा सकता था, लेकिन Ilya को OpenAI को आगे बढ़ाते रहने के लिए इससे कहीं ज्यादा चीज़ों की जरूरत है
सिर्फ बहुत बड़ा दिमाग काफी नहीं है
यह trick उनके इस्तेमाल करने से 10 साल से भी ज्यादा पहले से मौजूद थी, और मुझे याद है कि Carmack द्वारा इसे “invent” करने से काफी पहले IEEE magazine में Jim Blinn के column में इसी तरह की dirty tricks पढ़ी थीं
https://en.wikipedia.org/wiki/Fast_inverse_square_root
Ilya इस मामले में Carmack जैसे नहीं हैं; वे GPT-[n] बनाने से ज्यादा safety और alignment research पर focus करते रहे हैं
कई explanations के मुताबिक, हाल के वर्षों में इस कदम से तंग आकर छोड़ने वाले Greg Brockman और कल resign करने वाले senior researchers का प्रभाव Ilya से ज्यादा था
id को भी कम करके नहीं आंकना चाहिए। Ion Storm की तरह वह शानदार तरीके से फटा नहीं, लेकिन id की मौजूदगी धीरे-धीरे कम हुई; graphics आगे थे, फिर भी शुरुआती Carmack+Romero दौर की innovation peak नहीं थी, और आखिरकार उसे Zenimax को बेच दिया गया
Carmack अकेले Romero अकेले से बहुत बेहतर था, लेकिन लगता है कि दोनों साथ थे तब जितना अच्छा नहीं था
Sam Altman भी John Romero जैसे नहीं हैं। Romero की Ion Storm वाली समस्या यह थी कि perfection के पीछे भागते हुए वह अंतहीन घूमता रहा और release नहीं कर पाया, लेकिन Ilya की Altman से समस्या उलटी थी—कि वे बहुत जल्दी release करते हैं
उम्मीद है Sam और Greg एक नई foundation AI company शुरू करेंगे, और अगर ऐसा होता है तो वह Ilya और Helen की चाही हुई alignment·regulation-focused OpenAI से कहीं ज्यादा रोमांचक लगेगी
उसके बाद की list, जैसा कि https://en.wikipedia.org/wiki/List_of_id_Software_games में है, Quake 2, Quake 3, Doom 3 जैसी है, और इनके अलावा value या cultural impact वाली चीज़ें बहुत कम हैं
technical achievements बहुत थीं, लेकिन याद रह जाने वाले games के लिए interesting technology से ज्यादा कुछ चाहिए होता है
आज इन games को देखने वाले लोगों के लिए Quake बस Quake है, वे 1·2·3 को अलग-अलग याद नहीं रखते
यह सही है कि id एक successful software company थी, लेकिन नहीं लगता कि Romero के बाद के output भर से वह industry giant बनकर videogames के future को shape कर पाती
कहा जा सकता है कि Carmack ने अकेले Romero से ज्यादा हासिल किया, लेकिन videogames के क्षेत्र में सचमुच greatness हासिल करने के लिए दोनों को एक-दूसरे की जरूरत थी
Altman और Sutskever के बारे में इतिहास क्या कहेगा, यह अभी देखना बाकी है
यह बर्खास्तगी बहुत निजी बर्खास्तगी जैसी दिखती है
जब तक कोई वाकई गंभीर कृत्य अतिरिक्त रूप से सामने नहीं आता, कोई जिम्मेदार board आंतरिक power struggle से जुड़े व्यक्तिगत वैमनस्य के बिना company की reputation और partners को इस तरह बेपरवाही से नुकसान पहुँचाते हुए CEO को नहीं हटाता
इसमें शामिल सभी लोगों के लिए यह शर्मनाक है, और sama के पास सचमुच शिकायत उठाने की वजह है
कानूनी fallout भी संभव दिखता है
बेशक, अगर सच में AGI का आविष्कार हो गया था और sama उसे monetize करने की कोशिश कर रहा था, तो AGI doomer board ने असावधानी से कदम उठाया हो सकता है
फिर भी, उस स्थिति में भी यह बहस बंद दरवाजों के पीछे सुलझाई जानी चाहिए थी
सबको Jobs याद आएंगे, लेकिन 80 के दशक के TSR के Gary Gygax भी एक और उदाहरण हो सकते हैं
इस बीच TSR भारी घाटा कर रहा था, और 80 के शुरुआती दशक में सालाना revenue मुश्किल से 30 million dollar था, जबकि debt 1.5 billion dollar था
ऊपर से Gygax का पतन उनके अपने coup का नतीजा था
उन्होंने Kevin Blume को बाहर किया और Lorraine Williams को लाए, लेकिन Williams ने Blume की सारी हिस्सेदारी खरीदने के करीब एक साल बाद Gygax का company पर control खत्म कर दिया, अधिकतर projects cancel कर दिए, और एक साल बाद उन्होंने इस्तीफा दे दिया
फिलहाल उनके पास moral high ground है और board छोटा और अपरिपक्व दिख रहा है, इसलिए इस स्थिति को पलट देने वाला कोई कदम उठाना मूर्खता होगी
वे आने वाले कुछ हफ्तों में कोई नया venture announce करने की अच्छी संभावना रखते हैं, और वह AI है या नहीं, इससे पता चलेगा कि वे इस क्षेत्र की संभावनाओं को असल में कैसे देखते हैं
Brockman और बाकी लोग शायद AI में ही कुछ नया काम शुरू करेंगे
उनका स्वभाव abusive और संभालना मुश्किल था, Macintosh तब sales failure था, और Lisa बनाम Mac की तरह वे internal teams और company politics का इस्तेमाल कर teams को एक-दूसरे के खिलाफ खड़ा करते थे, जिससे integration और success को नुकसान होता था
वापस आने के बाद भी उनका स्वभाव अभी भी मुश्किल था, लेकिन वे दूसरी समस्याएँ फिर नहीं हुईं
वापसी के बाद Apple एक साझा collaborative vision को execute करने में बेहद सक्षम company बन गई
Arneson को royalties न देनी पड़ें, इसलिए AD&D बनाने वाली बात से ही यह साफ है
वह सचमुच एक formative experience था
यह साफ है कि for-profit growth camp और non-profit growth camp के बीच tension था, लेकिन Dev Day को आखिरी निर्णायक वार के तौर पर पेश किया जाना समझ नहीं आता
वह product launch event था
Ilya और board को महीनों पहले से पता होना चाहिए था कि उस दिन क्या reveal होगा, और कम-से-कम उन्होंने plans देखे होंगे या शायद approve भी किए होंगे
line खींचने का समय launch से पहले था; ऐसा लगता है जैसे announcement के बाद आईना देखकर अचानक होश आ गया हो
announcement में ही कहा गया था कि Sam किसी न किसी तरह candid नहीं थे, और Greg भी प्रभावित हुए
Ilya शायद एकमात्र board member हो सकते थे जिन्हें day-to-day work के चलते स्वाभाविक रूप से पता होता, लेकिन वे जुलाई के आसपास से superalignment क्षेत्र में काम कर रहे थे, इसलिए हो सकता है यह अलग department रहा हो
board को third party या Ilya के जरिए project का पता चला हो, उन्होंने Sam से कहा हो कि यह बहुत तेज है, फिर भी Sam ने ignore करके launch कर दिया हो
असल में कोई नहीं जानता
बल्कि यह board announcement में Sam के candid न होने वाली बात से मेल खा सकता है
यह OpenAI के लिए बुरा है, लेकिन OpenAI की जगह लेने को तैयार भूखे competitors इतने ज्यादा हैं कि पूरे क्षेत्र पर इसका कोई बड़ा long-term असर होगा, ऐसा नहीं लगता
जानना चाहूँगा कि investors, या donors, के पास किस तरह के oversight rights और remedies हैं
आज काफी पैसा लगाने वाले बहुत से लोग काफी नाराज हुए होंगे
यह पूरी तरह आईना देखने वाला क्षण रहा हो सकता है
Ilya Sutskever वे व्यक्ति हैं जो सचमुच मानते हैं कि LLM ही AGI है, और इस मामले में वे University of Toronto में अपने advisor रहे Geoff Hinton से जुड़े दिखते हैं
Hinton ने कहा था, “अगर आप उसे अगला word predict करने में सचमुच बहुत अच्छा बनने के लिए train करते हैं, तो आप उसे असल में understand करने के लिए force कर रहे होते हैं। हाँ, यह autocomplete है, लेकिन आपने सोचा नहीं कि सचमुच अच्छा autocomplete क्या मतलब रखता है”[1]
दूसरी ओर Altman ने फैसला किया कि LLM वह रास्ता नहीं है[2]
इसलिए Altman ने LLM को for-profit product बनाकर value निकालने की कोशिश की, और Sutskever पक्ष ने उसे AGI मानकर non-profit बनाए रखने की कोशिश की लगती है
एक और फर्क यह भी है कि AGI existential risk है या मौजूदा AI risks algorithmic bias, socioeconomic inequality, misinformation और disinformation, techno-solutionism की तरफ हैं
एक और परिकल्पना भी है
कहा जा रहा है कि हटाए जाने की कार्रवाई शायद OpenAI की तकनीक के deployment की सुरक्षा और गति को लेकर चिंताओं के कारण मुख्य वैज्ञानिक Ilya Sutskever ने आगे बढ़ाई थी, लेकिन GPT/agent marketplace पहले OpenAI ने नहीं, Quora के Poe ने लॉन्च किया था
और OpenAI के nonprofit board में Quora CEO बैठे हैं
कम-से-कम Altman और Greg के खिलाफ वोट डालते समय उनके हित कहाँ थे, यह समझा जा सकता है
ChatGPT कंपनी के इतिहास का सबसे बड़ा product और consumer market की दिशा में सबसे बड़ा कदम था
इसलिए इसे बस ऐसे divide के रूप में देखना मुश्किल है कि “Sam revenue चाहते थे और Ilya/board pure research चाहता था”
अगर कोई nonprofit संस्था, जिसके board में आप बैठे हैं, ऐसा product लाती है जो आपकी अपनी चलाई हुई कंपनी के product से compete करता है, तो आप उस conflict of interest को कैसे manage करेंगे
लगता है उन्हें पीछे हट जाना चाहिए था
यह coup नहीं है
Coup शब्द तब इस्तेमाल होता है जब सत्ता जबरन छीनी जाती है, तब नहीं जब members यह तय करते हैं कि आप अब उनके हितों का सही प्रतिनिधित्व नहीं करते
यह वैसा ही है जैसे किसी politician के election हारने को coup कहना
इसे coup कहने से गलत संकेत जाता है कि OpenAI किसी अर्थ में Sam Altman की property थी
इसके बजाय coup के करीब वह सोच है जिसमें founder कंपनी बनाता है, equity बेच देता है, फिर भी उसे अपनी चीज की तरह own करने का दावा करता है
यानी वास्तविक owners से control छीनकर public face वाले executive को दे देना
शाब्दिक coup सच में military support से state को जबरन take over करना होता है, लेकिन business और broader दुनिया में coup रूपक के तौर पर गुप्त रूप से planned और अचानक execute किया गया power grab होता है
जैसे कोई company “war declare” करती है तो उसका मतलब missile चलाना और लोगों को मारना नहीं, बल्कि resources को किसी उद्देश्य पर focus करके compete करना होता है
यह घटना साफ तौर पर coup है
board के कुछ लोगों ने इसे गुप्त रूप से plan किया, chair समेत दो लोगों के बिना secret board meeting में execute किया, और for-profit entity में 49% invest करने वाली Microsoft तक को कोई जानकारी या say नहीं था
मैं सही-गलत की बात नहीं कर रहा, लेकिन यह history books में दर्ज होने वाले board coup में से एक है
इसके HN ही नहीं, NYT और WSJ के front page-level news बनने की वजह है
French Revolution में भी Robespierre का पतन, Directory द्वारा elections को void करना जैसी घटनाओं को अक्सर coup के रूप में describe किया जाता है
आखिरी वाला तो कुछ हद तक bloodless भी था
यह OpenAI के constitutional order की रक्षा के ज्यादा करीब है
कंपनी Mozilla की तरह nonprofit-centered है, और for-profit arm को जानबूझकर इस तरह design किया गया था कि वह mission को पूरा करने के लिए capital जुटाने के उद्देश्य से मौजूद रहे
structure पर उन्होंने खुद जो लिखा है, उसे देखना चाहिए: https://openai.com/our-structure
खासकर यह हिस्सा: https://images.openai.com/blob/142770fb-3df2-45d9-9ee3-7aa06...
OpenAI brand का commercial side गायब-सा लगता है
जब nonprofit board development को धीमा करके और inferior product देकर customers के हितों के खिलाफ जाता है, तो customers OpenAI पर कैसे depend करेंगे
दूसरी ओर OpenAI का AGI side ठीक रहेगा
Ilya Sutskever के नेतृत्व में responsible AGI development जारी रहेगा, और उम्मीद है सफल होगा
Microsoft शायद कुछ lawsuits file करेगी और internally OpenAI को obstruct करेगी
यह लगभग 3 trillion dollar की company है और उसके पास lawyers की फौज है, इसलिए खासकर अगर Silicon Valley VC side में OpenAI के लिए ज्यादा sympathy नहीं हुई तो वह बड़ा नुकसान पहुँचा सकती है
वह bankrupt हो सकती थी, lawsuits से टूट सकती थी, या Microsoft द्वारा acquire की जा सकती थी
सिर्फ CEO को fire करने की बात से यह देखना चाहिए कि सफलता GPT की वजह से थी या CEO की वजह से
पहला अभी भी वैसा ही है और inferior भी नहीं हुआ
growth slow होना shrink होने के बराबर नहीं है
उस area में competitors तेजी से catch up कर रहे हैं
अगर सच में Dev Day जैसी चीजों की वजह से ऐसा हुआ है तो इसमें कुछ हद तक तुक हो सकती है, लेकिन अगर लोगों की मदद करने वाली useful AI को indecent माना जाने लगे, तो क्या OpenAI और ज्यादा बंद cult बनती जा रही है
यानी पैसे देने पर भी इस्तेमाल न कर सकने वाली ClosedAI बन जाएगी
fast.ai के Jeremy Howard का लेख: https://x.com/jeremyphoward/status/1725712220955586899
वे बिल्कुल insider तो नहीं हैं, लेकिन Ilya और researcher camp से broadly जुड़े या sympathetic लगते हैं, और connections भी दिखते हैं
वह tweet और perspective अंदरूनी sense of split कैसा रहा होगा, इसका अंदाजा लगाने के लिए उपयोगी proxy थे
मेरे जैसे developers समेत developers को Dev Day पसंद आया था