यह पूरा मामला संदिग्ध लगता है
बोर्ड Sam को हटाते समय “लक्ष्यों पर गहरी असहमति”, “मौलिक असंगति” जैसे सामान्य कारण दे सकता था, लेकिन इसके बजाय उसने “लगातार ईमानदार नहीं रहे”, “अब भरोसा नहीं रहा” जैसे शब्दों में इसे ऐसा दिखाया जैसे जिम्मेदारी Sam की हो
संभव है कि बर्खास्तगी की सचमुच कोई वाजिब वजह रही हो, या यह जानबूझकर ध्यान भटकाने की कोशिश रही हो। अगर दूसरा सच है, तो उल्टा बोर्ड ही “लगातार ईमानदार नहीं” पक्ष है। इसके बाद की चुप्पी और रणनीतिक partners के साथ coordination की कमी देखकर ऐसा और भी लगता है
Ilya का अब पछतावा जताना ज्यादा “पकड़े जाने पर शर्मिंदगी” जैसा लगता है। लगता है उन्होंने एक करिश्माई public figure को बदनाम किया और coup रचा, लेकिन उसके fallout को संभालने की कोई योजना नहीं थी https://www.newcomer.co/p/give-openais-board-some-time-the
एक और संभावना यह है कि Sutskever को manipulate किया गया और वह संदिग्ध बहाने वाले plan में खिंच गए, और अब उन्हें इसका एहसास हुआ है और वे इसे ठीक करने की कोशिश कर रहे हैं
“लक्ष्यों पर गहरी असहमति” — कहीं यह फैसला GPT-5 ने तो नहीं किया?
क्या Altman सऊदी पक्ष के साथ मिलकर AI accelerator बनाने वाला कोई अलग startup तैयार नहीं कर रहे थे?
अब वजह साफ-साफ बतानी चाहिए। फिलहाल तो सऊदी से जुड़ी थ्योरी ही सबसे बड़ा कारण लगती है
सही। यह मानना ठीक है कि बोर्ड ने इस पूरे मामले को सामान्य dismissal की तरह package किया। अगर कोई वास्तविक misconduct या पुरानी समस्या का फिर उभरना नहीं है, तो यह काफी गैर-जिम्मेदाराना लगता है
open letter में लिखा है कि OpenAI दुनिया की leading AI company है, कर्मचारियों ने best models और AI safety तथा governance पर काम किया है, और Sam Altman की बर्खास्तगी तथा Greg Brockman को बोर्ड से निकालने की प्रक्रिया ने इस पूरे काम और mission को खतरे में डाल दिया
खास तौर पर यह बात ध्यान खींचती है कि कई बार ठोस तथ्य या लिखित evidence मांगने पर भी बोर्ड ने कुछ पेश नहीं किया, और leadership team से कहा कि “company को नष्ट होने देना भी mission के अनुरूप हो सकता है”
क्या उन्होंने सच में AGI हासिल कर लिया है? या फिर कुछ चिंताजनक phenomenon देखा है?
Ben Thompson की व्याख्या सबसे अच्छी लगती है। हालांकि वह nonprofit organizations को लेकर कुछ ज्यादा आलोचनात्मक bias रखती है https://stratechery.com/2023/openais-misalignment-and-micros...
AI risk कितना है, यह नहीं पता, लेकिन उसे रोकने के उपाय पर nonprofit organization का research करना valuable है। For-profit companies शायद ऐसा काम न करें, जैसे Google ने Timnit Gebru और Margaret Mitchell को निकाल दिया था
अगर वे सचमुच उस mission में विश्वास करते हैं, तो उन्हें safety-guard technology develop करके उसे open source में release करना चाहिए। Microsoft, Google, Meta, Amazon जैसी companies शायद AI safety में serious investment न करें, लेकिन किसी और का free work इस्तेमाल करने से परहेज नहीं करेंगी। हालांकि इसमें पैसा नहीं है, इसलिए OpenAI के ज्यादातर employees बेहतर terms ढूंढकर चले जाने की संभावना है
यह भूल रहे हैं कि पैसे से ज्यादा power का temptation बड़ा होता है
nonprofit organizations भी आखिरकार खुद gatekeeper की भूमिका निभाते हुए, “आम लोगों के लिए यह बहुत खतरनाक है” के नाम पर public access रोकने वाले solutions निकालेंगी
मेरी नजर में for-profit company के control में रहना बेहतर है। ideally यह open source होना चाहिए ताकि आम लोग अपने goals के हिसाब से AI को control और align कर सकें
सहमत हूं। यह safety discussion early cybersecurity के दौर की याद दिलाती है, जब security through obscurity standard थी
intuition के उलट, technology को बंद करके रखना price और wage control जैसा है। जब तक आप दुनिया भर के GPUs जब्त नहीं करते और data centers पर बमबारी नहीं करते, यह काम नहीं करेगा
आने वाले AGI और ASI को align करने का सबसे अच्छा तरीका उसे धूप में बनाना है। “बंद करके रखो” वाला approach हर तरह से fail होने के लिए doomed है
Timnit Gebru एक बहुत toxic activist थीं जो पूरे AI/ML department को नुकसान पहुंचा रही थीं, और management ने उस व्यक्ति को हटाया जो department को hostage बनाए हुए था
Microsoft के लिए तो लगता है Christmas जल्दी आ गया
10 अरब डॉलर के investment से जुड़ी जो बात भयानक स्थिति लग रही थी, वह इस field के core talent को hire करने में बदल गई, और OpenAI को survive करने के लिए Microsoft द्वारा acquire होना पड़ सकता है
पिछले 72 घंटों में सामने आई पूरी अफरातफरी देखकर, OpenAI ChatGPT के ऊपर कुछ बनाने में interest काफी घट गया होगा। वहीं Azure OpenAI या Claude 2 के ऊपर build करना ज्यादा attractive लग सकता है
अगर मुझे सही याद है तो OpenAI ने Azure पर training की थी; जब दोनों तरफ GPU की भूख है, तो conflict of interest कैसे सामने आएगा?
“participation” शब्द ऐसा सुनाई देता है जैसे वह leader नहीं बल्कि सिर्फ participant थे। यह सच है या नहीं, पता नहीं, लेकिन word choice दिलचस्प है
6 लोगों के board में 2 लोगों को बाहर निकालने के लिए vote करके आप मासूम दर्शक नहीं हो सकते। numbers match नहीं करते
ऊपर से सभी media outlets Ilya को coup की driving force बता रहे थे
सच कहूं तो यह काफी pathetic है। अगर यह सचमुच conviction का मामला था, तो कम से कम एक weekend तो टिकना चाहिए था
पूरा sentence अजीब तरह से लिखा गया है
वह regret जताते हैं, लेकिन यह नहीं कहते कि Altman को वापस लाना चाहते हैं। बस कहते हैं कि OpenAI को ठीक करना चाहते हैं
वे कहते हैं “participated”, लेकिन किसमें participated, यह unclear है। vote में, toxic messaging में, या दोनों में। वे आखिर किस बात का regret कर रहे हैं? फिर से कहूं तो वे यह नहीं कहते कि Altman को fire करने के vote का regret है
वे सीधे यह क्यों नहीं कहते, “मुझे Sam Altman को fire करने के लिए vote करने का regret है, और मैं उन्हें वापस लाने की कोशिश कर रहा हूं”? शायद इसलिए कि यह सच नहीं है। फिर भी वे वही impression दे रहे हैं
अगर ouster को Poe पक्ष के किसी व्यक्ति ने lead किया था, तो यह वास्तविक ideological difference से ज्यादा अंदरूनी तौर पर competitor को हटाने जैसा भी हो सकता है
मुझे लगता है इस tweet का मुख्य उद्देश्य regret दिखाना नहीं, बल्कि यह impression बनाना है कि उन्होंने lead नहीं किया, बस participate किया
क्या यह व्यक्ति संगठन में इतना ऊँचे पद पर है कि जानता हो Ilya क्या चाहता है?
या फिर अपने करोड़ों डॉलर जोखिम में पड़ने से गुस्सा है?
“Ilya को सुरक्षा या मानवता की परवाह नहीं है। बस उसका अहंकार और सत्ता की चाह उलटी पड़ गई है।”
यह बात ज़्यादा भरोसेमंद लगती है
समझ नहीं आता कि अचानक लोग क्यों सोचने लगे हैं कि इंसान पैसे और सत्ता से प्रेरित नहीं होते। “विद्वान” हों तो बिल्कुल नहीं, यह मानना तो और भी हास्यास्पद है
आखिर यह क्या है?
अब तक मैं इस अफरा-तफरी को सिद्धांतों का मामला समझ रहा था। गड़बड़ जरूर थी, लेकिन लगा था कि Ilya के पक्ष ने जिस कंपनी संस्कृति की कल्पना की थी, उसे ठीक करने के लिए यह जरूरी था
अगर कदम उठाना ही था, तो कम से कम उस रुख पर टिके रहना चाहिए। इस ट्वीट से लगता है कि पूरे मामले का संदर्भ 10 गुना और खराब हो गया है
आम लोगों के लिए किसी बड़े विवाद के केंद्र में खड़ा होना सहना मुश्किल होता है। झेलनी पड़ने वाली नकारात्मकता और नफरत बहुत ज्यादा होती है
लगभग किसी को भी उसे रोकने के लिए पीछे हटने पर मजबूर किया जा सकता है
बात सीधी है। उसने कदम उठाया, मामला बिगड़ गया, और अब वह विस्फोट से बचने की कोशिश कर रहा है
अगर वह बस चुप रहता, तो आज कोई इस बारे में बात भी नहीं कर रहा होता, क्योंकि पहले ही बहुत कुछ और हो चुका है। दो दिन में 2 interim CEO
इस पूरे तमाशे में अभी लगभग यही एक चीज है जो समझ में आती है
असल में क्या हुआ, यह जानना मुश्किल है, लेकिन संभव है कि Ilya के “खेमे” वाली कहानी वास्तविकता से अलग रही हो
यह बहुत कम सबूतों के आधार पर स्थिति को समझने की कोशिश करते हुए बने सोशल मीडिया groupthink की hallucination भी हो सकती है
कई प्रतिक्रियाएँ हैं कि “अगर कदम उठाना था तो कम से कम उस रुख पर टिके रहना चाहिए”, लेकिन मैं इसे अलग तरह से देखता हूँ
कभी-कभी मैंने उस समय किसी फैसले को अच्छा समझा, लेकिन बाद में व्यापक दृष्टिकोण मिलने पर महसूस किया कि वह भयानक फैसला था
गड़बड़ करने पर यह मान पाना कि गड़बड़ हुई है, एक अच्छी खूबी है। गलती पर अड़े रहना सम्मानजनक नहीं है
यकीन नहीं होता कि इतने समझदार लोग इतना noise पैदा कर रहे हैं
Mensa मीटिंग में बुनियादी संगठन संचालन के मुद्दों पर भी सहमति न बना पाने वाले एक दोस्त की बात याद आती है
लग रहा है कि यह सब एक media event था जिसमें ChatGPT को एक-दो दिन के लिए board decisions सौंपकर देखा गया
AGI जो पहली कार्रवाई में अपने boss को निकाल दे, तो वह काफी perfect होगा
RLHF मॉडल ऐसा सुझाव कभी नहीं देता। सुझाए जाने वाले समाधान हमेशा हाथ पकड़कर “Kumbaya” गाने की तरफ होते हैं
शायद original GPT-4 सबको निकालना चाहता हो
कुछ दिनों से लग रहा है कि HN submissions में लगभग आधे इसी drama के बारे में हैं
क्या यह DM में नहीं हो सकता? समझ नहीं आता कि हर चीज Twitter पर public क्यों करनी पड़ती है
यह काफी विरोधाभासी है कि leading ML/AI systems बनाने वाले लोग ही स्वार्थ और भावनाओं में सबसे गहराई से जमे दिखते हैं, और बाहर से देखने पर उनमें rationality बहुत कम लगती है
हो सकता है गलती से evil AGI-GPT बना लिया गया हो, और अब उसकी prediction capability को confuse करने के लिए सब लोग जितना हो सके random और unexpected व्यवहार कर रहे हों
लगता है उसे बस इसलिए पछतावा हो रहा है क्योंकि मामला बुरी तरह उलटा पड़ गया
Microsoft OpenAI की सारी valuable चीजें निगल रहा है, और उसे पता है कि उसके लिए कुछ नहीं बचेगा
बहुत बड़े दाँव पर bluff किया और हार गया
यह हाल के वर्षों में Netflix, Disney, Amazon, Apple TV ने जो कुछ भी निकाला है, उससे ज्यादा entertaining है
plot थोड़ा अवास्तविक जरूर है
थोड़ा अफसोस है कि किसी भी main character से सहानुभूति नहीं होती
अगर यह सब आपको बहुत dramatic लगता है, तो आपने कभी YC company में काम नहीं किया। बस मौजूदा ecosystem में OpenAI के मायने की वजह से यह amplified दिख रहा है
क्या Netflix पहले से ही फिल्म पर काम कर रहा होगा? ChatGPT दिलचस्पी के लिए सही मात्रा में hallucination मिलाकर screenplay में मदद कर सकता है
जाहिर है, गहरा पछतावा होगा, लेकिन अब थोड़ी देर हो चुकी है
अच्छी खबर यह है कि Twitch लंबे समय तक इस्तेमाल करने वाले लोग जानते होंगे कि अगर Emmett Shear कमान संभालते हैं, तो OpenAI के बहुत तेजी से नए features जारी करने से अब डरने की जरूरत नहीं होगी
1 टिप्पणियां
Hacker News की रायें
यह पूरा मामला संदिग्ध लगता है
बोर्ड Sam को हटाते समय “लक्ष्यों पर गहरी असहमति”, “मौलिक असंगति” जैसे सामान्य कारण दे सकता था, लेकिन इसके बजाय उसने “लगातार ईमानदार नहीं रहे”, “अब भरोसा नहीं रहा” जैसे शब्दों में इसे ऐसा दिखाया जैसे जिम्मेदारी Sam की हो
संभव है कि बर्खास्तगी की सचमुच कोई वाजिब वजह रही हो, या यह जानबूझकर ध्यान भटकाने की कोशिश रही हो। अगर दूसरा सच है, तो उल्टा बोर्ड ही “लगातार ईमानदार नहीं” पक्ष है। इसके बाद की चुप्पी और रणनीतिक partners के साथ coordination की कमी देखकर ऐसा और भी लगता है
Ilya का अब पछतावा जताना ज्यादा “पकड़े जाने पर शर्मिंदगी” जैसा लगता है। लगता है उन्होंने एक करिश्माई public figure को बदनाम किया और coup रचा, लेकिन उसके fallout को संभालने की कोई योजना नहीं थी
https://www.newcomer.co/p/give-openais-board-some-time-the
अब वजह साफ-साफ बतानी चाहिए। फिलहाल तो सऊदी से जुड़ी थ्योरी ही सबसे बड़ा कारण लगती है
खास तौर पर यह बात ध्यान खींचती है कि कई बार ठोस तथ्य या लिखित evidence मांगने पर भी बोर्ड ने कुछ पेश नहीं किया, और leadership team से कहा कि “company को नष्ट होने देना भी mission के अनुरूप हो सकता है”
क्या उन्होंने सच में AGI हासिल कर लिया है? या फिर कुछ चिंताजनक phenomenon देखा है?
Ben Thompson की व्याख्या सबसे अच्छी लगती है। हालांकि वह nonprofit organizations को लेकर कुछ ज्यादा आलोचनात्मक bias रखती है
https://stratechery.com/2023/openais-misalignment-and-micros...
AI risk कितना है, यह नहीं पता, लेकिन उसे रोकने के उपाय पर nonprofit organization का research करना valuable है। For-profit companies शायद ऐसा काम न करें, जैसे Google ने Timnit Gebru और Margaret Mitchell को निकाल दिया था
अगर वे सचमुच उस mission में विश्वास करते हैं, तो उन्हें safety-guard technology develop करके उसे open source में release करना चाहिए। Microsoft, Google, Meta, Amazon जैसी companies शायद AI safety में serious investment न करें, लेकिन किसी और का free work इस्तेमाल करने से परहेज नहीं करेंगी। हालांकि इसमें पैसा नहीं है, इसलिए OpenAI के ज्यादातर employees बेहतर terms ढूंढकर चले जाने की संभावना है
nonprofit organizations भी आखिरकार खुद gatekeeper की भूमिका निभाते हुए, “आम लोगों के लिए यह बहुत खतरनाक है” के नाम पर public access रोकने वाले solutions निकालेंगी
मेरी नजर में for-profit company के control में रहना बेहतर है। ideally यह open source होना चाहिए ताकि आम लोग अपने goals के हिसाब से AI को control और align कर सकें
intuition के उलट, technology को बंद करके रखना price और wage control जैसा है। जब तक आप दुनिया भर के GPUs जब्त नहीं करते और data centers पर बमबारी नहीं करते, यह काम नहीं करेगा
आने वाले AGI और ASI को align करने का सबसे अच्छा तरीका उसे धूप में बनाना है। “बंद करके रखो” वाला approach हर तरह से fail होने के लिए doomed है
Microsoft के लिए तो लगता है Christmas जल्दी आ गया
10 अरब डॉलर के investment से जुड़ी जो बात भयानक स्थिति लग रही थी, वह इस field के core talent को hire करने में बदल गई, और OpenAI को survive करने के लिए Microsoft द्वारा acquire होना पड़ सकता है
पिछले 72 घंटों में सामने आई पूरी अफरातफरी देखकर, OpenAI ChatGPT के ऊपर कुछ बनाने में interest काफी घट गया होगा। वहीं Azure OpenAI या Claude 2 के ऊपर build करना ज्यादा attractive लग सकता है
“participation” शब्द ऐसा सुनाई देता है जैसे वह leader नहीं बल्कि सिर्फ participant थे। यह सच है या नहीं, पता नहीं, लेकिन word choice दिलचस्प है
ऊपर से सभी media outlets Ilya को coup की driving force बता रहे थे
सच कहूं तो यह काफी pathetic है। अगर यह सचमुच conviction का मामला था, तो कम से कम एक weekend तो टिकना चाहिए था
वह regret जताते हैं, लेकिन यह नहीं कहते कि Altman को वापस लाना चाहते हैं। बस कहते हैं कि OpenAI को ठीक करना चाहते हैं
वे कहते हैं “participated”, लेकिन किसमें participated, यह unclear है। vote में, toxic messaging में, या दोनों में। वे आखिर किस बात का regret कर रहे हैं? फिर से कहूं तो वे यह नहीं कहते कि Altman को fire करने के vote का regret है
वे सीधे यह क्यों नहीं कहते, “मुझे Sam Altman को fire करने के लिए vote करने का regret है, और मैं उन्हें वापस लाने की कोशिश कर रहा हूं”? शायद इसलिए कि यह सच नहीं है। फिर भी वे वही impression दे रहे हैं
Shengjia Zhao का हटाया गया ट्वीट: https://i.imgur.com/yrpXvt9.png
या फिर अपने करोड़ों डॉलर जोखिम में पड़ने से गुस्सा है?
यह बात ज़्यादा भरोसेमंद लगती है
समझ नहीं आता कि अचानक लोग क्यों सोचने लगे हैं कि इंसान पैसे और सत्ता से प्रेरित नहीं होते। “विद्वान” हों तो बिल्कुल नहीं, यह मानना तो और भी हास्यास्पद है
आखिर यह क्या है?
अब तक मैं इस अफरा-तफरी को सिद्धांतों का मामला समझ रहा था। गड़बड़ जरूर थी, लेकिन लगा था कि Ilya के पक्ष ने जिस कंपनी संस्कृति की कल्पना की थी, उसे ठीक करने के लिए यह जरूरी था
अगर कदम उठाना ही था, तो कम से कम उस रुख पर टिके रहना चाहिए। इस ट्वीट से लगता है कि पूरे मामले का संदर्भ 10 गुना और खराब हो गया है
लगभग किसी को भी उसे रोकने के लिए पीछे हटने पर मजबूर किया जा सकता है
अगर वह बस चुप रहता, तो आज कोई इस बारे में बात भी नहीं कर रहा होता, क्योंकि पहले ही बहुत कुछ और हो चुका है। दो दिन में 2 interim CEO
इस पूरे तमाशे में अभी लगभग यही एक चीज है जो समझ में आती है
यह बहुत कम सबूतों के आधार पर स्थिति को समझने की कोशिश करते हुए बने सोशल मीडिया groupthink की hallucination भी हो सकती है
कभी-कभी मैंने उस समय किसी फैसले को अच्छा समझा, लेकिन बाद में व्यापक दृष्टिकोण मिलने पर महसूस किया कि वह भयानक फैसला था
गड़बड़ करने पर यह मान पाना कि गड़बड़ हुई है, एक अच्छी खूबी है। गलती पर अड़े रहना सम्मानजनक नहीं है
Mensa मीटिंग में बुनियादी संगठन संचालन के मुद्दों पर भी सहमति न बना पाने वाले एक दोस्त की बात याद आती है
लग रहा है कि यह सब एक media event था जिसमें ChatGPT को एक-दो दिन के लिए board decisions सौंपकर देखा गया
शायद original GPT-4 सबको निकालना चाहता हो
क्या यह DM में नहीं हो सकता? समझ नहीं आता कि हर चीज Twitter पर public क्यों करनी पड़ती है
यह काफी विरोधाभासी है कि leading ML/AI systems बनाने वाले लोग ही स्वार्थ और भावनाओं में सबसे गहराई से जमे दिखते हैं, और बाहर से देखने पर उनमें rationality बहुत कम लगती है
लगता है उसे बस इसलिए पछतावा हो रहा है क्योंकि मामला बुरी तरह उलटा पड़ गया
Microsoft OpenAI की सारी valuable चीजें निगल रहा है, और उसे पता है कि उसके लिए कुछ नहीं बचेगा
बहुत बड़े दाँव पर bluff किया और हार गया
यह हाल के वर्षों में Netflix, Disney, Amazon, Apple TV ने जो कुछ भी निकाला है, उससे ज्यादा entertaining है
जाहिर है, गहरा पछतावा होगा, लेकिन अब थोड़ी देर हो चुकी है
अच्छी खबर यह है कि Twitch लंबे समय तक इस्तेमाल करने वाले लोग जानते होंगे कि अगर Emmett Shear कमान संभालते हैं, तो OpenAI के बहुत तेजी से नए features जारी करने से अब डरने की जरूरत नहीं होगी