सभी कमेंट्स: इस थ्रेड में 1800 से अधिक कमेंट्स हैं, और अगर आप सब पढ़ना चाहते हैं, तो हर पेज के नीचे 'More' पर क्लिक करें या दिए गए लिंक का उपयोग करें.
अगर OpenAI एक non-profit संगठन बना रहता है, तो Microsoft के बोर्ड सदस्य पर कानूनी दायित्व होगा कि वह Microsoft की business जरूरतों के बजाय charity के मिशन को आगे बढ़ाए, और इससे स्पष्ट conflict of interest पैदा हो सकता है. उम्मीद है कि IRS को ऐसी संरचना पसंद नहीं आएगी.
Sam Altman के CEO के रूप में लौटने के साथ, यह इस बात का संकेत हो सकता है कि OpenAI का बोर्ड अपनी कार्यक्षमता खो चुका है. बोर्ड अब Sam को हटाने के अपने अधिकार का उपयोग नहीं कर सकता, और Sam अब अपनी इच्छा के अनुसार काम कर सकता है. Sam के व्यवहार पर आरोप या गलतफहमी नहीं है, लेकिन चिंता है कि वह झूठ बोल सकता है या अनुचित व्यवहार कर सकता है.
यह Coca-Cola और New Coke घटना की याद दिलाता है, जिसमें अंततः original Coke और भी अधिक लोकप्रिय हो गया था. उपभोक्ताओं ने अपने परिचित स्वाद की वापसी ज़ोरदार तरीके से मांगी थी, और कुछ पत्रकारों ने अटकल लगाई थी कि यह सब एक publicity strategy थी.
एक developer और एक businessman की टक्कर में businessman जीत गया, और जब सैकड़ों developers ने इस्तीफे की धमकी दी तो बोर्ड के झुक जाने से यह भी दिखा कि असली ताकत वास्तव में developers के पास थी.
Ilya बोर्ड से हट गया है, लेकिन Adam अभी भी बना हुआ है. इससे कुछ लोग भौंहें चढ़ा सकते हैं, लेकिन Sam की वापसी के कारण OpenAI में महत्वपूर्ण बदलाव होंगे, और मुझे नहीं लगता कि लंबे समय में OpenAI Facebook या Uber जैसी बड़ी कंपनी बनेगा. यह धारणा है कि विश्वास खो गया है.
Rapid Commercialization टीम और सिद्धांतों पर टिके रहने वाली टीम के बीच टकराव था, और यह GPT-3 से पहले के लेखों में भी दिखता था. आम जनता का केवल एक छोटा हिस्सा AI safety में रुचि रखता है, जबकि बाकी ChatGPT से होमवर्क में मदद मिलने से संतुष्ट है. बोर्ड की अज्ञानता पर हंसा जा सकता है, लेकिन अगर कोई superintelligence के खतरे को गंभीरता से लेता है, तो उनके व्यवहार को समझने की कोशिश करनी चाहिए.
व्यक्तिगत रूप से मैं AI safety के खतरे को बहुत गंभीरता से नहीं लेता, लेकिन उसे समझने की कोशिश ज़रूरी है. उम्मीद है कि वह दिन न आए जब Helen की टीम कहे, "यही वह चीज़ थी जिसे हम रोकने की कोशिश कर रहे थे."
AI safety के लिए private industry के approach को लेकर उम्मीद थी, लेकिन अब वह असंभव सा लगता है, और public AI R&D में सरकारी निवेश की धीमी गति के कारण AI safety के सभी approaches असंभव लगते हैं. toy models पर safety research आगे बढ़ती रहेगी, लेकिन industry का मानना है कि cutting-edge models पर research के बिना safety के बारे में सीखा जा सकने वाला बहुत सीमित है.
Altman ने दावा किया था कि OpenAI की governance structure safety priority सुनिश्चित करने का एक mechanism है, लेकिन अंदरूनी रिपोर्ट्स कि safety research को ChatGPT operations बनाए रखने की ओर मोड़ा जा रहा है, चिंता पैदा करती हैं. अब यह सामने आने पर कि बोर्ड के पास तकनीकी रूप से अधिकार तो था, लेकिन हितों को manage करने के लिए पर्याप्त शक्ति नहीं थी, यह स्पष्ट नहीं है कि safety को प्राथमिकता देने वाला कोई भी संगठन, Anthropic सहित, अपने funders की accelerationist प्रवृत्तियों के प्रभाव से बच सकता है या नहीं.
Paul Graham ने कहा, "5 साल बाद लौटकर आओ, Sam उस द्वीप का राजा होगा."
एक लोकप्रिय narrative यह है कि कई VC/Microsoft ने profit motive के कारण non-profit governance structure को उलट दिया, लेकिन मुझे नहीं लगता कि वास्तव में ऐसा हुआ. फैसला इसलिए पलटा क्योंकि 95% कर्मचारियों ने इस मामले में Sam का साथ दिया, और बोर्ड ने अपनी स्थिति का ज़रा भी स्पष्टीकरण नहीं दिया. Sam, 95% कर्मचारी, और सभी investors बोर्ड के खिलाफ थे, इसलिए बोर्ड को यहां हारना ही था. बोर्ड ने केवल अपने लिए शासन किया. अंततः नतीजा निष्पक्ष और अच्छा रहा, और AGI समस्या को सुलझाने के लिए governance structure अब भी उचित लगता है, लेकिन यह बोर्ड बेहद अनुपयुक्त था.
1 टिप्पणियां
Hacker News राय