OpenAI ने प्रमुख दस्तावेज़ों को जनता के लिए जारी करने का अपना वादा चुपचाप वापस लिया

 (wired.com)
4 पॉइंट द्वारा GN⁺ 2024-01-25 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • OpenAI ने स्थापना के समय से ही governance दस्तावेज़ सार्वजनिक करने का वादा किया था, लेकिन हाल ही में WIRED द्वारा मांग किए जाने पर उन्हें देने से इनकार कर दिया
  • OpenAI की स्थापना इस उद्देश्य से की गई थी कि समाज और आम जनता शक्तिशाली AI के विकास में भाग ले सके, लेकिन अब उसने आंतरिक दस्तावेज़ सार्वजनिक न करने की नई नीति अपना ली है
  • OpenAI के transparency वादे को वापस लेने से कंपनी की कमजोरियों और AI के भविष्य पर महत्वपूर्ण प्रभाव रखने वाली इस कंपनी के हालिया संकट को समझना कठिन हो जाता है

OpenAI का संकट और governance

  • OpenAI के board ने CEO Sam Altman को पद से हटाया, लेकिन कर्मचारियों और निवेशकों के विरोध के बाद Altman वापस लौटे और board के अधिकांश सदस्य बदल दिए गए
  • Altman के निजी निवेश और उनकी आधिकारिक भूमिका के बीच का मेल board के अविश्वास के कारणों में से एक रहा हो सकता है
  • OpenAI के governance दस्तावेज़ सार्वजनिक होने पर यह स्पष्ट हो सकता है कि board के पास Altman और उनकी बाहरी गतिविधियों पर किस तरह की शक्ति है

OpenAI की corporate structure और Microsoft

  • OpenAI के founding bylaws यह दिखाते हैं कि board का एक हिस्सा किस तरह नियंत्रण अपने हाथ में लेकर Altman को बाहर कर सकता था
  • Microsoft के CEO Satya Nadella ने कहा कि Altman को हटाए जाने पर वे सार्वजनिक रूप से हैरान थे
  • संभव है कि OpenAI ने board structure को स्थिर करने और Microsoft जैसे समर्थकों को आश्वस्त करने के लिए governance दस्तावेज़ों में संशोधन किए हों

OpenAI में transparency में कमी

  • OpenAI पहले AI आविष्कारों के बारे में विस्तृत जानकारी सार्वजनिक करता था, लेकिन हाल के समय में उसने ChatGPT जैसे tools के technical details और data को सुरक्षित रखना शुरू किया है
  • 2019 में nonprofit इकाई के अंतर्गत अधिकांश AI विकास करने वाली for-profit subsidiary स्थापित करने के बाद transparency कम होती गई
  • OpenAI की nonprofit संस्था अंततः OpenAI की गतिविधियों और तकनीकों को नियंत्रित करती है

OpenAI की nonprofit संस्था और IRS रिपोर्टिंग

  • अमेरिका की nonprofit संस्थाओं को वार्षिक IRS रिपोर्ट सार्वजनिक करनी होती है, और यह भी बताना होता है कि क्या अतिरिक्त दस्तावेज़ सार्वजनिक किए जा सकते हैं
  • OpenAI ने 2022 तक अपनी वार्षिक IRS रिपोर्ट में कहा था कि अतिरिक्त फाइलें "अनुरोध पर" उपलब्ध कराई जाएंगी, लेकिन व्यवहार में उन्हें उपलब्ध नहीं कराया गया
  • nonprofit संस्थाओं द्वारा आंतरिक दस्तावेज़ सार्वजनिक करना दुर्लभ है और उन तक पहुंच बनाना कठिन होता है

OpenAI की वित्तीय स्थिति

  • OpenAI द्वारा जारी financial statements में for-profit इकाई के नतीजे शामिल नहीं हैं, और 2022 में उसने 44,000 डॉलर की आय तथा 1.3 million डॉलर के खर्च की रिपोर्ट दी
  • OpenAI ने कुल मिलाकर सैकड़ों million डॉलर का revenue कमाया, लेकिन यह सार्वजनिक नहीं किया गया
  • OpenAI की nonprofit इकाई को आम जनता से लगभग कोई समर्थन नहीं मिलता, इसलिए transparency बढ़ाने की उसकी प्रेरणा भी कम है

GN⁺ की राय

  • OpenAI द्वारा transparency का वादा वापस लेना AI तकनीक के भविष्य पर बड़ा प्रभाव रखने वाली कंपनी के संचालन को समझना कठिन बना देता है
  • यह बदलाव AI research और development में जनता की भागीदारी और भरोसे को कम कर सकता है
  • OpenAI की नीति में यह बदलाव AI उद्योग में transparency और ethical operations पर बहस को बढ़ावा देने वाला महत्वपूर्ण उदाहरण बन सकता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-01-25
Hacker News की राय

  • निराशाजनक है, लेकिन चौंकाने वाला नहीं। आइए इस घटना से कुछ सीखने की कोशिश करें।

    • AI क्षेत्र में परोपकारिता और openness की बात करना लोकप्रिय है, और OpenAI, Anthropic, तथा Musk की नई xAI जैसी कंपनियों के पास सार्वजनिक हित के नाम पर असामान्य governance structures हैं। समस्या यह है कि जैसे ही इनमें से किसी कंपनी को इतना ध्यान मिलना शुरू होता है कि अरबों डॉलर के मुनाफ़े की संभावना दिखने लगे, स्थिति बदल जाती है।
    • यह समस्या सिर्फ AI कंपनियों तक सीमित नहीं है, और न ही नई है। यह मानव स्वभाव का हिस्सा है और हमेशा रहेगी।
    • हमें वास्तव में open AI models (open training data, training source code और hyperparameters, model source code, weights) पर अधिक ज़ोर और ध्यान देना चाहिए, ताकि AI के लाभ कुछ कंपनियों तक सीमित न रहकर आम जनता तक पहुँचें।

  • हमें पता है कि ChatGPT के रिलीज़ के बाद से OpenAI ने कुछ भी साझा नहीं किया और अरबों डॉलर का निवेश लिया, इसलिए OpenAI के closed होने पर हैरान होने की ज़रूरत नहीं है।

  • OpenAI ने अपने किए गए हर वादे को तोड़ा है।

  • बोर्ड ने यह होने कैसे दिया!

    • थोड़ा और गंभीरता से सोचें तो, यह एक स्पष्ट परिणाम भी है और साथ ही थोड़ा धुंधला-सा भी लगता है।
    • यह सच है कि OpenAI को बहुत अधिक funding और capital की ज़रूरत है, और इसके कारण funding व partnerships की आवश्यकता भी वास्तविक है।
    • लेकिन वे शुरुआत में अस्तित्व में आ ही इसलिए आ पाए क्योंकि उन्होंने खुद को एक 'open', लगभग public good जैसी कंपनी के रूप में पेश किया था और उसी आधार पर donations प्राप्त किए थे।

  • इस तकनीक के समाज पर पड़ने वाले संभावित हानिकारक उपयोगों के बारे में जो कुछ हम सुन रहे हैं, उसके आधार पर मैं सोचता हूँ कि क्या यह स्थिति इतनी गंभीर है कि यह समझने के लिए किसी तरह की जाँच की ज़रूरत पड़े कि आखिर हो क्या रहा है।

    • यह स्थिति इतनी गंभीर है कि इस तरह के काम के privatization को यूँ ही नहीं छोड़ा जा सकता।
    • 'यही सामान्य है' वाले दावे में दिलचस्पी लेने की ज़रूरत नहीं। वह सिर्फ लोगों को ऐसे व्यवहार को सामान्य मानने पर मजबूर करने की कोशिश है।
    • क्या कोई जानता है कि सार्वजनिक हित में काम करने वाला कोई AI safety center है या नहीं, और क्या यह मुद्दा उनके radar पर है?

  • मैं Musk का बचाव नहीं करना चाहता, लेकिन अगर मैं उसकी जगह होता तो शायद मुझे थोड़ा गुस्सा आता कि लेख की शुरुआत 'अमीर tech उद्यमियों ने transparency का वादा किया था, लेकिन अब ऐसा नहीं है' से होती है, और एकमात्र उल्लेखित संस्थापक को कई साल पहले बाहर कर दिया गया था, अब वह प्रतियोगी है, और वह इसे 'maximum profit के लिए ultra-closed-source AI' कह रहा है — फिर भी इसे इंगित करने में 8 पैराग्राफ लगते हैं।

    • मीडिया दोषारोपण का आदी हो चुका है, और दोषारोपण और headline के बीच आने वाली सारी बारीकियाँ लेख के नीचे धकेल दी जाती हैं, paywall के पीछे छिपाकर। शायद कुछ वर्षों बाद Altman पर भी यही रणनीति लागू होगी।
    • हालात इतने खराब हो चुके हैं कि जब मैं किसी ऐसी headline को पढ़ता हूँ जो पाखंड का संकेत देती है, तो मैं उल्टा उसके विपरीत बात पर ज़्यादा भरोसा करने लगता हूँ; यह उतनी ही भयानक मानसिक विकृति है जितना बिना सोचे उसे सही मान लेना!

  • इस संगठन की शुरुआत से ही ऐसे नियम होने चाहिए थे जो यह होने से रोकते। घटनाक्रम दिखाता है कि उनका governance model प्रभावी नहीं है।

  • कंपनी का नाम 'Microsoft AI' होने में अब ज़्यादा समय नहीं बचा।

  • OpenAI को सार्वजनिक हित वाली non-profit कंपनी की तरह दिखाने की कोशिश की जाती है, लेकिन वास्तव में उसे किसी भी दूसरी निजी tech कंपनी की तरह देखना ही बेहतर है।