OpenAI छोड़ने वाले: पूर्व कर्मचारी बोल क्यों नहीं सकते

 (vox.com)
6 पॉइंट द्वारा GN⁺ 2024-05-18 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • ChatGPT बोल सकता है, लेकिन OpenAI के कर्मचारी ऐसा नहीं कर सकते
    • उन्होंने non-disparagement agreement पर हस्ताक्षर किए हैं, और अनुबंध का उल्लंघन करने पर उन्हें अपने शेयर छोड़ने पड़ सकते हैं

OpenAI का नया ChatGPT 4o लॉन्च

  • OpenAI ने नया ChatGPT 4o लॉन्च किया
  • इसकी आवाज़ 2013 में स्पाइक जोंज़ द्वारा निर्देशित फ़िल्म "Her" में स्कारलेट जोहानसन द्वारा आवाज़ दी गई AI असिस्टेंट जैसी है
  • OpenAI के CEO Sam Altman ने उस फ़िल्म का ज़िक्र करते हुए एक ट्वीट किया

OpenAI के प्रमुख लोगों के इस्तीफ़े

  • ChatGPT 4o लॉन्च की खबर OpenAI के सह-संस्थापक और मुख्य वैज्ञानिक Ilya Sutskever तथा Superalignment टीम का नेतृत्व कर रहे Jan Leike के इस्तीफ़े की खबर में दब गई
  • पिछले साल Future Perfect 50 सूची में शामिल Jan Leike ने भी इस्तीफ़ा दिया
  • यह इस्तीफ़ा इतना चौंकाने वाला नहीं था
    • Sutskever पिछले साल CEO Sam Altman की अस्थायी बर्खास्तगी का कारण बने बोर्ड विद्रोह में शामिल थे
    • Altman के तेज़ी से CEO पद पर लौटने के बाद, Sutskever ने सार्वजनिक रूप से अपने कदम पर अफ़सोस जताया और Altman की वापसी का समर्थन किया
    • लेकिन उसके बाद OpenAI की policy, alignment और safety टीमों के अन्य सदस्य जाते रहे, जबकि Sutskever ज़्यादातर कंपनी से ग़ायब रहे

पूर्व कर्मचारियों की चुप्पी को लेकर अटकलें

  • पूर्व कर्मचारियों की चुप्पी ने कई अटकलों को जन्म दिया
  • Sutskever ने एक साधारण इस्तीफ़ा संदेश छोड़ा
    • "मुझे भरोसा है कि OpenAI सुरक्षित और लाभकारी AGI बनाएगा. आगे जो होगा, उसे लेकर मैं उत्साहित हूँ"
  • Leike ने बस इतना कहा, "मैंने इस्तीफ़ा दे दिया"
    • कुछ दिनों बाद उन्होंने बताया कि उन्होंने OpenAI के safety-केंद्रित culture से दूर जाने को लेकर चिंता के कारण इस्तीफ़ा दिया
  • पूर्व कर्मचारियों के चुप रहने की वजह को लेकर कई तरह की अटकलें हैं
    • क्या उन्हें जबरन बाहर किया गया, क्या यह पिछले पतझड़ में Altman की अस्थायी बर्खास्तगी के बाद का असर है, या क्या उन्होंने किसी गुप्त और ख़तरनाक नए प्रोजेक्ट के विरोध में इस्तीफ़ा दिया, आदि

पूर्व कर्मचारियों की चुप्पी की वजह

  • पूर्व कर्मचारियों के चुप रहने की एक साफ़ वजह है
    • बेहद प्रतिबंधात्मक exit agreement में पूर्व नियोक्ता की जीवनभर आलोचना न करने की शर्त शामिल है
    • NDA के अस्तित्व को स्वीकार करना भी उसका उल्लंघन माना जाता है
  • अगर नौकरी छोड़ने वाला कर्मचारी दस्तावेज़ पर हस्ताक्षर न करे या उसका उल्लंघन करे, तो वह कंपनी में काम के दौरान मिले अपने सारे equity से हाथ धो सकता है
    • इसकी कीमत संभवतः लाखों डॉलर हो सकती है
  • पूर्व कर्मचारी Daniel Kokotajlo ने सार्वजनिक रूप से पुष्टि की कि उन्होंने NDA पर हस्ताक्षर नहीं किए और इसके कारण बड़ी equity छोड़कर कंपनी छोड़ी
    • उन्होंने कहा कि ऐसा इसलिए क्योंकि "मैं यह भरोसा खो चुका था कि AGI युग में OpenAI ज़िम्मेदारी से काम करेगा"

बेहद प्रतिस्पर्धी Silicon Valley में NDA की प्रथा

  • बेहद प्रतिस्पर्धी Silicon Valley में NDA अपने-आप में कोई असामान्य बात नहीं है
  • लेकिन पहले से अर्जित equity को भी मना करने या उल्लंघन की स्थिति में जोखिम में डालना असामान्य है
    • OpenAI जैसे startup के कर्मचारियों के लिए equity वेतन से कहीं बड़ा और अहम मुआवज़ा होता है
    • इस संभावित जीवन-परिवर्तनकारी धन को दांव पर लगाना पूर्व कर्मचारियों को चुप रखने का बेहद प्रभावी तरीका है

OpenAI की openness और transparency पर विरोधाभास

  • OpenAI ने शुरुआत में खुद को शक्तिशाली systems को transparency और accountability के साथ बनाने के लिए प्रतिबद्ध बताया था
    • लेकिन अब उसने safety चिंताओं का हवाला देकर models को open source करने का विचार छोड़ दिया है
  • उसने safety टीम के सबसे अनुभवी और सम्मानित सदस्यों को बाहर जाने दिया
    • इससे यह संदेह पैदा होता है कि क्या safety सच में OpenAI के बंद हो जाने की वजह थी
  • OpenAI के प्रवक्ता ने कहा, "हमने कभी किसी वर्तमान या पूर्व कर्मचारी की equity रद्द नहीं की है, और न ही ऐसा करेंगे, भले ही वे नौकरी छोड़ते समय हस्ताक्षर न करें"
    • यह उस policy में बदलाव का संकेत है जिसे लोग पहले समझते थे

टेक और policy जगत में OpenAI की असामान्य स्थिति

  • OpenAI लंबे समय से टेक और policy जगत में एक असामान्य स्थान रखता आया है
    • DALL-E से ChatGPT तक उसके प्रोडक्ट प्रभावशाली हैं, लेकिन अपने आप में वे धार्मिक उत्साह पैदा करना मुश्किल है
  • OpenAI को खास बनाता है artificial general intelligence (AGI) विकसित करके मानवता को लाभ पहुंचाने का उसका विशाल लक्ष्य
    • उसके कई कर्मचारियों का मानना है कि लगभग 10 साल (या उससे भी कम) और खरबों डॉलर के साथ यह लक्ष्य हासिल किया जा सकता है
  • जैसा कि OpenAI खुद लंबे समय से कहता आया है, यह रोमांचक है, लेकिन ख़तरनाक भी हो सकता है

एक ज़िम्मेदार actor के रूप में OpenAI

  • OpenAI ने ऐतिहासिक रूप से खुद को एक ऐसे ज़िम्मेदार actor के रूप में पेश किया है जो व्यावसायिक प्रोत्साहनों से ऊपर उठकर सबके हित में AGI लाना चाहता है
    • वह कहता रहा है कि ज़रूरत पड़ने पर विकास की रफ़्तार धीमी करने, कमाई के मौके छोड़ने, या बाहरी निगरानी स्वीकार करने को भी तैयार है
  • OpenAI की अनोखी corporate संरचना — जिसमें अंतिम नियंत्रण एक non-profit के हाथ में है और उसके नीचे capped-profit कंपनी है — accountability बढ़ाने के लिए बनाई गई थी
  • Sutskever और Leike जैसे लोगों की प्रमुख भूमिकाओं से बढ़कर OpenAI के mission के प्रति प्रतिबद्धता का शायद ही कोई और मज़बूत संकेत था
    • वे ऐसे तकनीकी विशेषज्ञ थे जिनका safety के प्रति लंबे समय का समर्पण रहा है, और वे ज़रूरत पड़ने पर OpenAI से दिशा बदलने को कहने के लिए तैयार दिखते थे

OpenAI के safety काम पर ध्यान में बदलाव

  • उनका जाना इस बात का संकेत नहीं है कि OpenAI artificial general intelligence बनाने के लक्ष्य से पीछे हट रहा है
    • वह अब भी उसका लक्ष्य है
  • लेकिन यह लगभग निश्चित रूप से OpenAI के safety कार्य पर ध्यान में बदलाव का संकेत देता है
    • कंपनी ने Superalignment टीम का नेतृत्व कौन करेगा, यह घोषित नहीं किया है
  • यह साफ़ हो गया है कि OpenAI की बाहरी निगरानी और transparency को लेकर चिंता उतनी गहरी नहीं थी
    • अगर आप सच में चाहते हैं कि बाहरी निगरानी हो और दुनिया को आपके काम में भूमिका मिले, तो पूर्व कर्मचारियों से बेहद सख़्त NDA पर हस्ताक्षर करवाना ठीक उसका पालन करना नहीं है

OpenAI को लेकर निराशा

  • यही वजह है कि OpenAI उन लोगों के लिए बुनियादी रूप से निराशाजनक है जो गहराई से चाहते हैं कि AI सच में मानवता के लिए अच्छा और लाभकारी बने
    • कंपनी नेतृत्व कहता है कि वह दुनिया बदलना चाहता है, ऐसा करते समय जवाबदेह रहना चाहता है, और दुनिया से यह राय भी चाहता है कि इसे न्यायपूर्ण और समझदारी से कैसे किया जाए
  • लेकिन जब असली पैसा दांव पर हो (और AI वर्चस्व की दौड़ में बहुत बड़ा पैसा दांव पर है), तब यह साफ़ दिखता है कि शायद वे दुनिया की इतनी ज़्यादा राय सुनना ही नहीं चाहते थे
    • उनकी प्रक्रियाएँ इस तरह की हैं कि पूर्व कर्मचारी — यानी वे लोग जो OpenAI के भीतर क्या हो रहा है, सबसे अच्छी तरह जानते हैं — दुनिया को कुछ बता नहीं सकते
  • वेबसाइट पर ऊँचे आदर्श लिखे हो सकते हैं, लेकिन separation agreement कठोर कानूनी भाषा से भरे हुए हैं
    • उस कंपनी को जवाबदेह ठहराना मुश्किल है जहाँ पूर्व कर्मचारी सिर्फ़ इतना कहने तक सीमित हों कि "मैंने इस्तीफ़ा दिया"

ChatGPT की नई प्यारी आवाज़ आकर्षक हो सकती है, लेकिन मैं उससे ख़ास तौर पर प्रभावित नहीं हूँ.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-18
Hacker News राय

Hacker News टिप्पणियों के संग्रह का सारांश

  • गोपनीयता समझौते को दरकिनार करने का तरीका

    • गोपनीयता समझौते को दरकिनार करने के लिए, संबंधित कर्मचारी इकट्ठा होकर वह सब कुछ लिख सकते हैं जो वे कहना चाहते हैं, फिर उसे LLM(large language model) पर train करके सार्वजनिक कर सकते हैं। यह मौजूदा कानूनी तर्क का उपयोग करने का तरीका है, जिसमें ज़िम्मेदारी model उपयोगकर्ता पर डाली जाती है।

  • OpenAI के गोपनीयता समझौते

    • OpenAI के पूर्व कर्मचारियों को ऐसे समझौतों पर हस्ताक्षर करने पड़ते हैं जिनमें बहुत कड़े गोपनीयता और non-disparagement clauses शामिल होते हैं। इसका उल्लंघन करने पर वे करोड़ों डॉलर के stock खो सकते हैं।

  • स्थिति की गंभीरता

    • स्थिति बहुत गंभीर है, और कुछ लोग इसे आपराधिक आचरण मानते हैं। कुछ राय यह भी है कि OpenAI का व्यवहार Enron मामले जैसा है।

  • कानूनी सलाह की ज़रूरत

    • California SB 331("Silenced No More Act") से जुड़ी कानूनी सलाह की ज़रूरत है। यह क़ानून केवल sexual harassment ही नहीं, बल्कि अन्य प्रकार के अनुचित समझौतों पर भी लागू हो सकता है।

  • अतार्किक समझौते

    • कर्मचारियों पर जीवनभर के लिए non-disparagement agreement थोपना अनुचित है। यह कानूनी रूप से समस्याग्रस्त हो सकता है, और इसे चुनौती देने के लिए किसी साहसी व्यक्ति को मुकदमा दायर करना होगा।

  • AI की सीमाएँ

    • यह राय भी है कि AI हर तरह के मानवीय श्रम की जगह नहीं ले सकता। उदाहरण के लिए, घर में paint करना या boiler ठीक करना जैसे काम AI नहीं कर सकता।

  • startup में stock compensation

    • startup में stock एक महत्वपूर्ण compensation साधन होता है। OpenAI के कर्मचारियों को ऊँची salary और stock मिलते हैं, और उनसे NDA पर हस्ताक्षर कराए जाते हैं। Apple में भी ऐसे मिलते-जुलते उदाहरण हैं।

  • Jan Leike के प्रति सम्मान

    • Jan Leike के लिए अतिरिक्त सम्मान व्यक्त किया गया।

  • समझौते की वैधता

    • किसी समझौते के वैध होने के लिए नया stock compensation दिया जाना चाहिए। मौजूदा compensation के आधार पर नया समझौता थोपना अनुचित है।

  • समझौते का निजी स्वरूप

    • समझौते पक्षों के बीच का मामला होते हैं, और यदि कोई कानूनी समस्या है तो उसका समाधान अदालत में होना चाहिए। हर मुद्दे को सार्वजनिक रूप से उठाने से बचना चाहिए।