Elon Musk ने Sam Altman, Greg Brockman और OpenAI के खिलाफ मुकदमा दायर किया [PDF]

 (courthousenews.com)
1 पॉइंट द्वारा GN⁺ 2024-03-02 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Elon Musk ने Sam Altman, Greg Brockman और OpenAI से जुड़ी संस्थाओं के खिलाफ अनुबंध उल्लंघन सहित 5 दावे दायर किए हैं और जूरी ट्रायल की मांग की है
  • मुकदमे का मुख्य तर्क यह है कि OpenAI ने 2015 में एक non-profit AGI research lab के रूप में शुरुआत करते हुए “मानवता के हित” के लिए तकनीक सार्वजनिक करने का Founding Agreement किया था
  • Musk पक्ष का कहना है कि GPT-4, जिसकी आंतरिक डिज़ाइन और प्रशिक्षण जानकारी सार्वजनिक नहीं की गई, एक closed technology बन गया है और व्यावहारिक रूप से Microsoft के अधीन चला गया है, जिससे OpenAI अपने शुरुआती मिशन से भटक गया
  • Microsoft शोधकर्ताओं के सार्वजनिक बयानों का हवाला देते हुए, जिनमें GPT-4 को प्रारंभिक AGI हो सकने की बात कही गई, यह दावा किया गया है कि 2020 का Microsoft exclusive license केवल pre-AGI तकनीक पर लागू होता है
  • नवंबर 2023 के बोर्ड संकट के बाद नया बोर्ड Altman और Microsoft की ओर झुका हुआ है और AGI पर स्वतंत्र निर्णय लेना कठिन है, इसलिए यह मुकदमा OpenAI को Founding Agreement का पालन करने के लिए मजबूर करने की कोशिश है

मुकदमे के पक्षकार और दावों का दायरा

  • Elon Musk ने San Francisco County की California Superior Court में Sam Altman, Greg Brockman, OpenAI, Inc. और OpenAI से संबंधित कई संस्थाओं के खिलाफ मुकदमा दायर किया है
  • दावे के आधार ये 5 हैं

    • अनुबंध उल्लंघन

      • promissory estoppel
      • fiduciary duty का उल्लंघन
      • Cal. Bus. & Prof. Code §§ 17200 आदि के तहत unfair competition
      • accounting
      • प्रतिवादियों में OpenAI, Inc., OpenAI, L.P., OpenAI, L.L.C., OpenAI GP, L.L.C., OpenAI OpCo, LLC, OpenAI Global, LLC, OAI Corporation, LLC, OpenAI Holdings, LLC और Does 1 through 100 शामिल हैं
      • मुकदमे के दस्तावेज़ में OpenAI, Inc. को non-profit corporation या non-profit division के रूप में, और “OpenAI” को उससे जुड़ी सभी OpenAI संस्थाओं के सामूहिक संदर्भ के रूप में अलग किया गया है

AGI जोखिम की समझ और OpenAI की स्थापना की पृष्ठभूमि

  • AGI को मानवों की तरह विविध कार्यों में बुद्धिमत्ता दिखाने वाले general-purpose artificial intelligence system के रूप में देखा गया है
  • Musk का दावा है कि वे लंबे समय से AGI को मानवता के लिए गंभीर अस्तित्वगत खतरा मानते रहे हैं, और यह चिंता Stephen Hawking तथा Bill Joy जैसी आशंकाओं के समान संदर्भ में थी
  • 2014 में Google द्वारा DeepMind के अधिग्रहण के बाद वह AGI प्रतिस्पर्धा में आगे निकल गया, और तर्क यह है कि Musk को खास तौर पर यह स्थिति खतरनाक लगी कि एक closed, for-profit कंपनी Google AGI को नियंत्रित करे
  • Google/DeepMind की घोषणाओं का भी हवाला दिया गया है
    • AlphaZero ने reinforcement learning के जरिए 24 घंटे के भीतर chess, shogi और Go में अतिमानवीय स्तर हासिल किया
    • कहा गया कि उसने हर क्षेत्र के world champion program को हराया

Founding Agreement और शुरुआती OpenAI

  • Musk पक्ष का दावा है कि 2015 में Altman ने Musk को Google के विपरीत स्वरूप वाली एक non-profit AI lab साथ मिलकर बनाने का प्रस्ताव दिया था
  • तर्क यह है कि Musk, Altman और Brockman ने सहमति की थी कि नई lab में ये शर्तें होंगी
    • AGI को किसी for-profit कंपनी के शेयरधारकों के लाभ के लिए नहीं बल्कि मानवता के हित के लिए विकसित किया जाएगा
    • सुरक्षा कारणों से विरोध न होने पर तकनीक को सार्वजनिक किया जाएगा, और उसे विशिष्ट व्यावसायिक कारणों से बंद या गोपनीय नहीं रखा जाएगा
  • कहा गया है कि OpenAI, Inc. के 8 दिसंबर 2015 के certificate of incorporation में यह भाषा है कि विकसित तकनीक जनता को लाभ पहुंचाएगी, जहां लागू हो वहां सार्वजनिक हित के लिए तकनीक को open source किया जाएगा, और संस्था किसी व्यक्ति के निजी लाभ के लिए गठित नहीं की गई
  • Musk का दावा है कि Founding Agreement पर भरोसा करते हुए उन्होंने शुरुआती वर्षों में OpenAI की आधे से अधिक फंडिंग दी, शोध दिशा पर सलाह दी, और Ilya Sutskever सहित वैज्ञानिकों व इंजीनियरों की भर्ती में प्रमुख भूमिका निभाई
  • शुरुआती OpenAI शोध इस तरह आगे बढ़ा कि डिज़ाइन, मॉडल और कोड तक मुफ्त सार्वजनिक पहुंच दी गई, और Transformer-आधारित natural language models के सार्वजनिक होने के बाद open source तथा commercial community का विस्तार हुआ

Microsoft license और GPT-4 विवाद

  • Altman 2019 में OpenAI, Inc. के CEO बने, और OpenAI ने 22 सितंबर 2020 को Microsoft के साथ GPT-3 के लिए exclusive license समझौता किया
  • Musk पक्ष का दावा है कि GPT-3 के लिए एक विस्तृत पेपर प्रकाशित हुआ था जिसमें आंतरिक संरचना और training data का वर्णन था, जिससे community समान मॉडल बना सकी
  • मुकदमे की केंद्रीय व्याख्या यह है कि Microsoft license केवल OpenAI की pre-AGI technology पर लागू होता है, और Microsoft को AGI पर अधिकार नहीं मिला
  • मार्च 2023 में जारी GPT-4 के लिए निम्न प्रदर्शन बताए गए
    • Uniform Bar Exam में 90 percentile
    • GRE Verbal Assessment में 99 percentile
    • Advanced Sommelier परीक्षा में 77%
  • Musk पक्ष का दावा है कि GPT-4 की आंतरिक डिज़ाइन OpenAI और, उपलब्ध जानकारी व विश्वास के अनुसार, Microsoft को छोड़कर पूरी तरह गोपनीय रखी गई है
    • इसमें यह आपत्ति भी शामिल है कि GPT-4 की डिज़ाइन समझाने वाला कोई वैज्ञानिक पेपर नहीं है, केवल उसकी क्षमता का प्रचार करने वाली press release हैं
  • दावा है कि GPT-4 को OpenAI और Microsoft के विशिष्ट व्यावसायिक हितों के लिए बंद रखा गया, और वह व्यावहारिक रूप से Microsoft का proprietary algorithm बन गया जिसे Office software suite में एकीकृत किया गया

2023 का बोर्ड संकट और मुकदमे का उद्देश्य

  • Musk पक्ष का कहना है कि GPT-4 एक AGI algorithm है और Microsoft के 2020 exclusive license के दायरे से बाहर है
  • यह भी उद्धृत किया गया है कि Microsoft शोधकर्ताओं ने सार्वजनिक रूप से कहा कि GPT-4 की क्षमता की व्यापकता और गहराई को देखते हुए उसे “प्रारंभिक लेकिन अभी अपूर्ण AGI system” के रूप में उचित रूप से देखा जा सकता है
  • इसमें यह भी शामिल है कि OpenAI, Q* या Q star नाम से ज्ञात एक मॉडल विकसित कर रहा है, जो AGI होने के दावे के लिए और मजबूत आधार देता है
  • 17 नवंबर 2023 को OpenAI, Inc. के बोर्ड ने Altman को इस कारण हटाया कि वह “बोर्ड के साथ लगातार स्पष्ट नहीं थे”
  • Musk पक्ष का दावा है कि इसके बाद के दिनों में Altman और Brockman ने Microsoft के साथ मिलकर OpenAI पर Microsoft के प्रभाव का उपयोग करते हुए बोर्ड के बहुमत को इस्तीफा देने पर मजबूर किया
  • 21 नवंबर 2023 को Altman OpenAI, Inc. के CEO के रूप में लौट आए
    • दावा है कि नए बोर्ड सदस्यों को Altman ने स्वयं चुना और Microsoft ने मंजूरी दी, तथा उनमें AGI हासिल हो चुका है या नहीं, इस पर स्वतंत्र निर्णय लेने के लिए आवश्यक AI विशेषज्ञता की कमी है
  • Musk पक्ष का मानना है कि OpenAI, Inc. दुनिया की सबसे बड़ी tech कंपनियों में से एक Microsoft की closed de facto subsidiary बन चुकी है, और नया बोर्ड Microsoft के हित अधिकतम करने के लिए AGI को विकसित और उन्नत कर रहा है
  • मुकदमे का उद्देश्य OpenAI को Founding Agreement का पालन करने और व्यक्तिगत प्रतिवादियों व Microsoft के हितों के बजाय मानवता के हित के लिए AGI विकसित करने के अपने मिशन पर लौटने के लिए बाध्य करना है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-03-02
Hacker News की रायें

  • अगर OpenAI ने non-profit में बदलते समय अपने charter में लिखा था कि “परिणामी technology सार्वजनिक हित में योगदान देगी, जहाँ लागू हो वहाँ public benefit के लिए उसे open-source करने की कोशिश करेगी, और किसी व्यक्ति के निजी लाभ के लिए संगठित नहीं होगी,” तो यह दिखाना मुश्किल नहीं लगता कि वह अभी जो कर रही है, वह मूल रूप से जो करने को कहा था उससे काफी अलग है

    • यहाँ non-profit होना या न होना नहीं, बल्कि असली मुद्दा open source है
      आपने एक open-source company में निवेश किया, लेकिन company ने source सार्वजनिक नहीं किया; ऐसी technology के बजाय जिससे सबको लाभ हो सके, उसने सब कुछ बंद रखा और exclusive access बेचा. मुझे लगता है OpenAI के लिए इस तरह के व्यवहार का बचाव करना मुश्किल होगा, और उसे पकड़ने के लिए investors ने जो पैसा खर्च किया उस पर बड़े damages claim की गुंजाइश दिखती है
    • Charter में लिखा है: “इस corporation का विशिष्ट उद्देश्य artificial intelligence से जुड़ी technologies के research, development और distribution के लिए funding प्रदान करना है. परिणामी technology सार्वजनिक हित में योगदान देगी और, जहाँ लागू हो, सार्वजनिक हित के लिए open-source करने की कोशिश करेगी.”
      सिर्फ इस wording को देखें तो यह कहना बहुत कठिन है कि OpenAI मूल रूप से अपने कहे से बिल्कुल अलग काम कर रही है. घोषित उद्देश्य AI technology के R&D को fund करना है; technology जनता की “मालिकाना” नहीं बल्कि “public benefit में योगदान” देगी, ऐसा लिखा है; और खुलापन भी “जहाँ लागू हो” तक सीमित है
      किसी non-profit का for-profit subsidiary रखना और revenue कमाना भी गैरकानूनी नहीं है. कई non-profits अपनी वार्षिक आय का बड़ा हिस्सा commercial activities से पाते हैं, और उन for-profit subsidiaries या activities पर income tax लगता है. अगर वह revenue non-profit parent के पास जाकर non-profit उद्देश्य में इस्तेमाल हो, तो ठीक है—और अभी भी ऐसा ही दिखता है. निजी लाभ का मुद्दा तब उठता है जब directors या employees market standard से अधिक salary, benefits आदि जैसे अत्यधिक लाभ लेते हैं
    • OpenAI कहती है कि अंतिम परिणाम महत्वपूर्ण है, लेकिन बीच में अभी पूरी तरह तैयार न हुई AI को Microsoft को license किया जा सकता है—कुछ ऐसा तर्क है
    • मुझे नहीं पता damages साबित करना कितना कठिन होगा
      भ्रम न हो, मैं paragraph 127 नहीं बल्कि 126, 132, 135 की बात कर रहा हूँ. Complaint में कहा गया है कि defendants के उल्लंघन से plaintiffs को नुकसान हुआ है, जिसकी रकम अभी मालूम नहीं है लेकिन court jurisdiction की न्यूनतम राशि 35,000 dollars से काफी अधिक है, और जरूरत पड़ने पर trial में इसे साबित किया जाएगा
      भले ही यह मुकदमा dismiss न हो, अंतिम नतीजा शायद इतना हो कि OpenAI plaintiffs को उनकी investment के बराबर amount देकर settlement कर ले. इस complaint के अनुसार हम सभी founding agreement के third-party beneficiaries हैं, लेकिन असली settlement में हमें compensation मिलेगा, यह मानना मुश्किल है. Plaintiffs साफ तौर पर अपना पैसा वापस चाहते हैं, और refund के लिए “public” को third-party beneficiary के रूप में पेश करने में उन्हें कोई हिचक नहीं दिखती. असल दुनिया में “public” के प्रति उनकी चिंता संदिग्ध लगती है
      अगर Altman द्वारा investors को दिए गए false statements पर SEC investigation के नतीजे हों, तो वे इन plaintiffs की मदद कर सकते हैं
    • यह साबित करना आसान है. वह काम corporation खुद करती है, और profit-seeking side अलग legal entity है

  • वजह जो भी हो—बहुत जल्दी ship छोड़कर मौका चूक जाने की नाराज़गी हो या मानवता की ओर से बोलने की कोशिश—इसमें ऐसी बातें हैं जिन्हें सार्वजनिक रूप से address किया जाना चाहिए, और अदालत इसे संभालने की सबसे अच्छी जगह लगती है
    Microsoft collaboration का दुरुपयोग सिर्फ इस तरह करती दिखती है कि दूसरी companies intellectual property तक न पहुँच सकें. उसने पहले ही जो चाहिए था सब पा लिया है और यह भी कहा है कि collaboration की जरूरत नहीं, तो collaboration बनाए रखने का कारण भी नहीं दिखता
    अगर Microsoft collaboration का इस तरह दुरुपयोग करती है, तो Mistral की नई collaboration भी अच्छी नहीं लगती. भले ही unlimited compute resources मिलें और models को open-source करने की स्वतंत्रता बची रहे
    अब Mistral Large का open-source model न होना भी कड़वा लगता है. यह भी सोचता हूँ कि क्या यही lawsuit वजह थी कि उन्होंने Windows 11 को देखा

    • मुझे नहीं लगता यह बहुत जल्दी छोड़ देने की नाराज़गी है. वह स्पष्ट रूप से इसलिए गए क्योंकि organization के साथ उनका मेल नहीं रह गया था
      AI पर उनके public statements देखें तो यह काफी समय से आने वाली बात लगती है. OpenAI में investment का उद्देश्य AI development को करीब से monitor करना था, और public statements पर भरोसा करें या नहीं, Elon की AI से जुड़ी बातों में कुछ हद तक sincerity महसूस होती है
    • Company को बेचने के लिए product चाहिए. अगर सब कुछ मुफ्त में release कर देंगे, तो बेचने को कुछ नहीं बचेगा. संभव है कि शुरुआत से यही plan रहा हो
      Model release करके API बेचा जा सकता है, लेकिन Google/Microsoft/Amazon जैसी companies—जिन्हें cloud unit economics, GPU prices और custom inference chips में advantage है—जितना सस्ता service देना कठिन होगा
      अगर model खुद बेचना है, तो उसे मुफ्त में नहीं दे सकते. Open-source code के विपरीत, अभी support जैसी additional sales market बनती नहीं दिखती
    • Elon ने for-profit entity और investors की discussions शुरू होने के बाद भी non-profit को funding जारी रखी, और लगता है अतिरिक्त तौर पर करीब 3 million dollars दिए
      फिर भी शायद उन्होंने नहीं सोचा होगा कि for-profit division पैसा छापने की machine बन जाएगा
    • Complaint में वजह कुछ इस तरह लिखी है कि sociopath CEO Sam Altman ने उन्हें बेरहमी से धोखा दिया
      Complaint का सार यह है कि Musk ने Altman और Brockman के साथ OpenAI, Inc. की स्थापना और funding इसलिए की क्योंकि वे founding agreement पर निर्भर थे कि AGI किसी for-profit company को नहीं बल्कि मानवता को लाभ पहुँचाएगा; लेकिन 2023 तक आते-आते उनके contribution को defendants और दुनिया की सबसे बड़ी company के लाभ के लिए मोड़ दिया गया
      उपमा भी तीखी है. दावा यह है कि यह वैसा है जैसे Amazon rainforest की रक्षा करने वाली non-profit को donation दिया जाए, और वह non-profit donation के परिणामस्वरूप एक for-profit logging company बनाकर जंगल काटने लगे. साथ ही दावा है कि OpenAI ने public benefit के लिए safe, open-source AGI बनाने के लिए अपरिवर्तनीय रूप से committed रहने की शर्त पर उनसे tens of millions of dollars, समय और resources लिए, लेकिन बाद में उस “अपरिवर्तनीय” non-profit mission को छोड़ दिया, public information देना बंद कर दिया, और AGI algorithms को दुनिया की सबसे बड़ी for-profit company को exclusively provide और license कर दिया

  • OpenAI की अनोखी corporate governance और संरचना के बारे में खोजते हुए कुछ दिलचस्प सामग्री मिली
    OpenAI’s Hybrid Governance: Overcoming AI Corporate Challenges - https://aminiconant.com/openais-hybrid-governance-overcoming...
    Nonprofit Law Prof Blog | The OpenAI Corporate Structure - https://lawprofessors.typepad.com/nonprofit/2024/01/the-open...
    AI is Testing the Limits of Corporate Governance शोध पत्र - https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4693045
    OpenAI and the Value of Governance - https://www.glasslewis.com/openai-and-the-value-of-governanc...

    • OpenAI का Form 990 भी देखा जा सकता है: https://projects.propublica.org/nonprofits/organizations/810...
      OpenAI का मुख्य मुद्दा यह है कि संरचनात्मक रूप से data collection और model training की लागत बहुत भारी है; तुलना करें तो पिछली पीढ़ी के software+physical business models जैसे Uber या Airbnb की operating costs भी सस्ती लगती हैं। इसलिए OAI computing के लिए cloud providers पर और ज़्यादा निर्भर हो जाता है
      साथ ही defensible moat और network effects भी user-generated content जैसी ज़्यादा अप्रत्यक्ष supply पर निर्भर हैं। ऊपर के कुछ लेखों के दावे के अनुसार, nonprofit status से intellectual property को training में इस्तेमाल करने में फायदा भी हो सकता है

  • यह मुकदमा “founding agreement” के उल्लंघन का दावा करता है, लेकिन वास्तविक Founding Agreement document नहीं है; सिर्फ वे emails हैं जिन्हें उसका हिस्सा बताया जा रहा है
    मैं legal expert नहीं हूं, लेकिन जब articles of incorporation मौजूद हैं, तो ये emails अभी कितने मायने रखेंगे, इस पर संदेह है। complaint में articles of incorporation भी आते हैं, लेकिन emails से संकेतित “founding agreement” का उल्लेख ज्यादा है
    साथ ही GPT-4 को AGI बताने वाला हिस्सा कुछ बढ़ा-चढ़ाकर कहा गया लगता है। Elon संभवतः उस हद तक जीत सकता है जहां donation solicitation email में एक खास उद्देश्य बताया गया था और बाद में वह बदल गया, इसलिए donation वापस लेने की बात आती है
    लेकिन इस lawsuit का लक्ष्य स्पष्ट रूप से “OpenAI” के “Open” को फिर से जीवित करना, GPT-4 और बाद के models के बारे में ज्यादा जानकारी साझा कराना, और Microsoft की exclusive license को खत्म कराना है। ऐसे lawsuit से यह संभव होगा या नहीं, अंततः articles of incorporation की व्याख्या पर निर्भर लगता है

    • lawsuit के page 37 पर certificate of incorporation है, और उसमें Musk ने जो दावा किया है वह ठीक-ठीक लिखा है। वह जिस founding document की बात कर रहा है, वही है
    • काफी संभावना है कि यह इस बात पर निर्भर करेगा कि jurisdiction में valid contract क्या माना जाता है। कुछ states “handshake agreement” को भी legally binding contract मानते हैं, और उस agreement को तोड़ने पर lawsuit हो सकता है
      legal context में ऐसे मामले ज़रूर रहे होंगे जहां email में एक तरह से जवाब देकर उल्टा काम करने के कारण liability मानी गई हो
      articles of incorporation मुख्य legal document होंगे, लेकिन founding agreement parties के original intent और motivation दिखाने में महत्वपूर्ण है। तभी इस मामले का आधार बनता है कि कुछ ऐसा था जिसने Altman को company को दूसरी दिशा में मोड़ने के लिए प्रेरित किया
      मुझे यह कहना अनुचित नहीं लगता कि Altman ने company को control किया। Altman की firing anti-Microsoft झुकाव वाले board members को सामने लाने की strategy थी, और उनके identify होते ही Altman की वापसी के बाद उन्हें आसानी से हटाया गया लगता है। अगर Altman control नहीं कर रहा था, तो firing के बाद उसे फिर से hire करने की कोई वजह नहीं थी
    • इन लोगों ने आज एक lawyer को बुलाकर इस पर चर्चा की, और यह काफी दिलचस्प था; असल में बहस promissory estoppel पर होती दिख रही है: https://content.next.westlaw.com/practical-law/document/I77e...
      [1] https://www.youtube.com/watch?v=0hWZJg_nda4
    • पूरी complaint amateur जैसी पढ़ी जाती है। ऐसा लगता है जैसे कोई teenager अन्याय हुआ बताकर whining कर रहा हो, और Hans Niemann का chess lawsuit याद आता है

  • शिकायत में कहा गया है कि GPT-4 में न सिर्फ reasoning capability है, बल्कि वह औसत इंसान से बेहतर reasoning करता है; वकीलों की Uniform Bar Exam में 90th percentile, GRE verbal section में 99th percentile, और Advanced Sommelier exam में 77% स्कोर किया
    लेकिन कहा जा सकता है कि इन exams की common बात यह है कि वे memory को test करते हैं, और GPT-4 का average से बेहतर performance जरूरी नहीं कि reasoning का प्रमाण हो। यानी GPT-4 के पास “understanding” नहीं, बल्कि जबरदस्त reading speed और retention—यानी memory—हो सकती है
    जहां इन exams की तैयारी काफी हद तक रटने पर निर्भर करती है, वहीं दूसरे exams reasoning और understanding को ज्यादा महत्व दे सकते हैं। ऐसे exams जरूर होंगे जिनमें GPT-4 fail होगा, लेकिन GPT-4 के exam performance में सिर्फ positive results ही report किए गए हैं
    https://freeman.vc/notes/reasoning-vs-memorization-in-llms

    • Default तो exam में fail होना है। अगर साफ-साफ कहा जाए कि “यह उन एकमात्र exams की छोटी-सी list है जिन्हें इसने pass किया”, तब भी शायद लोगों की हैरानी कम नहीं होगी
      कुछ साल पहले तक किसी machine का ऐसे exams में double-digit score भी लेना बेतुका लगता। किसी machine का उन exams में से किसी एक को भी pass कर पाना अपने-आप में हैरान करने वाला है
      अगर कुछ professions में entry के लिए exams में passing score पाना अब कोई बड़ी बात नहीं रह गई है, तो सच कहें तो यह थोड़ा निराशाजनक है। GRE verbal 99th percentile 2010 के natural language processing researcher के लिए shocking होता; अब अगर इसे “reasoning नहीं” कहा जा रहा है, तो reasoning की कसौटी लगातार आगे खिसकाई जा रही है
    • मुझे नहीं लगता कि OpenAI की तरफ से यह argument आएगा। ऐसा कहने से उनका संभावित defense काफी कमजोर हो जाएगा कि safety concerns की वजह से वे model को open source नहीं कर रहे
    • इनमें से कोई भी exam अपने-आप में professional qualification का आधार नहीं है। ये ऐसे exams नहीं हैं जिनमें केवल pass कर लेने से किसी खास profession की qualification मिल जाए
      Advanced Sommelier exam दूसरे exams और processes वाले procedure का हिस्सा है; GRE verbal section आम तौर पर दूसरे GRE sections के साथ programs में admission के लिए इस्तेमाल होता है और उसके बाद कई साल की additional study की जरूरत पड़ सकती है। UBE भी आम तौर पर approved course में कई साल पढ़ाई के बाद दिया जाता है
      Plaintiffs को यह दावा करना होगा कि GPT-4 AGI है। वजह यह है कि OpenAI बनाने को लेकर जो disputed agreement था, वह सिर्फ बड़े language model को develop और improve करने के बारे में नहीं, बल्कि AGI के इर्द-गिर्द था। अगर OpenAI ने अभी AGI हासिल नहीं किया है, तो कहा जा सकता है कि वह agreement मौजूदा काम पर लागू नहीं होता
    • GPT-4 जिन exams में fail होगा वे “कुछ” ही नहीं हैं; basic math में यह हास्यास्पद रूप से खराब है
      हालांकि confidence भरपूर है

  • यह साफ है कि OpenAI अपनी founding के समय intended entity से अलग चीज बन गया है। यह बदलाव अच्छे कारणों से हुआ हो सकता है, लेकिन बदलाव हुआ है—इस तथ्य पर संदेह करना मुश्किल है

    • “intent” शब्द interesting है। सोचता हूं founders में से कितने लोग चुपचाप बहुत पैसा कमाने की उम्मीद रखते थे
      fairness में कहें तो ऐसी उम्मीद भी किसी न किसी रूप में AGI develop करने के public goal को हासिल करने की उम्मीद से जुड़ी रही होगी
    • Elon Musk असली billionaire हैं, और अगर Sam Altman एक fake billionaire हैं जिनकी अधिकांश equity OpenAI में फंसी है, तो यह एकतरफा मुकाबला होगा
    • आम तौर पर किसी company का अपना काम बदलना बस pivot कहलाता है। यह साफ नहीं है कि Elon के पास इस lawsuit में plaintiff standing क्यों है, और company का direction बदलना lawsuit का विषय क्यों बनता है
      यह कुछ वैसा लगता है जैसे Google पर इसलिए मुकदमा करना कि उसने अपने mission से “Don’t be evil” हटा दिया

  • मुझे अब भी लगता है कि Musk शायद अपने बताए कारणों से ज्यादा मामूली वजहों से नाराज हैं, फिर भी यह lawsuit दायर होना सच में स्वागतयोग्य है
    OpenAI स्पष्ट रूप से धरती की सबसे खतरनाक और गैर-जिम्मेदार companies में से एक को बड़े पैमाने पर बेच दिया गया है, और संगठन के scale को देखते हुए accountability की संभावना भी बनानी हो तो इतने अमीर किसी व्यक्ति को मुकदमा करना ही था

    • कोई भी useful idiot बन सकता है; Elon Musk क्यों नहीं
      हालांकि मैं इससे सहमत हूं कि उनके कूद पड़ने की वजह मामूली होने की संभावना ज्यादा है

  • कोई सक्षम lawyer Musk को witness stand पर खड़ा कराकर AI के risks पर उनके views दोबारा कहलवाएगा
    अगर technology सच में खतरनाक है, तो यह argument दिया जा सकता है कि उसे ज्यादा बंद रखना public interest में है, और OpenAI पहले भी ऐसे reasons दे चुका है
    मैं यह नहीं मानता कि closed source public interest है, लेकिन यह argument पूरी तरह संभव है कि malicious actors को catch up करने की speed बढ़ाना positive नहीं है

    • ऐसा नहीं है। यह security through obscurity की तरह सिर्फ गति धीमी करता है
      असली risk को जानने और response के लिए सबसे अच्छी information पाने के लिए इसे open होना चाहिए। वरना जब कोई दूसरा यही काम closed तरीके से करके exploit करेगा, तो उसे ज्यादा फायदा मिलेगा
    • उन्हें witness stand पर बुलाने की जरूरत भी नहीं। यह कोई trick question नहीं है; complaint में ही सब लिखा है। उसमें कहा गया है कि “AGI humanity के लिए गंभीर खतरा है, शायद आज हमारे सामने मौजूद सबसे बड़ा existential threat”
      हालांकि court के यह तय करने की संभावना बहुत कम है कि open और closed में से कौन सा ज्यादा safe है। founding agreement में safety के लिए open करने का intent काफी स्पष्ट है। court contract breach तय करता है, यह नहीं कि breach philosophically अच्छी बात थी या नहीं
    • अगर यह बात सही है, तो शुरुआत ही इस तरह नहीं करनी चाहिए थी। दोनों चीजें साथ नहीं मिल सकतीं
      जैसा नाम संकेत देता है, या तो public goal pursue किया जाए, या फिर शुरुआती structure ही गलत था—इनमें से एक
    • तो OpenAI की performance के करीब पहुंच रहे सभी open models का क्या किया जाए
    • यह मानने की कोई वजह नहीं है कि “AI” Altman, Brockman आदि के हाथों में बेहतर है, और आम जनता का बड़ा हिस्सा भी शायद ऐसा ही महसूस करेगा

  • New York Times के लेख के मुताबिक, Musk ने बार-बार OpenAI की आलोचना की कि वह एक for-profit कंपनी बन गई है, लेकिन 2017 में उन्होंने Altman और अन्य संस्थापकों से AI लैब का नियंत्रण छीनकर उसे एक commercial operation में बदलने की योजना बनाई थी, जो Tesla जैसी उनकी दूसरी कंपनियों के साथ सहयोग करे और लगातार अधिक शक्तिशाली होते supercomputers का इस्तेमाल करे।
    स्पष्टीकरण यह है कि नियंत्रण हासिल करने की यह कोशिश विफल होने पर उन्होंने OpenAI बोर्ड छोड़ दिया; अगर यही बात है, तो OpenAI के वकील इस मुकदमे को बहुत लंबे समय तक अटकाए रख सकते हैं।

    • दिलचस्प बात यह है कि दस्तावेज़ के अनुसार उन्होंने सितंबर 2020 तक OpenAI को दान देना जारी रखा।
    • समझ नहीं आता कि इससे मुकदमा लंबे समय तक क्यों अटका रहेगा।
    • क्या हालिया OpenAI coup के पीछे भी वही हो सकते थे?
    • Musk ने AI के खतरों की चेतावनी दी और फिर खुद भी एक लॉन्च किया—यह भी वैसा ही है।
    • समझ नहीं आता कि इस मामले में यह समस्या क्यों है। उल्टे यह दिखाता है कि OpenAI ने technology जनता के लिए open नहीं की, और उस जनता में Elon Musk भी शामिल हैं।
      अगर non-profit ने अपना काम सही से किया होता, तो उन्हें नियंत्रण छीनने की कोशिश करने की जरूरत भी नहीं पड़ती।

  • ऐसे मुकदमों में नुकसान साबित करना जरूरी नहीं होता क्या? अगर OpenAI ने सच में contract तोड़ा, तो Musk को व्यक्तिगत रूप से क्या नुकसान हुआ?

    • क्या ऐसा नहीं हुआ कि non-profit ने उनका पैसा लिया, फिर for-profit में बदल गई, और उनकी कंपनियों के AI efforts से प्रतिस्पर्धा करने लगी?
    • पता नहीं यह कितना comparable है, लेकिन अगर मैंने किसी university को 44 million dollar दान दिए हों और यह सहमति हुई हो कि उन्हें किसी खास तरीके से इस्तेमाल किया जाएगा—जैसे कोई खास building बनाना या कोई खास program support करना—और university ने पैसा किसी और तरीके से इस्तेमाल कर लिया हो, तो मुझे लगता है कि lawsuit करने का अधिकार होना चाहिए।
      बेशक यह contract में लिखे investment details और संबंधित कानून पर निर्भर करता है, और मैं दोनों के बारे में अच्छी तरह नहीं जानता।
    • cause of action में नुकसान के दावों की भरमार है। दावा है कि Musk ने plaintiffs के specific representations के आधार पर 44 million dollar दान दिए, साथ ही office lease और अन्य contributions भी किए।
    • क्योंकि OpenAI ने GPT-4 source code और data को proprietary बनाए रखने का फैसला किया, इसलिए उन्हें उस तक access नहीं मिल सकता।
    • असली complaint पढ़ने लायक है। काफी आसानी से पढ़ी जा सकती है।
      https://www.courthousenews.com/wp-content/uploads/2024/02/mu...