सैन फ्रांसिस्को के अपार्टमेंट में मृत मिले OpenAI व्हिसलब्लोअर का मामला
(mercurynews.com)- OpenAI कॉपीराइट मुकदमे में संभावित गवाही और सामग्री रखने वाले व्यक्ति के रूप में उल्लेखित पूर्व शोधकर्ता Suchir Balaji 26 नवंबर को सैन फ्रांसिस्को स्थित अपने घर में मृत पाए गए, और अधिकारियों ने मौत का तरीका आत्महत्या माना
- Balaji ने मौत से पहले सार्वजनिक रूप से आलोचना की थी कि OpenAI ने ChatGPT की training प्रक्रिया में अमेरिकी कॉपीराइट कानून का उल्लंघन किया और training data का उपयोग fair use के अंतर्गत नहीं आता
- New York Times पक्ष ने 18 नवंबर को federal court में दाखिल दस्तावेज में Balaji को मुकदमे में मददगार “unique and relevant documents” रखने वाला व्यक्ति बताया
- ChatGPT के सार्वजनिक होने के बाद लेखकों, programmers और media companies ने मुकदमे दायर किए कि OpenAI ने copyrighted material को अवैध रूप से training में इस्तेमाल किया; Mercury News और उसकी 7 sister media outlets, तथा New York Times भी इसमें शामिल हुए
- OpenAI ने जवाब में कहा कि उसका काम fair use के तहत कानूनी है, और ChatGPT जैसे AI tools publishers और readers के रिश्ते तथा news experience को मजबूत कर सकते हैं
Suchir Balaji की मौत और अधिकारियों का निष्कर्ष
- पूर्व OpenAI researcher Suchir Balaji 26 साल की उम्र में 26 नवंबर को सैन फ्रांसिस्को के Buchanan Street अपार्टमेंट में मृत पाए गए
- पुलिस उस दिन दोपहर करीब 1 बजे Lower Haight स्थित residence पर पहुंची
- कार्रवाई का कारण उनकी कुशलक्षेम जांचने का अनुरोध करने वाली सूचना थी
- सैन फ्रांसिस्को पुलिस और Chief Medical Examiner’s Office ने इस हफ्ते मौत की पुष्टि की
- Medical Examiner’s Office ने मौत का तरीका आत्महत्या माना
- पुलिस ने कहा कि फिलहाल अपराध के संदेह का कोई सबूत नहीं है
- Balaji की मां ने बेटे की मौत पर शोक के दौरान privacy की मांग की
OpenAI कॉपीराइट मुकदमे में उनकी भूमिका
- Balaji के पास मौजूद जानकारी से सैन फ्रांसिस्को-स्थित OpenAI के खिलाफ मुकदमे में अहम भूमिका निभाने की उम्मीद थी
- New York Times पक्ष के वकीलों ने 18 नवंबर को federal court में दाखिल दस्तावेज में Balaji को OpenAI के खिलाफ मुकदमे में मददगार “unique and relevant documents” रखने वाला व्यक्ति बताया
- गवाही की प्रक्रिया से पहले, अदालत के दस्तावेजों में उनका नाम उन कम-से-कम 12 लोगों में शामिल था जिनके पास इस मामले के लिए उपयोगी सामग्री थी
- इनमें से कई OpenAI के पूर्व या मौजूदा कर्मचारी थे
ChatGPT training data पर उठाए गए सवाल
- Balaji की मौत उनके इस सार्वजनिक आरोप के 3 महीने बाद हुई कि OpenAI ने ChatGPT development के दौरान अमेरिकी कॉपीराइट कानून का उल्लंघन किया
- ChatGPT एक generative AI program है जिसे दुनिया भर में करोड़ों लोग इस्तेमाल करते हैं, और यह 2022 के अंत में सार्वजनिक हुआ था
- 23 अक्टूबर को प्रकाशित New York Times interview में उन्होंने दावा किया कि OpenAI उन companies और founders को नुकसान पहुंचाता है जो ChatGPT training में इस्तेमाल data के मूल मालिक हैं
- Balaji ने कहा, “अगर आप वही मानते हैं जो मैं मानता हूं, तो आपको कंपनी छोड़नी ही पड़ेगी,” और कहा, “यह पूरे internet ecosystem के लिए sustainable model नहीं है”
- अक्टूबर के अंत में उन्होंने अपनी personal website पर एक analysis post डालकर तर्क दिया कि ChatGPT training data का उपयोग fair use में नहीं आता
- उन्होंने लिखा कि ChatGPT के training data उपयोग के पक्ष में fair use को मजबूत करने वाला कोई कारक ढूंढना मुश्किल है
- हालांकि, उन्होंने जोड़ा कि यह तर्क सिर्फ ChatGPT तक सीमित नहीं है, बल्कि अलग-अलग क्षेत्रों के generative AI products पर भी इसी तरह लागू हो सकता है
OpenAI में कार्यकाल और नजरिए में बदलाव
- Balaji Cupertino में पले-बढ़े और UC Berkeley में computer science की पढ़ाई की
- उस समय वे AI से समाज को मिलने वाले संभावित फायदों में विश्वास करते थे, और बीमारी के इलाज व aging रोकने जैसी संभावनाओं को लेकर भी आशान्वित थे
- 2020 में वे OpenAI में researcher के रूप में शामिल हुए
- 2022 से उनका नजरिया नकारात्मक होने लगा
- खासकर GPT-4 program के लिए internet से data collect करने के काम को लेकर उन्हें चिंता हुई
- बताया जाता है कि इस program ने AI training के लिए लगभग पूरे internet के text का विश्लेषण किया
- Balaji ने माना कि यह practice मौजूदा publications के उपयोग को नियंत्रित करने वाले अमेरिका के fair use कानून से टकराती है
OpenAI और media companies के मुकदमे
- 2022 के अंत में ChatGPT के public release के बाद OpenAI के खिलाफ लगातार मुकदमे दायर हुए
- लेखकों, computer programmers और journalists ने आरोप लगाया कि OpenAI ने copyrighted material को अवैध रूप से लेकर program training में इस्तेमाल किया और company valuation को 150 billion dollars से ऊपर पहुंचा दिया
- Mercury News और उसकी 7 sister news outlets ने New York Times सहित कई newspapers के साथ मिलकर पिछले एक साल में OpenAI पर मुकदमा किया
- News organizations ने आरोप लगाया कि OpenAI और Microsoft ने articles की नकल की और उन्हें चुराया, जिससे news business model कमजोर हुआ
- मुकदमे के दस्तावेजों में दावा है कि Microsoft और OpenAI स्थानीय communities जिन खबरों पर निर्भर करती हैं, उन्हें बनाने वाले reporters, columnists, editors आदि के काम को कानूनी अधिकारों की परवाह किए बिना ले रहे हैं
- Microsoft का OpenAI के साथ business relationship है, और वह Mercury News के मुकदमे में भी defendant है
OpenAI का जवाब और generative AI का प्रसार
- OpenAI ने संबंधित आरोपों का कड़ा खंडन किया
- कंपनी ने जोर देकर कहा कि उसका सारा काम fair use कानून के तहत कानूनी है
- मुकदमा दायर होने के समय OpenAI ने कहा कि ChatGPT जैसे AI tools में publishers और readers के रिश्ते को गहरा करने और news experience को बेहतर बनाने की बड़ी संभावना है
- Generative AI programs internet के विशाल data का विश्लेषण करने के बाद user prompts का जवाब देते हैं या text, images और videos generate करते हैं
- ChatGPT के public release ने essays लिखने, art बनाने और code generate करने में लगी companies की industry को तेजी से बढ़ाया
- दुनिया की सबसे मूल्यवान कंपनियों में से कई AI क्षेत्र में काम कर रही हैं या ऐसे programs चलाने के लिए जरूरी computer chips बनाती हैं
- OpenAI की company valuation पिछले एक साल में लगभग दोगुनी हो गई
संकट सहायता जानकारी
- अवसाद या आत्महत्या के विचारों से जूझ रहे लोग 988 Suicide & Crisis Lifeline से मुफ्त 24 घंटे support, information और help resources पा सकते हैं
- 988 पर call या text किया जा सकता है, और 988lifeline.org website पर chat भी उपलब्ध है
1 टिप्पणियां
Hacker News की राय
Berkeley CS की क्लास (Operating Systems) में Suchir के साथ प्रोजेक्ट पार्टनर था, और वह वाकई बहुत होशियार, विनम्र और अच्छा इंसान था।
साफ लगता था कि आगे चलकर वह बड़े काम करेगा; यह बेहद भयावह बात है।
इस थ्रेड में काफी ठंडी/बेरुखी भरी टिप्पणियां दिख रही हैं।
Suchir सिर्फ 26 साल का था और Berkeley से ग्रेजुएट हुए उसे केवल 3 साल हुए थे। उसकी पर्सनल साइट https://suchir.net/ है।
ग्रेजुएशन के कुछ ही साल बाद किसी व्यक्ति का दुनिया की सबसे बड़ी कंपनियों में से एक द्वारा कथित तौर पर किए जा रहे अन्याय के खिलाफ खड़ा होना मुझे काफी साहसिक लगता है। उसी स्थिति में कितने लोग ऐसा करेंगे, पता नहीं।
परिवार के लिए दिल दुखता है। वह स्पष्ट रूप से प्रतिभाशाली इंजीनियर था, और LinkedIn पर उसकी competitive programming की उपलब्धियां भी प्रभावशाली हैं। शायद उसका HN account भी रहा होगा।
whistleblower की परिभाषा या हत्या वाली theory लिखने से पहले, एक पल सोचें कि अगर आप या आपका कोई दोस्त ऐसी स्थिति में होता, तो क्या आप चाहेंगे कि ऐसी बातें पोस्ट हों।
अगर मैंने चुपचाप खुद अपनी जान ली होती, तो चाहूंगा कि बात चुपचाप गुजर जाए, लेकिन सिर्फ article देखकर यह स्पष्ट नहीं है कि आने वाले मुकदमे में यह व्यक्ति कितना केंद्रीय था।
इसमें यह वाक्य है: “उसके पास मौजूद जानकारी San Francisco-आधारित कंपनी के खिलाफ मुकदमे में अहम भूमिका निभाने की उम्मीद थी।”
यह बहुत दुखद है कि यही उसकी सार्वजनिक विरासत बन गई। वह निश्चित रूप से असाधारण व्यक्ति था, और अगर कुछ दशक और जीता, तो दुनिया को बेहतर दिशा में बदलने में बहुत मदद कर सकता था।
हालांकि हत्या वाली theory सचमुच सिर्फ theory है, और सख्त अर्थ में उसे “theory” कहना भी शायद बहुत मजबूत शब्द है। वह लगभग सुनी-सुनाई बात के स्तर की है, और पकड़ने लायक कोई सिरा नहीं है, इसलिए वह दिशा कम उपयोगी लगती है।
किसी भी internet forum में कुछ भद्दी बातें हमेशा होती हैं, लेकिन वे पहले ही नीचे धकेली जा चुकी हैं।
दिवंगत आत्मा को शांति मिले।
यहां “whistleblower” शब्द थोड़ा उलझाने वाला है। क्या उसने सच में कोई ऐसी चीज सार्वजनिक की थी जो पहले सार्वजनिक नहीं थी?
वह “fair use” होने पर सहमत नहीं था, और कंपनी के insider होने की वजह से उस पर ध्यान गया लगता है। तथ्य खुद हमेशा से ज्ञात थे, और यह भी पता था कि OpenAI ने सार्वजनिक copyrighted text data पर training की थी। उसे विरोधी या अंदरूनी आलोचक जैसा कुछ कहा जा सकता है।
संभव है कि उसके पास अपने काम की वैधता से जुड़ी internal communications भी रही हों, और वह इस मुद्दे पर अपने managers से खुले तौर पर सवाल कर रहा था।
http://suchir.net/fair_use.html
Suchir Balaji का लेख, Generative AI कब fair use के तहत आता है
उसने बताया कि NYT article में उसने fair use और generative AI पर बात की थी, और अपने blog post (https://suchir.net/fair_use.html) में विस्तार से लिखा था कि कई generative AI products में “fair use” क्यों मजबूत defense नहीं लगता।
उसने OpenAI में लगभग 4 साल काम किया, जिनमें से आखिरी 1.5 साल ChatGPT पर थे। शुरुआत में उसे copyright और fair use की ज्यादा जानकारी नहीं थी, लेकिन generative AI कंपनियों के खिलाफ lawsuits देखते हुए उसकी दिलचस्पी बढ़ी। और गहराई से देखने के बाद उसने निष्कर्ष निकाला कि कई generative AI products में fair use defense काफी मुश्किल है, इसका मूल कारण यह है कि वे training data से प्रतिस्पर्धा करने वाला substitute बना सकते हैं।
वह lawyer नहीं था, लेकिन उसका मानना था कि non-lawyers के लिए भी कानून की धाराओं और उस कानून के अस्तित्व के कारण को समझना महत्वपूर्ण है। उसने यह भी कहा कि वह नहीं चाहता कि इस मुद्दे को सिर्फ ChatGPT या OpenAI की आलोचना के रूप में पढ़ा जाए। उसने जोर दिया कि machine learning researchers को copyright के बारे में और सीखना चाहिए, और Google Books जैसे अक्सर उद्धृत precedents भी शायद उतने अनुकूल न हों जितने ऊपर से दिखते हैं।
non-lawyer के लिए वह बहुत insightful लगा था। दिवंगत आत्मा को शांति मिले।
पहला, लेखक वास्तव में royalties से कमाई नहीं करते, अंततः उन्हें ad revenue पर निर्भर होना पड़ता है, और इससे service quality गिरती है। कलाकार, copywriter, musician अगर सिर्फ royalties पर जीना चाहें तो भूखे मर जाएंगे।
दूसरा, copyright लगातार कुछ गिनी-चुनी कंपनियों के हाथों में केंद्रित हो रहा है और वास्तविक लेखकों या पाठकों को बड़ा फायदा नहीं देता।
तीसरा, नई creative works का असली competitor AI नहीं, बल्कि पिछले 25 वर्षों में web पर जमा पुराने creative works हैं।
मुझे नहीं लगता कि हमें और restrictive copyright चाहिए। लोग पहले ही passive consumption से interaction की ओर जा चुके हैं, और TV, press, radio की तुलना में games, social networks, search engines को ज्यादा पसंद करते हैं। यह internet द्वारा बनाई गई धारा है, जिसे पलटा नहीं जा सकता।
आज हमारे पास Wikipedia, GitHub, Linux, open source, public domain, open scientific publishing, और sharing व comments के लिए non-restrictive environment मौजूद है।
अगर copyright protection को चरम तक ले जाएं, तो निष्कर्ष यह निकलेगा कि अभिव्यक्ति ही नहीं बल्कि abstract ideas तक को protect करना होगा, क्योंकि generative AI expression को आसानी से bypass कर सकता है। लेकिन abstraction के reuse को रोकना creativity के लिए विनाशकारी होगा। मुझे लगता है कि copyright अब वस्तुतः मरती हुई व्यवस्था है।
पुलिस अब कह रही है कि मामला आत्महत्या के निष्कर्ष पर पहुंचा है
https://sfstandard.com/2024/12/13/key-openai-whistleblower-d...
https://www.forbes.com/sites/cyrusfarivar/2024/12/13/openai-...
https://www.huffpost.com/entry/openai-whistleblower-dead_n_6...
Suchir सिद्धांतों वाला व्यक्ति था, और बहुत संभव है कि अपनी इसी स्थिति के कारण उसे OpenAI के options छोड़ने पड़े हों। रिपोर्ट्स हैं कि OpenAI के exit agreements बहुत प्रतिबंधात्मक थे [1]
“छोड़कर जाने वाले कर्मचारियों को जीवन भर अपने पूर्व नियोक्ता की आलोचना करने से रोकते हैं। NDA के अस्तित्व को स्वीकार करना भी उल्लंघन है
अगर कोई छोड़ने वाला कर्मचारी दस्तावेज़ पर हस्ताक्षर करने से इनकार करता है या उसका उल्लंघन करता है, तो वह कंपनी में रहते हुए अर्जित अपनी पहले से vested equity पूरी तरह खो सकता है, जिसकी कीमत संभवतः लाखों डॉलर हो सकती है”
[1] https://www.vox.com/future-perfect/2024/5/17/24158478/openai...
यहां तक कि whistleblower की मौत का कारण सार्वजनिक होने को भी जैसे कोई संक्रामक चीज़ मानते हों
OpenAI का आलोचना से इतना डरना सचमुच हास्यास्पद है। अपनी बात न चले तो tantrum करने वाले बच्चे जैसा बर्ताव कर रहा है, लेकिन उम्र के लिहाज़ से याद रखना पड़ता है कि यह सब करने वाले आखिरकार वयस्क ही हैं
कर्मचारी ने separation agreement या non-disparagement agreement पर हस्ताक्षर किए हों या नहीं, पहले से vested equity रद्द नहीं की जाएगी
पूर्व कर्मचारियों को non-disparagement obligations से मुक्त कर दिया गया
OpenAI ने पूर्व और मौजूदा दोनों कर्मचारियों को बताया कि उसने “कभी भी पहले से vested units रद्द नहीं किए हैं, और आगे भी नहीं करेगा”
https://www.theregister.com/2024/05/24/openai_contract_staff...
https://www.bloomberg.com/news/articles/2024-05-24/openai-re...
“हंसी” इसलिए कहा, क्योंकि कंपनियां छोटे clauses थोपने की कोशिश करती हैं और बाद में माफी मांगती हैं, लेकिन यह कहना कि आप जीवन भर बंधे रहेंगे, comedy के स्तर की बात है
उनके परिवार के प्रति संवेदनाएं। लगता है वे बहुत विचारशील और सिद्धांतों वाले व्यक्ति थे
वाकई दुखद। Suchir मेरे ही high school से था, और हम दोनों Berkeley गए थे। वह निश्चित रूप से बेहद होशियार था, और मुझे हमेशा यकीन था कि वह बहुत सफल होगा या कुछ दिलचस्प करेगा
अगर यह पढ़ते हुए आपको कठिन लग रहा है, तो मैं कहना चाहता हूं कि आप अकेले नहीं हैं। अभी भले ऐसा न लगे, लेकिन दुनिया सचमुच चाहती है कि आप खुश रहें
रास्ता खुला है: Old Path White Clouds [0], Opening the Heart of Compassion [1], Seeing That Frees [2]
[0] https://z-library.sk/book/1313569/e77753/old-path-white-clou...
[1] https://z-library.sk/book/26536611/711f2c/opening-the-heart-...
[2] https://z-library.sk/book/3313275/acb03c/seeing-that-frees-m...
उनके माता-पिता आत्महत्या के निष्कर्ष पर संदेह कर रहे हैं, और दूसरी स्वतंत्र autopsy करवा रहे हैं: https://sfist.com/2024/12/26/parents-of-openai-whistleblower...
यह वाकई बेहद दुखद है, और Suchir के परिवार और दोस्तों के लिए दिल भारी है
10 साल से ज़्यादा समय तक टेक इंडस्ट्री में काम करते हुए और आत्महत्या के विचारों से जूझ चुके व्यक्ति के तौर पर, मुझे हैरानी है कि क्या Bay Area टेक इंडस्ट्री की पागल संस्कृति ने इसमें कोई भूमिका निभाई होगी
बात सिर्फ चरम hustle culture की नहीं है, बल्कि एक भोला-भाला तकनीकी आशावाद भी है जो इंसान को पागल कर सकता है। आप ऐसे लोगों से घिरे रहते हैं जो सोचते हैं कि कानून तोड़ना ठीक है, और सस्ते tech support के लिए विकासशील देशों के श्रमिकों का शोषण करते हुए भी स्मार्ट किचन उपकरण बेचकर दुनिया बदलने का विश्वास रखते हैं। वह भी तब, जब वे अपने condo के बाहर drug overdose के पीड़ितों के पास से गुजरते हैं
यह सोच इतनी व्यापक है कि मैं खुद शक करने लगता हूँ कि empathy या न्यायबोध रखने वाला मैं ही अजीब तो नहीं हूँ
मुझे कुछ खास जानकारी नहीं है, लेकिन Berkeley के एक स्पष्ट रूप से बेहद प्रतिभाशाली छात्र से OpenAI जैसे निर्दयी startup में जाना झटका देने वाला रहा होगा। मानो आपने जिंदगी भर मेहनत करके अपना लक्ष्य हासिल किया हो, और फिर पता चले कि जो काम आप कर रहे हैं वह आपकी नैतिकता और मूल्यों से पूरी तरह अलग है
ऐसा तब भी होता है जब समस्या पैदा करने वाला employer सक्रिय रूप से बदला न ले, और अगर उसी industry के HR विभागों के बीच blacklist साझा करने जैसी retaliation भी हो, तो भविष्य और भी अंधकारमय हो जाता है
हर career और capability स्तर के engineers में imposter syndrome बहुत ज़्यादा है। engineering का अपना दबाव है, और उसके ऊपर वे दूसरी वजहें भी जुड़ जाती हैं जिनसे लोग stress या pressure महसूस करते हैं, साथ ही Bay Area के अपने amplification factors भी
आपको जानकर हैरानी होगी कि कितने प्रतिभाशाली और सक्षम लोग टूट गए। अगर कोई खुद को अकेला महसूस कर रहा है, तो मैं चाहता हूँ कि वह ऐसा न महसूस करे। भले ही आसपास के सभी लोग खुश और confident दिखें, मैं दावे से कह सकता हूँ कि आपकी सोच से कहीं ज़्यादा लोग संघर्ष कर रहे हैं
उनमें से एक पर अभी FTC में बड़े पैमाने के उल्लंघनों के आरोप में मुकदमा चल रहा है। कर्मचारियों की comfort से लेकर customers के खिलाफ साफ़-साफ़ गैरकानूनी हरकतों तक, जीतने के लिए सब कुछ कुर्बान कर देने वाली वह अनैतिक सोच मुझे सचमुच नापसंद थी