Snowden: OpenAI और उसके प्रोडक्ट्स पर कभी भरोसा न करें

 (twitter.com/Snowden)
1 पॉइंट द्वारा GN⁺ 2024-06-16 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Snowden ने @OpenAI और ChatGPT जैसे प्रोडक्ट्स पर कभी भरोसा न करने की सार्वजनिक चेतावनी दी
  • इस चेतावनी का सीधा कारण @OpenAI का @NSA/CSS Director को बोर्ड में नियुक्त करने का फैसला है
  • उन्होंने कहा कि इस नियुक्ति के पीछे “सिर्फ एक ही कारण” है, लेकिन पोस्ट में उस ठोस कारण को स्पष्ट नहीं किया
  • उन्होंने इस फैसले की दुनिया भर के सभी लोगों के अधिकारों के खिलाफ जानबूझकर और सोची-समझी गद्दारी के रूप में कड़ी आलोचना की
  • यह पोस्ट एक छोटे चेतावनी संदेश के अधिक करीब है, और इसमें अतिरिक्त आधार, उदाहरण या प्रतिक्रिया के तरीके शामिल नहीं हैं

Snowden की चेतावनी की सामग्री

  • Snowden ने कहा कि @OpenAI और उसके प्रोडक्ट्स पर भरोसा नहीं करना चाहिए
    • उदाहरण के तौर पर ChatGPT का उल्लेख किया
  • जिस फैसले पर उन्होंने आपत्ति जताई, वह @OpenAI द्वारा @NSA/CSS Director को बोर्ड में नियुक्त करना था
  • उनका मानना है कि यह नियुक्ति दुनिया भर के सभी लोगों के अधिकारों के साथ जानबूझकर की गई गद्दारी है
  • पोस्ट “You have been warned” पर समाप्त होती है, यानी यह पाठकों को सीधे चेतावनी देने के रूप में लिखी गई है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-06-16
Hacker News की राय

  • Snowden, Stallman की तरह, ऐसे व्यक्ति हैं जिनसे आप असहमत हो सकते हैं और जिनका रुख आपको चरम लग सकता है, लेकिन उन्हें पूरी तरह नज़रअंदाज़ करना मूर्खता होगी
    अभी समाज और कानून बनाने वालों के सोए रहने के बीच बौद्धिक संपदा अधिकारों को बायपास कर, अरबों लोगों की रचनाओं को attribution या मुआवज़े के बिना इस्तेमाल करने की gold rush चल रही है

    • Richard Stallman ने कभी ऐसा कुछ नहीं किया जिससे यह भरोसा टूटे कि वे privacy rights और व्यक्तिगत स्वतंत्रता में जड़े सिद्धांतों से प्रेरित हैं
      Snowden की असली प्रेरणा कहीं कम निश्चित है

  • OpenAI पर भरोसा न करने के लिए हमें Snowden के बताने की ज़रूरत नहीं है
    जब पहली बार इस कंपनी के बारे में पता चला, तो कुछ शब्द पढ़ते ही ऐसा लगा जैसे मैं उस व्यक्ति द्वारा चलाए जा रहे used car dealership में घुस गया हूं जो हाई स्कूल में मुझे परेशान करता था

    • फिर भी बहुत से लोगों को किसी के बताने की ज़रूरत होती है
      क्या आपको लगता है कि कुछ न कहना ही बेहतर है?

  • Nakasone के board में शामिल होने के वाजिब कारण तो ज़ाहिर तौर पर हैं
    OpenAI regulation को लेकर बहुत संवेदनशील है, और इसलिए उसके पास अमेरिकी सरकार को अपनी दिशा में खींचने के लिए एक बड़ी lobbying team है। वे (a) राजनीतिक contacts लाते हैं और (b) यह भरोसा देते हैं कि कोई भी development अमेरिकी national security को खतरे में नहीं डालेगी। corporate boards में यह काफ़ी आम बात है
    वास्तविकता यह है कि AI असल में क्या कर सकता है, उससे कहीं ज़्यादा दुनिया पर असर इस बात का पड़ रहा है कि AI क्या कर सकता है ऐसा माना जाता है

    • याद आता है कि Henry Kissinger जैसे लोग Theranos board में शामिल थे
      हमें कैसे पता चले कि ऐसे board positions सच में अर्थपूर्ण हैं, या बस मुफ्त salary लेकर हर चीज़ पर rubber stamp लगाने वाली जगहें हैं?
    • सही
      इसके अलावा वे सिर्फ NSA director ही नहीं थे, बल्कि U.S. Cyber Command के commander भी थे, और यह अनुभव OpenAI की security और safety posture, और government तथा defense customers को बेचने—दोनों से बहुत संबंधित है
    • अगर सरकार को बेचना चाहते हैं, तो यह भी अच्छा विचार है
    • सबसे उदार व्याख्या में, उनके contacts सरकार को तथ्यों के बिना पूरे AI पर अंधाधुंध ban लगाने से रोकने में मदद कर सकते हैं
      लेकिन मुझे लगता है कि ज़्यादातर लोगों के दिमाग में यह मामला बहुत नकारात्मक रूप से बैठेगा
    • क्या आप यह हिस्सा और समझा सकते हैं कि “AI क्या कर सकता है ऐसा माना जाता है” का असर उसकी वास्तविक क्षमता से अधिक है?
      वह धारणा किस तरह असर डाल रही है, और वास्तविक AI का क्या असर है?

  • उसी tweet में लिखा है, “यह पृथ्वी पर हर व्यक्ति के अधिकारों के साथ जानबूझकर और सोची-समझी गद्दारी है”
    मुझे यह थोड़ा बढ़ा-चढ़ाकर कहा गया लगता है

    • इस खास मामले की details तो मुझे नहीं पता, लेकिन Snowden के लिए बढ़ा-चढ़ाकर बोलना काफ़ी आम है
      मैं उन्हें बहुत दोष नहीं देता। वे नरक जैसे अनुभव से गुज़रे हैं। बस मुझे नहीं लगता कि उनके Twitter घोषणाएं कोई खास neutral phrasing होती हैं
    • सहमत
      चेतावनी वाली भाषा किसी cause को आगे बढ़ाने में मदद कर सकती है, लेकिन भेड़िया आया वाले लड़के जैसा न दिखना हो तो इसे संभालकर इस्तेमाल करना चाहिए

  • इस स्थिति को देखते हुए Apple का OpenAI के ChatGPT के साथ integration करने का फैसला और खराब दिखता है
    भले ही privacy promises हों कि बहुत अधिक जानकारी उजागर नहीं की जाएगी और user से explicitly पूछा जाएगा, OpenAI में हुई ये चीज़ें और दूसरी घटनाएं Apple leadership के लिए गंभीर चिंता पैदा करनी चाहिए
    Apple के top executives ने कहा था कि ChatGPT सबसे अच्छा है, इसलिए उन्होंने वहीं से शुरुआत की। शायद यह partnership अगले साल इसी समय तक कायम न रहे

    • याद आता है जब Steve, Facebook और Twitter को iOS के first-class features के तौर पर integrate करने को लेकर उत्साहित थे
      यह स्थिति उस पल से बहुत मिलती-जुलती लगती है
      फिर याद आता है कि Siri कितनी खराब है। OpenAI ने अचानक Apple को शर्मिंदा कर दिया, और Apple को इस क्षेत्र में competitive दिखने के लिए इसकी सख्त ज़रूरत है। अजीब और दुखद बात है
    • ऐसा लगा कि उन्होंने इसे ऐसा flexible बनाया है कि दूसरे models भी plug in किए जा सकें
      अगर choices और बढ़ें तो वे user को model चुनने दे सकते हैं
    • Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M भी इस्तेमाल किए जा सकते हैं
      ये सभी शानदार हैं और इनमें से ज़्यादातर या सभी Siri से बेहतर हैं
      मेरे हिसाब से Apple का सबसे अच्छा कदम यह होगा कि user को चुनने दें कि वह कौन-सा AI बुलाना चाहता है। इसे iTunes या App Store की तरह AI store भी कह सकते हैं। तब AI providers privacy और performance पर compete कर पाएंगे। हालांकि user को यह समझने के लिए कि क्या चुनने लायक है, काफी comparison features की ज़रूरत होगी

  • स्रोत: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Former head of NSA joins OpenAI board

  • चैटबॉट से कई विषयों पर वाकई बहुत सारे सवाल पूछे हैं, और कई बार यह उपयोगी साबित हुआ है
    फिर भी मैं इस पर पूरी तरह भरोसा नहीं करता और सतर्क रहता हूँ, और इस बात पर भी मुझे ज्यादा शक नहीं कि मेरी बारीकी से निगरानी हो रही है। बस यह कल्पना करना मुश्किल है कि इसे मेरे खिलाफ कैसे इस्तेमाल किया जा सकता है
    बेहतर privacy के लिए मैं ज़्यादा भुगतान करने को भी तैयार हूँ और self-hosting में भी दिलचस्पी है। लेकिन मेरी 99 समस्याओं में यह काफी नीचे आता है
    पहले कभी मैंने 23andMe को अपना saliva sample भेजा था। उस data का कुछ हिस्सा चोरी हो गया, और शायद कहीं बिक रही Ashkenazi Jews की सूची में मेरा नाम भी होगा। यह अप्रिय बात है। अभी मैं ऐसी स्थिति सोच नहीं पा रहा जहाँ chatbot surveillance समस्या बने, लेकिन हो सकता है मेरी कल्पना कमज़ोर हो

    • अगर आपके दोस्त और उनके दोस्तों के दोस्त तक सभी कहें कि आसमान बैंगनी है, तो क्या आप observation से अलग होते हुए भी इतना साहस कर पाएँगे कि उसे नीला घोषित करें?
      हम AI feedback में डूब जाएँगे, और हर कोई उसकी सलाह से प्रभावित होगा। Google मुझे BuzzFeed पर भेजता है इसलिए उसे पता है कि मैं घटिया लेख पढ़ता हूँ—इस तरह के “sources” व्यावहारिक रूप से खत्म हो जाएँगे। सिर्फ इसलिए कि ChatGPT ने कहा, हर चीज़ authority की एक परत ओढ़ लेगी। यह product भरोसे पर टिका है। क्या आप किसी दुर्भावनापूर्ण गुंडे से वही सवाल पूछेंगे और निजी details बताएँगे? शायद नहीं
      आपको चाहे लगे कि आप पूरी तरह अविश्वास कर रहे हैं, AI सलाह का प्रवाह पानी जैसा है और हम मछलियों जैसे हैं। हम पहले ही प्रभावित हो रहे हैं, और अगर आपको नहीं पता कि कैसे प्रभावित हो रहे हैं, तो आपको और ध्यान से देखना चाहिए
    • शायद यह थोड़ा अलग मुद्दा हो, लेकिन 23andMe जैसी services की असली समस्या सिर्फ यह नहीं है कि उनके पास अपरिवर्तनीय DNA और traits की जानकारी है
      अब उनके पास family tree में ऊपर-नीचे काफी बड़े दायरे के रिश्तेदारों की DNA और traits जानकारी भी हो जाती है। ऐसी service इस्तेमाल करना मूल रूप से अपने परिवार वालों को बेच देने जैसा है, और उनके पास कोई विकल्प नहीं होता
    • OpenAI आगे चलकर chatbot से कहीं अधिक चीज़ें देने की संभावना रखता है
      अभी भी आप files upload करके analysis करा सकते हैं
      मुझे नहीं लगता कि Microsoft द्वारा consumer Windows Recall को push करना, deleted files का permanent index बनाए रखने की कोशिश करना, O365 enterprise customers के default storage location के रूप में OneDrive को push करना, और OAI में अरबों dollars झोंकना कोई संयोग है

  • जिन लोगों ने Twitter block कर रखा है, उनके लिए बाकी tweets जैसी दिखने वाली सामग्री यहाँ quote की गई है
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • मैंने Twitter block नहीं किया है, लेकिन वहाँ कुछ भी देख नहीं पाता
      लगभग 80% बार सिर्फ generic error और “try again” दिखता है
    • नोट: उस “article” page पर x.com पर जाने की warning है
      filter list में item जोड़ने का समय आ गया है
      मैंने link इसलिए क्लिक किया कि देखूँ अभी tweets की जगह कौन-सी नई टूटी हुई screen दिखेगी। अजीब बात है कि article link काम करता है। मेरे लिए यह बहुत लंबे समय बाद हुआ है

  • OpenAI और सरकार के बीच किसी न किसी रूप में सहयोग है, यह कुछ हद तक स्पष्ट लगता है
    लेकिन वह इतना नाटकीय रूप से बुरा क्यों हो सकता है?

    • शायद इसलिए कि उनका track record बहुत पारदर्शी नहीं है, hehe

  • एक और गया
    list में जोड़ दिया, paid account cancel कर दिया, data delete कर दिया, account भी delete कर दिया
    किसी service से एक कदम पीछे हटकर यह सोचना कि क्या वह सचमुच जरूरी है, अब लगातार आसान होता जा रहा है। सिद्धांत रूप से वह जरूरी नहीं है, और जैसे ही वह abusive relationship बन जाए, उसे हटा देना चाहिए
    OpenAI अच्छा कुत्ता नहीं था