AI पर भरोसे का संकट

Dropbox की नई AI सुविधाओं पर अविश्वास

• Dropbox ने नई AI सुविधाएँ जोड़ी हैं.
• इन सुविधाओं पर यह आलोचना हो रही है कि ये डेटा OpenAI को भेजती हैं.
• Dropbox इनकार करता है कि निजी फ़ाइलों का उपयोग मॉडल training data के रूप में किया जाता है.

महत्वपूर्ण विवरण

• Dropbox के पास एक दस्तावेज़ है जिसमें यह सिद्धांत शामिल है कि वह ग्राहक की सहमति के बिना AI model training के लिए ग्राहक डेटा का उपयोग नहीं करेगा.
• settings में छिपा हुआ एक checkbox है, जिससे यह स्पष्ट नहीं है कि उपयोगकर्ता की सहमति है या नहीं.

जो लोग OpenAI पर भरोसा नहीं करते

• Dropbox का third-party partner OpenAI दावा करता है कि वह डेटा का उपयोग internal model training में नहीं करता और उसे 30 दिनों के भीतर हटा देता है.
• लोग OpenAI के दावों पर भरोसा नहीं करते और AI को लेकर trust crisis का अनुभव कर रहे हैं.

Facebook आपके microphone से जासूसी नहीं करता

• यह सिद्धांत कि Facebook उपयोगकर्ता के microphone के ज़रिए जासूसी करता है और विज्ञापन दिखाता है, तकनीकी और गैर-तकनीकी कारणों से आसानी से खारिज किया जा सकता है.
• लेकिन लोग अपने अनुभवों के आधार पर ऐसे दावों पर अविश्वास नहीं करते.

यह वास्तव में महत्वपूर्ण है

• भरोसा महत्वपूर्ण है, और किसी कंपनी पर व्यक्तिगत गोपनीयता के बारे में झूठ बोलने का आरोप बहुत गंभीर है.
• सरकार की भूमिका यह सुनिश्चित करना है कि ऐसी चीज़ें न हों.

हम क्या कर सकते हैं

• बड़े AI labs training data के बारे में जानकारी साझा करके भरोसा बेहतर कर सकते हैं.
• ChatGPT के साथ होने वाले interaction मॉडल सुधार के लिए उपयोग किए जाते हैं, लेकिन यह कैसे उपयोग होता है, इस बारे में पर्याप्त विवरण नहीं हैं.

local models के लिए अवसर

• लोग cloud की बजाय अपने device पर चलने वाले local models पर अधिक भरोसा करते हैं.
• local models की गुणवत्ता बेहतर हो रही है और उनका आकार कम हो रहा है.

GN⁺ की राय

• AI और privacy के बीच का संगम एक महत्वपूर्ण मुद्दा है, और इस पर पारदर्शी बातचीत की आवश्यकता है.
• Dropbox और OpenAI के दावों पर अविश्वास तकनीक की समझ की कमी और भरोसे के अभाव से पैदा होता है.
• यह लेख AI तकनीक की तेज़ प्रगति और उसके साथ privacy के महत्व पर ज़ोर देता है, और यह समझाता है कि समझ व भरोसे पर आधारित पारदर्शी communication क्यों ज़रूरी है, इसलिए यह रुचिकर बनता है.

[GN⁺]

Hacker News राय

• यह screenshot सीधे मेरे अकाउंट से लिया गया है। यह 'on' पर सेट है, लेकिन मैंने इसे खुद on नहीं किया था।

  • वेबसाइट privacy के संदर्भ में 'consent' का भी एक संकट मौजूद है। हमें कानूनी रूप से लागू की जा सकने वाली consent की परिभाषा चाहिए, और इसका मतलब यह नहीं होना चाहिए कि user को अपना data third parties को भेजे जाने के लिए सकारात्मक सहमति देनी ही पड़े। लेख अच्छा है, लेकिन 'मेरा फ़ोन मेरी बातें सुन रहा है' और 'OpenAI शायद इस बारे में झूठ बोल सकता है कि वह मेरा data कैसे इस्तेमाल करता है' वाली उपमा कुछ हद तक त्रुटिपूर्ण है। iPhone के microphone तक पहुँच रखने वाले third-party apps पर कड़ा नियंत्रण होना, data के third party को भेजे जाने के बराबर नहीं है। आम लोगों को यह एक जैसा लग सकता है, लेकिन वास्तव में हम पहले मामले से कुछ हद तक सुरक्षित हैं। user data की privacy और sovereignty के लिए लड़ाई पहले ही हार चुके हैं, ऐसा मानकर चलना बहुत ही अनुत्पादक है। मैं अक्सर देखता हूँ कि तकनीक को कुछ हद तक समझने वाले लोग नई कंपनियों के दुरुपयोग पर 'यह तो पुरानी बात है' जैसे रवैये से प्रतिक्रिया देते हैं। ऐसे लोगों को बेहतर उदाहरण पेश करना चाहिए। यह लाचारी भरोसे को नुकसान पहुँचाती है और यह एहसास नहीं होने देती कि एक बेहतर दुनिया संभव है। Dropbox की गलती भी इसी सोच की वापसी लगती है: उन्हें लगा कि users को फ़र्क नहीं पड़ेगा अगर हम बिना पूछे उनकी private files third party को भेज दें। मैं पहले ही Dropbox से अपना ज़्यादातर data निकाल चुका था, और कल मुझे Dropbox को हमेशा के लिए cancel करने की ज़रूरत महसूस हुई। धन्यवाद, Dropbox!

• यह लेख कुछ हद तक भोला लगता है और इसमें 'अच्छी नीयत मान लेने' का भाव है। AI के बाहर पिछले 10 वर्षों में क्या हुआ है, उसे देखिए: हर कोई data को मानो किसी जुनूनी संग्रहकर्ता की तरह निगल रहा है। सिर्फ Google और Facebook ही नहीं, सब ऐसा कर रहे हैं। आज मैंने देखा कि Swedish traditional cuisine वाली एक छोटी-सी site ने भी autoplay video, dark-pattern cookie consent banner वगैरह जोड़ लिए हैं। लगभग हर नया app/site इसी आर्थिक धुरी के इर्द-गिर्द बनाया जा रहा है। और जैसे ही LLM ताकतवर होने लगे, अचानक third-party APIs पर समन्वित रोक लगने लगी। अब हमारे पास ChatGPT/OpenAI और उनके competitors हैं। अगर बाकी खिलाड़ी data को किसी गुप्त आधी-रात के snack की तरह खाते हैं, तो मौजूदा पीढ़ी का AI ऐसे है जैसे तेज़ और फुर्तीले zombies जिन्हें खून और दिमाग चाहिए। ऐसा इसलिए है क्योंकि product में data की भूमिका अब कहीं अधिक प्रत्यक्ष है, लेकिन tech VC की पारंपरिक hype-train प्रतिस्पर्धी मानसिकता भी दशकों में पहली बार पूरी तरह जाग गई है। हर चीज़ zombie apocalypse/gold rush/बाद में माफ़ी माँग लेने जैसी मानसिकता की ओर इशारा करती है। इसलिए मुझे पूरा यक़ीन है कि वे (सब) safety/responsibility rhetoric पर इतना ज़ोर इसी वजह से दे रहे हैं। वे आने वाले अनिवार्य PR संकटों के पहले ही माहौल धुँधला करने के लिए गोला-बारूद इकट्ठा कर रहे हैं। उधर हम technologists ऐसे बैठे हैं मानो पिछले 10 सालों का अनुभव हमने गहराई से जिया ही नहीं, और सोच रहे हैं कि इस बार सब अलग होगा क्योंकि AI की academic foundation है, क्योंकि कंपनियाँ नई और चमकदार हैं, क्योंकि safety rhetoric है, क्योंकि 'ज़मीन से जुड़े' founders के edgy Twitter बयान हैं। मुझे ठीक-ठीक नहीं पता क्या हो रहा है, लेकिन मैं इंसानों को कैसे काम करते देखा है, यह काफी लंबे समय से जानता हूँ। और वे बेहतर नहीं हुए हैं।

• मुझे लगता है आपका लेख training से परे मेरे data से जुड़े privacy मुद्दों को नज़रअंदाज़ कर रहा है।

  • एक professional के रूप में, मेरे clients ऐसे हैं जिनके लिए मुझे confidentiality agreements और नियमों का पालन करना होता है कि मेरी जानकारी कहाँ जाती है। मैं ऐसी services पसंद करता हूँ जहाँ मेरा data server पर ही रहे। मैं नहीं समझता कि मेरा data हमेशा पूरी तरह encrypted क्यों नहीं होता और केवल मैं ही उसे क्यों नहीं देख सकता, लेकिन मेरा data मेरी consent या रुचि के बिना internet के ज़रिए किसी दूसरी company को processing के लिए भेजा जाना भयानक है। AI features इस्तेमाल करते समय मैं consent देता हूँ, लेकिन मेरी private files को मेरी अनुमति के बिना पूरे internet पर भेज देना पागलपन है। सच कहूँ तो OneDrive में migration tool है, और मैंने कल रात Dropbox Business से trial लेकर अपनी सारी files अपने-आप migrate कर दीं। यह आख़िरी सीमा थी, क्योंकि उनकी company बार-बार वह करती रहती है जो मैंने माँगा ही नहीं, और वह feature नहीं देती जो मैं लगातार माँगता रहा हूँ... end-to-end encryption। अगर आप Dropbox Business से Office 365 OneDrive account में कुछ clicks में migrate करना चाहते हैं, तो यह रहा: [migration tool link]

• यहाँ मूल समस्या यह है कि लोग चिंतित हैं कि Dropbox की private files OpenAI को model training के लिए इस्तेमाल की जा रही हैं।

  • यह समस्या का सिर्फ़ एक हिस्सा है। मैं नहीं चाहता कि मेरा data कहीं भी भेजा जाए, जब तक मैं खुद approve न करूँ। इस मामले में हमारे पास यह शक करने की वजह नहीं है कि OpenAI हमारे files को training के लिए इस्तेमाल करेगा, लेकिन फिर भी हमें यह भरोसा करना होगा कि वे हमारे files को सुरक्षित तरीके से संभाल सकते हैं।

• Facebook कहता है कि वह ऐसा नहीं कर रहा। अगर वह झूठ बोलते पकड़ा गया, तो उसकी प्रतिष्ठा पर जोखिम बहुत बड़ा होगा।

  • मुझे नहीं लगता कि Facebook किसी के फ़ोन के microphone से चुपके से सुन रहा है, लेकिन यह विशेष दावा बिल्कुल भी प्रभावशाली नहीं है। Facebook की reputation, कम-से-कम मेरे जानने वाले आम non-technical लोगों में, पहले से ही सबसे ख़राब है। मैं अमेरिका में रहता हूँ, और लोग जानते हैं कि Facebook ने 6 जनवरी 2021 के दंगों को भड़काने में मदद की और उसके बाद बिना कुछ ठीक किए सारी ज़िम्मेदारी से बचता रहा। बहुत-से लोग पहले से ही मानते हैं कि शायद वे ऐसा करते होंगे, इसलिए इस मामले से जो प्रतिष्ठा-हानि उन्हें होगी, वह तुलना में कुछ भी नहीं है।

• लेख में microphone trust वाला पहलू उस बात से ध्यान भटकाने वाला red herring लगता है, जो मुख्य बिंदु को और साफ़ कर सकती थी।

  • Facebook अपने app और internet के ज़रिए आपका data लेता है, internet पर आपके व्यवहार को track करता है, और इस data को आपके <i>model</i> में डालता है। ये models कभी-कभी इतने सटीक होते हैं कि वे लगभग यह अनुमान लगा सकते हैं कि आप क्या सोच रहे हैं। इसलिए आम लोग इस निष्कर्ष पर पहुँचते हैं कि वे microphone से सुन ही रहे होंगे। OpenAI जैसी LLM कंपनियाँ और उनके partners लगभग यही model इस्तेमाल करते हैं। वे जहाँ चाहें वहाँ से data लेते हैं, model को बेहतर बनाते हैं, ताकि आपको जहाँ वे click करवाना चाहते हैं, वहाँ आप क्लिक करते रहें, और आपसे कमाई की जा सके।

• मैं OpenAI या किसी और बड़ी company पर 'भरोसा' नहीं करता कि वे जो कहते हैं कि उन्होंने किया है, जो कहते हैं कि करेंगे, या जो वे कर रहे हैं।

  • लेकिन मैं मानता हूँ कि OpenAI, users की consent के बिना, Dropbox से data को <i>training</i> के लिए इस्तेमाल नहीं कर रहा है। लेकिन यहाँ समस्या वह नहीं है। समस्या तब पैदा होती है जब data transit में होता है; आप data किसी ऐसे third party को भेज रहे हैं जो वास्तव में उसे पढ़ सकता है, और Dropbox के नियंत्रण से बाहर कोई rogue employee हो सकता है, data logs में दिख सकता है, या अन्य policies के तहत process किया जा सकता है। अगर मैं Dropbox को personal data भेजता हूँ, तो वे मेरी स्पष्ट और सूचित consent के बिना किसी भी कारण से उसे third party को नहीं भेज सकते। यह विवादास्पद कैसे हो सकता है, मैं समझ नहीं पाता। अगर Dropbox model को अपने पास रखता और consent देने वाले users को RAG search देता, तो वह एक बात होती। अगर Dropbox बिना किसी को बताए पहले से ही सभी users का सारा data third party को भेज रहा है, तो वह बिल्कुल दूसरी बात है। यह भयानक है।

• AI पर trust crisis?

  • तब क्या होता है जब आप यह सुनते हैं कि किसी company के board/CEO को झूठ या manipulation के आरोपों पर हटाया/बदला गया? अगर Dropbox user data से निकला हुआ derived data scan करके कुछ हासिल करता है, तो वह 'derived' data अब 'user data' नहीं रह जाता, बल्कि Dropbox data बन जाता है और share किया जा सकता है। वह सांख्यिकीय प्रकृति का हो सकता है, जो सीधे किसी individual user से जुड़ा न हो, लेकिन क्या training data यही नहीं होता? क्या यह ऐसे ही काम नहीं करता? यह झूठ नहीं है, यह शब्दों की चालाकी है। नहीं, यह अनैतिक व्यवहार है, और बड़ी कंपनियों के लिए यह मानक बन चुका है।

• मुझे लगता है कि जो लोग AI कंपनियों पर भरोसा नहीं करते, वे विभिन्न industries की कंपनियों, non-profits, यहाँ तक कि government agencies के बारे में भी ऐसे ही महसूस करते होंगे।

  • मेरे लिए यह AI-आधारित कंपनियों से कहीं बड़ा trust issue लगता है। इसलिए इस खास क्षेत्र का हर दिशा से आ रहे अविश्वास से लड़ने की कोशिश करना, इन businesses की सीमा से बाहर की लगभग असंभव ज़िम्मेदारी जैसा लगता है। मुझे नहीं पता कि इस समस्या का जवाब क्या है, क्या सचमुच कोई वास्तविक समस्या है, या अगर यह व्यापक cynicism हर चीज़ और हर व्यक्ति तक फैल गया, तो हम किस दिशा में जाएँगे। शायद हम बस दिलचस्प समय में जीने के लिए अभिशप्त हैं।