- हाल ही में NYU और Cornell के शोधकर्ताओं द्वारा प्रकाशित "How to think about end-to-end encryption and AI" नामक पेपर पढ़ने का अवसर मिला। यह पेपर AI और end-to-end encryption से जुड़े महत्वपूर्ण सवालों पर चर्चा करता है, और हालांकि मैं इसके कुछ निष्कर्षों से सहमत नहीं हूँ, यह एक बेहद महत्वपूर्ण विषय को उठाता है।
end-to-end encryption क्या है और इसका AI से क्या संबंध है?
- पिछले 10 वर्षों में प्राइवेसी से जुड़ी सबसे महत्वपूर्ण कहानियों में से एक end-to-end encrypted communication platforms का उभार रहा है। 2011 से पहले, अधिकांश cloud-connected devices डेटा को plain text में upload करते थे।
- end-to-end encryption ऐसी तकनीक है जो server को message की plain text content देखने से रोकती है। हालांकि, यह तकनीक server के लिए डेटा को process करना कठिन बना सकती है।
- AI के विकास के कारण यह संभावना बढ़ रही है कि बहुत-सा data processing remote servers पर offload किया जाएगा। इससे प्राइवेसी संबंधी समस्याएँ पैदा हो सकती हैं।
end-to-end encrypted messaging पर AI का प्रभाव
- end-to-end encryption systems इस तरह डिज़ाइन किए जाते हैं कि message content transmission के दौरान प्रतिभागियों के devices के अलावा कहीं और access न की जा सके। लेकिन यह इस बात की गारंटी नहीं देते कि उपयोगकर्ता अपने डेटा को कैसे process करेंगे।
- AI जिस तरह डेटा को process करता है, वह user consent से जुड़े जटिल सवाल पैदा कर सकता है। कुछ कंपनियाँ उपयोगकर्ताओं को अच्छी तरह मार्गदर्शन दे सकती हैं, लेकिन कुछ शायद ऐसा न करें।
trusted hardware और Apple का "Private Cloud Compute"
- Apple ने AI की प्राइवेसी समस्याओं को हल करने के लिए "Private Cloud Compute" नाम का एक approach पेश किया है। यह trusted hardware का उपयोग करके डेटा की रक्षा करने का तरीका है।
- यह system attackers और Apple कर्मचारियों, दोनों के लिए डेटा leak करना कठिन बना देता है। लेकिन फिर भी यह encryption की तुलना में कमज़ोर security guarantees देता है।
AI agents आखिर किसके लिए काम करते हैं?
- AI agents उपयोगकर्ता के डेटा को जिस तरह process करते हैं, उससे सरकारों के access मांगने की संभावना खुल सकती है। यह प्राइवेसी से जुड़े महत्वपूर्ण प्रश्न उठाता है।
- तकनीकी विकल्प प्राइवेसी की गारंटी देने में विफल हो सकते हैं, और इस बात को लेकर भरोसा कम है कि समाज सही राजनीतिक विकल्प चुनेगा।
1 टिप्पणियां
Hacker News राय
जैसे-जैसे automated detection systems बढ़ते हैं, अलग-अलग मामलों को संभालने वाले लोग कम होते जाते हैं और मैनेजर automated detection पर ज़्यादा निर्भर हो जाते हैं। इससे false positive आने पर समस्या सुलझाना मुश्किल हो जाता है और बहुत निराशा हो सकती है। खासकर अगर इसका इस्तेमाल law enforcement में हो, तो यह किसी व्यक्ति की ज़िंदगी के लिए विनाशकारी हो सकता है
उदाहरण के लिए, Amazon पर मुझे अवैध reviews के लिए गलत तरीके से flag किया गया था, और समस्या सुलझाने के लिए किसी इंसान से संपर्क करने की कोशिश नाकाम रही। अगर ऐसी स्थिति गंभीर आपराधिक मामलों में हो, तो यह किसी की ज़िंदगी बर्बाद कर सकती है
Automated detection systems को इंसानों की जगह लेने के बजाय उनका पूरक होना चाहिए, ताकि कम लोगों के साथ ज़्यादा काम किया जा सके। लेकिन अभी incentives की कमी है और decision-makers खुद वास्तविक मामलों से नहीं निपटते, इसलिए उन्हें समस्या का एहसास नहीं होता
असली खतरा तब पैदा हो सकता है जब AI किसी व्यक्ति के काम को तेज़ करने से आगे बढ़कर संगठनात्मक नियंत्रण के एक tool में बदल जाए। इससे संगठन अधिक प्रभावी हो सकते हैं, लेकिन इससे यह विश्वास कमजोर पड़ सकता है कि कर्मचारी वास्तव में इंसान हैं
mass surveillance का असली खतरा यह है कि असुविधाजनक लोगों पर जानकारी इकट्ठा की जाए ताकि उन्हें आगे असुविधाजनक न रहने दिया जाए। mass surveillance के सभी नतीजे अभी तक सामने नहीं आए हैं
OpenAI पारदर्शी तरीके से बताता है कि data 30 दिनों तक रखा जाता है, और employees तथा third-party contractors इसकी समीक्षा कर सकते हैं
इस पर कठिन सवाल उठ रहे हैं कि क्या AI systems वास्तव में हमारे लिए काम कर रहे हैं। मौजूदा रुझान एक ऐसे भविष्य के लिए बहुत कम उम्मीद देते हैं जो neutral हो और privacy को प्राथमिकता दे
Apple ने घोषणा की है कि वह security researchers के लिए software images जारी करेगा ताकि वे bugs को verify कर सकें, लेकिन source code जारी नहीं करेगा। Apple का कहना है कि वह user data को store नहीं करता, और support engineers user data नहीं देख सकते
AI किसके लिए काम करता है, इस सवाल में ad tech कंपनियों के AI को users के हितों के खिलाफ चलाने की संभावना बहुत अधिक है। इसकी वजह ad-supported "free" services से जुड़ी उम्मीदें हैं
AI agents वास्तव में किसके लिए काम करते हैं, इसका कानूनी concept महत्वपूर्ण है। अभी जो प्रस्तावित किया गया है, उसमें विभिन्न खतरों के लिए surveillance शामिल है
mass surveillance के परिणामस्वरूप, cloud में stored data को scan किया जा सकने से केवल साधारण असहमति के कारण भी निगरानी में आने का जोखिम बढ़ता है
तकनीकी guarantees, user promises से अलग होती हैं। Apple का PCC security को बेहतर बनाता है, लेकिन transparency या accountability की गारंटी नहीं देता। transparency, security से भी बड़ा मुद्दा है
अगर AI को समाज की सेवा करनी है, तो information asymmetry को दूर करना होगा। अगर हम कंपनियों से अच्छे व्यवहार की उम्मीद करते हैं, तो हमें यह सुनिश्चित करना होगा कि वे transparently काम करें
तकनीकी choices शायद privacy issues को हल न कर पाएं। AI agents तक access किसे दिया जाएगा, यह महत्वपूर्ण है। तकनीकी रूप से agents को local पर चलाया जा सकता है और उन लोगों के साथ बातचीत को रोका जा सकता है जिन्हें system तक पहुंच नहीं होनी चाहिए