Microsoft AI जासूसी स्कैंडल: प्राइवेसी मानकों की फिर से समीक्षा ज़रूरी

• Microsoft ने हाल ही में पाया कि राज्य-समर्थित हैकर उसके generative AI टूल्स का इस्तेमाल हमलों के लिए कर रहे थे। security community में यह सवाल उठा कि Microsoft को यह कैसे पता चला।
• Microsoft के इस व्यवहार को "जासूसी" कहना कुछ लोगों को स्वीकार्य नहीं था। उनका तर्क था कि cloud service providers का उपयोगकर्ताओं की गतिविधियों की निगरानी करना सामान्य बात है, और इसे जासूसी कहना उचित नहीं है।
• इसे प्राइवेसी के बारे में बदलती सामूहिक अपेक्षाओं के एक उदाहरण के रूप में देखा जा सकता है। इसे समझने के लिए मछलीपालन से सीख ली जा सकती है।
• 20वीं सदी के मध्य में, अत्यधिक मछली पकड़ने के कारण समुद्री मछलियों की संख्या तेजी से घटने लगी। व्हेलिंग उद्योग में भी इसी तरह की गिरावट देखी गई।
• Daniel Pauly ने समझा कि स्वीकार्य पकड़ की मात्रा तय करते समय शोधकर्ता एक गंभीर गलती कर रहे थे। समस्या यह थी कि शोधकर्ता मछलियों की आबादी में गिरावट की गंभीरता को पहचान नहीं पा रहे थे।
• Pauly ने बताया कि शोधकर्ताओं की हर पीढ़ी के पास वर्तमान आँकड़ों की तुलना के लिए अलग baseline होता है, और हर पीढ़ी का baseline पिछली पीढ़ी से नीचे होता है। उन्होंने इसे "shifting baseline syndrome" नाम दिया।
• इंटरनेट निगरानी और उससे होने वाला प्राइवेसी हनन भी इसी राह पर चल रहा है। आधुनिक तकनीक की व्यापक प्रकृति ने निगरानी को पहले से कहीं आसान बना दिया है, और हर पीढ़ी अपनी युवावस्था की प्राइवेसी स्थिति की आदी हो जाती है।
• AI chatbots इस घटना का सबसे नया उदाहरण हैं। chatbots उपयोगकर्ता के input के जवाब में output बनाते हैं, लेकिन पर्दे के पीछे input को ट्रैक करने वाली जटिल cloud-based systems मौजूद होती हैं।
• baseline का खिसकना हमारी सामूहिक प्राइवेसी हानि के केंद्र में है। अमेरिकी सुप्रीम कोर्ट लंबे समय से यह फैसला देता आया है कि प्राइवेसी का हमारा अधिकार प्राइवेसी की उचित अपेक्षा पर निर्भर करता है। लेकिन अपेक्षाएँ बदलने वाली होती हैं, और shifting baseline उनसे गहराई से प्रभावित होता है।
• अब क्या किया जाए? मछलीपालन वैज्ञानिक अब बड़ी तस्वीर को देखते हैं। वे अब पिछली दशक जैसी तुलनात्मक मापों पर निर्भर नहीं रहते। इसके बजाय वे समग्र दृष्टि से देखते हैं कि एक स्वस्थ समुद्री पारिस्थितिकी तंत्र और टिकाऊ मछली पकड़ने की मात्रा कैसी होनी चाहिए।
• प्राइवेसी और security के क्षेत्र में भी यही दृष्टिकोण चाहिए। shifting baseline के साथ तुलना करने के बजाय, हमें एक कदम पीछे हटकर देखना चाहिए कि एक स्वस्थ तकनीकी पारिस्थितिकी तंत्र कैसा दिखेगा।

[GN⁺]

Hacker News की राय

Hacker News टिप्पणियों का सार

• उपभोक्ता privacy व्यवहार को समझना: उपभोक्ता एक जटिल दुनिया में सरल धारणाओं के आधार पर चुनाव करते हैं। डिजिटल अर्थव्यवस्था में समस्या उपभोक्ताओं के मानदंड नहीं, बल्कि regulatory standards में बदलाव है।
• privacy instinct की विफलता: लोग केवल उन privacy उल्लंघनों पर संवेदनशील प्रतिक्रिया देते हैं जो उनके व्यक्तिगत रूप से परिचित लोगों से जुड़े हों। anonymous organizations द्वारा data collection पर वे उदासीन रहते हैं।
• Google और privacy: Google लंबे समय से हमारे email, search history आदि एकत्र करता आया है। अधिकांश लोगों को लगता है कि privacy छोड़कर सुविधाजनक tools का उपयोग करना एक तर्कसंगत विकल्प है।
• Big Tech और privacy: Big Tech तंबाकू कंपनियों की तरह लोगों को यह समझाती है कि वह उनके लिए फायदेमंद है। हमें इंसानों और privacy को सर्वोच्च प्राथमिकता देनी चाहिए।
• Snowden और Big Tech: Snowden ने खुलासा किया था कि Big Tech, NSA को data उपलब्ध कराती है। OpenAI जैसी AI सेवाएँ भी इसका अपवाद नहीं हैं।
• privacy सुरक्षा की कठिनाई: लोगों को privacy मुद्दों में रुचि लेने के लिए प्रेरित करना बहुत कठिन है। इसके लिए शिक्षा और समर्थन की आवश्यकता है।
• Microsoft की पारदर्शिता: Microsoft खुलकर बताता है कि उसकी AI सेवाओं की monitoring की जा रही है। EU में कानूनी रूप से logs बनाए रखना आवश्यक है।
• Apple और corporate spying: यह दावा किया गया है कि Apple अवैध रूप से devices की जांच करता है। इससे corporate spying पर सवाल उठते हैं।
• Windows की समस्या: Windows लगातार अधिक समस्याग्रस्त होता जा रहा है, और इसके विकल्प मौजूद हैं।
• privacy और लागत: कुछ लोग privacy छोड़कर कम लागत या अतिरिक्त features चुनते हैं। privacy को महत्व देने वाले products के लिए भी बाज़ार मौजूद हो सकता है।