EU: स्कैन से इनकार करने पर फोटो और लिंक शेयरिंग पर रोक संभव
(patrick-breyer.de)- EU के बाल यौन शोषण सामग्री नियमन प्रस्ताव chat control को फ्रांस के रुख में संभावित बदलाव के कारण फिर से EU सरकारों की मंज़ूरी मिल सकने की स्थिति बन गई है
- 28 मई 2024 के मसौदे में चैट ऐप्स और सेवाओं के यूज़र्स से पूछा जाएगा कि क्या वे निजी इमेज, फोटो और वीडियो की automatic scanning और संभावित reporting स्वीकार करते हैं; इनकार करने पर फोटो, वीडियो और लिंक भेजने-प्राप्त करने पर रोक लगेगी
- WhatsApp और Signal जैसी end-to-end encryption सेवाओं को भी भेजने से पहले automatic search लागू करनी होगी, जो व्यवहार में client-side scanning के रूप में काम करेगी
- मौजूदा मसौदे से grooming संकेतों के लिए text scanning और voice communications की scanning हट जाएगी, लेकिन security agencies और military कर्मचारियों की chats को दायरे से बाहर रखा जाएगा
- Council Legal Service ने गैर-संदिग्ध लोगों की अंधाधुंध scanning को fundamental rights का उल्लंघन माना, लेकिन कई EU सरकारें 4 जून को चर्चा जारी रखने की योजना बना रही हैं
“upload moderation” मसौदा क्या बदलता है
- विवादास्पद बाल यौन शोषण सामग्री नियमन प्रस्ताव, जिसे chat control कहा जाता है, EU सरकारों के स्तर पर फिर से मंज़ूर हो सकने की स्थिति में है
- Euractiv की रिपोर्ट और आंतरिक दस्तावेज़ों के अनुसार, फ्रांस अपना पहले का veto छोड़ सकता है
- फ्रांस नए “upload moderation” प्रस्ताव को सिद्धांततः एक संभव विकल्प मान रहा है
- 28 मई 2024 का नवीनतम मसौदा, Council document 9093/24, चैट फीचर वाले ऐप्स और सेवाओं पर लागू होता है
- यूज़र्स से पूछा जाएगा कि क्या वे निजी तौर पर शेयर की जाने वाली इमेज, फोटो और वीडियो की अंधाधुंध और गलती की संभावना वाली scanning तथा reporting की संभावना स्वीकार करते हैं
- पहले से अज्ञात इमेज और वीडियो भी AI तकनीक से जांच के दायरे में आएंगे
- scanning से इनकार करने वाले यूज़र्स इमेज, फोटो, वीडियो और लिंक भेज या प्राप्त नहीं कर सकेंगे
- WhatsApp या Signal जैसी end-to-end encryption services को भी message भेजे जाने से पहले automatic search लागू करनी होगी
- मसौदा इसे Article 10a में client-side scanning के रूप में देखता है
- Patrick Breyer ने आलोचना की कि यह तरीका मौजूदा सुरक्षित end-to-end encryption को कमजोर करता है और smartphones को surveillance tools में बदल देता है
बाहर रखे जाने वाले दायरे और बाकी मुद्दे
- नवीनतम मसौदे में शुरुआती प्रस्ताव में शामिल कुछ scanning दायरे हटा दिए गए हैं
- अब तक लगभग इस्तेमाल न हुई grooming संकेतों के लिए text message scanning हटाई जाने वाली है
- अब तक कभी लागू न की गई voice communication scanning भी हटाई जाने वाली है
- फ्रांस को दी गई रियायत के तौर पर security agencies और military कर्मचारियों की chats को chat control से बाहर रखे जाने की संभावना है
- 24 मई की पिछली चर्चा में Council Legal Service ने कहा कि गैर-संदिग्ध लोगों पर अंधाधुंध chat control scanning अब भी अपेक्षित है और यह fundamental rights का उल्लंघन है
- फिर भी कई EU सरकारें इसे आगे बढ़ाने की इच्छा दिखा रही हैं
- EU सरकारें 4 जून को चर्चा जारी रखने की योजना बना रही हैं
- MEP Patrick Breyer ने आलोचना की कि Belgian proposal, EU Commission के शुरुआती chat control proposal के मूल हिस्से को जस का तस लागू करता है
- उनका मानना है कि 21वीं सदी में messenger को सिर्फ plain text के लिए इस्तेमाल करना कोई विकल्प नहीं है
- उन्होंने कहा कि वास्तव में इस्तेमाल न होने वाले अत्यधिक तत्वों को हटाना सिर्फ दिखावा है
- उन्होंने चेतावनी दी कि निर्दोष नागरिकों की private chats और photos को अविश्वसनीय तकनीक से search किया जा सकता है और वे leak हो सकती हैं
- उनके अनुसार, अगर EU सरकारें इसी रुख के साथ trilogue negotiations में जाती हैं, तो जोखिम है कि Parliament बंद-दरवाज़े negotiations में अपनी शुरुआती स्थिति धीरे-धीरे छोड़ दे और online security को खतरे में डालने वाले compromise पर सहमत हो जाए
3 टिप्पणियां
इस मामले में तो सच में समस्या काफी बड़ी लगती है, लेकिन लगता है वे इसे ज़बरदस्ती आगे बढ़ाने वाले हैं.
मुझे EU ने Apple के साथ जो किया वह पसंद है, लेकिन यह मुझे कुछ ज़्यादा ही आगे बढ़ा हुआ लगता है.
शायद Apple के साथ शुरू में जो किया, वही गलती थी... :(
Hacker News की रायें
अगर “सुरक्षा एजेंसियों और सेना के कर्मचारियों की chat भी chat control से बाहर रहेगी”, तो क्या असल में निजी बातचीत में झांकने की सबसे ज्यादा संभावना वाले सुरक्षा और सैन्य क्षेत्र ही बाहर नहीं हो जाते?
तो [1] की तरह अगर आप खुद host करते हैं, तो इस कानून का पालन नहीं करना पड़ेगा
लेकिन क्या इसका मतलब है कि कोई security official self-hosted infrastructure के बजाय public service इस्तेमाल करके, exemption के आधार पर confidential data भेज सकता है?
और जैसा @WA ने कहा, क्या ऐसे सरकारी कर्मचारियों की contact lists सभी for-profit organizations को देनी पड़ेंगी?
सच में यह कोई बेवकूफाना मजाक लगता है
[1]: See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
मान लें कि यह दावा सच है, तब भी किसी खास समूह को exception देने वाला feature किसलिए है? जब तक उस समूह को बाल यौन शोषण सामग्री बनाने और फैलाने के लिए जानबूझकर exception नहीं दिया जा रहा, इसका कोई मतलब नहीं बनता
ज्यादा plausible निष्कर्ष यह है कि privacy protection या purpose limitation के दावे झूठे हैं
यकीन करना मुश्किल है कि उन्हें लगता है ऐसी कार्रवाई किसी चीज को धीमा भी करेगी। कुछ कानूनों को safety और freedom के बीच trade-off माना जा सकता है, लेकिन इस मामले में तो मुझे समझ भी नहीं आता कि अपराधियों के लिए आखिर क्या मुश्किल होगा
अगर ऐसे platforms पर problematic चीज share करते हुए text भेज सकते हैं, तो link भी भेज सकते हैं। “links allow नहीं करने” वाले platforms पर भी लोग कोई नया notation convention बना लेंगे या plain text में share करेंगे। दूसरे platforms इस्तेमाल कर लेना भी संभव है, तो deterrent effect कहां है समझ नहीं आता
आखिर में यह सिर्फ झंझट भरा regulation है, जो technology न समझने वाले लोगों के कानून बनाने से पैदा होता है
जाहिर है 100% लोग नहीं पकड़े जाएंगे, लेकिन ऐसे कानून या measures लगभग कभी नहीं होते। और जो measures उस level तक पहुंचते हैं, वे आम तौर पर भारी false positives के साथ आते हैं
Links scan करना भी मुश्किल नहीं है, और यह उम्मीद करना भी मुश्किल है कि बाल यौन शोषण सामग्री को कहीं भी “बस यूं ही” upload कर देने पर आखिरकार कोई समस्या नहीं होगी। अगर कोई ठीक-ठीक जानता है कि वह क्या कर रहा है, तो फिर पिछले paragraph पर लौटें
यह नकारना मुश्किल है कि यह कानून 0 से ज्यादा कुछ लोगों को पकड़ेगा, और पहले से तय करना मुश्किल है कि ठीक कितने। इसका मतलब यह नहीं कि यह अच्छा कानून है, लेकिन “किसी को नहीं पकड़ेगा” वाली आपत्ति खराब argument है
पहला, यह दिखाना कि कोई कुछ कर रहा है। Voters यह स्वीकार नहीं करते कि उनके representatives के पास किसी खास hot issue को हल करने की शक्ति नहीं है। नया कानून या regulation बहुत कम या कोई असर न रखता हो, फिर भी अगर lawmakers “experts” से अच्छी बातें कहलवा सकें, तो issue को न समझने वाले कई voters कुछ हद तक संतुष्ट हो जाते हैं
दूसरा, surveillance technology को लगातार build और normalize करके रोजमर्रा का हिस्सा बनाना। सरकार के लोग जितनी ज्यादा ऐसी चीजें अनिवार्य करते हैं जो वे निजी तौर पर नहीं कर सकते, उनके लिए लगभग जो चाहें करना उतना आसान हो जाता है
हालांकि phone पर यह कितना accessible होगा, यह अलग बात है, लेकिन लगता नहीं कि बहुत मुश्किल होगा
Public content को भी defense-in-depth के हिस्से के तौर पर scan किया जा सकता है
जब अधिकार रखने वाले जिम्मेदार लोग अपनी जिम्मेदारी निभाने में खुद को असहाय महसूस करते हैं, तो वे panic में निर्दोष लोगों को असुविधाजनक या नुकसानदेह स्थितियों में धकेलते हैं और सभी को खतरे में डालते हैं। असली समस्या पैदा करने वाले अपेक्षाकृत थोड़े offenders को पकड़ने के बजाय ऐसा होता है
वर्षों में ऐसे बहुत से उदाहरण देखे हैं, और जनता का गुस्सा जितना ज्यादा रहा, संबंधित या जिम्मेदार बहुत छोटे समूह की तुलना में पूरी जनता को होने वाला नुकसान उतना ज्यादा हुआ। असल में वे बस तरीका थोड़ा बदलकर जारी रखते हैं, और जनता ही बर्बाद होती है
सरकार या public companies को outsource करने के बजाय, बेहतर है कि parents को अपने बच्चों की सुरक्षा के लिए tools और education दिए जाएं
इसलिए जिन नागरिकों ने ऐसे काम करने वालों को चुना है, उन्हें अगले मौके पर politicians को निकालना चाहिए और बताना चाहिए कि उन्हें क्यों निकाला गया। Police बिच्छू है, और बिच्छू अपनी nature के अनुसार व्यवहार करता है। उन मूर्खों को निकालना होगा जो वे कानून बनाते हैं जिन्हें वे लागू करते हैं; नए कानूनों की असली जड़ police नहीं, वे लोग हैं
ऐसे कानून से जो अफरा-तफरी पैदा हो सकती है, वह कुछ इस तरह की होगी
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
असली समस्या यह है कि Google support बदनाम तौर पर या तो मौजूद नहीं होता या समझना मुश्किल होता है। ऊपर से “lifetime ban” जैसे black-and-white फैसले और किसी उचित रूप से स्वतंत्र जगह पर appeal करना कठिन बनाने वाली संरचना जुड़ जाती है। खाते पर ban लगने के बहुत सारे निर्दोष कारण हो सकते हैं, और यह बस उनमें से एक है
ऐसी सेवाएं जहां कोई भी upload या transmit कर सकता है, सबसे खराब किस्म के लोगों को खींचने वाली flypaper बन जाती हैं। किसी न किसी रूप में सुरक्षा उपाय सच में जरूरी हैं
एक कदम आगे बढ़कर कहें तो, अगर आप ऐसा विशाल platform देते हैं जो जीवन के कई पहलुओं से जुड़ जाता है, तो चाहें या न चाहें आपको कुछ जिम्मेदारी स्वीकार करनी होगी। कम से कम मोटे तौर पर मददगार support देना होगा, और बाल यौन शोषण सामग्री का बड़े पैमाने का host नहीं बनना होगा
repair technician के तौर पर काम करते समय, Flash Player चल रहा है या नहीं देखने के लिए मैंने Google Video के front page पर कुछ भी क्लिक किया था, और एक video खुला जिसमें कोई आदमी अपना सिर उड़ा देता है। Kazaa या warez sites जैसी जगहों पर भी “कम उम्र की 12 साल की Alice गर्व से अपने छोटे स्तन दिखा रही है” जैसी चीजें, उन्हें खास तौर पर खोजे बिना भी, काफी आम तौर पर मिल जाती थीं
इन सबका संतुलन कहां रखा जाए, यह मुश्किल सवाल है, लेकिन यह दिखावा करना कि कोई संतुलन है ही नहीं मददगार नहीं है
यह प्रस्ताव council आगे बढ़ा रही है, लेकिन अंतिम नतीजे पर अभी भी असर डाला जा सकता है। ऐसी पार्टियों को वोट दें जो इस कचरे में शामिल नहीं हैं, ताकि इसे खारिज कराया जा सके। EU Pirate Party अभी भी कुछ क्षेत्रों के ballots पर है
अगर यह कानून बनता है, तो मेरा अनुमान है कि ASCII art की वापसी होगी
बात दोस्तों के साथ छुट्टी की तस्वीरें शेयर करने की नहीं है, बल्कि ऐसी चीजों की है
“यह nonprofit organization का tax संभालने का तरीका समझाने वाला link है”, “यह नया school logo है”, “यह football tournament schedule का link है” जैसी चीजें
थोड़ा topic से हटकर है, लेकिन सोच रहा था कि क्या EU ने कभी किसी चीज को deregulate किया है। क्या वे सिर्फ नए कानून और clauses जोड़ते रहते हैं? क्या उन्हें lines of code की संख्या के हिसाब से reward मिलता है? हटाए गए या deregulate किए गए कानूनों के उदाहरण क्या हैं
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
summary यहां है: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
इस directive ने product capacity से जुड़े कई national laws को खत्म किया। उदाहरण के लिए France में shampoo को 250ml या 500ml की bottle में बेचा जा सकता था, लेकिन 295ml में नहीं; और mushrooms भी 250g या 500g के box में बेचे जा सकते थे, लेकिन 230g या 490g में नहीं
अब यह संभव है, और नतीजतन यह shrinkflation को संभव बनाने वाली deregulation बन गई
मेरे लिए EU और US का food safety संभालने का तरीका दोनों की philosophy को अच्छी तरह summarize करता है। EU में किसी food को allow होने के लिए यह साबित होना चाहिए कि वह safe है, और US में किसी food को ban होने के लिए यह साबित होना चाहिए कि वह unsafe है
आजकल deregulation ज्यादा popular नहीं है, लेकिन यहां-वहां कभी-कभी हुआ जरूर है
तो हमारे fundamental rights, Article 7 का क्या होगा
मैं इस कानून का पूरा समर्थन करता हूं, बस एक चीज जोड़नी होगी
EU के अंदर politicians, civil servants और उनके परिवारों द्वारा share किया गया सारा data public और analyze किया जाना चाहिए, corruption investigation में इस्तेमाल होना चाहिए और permanent रूप से store किया जाना चाहिए
अगर हम सबको pedophile माना जा रहा है, तो सभी politicians criminals हैं
बेशक कुछ लोगों पर गलत आरोप लगेंगे और हम सब अपनी आजादी खो देंगे, लेकिन हर election के समय पिछली government का audit होने और corruption व दूसरे crimes सामने आने का छोटा मौका बनेगा
इतना तो आजमाने लायक लगता है
सकारात्मक रूप से देखें तो, विरोध नई पीढ़ी को पुराने fossils को इतिहास के कूड़ेदान में भेजने के लिए उकसाएगा
https://youtube.com/watch?v=-wntX-a3jSY
जितना कसकर पकड़ोगे, उतने ही ज़्यादा star systems उंगलियों के बीच से फिसल जाएंगे
बेशक पिछली पीढ़ी से बहुत अलग नहीं, लेकिन कोई विशाल anti-authoritarian लहर तो बिल्कुल नहीं है
किसी भी उम्र के लोग भरोसेमंद तरीके से तभी विरोध करते हैं जब उन्हें सचमुच असुविधा होती है। अधिकांश लोग निगरानी स्वीकार कर लेंगे और फिर बेवकूफ memes शेयर करने लौट जाएंगे। कम से कम तब तक, जब तक बहुत देर नहीं हो जाती
ऐसे प्रस्ताव बार-बार इसलिए लौटते हैं क्योंकि ऐसी वैध चिंताएं हैं जिन्हें industry self-regulation ने हल नहीं किया है
अगर कोई भी अच्छे उपायों पर बात नहीं करना चाहेगा, तो politicians, नए politicians भी, फिर से कोशिश करेंगे
generative AI की गैर-जिम्मेदाराना deployment इस क्षेत्र में जो कर रही है, वह वाकई भयावह है। लेकिन सब इसे "वैसे भी maths को रोका नहीं जा सकता, इसलिए हम कुछ नहीं करेंगे" या परोक्ष रूप से "मकसद साधनों को सही ठहराता है, इसलिए AGI पाने के लिए कुछ बच्चों की बलि भी चलेगी" जैसे रवैये से खारिज कर देते हैं। बाहर से यह सबसे खराब दिखता है
अगर tech industry खुद जिम्मेदारी नहीं लेगी, तो privacy जल्द ही मर जाएगी। politicians को सिर्फ एक बार जीतना है
बस इंतजार कीजिए कि पहले कुछ सैकड़ों false positives और उनकी कहानियां खबरों में आएं, और देखें कि अगले चुनाव पर उसका क्या असर पड़ता है। कुछ parties उसी पर election campaign चलाएंगी
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
इस कानून को implement करने के लिए उन्हें सिर्फ एक बार सफल होना है, और फिर यह बनी रहेगी। हमें इसे रद्द कराने में हर बार सफल होना होगा और एक बार भी असफल नहीं होना होगा