NO FAKES विधेयक में संशोधन…इंटरनेट अभिव्यक्ति और नवाचार के लिए और भी गंभीर ख़तरा

 (eff.org)
3 पॉइंट द्वारा GN⁺ 2025-06-25 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • NO FAKES विधेयक में संशोधन के बाद यह इंटरनेट पर अभिव्यक्ति की स्वतंत्रता और नवाचार के लिए एक गंभीर ख़तरे में बदल गया है
  • संशोधित विधेयक सिर्फ डिजिटल प्रतिरूपों के नियमन से आगे बढ़कर, टूल, सेवाओं और ऐप्स तक को ब्लॉक और फ़िल्टर करने की मांग करता है
  • सिर्फ शिकायत के आधार पर कंटेंट, टूल और अपलोडर की पहचान तक को तुरंत ब्लॉक और उजागर करने वाली एक बाध्यकारी व्यवस्था लाई गई है
  • अनाम अभिव्यक्ति के अधिकार के कमजोर होने और नई सेंसरशिप अवसंरचना के निर्माण से आम उपयोगकर्ता और डेवलपर दोनों के लिए ख़तरा बढ़ेगा
  • यह बड़ी IT कंपनियों के लिए अधिक फ़ायदेमंद है, और नई सेवाओं व डेवलपर्स के बाज़ार में प्रवेश की बाधाएँ काफ़ी बढ़ा देता है

विधेयक का अवलोकन और मुख्य बदलाव

  • NO FAKES(Nurture Originals, Foster Art and Keep Entertainment Safe) Act का मूल उद्देश्य generative AI आधारित डिजिटल प्रतिरूपों की समस्या का समाधान करना था
  • इस बार के संशोधन में एक व्यापक नया बौद्धिक संपदा(IP) ढांचा बनाया गया है, जो केवल नुकसान रोकने के बजाय पूरे इंटरनेट तंत्र के स्तर पर सेंसरशिप की मांग करता है
  • पहले का विधेयक image licensing system पर केंद्रित था, लेकिन संशोधित मसौदा इमेज, टूल, सेवा और ऐप सहित निर्माण में इस्तेमाल हुए सभी तत्वों तक नियमन का दायरा बढ़ाता है

टूल और सेवाओं को ब्लॉक करने के आदेश

  • संशोधित NO FAKES अवैध इमेज जनरेशन टूल, सेवा या ऐप को उपलब्ध कराने, वितरित करने या होस्ट करने वाले हर व्यवसाय को नियमन के दायरे में लाता है
  • यदि कोई टूल मुख्यतः उसी उद्देश्य के लिए इस्तेमाल होता हो, या उसका व्यावसायिक उपयोग सीमित हो, तो सिर्फ शिकायत के आधार पर उसे ब्लॉक किया जा सकता है
  • नवोन्मेषी टूल का विकास भी केवल शिकायत के आधार पर रुक जाने के जोखिम में है, और copyright संघर्षों में अधिकारधारकों का 'innovation veto' और मजबूत होता है

शिकायत और फ़िल्टरिंग सिस्टम का विस्तार

  • मौजूदा DMCA(copyright law) से भी कमजोर सुरक्षा उपायों के साथ, सिर्फ शिकायत से कंटेंट और टूल को तुरंत ब्लॉक किया जा सकता है
  • री-अपलोड रोकने वाले फ़िल्टर(Replica Filter) को अनिवार्य बनाकर, समान मामलों को भी स्वतः ब्लॉक किया जाएगा
  • टूल, ऐप और सेवा तक को हटाया जा सकेगा, यहाँ तक कि अपलोडर की पहचान उजागर करना भी सिर्फ शिकायत के आधार पर संभव होगा
  • पैरोडी, व्यंग्य और टिप्पणी जैसी चीज़ों के लिए अपवाद प्रावधान हैं, लेकिन मुकदमेबाज़ी की वास्तविक लागत के कारण उनकी प्रभावशीलता सीमित है

अनाम अभिव्यक्ति और निजी जानकारी के जोखिम

  • जज की मंज़ूरी के बिना, केवल अदालत के क्लर्क के ज़रिये subpoena from a court clerk (सूचना प्रस्तुत करने का आदेश) जारी कर अपलोडर की पहचान संबंधी जानकारी मांगी जा सकती है
  • इसी तरह की व्यवस्थाओं में पहले ही आलोचनात्मक अभिव्यक्ति को दबाने के लिए दुरुपयोग के कई उदाहरण सामने आ चुके हैं
  • केवल पहचान उजागर होने भर से भी प्रतिष्ठा, निजता और अन्य वास्तविक नुकसान की आशंका है

नवाचार और नई सेवाओं के लिए ख़तरा

  • नई कानूनी और तकनीकी अवसंरचना बनाने की मांग के कारण startup और नई सेवाओं के बाज़ार में प्रवेश की बाधाएँ तेज़ी से बढ़ती हैं
  • यह मौजूदा बड़ी IT कंपनियों के पक्ष में जाता है, जबकि नए innovation टूल और सेवाओं का विकास व लॉन्च ही हतोत्साहित हो सकता है
  • केवल शिकायत के आधार पर ब्लॉक होने वाली संरचना के कारण वैध रचनात्मक कार्य और उपयोगकर्ताओं के अधिकार भी प्रभावित होते हैं

नियमन का उद्देश्य और वास्तविक प्रभाव

  • हाल में अमेरिकी कांग्रेस ने यौन इमेज नियमन के लिए Take It Down जैसे उपाय भी पारित किए हैं, जिससे अत्यधिक ऑनलाइन मॉनिटरिंग का दबाव और बढ़ा है
  • NO FAKES का वास्तविक उद्देश्य पीड़ितों की रक्षा से अधिक, डिजिटल इमेज पर वाणिज्यिक नियंत्रण को केंद्रीकृत करना प्रतीत होता है
  • नतीजतन, सामान्य उपयोगकर्ताओं और डेवलपर्स दोनों को नुकसान होगा, और इंटरनेट नवाचार पारिस्थितिकी तंत्र पर नकारात्मक असर पड़ेगा

संबंधित पढ़ाई

2 टिप्पणियां

 
crawler 2025-06-25

पढ़ने के बाद भी समझ नहीं आया कि क्या कहा जा रहा है, इसलिए काफी देर तक ढूंढता रहा।
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
लगता है कि संशोधित बिल के लागू होने की संभावना 5% है।
यह बिल्कुल बेतुका है।
 
GN⁺ 2025-06-25
Hacker News राय

  • NO FAKES का नया संस्करण लगभग सभी इंटरनेट gatekeepers को a) शिकायत मिलते ही कंटेंट जल्दी हटाने, b) बार-बार अपलोड होने से रोकने के लिए पहले से समस्याग्रस्त copyright filters के ऊपर duplicate filters भी अनिवार्य रूप से लागू करने, c) उन tools तक को filter करके हटाने जिनका इस्तेमाल image बनाने में हुआ हो सकता है, और d) सिर्फ किसी के यह दावा कर देने पर कि वह “नक़ल” किया गया है, uploader की पहचान भी उजागर करने के लिए मजबूर करता है इस तरह की system छोटी कंपनियां लागू नहीं कर पाएंगी, जबकि बड़ी कंपनियों को इससे ज़्यादा फ़र्क नहीं पड़ेगा

    • ऐसी regulation तो उल्टा बड़ी कंपनियों द्वारा छोटे competitors के entry barriers बढ़ाने के लिए lobbying करके हासिल किए गए नतीजों जैसी लगती है इस तरह का regulatory capture एक ऐसे phenomenon में बदल जाता है जहां एक तय स्तर से ऊपर पहुंची कंपनियां या मुनाफ़े वाली firms, जो कभी innovation की बात करती थीं, आख़िरकार regulation समर्थक खेमे में चली जाती हैं
    • बड़ी कंपनियों के पास इसे लागू करने के resources होते हैं, और ऐसी regulation खुद ही छोटी कंपनियों के लिए पार न की जा सकने वाली moat बन जाती है लेकिन समस्या इससे भी कहीं ज़्यादा गंभीर है: ऐसी systems खुद एक typical authoritarian regime की social control infrastructure बन सकती हैं यह dissenting voices की बोलने की क्षमता छीन सकती है, अभिव्यक्ति और प्रकाशन के मंच छीन सकती है, लोगों की पहचान सत्ता को सौंपने पर मजबूर कर सकती है, और anti-establishment लोगों के साथ एकजुटता दिखाना तक डरावना बना सकती है
    • वास्तव में बड़े platforms जो major online communities चलाते हैं, वहां ऐसी systems का इस्तेमाल सरकार को नापसंद आवाज़ों को दबाने में और ज़्यादा होगा
    • मूल रूप से यह हर चीज़ को “fake” कहकर label करने वाली ऐसी system की मंशा हो सकती है जिसका उद्देश्य व्यवस्था के लिए असुविधाजनक आवाज़ों को detect और suppress करना हो
    • यह बात सही है कि छोटी कंपनियों के लिए इसे अपनाना मुश्किल है लगता है EFF(Electronic Frontier Foundation) को अब इंटरनेट स्वतंत्रता के असली सार में लगभग कोई दिलचस्पी नहीं रही, और वह सिर्फ “Big Tech बुरा है” जैसे headlines पर केंद्रित organization बन गई है मुझे तो लगता है कि दशकों तक Big Tech वास्तव में social information के benevolent stewards रहे हैं, और आज के समय में जब बिना किसी oversight के 20s में युवा लोग federal government data अपने MacBook पर कॉपी कर रहे हैं, ऐसी tone पूरी तरह outdated लगती है हम जिस दौर से गुजर रहे हैं वह खुद privacy disaster है, लेकिन EFF सिर्फ Meta और ByteDance के clickstream पर बरसती है

  • सिर्फ 15 साल पहले तक यह सब अकल्पनीय लगता था, लेकिन अब यह बीती हुई बहस जैसा महसूस होता है

    • असल में turning point शायद 25 साल पहले था, और 2001 के बाद PATRIOT Act जैसे privacy को निष्प्रभावी करने वाले क़ानूनों के साथ यह पहले ही irreversibly बदल चुका था
    • इसमें हैरानी नहीं है surveillance capitalism इतने लंबे समय से समाज चलाने का default तरीका रहा है कि यह सब सामान्य वास्तविकता बन गया है आज की दुनिया में हर कोई बस अपने लिए बचने और फ़ायदा उठाने की survival game में लगा दिखता है
    • कब left भी “fake news” और भावनात्मक आहत होने से बचाव के नाम पर censorship systems का सक्रिय समर्थन करने लगा, पता ही नहीं चला; और विडंबना यह है कि वही systems बाद में left और right, दोनों के establishment critics के ख़िलाफ़ इस्तेमाल होते हैं

  • बुनियादी तौर पर ऐसी बहसों में यह मान लिया जाता है कि वह medium समाज में “social media” के रूप में साझा हो रहा है असल में closed communities या private spaces में ऐसे laws बेकार नहीं हो जाते क्या, यह सवाल है कभी-कभी लगता है शायद social media का अंत ही वह चीज़ थी जो हम सच में चाहते थे

    • अकादमिक जगत पहले से जानता है कि असली मुद्दा platform design है ऊपरी तौर पर freedom/responsibility debate नहीं, बल्कि असली समाधान यह है कि सरकार social media पर algorithmic friction को अनिवार्य करे लेकिन व्यावहारिक आर्थिक हितों की वजह से politics में ऐसे बदलाव की कोई इच्छा नहीं है बल्कि मौजूदा ढांचे की chaos, division और confusion ही ruling class के लिए फ़ायदेमंद है

संदर्भ शोध: • MIT Aral & Eckles(2019): friction जोड़ने पर अभिव्यक्ति की स्वतंत्रता सीमित किए बिना misinformation का प्रसार उल्लेखनीय रूप से घटा • Mozilla/Stanford(2020~2022): “share reconsideration” जैसी friction से fake news का प्रसार अधिकतम 50% तक कम हुआ • Twitter(2021): upload से पहले fact-check prompt दिखाने पर लगभग 25% लोगों ने tweet को edit या delete करना चुना

  • वास्तव में “social media” जैसी category को क़ानूनी रूप से define करना बहुत कठिन है

  • झूठ बोलने को ही सीधे अवैध क्यों नहीं कर देते और “Ministry of Truth” जैसी कोई संस्था क्यों नहीं बना देते? झूठ को regulate करने की कोशिश दरअसल अंततः सत्ता की पसंद के narratives को ही बढ़ावा देती है

  • अगर हर image को duplicate filter से गुज़ार भी दिया जाए, तब भी AI से वही prompt इस्तेमाल कर पूरी तरह अलग सैकड़ों outputs निकाले जा सकते हैं, और अब तो बात image के ‘meaning’ को भी AI से पहचानने की हो रही है आख़िरकार chip makers और power companies के लिए तो यह अच्छी ख़बर है

  • निजी तौर पर मैं मूल लेखक के रुख़ से असहमत भी हो सकता हूं NO FAKES की DMCA से तुलना पर्याप्त आधार वाली नहीं लगती दूसरा नज़रिया देने वाला यह लेख देखें: https://www.recordingacademy.com/advocacy/news/no-fakes-act-introduced-in-the-senate

    • ऐसी कंपनियां (राजनीतिक हितधारक) तो हाथी को भी सांप की खाल बेच दें, इतनी प्रभावशाली होती हैं ऐसे PR लेखों के झांसे में मैं भी कितनी आसानी से आ जाता हूं

  • lobbying और moral panic की बहस छोड़कर, कोई बहुत आसान एक-पंक्ति summary चाहिए क्या यह law derivative works को रोकने के लिए content watermarking के इस्तेमाल को वैध बनाता है, या बात कुछ और है, यह ठीक-ठीक जानना चाहता हूं खास तौर पर यह समझना है कि असल लागू दायरा कहां से कहां तक है

    • इसका watermarking से कोई लेना-देना नहीं है कोई भी बिना किसी सबूत के hosted content के ख़िलाफ़ सिर्फ यह दावा कर सकता है कि वह “fake” है, और फिर host पर कानूनी रूप से यह साबित करने का बोझ आ जाता है कि वह असली है तुरंत हटाना default है, और दुरुपयोग की संभावना DMCA जैसी है, लेकिन इससे कहीं ज़्यादा व्यापक एक नया rights concept जोड़ा गया है, जिससे वैध data ownership साबित करना व्यवहार में लगभग असंभव हो जाता है नतीजा यह कि अमेरिका के बाहर servers शिफ्ट करने का बस एक और कारण बढ़ जाता है
    • मैंने मूल पाठ सरसरी तौर पर पढ़ा, और एहसास यही हुआ कि यह DMCA का image/tool/derivative-work संस्करण है, जिसमें creators, tools और publishers की tracking के लिए हर चीज़ का log मांगा जाता है

हालांकि पूरे bill के broader context को मैंने पूरी तरह नहीं समझा है

  • Tennessee 1 जुलाई से generative AI से जुड़े कई laws एक साथ लागू करने वाला है समस्या यह है कि शायद state legislature ने शब्दों को ही गलत समझ लिया, इसलिए भाषा इतनी ज़्यादा broad हो गई कि मानो GPU का ownership ही अवैध हो जाए उदाहरण के तौर पर, “क्या आपके पास tensor core उपयोग लाइसेंस है?” जैसे मज़ाक तक चल रहे हैं इसके अलावा राष्ट्रीय स्तर पर भी Farm Bill से ज़्यादा सख़्त cannabis regulation वाले laws आगे बढ़ाए जा रहे हैं दूसरी ओर Texas के governor पहले ही constitutional और legal समस्याओं का हवाला देकर ऐसे मिलते-जुलते bill को ठीक तरह से reject कर चुके हैं

  • मैं इस दावे से सहमत नहीं हूं कि “ऐसा law Reddit को ख़त्म कर देगा” किसी भी व्यक्ति के लिए खुलकर बोलने की जगह होना क्या इतना डरावना है? वहां कभी-कभी अप्रिय या ‘अच्छे न लगने वाले’ विचार भी सामने आएंगे ही

    • महत्वपूर्ण बात यह अलग करना है कि platform users की इच्छानुसार curation करे, और platform मनमाने ढंग से नया content randomly recommend करे

CSAM जैसी साफ़ तौर पर अवैध चीज़ों को छोड़कर, platform को यह तय नहीं करना चाहिए कि users के सामने क्या दिखे

  • इसी logic से तो Hacker News को भी ग़ायब हो जाना चाहिए
  • Section 230 पर “You are Wrong About Section 230” लेख का बार-बार ज़िक्र किया जाना चाहिए: https://www.techdirt.com/2020/06/23/hello-youve-been-referred-here-because-youre-wrong-about-section-230-communications-decency-act/ मुख्य बात यह है कि Section 230 में publisher/platform distinction जैसी कोई अवधारणा कहीं मौजूद ही नहीं है यह फ़र्क और उससे जुड़े अर्थ सिर्फ बहस में फुलाए गए हैं, इनकी कोई वास्तविक ठोस मौजूदगी नहीं है