- Generative AI replicas से होने वाले नुकसान को रोकने के उद्देश्य वाला NO FAKES Act नई intellectual property rights और censorship infrastructure बनाने की दिशा में फैल रहा है, और इसकी आलोचना हो रही है कि यह इंटरनेट अभिव्यक्ति और innovation को कमजोर कर सकता है
- इसका दायरा replicas तक सीमित न रहकर उन्हें बना सकने वाले tools, apps और services तक बढ़ गया है, जिससे developers और hosting providers केवल rights holders के दावों के आधार पर liability risk में आ सकते हैं
- Service providers से केवल notified material या tools हटाने तक ही नहीं, बल्कि re-upload रोकने तक की मांग की जा सकती है, जिससे उन पर व्यवहार में filtering obligation आ सकता है
- Judge नहीं, बल्कि court clerk द्वारा जारी subpoena के आधार पर भी user identifying information मांगी जा सकती है, जिससे anonymous criticism और parody/commentary जैसी वैध अभिव्यक्ति पर chilling effect पड़ सकता है
- Compliance cost और takedown risk नई services के लिए Big Tech से मुकाबला करना मुश्किल बना सकते हैं, और वैध creative tools के development में investment incentives भी घटा सकते हैं
Generative AI replicas से निपटने से व्यापक rights system तक विस्तार
- NO FAKES Act, Nurture Originals, Foster Art and Keep Entertainment Safe Act का संक्षिप्त नाम है; यह generative AI द्वारा बनाए गए “replicas” को लेकर चिंताओं से निपटने के लिए नई intellectual property rights बनाने वाला विधेयक है
- EFF ने आलोचना की है कि मूल विधेयक भी हानिकारक false expression को लक्षित करने वाला protective measure नहीं था, बल्कि image licensing system को federal स्तर तक विस्तारित करने वाला approach था
- वजह यह है कि यह parody, satire और lawful expression की रक्षा की जरूरत के साथ संतुलन नहीं बना पाता
- संशोधन इस approach को और मजबूत करता है, और केवल images ही नहीं बल्कि images बनाने में इस्तेमाल होने वाले products और services तक शामिल करने वाला नया censorship infrastructure मांगता है
Tools और services तक निशाना साधने वाली संरचना
- पहला version digital replicas पर केंद्रित था, लेकिन नया version उन tools तक scope बढ़ाता है जो किसी व्यक्ति, rights holder या कानून द्वारा approve न की गई images बना सकते हैं
- Tool बनाने, marketing करने या host करने वाले पक्ष भी liability के दायरे में आ सकते हैं
- कुछ limits हैं
- tool को मुख्य रूप से unapproved images बनाने के उद्देश्य से design किया गया हो, या
- unapproved images बनाने के अलावा उसके commercial uses सीमित हों
- लेकिन केवल एक दावे के आधार पर भी developer target बन सकता है, इसलिए EFF के अनुसार ये limits पर्याप्त protection देना मुश्किल है
- इस clause की आलोचना है कि यह copyright debates में rights holders द्वारा लंबे समय से चाही गई innovation veto power देने जैसा असर पैदा कर सकता है
Takedown notices और filter obligation
- मौजूदा NO FAKES ने DMCA जैसी notice-and-takedown प्रणाली बनाई थी, और EFF के अनुसार उसमें भी safeguards कम थे
- संशोधन अधिक service providers को target करता है, और केवल material या tools हटाने ही नहीं बल्कि बाद में re-upload रोकने की भी मांग करता है
- नतीजतन, व्यापक filters लागू न करने पर safe harbor खोने वाली संरचना बन जाती है
- Copyright filters पहले से ही कई समस्याएं पैदा कर रहे हैं
- मूल रूप से upload को human review के लिए तभी flag करने के स्तर तक होना चाहिए था जब वह किसी copyrighted work की पूरी copy जैसा दिखे
- व्यवहार में, जैसे अलग-अलग लोगों द्वारा एक ही public domain music perform करने के मामले में, मिलता-जुलता लेकिन identical न होने वाला content भी flag हो सकता है
- केवल कुछ सेकंड की match के आधार पर infringement flag किए जाने के मामले भी हैं
- कई बार legally allowed context को पर्याप्त रूप से reflect नहीं किया जाता
- अभी copyright filters legal obligation नहीं हैं, लेकिन NO FAKES ऐसे filter obligations को कानून बना सकता है
- विधेयक में parody, satire और commentary exceptions हैं, लेकिन जो लोग lawsuit costs नहीं उठा सकते, उनके लिए यह वास्तविक protection बनना मुश्किल है
Anonymous expression को खतरे में डालने वाला subpoena clause
- मौजूदा text किसी को भी judge नहीं, बल्कि court clerk से subpoena लेकर service को user identifying information देने के लिए मजबूर करने की अनुमति देता है
- EFF बताता है कि इस प्रक्रिया में किसी भी तरह के proof की आवश्यकता नहीं है
- इसी तरह की प्रणाली copyright cases में पहले ही misuse हो चुकी है
- आलोचना से असहज व्यक्ति critic को चुप कराने के लिए subpoena लेने का तरीका अपनाता है
- आलोचना में अक्सर complainant के अपने statements को ही आधार के रूप में शामिल किया जाता है, जो fair use का classic example हो सकता है
- फिर भी subpoena जारी हो जाता है, और अगर service बहुत सक्रिय तरीके से oppose न करे तो user की identity उजागर हो सकती है
- Identity exposure आगे की अभिव्यक्ति को ठंडा कर सकता है और user को reputational या personal-life नुकसान पहुंचा सकता है
Innovation और competition पर बोझ
- EFF के अनुसार बहुत से लोग Big Tech की मौजूदा स्थिति से असंतुष्ट हैं, और उन्हें tech giants का उपयोग करने के लिए और मजबूर होना पड़ रहा है जबकि service quality भी खराब हो रही है
- NO FAKES नई services के लिए कानून का पालन करने हेतु जरूरी infrastructure को काफी बढ़ा सकता है, जिससे नई services के लिए Big Tech को challenge करना मुश्किल हो सकता है
- EFF के अनुसार कुछ बड़ी companies का NO FAKES के नए version के प्रति friendly होना शायद coincidence नहीं है
- Tools, apps और services हटाने की मांग भी innovation को रोक सकती है
- ऐसे services को lawful creative work में इस्तेमाल करने वाले लोगों को नुकसान हो सकता है
- केवल एक दावे के आधार पर offline किए जा सकने वाले tools या services में investment incentives घट जाते हैं
- EFF बताता है कि कुछ महीने पहले Congress ने intimate या sexual content वाली images पर केंद्रित Take It Down पारित किया था
- EFF के अनुसार उस विधेयक में भी platforms पर online expression की सक्रिय निगरानी करने का दबाव डालने की समस्या है, जिसमें अभी encrypted expression भी शामिल हो सकता है
- यदि Congress privacy harms को लेकर चिंतित है, तो अतिरिक्त internet regulation की ओर बढ़ने से पहले पिछले regulation के प्रभावों का इंतजार करना चाहिए
- EFF ने NO FAKES की आलोचना करते हुए कहा है कि यह हानिकारक digital replicas के victims की रक्षा करने से ज्यादा digital images के commercial use पर control को केंद्रीकृत करने वाला विधेयक है
2 टिप्पणियां
पढ़ने के बाद भी समझ नहीं आया कि क्या कहा जा रहा है, इसलिए काफी देर तक ढूंढता रहा।
https://www.govtrack.us/congress/bills/119/hr2794
https://www.govtrack.us/congress/bills/119/s1367
लगता है कि संशोधित बिल के लागू होने की संभावना 5% है।
यह बिल्कुल बेतुका है।
Hacker News की राय
नया NO FAKES संस्करण ऐसा लगता है कि लगभग हर इंटरनेट gatekeeper को notice मिलते ही speech हटानी होगी, reposts को लगातार रोकना होगा, पहले से ही काफी खामियों वाले copyright filters के ऊपर अनिवार्य रूप से अत्यधिक replica filter लगाना होगा, images बनाने में शायद इस्तेमाल हुए tools तक को हटाना और filter करना होगा, और केवल किसी व्यक्ति के “मेरी replica बनाई गई” दावे के आधार पर uploader की पहचान उजागर करनी होगी
यह ऐसा system लगता है जिसे छोटी कंपनियां implement नहीं कर पाएंगी, और बड़ी कंपनियां ध्यान देकर implement करना नहीं चाहेंगी
इसी तरह के regulatory capture के कारण, जो कंपनियां शुरुआती “disruptive innovation” के दौर में regulation से नफरत करती थीं, वे भी एक निश्चित आकार और revenue से ऊपर पहुंचने पर regulation के पक्ष में मुड़ जाती हैं
लेकिन यह उससे कहीं ज्यादा खराब दिखता है। यह textbook tyranny का infrastructure है
यह शासन का विरोध करने वालों की speech दबाने, उनके megaphone और printing press छीनने, विरोधियों की पहचान कर उन्हें शासन को सौंपने की मांग करने, और कार्रवाई या निष्क्रियता—किसी भी रूप में—विरोधियों की मदद करते हुए शासन जिन्हें देख सकता है, उन सभी में sanctions का डर पैदा करने वाली संरचना है
EFF ने बहुत पहले internet freedom के बड़े मुद्दों में रुचि लेना बंद कर दिया था, और अब लगता है कि बस Big Tech Bad किस्म की headlines की parade करता है
दशकों बाद भी Big Tech सामाजिक जानकारी का काफी moderate steward बना हुआ है, और साथ ही बिना oversight वाले 20-something MAGA लोग पूरी federal government को अपने MacBook पर चढ़ा रहे हैं—ऐसे दौर में यह रवैया बहुत tone-deaf लगता है
tech privacy का अंत पहले ही आ चुका है, लेकिन EFF clicks के लिए अब भी Meta और ByteDance को लेकर बड़बड़ाता है। internet पर बाकी सबकी तरह, आखिरकार शायद उन्हें सच में उसी की परवाह है
15 साल पहले यह बेतुका होता, लेकिन अब यह पहले से मरे हुए घोड़े को लात मारने जैसा है
निजी तौर पर मुझे लगता है दुनिया एक तरफ survival के लिए और लड़ती जा रही है, और दूसरी तरफ “मेरा काम हो गया, तुम्हारी मुझे परवाह नहीं” के करीब होती जा रही है
अब वही left के खिलाफ भी इस्तेमाल होगा, और उन right-wing dissidents के खिलाफ भी जो मौजूदा order की fairy-tale narrative का विरोध करते हैं
मुझे लगता है यह सब इस assumption पर आधारित है कि ऐसा media social media पर share होता है
इस कानून की wording private communities के अंदर meaningless लगती है। शायद यह वही अब तक अधूरी चीज़ हो—social media का अंत—जिसे हम चाहते थे
समाधान यह मांगना है कि सरकार social media कंपनियों को algorithmic friction coefficient लागू करने के लिए मजबूर करे
हालांकि संबंधित economic incentives ऐसी political will बनने ही नहीं दे रहे
ruling class मौजूदा रूप के social media द्वारा फैलाए गए confusion, division और chaos से फायदा उठाती है। उन्हें यह जैसा है वैसा ही काफी पसंद है
संबंधित research में Aral & Eckles (MIT, 2019) ने कहा कि friction लाने से freedom of expression सीमित किए बिना misinformation का spread घटता है; Mozilla और Stanford research (2020~2022) ने माना कि share cancel कराने जैसे friction fake news की spreadability को 50% तक घटा सकते हैं; और Twitter के 2021 experiment में posting से पहले fact-check prompt दिखाने पर users ने 25% मामलों में tweet edit या delete किया
फिर झूठ को ही ban करके Ministry of Truth क्यों नहीं बना देते
झूठ regulate करने की कोशिशें बस किसी खास political view के पक्ष में narrative push करने की packaging होती हैं
इस मामले में शायद मैं लेखक से बिल्कुल सहमत न हो पाऊं। DMCA से तुलना जैसी कई काफी bold claims हैं, लेकिन evidence ज्यादा नहीं दिखता
counterargument: https://www.recordingacademy.com/advocacy/news/no-fakes-act-...
ऐसे blog posts से मैं भी आसानी से fooled हो सकता हूं
हर image को replica filter से गुजरना होगा, लेकिन AI सिर्फ एक prompt से भी काफी अलग images बनाना बहुत आसान कर देता है। तब image का “meaning” infer करने वाला AI चाहिए होगा
कुल मिलाकर यह chip manufacturers और power generation companies के लिए बहुत अच्छी खबर लगती है
lobbying या propaganda-style doom-mongering के बिना, इस कानून का वास्तव में क्या करता है इसका plain English explanation सच में चाहिए
क्या इसका मतलब है कि यह कानून companies को अपने content में watermark लगाने देता है ताकि दूसरी company उस content के आधार पर derivative content न बना सके? यह exactly कैसे काम करता है?
यह images, tools और derivative works के लिए DMCA जैसा दिखता है, और creators, tools और publishers को track करने के लिए जरूरी सभी logs भी शामिल लगते हैं
लेकिन जैसा कहा, मैंने बस skim किया है
यह किसी को भी बिना evidence, कहीं भी hosted किसी भी content पर complaint करने देता है, और उस content को host करने वाले पर negative fact—यानी यह कि वह “fake” नहीं है—साबित करने का legal burden डालता है, साथ ही technically possible होते ही, व्यावहारिक रूप से तुरंत, content हटाने की legal demand रखता है
इसलिए DMCA की तरह इसका misuse हो सकता है, लेकिन demands का scope ज्यादा wide है और legitimacy साबित करना लगभग असंभव है। क्योंकि यह content पर एक नई और अस्पष्ट रूप से defined legal ownership category बनाता है
संक्षेप में, hosting को US से बाहर ले जाने की यह एक शानदार वजह है
Tennessee 1 July से कई generative AI laws लागू कर रहा है, और दिलचस्प बात यह है कि state legislature ने शायद terms गलत समझे, इसलिए यह blanket ban इतना व्यापक है कि practically GPU रखने तक को ban करने जैसा असर डालता है
“अरे, उस tensor core का license है तुम्हारे पास?” जैसी स्थिति है
फिर भी कम से कम यह federal 2018 Farm Bill ने जितनी छूट दी थी उससे आगे marijuana को nationwide और ज्यादा ban कर रहा है, तो शुक्र है /s
पड़ोसी Texas के समझदार governor ने similar bill को unconstitutional और legal challenges की संभावना के कारण veto कर दिया