दक्षिण कोरिया के फ़ोरम/कम्युनिटी को अब सभी इमेज AI सेंसरशिप टूल से स्कैन करनी होंगी
(discuss.privacyguides.net)- Telecommunications Business Act में बदलाव के कारण दक्षिण कोरिया के इंटरनेट कम्युनिटी और फ़ोरम ऑपरेटरों से यह मांग की गई है कि वे उपयोगकर्ताओं द्वारा अपलोड की जाने वाली सभी इमेज और वीडियो को AI से स्कैन करें
- AI मॉडल चलाने के लिए हार्डवेयर सरकार उपलब्ध नहीं कराएगी, और वेबसाइट ऑपरेटरों को डेटासेंटर-ग्रेड Nvidia GPU खुद खरीदने होंगे, जिससे छोटे व्यवसायों और फ़ोरम पर वित्तीय दबाव पड़ेगा
- वेबसाइटों को आवश्यक हार्डवेयर और सॉफ़्टवेयर क्षमताएं 1 जुलाई से तुरंत लागू करनी होंगी
- घरेलू इंटरनेट कम्युनिटी इमेज की AI पूर्व-सेंसरशिप नीति 2021 में लागू तथाकथित ‘Nth Room Prevention Act’ से जुड़े Telecommunications Business Act संशोधन से जुड़ी है, और सामाजिक सुरक्षा तंत्र की ज़रूरत तथा अभिव्यक्ति की स्वतंत्रता के हनन के बीच जनमत बंटा हुआ है
- इस नीति का प्रवर्तन एक साथ ऑपरेटरों की लागत का बोझ, कम तैयारी अवधि, उपकरण आपूर्ति की समस्या, और अभिव्यक्ति की स्वतंत्रता पर विवाद पैदा कर रहा है
नियामकीय बदलाव और लागू होने की समय-सीमा
- Telecommunications Business Act में नियामकीय बदलाव के तहत दक्षिण कोरियाई सरकार इंटरनेट कम्युनिटी और फ़ोरम ऑपरेटरों से यह मांग कर रही है कि वे वेबसाइट पर अपलोड होने वाली उपयोगकर्ता इमेज और वीडियो को AI से स्कैन करें
- वेबसाइटों को 1 जुलाई से आवश्यक हार्डवेयर और सॉफ़्टवेयर क्षमताएं तुरंत लागू करनी होंगी
- पोस्ट करने वाले ने इशारा किया कि यह लागू होने का समय पोस्ट की तारीख के हिसाब से अगले महीने है
हार्डवेयर और लागत का बोझ
- AI मॉडल चलाने के लिए जरूरी हार्डवेयर सरकार उपलब्ध नहीं कराएगी
- वेबसाइट ऑपरेटरों को डेटासेंटर-ग्रेड Nvidia GPU खुद खरीदने होंगे
- समस्या यह है कि यह मांग छोटे व्यवसायों और फ़ोरम पर वित्तीय दबाव डालेगी
संबंधित रिपोर्ट और कम्युनिटी ऑपरेटरों की प्रतिक्रिया
- संबंधित लेख इमेज अपलोड करने पर भी पूर्व-सेंसरशिप? 'पक्ष-विपक्ष टकराव' की पृष्ठभूमि के अनुसार, घरेलू इंटरनेट कम्युनिटी पर अपलोड की जाने वाली इमेज तक की AI पूर्व-सेंसरशिप नीति अब स्पष्ट रूप से सामने आ रही है, और सामाजिक सुरक्षा तंत्र की ज़रूरत तथा अभिव्यक्ति की स्वतंत्रता के हनन के बीच जनमत विभाजित है
- उक्त रिपोर्ट में कहा गया है कि ‘Nth Room Prevention Act’ के नाम से जाना जाने वाला Telecommunications Business Act संशोधन 2021 में लागू हुआ था
- Ruliweb ऑपरेटर की पोस्ट में कहा गया है कि कुछ उपस्थित लोग 6 महीने की मोहलत की उम्मीद कर रहे थे, लेकिन जब यह कहा गया कि उपकरण की आपूर्ति संभव नहीं है, तो सरकारी पक्ष ने जवाब दिया कि उन्हें उपकरण के बारे में नहीं पता, कानून का मानक जुलाई से लागू है, इसलिए इसे करना होगा
मुख्य मुद्दे
- उपयोगकर्ताओं द्वारा अपलोड की जाने वाली इमेज और वीडियो की AI स्कैनिंग ऐसी नीति है जिसमें सामाजिक सुरक्षा तंत्र की ज़रूरत और अभिव्यक्ति की स्वतंत्रता के हनन पर बहस टकराती है
- सरकार द्वारा उपकरण उपलब्ध न कराने की शर्त के बीच तत्काल लागू होने की समय-सीमा दिए जाने से, परिचालन लागत और उपकरण की व्यवस्था का सीधा बोझ कम्युनिटी और फ़ोरम ऑपरेटरों पर ही रहता है
4 टिप्पणियां
लोग यह भी कह रहे थे कि भले ही इसका बहुत इस्तेमाल हो, लेकिन जिन कम्युनिटीज़ का पता विदेश में है उन पर इसे मजबूरन लागू नहीं कराया जा सकता, इसलिए आखिरकार केवल घरेलू कम्युनिटीज़ ही पिसेंगी।
Hacker News की पोस्ट्स को देखें तो deepfake के पीड़ितों में काफी संख्या में कोरियाई celebrities हैं, और असली निर्माण शायद चीन या Southeast Asia की आपराधिक ताकतें करती होंगी, तो सिर्फ घरेलू sites को censor करना वाकई बेकार की कवायद ही है।
आख़िरकार यह विषय यहाँ भी आ गया।
Hacker News टिप्पणियाँ
AI सेंसरशिप टूल इस्तेमाल करने के लिए किसी खास vendor का solution खरीदना पड़ता है, और समस्या यह है कि deadline भी practically एक महीने से कम बची है
कोरिया में ऐसी IT zombie कंपनियाँ बहुत हैं जो सरकारी contracts पर ही टिकी रहती हैं, इसलिए यह कोई खास अनोखी बात नहीं है, और वास्तव में इसके नीचे एक local CMS ढांचा बिछा हुआ है
अंग्रेज़ी में कमजोर कोरियाई programmers उस local CMS पर निर्भर हो जाते हैं, और नतीजे में उनकी programming क्षमता भी कमजोर पड़ने लगती है
मेरा मानना है कि यही वजह है कि उच्च शिक्षित लोगों का अनुपात बहुत ज़्यादा होने के बावजूद कोरिया में अपेक्षाकृत कम standout programmers हैं
कोरिया दुनिया का पहला देश था जिसने internet censorship law लागू किया था, और चाहे वामपंथी सरकार हो या दक्षिणपंथी, censorship का ऐतिहासिक रिकॉर्ड दोनों के पास है
लेकिन ऐसे censorship systems राष्ट्रीय IT contracts और jobs भी पैदा करते हैं, इसलिए मामला जटिल है
और ठोस रूप से कहें तो, घरेलू bulletin board और forum platforms का अधिकांश हिस्सा खास commercial CMS से काफ़ी मज़बूती से बंधा हुआ है, और सरकार-संबंधित projects में अक्सर उसी CMS की practically मांग की जाती है
developers, अंग्रेज़ी क्षमता और global open source alternatives के अनुभव की कमी के कारण, उसी ecosystem में फँसे रह जाते हैं, और basic AI censorship features तक के लिए उस vendor के monopoly modules पर निर्भर हो जाते हैं
जब एक महीने से भी कम की तंग deadline खरीद को मजबूर करती है, तो बेहतर, सस्ते और ज़्यादा transparent विकल्पों की समीक्षा करने की गुंजाइश ही खत्म हो जाती है
आखिरकार पूरी संरचना vendor lock-in, कमजोर technical capability, और वास्तविक innovation की जगह सतही compliance के चक्र को लगातार दोहराती रहती है
एक वास्तविक समस्या होती है, उसके बाद जल्दबाज़ी में और शायद घटिया NIH-शैली का समाधान आता है, फिर एक single implementation सब पर थोप दी जाती है, और उसके बाद सालों तक तकनीकी ठहराव चलता रहता है — पूरा pattern वही है
उम्मीद है कि यह नई अनिवार्यता SEED की तरह कोरियाई web को पुराने Internet Explorer और असुरक्षित ActiveX controls से लंबे समय तक बाँधकर रखने जितनी दूर तक नहीं जाएगी
https://archive.is/ermII
सोचता हूँ कि क्या इससे कोरियाई लोगों के लिए, दूसरे देशों में hosted ज़्यादा मुक्त forums का कोई बाज़ार बनेगा
सांस्कृतिक संदर्भ में एक बात छूट रही है: कोरिया में डीपफेक, बिना सहमति वाले अश्लील कंटेंट, और निजी तस्वीरों के दुरुपयोग की समस्या व्यापक है और लगभग लगातार बनी रहती है
कोरिया में बहुत-सी अच्छी बातें हैं, लेकिन पुरुषों, महिलाओं और बच्चों से जुड़ा यौन माहौल काफ़ी भयावह है
इस समस्या की गंभीरता जाने बिना सिर्फ़ पश्चिमी सोच के आधार पर निर्णय करना मुश्किल है, और तंत्र को आप जैसे भी देखें, उसके पीछे की समस्या बहुत वास्तविक है
किसी छोटे फ़ोरम पर AI फ़िल्टर लगाने का प्रस्ताव अजीब और शायद भद्दा लग सकता है, लेकिन कोरिया में जब कोई वास्तविक समस्या सामने आती है तो आम तौर पर पहले कार्रवाई करने और “बस करके देखते हैं” वाली प्रवृत्ति होती है
इसी वजह से अजीब नतीजे भी निकलते हैं, लेकिन गतिशील समस्या-समाधान भी संभव होता है
मैं यहाँ जिस बात को पहले से रोकना चाहता हूँ, वह है इस मुद्दे को तथाकथित “सार्वभौमिक” मूल्यों से मापने का रवैया
फ़्रांसीसी क्रांति और Enlightenment शैली के सार्वभौमिक अधिकारों का विचार वास्तव में सार्वभौमिक से ज़्यादा एक सांस्कृतिक क्षेत्र की तर्क-व्यवस्था है, जो अपने दायरे में सुसंगत है, लेकिन उसे सबके डिफ़ॉल्ट की तरह निर्यात किया गया है
व्यक्तिगत रूप से मुझे वे मूल्य पसंद हैं, लेकिन अन्य आत्म-सुसंगत तर्क-प्रणालियाँ भी मौजूद हैं, और मैं कोरिया की तर्क-व्यवस्था को उनमें से एक मानता हूँ
यह घिसा-पिटा लग सकता है, लेकिन कोरिया सामंजस्य और समूह पर टिकता है, जबकि पश्चिम व्यक्ति पर; दोनों ही विचलन पैदा करते हैं, बस उनके प्रकार अलग होते हैं
जब मैं पहली बार कोरिया आया था, तो मुझे लगा कि स्पीड कैमरे और CCTV की संख्या पागलपन है, लेकिन कुछ साल बाद मैं सिर्फ़ अभ्यस्त नहीं हुआ, बल्कि इसे ऐसा समझौता मानने लगा जो ज़्यादातर काम करता है, और उलटे उसकी कद्र करने लगा
कोरिया बीच-बीच में बख़्तरबंद गाड़ियाँ उतारने वाले कठोर प्रवर्तन की बजाय, दोस्ताना दिखने वाली हल्की पुलिसिंग और बड़े पैमाने पर automated enforcement को तरजीह देता है
यह एक design choice है, किसी dystopia की ओर फिसलने का संकेत नहीं
मेरा मतलब बस इतना है कि खुले मन से देखें, और किसी एक सांस्कृतिक क्षेत्र के मूल्यों को बिना आलोचनात्मक सोच के सबके लिए पैमाना न बना दें
तंत्र की आप जितनी चाहें आलोचना करें, लेकिन एक संस्कृति के मूल्य-मानदंडों को बाक़ी सभी को परखने का मानक न बनाएं
व्यक्तिगत रूप से मुझे यह नीति गलत दिशा में गई कोशिश लगती है, लेकिन dystopia की ओर जाने वाली फिसलपट्टी नहीं
यह बस कोरिया के एक आम मंगलवार के ज़्यादा क़रीब है
लेकिन कोरियाई इंटरनेट नीति को “हल्का” बताने से मैं सहमत नहीं हो सकता
कोरिया की इंटरनेट नीति आम तौर पर SEED या इस नए मॉडल की तरह बहुत विशिष्ट तकनीकों को अनिवार्य करती है, और कोरिया-विशिष्ट बारीक नियमों को कसकर जोड़कर वस्तुनिष्ठ रूप से कमतर और बहुत असुरक्षित software के monopoly/oligopoly बना देती है
यह हल्की नीति नहीं है
उम्र सत्यापन को अनिवार्य करने के कारण पश्चिम में सरकारी अतिरेक के मिसाल के रूप में आलोचना झेलने वाला UK का Online Safety Act भी कोरियाई शैली की नीतियों से काफ़ी हल्का है
वह किसी विशेष software या hardware, cipher या protocol को अनिवार्य नहीं करता, और अनुमत age verification तरीकों की सूची भी स्पष्ट रूप से non-exhaustive है
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
ज़्यादातर digital policy में वास्तव में हल्केपन का उदाहरण मुझे जापान लगता है
वहाँ requirements अस्पष्ट होती हैं, उदाहरण non-exhaustive होते हैं, exceptions बहुत हैं, और “अगर तकनीकी रूप से झंझट है तो X लागू न भी करें” जैसी बात होती है; manual तरीक़े से भी और पूरी तरह automated तरीक़े से भी निपटाया जा सकता है
इसका मतलब यह नहीं कि जापान हमेशा अच्छा है; security requirements जैसी चीज़ों में वह कभी-कभी ज़रूरत से ज़्यादा ढीला भी होता है, लेकिन वस्तुनिष्ठ रूप से वह हल्की नीति है
कोरिया की digital policy किसी भी परिभाषा से हल्की नहीं है
अगर revenge porn फैलाने वालों को पकड़ने के लिए tank न भेजने को आप हल्का कहें तो ठीक है, लेकिन ऐसा कौन-सा देश करता है?
अगर नीति की भारीपन को उसकी पाबंदियों से आँकें, तो कोरिया का मुक़ाबला करने वाले देश बहुत कम होंगे
2024 में किसी ने स्कूल deepfake रिपोर्टों का एक नक्शा बनाया था, जो पूरे देश में चर्चा का विषय बन गया: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
समस्या सचमुच भयावह है, और यह age verification जैसी ही लगती है, जहाँ इंटरनेट को ठीक से न समझने वाले लोग भयानक समाधान पेश करते हैं
यह monkey’s paw जैसा एहसास देता है
इसे non-technical स्थिति में बदलकर कल्पना करना अच्छा अभ्यास है
मानो bar, restaurant, bookstore, art studio चलाना, या बस मध्यम से बड़े पैमाने पर लोगों का इकट्ठा होना भी तब तक ग़ैरक़ानूनी हो, जब तक सरकार द्वारा नियुक्त censor सुनने और लोगों को चुप कराने का अधिकार न रखता हो
क्या तब भी यह “सामंजस्यपूर्ण” लगेगा?
यह नहीं कहा जा सकता कि कोरिया में revenge porn की समस्या नहीं है, और मूल रूप से यही कोरियाई सरकार की तर्क-श्रृंखला भी है
लेकिन समस्या यह है कि revenge porn का मुख्य स्रोत वास्तव में वे विदेशी कम्युनिटी हैं जिनका उपयोग कोरियाई लोग करते हैं
बेशक, कोरिया की सबसे बड़ी घरेलू community को भी filtering से जुड़ी समस्याएँ रही हैं, और terror threats या rape cases जैसी घटनाएँ भी हुई हैं
लेकिन वह इसलिए क्योंकि DCinside बहुत विशाल है
वास्तव में जनता को बड़े पैमाने पर क्रोधित करने वाली घटनाएँ Twitter(X) और Telegram से शुरू हुई थीं
तो क्या इस समस्या के मुख्य कर्ता censor किए जाएँगे? नहीं
क्या censorship सचमुच ऊपर कही गई समस्याओं को ख़त्म करती है? या सिर्फ़ उन्हें और अँधेरा और बदतर बनाती है?
व्यक्तिगत रूप से मेरी सोच काफ़ी हद तक पूर्वी एशियाई है, इसलिए मैं मानता हूँ कि आज़ादी पर कुछ सीमाएँ ज़रूरी हैं
फिर भी ईमानदारी से कहूँ तो यह इंटरनेट martial law जैसा लगता है
CUDA को अनिवार्य करना और Ubuntu 18.04 की सलाह देना अजीब है
ध्यान रहे, Ubuntu 18.04 का support 2023 में ख़त्म हो गया था
क्या वे सच में सोचते हैं कि एक single Quadro GPU server realtime में भारी traffic संभाल सकता है?
या तो कोई backroom deal हुई है, या फिर यह गंभीर अक्षमता लगती है
पारंपरिक मीडिया इस मुद्दे को पर्याप्त रूप से कवर नहीं कर रहा
हमेशा गुस्से में रहने और इंटरनेट पर डटे रहने वाले लोगों के अलावा किसी और को इसकी परवाह ही नहीं लगती
मुझे इस देश के मुक्त इंटरनेट से बहुत उम्मीदें कभी नहीं थीं, लेकिन यह मेरी कल्पना से भी ज़्यादा बुरा होता जा रहा है
भविष्य self-hosted private communities का होगा, जहाँ सिर्फ़ उन्हीं लोगों को बुलाया जाएगा जिनकी पहचान असली व्यक्ति के रूप में सत्यापित हो चुकी हो, और शायद यह सत्यापन ऑफ़लाइन होगा
सच कहूँ तो अब अगर सार्वजनिक इंटरनेट मर जाए और लोग फिर से छोटे, स्थानीय समूहों में लौट जाएँ, तो मुझे उससे भी कोई दिक्कत नहीं
न Big Tech का नियंत्रण होगा, न nostr जैसी crypto बकवास, और न ही Mastodon की तरह कोई खराब admin पोस्ट डिलीट कर सकेगा
वे सिर्फ़ अपने सर्वर पर block कर पाएँगे
tangled जैसा कोड पर करता है, वैसे ही उसके ऊपर trust web या verification system बनाया जा सकता है
क्या “मैं इस व्यक्ति की गारंटी देता हूँ” जैसे किसी सिस्टम की बात हो रही है?
कोरियाई इंटरनेट फ़ोरम, Reddit जैसे आधुनिक ऐप्स की तुलना में Hacker News जैसी पुरानी साइटों की तरह दिखते हैं
UI/UX और web technologies के इस्तेमाल में ऐसा लगता है, और फिर भी इनके विज़िटर आबादी के लगभग 20% तक होना हैरान करने वाला है
सोचता हूँ क्या कोरियाई भाषा की वजह से वे अंग्रेज़ी ऐप्स की तुलना में पुराने फ़ोरम स्टाइल पर टिके रहे
निजी तौर पर मुझे उनका तरीका काफ़ी ज़्यादा पसंद है
ऐसा लगता है कि कोरिया अपने उत्तरी पड़ोसी के तरीक़े पर चल रहा है
क्या इसका असर कोरिया से निर्यात होने वाले software पर भी पड़ेगा?
अगर Samsung फ़ोनों में AI censorship tools डिफ़ॉल्ट रूप से आने लगे, तो नहीं लगता कि इससे उनकी लोकप्रियता बढ़ेगी
जब Apple ने iPhone पर ऐसा करने की कोशिश की थी, तब भी उसे काफ़ी backlash झेलना पड़ा था
जिज्ञासा में मैंने उसे आज़माया था, और image editing में वह बहुत चीज़ों को “अनुचित” कहकर ठुकरा देता था, खासकर हिंसा को
बुनियाद तो पहले से ही मौजूद है
हो सकता है Nth Room मामले ने इस तरह के सख़्त approval माहौल की ज़मीन तैयार की हो
https://en.wikipedia.org/wiki/Nth_Room_case
कोरिया लगभग हर संभव मायने में तकनीकी रूप से पीछे है
लंबे समय तक सरकारी या banking services इस्तेमाल करने के लिए Windows कंप्यूटर ज़रूरी था, और कई सेवाओं में अब भी ऐसा है
घटिया Windows laptops पर निर्भरता की वजह से कैफ़े जैसी जगहों पर लैपटॉप इस्तेमाल करने वाले लोगों को external mouse लेकर चलते देखना आम है
व्यवहारिक रूप से मानक document format वही बेतुका Hancom format है
कोरियाई ख़बरें देखो तो हास्यास्पद लगता है, जब भी वे सार्वजनिक जगहों के वीडियो चलाते हैं तो स्क्रीन का 80% हिस्सा blur किया हुआ होता है
देखने लायक़ लगभग कुछ बचता ही नहीं
API और API documentation सच में बेहद खराब तरीके से design और लिखे गए हैं, मज़ाक के स्तर के
बाहरी map providers को पिछले साल तक बाज़ार से लगभग बाहर रखा गया था
किसी भी चीज़ के लिए sign up करना हो तो लगभग हमेशा phone number चाहिए होता है
और भी बहुत उदाहरण हैं, ये तो बस अभी दिमाग़ में आए हुए हैं
dynamism के लिए बिल्कुल भी जगह नहीं है
कोरिया की समस्या राजनीति नहीं, बल्कि शुद्ध oligopoly है
Twitter पर लोग कोरिया को किसी tech-futurist देश की तरह कल्पना करना पसंद करते हैं, लेकिन हक़ीक़त यह है कि वहाँ startup culture भयानक है, venture capital ecosystem नाम की चीज़ नहीं है, और बड़े corporations सारे नियम लिखते हैं
यह छोटे देश होने की प्रकृति से आता है
वास्तव में कोरिया में Twitter(X) को सिर्फ़ पागलों के इस्तेमाल की जगह समझकर नीचा देखा जाता है और उसकी छवि भी अच्छी नहीं है
कुल मिलाकर यह chaebol-केंद्रित family-run national system के ऊपर बड़े corporations के oligopoly की संरचना है
उसके भीतर aggressive investment से ज़्यादा vendor contracts के सहारे जीवित रहने की समस्या केंद्र में आ जाती है
मैं व्यक्तिगत रूप से इस संस्कृति से नफ़रत करता हूँ, इसलिए अमेरिका में नौकरी ढूँढने की कोशिश कर रहा हूँ
3 महीने तक हफ़्ते में 84 घंटे काम करके 80 लाख won भी न कमा पाना थका देता है
बाहरी map providers को बाहर रखना, शाब्दिक रूप से कोरिया में रहने वाले लगभग सभी लोगों के लिए सकारात्मक था, और नकारात्मक सिर्फ़ Google के shareholders और उन कुछ पर्यटकों के लिए था जिन्हें local map app डाउनलोड करनी पड़ती थी
अगर किसी politician ने आम लोगों के फ़ायदे के लिए कुछ किया, तो उसमें समस्या क्या है
किसी चीज़ के लिए sign up करते समय phone number की ज़रूरत होना भी वास्तव में कई फ़ायदे देता है
HN पर यह मानने पर बहुत अच्छा response नहीं मिलता, लेकिन वास्तव में यह एक defendable tradeoff है
आप असहमत हो सकते हैं, लेकिन इसे साफ़ तौर पर बुरा बताना अज्ञानता है
2026 तक Hancom format का इस्तेमाल, सरकारी संस्थानों से काम करने के अलावा, लगभग कोई नहीं करता
यह कहना कि वह पूरे कोरिया का वास्तविक मानक है, हद से ज़्यादा generalization है