- EU आयोग इस साल के उत्तरार्ध में TikTok और Instagram के addictive design फीचर्स को निशाना बनाने वाली नियामकीय कार्रवाई आगे बढ़ाने की योजना बना रहा है
- दायरे में TikTok की infinite scroll, autoplay, और push notifications जैसे वे फीचर्स शामिल हैं जो बच्चों को ऐप पर बनाए रखते हैं
- Meta के बारे में माना गया है कि वह Instagram और Facebook पर अपने न्यूनतम आयु 13 वर्ष मानक को ठीक से लागू नहीं कर रहा है
- EU rabbit hole समस्या की जांच कर रहा है, जो eating disorder और self-harm कंटेंट तक ले जा सकती है, और उसने privacy standards को प्राथमिकता देने वाला age verification app विकसित किया है
- ऑनलाइन child safety expert panel की सलाह और जांच नतीजों के बाद, संबंधित विधेयक का मसौदा जल्द से जल्द गर्मी में तैयार हो सकता है
EU की सोशल मीडिया बाल-सुरक्षा नियामक पहल
- EU आयोग TikTok और Instagram के addictive design फीचर्स को निशाना बनाकर इस साल के उत्तरार्ध में कार्रवाई करने की योजना बना रहा है
- EU आयोग की अध्यक्ष Ursula von der Leyen ने डेनमार्क में आयोजित European Summit on Artificial Intelligence and Children में कहा कि सोशल मीडिया प्लेटफॉर्म्स के कुछ खास फीचर्स को निशाना बनाया जाएगा
- नियमन के दायरे में TikTok की infinite scroll, autoplay, और push notifications जैसे वे फीचर्स शामिल हैं जो बच्चों को लगातार जोड़े रखते हैं
- Meta के बारे में भी माना गया है कि वह Instagram और Facebook पर अपने न्यूनतम आयु 13 वर्ष मानक को सही तरह लागू नहीं कर रहा है
- EU आयोग ने ByteDance और Meta से टिप्पणी मांगी है
हानिकारक कंटेंट और आयु सत्यापन
- EU उन प्लेटफॉर्म संरचनाओं की जांच कर रहा है जो बच्चों को हानिकारक कंटेंट के rabbit holes में धकेलती हैं
- हानिकारक कंटेंट के उदाहरण के तौर पर eating disorder या self-harm को बढ़ावा देने वाले वीडियो बताए गए हैं
- EU आयोग ने अपना age verification app विकसित किया है, और von der Leyen ने कहा कि इसमें “दुनिया के सबसे ऊंचे privacy standards” हैं
- सदस्य देश जल्द ही इस app को digital wallet में एकीकृत कर सकते हैं, और ऑनलाइन प्लेटफॉर्म्स भी इसे आसानी से लागू कर सकते हैं
- von der Leyen ने कहा, “अब और बहाने नहीं चलेंगे। age verification technology उपलब्ध है।”
- EU आयोग ऑनलाइन child safety expert special panel की सलाह और जांच के नतीजों का इंतजार कर रहा है, और जल्द से जल्द गर्मी में विधेयक का मसौदा तैयार कर सकता है
DSA उल्लंघन का निष्कर्ष और कानूनी दबाव
- EU आयोग ने हाल में निष्कर्ष निकाला कि Meta, Facebook और Instagram पर 13 वर्ष से कम आयु के उपयोगकर्ताओं को रोकने में विफल रहा, जिससे EU Digital Services Act का उल्लंघन हुआ
- प्रारंभिक जांच में पाया गया कि नाबालिग सत्यापन प्रक्रिया को आसानी से दरकिनार कर सकते हैं
- सोशल मीडिया प्लेटफॉर्म्स की child safety को लेकर कानूनी निगरानी मार्च में अमेरिका में Meta और YouTube के एक अहम अदालती फैसले में हारने के बाद बढ़ गई
- उस फैसले में माना गया कि infinite scroll और autoplay जैसे design फीचर्स किशोरों में लत और मानसिक स्वास्थ्य नुकसान में योगदान देते हैं
अमेरिकी Big Tech पर कार्रवाई और वैश्विक विस्तार
- EU ने पिछले एक साल में tech दिग्गजों की जवाबदेही मजबूत करने के लिए कानून लागू करते हुए अमेरिकी Big Tech पर कार्रवाई बढ़ाई है
- कई जुर्मानों ने अमेरिकी अधिकारियों की आलोचना को जन्म दिया, और उन्होंने चेतावनी दी कि EU AI अर्थव्यवस्था में भागीदारी के अवसर खोने का जोखिम उठा रहा है
- अमेरिकी राष्ट्रपति Donald Trump पिछले दो वर्षों में कुल 7 अरब डॉलर से अधिक तक पहुंचे अमेरिकी कंपनियों पर लगे जुर्मानों के खिलाफ प्रतिक्रिया दे रहे हैं
- Apple, Meta, और Google पर EU के antitrust और competition law उल्लंघनों के लिए जुर्माने लगाए गए हैं, जिनका वे विरोध कर रहे हैं
- EU आयोग ने इस साल की शुरुआत में Elon Musk के X के खिलाफ, chatbot Grok द्वारा बनाई गई महिलाओं और बच्चों की non-consensual sexually explicit images के प्रसार से जुड़े मामले में जांच शुरू की
16 वर्ष से कम आयु वालों के लिए सोशल मीडिया प्रतिबंध की प्रवृत्ति
- विभिन्न देशों की सरकारें सोशल मीडिया से होने वाले नुकसान से बच्चों की सुरक्षा के लिए कानून पर विचार कर रही हैं
- Australia दिसंबर में 16 वर्ष से कम आयु वालों के लिए व्यापक सोशल मीडिया प्रतिबंध लागू करने वाला पहला देश बना
- इसके बाद 16 वर्ष से कम आयु के लिए सोशल मीडिया प्रतिबंध की प्रवृत्ति दुनिया भर की सरकारों के बीच गति पकड़ रही है
- यूरोप में Spain, France, और U.K. बच्चों को सोशल मीडिया से दूर रखने के लिए अपने-अपने कानून प्रस्तावित कर रहे हैं
1 टिप्पणियां
Hacker News की राय
अगर डेटा को algorithm के जरिए पेश किया जाता है, तो वह अब neutral common carrier नहीं रहता और उसे दिखाए गए content की ज़िम्मेदारी लेनी चाहिए
अगर user खुद तय करे, तो social media 1.0 की तरह ज़िम्मेदारी की सीमा अलग हो सकती है
ज़्यादा सही यह होगा कि निशाना personalized recommendation algorithm पर है, और सिर्फ recommendation algorithm देने भर से किसी site को neutral common carrier नहीं माना जाए, यह बात भी पूरी तरह स्पष्ट नहीं है
लाखों-करोड़ों videos में से user खुद कैसे चुनेगा? YouTube की तरह search की सुविधा दे भी दें, तो search results की ranking कैसे होगी, यह तय करना पड़ेगा, और वह भी algorithm ही है, इसलिए यह बिल्कुल आसान समस्या नहीं है
आम लोग या राजनेता जब “algorithm” कहते हैं, तो उनका मतलब वह नहीं होता, लेकिन ठीक-ठीक क्या मतलब है, यह कुछ धुंधला है। लगता है EU इस बिंदु को अच्छी तरह समझता है, इसलिए वह addictive design जैसी अभिव्यक्ति पर फोकस कर रहा है। इससे दिखता है कि समस्या किसी साफ़-साफ़ परिभाषित algorithm से ज़्यादा, उससे पैदा होने वाले व्यवहार के धुंधले क्षेत्र से जुड़ी है
क्या ads जोड़ना भी algorithm है? likes शामिल करना? पिछला video खत्म होने के बाद अगला अपने-आप चलना? infinite scroll? ऐसे सवाल लगातार उठते रहेंगे
इस फ़र्क को नज़रअंदाज़ करके “यह आसानी से हल हो जाएगा” कहना कोई अच्छी तरह सोचा-समझा प्रस्ताव नहीं लगता
यह सिर्फ बच्चों की समस्या नहीं है
बहुत-से adults को भी इसकी ज़रूरत है। addictive apps बहुत अच्छे से design की जाती हैं, जबकि ज़्यादातर blockers या तो बहुत आसानी से ignore किए जा सकते हैं या लगातार इस्तेमाल करने में बहुत झंझट वाले होते हैं। मुझे भी यही समस्या हुई, इसलिए मैंने एक छोटा iOS blocker बनाया, और असली चुनौती यह है कि उसे इतना सख्त बनाया जाए कि वह सचमुच असरदार हो, लेकिन लोग उससे नफ़रत भी न करें
सही समय याद नहीं, लेकिन शायद रात 10 बजे से सुबह 6 बजे तक था। कुल मिलाकर लगा कि यह सबके लिए अच्छी policy हो सकती है। मुझे यह भी याद पड़ता है कि exam time में AI companies भी offline हो जाती हैं, लेकिन यह हिस्सा शायद मैं गलत याद कर रहा हूँ
आदर्श दुनिया में user को यह लगातार बताने का अधिकार सिर्फ voicemail को होना चाहिए कि किसी ने संपर्क करने की कोशिश की है, और उस पर भी बाकी चीज़ों की तरह spam regulation लागू होना चाहिए
समझ नहीं आता कि जैसे ही पीड़ित 18 साल का होता है, ऐसे algorithms अचानक क्यों ठीक हो जाते हैं
ये सबके लिए नुकसानदेह हैं, और अगर इन्हें regulate करना है तो इन्हें किसी के लिए भी इस्तेमाल करना गैरकानूनी होना चाहिए
बल्कि मैं तो चाहता हूँ कि मैं अपना recommendation model सभी social media पर upload कर सकूँ, ताकि curation बेहतर हो, जिन topics से बचना है उनके पास black hole रख सकूँ, और exploration के लिए थोड़ा blur करने का option भी हो
बस इतना कहा गया है कि ऐसे तरीकों का इस्तेमाल करने वाले platforms अक्सर बच्चों को target करते हैं
adults पर इसे लागू करना बहुत मुश्किल है क्योंकि वहाँ सहमति बहुत कमज़ोर होती है
अगर ऐसा है, तो यही सवाल यह भी है कि 18 साल का होते ही व्यक्ति अचानक अपने व्यवहार के लिए पूरी तरह ज़िम्मेदार क्यों मान लिया जाता है
ज़्यादातर adults में भी maturity और judgment की कमी होती है, लेकिन adults को बुरे फैसले लेने देना आम तौर पर उस शक्ति को किसी को दे देने से कम ख़तरनाक है, जिसमें वह तय करे कि कौन-सा फैसला इतना बुरा है कि उसे होने ही नहीं दिया जाना चाहिए
खासकर infinite scroll limits social media की लत और उसके नुकसान को घटाने के लिए कुल मिलाकर अच्छी चीज़ लगती हैं
मुझे HN की यह बात सचमुच पसंद है कि वह feed या अंतहीन सूची की जगह pages का इस्तेमाल करता है
title guidelines[1] शानदार हैं, और अच्छा होगा अगर ज़्यादा websites और पारंपरिक media भी ऐसा करें। जो चीज़ें मेरी रुचि की नहीं हैं, वे मेरा समय और ध्यान बर्बाद करने की कोशिश नहीं करतीं
[1] https://news.ycombinator.com/newsguidelines.html
“infinite scroll” तो सिर्फ implementation detail है; उसे अकेले ban करने पर भी वे बाकी सभी तरीकों से addiction पैदा करते रहेंगे
मैंने एक podcast में social media algorithms को आधुनिक cigarette कहते सुना था, और वह बात बहुत सही लगी
ये companies जानती हैं कि उनके products addictive हैं और users के लिए खराब हैं, फिर भी उन्हें आगे बढ़ाती रहती हैं। cigarette की तरह, यह सिर्फ बच्चों नहीं बल्कि सबके लिए बुरा है। इसलिए मैंने Safari के लिए एक algorithm blocker बनाया, और यह हैरान करने वाला है कि बिना recommendation algorithms के social media कितना ज़्यादा सुखद हो जाता है। EU और दूसरी jurisdictions को भी इस मुद्दे को सिर्फ बच्चों तक सीमित नहीं रखना चाहिए, हालांकि समझ में आता है कि शुरुआत वहीं से क्यों हो रही है
कोशिश की दाद है, लेकिन इसमें आर्थिक हित जुड़ा है, इसलिए यह इस विषय पर निष्पक्ष राय नहीं है। अगर आप social media feeds को filter करना चाहते हैं, तो कई free alternative plugins भी मौजूद हैं
कल्पना से परे अमीर corporate समूह दुनिया भर में हानिकारक products फैला रहे हैं, उन्हें जितना हो सके उतना addictive बना रहे हैं, और जो research उनके नुकसान को साबित करती है उसे सक्रिय रूप से दबा रहे हैं। मैं सचमुच उम्मीद करता हूँ कि एक दिन हम social media और smartphone इस्तेमाल को वैसे ही देखें जैसे smoking को देखते हैं
ऐसा इसलिए नहीं कि मैं अच्छे लोगों को follow नहीं करता, बल्कि इसलिए कि वहाँ ऐसा कोई algorithm नहीं है जो मेरे lizard brain में घुसकर मुझे लगातार swipe कराता रहे। जब याद आता है और मैं check करता हूँ, तो हमेशा अच्छा लगता है; कुछ posts देखता हूँ, एक दिलचस्प link पढ़ता हूँ, और 20 मिनट बाद फिर असली दुनिया में लौट आता हूँ। user के नज़रिए से यह शानदार है, लेकिन इससे ad-based business बन पाएगा या नहीं, इस पर संदेह है। मैं कहना चाहता हूँ कि मैं इतना समझदार हूँ कि दर्जनों “मज़ेदार” videos में नहीं फँसूँगा, लेकिन अगर उस पर एक घंटा चला गया, तो वह समय बस चला गया और बदले में कुछ नहीं बचा
eu cigarettes boxesखोज लीजिएban एक पतली wedge हो सकता है, लेकिन मुझे लगता है कि social media पर भी ऐसे warning labels जैसी चीज़ें होनी चाहिए
फिर वे ऐसा legislation ज़ोर-शोर से आगे बढ़ाते हैं जो ज़िम्मेदारी किसी और पर डाल दे। यह कुछ-कुछ वैसा है जैसे tobacco industry ने नाबालिगों को cigarette बेचने पर ban वाले कानूनों को बनावटी जनमत अभियान के जरिए आगे बढ़ाया था। जबकि उनकी अपनी research दिखाती थी कि इससे youth smoking rates में कोई बड़ा फ़र्क नहीं पड़ता, बल्कि “rebellious” image और आकर्षक बनती है। Meta जिस तरह operating system से उम्र घोषित करवाने के लिए ज़ोर लगा रहा है, वह परिचित रूप से वैसा ही लगता है
मैं इससे सहमत नहीं हूँ। अगर बात chemical substances जैसी न हो, तो addictiveness का एक subjective पहलू होता है
किसी समय books, films, comics वगैरह को भी addictive माना गया होगा। minors के लिए social networks को पूरी तरह ban कर देना चाहिए, और जैसे nightclubs आने वालों की उम्र के लिए ज़िम्मेदार होते हैं, वैसे ही social networks को भी users की age verification की ज़िम्मेदारी लेनी चाहिए। “operating system age verification” जैसी बकवास का मकसद बच्चों की रक्षा नहीं, बल्कि साफ़ तौर पर निगरानी है
यह तो अच्छी तरह जाना जाता है कि ऐसी apps की addiction pattern drugs की तरह ही dopamine को trigger करती है। एक अर्थ में dopamine ही addiction के केंद्र में मौजूद “chemical substance” है, और heroin और algorithm बस उसे पाने के दो अलग तरीके हैं
https://med.stanford.edu/news/insights/2021/10/addictive-pot...
किसी substance या activity की “addictiveness” का आकलन इस आधार पर किया जा सकता है कि ∆FosB कितना express होता है, इसलिए यह कभी पूरी तरह subjective नहीं है। books, films, comics वगैरह को भी इस पैमाने पर मापा जा सकता है, और आम तौर पर हर चीज़ किसी न किसी हद तक addictive होती है
उदाहरण के लिए Wikipedia कहता है: “addiction एक neuropsychological disorder है, जिसमें व्यक्ति को ऐसे drugs लेने या ऐसे behaviors दोहराने की लगातार और तीव्र इच्छा होती है जो तुरंत psychological reward देते हैं, भले ही उससे भारी नुकसान और अन्य नकारात्मक परिणाम हों।” तो “addictive” का मतलब यह हुआ कि उसमें आबादी के एक महत्वपूर्ण हिस्से में addiction पैदा करने की प्रवृत्ति है
इसलिए books का उदाहरण देना मुझे उचित नहीं लगता
HN की सचमुच एक बहुत अच्छी बात यह है कि वहाँ infinite scroll नहीं है
पहली screen देखो, कुछ दिलचस्प लगे तो पढ़ो। अगर comments ज़्यादा हों तो वह महत्वपूर्ण लगता है। scan और पढ़ना खत्म, तो बस खत्म। social media में कोई अंत नहीं होता
/newऔर refresh button मौजूद हैंसच कहूँ तो टालमटोल की समस्या के कारण HN भी दूसरे social networks जितना ही अच्छा बहाना बन जाता है
मैं खुद इन sites का इस्तेमाल भी नहीं करता, और न ही उस age group में हूँ
Instagram ads से भरा हुआ है, इसलिए तुरंत चिढ़ होती है और मैं उसे इस्तेमाल नहीं करता। अगर आप product promote करने वाले पक्ष में हैं, तो engagement बढ़ाने की कोशिश समझ में आती है। हाल में मैंने Reddit scroll करना या login करके देखना और YouTube videos देखना बंद कर दिया है; यह सचमुच अंतहीन है और अजीब भी। अगर मैं कुछ न कर रहा होऊँ तो बेचैनी और बोरियत होती है, इसलिए मैं कोशिश कर रहा हूँ कि पहले की तरह YouTube video चलाकर साथ में Reddit scroll करने वाला multitasking न करूँ। अब मैं या तो music सुनते हुए computer पर काम करता हूँ, या अगर कुछ देखता हूँ तो सिर्फ वही देखता हूँ। मैं असली social interaction भी ढूँढने लगा हूँ, इसलिए coffee shop जैसी जगहों पर जाने का मन करता है, लेकिन अफ़सोस कि मैं suburbs में रहता हूँ, इसलिए coffee shop जाने के लिए car चलानी पड़ती है। अभी मैं बस यह site या कुछ motivational startup-related sites देखता हूँ
मुझे भी लगता है कि मैं रोज़मर्रा की ज़िंदगी में कुछ-कुछ उसी stage पर हूँ
समझ नहीं आता कि सरकार हमेशा parenting की भूमिका क्यों निभाना चाहती है
मेरी माँ तो जब मैं नियम नहीं मानता था, तो computer ही ज़ब्त कर लेती थीं
इसका parenting से क्या लेना-देना है?
एक adult होने के बावजूद मुझे भी ऐसी सुरक्षा चाहिए
मोटे तौर पर इसका time scale लगभग 3 महीने का होता है