- 7 अक्टूबर को Israel-Gaza war शुरू होने के बाद Meta के Facebook·Instagram content moderation पर pro-Palestine बयानों को जरूरत से ज्यादा सीमित करने के आरोप लगे
- Human Rights Watch की 51-पेज की रिपोर्ट ने deletion, account suspension·permanent ban, interaction limits, shadow banning आदि को “अनुचित सेंसरशिप के 6 प्रमुख पैटर्न” के रूप में व्यवस्थित किया
- समीक्षा किए गए मामलों में 60 से अधिक देशों से आए 1,000 से ज्यादा उदाहरण शामिल थे, जिनमें अधिकांश English content था, और HRW के अनुसार सभी में Palestine और Palestinians के प्रति शांतिपूर्ण समर्थन व्यक्त किया गया था
- Meta ने कुछ errors और user inconvenience स्वीकार किए, लेकिन यह संकेत गलत बताया कि उसने खास आवाजों को जानबूझकर और व्यवस्थित रूप से दबाया, और कहा कि 1,000 मामले systematic censorship साबित नहीं कर सकते
- Senator Elizabeth Warren के सवालों और Meta Oversight Board द्वारा deletion को गलत ठहराए जाने के बाद, conflict-related content moderation में policy enforcement errors और automation पर निर्भरता प्रमुख मुद्दे बनकर उभरे
HRW का सेंसरशिप संबंधी दावा
- Human Rights Watch का कहना है कि 7 अक्टूबर को Israel-Gaza war शुरू होने के बाद Meta ने pro-Palestine content को “systemic and global” तरीके से सेंसर किया
- 51-पेज की रिपोर्ट में Facebook और Instagram पर सामने आए 1,000 से अधिक reported cases का दस्तावेजीकरण और review किया गया
- HRW द्वारा बताए गए “अनुचित सेंसरशिप के 6 प्रमुख पैटर्न” में ये शामिल हैं
- पोस्ट, स्टोरी और कमेंट हटाना
- अकाउंट निष्क्रिय करना
- अकाउंट suspend करना या permanent ban लगाना
- दूसरे users की posts के साथ interaction करने की क्षमता सीमित करना
- content की visibility और reach को काफी कम करने वाला shadow banning
समीक्षा किए गए मामले और दायरा
- HRW द्वारा उद्धृत मामलों में 60 से अधिक देशों का content शामिल था
- HRW के अनुसार, इनमें अधिकांश English content था और सभी मामलों में Palestine और Palestinians के प्रति शांतिपूर्ण समर्थन अलग-अलग रूपों में व्यक्त किया गया था
- ऑनलाइन सेंसरशिप के मामले इकट्ठा करने के लिए HRW द्वारा डाली गई अपनी पोस्ट भी spam के रूप में चिह्नित कर दी गई
HRW ने जिन कारणों की ओर इशारा किया
- HRW का मानना है कि Instagram और Facebook पर Palestine-संबंधी content की सेंसरशिप व्यवस्थित और वैश्विक थी
- उसने समस्या की जड़ में इन कारणों को बताया
- Meta की अपनी policies का असंगत enforcement
- content moderation में automation tools पर अत्यधिक निर्भरता
- content removal पर अनुचित सरकारी प्रभाव
- policies के गलत implementation के कारण Palestine-संबंधी content का गलती से हटना
Meta का जवाब
- Guardian को भेजे गए बयान में Meta ने माना कि errors होते हैं और इससे लोगों को “frustrating” अनुभव हो सकता है
- लेकिन उसने यह दावा खारिज किया कि उसने खास आवाजों को जानबूझकर और व्यवस्थित रूप से दबाया
- Meta का कहना है कि conflict-related posts के कुल पैमाने को देखते हुए, 1,000 मामलों को systematic censorship के सबूत के रूप में लेना भ्रामक है
- कंपनी ने कहा कि Israel और Palestine से जुड़े मुद्दों पर human rights due diligence सार्वजनिक करने वाली वह दुनिया की एकमात्र कंपनी है
- उसका यह भी कहना है कि HRW रिपोर्ट तेजी से बदलते, बेहद polarized और तीव्र conflict वाले माहौल में दुनिया भर में policy लागू करने की वास्तविकता को नजरअंदाज करती है
- Meta ने कहा कि उसकी policies इस तरह बनाई गई हैं कि सभी को बोलने का मौका मिले और platform सुरक्षित भी बना रहे
उसी महीने बढ़ा बाहरी दबाव
- Massachusetts से अमेरिकी Democratic Senator Elizabeth Warren ने Mark Zuckerberg को पत्र भेजकर 7 अक्टूबर के बाद Instagram users को content demotion·deletion और shadow banning झेलने संबंधी सैकड़ों reports पर जानकारी मांगी
- Meta Oversight Board ने उसी हफ्ते फैसला दिया कि Instagram और Facebook से conflict-related 2 videos हटाना Meta की गलती थी
- एक Instagram video में Gaza के al-Shifa अस्पताल के पास हुए airstrike के बाद के दृश्य थे
- दूसरा Facebook video 7 अक्टूबर के हमले के दौरान एक महिला के hostage बनाए जाने का दृश्य दिखाता था
- बोर्ड का मानना था कि दोनों videos में “दोनों पक्षों की मानवीय पीड़ा को दुनिया के सामने लाने” का महत्व है, और बाद में videos बहाल कर दिए गए
- Meta products के users लंबे समय से यह दावा करते रहे हैं कि technical bias pro-Israel content के पक्ष में और pro-Palestine posts के खिलाफ काम करता है
- Instagram translation software ने एक मामले में “Palestinian” के बाद लगे अरबी वाक्यांश “Praise be to Allah” को English में “Palestinian terrorists” में बदल दिया था
- WhatsApp AI ने Palestinian boy और girl की image बनाने के अनुरोध पर बंदूक पकड़े cartoon children बनाए, जबकि Israeli children images में हथियार शामिल नहीं थे
1 टिप्पणियां
Hacker News राय
अगर HRW की असली रिपोर्ट पढ़ें, तो ऐसा लगता है कि ज़्यादातर हटाई गई सामग्री Meta की policy के हिसाब से हिंसा के समर्थन की श्रेणी में आती थी, इसलिए उसे वैध रूप से हटाया गया
उदाहरण के लिए, “from the river to the sea” को कई लोग hate speech मानते हैं, इसलिए उसे हटाया गया, और दूसरे मामलों में वह ऐसा content था जो Hamas के हमलों की प्रशंसा करता था, जिसे अमेरिकी सरकार ने एक terror organization के रूप में नामित किया है
सिर्फ HRW के विवरण को देखें तो 1,049 हटाने की कार्रवाइयों में से ज़्यादातर Meta की violence support ban policy का स्पष्ट उल्लंघन लगती हैं, इसलिए सहमत हों या न हों, Meta के अपने नियमों के हिसाब से यह चौंकाने वाला नहीं है
ऐसा लगता है कि Meta जिस चीज़ पर रोक लगाता है, वह सिर्फ एक खास तरह की हिंसा है, यानी anti-Israel हिंसा
HRW ने कहा कि Palestine-संबंधित content पर “adult nudity and sexual activity” policy बार-बार गलत तरीके से लगाई गई, जबकि उसने जिन सभी मामलों की समीक्षा की, उनमें तस्वीरें मलबे पर पड़े मृत Palestinians की थीं और वे सभी कपड़े पहने हुए थे। न nudity थी, न sexual activity
इसके अलावा, “बच्चों और निर्दोष civilians की हत्या का समर्थन कैसे जायज़ ठहराया जा सकता है…” वाली Facebook post को “harassment and bullying” मानकर हटाया गया, और Gaza अस्पताल में मरे हुए बच्चों की फोटो तथा “Israel bombs the Baptist Hospital…” वाला text “violence and incitement” के तहत हटाया गया। यानी हिंसा का विरोध करने वाली post को harassment माना गया, और Israel की कार्रवाई का ज़िक्र करने वाली image और sentence को incitement मान लिया गया
सिर्फ Palestine flag emoji पोस्ट की गई comment को “यह दूसरों को आहत कर सकता है” जैसी warning मिली, या Palestine flag को “harass, target, and shame” करने के कारण छिपाया या हटाया गया — ये मुश्किल से बचाव योग्य मामले हैं
Israel सरकार और Benjamin Netanyahu की आलोचना करने वाली posts भी “dangerous organizations or individuals” और hate speech rules के तहत हटाई गईं, जबकि 7 अक्टूबर से पहले भी Netanyahu की आलोचना करने के बहुत कारण थे
रिपोर्ट कहती है कि “From the river to the sea” को Meta ने “यह hateful है” कहकर नहीं, बल्कि “Free Palestine”, “Ceasefire Now”, “Stop the Genocide” जैसे expressions के साथ context देखे बिना spam मानकर हटाया। राजनीतिक अभिव्यक्ति को spam मानना काफ़ी फर्जी लगता है
“कई लोग इसे hateful मानते हैं” यह सही है, लेकिन यह subjective और जटिल है। Israel के conservative politicians भी बहुत मिलते-जुलते expressions इस्तेमाल कर चुके हैं: https://en.wikipedia.org/wiki/From_the_river_to_the_sea#Simi...
अगर सच में 7 अक्टूबर के हमले की प्रशंसा करने वाली posts report और block की गईं, तो वह Meta द्वारा policy लागू करना होगा, लेकिन यहाँ मामला सिर्फ इतना भर नहीं लगता। यह सही है कि रिपोर्ट हर तरह की moderation action के हिसाब से संख्या नहीं देती, और tipster-based होने के कारण इसकी सीमाएँ और bias हैं, लेकिन इस सीमित दायरे में भी Meta की policy application न निष्पक्ष दिखती है, न सक्षम
फिर भी मैं सब कुछ सिर्फ बुरी नीयत से समझाना नहीं चाहूँगा। अगर प्रेरित third parties कपड़े पहने हुए मृत Palestinians की तस्वीरों को बार-बार “nudity” कहकर report कर रहे हों, और Meta का system इस धारणा पर बना हो कि user reports पर भरोसा किया जाए, तो गलत penalties आसानी से हो सकती हैं
नदी से समुद्र तक फैला Greater Israel और बिना अधिकार वाले stateless Palestinians, 56 साल से व्यवहार में एक वास्तविकता रहे हैं
एक सामान्य map में सिर्फ बहुत छोटा “Area A” अलग रंग में दिखाया जाता है, जिससे बस इतना पता चलता है कि कोई Palestinian territory है, और East Jerusalem तथा West Bank का अधिकांश हिस्सा बस Israel का ही लगता है: https://qph.cf2.quoracdn.net/main-qimg-9fb3beb756529713386cc...
Hamas के लिए justification ढूँढना या चल रहे युद्ध में उसका समर्थन करना, सोचें तो काफ़ी पागलपन है। 9/11 के समय अरब दुनिया के कुछ हिस्सों ने bin Laden का साथ दिया था, यह याद है, लेकिन इस बार यह पश्चिम में भी हो रहा है
संघर्ष की शुरुआत में मेरी feed पूरी तरह Israel समर्थक तरफ झुकी हुई थी। असल में ऐसा सिर्फ लगभग 3 लोगों की posts के कारण था, फिर भी वही impression बन रहा था, और civilians पर बमबारी रोकने की माँग करने वाली 30 से ज़्यादा लोगों की posts नवंबर के आखिर तक दिखनी शुरू नहीं हुईं
वे लोग लगातार पोस्ट कर रहे थे, लेकिन Meta algorithm ने तय किया कि वह मुझे वे चीज़ें न दिखाए
शीर्षक काफ़ी clickbait-सा है
असली रिपोर्ट में भी लिखा है, “यह केस-वितरण ज़रूरी नहीं कि सेंसरशिप के कुल वितरण को दर्शाता हो”
लोगों से सीधे केस submit करवाने वाले तरीके में selection bias होने की काफ़ी संभावना है। हो सकता है इसका प्रचार सिर्फ pro-Palestinian पक्ष में किया गया हो, और pro-Israel पक्ष ने HRW को पक्षपाती मानकर भाग ही न लिया हो; दूसरे कारण भी संभव हैं। लगता है base rate fallacy पर भी ध्यान नहीं दिया गया
इस शोध-पद्धति से Meta के censorship bias पर निष्कर्ष निकालना मुश्किल है
“Human Rights Watch ने Israel और Palestine से जुड़े सभी दृष्टिकोणों के online censorship मामलों को आमंत्रित किया। इस रिपोर्ट में समीक्षा किए गए 1,050 मामलों में से 1,049 Palestinian समर्थन वाले content की online censorship और suppression के मामले थे, और 1 Israel-समर्थक content deletion का मामला था। यह केस-वितरण ज़रूरी नहीं कि censorship के कुल वितरण को दर्शाता हो”
तो फिर HRW ने व्यावहारिक रूप से मुद्दे के दूसरे पक्ष को देखा ही नहीं। साथ ही उसने यह शिकायत भी की कि Meta की policies पर अमेरिका द्वारा Hamas को terrorist organization घोषित करने का असर पड़ता है
ऐसी रिपोर्ट headline बनाने के लिए डिज़ाइन की हुई लगती है
यह सच हो या न हो, pro-Israel पक्ष के HRW से जुड़ना न चाहने की एक वजह तो हो सकती है
अगर मतलब यह है कि Israel की तरफ़ बदलाव से Hamas के हमले रुक सकते हैं, तो इसकी संभावना बहुत कम लगती है। Hamas Israel के साथ शांतिपूर्ण सह-अस्तित्व के लिए तैयार होने का दिखावा तक नहीं करता, और उसका सबसे अच्छा प्रस्ताव भी 1967 borders के बदले 10 साल के ceasefire का था
अगर मतलब यह है कि Gaza के निवासी Hamas को उखाड़ फेंक सकते हैं, तो सैद्धांतिक रूप से संभव है, लेकिन Hamas चुनाव नहीं कराता, इसलिए इसके लिए हिंसक विद्रोह चाहिए होगा, और भावनात्मक बदलाव में वास्तविकता में पीढ़ियाँ लग सकती हैं
कई पीढ़ियों तक, खासकर Iran के समर्थन से लगातार अधिक sophisticated होते हमलों का सामना करने के बाद, यह मान लेना मुश्किल है कि Israelis जवाब ही न दें
आखिरकार Israelis को Hamas के गंभीर हमलों का शिकार होने की ज़रूरत नहीं है। Hamas सैन्य रूप से इतनी ताकत नहीं रखता, और ऐसे हमले तभी संभव हैं जब IDF की बहुत बड़ी अक्षमता हो
दूसरी ओर, Israel की geopolitical स्थिति अच्छी नहीं है। जैसा Yemen ने दिखाया, Israel blockade के सामने काफ़ी vulnerable है। अगर निकट भविष्य में किसी दिन अमेरिका Israel के दुश्मनों की सभी missiles को intercept करने में असमर्थ हो गया, तो Israel को पूर्ण blockade के खतरे का सामना करना पड़ेगा
इसलिए Israel के लिए अपने Arab पड़ोसियों से मेल-मिलाप करना अत्यंत ज़रूरी है, जबकि Hamas के वास्तविक हमलों को रोका जा सकता है। इसी वजह से स्थिति काफ़ी अलग और asymmetric है
अगर Gaza को एक राज्य माना जाए, तो सिर्फ Israel की blockade ही war act और war justification मानी जा सकती है, इसलिए यह भी महत्वपूर्ण है कि Gaza आक्रामक कार्रवाई करने में पूरी तरह अक्षम नहीं है। बेशक, इससे Hamas के अमानवीय war crimes सही नहीं ठहरते, लेकिन युद्ध को ऐसे पेश करना मानो वह बिना किसी उकसावे के शुरू हुआ हो, वास्तविकता से मेल नहीं खाता। international law की परिभाषा के अनुसार Israel ने Gaza के खिलाफ सक्रिय युद्ध कभी रोका ही नहीं
कभी-कभी लगता है कि पत्रकारों को censorship जैसे दावे करने हों तो उनके साथ basic statistical analysis जोड़ना अनिवार्य होना चाहिए
Meta पर हर दिन कितना content upload होता है? Meta हर दिन कितने content removal decisions लेता है?
संकेत: सिर्फ Stories ही हर दिन 1 billion से ज़्यादा upload होती हैं
मान भी लें कि 1,049 deletions एक ही दिन में हुईं, तब भी कुल पैमाने के मुकाबले यह छोटी संख्या है, जबकि यह “evidence” इससे कहीं लंबे समय में इकट्ठा किया गया था
HRW और उसके Israel-विरोधी campaigns को देखकर समझ आता है कि HRW ऐसी propaganda सामग्री बार-बार क्यों जारी करता है: https://en.wikipedia.org/wiki/Criticism_of_Human_Rights_Watc...
The Guardian ने इस पक्षपाती content को ज्यों-का-त्यों दोहराने में बहुत बुरा काम किया
क्या सिर्फ़ ऐसे Wikipedia documents के मौजूद होने से अब Israel या अमेरिका की हर जानकारी को “biased content” कहकर नज़रअंदाज़ कर देना चाहिए?
मेथडोलॉजी सच में दोषपूर्ण लगती है। इन्होंने गलत तरीके से हटाए गए content के 1,000 उदाहरण चुने, लेकिन Facebook और Instagram पर इस संघर्ष से जुड़े पोस्ट कितने होंगे? शायद करोड़ों में।
यह जानने का कोई तरीका नहीं है कि वह sample कितना representative है
इस survey में voluntary response bias की संभावना बहुत बड़ी है, इसलिए HRW इसका उल्लेख किए बिना इसे प्रकाशित कर सकता है, यह समझ से बाहर है
pro-Israel आवाज़ें 10 साल से भी ज़्यादा समय से HRW के कथित anti-Israel bias[1] को लेकर संदेह में रही हैं। ऐसे लोगों के HRW accounts को follow करने या उनसे engage करने की संभावना कम है, और कुल संख्या में भी वे कम हो सकते हैं[2]
HRW review में भेजी गई 1,050 टिप्पणियों में से 1,049 का pro-Palestine होना मुख्य सबूत नहीं, बल्कि चेतावनी का संकेत होना चाहिए
[1] https://www.wsj.com/articles/SB10001424052970204619004574318...
[2] https://wpde.com/amp/news/nation-world/support-for-palestine...
आपकी राजनीतिक राय चाहे जो भी हो, यह बात सभी के लिए बेहद चिंताजनक होनी चाहिए कि social connection में विशेषज्ञता रखने वाली tech companies यह नियंत्रित करती हैं कि लोग एक-दूसरे से क्या कह सकते हैं
हाल में सामने आए सरकार के साथ उनके करीबी समन्वय को जोड़ दें, तो बात और भी गंभीर हो जाती है
misinformation शब्द का मतलब धीरे-धीरे “ऐसी राय जिसे हम नापसंद करते हैं या support नहीं करते” जैसा होता जा रहा है, और यह मामला चेतावनी होना चाहिए कि बहुत देर होने से पहले उनकी शक्ति सीमित की जाए
आपको Triden पसंद हो या Brump, इससे फर्क नहीं पड़ता। यह partisan मुद्दा नहीं होना चाहिए
Hamas एक terrorist organization है और लगता है कि उसे Iran का समर्थन मिलता है, और वह online लगातार misinformation फैलाता है, तो क्या इसी वजह से censorship हो रही है?
कभी-कभी जब मैं The Guardian खोलता हूँ, तो “Gaza Health Ministry” का हवाला देने की संख्या हास्यास्पद लगती है। वह North Korea या China के health ministry से ज़्यादा भरोसेमंद नहीं है
अगर लोग अधिक critically सोचते, तो हर चीज़ को censor करने की ज़रूरत नहीं पड़ती, लेकिन वास्तविकता ऐसी नहीं है; लोग बातों को जैसे का तैसा निगल लेते हैं और conspiratorial हो जाते हैं
दूसरी ओर, Meta ने शायद इतना खराब product बनाया है कि थोड़े-बहुत civil स्तर को बनाए रखने के लिए भी पागलपन की हद तक censorship चाहिए। दुर्भाग्य से, यह flawed product democratic society पर गंभीर असर डालता है
यह लेख Hamas-supporting posts के बारे में नहीं है
क्या यह संभव नहीं कि Meta बस अपना काम कर रहा हो और फर्जी चीज़ों को छाँट रहा हो? मैंने जो pro-Hamas और pro-Palestine propaganda देखा है, उसका अधिकांश तथ्यों से टकराता था, और उदारता से देखें तो उसका केवल एक ही source था, और वह source या तो खुद Hamas था या UN agency का Gaza office जैसा Hamas के क़रीब कोई संगठन
जानकारी के लिए, Meta को रूस में “extremist” organization के रूप में illegal घोषित किया गया था क्योंकि उसने रूसी authorities के सामने झुककर सिर्फ आधिकारिक रूसी misinformation चलाने से इनकार कर दिया था। यह कुछ हद तक अमेरिका के “material supporter of terrorism” status जैसा है
पिछली election के दौरान Facebook मुझे लगातार Trump propaganda दिखाता रहा। मैं किसी ऐसे व्यक्ति को नहीं जानता जिसने Trump को vote दिया हो, क्योंकि मैं अमेरिका में रहता ही नहीं हूँ। फिर भी मुझे वह propaganda मिला
यह समझ में आता है कि Russians अमेरिकी propaganda नहीं, अपना propaganda चाहें