- अमेरिकी Third Circuit Court of Appeals ने उस मामले में, जिसमें TikTok के recommendation algorithm ने 10 वर्षीय Nylah Anderson को “Blackout Challenge” वीडियो दिखाया था, यह माना कि TikTok केवल Section 230 प्रतिरक्षा के आधार पर मुकदमे से नहीं बच सकता
- मुख्य सवाल यह नहीं था कि प्लेटफ़ॉर्म ने किसी third-party post को सिर्फ host किया था या नहीं, बल्कि यह था कि “For You Page” पर उम्र, interaction और metadata के आधार पर वीडियो को चुनकर recommend करना TikTok की अपनी अभिव्यक्ति है या नहीं
- फैसले ने Moody v. NetChoice के तर्क को पलटकर इस्तेमाल करते हुए कहा कि अगर प्लेटफ़ॉर्म curated feed के लिए First Amendment सुरक्षा का दावा करते हैं, तो Section 230 के संदर्भ में भी उस curation को प्लेटफ़ॉर्म की अपनी speech माना जा सकता है
- सहमति मत में जज Paul Matey ने कहा कि TikTok को challenge वीडियो का publisher नहीं बल्कि distributor माना जाना चाहिए, और Section 230 के शुरुआती फैसलों ने publisher और distributor के बीच का फर्क मिटाकर गलती की थी
- यह फैसला Third Circuit के भीतर algorithmic recommendation liability से जुड़े मुकदमों का रास्ता खुला छोड़ता है, और Supreme Court appeal, congressional legislation, platform business model तथा plaintiffs की litigation strategy पर सीधा असर डाल सकता है
TikTok recommendation algorithm पर Third Circuit का फैसला
- अमेरिकी Third Circuit Court of Appeals ने माना कि TikTok Section 230 का सहारा लेकर ज़िम्मेदारी से नहीं बच सकता, और निचली अदालत द्वारा मुकदमा खारिज करने के फैसले को पलट दिया
- मामले का केंद्र यह था कि TikTok ने algorithm के जरिए 10 वर्षीय Nylah Anderson के personalized “For You Page” पर किसी third party द्वारा अपलोड किया गया वीडियो recommend और promote किया
- उस वीडियो में “Blackout Challenge” दिखाया गया था, जो दर्शकों को खुद को घोंटने जैसी हरकत रिकॉर्ड करने के लिए उकसाता है
- वीडियो देखने के बाद Nylah ने challenge को दोहराने की कोशिश की और अनजाने में फांसी लगने से उसकी मृत्यु हो गई
- Nylah की मां Tawainna Anderson ने Pennsylvania state law के तहत product liability, negligence और wrongful death के आधार पर TikTok और ByteDance से जुड़ी कंपनियों पर मुकदमा दायर किया
- निचली अदालत ने कहा था कि TikTok ने सिर्फ किसी और की speech को host किया, अपनी speech नहीं की, इसलिए दावे खारिज कर दिए गए
- फैसले में जज Paul Matey ने TikTok की आलोचना करते हुए लिखा कि वह “Communications Decency Act की Section 230 को इस तरह पढ़ता है मानो 10 साल की लड़की की मौत के प्रति उदासीन रहना स्वीकार्य हो”
Section 230 का विस्तार कैसे हुआ
- Section 230 को 1996 में इस सवाल से निपटने के लिए बनाया गया था कि Prodigy और CompuServe जैसे online bulletin board services अपने users की टिप्पणियों के लिए ज़िम्मेदार हैं या नहीं
- इसका मूल ढांचा यह था कि interactive computer service जब किसी और की speech को host करे तो उस speech के लिए ज़िम्मेदार न हो, और केवल अपनी speech के लिए ज़िम्मेदार हो
- साथ ही, अगर प्लेटफ़ॉर्म अश्लील, अभद्र, अत्यधिक हिंसक, उत्पीड़क या अन्य अनुचित सामग्री तक पहुंच को good faith में सीमित करता है, तो उस पर भी ज़िम्मेदारी न आए
- इसके बाद इंटरनेट इतना बढ़ा कि अब उसमें 1996 में मौजूद न रहे social media और data-based surveillance advertising तक शामिल हैं, और अदालतों ने Section 230 का दायरा online commerce और hotel booking sites तक फैला दिया
- 1997 में Fourth Circuit Court of Appeals के Zeran v. America Online के बाद 8 circuit courts ने विस्तृत व्याख्या अपनाई, जिससे ऐसी मिसालें बनीं जिनमें प्लेटफ़ॉर्म पर नुकसान को बढ़ावा देने के बावजूद ज़िम्मेदारी नहीं डाली गई
प्लेटफ़ॉर्म को मिला दोहरा संरक्षण
- बड़े प्लेटफ़ॉर्म regulation से बचते समय अपनी गतिविधि को speech बताकर First Amendment सुरक्षा मांगते हैं, और जब defamation या unlawful speech की ज़िम्मेदारी तय की जाती है तो कहते हैं कि वे सिर्फ दूसरों की speech रखने का माध्यम हैं, इसलिए Section 230 प्रतिरक्षा मिलनी चाहिए
- इस ढांचे पर यह कहकर आलोचना हुई है कि इससे “lawless no-man’s-land” जैसी स्थिति बन गई
- Section 230 प्रतिरक्षा से जुड़े जिन नुकसान के मामलों का उल्लेख हुआ, वे कई क्षेत्रों में फैले हैं
- Grindr पर sexual violence को आसान बनाने का आरोप
- credit reporting agencies द्वारा credit report errors पर regulation से बचने की कोशिश
- Facebook पर ethnic violence को बढ़ावा देने का आरोप
- 2023 में IRS द्वारा identity fraud के रूप में चिह्नित tax returns की संख्या 10 लाख से अधिक होना, और जानकारी का मुख्यतः LinkedIn या Meta sites से इकट्ठा होना
- Facebook पर ठगों द्वारा सैनिक बनकर long-distance romance scam चलाना
- social media कंपनियों द्वारा gambling addicts को “social casino” apps से target करना
- Clarence Thomas ने 2022 में Section 230 की विस्तृत व्याख्या की आलोचना करते हुए कहा था कि Facebook ने human traffickers को अपनी services इस्तेमाल करने से इसलिए नहीं रोका क्योंकि इससे users और ad revenue कम हो सकते थे
NetChoice के तर्क को Section 230 पर वापस लागू करता फैसला
- हाल के वर्षों में अदालतों ने Lemmon v. Snap जैसे मामलों में tech platforms की हानिकारक features को speech law नहीं बल्कि product liability law के नज़रिए से देखना शुरू किया, जिससे Section 230 को सीमित करने की दिशा बनी
- Supreme Court ने 2023 में Gonzalez v. Google और Twitter v. Taamneh की सुनवाई की, लेकिन Section 230 पर कोई ठोस रुख नहीं अपनाया
- Moody v. NetChoice में Supreme Court ने माना कि Florida और Texas के वे कानून, जो बड़े प्लेटफ़ॉर्म को राजनीतिक दृष्टिकोण के आधार पर भेदभाव करने से रोकना चाहते थे, संभवतः असंवैधानिक हैं
- अदालत ने कहा कि curated feed में राजनीतिक speech को बाहर रखने का प्लेटफ़ॉर्म का editorial discretion First Amendment से संरक्षित है
- लेकिन उसने यह भी अलग किया कि अगर feed बिना किसी स्वतंत्र content standard के केवल user के online behavior पर प्रतिक्रिया देकर वही सामग्री दे रहा है जो user चाहता है, तो वह speech नहीं है और उसका regulation हो सकता है
- Third Circuit Court of Appeals ने इसी तर्क को Section 230 पर लागू किया
- अगर platform algorithm किसी third-party speech को वांछित तरीके से जोड़ता है और उसमें editorial judgment झलकता है, तो वह First Amendment के तहत संरक्षित प्लेटफ़ॉर्म की अपनी expression भी हो सकती है और Section 230 में primary speech भी मानी जा सकती है
- TikTok का algorithm user age, demographics, online interactions और अन्य metadata के आधार पर FYP के लिए customized video bundle curate और recommend करता था, इसलिए उसे TikTok की अपनी speech की तरह देखा जा सकता है
जज Paul Matey का distributor liability तर्क
- जज Paul Matey ने निचली अदालत का फैसला पलटने से सहमति जताई, लेकिन Section 230 को और अधिक सीमित करने के लिए अलग तर्क दिया
- उनका मुख्य तर्क यह था कि TikTok को challenge वीडियो का publisher नहीं बल्कि distributor माना जाना चाहिए
- परंपरागत रूप से obscenity sale जैसे मामलों में सामग्री बनाने वाले author या publisher की ज़िम्मेदारी और bookstore, library या newsstand जैसे distributor की ज़िम्मेदारी अलग मानी जाती रही है
- Section 230 के शुरुआती फैसलों ने publisher और distributor के बीच का यह अंतर हटा दिया, और Matey के अनुसार यह गलत था
- उनका मानना था कि algorithmic amplification करने वाले TikTok को पारंपरिक common carriage नज़रिए से distributor के रूप में समझना अधिक सही है, और यह दृष्टिकोण Rohit Chopra तथा कई Supreme Court justices की चिंताओं से भी मेल खाता है
दलगत सीमाओं से परे regulation और आगे के असर
- Big Tech की शक्ति और speech का सवाल सिर्फ partisan lines में नहीं बंटता
- Supreme Court में Clarence Thomas और Ketanji Brown Jackson कभी Brett Kavanaugh और Elena Kagan से अलग पक्ष में दिखते हैं, जबकि Amy Coney Barrett को swing justice कहा जाता है
- Trump और Biden, दोनों Section 230 के प्रति आलोचनात्मक रहे हैं
- Brendan Carr, Rohit Chopra और Lina Khan जैसे Republican और Democratic regulators कई वर्षों से Section 230 के दुरुपयोग पर चिंता जताते रहे हैं
- इस Third Circuit मामले में Obama द्वारा नियुक्त जज Patty Shwartz और Trump द्वारा नियुक्त जज Peter J. Phipps ने merits पर सहमति जताई, जबकि Trump द्वारा नियुक्त जज Paul Matey ने Section 230 को और सीमित करने का रुख लिया
- यह फैसला Third Circuit को Section 230 की प्रचलित न्यायिक व्याख्याओं से अलग खड़ा करता है, और मामले के appeal होकर Supreme Court तक जाने की संभावना अधिक है
- अगर Section 230 ढाल की तरह काम नहीं करता, तो Facebook पर सैनिक बनकर किए जाने वाले scam, राज्य के gambling laws के उल्लंघन में मदद, बड़े पैमाने पर identity theft, sexual violence, child abuse और सामान्य defamation claims में platforms की liability तय करने वाले मुकदमों की संभावना बढ़ सकती है
- Silicon Valley संभवतः Congress पर Section 230 “reform” कानून लाने के लिए lobbying तेज कर सकता है, और कुछ executives यह भी देख सकते हैं कि platforms को अपने कामों के लिए ज़िम्मेदार ठहराने वाले माहौल में business model कैसे बदला जाए
1 टिप्पणियां
Hacker News की रायें
अभी प्रतिक्रिया ऐसी दिख रही है कि यह फैसला सोशल मीडिया का अंत है या सरकारी सेंसरशिप की ओर ले जाएगा, लेकिन मुझे लगता है कि ऐसा पक्का कहना मुश्किल है
मुख्य बात यह है कि सोशल मीडिया तटस्थ नहीं है, और यह छांटता है कि लोग क्या देखेंगे। अगर वह सिर्फ़ content host करने वाली कोई तटस्थ पार्टी नहीं है, तो यह चयन algorithm से हुआ है, सिर्फ़ इस वजह से जिम्मेदारी खत्म नहीं हो जाती—फैसला ऐसा ही पढ़ा जा सकता है
व्यापक रूप से देखें तो इसे एक तरह की net neutrality जैसा भी माना जा सकता है। अभी social platforms कुछ content को बढ़ावा देते हैं और कुछ को नीचे दबाते हैं, और अगर लोग ज़्यादातर feed के जरिए interact करते हैं, तो यह ISP और websites के बीच priority वाले मुद्दे जैसा phenomenon बन जाता है
निजी तौर पर मैं देखना चाहता/चाहती हूं कि यह फैसला क्या बदलाव लाएगा। अब HN के अलावा मेरा किसी social site पर account नहीं है, क्योंकि ज़्यादातर बेहद खराब हो गए हैं, और शायद social media फिर से सहने लायक बन सके
लेकिन इस फैसले के हिसाब से moderation की कार्रवाई के कारण HN हर पोस्ट के लिए जिम्मेदार हो सकता है, और विकल्प सिर्फ़ दो हो सकते हैं। या तो moderation बंद करके 4chan जैसा बन जाए, या anonymous accounts रोककर terms के जरिए posters की जिम्मेदारी कड़ी कर दे, या सभी comments को manually approve करने जैसा moderation बहुत ज्यादा मजबूत कर दे
मुझे ठीक से समझ नहीं आता कि user content को moderate करते हुए भी illegal content की जिम्मेदारी से बचकर website चलाना कैसे संभव है
मूल कानून के तहत अगर कोई platform ज़रा भी moderation करता, तो users द्वारा पोस्ट की गई हर चीज़ के लिए जिम्मेदार हो सकता था, और Section 230 ऐसा mechanism था ताकि spam, pornography, trolling को हटाने या नीचे करने पर भी जो अलग content नहीं हट पाया, उसकी वजह से मुकदमे का सामना न करना पड़े
यह विचार कि curation खुद समस्या है, मुझे हमेशा समझना मुश्किल लगता है। social media के बिना सीधे web पर publish करने का विकल्प हमेशा मौजूद है, लेकिन लोगों ने बार-बार वह विकल्प कम चुना है। चरम स्थिति में यह फैसला शायद सिर्फ़ वही विकल्प छोड़ दे
हालांकि असल में ऐसा होने की संभावना नहीं लगती, और operating costs बढ़कर ad rates में reflect हो सकती हैं। ecosystem छोटा हो सकता है, लेकिन एक बात पक्की है कि बड़ी social companies की moat पर drawbridge और ऊपर उठेगा, यानी competition घटेगा
bias-free media को आदर्श मानकर ढूंढने के बजाय, मैं चाहूंगा/चाहूंगी कि bias disclose किया जाए। वह अपने बारे में पर्याप्त बताए और यह साफ करे कि उसका bias कहां है, ताकि मैं निर्णय ले सकूं
यह अदालत की सोच से भी बहुत अलग नहीं है। editing expression है, और “For You” page भी edited है तथा TikTok की अपनी expression है—logic यही है। हालांकि social media कुल मिलाकर अप्रिय जगह है, इस बड़े point से मैं सहमत हूं
यह मामला इस बात पर निर्भर करता है कि TikTok क्या जानता था
फैसले में लिखा है कि Nylah के video देखने से पहले TikTok को पता था कि 1) घातक Blackout Challenge app पर फैल रहा था, 2) algorithm इसे खास तौर पर बच्चों तक पहुंचा रहा था, और 3) For You Pages पर इसे देखने के बाद कई बच्चों की मौत हो चुकी थी। इसके बावजूद TikTok ने इसके प्रसार को रोकने और बच्चों को न दिखाने के लिए कोई कदम नहीं उठाया, या उठाए गए कदम पूरी तरह अपर्याप्त थे, और Nylah जैसे बच्चों को यह recommend करता रहा
TikTok क्या “जानता” था, यह देखने के लिए “App. 31–32” document देखना होगा। Pacer account की जरूरत पड़ सकती है, और यह भी जानने की उत्सुकता है कि क्या abuse reports को ignore किया गया था
ऐसा ही मुद्दा Gonzales vs. Google (2023) में भी Supreme Court तक गया था। मामला यह था कि Islamic State jihad का समर्थन करने के लिए उकसाने वाले videos recommend करने से क्या कोई युद्ध में शामिल होकर मारा गया; अदालत ने terrorism-related claims खारिज कर दिए और Section 230 मुद्दे पर विचार नहीं किया
https://en.wikipedia.org/wiki/Gonzalez_v._Google_LLC
यह review process Chinese market के कहीं ज्यादा कड़े expression standards को पूरा करने के लिए विकसित किया गया था, लेकिन यहां यह उलटे ज्यादा liability की संभावना खोलता है
संबंधित article फिर से नहीं मिल रहा, क्योंकि वह “video को viral कैसे करें” जैसे flowcharts में दबा हुआ है, और वे materials “कब ban किया जाता है” वाले decisions छोड़ देते हैं
https://storage.courtlistener.com/recap/gov.uscourts.ca3.118...
बाकी documents यहां हैं
https://www.courtlistener.com/docket/67500541/tawainna-ander...
TikTok ने algorithm के ज़रिए तीसरे पक्ष द्वारा अपलोड किए गए वीडियो 10 वर्षीय Nylah Anderson के personalized “For You Page” पर recommend और promote किए, जिनमें से एक “Blackout Challenge” था, जो दर्शकों को खुद का दम घोंटने की क्रिया record करने के लिए उकसाता था
वीडियो देखने के बाद Nylah ने challenge की नकल की और अनजाने में फांसी लगने से उसकी मौत हो गई — https://cases.justia.com/federal/appellate-courts/…
यानी algorithm ने संयोग से एक बच्चे को खुद को फांसी लगाने के लिए प्रेरित कर दिया। कई websites पर user demographics के आधार पर पढ़ने के लिए लेख recommend करने वाला code चल रहा है, और उस code में ऐसी कोई व्यवस्था नहीं है जो बच्चों को आत्म-दमघोंटू सामग्री recommend होने से रोके
अंततः यह इस assumption पर निर्भर करता है कि उस software का इस्तेमाल करने वाले customers ऐसी सामग्री post नहीं करेंगे, समान demographics वाले लोग उसे नहीं पढ़ेंगे, और अगर बच्चे को recommendation मिल भी जाए तो वह उसे पढ़कर follow नहीं करेगा। अगर यह assumption टूट जाए, तो क्या मैं या मेरा employer जिम्मेदार होंगे?
जब आप ऐसा काम करते हैं जिससे reward मिलता है, तो उसके परिणामों की परवाह किए बिना सिर्फ इसलिए automatic immunity की उम्मीद नहीं करनी चाहिए कि यह algorithm है। लाभ उठाते हुए जिम्मेदारी से बचना कायराना और बचकाना व्यवहार है, और बचकाने व्यवहार के लिए वयस्क निगरानी चाहिए
कहा गया है कि Nylah के वीडियो देखने से पहले TikTok को पता था कि Blackout Challenge app पर फैल रहा था, algorithm इसे बच्चों तक पहुंचा रहा था, और For You Pages पर इसे देखने वाले कई बच्चों की मौत हो चुकी थी। फिर भी उसने इसके प्रसार को रोकने या बच्चों को न दिखाने के लिए कोई कदम नहीं उठाया, या पर्याप्त कदम नहीं उठाए, और बच्चों को इसे recommend करना जारी रखा
क्या आपको लगता है कि ऐसा conduct कानूनी होना चाहिए? अगर आपको पता हो कि आपके द्वारा feed किया जा रहा content सीधे बच्चों की मौत का कारण बन रहा है, तो क्या आप कुछ नहीं करेंगे?
हालांकि वह platform लेखों की recommendation से जुड़ा है, और संभव है कि वह popular trend को follow करते हुए खुद को record करने वाली service न हो। बच्चे target users न हों, या users ही न हों। कई मायनों में स्थिति TikTok से अलग है
court ने माना कि अगर platform का algorithm तीसरे पक्ष की अभिव्यक्ति को मनचाहे तरीके से assemble करने वाले editorial judgment को reflect करता है, तो वह platform का अपना “expressive product” है और First Amendment की protection पाता है
तर्क यह है कि जब Supreme Court ने माना है कि platform expressive algorithm के जरिए दूसरों के content bundles को curate करते समय protected primary expression करता है, तो Section 230 में भी उसे primary expression मानना स्वाभाविक है
मैं लंबे समय से इससे सहमत रहा हूं। यह chronological, threaded, या site के control से बाहर end-user recommendations/moderation-weighted sorting जैसी “natural result” वाली बात नहीं, बल्कि choice का सवाल है
अगर मेरा forum 4×4 off-roading जैसे narrow topic पर है, और मैं ऐसी posts हटाता हूं जो साफ़ तौर पर किसी इंसान ने लिखी हैं लेकिन US politics जैसी गंभीर रूप से off-topic हैं, तो क्या उससे भी मैं न हटाए गए हर post के लिए जिम्मेदार हो जाता हूं?
Silicon Valley companies जैसी विशाल legal team न रखने वाले लोगों के लिए यह boundary कहां है?
Section 230 के intent या algorithm-based targeted recommendations पर Section 230 किस हद तक लागू होता है, यह कहने के लिए Section 230 के co-authors Ron Wyden और Chris Cox द्वारा Google v. Gonzalez (2023) में दाखिल brief देखना जरूरी है
Wyden press release के अनुसार, “Section 230 targeted recommendations को content display के अन्य तरीकों जितनी ही protection देता है, और यह interpretation content display और moderation में innovation को encourage करने के Congress के उद्देश्य को पूरा करता है।” इसमें कहा गया है कि user-generated content का real-time transmission online activity की नींव बन गया है, और Section 230 की protection आज भी उतनी ही essential है जितनी enactment के समय थी
[PDF] https://www.wyden.senate.gov/download/wyden-cox-amicus-brief...
https://www.wyden.senate.gov/news/press-releases/sen-wyden-a...
Cox ने लिखा कि case law में यह स्थापित है कि अगर किसी website ने illegal content के creation या development में किसी भी तरह से मिलकर काम किया है, तो Section 230 shield नहीं बन सकता। FTC v. Accusearch में phone records दूसरों ने बनाए थे, लेकिन website द्वारा private information को सार्वजनिक commodity में बदलना information के “development” के रूप में माना गया और immunity खो गई
उन्होंने आगे समझाया कि Section 230 बनाते समय intent यह था कि offline world के legal rules internet पर भी लागू बने रहें। इसका मतलब है कि हर business, चाहे online हो या offline store, अपनी legal obligations के लिए जिम्मेदार होना चाहिए
हालांकि अंततः इस मामले में original intent का बहुत महत्व नहीं है, और कानून की interpretation courts करती हैं। वास्तव में Section 230 Communications Decency Act का एक हिस्सा है, जिसे Supreme Court ने बड़े पैमाने पर invalidate कर दिया था
https://jolt.richmond.edu/2020/08/27/the-origins-and-origina...
समाज जिन नए कानूनों को ऑनलाइन users, खासकर बच्चों, को होने वाले नुकसान को कम करने वाला मानता है, उन्हें बनाने का मैं विरोध नहीं करता
लेकिन अगर दिशा Section 230 के खत्म होने की है, तो क्या इससे सिर्फ उन बड़ी tech कंपनियों को फायदा नहीं होगा जिनके पास पहले से ही विशाल legal resources और machine learning आधारित या manual moderation की क्षमता है? Startups के लिए entry barrier असहनीय हो जाएगा
ऐसा लगता है कि मौजूदा कंपनियों ने user-generated content की liability से व्यावहारिक रूप से free pass पाकर पर्याप्त growth हासिल कर ली, और अब सरकार वह सीढ़ी ही हटा रही है
यह interpretation काफी अच्छी है कि मूल मुद्दा यह नहीं है कि large tech platforms को speakers के रूप में regulate किया जाना चाहिए या नहीं। ये बोलने वाली entities से ज्यादा intermediaries हैं
यह नजरिया distributor और creator जैसे pre-internet legal concepts पर निर्भर करता है। एक सोच यह है कि law और government structures internet युग को handle करने के लिए design नहीं किए गए, इसलिए उन्हें पूरी तरह overhaul करना होगा; लेकिन यह मामला उस सोच का counterexample होने के लिहाज से भी relevant और important है
शानदार लेख। लगता है लेखक आगे क्या होगा, इस बारे में काफी assumptions कर रहा है, लेकिन internet के “lawless no man’s land” युग के खत्म होने को लेकर उसके उत्साह से मैं सहमत हूं
यह उस समय भी सटीक बैठता है जब हम generative AI content catastrophe का इंतजार कर रहे हैं। मानो एक catastrophe को थोड़ी अधिक friendly और human-friendly दूसरी catastrophe से बदल रहे हों
CDA से पहले भी internet था, और मेरी याद में वह काफी शानदार था। बाद में भी internet हो सकता है। अगर giant corporations दिन भर बकवास चीजों से हमारी amygdala को trigger करने पर भारी पैसा खर्च न करें, तो शायद यह कहीं कम भीड़भाड़ वाला, कम toxic, कम उत्तेजक और कम addictive space बन जाए
Judge Matey का मुख्य मुद्दा यह है कि Section 230, TikTok के conduct में Blackout Challenge video को server पर host करने के अलावा किसी और चीज के लिए immunity नहीं देता
इस तरह define करने पर अदालत के सामने हल करने के लिए कठिन technical questions आते हैं। web पर काम करते हुए मैं “hosting” को कहीं file store करने की क्रिया के रूप में समझता हूं। क्या अदालत भी ऐसा ही मानेगी? या इसमें serving, caching, indexing, linking, formatting, rendering तक शामिल होंगे? अगर publisher इनमें से किसी हिस्से के लिए भी responsible हुआ, तो industry 1995 की तुलना में बहुत अलग जगह चली जाएगी
फैसला खुद कहता है कि यह Section 230 पूरे का मामला नहीं, बल्कि TikTok के किसी खास video की selection और bundling का मामला है
TikTok user content itself के लिए नहीं, बल्कि “For You” section को compose करने वाले हिस्से के कारण responsible है। चाहे political purpose हो या Facebook या Twitter का तरीका, लोगों को manipulate करना ठीक नहीं है—इस लिहाज से बात समझ आती है। इसलिए Section 230 खत्म नहीं हुआ है
अच्छा होगा अगर “For You” या YouTube recommendations गायब हो जाएं। chronological timeline सबसे बेहतर है और कुछ हद तक sanity वापस लाएगी। पसंद नहीं है तो follow मत कीजिए
फैसले ने माना कि Nylah के FYP पर Blackout Challenge recommend करने वाला TikTok algorithm, TikTok की अपनी “expressive activity” है, और lawsuit का आधार बनने वाली जानकारी third party द्वारा दी गई नहीं, बल्कि TikTok के FYP algorithm recommendation है; इसलिए Section 230 claim को नहीं रोकता
अगर कोई filtering न हो, तो वह भी लोगों को manipulate करने के लिए इस्तेमाल हो सकने वाला algorithm ही है, और दिखेगा सिर्फ SEO pages का पहाड़। इस तरह liability खुली छोड़ना internet के लिए अच्छे परिणाम लाने में मुश्किल दलदल है
YouTube recommendations या TikTok algorithm मुझे “manipulate” करता भी हो, तो personally मुझे इसमें बिल्कुल समस्या नहीं है
मूल रूप से ऐसा लगता है कि हम social networks पर सरकारी नियंत्रण के और करीब जा रहे हैं। यह वैश्विक रुझान जैसा दिखता है, और सरकारें तय करेंगी कि communication services और social networks किन नियमों के तहत काम करेंगे
हालांकि अगर Facebook किसी खास content को चुनकर ऊपर लाने की कोशिश करता, तो वहीं संभावित liability पैदा होती
इस मुकदमे में मुद्दा यह था कि TikTok को पता था, या पता होना चाहिए था, कि वह ऐसे challenges को minors को target कर रहा है जिन्हें बच्चे follow करें तो उन्हें नुकसान पहुंचने की संभावना अधिक है। यह साधारण moderation से कहीं आगे है, और यह वही तरह की कार्रवाई भी है जिसे कई social media companies अदालत में अपनी कंपनी की expression बताती आई हैं
यह मानना कि क्या दिखाना है चुनना free expression का एक रूप है जिसके परिणाम हो सकते हैं; यह उस expression को control करने की कोशिश नहीं है
वह directive 2000/31/EC है और अब 24 साल पुराना है। यह EU DSA का predecessor है, और DSA की तरह 2000/31/EC का भी extraterritorial scope है
उदाहरण के लिए, बच्चों को tobacco, alcohol, cannabis के ads दिखाने की अनुमति नहीं है। अब companies को “Blackout Challenge” जैसी बेवकूफी भरी चीजें बच्चों को भेजने के परिणाम भी झेलने होंगे
“किसी बेवकूफ ने हमारे platform पर पोस्ट कर दिया” और उस पोस्ट को promote और endorse करके सबको भेज दिया — ये पूरी तरह अलग बातें हैं। companies को अपने कामों की जिम्मेदारी लेनी चाहिए