TikTok औद्योगिक पैमाने पर बच्चों को नुकसान पहुँचा रहा है

• अमेरिका के 14 राज्यों के अटॉर्नी जनरल ने यह आरोप लगाते हुए मुकदमा दायर किया है कि TikTok बच्चों और किशोरों को गंभीर नुकसान पहुँचा रहा है
• आंतरिक दस्तावेज़ों और कर्मचारियों के बयानों से लत लगाने वाला algorithm, मानसिक स्वास्थ्य समस्याएँ, यौन शोषण और बाल पोर्न के संपर्क जैसी बातें सामने आई हैं
• TikTok इन समस्याओं को पहचानते हुए भी मुनाफ़े और user engagement को प्राथमिकता देकर इन्हें अनदेखा करता है
• content filtering system और parental controls बेहद अप्रभावी हैं, और बच्चों की पहुँच रोकने वाली age verification भी विफल है
• कई Gen Z users भी यह मानते हैं कि “लत लग चुकी है, लेकिन छोड़ नहीं सकते”, और कुल मिलाकर समाज पर इसका शुद्ध प्रभाव बहुत नकारात्मक है

बच्चों पर TikTok का औद्योगिक पैमाने वाला नुकसान

TikTok ban law पर अमेरिकी Supreme Court के फैसले का संकेत

• अमेरिकी Supreme Court TikTok ban law में हस्तक्षेप करना है या नहीं, इस पर निर्णय लेने वाला है
• यदि यह क़ानून लागू होता है, तो Bytedance के TikTok को बेचे बिना अमेरिका में इसकी सेवा बंद हो जाएगी
• लेकिन मानसिक स्वास्थ्य, बाल शोषण और लत जैसे वास्तविक नुकसान के सबूत कानूनी समीक्षा से बाहर रखे गए हैं
• इसलिए जनमत के महत्व पर ज़ोर दिया गया है

TikTok insiders की गवाही और लीक हुए दस्तावेज़

प्रमुख अटॉर्नी जनरल मुकदमे और दस्तावेज़

• Kentucky, Utah, Nebraska, New York सहित 14 राज्यों के अटॉर्नी जनरल ने मुकदमा दायर किया
• आंतरिक Slack बातचीत, planning documents और experiment data की बड़ी मात्रा सार्वजनिक हुई
• किशोरों को जानबूझकर target करने वाली design और algorithm strategy की पुष्टि हुई
• censored documents में केवल काले बॉक्स लगाए गए थे, जिन्हें आसानी से पुनर्स्थापित किया जा सका

नुकसान क्लस्टर 1: लत और बाध्यकारी उपयोग को बढ़ावा

• TikTok ने स्पष्ट रूप से कहा कि teens वह target हैं जो सबसे ज़्यादा समय और engagement दे सकते हैं
• लत लगाने वाला algorithm, infinite scroll, autoplay और notification design के ज़रिए बाध्यकारी उपयोग को बढ़ावा दिया गया
• किशोर विशेष रूप से सामाजिक reward (likes, comments आदि) के प्रति संवेदनशील होते हैं और self-control की क्षमता कम होती है
• आंतरिक कर्मचारियों ने भी चिंता जताई कि “हमारा product बच्चों के विकास के लिए हानिकारक है”
• ‘TikTank’ report में कहा गया कि विशेष रूप से किशोर users self-control failure, नींद में बाधा और सीखने की क्षमता में गिरावट जैसे दुष्प्रभाव झेलते हैं

नुकसान क्लस्टर 2: मानसिक स्वास्थ्य समस्याएँ और filter bubble

• बाध्यकारी उपयोग चिंता, अवसाद, self-loathing, self-harm और suicide impulse को बढ़ाता है
• experiment accounts सिर्फ 20 मिनट में अवसाद, आत्महत्या और eating disorder content से भरे filter bubble में फँस गए
• TikTok यह जानते हुए भी कि appearance filters self-image distortion और low self-esteem पैदा करते हैं, उन्हें अनदेखा करता है
• content moderators भाषा की व्याख्या न कर पाने, संदर्भ की कमी और अस्पष्ट मानकों के कारण self-harm/suicide content को ठीक से block नहीं कर सके

नुकसान क्लस्टर 3: porn, violence और drug content का प्रसार

• नाबालिग accounts को pornography, drug ads और हिंसक वीडियो अपने-आप recommend किए गए
• TikTok का content filtering system संकेतात्मक coded language को सही तरह से संभाल नहीं पाता
• आंतरिक दस्तावेज़ दिखाते हैं कि drug trafficking, sex trade और money laundering TikTok LIVE पर हो रहे हैं, और कंपनी इसे जानती है
• Utah के अटॉर्नी जनरल ने जाँच के दौरान ऐसा मामला पेश किया जिसमें एक बच्चे से सीधे drug dealer ने संपर्क किया
• गंभीर हानिकारक content का 30~100% बिना filter हुए expose हो जाता है

नुकसान क्लस्टर 4: यौन शोषण, CSAM, और बच्चों की live-streamed sex trade

• TikTok ने child sexual abuse material (CSAM) detection technology को जानबूझकर लागू नहीं किया
• 13~15 वर्ष के बच्चे LIVE broadcast में adults से gifts (virtual currency) लेकर यौन content प्रदान करते हैं
• TikTok इसे जानते हुए भी profitability और engagement बनाए रखने के लिए अनदेखा करता है
• ऐसे broadcast भी मौजूद हैं जिनमें बच्चे खुद “ice cream = nipple, universe = कपड़े उतारना” जैसे संदेश पकड़कर दिखाई देते हैं
• LIVE feature बच्चों के लिए बेहद हानिकारक है, लेकिन TikTok ने अंदरूनी तौर पर कहा कि “यह बहुत profitable है, इसलिए इसे सीमित नहीं किया जा सकता”

नुकसान क्लस्टर 5: age limits की अनदेखी और अपर्याप्त प्रतिक्रिया

• TikTok पर age restriction होने के बावजूद वह 13 वर्ष से कम उम्र के sign-ups और बच्चों के उपयोग को जानकर भी कार्रवाई नहीं करता
• age verification लगभग बेअसर है, और नाबालिग आसानी से अपनी उम्र छिपा सकते हैं
• parental controls (Family Pairing) का भी लगभग उपयोग नहीं होता और इसका व्यावहारिक सुरक्षा प्रभाव नहीं है
• आंतरिक दस्तावेज़ों के अनुसार TikTok safety features का उपयोग केवल सरकार और मीडिया के लिए ‘औपचारिक दिखावे’ के रूप में करता है
• DAU (daily active users) और engagement rate बनाए रखना सभी फैसलों का मुख्य लक्ष्य है, जबकि safety को प्राथमिकता से बाहर रखा गया है

युवा users का पछतावा और निर्भरता

• TikTok के कई users यह प्रतिक्रिया देते हैं कि “हमें पता है कि लत है, लेकिन छोड़ नहीं सकते”
• प्रयोगों में कई लोगों ने कहा कि “अगर सब लोग साथ में छोड़ें, तो हम खुशी से छोड़ना चाहेंगे”
• Harris Poll सर्वे में TikTok के बारे में 47% लोगों ने कहा कि “काश यह शुरू से होता ही नहीं”, जो social media platforms में सबसे अधिक था
• TikTok behavioral addiction और social addiction दोनों वाला platform है, और users भी मानते हैं कि यह उनके लिए हानिकारक है

निष्कर्ष: बच्चों की सुरक्षा के लिए TikTok regulation की आवश्यकता

• TikTok पर होने वाला नुकसान सिर्फ़ दुर्घटना नहीं, बल्कि design किया गया परिणाम है
• अमेरिका के लाखों बच्चे सिर्फ़ सामान्य उपयोग से भी मानसिक और शारीरिक रूप से गंभीर नुकसान झेल रहे हैं
• मौजूदा algorithm और content policy के तहत TikTok बच्चों के बचपन पर ही आघात करने वाला platform है
• पूरे अमेरिकी समाज के लिए भी 19 जनवरी को TikTok service shutdown एक सकारात्मक बदलाव हो सकता है

[GN⁺]

Hacker News राय

• Haidt डेटा विश्लेषण में हमेशा सबसे सावधान व्यक्ति नहीं रहे हैं, लेकिन पिछले 10 वर्षों में उनके मुख्य दावे मोटे तौर पर सही दिशा में जाते रहे हैं

  • cancel culture लोकतांत्रिक मानदंडों के साथ संगत नहीं है
  • social media का बहुत से लोगों पर थोड़ा नकारात्मक असर पड़ता है, और कुछ लोगों पर बहुत बड़ा नकारात्मक असर पड़ता है
  • हर समय फोन साथ रखना उन सभी चीज़ों के लिए बुरा है जिनमें लगातार ध्यान चाहिए, खासकर प्रेम संबंधों और dating सहित
  • technology इस समस्या को हल नहीं करेगी। AI स्थिति को और खराब करेगा। भले ही TikTok पर प्रतिबंध लग जाए और उसका कोई बेहतर version आ जाए, तब भी चीज़ें गलत दिशा में जा रही हैं। सांस्कृतिक बदलाव की ज़रूरत है, और Haidt इसके लिए अपनी पूरी कोशिश कर रहे हैं

• जब Kentucky Attorney General's Office ने TikTok पर रिपोर्ट प्रकाशित की, तो उन्होंने काले चौकोर बॉक्स से टेक्स्ट छिपाया था, लेकिन cursor से copy करके छिपा हुआ टेक्स्ट पढ़ा जा सकता था। स्थिति काफ़ी हास्यास्पद थी

• मेरे बच्चे नहीं हैं, लेकिन मैं अपना व्यक्तिगत अनुभव साझा कर रहा/रही हूँ कि technology और बच्चों को संभालने के दूसरे तरीके भी संभव हैं

  • 1980 के दशक में Midwest में रहते हुए, मैंने अपने माता-पिता से 1973 edition की Encyclopedia Britannica पुरानी खरीदने को कहा था। इससे मुझे जिज्ञासा और खोज की वह खुशी मिली जो online resources से भी मिल सकती है
  • यात्रा के दौरान भी मैं encyclopedia साथ ले जाकर पढ़ता/पढ़ती था/थी। इससे पता चलता है कि बच्चे technology पर निर्भर हुए बिना भी अपनी कई ज़रूरतें पूरी कर सकते हैं

• यह जानकर हैरानी होती है कि युवा महिलाओं और किशोरियों को gift requests और sexualized comments मिलना आम बात है। इसका 18 वर्ष से कम उम्र के लोगों पर बड़ा असर पड़ सकता है

• यह सवाल उठता है कि internal reports ऐसी बातें क्यों लिखती हैं जिन्हें management सुनना नहीं चाहता

  • क्या उन्हें यह एहसास नहीं होता कि management क्या नहीं सुनना चाहता
  • क्या management वास्तव में यह सुनना चाहता है, लेकिन जानबूझकर biased interpretation चाहता है
  • क्या उन्हें लगता है कि जानकारी का उपयोग रचनात्मक तरीके से किया जाएगा
  • क्या वे ईमानदार researcher के रूप में अपनी भूमिका निभाने की कोशिश कर रहे हैं
  • क्या यह नौकरी बचाए रखने की सुरक्षा का मामला है ताकि उन्हें निकाला न जाए
  • क्या वे इस संभावना के लिए दस्तावेज़ी रिकॉर्ड छोड़ना चाहते हैं कि बाद में scandal सार्वजनिक हो जाए

• Kentucky Attorney General's Office ने censorship को जिस अनुचित तरीके से लागू किया, वह काफ़ी मज़ेदार लगा

• लगता है कि parents को अपने बच्चों के devices पर कुछ sites block कर देनी चाहिए थीं। इसके लिए censorship और surveillance का विस्तार करना ज़रूरी नहीं था

• social media इतना addictive था कि मुझे खुद ही उसे block करना पड़ा। शैक्षिक दृष्टिकोण से videos देखना उपयोगी हो सकता है, लेकिन LLM summaries के ज़रिए उपयोगी बातों को समझ लेना बेहतर है