Reddit बॉट्स की वजह से मैं पागल हो रहा हूँ

 (posthuman.blog)
2 पॉइंट द्वारा GN⁺ 2025-04-14 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Reddit पर इंसानी मायूसी से भरी एक पोस्ट ने करीब 6,000 upvotes और सैकड़ों comments जुटाए, लेकिन लेखक की activity और links ट्रैक करने पर यह bot-नुमा promotional post निकली
  • Account ने बिना comments किए pet videos, recycled feel-good stories और repeat memes दिन में कई बार पोस्ट करने वाला karma farming pattern दिखाया
  • पोस्ट के अंत में दिया गया rddit.org link Reddit का नहीं था, बल्कि anonymous रूप से registered premium link-shortening service domain था
  • Link Amazon पर Edward L. Bernays की किताब Propaganda के modern illustrated edition तक जाता था, और URL में affiliate tag manwithhairwe-20 शामिल था
  • ढांचा ऐसा था कि AI bot “AI bots की वजह से internet खराब हो गया है” वाली भावना का इस्तेमाल भरोसा हासिल करने के लिए कर रहा था, और AI-generated illustrations वाले classic text को चुपके से promote कर रहा था

इंसान जैसा दिखने वाली Reddit पोस्ट के अजीब निशान

  • Reddit feed में राजनीतिक गुस्सा भड़काने वाली posts, recycled cat videos, provocative relationship posts और पुराने wojack memes काफी मिले-जुले थे
  • इनमें "Anyone else feel like the internet is just… broken now?" शीर्षक वाली पोस्ट ने बिलकुल असली इंसान जैसी भावना के कारण ध्यान खींचा
    • पोस्ट को लगभग 6,000 upvotes और सैकड़ों comments मिले
    • Body में यह बात थी कि online सब कुछ ads, selling और viral होने की कोशिश जैसा लगता है, और कुछ भी असली नहीं लगता
  • लेकिन वाक्यों की rhythm और expressions कुछ ज्यादा ही empathy trigger करने के लिए optimized लगे, इसलिए लेखक की profile देखनी पड़ी
  • Profile viral pet clips, recycled feel-good stories और बार-बार पोस्ट किए गए memes से भरी थी
    • Account हर दिन कई threads पोस्ट करता था
    • Comments में भाग नहीं लेता था
    • Activity का यह तरीका typical bot behavior के काफी करीब लगता था

छिपा हुआ affiliate link और Dead Internet Theory

  • Original post के आखिरी वाक्य में "This was written in 1928—it’s incredible how it predicted the moment we’re living in today and where we're heading." वाला link जुड़ा था
  • Link rddit.org domain का इस्तेमाल करता था, इसलिए पहली नजर में Reddit short link जैसा दिखता था
    • Twitter के t.co, Facebook के fb.me की तरह इसे platform के लिए short link माना जा सकता था
    • WHOIS lookup के नतीजे में rddit.org Reddit के ownership में नहीं था
    • Domain anonymous रूप से registered low-cost premium link-shortening service था
  • Click करने पर यह Amazon पर Edward L. Bernays की classic Propaganda के modern illustrated edition पर ले गया
    • URL में affiliate tag manwithhairwe-20 दिख रहा था
    • किताब पर 13 कुछ हद तक generic reviews थे
    • Illustrator की Amazon profile follow करने पर दिखा कि seller classic texts में AI-generated images जोड़कर किताबें बेच रहा था
  • Comments में सैकड़ों users ने reaction दिया था, लेकिन किसी ने चाल पकड़ ली हो ऐसा नहीं दिखा
  • Top comment ने Dead Internet Theory का उल्लेख किया
    • यह विश्वास है कि ज्यादातर online interactions bots के बीच automated loops में होते हैं
  • आखिरकार, एक AI bot इंसान जैसा व्यवहार करते हुए “AI bots की वजह से internet खराब हो गया है” पर अफसोस जता रहा था, और उसी भावना का इस्तेमाल करके AI-illustrated किताब affiliate link के जरिए बेच रहा था
  • लेख के अंत में Orwell-style वाक्य को मोड़ते हुए भविष्य को “ऐसे bots” के रूप में बताया गया है, जो इंसानों को दुखी और गुस्से में डालकर engagement करवाते हैं और AI-generated low-quality content हमेशा बेचते रहते हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-04-14
Hacker News की रायें

  • Reddit API विवाद के आसपास मैंने Reddit छोड़ दिया था, लेकिन उससे पहले भी यह पहले से ही आदतन इस्तेमाल की जाने वाली घटिया service बन चुका था
    manipulated public opinion बहुत आम था, और यह गहरा दुख होता था कि वह पुराना internet, जहाँ रोज़ हैरान करने वाले और दिलचस्प लोग और चीज़ें मिलती थीं, गायब हो गया है। पहले यह सच में जादू जैसा लगता था, अब बस उबाऊ है

    • यह ज़रूरी नहीं कि बात bots या manipulated public opinion की ही हो। वैचारिक रूप से झुके हुए moderators असहमति रखने वालों को ban कर सकते हैं, कई subreddits को control कर सकते हैं, और कुछ जगहों पर तो सिर्फ इसलिए ban कर देते हैं कि आपने किसी दूसरे subreddit में post किया था
      पूरे Reddit को fairness में दिलचस्पी नहीं है, और site ने जो दिशा चुनी है वह काफी साफ दिखती है
    • GameFAQs forums में गहराई से डूबे रहे व्यक्ति के रूप में देखें तो, service degradation (enshittification) cycle लगभग एक predictable cycle है
      पहले कोई company internet community बनाने में बड़ा पैसा लगाती है। आखिर में, वजह जायज़ हो या न हो, funding सूख जाती है, और ads व low-quality posts standard बन जाते हैं, जिसके साथ गिरावट शुरू होती है। लोग शुरुआत में धीरे-धीरे दूसरे विकल्प ढूँढते हैं, फिर किसी पल बहुत तेजी से छोड़कर चले जाते हैं। तब कोई नई company असंतुष्ट जनता की कल्पना को पकड़कर नई online community बनाती है
      अभी Reddit इस गिरावट cycle के आखिरी हिस्से में है। यह IPO तक पहुँच चुका है, और मूल owners ने stock market से अरबों डॉलर कमा लिए। अब लगता नहीं कि उनका Reddit में दिल बचा है, और alternatives देखने का समय आ गया है
      Reddit खुद भी LUEsers, Digg और Slashdot से लोगों के निकलने के overlap वाले point पर किस्मत से चुनी गई जगह था। उससे पहले Usenet, BBS, MUD जैसी communities थीं, और हर generation में technology काफी बदलती है, इसलिए अगली बड़ी चीज़ क्या होगी, इसका अंदाज़ लगाना मुश्किल है
    • अगर आपने अभी तक lemmyverse नहीं खोजा है, तो piefed.social पर जाकर आप फिर से खुश हो सकते हैं
      piefed, lemmy instances के साथ federated है, और मेरा दोनों projects से कोई संबंध नहीं है, लेकिन मैं feed को बहुत मज़े से देख रहा हूँ
    • technology और platforms छोड़कर IRC channels में चले जाएँ तो कुछ हद तक वह चीज़ वापस मिल सकती है
    • आजकल Reddit पर लिखना मुश्किल है। 9gag जैसा हल्का alternative भी किसी तरह कहीं ज़्यादा welcoming महसूस होता है

  • पहले मुझे Reddit पसंद था, लेकिन खासकर political groups द्वारा की जाने वाली public opinion manipulation असहनीय हो गई
    पिछली election के बाद लगता है political groups को एहसास हुआ कि local subreddits का पर्याप्त इस्तेमाल नहीं हुआ था, और वे उस तरफ reorganize हो गए। अभी भी Google पर Reddit जोड़कर किए गए search results में से कुछ पर भरोसा करता हूँ, लेकिन वह भरोसा भी घट रहा है। product/service recommendation threads को manipulate करना सच में बहुत आसान है

    • Reddit मुझे बेहद echo chamber जैसा लगता है, और मुझे लगता है कि voting और karma system गलत किस्म के content के लिए optimize किए गए हैं
      homebrewing, electronics, musical instruments जैसी niche interests वाली subreddits में कुछ बार हिस्सा लिया, लेकिन कुल मिलाकर निराशाजनक रहा। मेरा hypothesis है कि जो लोग कहते हैं Reddit niche hobbies के लिए अच्छी जगह है, उन्होंने उन पुराने-style forums का अनुभव नहीं किया जहाँ सच में passionate और highly engaged members होते थे
      पिछले 2–3 सालों में यह समस्या लगातार बदतर हुई है। हालांकि memes के लिए Reddit शानदार है और कुछ सच में मज़ेदार subreddits भी हैं। लेकिन मैं लगभग participate नहीं करता, बस consume करता हूँ
    • यह हमेशा इतना साफ-साफ दिखता है कि हँसी आती है। local Reddit में high-scoring post भी आमतौर पर लगभग +70 votes तक होती है, लेकिन कोई random politics-related post — और हमेशा सिर्फ politics-related posts — +2000 votes ले आती है। इतना खुलेआम है कि जैसे उन्हें फर्क ही नहीं पड़ता
    • असली बात यह नहीं है; बात यह है कि लोगों को पता चल गया कि वे /r/all से manipulated subreddits को filter कर रहे हैं, और r/all की filter list में 100 subreddits की limit है
      इसलिए अगर 100 से ज़्यादा subreddits manipulate किए जाएँ, तो वे clients को guarantee दे सकते हैं कि उनकी posts सभी लोगों के r/all के first screen पर दिखेंगी
    • पिछली election के बाद, एक छोटा local subreddit जो सालों से वही overall culture बनाए हुए था, रातोंरात जैसे उंगली चटकाते ही पूरी तरह उलटे extreme की ओर मुड़ गया
      पहले वहाँ वर्षों से widely accepted रहे विचारों में से थोड़ा भी share करो, तो अब आपको पीटा जाता है, मज़ाक उड़ाया जाता है और downvotes में गायब कर दिया जाता है
      उस subreddit को target करने वाली manipulation का level इतना blatant और provably obvious है। लगता है किसी ने कहीं उसे target subreddits की list में डाल दिया। लेकिन जिस communication channel को पहले ही corrupt कर दिया गया हो, उसी channel से यह कैसे कहें कि यह channel corrupt हो चुका है
      लगता है ज़्यादातर लोग इस तरह की communication manipulation को नोटिस भी नहीं करते, और यह इतनी sophisticated हो चुकी है। पुराने bot accounts कहीं आसानी से पकड़े जाते थे, लेकिन अब account history चालाकी से बनाई गई होती है और posts भी इंसानों से लगभग अलग नहीं लगतीं। बेशक सारी manipulation bots या AI से नहीं होती; organized promotion, fake accounts और manipulation campaigns भी हैं जिन्हें असली लोग चलाते हैं
      समझदार लोग पहले ही निकलकर अगली जगह जा चुके हैं, लेकिन वह जगह भी आखिरकार propaganda की firehose चालू होने से पहले पर्याप्त बड़ी या meaningful बनने नहीं दी जाएगी। इसे ठीक करने के लिए communication के लिए पूरी तरह अलग framework चाहिए
    • इस बात को लेकर मैं काफी skeptical हूँ कि ज़्यादातर सब कुछ manipulated public opinion है। bot accounts बेशक मिल सकते हैं, लेकिन Reddit की groupthink बहुत मजबूत echo chamber बनाती है
      कोई भी जल्दी सीख जाता है कि Reddit की popular opinion से मेल न खाने वाली चीज़ लिखने पर तुरंत downvotes मिलते हैं। किसी sensitive मुद्दे को छू दें तो गुस्से भरे private messages आते हैं, या कोई आपकी post history खंगालकर पुराने comments तक बहस में घसीट लाता है
      बड़े forums हमेशा ऐसे ही रहे हैं। वे उन थोड़े users से driven होते हैं जिनके पास पूरा दिन post लिखने का सबसे ज़्यादा समय होता है। कभी-कभी Reddit पर कोई unusually angry reply मिलता है और curiosity में profile खोलता हूँ, तो अक्सर पता चलता है कि वह व्यक्ति पिछले 10 घंटों से लगातार comments कर रहा है। अनंत खाली समय और उगलने के लिए गुस्सा रखने वाले व्यक्ति से मुकाबला नहीं किया जा सकता, और आखिर में वे आपस में जुड़कर अलग opinions को बाहर धकेल देते हैं

  • posthuman.blog डोमेन इस पोस्ट के लिखे जाने की तारीख 12 अप्रैल से ठीक एक दिन पहले रजिस्टर हुआ था — https://www.whois.com/whois/posthuman.blog
    और वहाँ सिर्फ दो पोस्ट हैं, जिनमें पहली पोस्ट ऐसी दिखती है जैसे वह जुलाई 2022 में लिखी गई हो। इन सब बातों को देखकर वाजिब शक होता है कि यह व्यक्ति दरअसल वही पोस्ट खुद बनाने वाला है जिसकी वह शिकायत कर रहा है

    • विडंबना यह है कि यह कमेंट एक हरे यूज़रनेम वाले अकाउंट से आया है, जिसका मतलब है कि वह पिछले कुछ दिनों में ही नया रजिस्टर हुआ है
    • ब्लॉग 2022 से एक दूसरे डोमेन पर चल रहा था। आर्काइव दिखाता है कि उस समय इसका फोकस अर्थव्यवस्था पर था। अब पुराने होस्ट से पोस्ट माइग्रेट की जा रही हैं
    • हो सकता है तुम भी इस मामले का हिस्सा हो। अभी-अभी बना HN अकाउंट है, थोड़ा संदिग्ध लग रहा है? क्या यह डबल फेक एक्सपोज़े है?
    • जीतने की एकमात्र चाल है कि खेल ही न खेला जाए। इंटरनेट फोरम से बाहर निकलकर असली दुनिया में जिंदगी जीनी चाहिए। दुर्भाग्य से हम सब यहाँ फँसे हुए हैं
    • तो फिर यह साफ नहीं रहता कि यह AI से कचरा मार्केट करने की एक और कोशिश है, या AI के खिलाफ एक मैनिपुलेटेड पब्लिक-ओपिनियन कैंपेन
      Old El Paso विज्ञापन वाली वह लड़की शायद इस पर कुछ कहना चाहेगी

  • 2020 की Oxford रिपोर्ट, जो राज्य-समर्थित एक्टर्स द्वारा मैनिपुलेशन पर है, बताती है कि यह समस्या बेहद व्यापक है। 57 देश bot अकाउंट इस्तेमाल करते हैं, और 79 देश मानव प्रचार अकाउंट इस्तेमाल करते हैं
    मेरे हिसाब से यह हमारे दौर की सबसे जरूरी शीर्ष 5 समस्याओं में है। मुझे सच में बुरा लगता है कि सरकारें जनता को इस बारे में इतनी कम जानकारी देती हैं
    https://www.ox.ac.uk/news/2021-01-13-social-media-manipulati... (प्रेस रिलीज़)
    https://demtech.oii.ox.ac.uk/wp-content/uploads/sites/12/202... (असल रिपोर्ट। बहुत दिलचस्प है, और अगर इस महीने सिर्फ एक रिपोर्ट पढ़नी हो तो मैं यही सुझाऊँगा। यह गहराई से बताती है कि अलग-अलग देशों की साइबर टुकड़ियाँ राज्य, इन्फ्लुएंसर, राजनीतिक दल, NGO आदि किन क्षेत्रों से जुड़ी हैं, और वे इंसानों का इस्तेमाल करती हैं या bots का)
    इसके अलावा: दुनिया भर में मीडिया पर सरकारों का नियंत्रण बढ़ रहा है
    https://digitalcontentnext.org/blog/2024/10/22/government-co...

    • 2008 के आसपास कॉलेज ग्रेजुएशन के बाद अपनी पहली नौकरी में मैं ऐसी कंपनी में काम करता था जो इस तरह का reputation management करती थी। तब भी यह बड़ा मार्केट था, और अब तो लगभग हर चीज़ पर कड़ा नियंत्रण है। खासकर Reddit पर
      Facebook का नया feed भी मुझे पसंद नहीं है। वह clickbait और गुस्सा भड़काने वाले कचरे को अंतहीन तरीके से दोहराता रहता है
      ऑनलाइन मुझे जिन असली communities के बारे में सबसे अच्छा पता है वे Heavyequipmentforums.com और newagtalk.com हैं। हालांकि Google Search में ऐसे असली फोरम ढूँढना आसान नहीं है। समय के साथ जिसकी quality सबसे ज्यादा गिरी है, वह शायद Google Search ही है, और सच कहूँ तो ऊपर की सारी समस्याओं को भी Google results की quality गिरने से जोड़कर देखा जा सकता है

  • 2 साल पहले Reddit API वाली घटना के बाद हालात सच में बहुत तेजी से खराब हुए हैं। अब सब कुछ ज्यादा फीका है, insightful comments कम हो गए हैं, और बिगड़े हुए व जहरीले comments बढ़ गए हैं
    ज्यादातर मैं आदत की वजह से जाता हूँ, लेकिन देखने के बाद आम तौर पर मूड और खराब हो जाता है। पहले ऐसा नहीं था
    r/woodworking जैसी communities तक में यही हाल है, जहाँ पहले मददगार लोग जुटते थे। कोई woodworker होते हुए भी इतना जहरीला कैसे हो सकता है, समझ नहीं आता। हाँ, कभी-कभार किसी ने हथौड़े से अपना अंगूठा जरूर मार लिया होता था, लेकिन वह अपवाद था

  • संबंधित सामग्री: “Containment Control for a Social Network with State-Dependent Connectivity” (2014), Air Force Research Laboratory, Eglin AFB: https://arxiv.org/pdf/1402.5644.pdf
    यानी Reddit का 2013 वाला “Most-Addicted City”: https://web.archive.org/web/20160604042751/http://www.reddit...

    • मुझे याद है कि मैंने Reddit की dead internet theory वाली rabbit hole में झाँका था, और वह सचमुच डरावना था
      बातचीत के scripts का पालन करने और narratives को आगे बढ़ाने के लिए असल में पैसे पाने वाले लोग बहुत बड़ी संख्या में हैं
    • यह बहुत बड़ी खोज है। Eglin से आने वाले users की संख्या को सकारात्मक metric की तरह दिखाना अच्छी तरह बताता है कि social media कंपनियाँ इस पूरी समस्या से कितनी अनजान थीं

  • कभी-कभी सोचता हूँ कि जो member यह भूल गया कि उसने एक दिन पहले वही चीज़ पोस्ट की थी, कहीं वह असल में bot तो नहीं ;)
    https://news.ycombinator.com/item?id=43664383

    • अब हम अस्तित्ववादी Blade Runner वाले इलाके में काफी गहराई तक जा रहे हैं
      असली क्या है… क्या मैं भी बस एक bot हूँ?
      हे भगवान… मैं bot ही था
    • मैंने एक दिन बाद फिर से पोस्ट करके कई बार front page पर जगह बनाई है। timing कैसे काम करेगी, यह पता नहीं होता। ऐसा करना guidelines के भी अनुरूप है
    • हाल में “new” सेक्शन में reposts और source-laundered पोस्ट increasingly आम हो रही हैं। यह जगह भी उसी तरफ डूब रही है
    • कुछ लोग अलग-अलग time zones में पोस्ट करते हैं ताकि “जितना संभव हो उतना” ध्यान खींच सकें। हालांकि इस मामले में पिछली पोस्ट 22 घंटे पहले थी, यानी लगभग कल इसी समय, न कि 4/8/12/16/20 घंटे पहले, इसलिए तुम्हारी बात सही होने की संभावना ज्यादा है

  • अगर Reddit उस मुकाम तक पहुँच गया है जहाँ वह मज़े से ज़्यादा चिढ़ देने लगा है, तो बस उसे बंद करना सीखना चाहिए। लत का इलाज करना होगा

    • लत छुड़ाने का सबसे अच्छा तरीका है HN, Ars, Econo, IEEE जैसी थोड़ी कम नुकसानदेह लत ढूँढ लेना
    • मेरे लिए Reddit कई साल पहले ही उस मुकाम पर पहुँच चुका था
    • सही है। कई वजहों से Reddit से आम तौर पर दूरी रखता हूँ। कभी-कभी उसकी जगह इस साइट और Twitter का इस्तेमाल किया
    • API विवाद के समय कम्युनिटी को खुलेआम नज़रअंदाज़ करते देखा, तो तय कर लिया कि अब Reddit इस्तेमाल करने की ज़रूरत नहीं है
      कुछ समय तक सिर्फ Hacker News इस्तेमाल किया, फिर TikTok इस्तेमाल करना शुरू किया। बुरा नहीं है, लेकिन सावधान रहना पड़ता है क्योंकि feed कभी-कभी दिमाग सड़ा देने वाला content परोसने की कोशिश करता है

  • इंसान शुरुआत से ही दूसरे इंसानों को प्रोग्राम करते आए हैं, और बहस की गुंजाइश है कि दूसरी species ने भी ऐसा किया है[0]
    यह irony शानदार थी कि affiliate link ठीक इसी विषय की किताब के लिए था। LLM असली meme machine हैं, और अब तक हमने जो बनाया है उनमें सबसे बेहतरीन हैं
    दूसरे इंसानों की तोते की तरह नकल करने वाले इंसान और bots में फर्क क्या है?
    क्या agency+novelty Turing test का नया version है?
    [0] https://www.scientificamerican.com/article/bonobo-calls-are-...

    • अगर अनुमान लगाऊँ, तो यह पोस्ट LLM ने शुरू से लिखी है, इसकी बजाय ज़्यादा संभावना है कि यह पुराने में अच्छा perform कर चुके post को recycle किया गया हो
      उस account की बाकी posts भी पुरानी, पहले अच्छा perform कर चुकी posts की recycled versions हैं। सबसे सरल explanation यही है कि यह भी वैसी ही है
    • social interaction—यानी यह अनुमान लगाने की क्षमता कि किसी दूसरे के पास कौन-सी जानकारी है, उसके नज़रिए से empathize करना, उसकी प्रतिक्रिया का अंदाज़ा लगाना, और इसका इस्तेमाल करके अगली action को manipulate करना—शायद इंसानों, पक्षियों और दूसरे smart animals में intelligence explosion के पीछे की मुख्य ताकत रही हो; यह विचार अक्सर सामने आता है
      यह दिलचस्प इसलिए है क्योंकि SF के golden age की Asimov-style intelligent machines की कल्पना में आम तौर पर बेहद logical machine beings दिखते थे, जो ठंडे दिमाग से calculation और reasoning करते हैं। लेकिन असल में हमने जो बनाया है, वह धुंधले, mood-dependent text generators हैं, जो manipulative garbage text बनाने में माहिर हैं। शायद यह संयोग नहीं, बल्कि higher intelligence की सामान्य दिशा को कुछ हद तक reflect करता हो

  • entry barrier बहुत कम है और मछलियों का झुंड बहुत बड़ा, इसलिए लोग fishing करने लगते हैं। पैसा कमाना बहुत आसान है
    इसलिए इसका असल में कोई solution नहीं है। Reddit जैसी जगहों से हाथ खींच लेना ही लगभग सब कुछ है

    • Reddit छोड़कर छोटी communities की तरफ जा रहा हूँ, जो offline events भी करती हैं। अब anonymous communities में participate करना मुश्किल हो गया है। कोई भी bot हो सकता है। irony यह है कि Hacker News अब भी इस्तेमाल कर रहा हूँ
    • यह सच में depressing है कि इतने लोग ईमानदारी से ज़्यादा पैसे को महत्व देते हैं। ऐसे लोग हमेशा रहे होंगे, लेकिन internet ने उनकी मौजूदगी को साफ़ तौर पर amplify कर दिया है