Community Notes के बारे में आप क्या सोचते हैं?

 (archive.md)
2 पॉइंट द्वारा GN⁺ 2023-08-29 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Community Notes एक fact-checking tool है जो tweets में context जोड़कर misinformation को ठीक करता है; इसे पहली बार जनवरी 2021 में Birdwatch नाम के एक pilot के रूप में शुरू किया गया था और बाद में चरणबद्ध तरीके से बढ़ाया गया
  • इसमें विशेषज्ञों का कोई चुना हुआ समूह नहीं, बल्कि कोई भी लिख और vote कर सकता है, और कौन-सा note दिखेगा यह पूरी तरह open source algorithm तय करता है
  • इसकी सबसे अहम बात यह है कि यह साधारण average पर नहीं, बल्कि ऐसे notes को प्राथमिकता देता है जिन्हें अलग-अलग दृष्टिकोण वाले users से एक साथ positive ratings मिलें; यानी जो notes खेमों के पार सहमति बनाते हैं उन्हें ऊँचा score मिलता है
  • left-right political axis को hardcode नहीं किया गया; user और note analysis से यह उद्भवित रूप में सामने आता है, और data व code डाउनलोड करके नतीजों को सीधे verify किया जा सकता है
  • इसका लक्ष्य हर false tweet को सुधारना नहीं, बल्कि कई दृष्टिकोण मौजूद हैं यह याद दिलाने वाले शैक्षिक tool के रूप में काम करना है, और यह "credible neutrality" के आदर्श के काफ़ी करीब पहुँचता है

पृष्ठभूमि: Twitter X के उथल-पुथल के बीच बढ़ी एक सुविधा

  • पिछले 2 वर्षों में Elon Musk के 44 अरब डॉलर के अधिग्रहण के बाद Twitter ने कर्मियों, content moderation और business model तक बड़े बदलाव देखे
  • इन विवादास्पद परिवर्तनों के बीच एक नया feature तेज़ी से अहम बन गया और राजनीतिक रुझान की परवाह किए बिना सराहना मिली
    • इसका लॉन्च और सबसे तेज़ विस्तार वाला चरण अधिग्रहण के समय से मेल खाता था
    • यह बड़े audience तक पहुँचने वाले tweets, खासकर राजनीतिक रूप से संवेदनशील विषयों में, अक्सर दिखने लगा
  • जब किसी tweet पर note जुड़ता है, तो उसे useful और valuable मानने की राय अलग-अलग राजनीतिक झुकाव वाले लोगों में साझा दिखती है
  • यह कोई "crypto project" नहीं है, फिर भी मुख्यधारा की दुनिया में इसे "crypto values" के सबसे करीब के उदाहरणों में गिना गया
    • क्योंकि centrally selected experts नहीं, कोई भी लिख और vote कर सकता है
    • और note दिखेगा या नहीं, यह पूरी तरह open source algorithm तय करता है

Community Notes algorithm कैसे काम करता है

  • जो Twitter account कुछ शर्तें पूरी करता हो—6 महीने से अधिक सक्रियता, हाल में कोई नियम उल्लंघन नहीं, और phone number verification—वह भाग लेने के लिए आवेदन कर सकता है

    • अभी स्वीकृति धीरे-धीरे और random तरीके से दी जा रही है, लेकिन अंततः सभी योग्य users को अनुमति देने की योजना है
    • शुरुआत में केवल मौजूदा notes को rate किया जा सकता है, और पर्याप्त अच्छे ratings history के बाद सीधे notes लिखना संभव होता है

  • लिखे गए notes को दूसरे participants की reviews के आधार पर score मिलता है

    • review, HELPFUL, SOMEWHAT_HELPFUL, NOT_HELPFUL की 3-point scale voting और अतिरिक्त tags का मिश्रण होता है
    • score 0.40 से ऊपर हो तो note दिखता है, नहीं तो नहीं

  • score calculation की मौलिकता

    • यह simple sum या average नहीं है; यह साफ़ तौर पर अलग-अलग दृष्टिकोण वाले लोगों से positive rating पाने वाले notes को आगे रखता है
      • जो लोग आम तौर पर असहमत रहते हैं, अगर वे किसी खास note पर सहमत हो जाएँ, तो उस note को खास तौर पर ऊँचा score मिलता है
    • user×note matrix M बनाई जाती है, जहाँ हर cell Mi,j यह दिखाती है कि iवें user ने jवें note को कैसे rate किया
      • ज़्यादातर users ज़्यादातर notes को rate नहीं करते, इसलिए matrix का अधिकांश हिस्सा 0 होता है, लेकिन यह समस्या नहीं है
    • users को "friendliness" और "polarity", और notes को "helpfulness" और "polarity" देने वाले 4-column model से matrix की भविष्यवाणी की जाती है

  • variables का अर्थ

    • μ एक "समग्र जन-भावना" parameter है, जो दिखाता है कि users कुल मिलाकर कितनी ऊँची ratings देते हैं
    • iu किसी खास user की ऊँची ratings देने की प्रवृत्ति है (friendliness)
    • in किसी खास note के ऊँची rating पाने की प्रवृत्ति है (helpfulness), और आख़िरकार यही मुख्य रुचि का variable है
    • fu/fn प्रमुख राजनीतिक ध्रुवीकरण axis पर स्थिति को दर्शाते हैं (polarity); negative लगभग left-leaning और positive लगभग right-leaning मानी जा सकती है
      • लेकिन left-right का विचार hardcode नहीं है; यह analysis से उभरता है

  • मुख्य विचार

    • standard gradient descent से matrix prediction को optimize किया जाता है, और note को दिया गया helpfulness ही final score बनता है
    • polarity term उन गुणों को absorb कर लेती है जो सिर्फ कुछ लोगों को पसंद आते हैं, जबकि helpfulness term केवल उन गुणों को मापती है जो सबको पसंद आते हैं
      • इसलिए helpfulness का चयन खेमों के पार approval पहचानता है और ऐसे notes को बाहर करता है जिन्हें केवल एक पक्ष सराहता हो

  • मुख्य तंत्र के ऊपर जोड़ी गई अतिरिक्त mechanisms

    • random extreme "pseudo-votes" जोड़कर कई बार run किया जाता है, और उस range के lower confidence bound की तुलना 0.32 threshold से की जाती है
    • अगर समान polarity वाले कई users एक ही tag (जैसे "controversial or biased language", "sources do not support note" आदि) के साथ Not Helpful दें, तो posting threshold 0.4 से 0.5 हो जाती है, जो व्यवहार में बहुत बड़ा बदलाव है
    • note approve होने के बाद हटाने के लिए उसका helpfulness approval threshold से 0.01 point और नीचे गिरना चाहिए
    • कई models के साथ इसे और ज़्यादा बार चलाया जाता है, जिससे 0.3~0.4 के बीच वाले notes भी कभी-कभी promote हो जाते हैं
    • नतीजा यह है कि 22 files में फैला 6,282 lines का जटिल Python code बनता है, जो पूरा सार्वजनिक है और सीधे चलाकर verify किया जा सकता है

व्यवहार में यह कैसे काम करता है

  • simple average से इसे अलग करने वाली सबसे अहम धारणा polarity value है; क्योंकि यह दो terms (fu, fn) के गुणन के रूप में आती है, इसलिए factor का f इस्तेमाल किया गया

    • polarity users और notes दोनों को दी जाती है; user ID और actual account का संबंध जानबूझकर private रखा गया है, जबकि notes सार्वजनिक हैं
    • English dataset में polarity left-right political spectrum के काफ़ी करीब मेल खाती है

  • polarity -0.8 के आसपास के note उदाहरण

    • Lauren Boebert आदि Colorado के conservative legislators ने anti-trans rhetoric को amplify किया, ऐसा note (-0.800)
    • Trump ने 2020 presidential election से पहले अमेरिकियों के चुनाव परिणामों पर भरोसे को स्पष्ट रूप से कमजोर किया, ऐसा note (-0.825)
    • 2020 presidential election स्वतंत्र और निष्पक्ष थी, ऐसा note (-0.818)
    • ये तीनों items मनमाने चयन नहीं हैं, बल्कि local run में polarity (coreNoteFactor1) -0.8 से नीचे आने वाली पहली तीन rows हैं

  • polarity +0.8 के आसपास के note उदाहरण

    • इनमें कई Portuguese-language Brazil politics या Tesla criticism rebuttal से जुड़े थे, इसलिए कुछ चुने गए
    • 2021 के अनुसार "Black" बच्चों में 64% single-parent households में रहते हैं, ऐसा note (+0.809)
    • child trafficking एक वास्तविक बड़ी समस्या है और Operation Underground Railroad इससे निपटता है, ऐसा note (+0.840)
    • banned LGBTQ+ children's books obscene हैं और संविधान के free speech protection के दायरे में नहीं आतीं, ऐसा note (+0.806)
    • क्योंकि left-right विभाजन hardcode नहीं है बल्कि उभरकर सामने आता है, इसलिए इसे दूसरी संस्कृतियों में लागू करने पर वहाँ की मुख्य राजनीतिक विभाजन रेखा भी अपने-आप पकड़ी जा सकती है

  • सबसे ऊँचे helpfulness वाले notes

    • ये वास्तव में Twitter पर दिखते हैं और सीधे capture किए जा सकते हैं
    • दूसरा उदाहरण partisan विषय को अधिक सीधे छूता है, फिर भी स्पष्ट, high-quality और helpful होने के कारण ऊँचा score पाता है
    • algorithm काम करता हुआ दिखता है, और code चलाकर output verify करने की क्षमता भी काम करती लगती है

algorithm का मूल्यांकन

  • इस analysis में सबसे प्रभावशाली बात इसकी जटिलता है; एक academic paper version है (5-term vector-matrix equations के gradient descent के साथ), और एक वास्तविक production version है जिसमें कई ad hoc coefficients जुड़े हैं

    • academic version भी भीतर जटिलता छुपाता है: fu∗fn का quadratic term और squared error cost function मिलकर इसे quartic equation बना देते हैं
    • quartic equations के कई solutions हो सकते हैं, इसलिए gradient descent हर बार अलग उत्तर तक पहुँच सकता है
      • input में छोटा बदलाव भी local minima के बीच flip कर सकता है और output को काफ़ी बदल सकता है

  • economist's algorithm बनाम engineer's algorithm

    • quadratic funding जैसे कामों से इसका अंतर कुछ वैसा लगता है जैसे economist's algorithm और engineer's algorithm का फ़र्क
      • economist's algorithm: simple, analyze करने में आसान, mathematical properties के साथ optimality और attack damage limits साबित किए जा सकें, और अनपेक्षित हालात में पूरी तरह न टूटे
      • engineer's algorithm: बार-बार के trial and error से बना, व्यावहारिक, और काम निकाल देने वाला
    • crypto की "theorycel aesthetic" की ज़रूरत इसीलिए होती है कि वास्तव में trustless protocol और ऐसे ढाँचे जिनमें ऊपर से सब ठीक दिखे लेकिन भीतर किसी centralized actor पर भरोसा करना पड़े या जो धोखाधड़ी हों, इनके बीच फर्क किया जा सके
    • deep learning काम करती है जब काम करती है, लेकिन adversarial machine learning attacks के प्रति संवेदनशील होती है; इसलिए Community Notes को economist-style algorithm के और क़रीब लाया जा सकता है या नहीं, यह एक बड़ा सवाल है

  • pairwise-bounded quadratic funding का उदाहरण

    • यह सामान्य quadratic funding की उस कमजोरी को रोकने की रचना है जहाँ केवल दो प्रतिभागी मिलकर fake project के जरिए पूरे pool का पैसा निकाल सकते हैं
    • हर participant pair को budget limit M दी जाती है; A और B ने साथ मिलकर जिस project को support किया, उसकी subsidy (A,B) pair के budget से काटी जाती है
      • इस तरह k लोग मिलीभगत करें तब भी अधिकतम निकासी k∗(k−1)∗M तक सीमित रहती है
    • लेकिन Community Notes में प्रति user votes बहुत कम हैं, इसलिए दो users के common votes लगभग नहीं होते; इस वजह से इसे ज्यों-का-त्यों लागू नहीं किया जा सकता
      • machine learning model का उद्देश्य ही sparse data से matrix भरना है, और कुछ malicious votes से नतीजे अस्थिर न हों इसके लिए अतिरिक्त मेहनत चाहिए

  • क्या Community Notes सच में polarization घटाता है

    • naive voting भी कुछ हद तक polarization कम करती है (200 समर्थन और 100 विरोध वाला post, 200 समर्थन और 0 विरोध वाले post से नीचे जाता है)
    • लेकिन abstract स्तर पर समझना मुश्किल है, इसलिए simplified implementation के साथ 100 rounds चलाकर देखा गया
      • group1 (अच्छा): 0.300, group2 (अच्छा लेकिन अधिक polarized): 0.217, group3 (neutral): 0.094, group4 (खराब): -0.152
      • "अच्छा" का अर्थ: अपने खेमे से +2, विरोधी खेमे से +0; जबकि "अच्छा लेकिन अधिक polarized" में +4 और -2, यानी average समान है पर polarity अलग
    • वास्तव में "अच्छा" note, "अच्छा लेकिन अधिक polarized" note से ज़्यादा average helpfulness पाता है
    • economist-style algorithm के जितना करीब जाएँ, polarization penalty के सिद्धांत को उतना साफ़ समझाना आसान होता है

high-risk स्थितियों में उपयोगिता

  • लगभग एक महीने पहले Ian Bremmer ने मुद्दा उठाया कि चीन सरकार के अधिकारी के tweet पर लगा आलोचनात्मक note हटा दिया गया

    • Ethereum community के छोटे प्रयोगों से अलग, यहाँ मामला राजनीति और geopolitics का है जो लाखों लोगों को प्रभावित करता है, इसलिए हर कोई अधिकतम दुर्भावना मानकर चलता है
    • Elon के चीन में बड़े business interests होने के कारण centralized manipulation के शक की गुंजाइश बनती है

  • open source के कारण सीधी verification

    • मूल tweet ID 1676157337109946369 से download data में संबंधित note row ढूँढकर note ID 1676391378815709184 निकाली गई
    • scored_notes.tsv और note_status_history.tsv में खोजने पर मौजूदा status NEEDS_MORE_RATINGS मिला, जबकि पहले CURRENTLY_RATED_HELPFUL था
      • यानी algorithm ने पहले note दिखाया, फिर rating गिरने पर हटा दिया; centralized हस्तक्षेप का संकेत नहीं दिखता
    • ratings-00000.tsv को समयक्रम में sort करके पहली 50 votes देखने पर HELPFUL 40 और NOT_HELPFUL 9 मिले
      • यानी शुरुआती audience बाद की audience की तुलना में अधिक अनुकूल थी, इसलिए rating पहले ऊँची थी फिर गिर गई
    • status change सिर्फ threshold पार करने की साधारण कहानी नहीं थी; कई NOT_HELPFUL ratings ने outlier condition trigger की, जिससे ज़रूरी helpfulness score बढ़ गया
      • अगर किसी credible neutral algorithm पर सचमुच भरोसा बनना है, तो उसे सरल बने रहना होगा और status change के लिए simple, clear explanation देनी होगी

  • brigading की vulnerability

    • किसी note को नापसंद करने वाले लोग high-engagement community या बड़ी संख्या में fake accounts के जरिए NOT_HELPFUL की बौछार कर brigading कर सकते हैं
      • किसी note को "helpful" से "polarizing" श्रेणी में गिराने के लिए शायद बहुत अधिक votes की ज़रूरत भी न पड़े
    • एक सुधार प्रस्ताव यह है कि हर user किसी भी note पर vote न कर सके; उसकी जगह "For you" feed की तरह notes को random assign किया जाए और users केवल assigned notes को rate करें

  • क्या Community Notes पर्याप्त "साहसी" नहीं है

    • इसकी मुख्य आलोचना यह है कि यह काफ़ी कुछ नहीं करता; हाल की दो reports ने इसी बात पर ज़ोर दिया
      • क्योंकि note को public होने के लिए राजनीतिक spectrum भर में वैचारिक सहमति चाहिए, और बढ़ते partisan माहौल में "सत्य पर bipartisan agreement" लगभग असंभव हो सकता है
    • फिर भी यह रुख लिया गया कि एक अनुचित note की तुलना में दस false tweets छूट जाना बेहतर है
      • "हम सच्चाई जानते हैं और एक पक्ष ज़्यादा झूठ बोलता है" जैसी साहसी fact-checking आख़िरकार fact-checking पर व्यापक अविश्वास ही पैदा करती है
      • ऐसी cross-partisan संस्था बनाना जिसमें सभी कुछ हद तक सम्मान महसूस करें, अपने-आप में मूल्यवान है; और William Blackstone के कथन की तरह, ऐसा तंत्र जो गलत हस्तक्षेप की तुलना में कम हस्तक्षेप की गलती अधिक करे, वही सम्मान बनाए रख सकता है
    • लक्ष्य यह नहीं है कि हर या अधिकतर false tweets पर corrective note लगे
      • अगर 1% से भी कम false tweets पर notes लगें, तब भी यह एक शैक्षिक tool के रूप में बहुत मूल्यवान सेवा हो सकती है
      • लक्ष्य यह याद दिलाना है कि कई दृष्टिकोण मौजूद हैं, कि बहुत persuasive दिखने वाली post भी ग़लत हो सकती है, और इसे खुद search करके जाँचा जा सकता है
    • यह public epistemology की सभी समस्याओं का रामबाण नहीं है; prediction markets या विशेषज्ञ staff वाली संस्थाओं जैसे अन्य mechanisms अब भी खाली जगह भर सकते हैं

निष्कर्ष

  • Community Notes एक दिलचस्प social media प्रयोग है और ऐसे नए mechanism design genre का उदाहरण है जो polarization पहचानने और विभाजन के पार पुल बनाने को प्राथमिकता देता है
    • इसी श्रेणी के अन्य उदाहरण हैं Gitcoin Grants में इस्तेमाल होने वाला pairwise quadratic funding, और clustering के जरिए व्यापक सहमति पाने वाले वक्तव्यों को खोजने वाला discussion tool Polis
    • उम्मीद है कि इस क्षेत्र में और अधिक academic research सामने आएगी
  • Community Notes की algorithmic transparency पूर्ण decentralized social media जैसी नहीं है; अगर आप algorithm से सहमत नहीं हैं, तो उसी content को किसी दूसरे algorithm से देखने का विकल्प नहीं है
    • फिर भी अगले कुछ वर्षों में ultra-large-scale applications जितना करीब पहुँच सकती हैं, यह शायद वैसा ही एक रूप है, और centralized manipulation की रोकथाम तथा गैर-हस्तक्षेप करने वाले platform को उचित श्रेय दिलाने—दोनों अर्थों में यह पहले ही बड़ी उपयोगिता दे रही है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-08-29
Hacker News की राय

  • दिलचस्प लेख है। Community Notes देखने में गणितीय रूप से काफी मजबूत मॉडल पर बना लगता है
    यह मौजूदा पक्ष/विपक्ष वोटिंग सिस्टम की तुलना में पक्षपाती सामूहिक व्यवहार के प्रति कहीं कम संवेदनशील दिखता है, लेकिन ऐसे व्यवहार से पूरी तरह immune नहीं होगा। “पक्षपात” देखने वाले के नजरिए पर निर्भर करता है, इसलिए किसी भी content rating system से पूरी तरह निष्पक्ष होने की उम्मीद करना अवास्तविक है
    Community Notes और cryptocurrency में एक समानता है: “जटिल गणित की वजह से बेहद शक्तिशाली, लेकिन 95% लोगों के लिए पूरी तरह अपारदर्शी।” हालांकि लेख में इस कड़ी को जितनी जगह दी गई है, उसके मुकाबले संबंध काफी कमजोर लगता है। Vitalik cryptocurrency blog लिखते हैं, इसलिए शायद अपने पाठकों के हिसाब से लिखा हो, फिर भी लेख अच्छा था

    • cryptocurrency से कनेक्शन सिर्फ गणित की वजह से नहीं, बल्कि algorithm की open-source verification और credible neutrality के सिद्धांतों की वजह से भी है

  • मुझे Community Notes सच में बहुत पसंद है। ब्राज़ील में इसका इस्तेमाल कुछ समय से उन राजनेताओं के posts जांचने के लिए हो रहा है जो लगातार झूठ बोलते हैं या इतिहास को दोबारा लिखने की कोशिश करते हैं
    यह post पर लगे छोटे से शर्मिंदगी के टैग जैसा लगता है, और अब तक यह राजनीतिक spectrum के हर तरफ के राजनेताओं पर लागू होता दिखा है

    • यह सच में दुखद है कि ऐसे राजनेता misinformation, यानी “fake news”, रोकने के नाम पर तरह-तरह के information sources को regulate करने की कोशिश करते हैं

  • “deep learning बनाम cryptocurrency, rotator बनाम wordcel का साफ विभाजन है। पहला theorycel की aesthetic sense के खिलाफ जाता है, लेकिन empirically बेतुके लगने वाले चमत्कार कर देता है। दूसरा पागलपन भरे nerd trap और आसमान छूती abstraction ladders की श्रृंखला है, लेकिन ज्यादातर scam है”
    क्या कोई इस meme से भरे वाक्य को English में translate कर सकता है?
    ऊपर से Vitalik के post करने के हिसाब से यह काफी anti-cryptocurrency expression जैसा लगता है

    • यह लगभग common sense है कि cryptocurrency जगत की बहुत-सी publications scam हैं, और Vitalik हमेशा सिर्फ पैसे के पीछे भागने वाली योजनाओं के आलोचक रहे हैं। Vitalik का project Ethereum “shit coin” यानी सिर्फ कमाई के मकसद वाली alternative cryptocurrencies की वजह से काफी नुकसान झेल चुका है
      अगर आम users जादुई तरीके से जान पाते कि कौन-सी cryptocurrency technology इस क्षेत्र में वास्तविक value जोड़ती है और कौन-सी नहीं, तो पूरा ecosystem कहीं ज्यादा स्वस्थ होता
      उस वाक्य के बाकी हिस्से मजेदार आत्म-व्यंग्य जैसे हैं। उदाहरण के लिए, staking को काम कराने के लिए Ethereum team जिन research rabbit holes और mathematical abstractions में उतरी, लगता है उन्हें Vitalik खुद भी समझते हैं
      अगर Ethereum सभी cryptocurrency exchanges की top listings में न होता और Vitalik भी कुछ हद तक जाने-पहचाने व्यक्ति न होते, तो औसत cryptocurrency-interested व्यक्ति के लिए Ethereum के “पागलपन भरे nerd trap और आसमान छूती abstraction ladders” को scam से अलग करना कितना मुश्किल होता, यह सोचने वाली बात है
    • “deep learning बनाम cryptocurrency, rotator बनाम wordcel का साफ विभाजन है” को “deep learning बनाम cryptocurrency, math-type people बनाम language-type people का साफ विभाजन है” जैसा समझा जा सकता है
      “पहला theorycel की aesthetic sense के खिलाफ जाता है, लेकिन empirically बेतुके लगने वाले चमत्कार कर देता है” का मतलब है कि theory में गहरे डूबे लोगों को deep learning शायद काम करती हुई न लगे, लेकिन फिर भी यह शानदार परिणाम देती है
      “दूसरा पागलपन भरे nerd trap और आसमान छूती abstraction ladders की श्रृंखला है, लेकिन ज्यादातर scam है” का मतलब है कि cryptocurrency दिलचस्प technical challenges से भरी है, लेकिन उसके outputs ज्यादातर scam हैं
    • अच्छी बात है कि इसे समझाने वाली website मौजूद है: https://knowyourmeme.com/memes/wordcel-shape-rotator-mathcel
      Shape rotator वह व्यक्ति है जो अपने दिमाग में shapes को rotate कर सकता है, यानी इसे intelligence के proxy indicator की तरह इस्तेमाल किया जाता है। ऐसा व्यक्ति जिसकी math या STEM ability अच्छी हो, लेकिन जिसे लगे कि उसकी value को मान्यता नहीं मिल रही
      Wordcel वह व्यक्ति है जो शब्दों या rhetoric में अच्छा हो, लेकिन जिसे लगे कि उसकी क्षमता को पर्याप्त पहचान नहीं मिल रही या वह जीवन में उसे बहुत आगे नहीं ले जा रही
    • इसका मतलब है, “ChatGPT, कुछ ऐसा jargon बना दो जिससे पहले से भरोसा करके आए लोग insider जैसा महसूस करें, और आसानी से न फंसने वाले लोग^W^W नहीं, haters सुरक्षित दूरी से बाहर ही रहें”

  • Community Notes में Wikipedia जैसी कुछ खूबियां और कमियां होने की काफी संभावना है
    Community Notes किसी centrally चुने गए experts के समूह द्वारा लिखी या curate नहीं की जाती; कोई भी लिख सकता है और vote कर सकता है। यह perfect नहीं है, लेकिन credible neutrality के आदर्श के आश्चर्यजनक रूप से करीब है
    अगर यह आशावादी फायदा है, तो नुकसान यह है कि जब कोई खास demographic ऐसे notes लिखने की ओर ज्यादा आकर्षित हो, या Twitter पर हावी हो जाए, तो Wikipedia के social और cultural topics में दिखने जैसी bias problem पैदा हो सकती है। उसका नतीजा जो भी हो, वह “credible neutrality” नहीं होगा

    • Wikipedia इससे कहीं ज्यादा खराब है। वह कुछ editors को कुछ खास pages के समूहों, खासकर politics-related pages, पर लगभग संस्थागत कर देता है, जिससे editing उन्हीं लोगों की इच्छित दिशा में चलती है
      Community Notes में कोई भी review कर सकता है और useful/not useful mark कर सकता है
    • पता नहीं Community Notes इसे ध्यान में रखता है या नहीं, लेकिन contributors ने अतीत में कैसे vote किया है, उसके आधार पर bias weights देकर और output को medianize करके एक तरफ के camp की mobbing या organized voting को रोका जा सकता है
    • users Community Notes को rate कर सकते हैं

  • मैंने जो कुछ Community Notes देखे, वे काफी अच्छे थे। मुझे यह बात पसंद है कि इन्हें ads पर भी लगाया जा सकता है
    अभी Twitter पर दिखने वाले कई ads पर Community Notes लगे हैं, क्योंकि ad कुछ और कहता है जबकि actual product बिल्कुल अलग काम करता है

    • यह अप्रत्याशित रूप से काफी impressive था। इस form में मैंने पहली बार Instagram की fact-checking देखी थी, और याद है कि वह लगभग तुरंत ही बेतुकी हो गई थी। वजह यह थी कि लोग साफ-साफ joke posts या memes पर fact-check notes छोड़ रहे थे
      इसके विपरीत Community Notes सही जगह पर लगते हैं, काफी informative होते हैं, और कुछ मामलों में हैरान करने वाली detail तक देते हैं
    • वाह, कमाल है। users ad देखते हैं, पूरा देखते हैं, और फिर उस पर लिखते भी हैं—advertiser के लिए तो यह dream situation है। बेजोड़ engagement है

  • Community Notes इस पूरी प्रक्रिया में X पर आई एकमात्र अच्छी चीज है

    • Community Notes जनवरी 2021 में “Birdwatch” नाम से शुरू हुआ था, इसलिए यह Musk के acquisition से पहले से मौजूद था

  • यहाँ टिप्पणियों में भी किसी ने इशारा किया था, लेकिन यह Slashdot के moderation तरीके का कहीं ज़्यादा परिष्कृत रूप जैसा बहुत लगता है
    वह साइट moderation का मेरा सबसे पसंदीदा तरीका था। किसी चीज़ पर meta judgment या commentary जोड़ना कोई स्वाभाविक अधिकार नहीं, बल्कि एक विशेषाधिकार जैसा महसूस होता था

  • मुझे लगता है सबसे बड़ी समस्या यह है कि “polarity” को एक ही axis के रूप में treat किया जाता है। असल में कई विषय इसी तरह align होते हैं, लेकिन जो विषय ऐसे नहीं होते, वे महत्वपूर्ण हैं
    distributed moderation की दिशा में कोशिश दिखना अच्छा है, लेकिन उस सपने को साकार करने के लिए यह अभी भी बहुत ज़्यादा centralized है

  • लेख बार-बार पाठक को आश्वस्त करने की कोशिश करता है कि left/right dichotomy hardcoded नहीं थी बल्कि “emergently” सामने आई, लेकिन यह ठीक-ठीक कैसे हुआ, इसमें बिल्कुल detail में नहीं जाता
    left/right विभाजन का सामने आना अजीब लगता है। faith-based/non-faith-based, authoritarian/libertarian जैसे विभाजन नहीं, आखिर left-right ही क्यों? क्या इसे verify करने के लिए कोई public data नहीं है, और हमें बस संगठन की बात पर भरोसा करना होगा?

    • यह सोचें कि left/right का अर्थ समय के साथ लगातार बदलता रहता है, तो इसे आसानी से समझा जा सकता है। उदाहरण के लिए, जो व्यक्ति free speech के पक्ष में हो, युद्ध के खिलाफ हो, hegemony के खिलाफ हो, equality of opportunity का समर्थन करता हो, और colorblind society का समर्थन करता हो, उसे कैसे classify करेंगे? 20 साल पहले वह पूरी तरह typical liberal होता, लेकिन आज अब वैसा नहीं है
      इसलिए जब हम left/right कहते हैं, तो हम किसी fixed values या fundamental values को खुद refer नहीं कर रहे होते। सब कुछ लगातार खिसकता रहता है, और अक्सर आत्म-विरोधी तरीकों से भी बदलता है। इसलिए ये terms समाज के भीतर लगातार बदलती fissures के proxy बन जाते हैं। इस अर्थ में, अगर समाज का fair sampling किया जाए तो अंततः उन्हीं terms के हिसाब से division दिखेगा—यह लगभग tautology जैसा है
    • देखने में वह विभाजन असल में left/right नहीं लगता। मेरी समझ के अनुसार, algorithm users/notes की high-dimensional “alignment” को 1-dimensional “polarity” में reduce करता है, और वह संयोग से अमेरिका की party division से कुछ हद तक overlap कर गया
      अगर two-party political system हो तो यह लगभग expected result है। हर party अधिक से अधिक voters के साथ align होने की कोशिश करती है, इसलिए Republican/Democrat विभाजन alignment space को काटने वाला “अच्छा” cutting plane बन जाए, यह पूरी तरह उम्मीद की जा सकती है
      मूल रूप से algorithm साफ तौर पर वह “optimal” polarity axis खोजता है जिसमें इस बारे में सबसे अधिक information हो कि users किस content को agreeable मानेंगे, और two-party political system party politics के movement की emergent property के रूप में ऐसे axis के साथ implicitly align हो जाता है
    • सीधा जवाब नहीं है, लेकिन कुछ साल पहले मेरे एक दोस्त ने इसी तरह का experiment किया था। उसने कई controversial questions इकट्ठे किए और answers पर principal component analysis लागू किया। परिणाम में दो axes निकले; mathematically और axes भी निकले, लेकिन बाकी का importance कम था। सबसे बड़ा axis “left/right” से बहुत मिलता-जुलता था
      http://politics.beasts.org/scripts/eigenvectors
      आज उन्हीं questions या अलग questions के साथ इसे दोहराना दिलचस्प होगा
    • पता नहीं यह proof है या नहीं, लेकिन left/right dichotomy real world के ज़्यादातर देशों में भी “emerge” हुई है। यह हमारे दिखने वाला इकलौता axis of variation नहीं है, लेकिन dominant axes में से एक है
      Twitter भी real world का हिस्सा है, इसलिए users शायद पहले से ही खुद को left/right tribes में बाँधने की प्रवृत्ति लेकर आए होंगे, और फिर social media के bubble-forming mechanisms ने polarization process को तेज़ कर दिया होगा
    • code open source है: https://github.com/twitter/communitynotes
      notes और ratings data भी रोज़ public होते हैं: https://twitter.com/i/communitynotes/download-data
      आप खुद data पर matrix factorization code चला सकते हैं और result में मिलने वाले latent dimensions की व्याख्या खुद कर सकते हैं। और code पढ़ेंगे तो यह भी verify कर सकते हैं कि वास्तव में किसी खास left/right division को hardcode नहीं किया गया है, बल्कि matrix factorization किया जाता है

  • थोड़ा कठोर तरीके से summarize करें तो यह है: ज़्यादातर लोग Community Notes को पसंद करते हैं, और Vitalik चाहता है कि crypto को भी उस पसंद का कुछ हिस्सा मिले। crypto में ऐसी goodwill की बेहद कमी है, इसलिए वह दावा कर रहा है कि दोनों की कोई common philosophical या functional lineage है
    मेरे हिसाब से यह बात बेकार है, और मरी हुई गाय को ज़िंदा गाय से बाँधने की कोशिश जैसी लगती है। फिर भी उसका अपना blog है, तो वह जो चाहे कर सकता है

    • ज़्यादा charitable तरीके से देखें तो Vitalik को math/systems और governance के intersection में intellectual curiosity है, और वही interest crypto और यह लेख लिखने—दोनों तक जाता है
      मैं पूरी तरह crypto skeptic हूँ, लेकिन crypto का संक्षिप्त mention लेख की बाकी value को कम करता हुआ मुझे नहीं लगा
    • Vitalik कई सालों से technical और economic systems पर philosophical लेख लिखता रहा है। उसे बहुत detailed technical analysis blog post के जरिए goodwill siphon करने वाला Machiavellian mastermind समझना हास्यास्पद रूप से inaccurate है
    • यह बहुत कठोर interpretation है। मैं crypto supporter नहीं हूँ, लेकिन Vitalik ऐसा व्यक्ति है जो इस field में उसे interesting लगने वाले ideas को लगातार explore करता रहा है, और यह लेख भी “मरी हुई गाय को ज़िंदा गाय से बाँधने” की कोशिश नहीं बल्कि sincere लगता है
      लेख का ज़्यादातर हिस्सा crypto से बिल्कुल संबंधित नहीं है
    • पढ़ते समय crypto-related parts छोड़कर भी देखा जा सकता है, और तब भी लेख उपयोगी है। कम से कम मुझे तो पता नहीं था कि Community Notes इस तरह काम करता है
      quadratic funding भी अपने-आप में interesting है, और implementation में crypto का इस्तेमाल करना ज़रूरी नहीं है
    • इस क्षेत्र में काम करने वाले व्यक्ति के रूप में मेरी राय यह है: Vitalik एक thought leader है। crypto developers उसका बहुत सम्मान करते हैं
      vitalik.ca का blog आम तौर पर crypto और उससे जुड़े adjacent topics को cover करता है, और यही Vitalik के R&D का मौजूदा focus है। वह 10 साल से अधिक समय से crypto पर लिखता आया है
      अगर वह अपने blog पर Community Notes की ओर ध्यान खींचना चाहता है, तो मुख्यतः शायद इसलिए कि उसे सोचने और लिखने में मज़ा आता है। हालांकि एक अच्छा side effect यह हो सकता है कि crypto developers Community Notes से inspiration लें, खासकर crypto-native social networks बनाते समय, तो उसे भी यह बुरा नहीं लगेगा