हम पहले से ही एक social credit system के भीतर जी रहे हैं, बस इसे उस नाम से नहीं बुलाते

• क्रेडिट स्कोर, LinkedIn recommendations, Uber ratings जैसे रोज़मर्रा के ऐप पहले से ही social credit system की तरह काम कर रहे हैं
• चीन के social credit system को लेकर पश्चिम में बड़ी गलतफहमी है, लेकिन वास्तव में यह सीमित और बिखरे हुए रूप में मौजूद है
• पश्चिमी समाज तरह-तरह के behavioral scoring systems बना रहे हैं, और इनके बीच जुड़ने वाली infrastructure भी विकसित हो रही है
• कंपनियों और सरकारों के बीच data sharing और collaboration, साथ ही ऊंची switching cost के कारण, व्यवहार में इससे बाहर निकलना मुश्किल होता जा रहा है
• आगे चलकर अगर नियम और स्कोर ज़्यादा transparent हो जाते हैं, तो यूज़र भी गेम के नियम समझकर चुनाव कर सकेंगे

---

पहले से मौजूद "social credit" system

• क्रेडिट स्कोर, LinkedIn की recommendations, Uber passenger ratings, Instagram engagement metrics, Amazon reviews, Airbnb host status — ये सभी यूज़र के व्यवहार को ट्रैक और स्कोर करके उसके आधार पर access rights, opportunities, और social standing तय करने वाले social credit systems हैं

social credit की अवधारणा का विस्तार

• मूल रूप से social credit उद्योग के मुनाफ़े को बांटकर उपभोक्ताओं की क्रय-शक्ति बढ़ाने वाली एक आर्थिक अवधारणा थी
• अब इसका मतलब उन सभी systems से हो गया है जो व्यवहार को ट्रैक और स्कोर करते हैं, और उसी स्कोर के आधार पर service access और social status तय करते हैं

वह वास्तविकता जिसमें हम पहले से जी रहे हैं

• जब भी कोई algorithm विश्वसनीयता, ज़िम्मेदारी, और social value का मूल्यांकन करता है, हम social credit system में भाग ले रहे होते हैं
• यह मूल्यांकन नज़र आए बिना असंख्य platforms पर होता है और असली जीवन के लगभग हर हिस्से पर लागू हो चुका है
• चीन से फ़र्क इतना है कि चीनी सरकार इसे खुलकर समझाती है, जबकि पश्चिम इसे "user experience" के रूप में छिपाता है

चीन का social credit: गलतफहमियां और हक़ीक़त

• पश्चिम में चीन के social credit system को सर्वसत्तावादी निगरानी के रूप में कल्पना किया जाता है, लेकिन 2024 तक वास्तव में कोई nationwide system मौजूद नहीं है
• कई private scoring systems के ख़त्म होने और स्थानीय pilots के बंद हो जाने के बाद, यह अभी मुख्यतः वित्तीय और corporate oversight तक सीमित है
• व्यक्तिगत व्यवहार की scoring pilot cities या सीमित experiments तक ही रही है, और इसकी सीमा व प्रभाव बहुत कम हैं
• वास्तव में जो ट्रैक किया जाता है, वह ज़्यादातर अदालती आदेशों का पालन न करना है, जैसे कर्ज़ या जुर्माना न चुकाना

पश्चिम की हक़ीक़त: बिखरी हुई scoring और जुड़ती infrastructure

• क्रेडिट स्कोर, Uber, Instagram, LinkedIn, Amazon जैसे हर platform के अपने behavioral profiles हैं, और यही service access, opportunities, और social connections तय करते हैं
• कुछ alternative lenders social media profiles तक को credit assessment में इस्तेमाल करते हैं
• payment apps और financial services यूज़र के payment patterns और transaction behavior का विश्लेषण करके और भी व्यापक risk profiles बनाते हैं
• LinkedIn algorithmic visibility और network connectivity का आकलन करता है, और Amazon/Instagram भी behavioral data के इस्तेमाल को लगातार बढ़ा रहे हैं
• ये systems अभी पूरी तरह integrated नहीं हैं, लेकिन इनके आपस में जुड़ने की infrastructure धीरे-धीरे तैयार हो रही है

transparency और नियम

• चीन में, भले ही system बिखरा हुआ हो, evaluation criteria अक्सर सार्वजनिक होते हैं
• पश्चिमी कंपनियों में algorithmic decision criteria पूरी तरह black box के रूप में छिपे रहते हैं

कंपनियां बनाम सरकार: मूल अंतर और वास्तविकता

• platform बदलने की ऊंची switching cost (जैसे Google ecosystem, LinkedIn network)
• हर platform की behavioral/credit जानकारी धीरे-धीरे एक-दूसरे के साथ share, integrate, और collaborate हो रही है, जिससे उसका प्रभाव बढ़ रहा है
• सरकारें भी कानूनी प्रक्रियाओं और data purchase जैसे तरीकों से corporate data का उपयोग कर रही हैं

social credit systems के फैलने की वजह

• अंतरराष्ट्रीय स्तर पर social credit systems fraud prevention, cooperation को बढ़ावा देने, और बड़े पैमाने पर behavior को steer करने की समस्याओं को हल करने के लिए उपयोगी माने जाते हैं
• पश्चिमी समाज भी पहले से ज़्यादा व्यापक और integrated behavioral scoring की दिशा में बढ़ रहे हैं
  • यूरोप digital identity और scoring के linkage को मज़बूत कर रहा है
  • अमेरिका के कुछ शहर behavioral incentives पर प्रयोग कर रहे हैं
  • बड़े platforms reputation data sharing बढ़ा रहे हैं, और financial services social media analysis अपना रही हैं

हमारा भविष्य और हमारे विकल्प

• अगर systems धीरे-धीरे behavioral scores को और transparent तरीके से दिखाने लगें और नियम स्पष्ट हो जाएं, तो यूज़र समझ पाएंगे कि कौन-से व्यवहार उनके स्कोर को प्रभावित करते हैं
• अगर algorithmic recommendations वास्तव में छिपे हुए social credit assessments हैं, तो शायद ऐसा system बेहतर हो जिसमें evaluation criteria खुले हों
• नियम समझ में आ जाएं तो यूज़र तय कर सकते हैं कि वे इस खेल में सक्रिय रूप से हिस्सा लेना चाहते हैं या नहीं

निष्कर्ष

• आगे चलकर चीनी शैली के social credit systems पश्चिमी platforms को प्रभावित कर सकते हैं, और behavioral scoring के नियम व ढांचे अधिक सार्वजनिक होने की दिशा में विकसित हो सकते हैं
• अब समय आ गया है कि हम समझें ये systems कैसे काम करते हैं, और यह भी पहचानें कि हम खुद भी इस खेल के खिलाड़ी हैं

[GN⁺]

Hacker News राय

• यह बताया गया है कि अमेरिकी मीडिया और विमर्श में सत्तावादी व्यवस्थाओं के तहत जीवन को बहुत विकृत रूप में पेश किया जाता है। वास्तव में कई देशों में, जब तक आप किसी अल्पसंख्यक, राजनीतिक कार्यकर्ता, अपराधी या किसी विशेष परिस्थिति में न हों, रोज़मर्रा की ज़िंदगी पश्चिम से बहुत अलग नहीं होती। लेकिन ज़्यादातर लोग यह सुनना नहीं चाहते। क्योंकि वे मानना चाहते हैं कि वे ऐसी ज़िंदगी कभी बर्दाश्त नहीं करेंगे। पश्चिमी देशों में भी सत्तावाद की ओर बढ़त होती रहती है, लेकिन लोग उसे महसूस नहीं कर पाते, इसलिए उसे नकारने की प्रवृत्ति होती है। बेशक, जीवन पूरी तरह एक जैसा नहीं है, लेकिन सत्तावाद का असर उम्मीद से कहीं ज़्यादा चुपचाप भीतर तक घुसता है

  • विभिन्न देशों, यहाँ तक कि युद्ध क्षेत्रों में भी, अलग-अलग राजनीतिक व्यवस्थाओं के तहत जीने के अनुभव साझा किए गए। लेकिन कहा गया कि असल में रोज़मर्रा की ज़िंदगी लगभग हर जगह काफ़ी समान थी। शॉपिंग करना, काम पर जाना, दोस्तों से मिलना, ड्रिंक लेना, बाहर खाना, शादी में शामिल होना—ये जीवन पैटर्न सच में कई जगह लगभग वैसे ही बने रहते हैं। यह भी कहा गया कि पश्चिम में non-OECD और गैर-लोकतांत्रिक देशों का वर्णन अक्सर एक ग़लत श्रेष्ठताबोध पैदा करता है, जबकि वे भी वही समस्याएँ झेलते हैं: संपत्ति का संकेंद्रण, ग़रीबी, सताए गए अल्पसंख्यक, औपचारिक राजनीतिक भागीदारी, ख़तरनाक पुलिस, और भ्रष्टाचार। बेशक, हर देश पूरी तरह एक जैसा नहीं है; राजनीति की तुलना में सांस्कृतिक और भौगोलिक अंतर ज़्यादा उभरकर सामने आते हैं

  • कहा गया कि कुछ समय तक जब आप प्रवासी या नए विदेशी के रूप में रहते हैं, तो स्थानीय वास्तविकता बहुत सामने नहीं आती। लेकिन जैसे-जैसे आप भाषा सीखते हैं और गहराई से देखते हैं, आप अविश्वसनीय पारिवारिक रिश्तों, रिश्वत और अयोग्यता की परतदार संरचनाओं, कानूनी सुरक्षा के अभाव, और बिना उम्मीद वाले वर्ग समाज जैसी समस्याओं से टकराते हैं। शांति के समय भी स्थिति ऐसी ही होती है, और युद्ध शुरू होते ही बहुसंख्यक जातीय समूह अल्पसंख्यकों को सताने और निकाल बाहर करने लगते हैं

  • अल्पकाल में चीज़ें समान लग सकती हैं, लेकिन यह भी बताया गया कि शिक्षित मध्यम-उच्च वर्ग के इतने प्रवासी मूलतः अमेरिका जाना क्यों चाहते थे। अमेरिका की innovation, आर्थिक ताकत और सैन्य शक्ति भी तब चोट खाएँगी जब भ्रष्टाचार व्यापक हो जाएगा, इसलिए भ्रष्टाचार—या सामाजिक भरोसे की समस्या—को कम करना ज़रूरी है

  • भले ही अल्पसंख्यकों, राजनीतिक कार्यकर्ताओं और कानूनी समस्याओं से असंबंधित जीवन समान लगे, लेकिन ठीक इसी वजह से मैं पश्चिमी उदारवादी सरकारों को पसंद करता हूँ। यही आदर्श सत्तावादी सरकारों की आलोचना करने और पश्चिम में उसे बचाने के लिए लड़ने योग्य मूल्य है

  • चीन में रहने के अनुभव के आधार पर कहा गया कि एक सामान्य नागरिक के लिए रोज़मर्रा की ज़िंदगी ज़्यादातर ठीक लगती है। बेशक, एशिया के अन्य हिस्सों की तरह work-life balance की समस्या है, लेकिन यह पुराने रूस (रूसियों द्वारा लिखी गई उन कहानियों) या GDR जैसी अति-नियंत्रित व्यवस्था नहीं थी। यहाँ तक कि फासीवादी व्यवस्था में भी, यदि आप किसी “अलोकप्रिय” अल्पसंख्यक समूह में नहीं हैं और उदासीन हैं, तो रोज़मर्रा की ज़िंदगी शांतिपूर्ण रह सकती है। बस, यह सब युद्ध शुरू होने तक ही चलता है

• कनाडा से California नौकरी बदलने के बाद झेले गए credit system के मुद्दों का ज़िक्र किया गया। ऊँची सैलरी होने के बावजूद credit score न होने से घर ढूँढना मुश्किल था, और इसे 1 साल का किराया अग्रिम देकर हल किया गया। कनाडा से अमेरिका बड़ी रकम ट्रांसफ़र करना भी आसान नहीं था। कार खरीदते समय नया मिला SSN सिस्टम में न होने के कारण पहचान सत्यापित न हो सकी, और dealer ने डील करने से मना कर दिया। लेकिन Amex के लंबे समय के ग्राहक इतिहास को अमेरिका में भी मान्यता मिली, इसलिए high-limit credit card लेना आसान रहा। कहा गया कि हम पहले से ही corporations द्वारा चलाए जा रहे social credit system में जी रहे हैं, और शायद वह उपभोक्ताओं के लिए बेहतर भी हो सकता है

  • माना गया कि credit score का मूल उद्देश्य creditworthiness मापना है, लेकिन वास्तविकता में यह अक्सर मनमाने ढंग से पहुँच रोकने का काम करता है

  • एक अन्य व्यक्ति ने बताया कि 15 साल पहले कनाडा जाने पर उसका अनुभव लगभग यही था। tech industry में काम करने, कोई कर्ज़ न होने और पर्याप्त बचत होने के बावजूद, credit history न होने के कारण लंबे समय तक credit card नहीं मिला, और guarantor के बिना किराए पर घर लेना असंभव था। कई देशों में इसी तरह की चीज़ें देखने के बाद यह समझ आया कि वास्तव में कई समुदाय प्रवासियों के प्रति भेदभावपूर्ण हैं। समतावाद आदर्श हो सकता है, लेकिन व्यवहार में भाई-भतीजावाद और पूर्वाग्रह संस्थाओं में गहराई से घुले हुए हैं

  • credit score पूरी तरह कंपनियों के नियंत्रण में है। इन कंपनियों का business model क्या है, यह समझ ही नहीं आता

  • लगा कि Amex ऐसे मामलों में काफ़ी लचीला रवैया अपनाता है। credit score के बिना भी personal card आसानी से मिल गया, और शायद इसमें यह मददगार रहा कि कंपनी के ज़रिए पहले से Amex जारी हुआ था और उसका उपयोग इतिहास मौजूद था

• बहुत पुराने HN कमेंट का हवाला दिया गया कि “असल ज़िंदगी में भी social credit होता है।” उदाहरण के लिए, अगर आप bartender के साथ बदतमीज़ी करते हैं तो उस बार में आपकी reputation ख़राब हो जाती है, और अगर आप volunteer बनते हैं तो उस संगठन में आपकी प्रतिष्ठा बनती है। algorithm न भी हो, लोग याद रखते हैं

  • चाहें तो आप किसी दिन किसी दूसरे शहर में जाकर नई शुरुआत कर सकते हैं। केंद्रीकृत social credit system की समस्या यह है कि reputation जीवन भर पीछा करती रहती है। यदि किसी गलती से गलत रिकॉर्ड रह जाए, तो राहत पाने का कोई तरीका नहीं होता। व्यक्ति-से-व्यक्ति संबंधों में बात सुलझाई जा सकती है, लेकिन system ऐसा नहीं करता

  • वास्तविक offline दुनिया की reputation यानी social credit आम तौर पर ढीली, स्थानीय और समय के साथ बदलने या मिटने वाली होती है। इसके विपरीत, digital social credit एक automated score बनकर जीवन भर पीछा करता है और पूर्ण परिणाम थोपता है

  • किसी ने कहा कि लोग सोचते हैं bartender ग्राहकों को बहुत अच्छी तरह याद रखते हैं, लेकिन वास्तव में एक शिफ्ट में उससे भी बदतर कई मामले होते हैं और ज़्यादातर पर ध्यान ही नहीं जाता। nonprofit organizations में भी समय के साथ ज़िम्मेदार लोग बदल जाते हैं और पुराने volunteers को याद रखने वाला कोई नहीं रहता। किसी घटना को ज़रूरत से ज़्यादा महत्व देना “spotlight effect” की वजह से होता है

  • offline reputation की एक अलग बात यह है कि सभी संबंध भौतिक स्थानों और मौके पर बनते हैं। interaction में वास्तविक मूल्य होना चाहिए। एक जगह आपकी बुरी reputation बन भी जाए, तो दूसरी जगह जाने पर वह साथ नहीं जाती

  • मूल रूप से reputation हमेशा से social credit जैसी ही एक अवधारणा थी, लेकिन आधुनिक अंतर scale और transparency में है

• चीन और अन्य देशों के record systems का अंतर उदाहरणों से समझाया गया

  • चीन में अगर आपके बारे में कोई record नहीं है, तो यह सकारात्मक माना जाता है
  • दूसरे देशों में record न होना उल्टा नुकसानदेह होता है
  • चीन में record को सुधारा या हटाया जा सकता है
  • दूसरे देशों में record स्थायी होता है
  • चीन में records केंद्रीकृत हैं
  • दूसरे देशों में records बिखरे हुए हैं। हालांकि Meta इस बिखराव की समस्या को “हल” करने की कोशिश कर रहा है

• इस बात पर ज़ोर दिया गया कि यदि एक केंद्रीय सत्ता social credit पर क़ब्ज़ा कर ले, और कानून व्यक्ति को उस सत्ता से बचा न सके, तो यही मूलभूत अंतर है। इसके अलावा, लोग तो हमेशा से एक-दूसरे का मूल्यांकन अलग-अलग तरीकों से करते आए हैं

  • जैसे ही social credit “score” एक केंद्रीय सत्ता के हाथ में आता है, वह साधारण सामाजिक फ़ीडबैक से बदलकर संरचनात्मक शक्ति बन जाता है

  • हाल की चीनी स्थिति को सही तरह समझने की ज़रूरत पर ज़ोर दिया गया। बताया गया कि 2024 तक भी चीन में कोई nationwide personal credit score system मौजूद नहीं है, और ज़्यादातर व्यवस्थाएँ वित्तीय और corporate supervision के औज़ार भर हैं। इसके विपरीत, अमेरिका में 3 निजी credit agencies ने एक credit score system बनाया है जो पूरी तरह वित्तीय ढाँचे में घुला हुआ है, लेकिन यदि कोई public credit score लाया जाए तो कम से कम transparency और accountability संभव हो सकती है। Equifax और Experian जैसी संस्थाओं द्वारा data leak होने पर भी लगभग कोई जवाबदेही न होने की आलोचना की गई

  • बेशक, व्यक्ति हमेशा दूसरों का आकलन करते हैं, लेकिन यदि कंपनियाँ मेरा आकलन करके उसे “service” के रूप में बेचें, तो वह फ़र्क बहुत बड़ा है

  • Amazon का उदाहरण देकर कहा गया कि मेरी खरीद/return ratio किसी तीसरे पक्ष के साथ साझा नहीं की जाती

• “चीन के social credit और phone में अंतर बस इतना है कि चीन साफ़-साफ़ बता देता है कि वह क्या कर रहा है” इस दावे के जवाब में कहा गया कि phone के कई विकल्प होते हैं, और चाहें तो उसका उपयोग ही न करें, लेकिन राज्य की system से पूरी तरह निकल पाना असंभव है। corporate systems के बीच switch करने की लागत ऊँची हो सकती है, लेकिन देशों के बीच स्थानांतरण की लागत की तुलना में बहुत कम है। निजी प्रणालियों के बीच सहयोग बढ़ना भी समस्या हो सकता है, लेकिन वह राज्य के सर्वग्रासी नियंत्रण से मूलतः अलग है। यदि सरकार निजी data खरीदकर मौलिक अधिकारों को सीमित करे, तो वही असली ख़तरा है (जैसे: कनाडा में protest donation accounts freeze होने का मामला), लेकिन मामला सिर्फ data खरीदने तक सीमित नहीं है। अंत में यह भी कहा गया कि social credit की परिभाषा खुद क्या है, इस पर भी मूलभूत विवाद है

  • “कानूनी तौर पर आपको मार डाला जा सकता है” वाले कमेंट के जवाब में कहा गया कि अमेरिकी पुलिस द्वारा निर्दोष नागरिकों को गोली मारने के बाद भी बरी होने के उदाहरण मौजूद हैं, इसलिए अंतर इतना बड़ा नहीं है। और चीन में भी हत्या phone नहीं, पुलिस ही करती है

• “अगर चीन में ज़्यादा शराब खरीदो तो score घट जाता है” जैसी बातों पर, पहले चीन दौरे का एक अनुभव साझा किया गया जिसमें व्यक्ति नाबालिग था लेकिन बिना किसी रोक-टोक के शराब खरीद सका। कहा गया कि यह अमेरिका की तुलना में कहीं ज़्यादा ढीला लगा। साथ ही यह भी लगा कि कानून द्वारा शराब खरीद की मात्रा ट्रैक करने के बजाय नतीजों को पकड़ना—जैसे सार्वजनिक नशे से समस्या होना—ज़्यादा प्रभावी है

  • चीनी पत्नी और परिवार के अनुभव के आधार पर बताया गया कि चीन में नाबालिग शराब पीने को ज़्यादा पारिवारिक समस्या माना जाता है। अगर 16 साल का बच्चा नशे में हो, तो आस-पास के परिवार और दोस्त reputation की ज़्यादा चिंता करते हैं, और पुलिस सबसे अंत में दखल देती है। बल्कि यह भी लगा कि सार्वजनिक जगहों पर शराब से जुड़ी अव्यवस्था चीन में पश्चिम की तुलना में काफ़ी कम है

  • अगर आप पार्टी की तैयारी या discount पर सामान लेने के लिए बहुत शराब खरीदें और हर बार score घट जाए, तो यह अव्यावहारिक होगा। क्योंकि खरीद = तत्काल उपभोग नहीं होता

• इस बात पर ज़ोर दिया गया कि चीन जैसे systems पश्चिम में भी पहले से मौजूद हैं, लेकिन regulation शायद और कम है। social credit कोई नई अवधारणा नहीं है, और यह ज़रूरी नहीं कि हमेशा Orwell-जैसा नियंत्रण ही हो। ऐसे systems का सरकार या corporations द्वारा दुरुपयोग इसलिए होता है क्योंकि हम उन्हें manage, regulate या transparent बनाने की माँग नहीं करते। यह स्वीकार करना कि ऐसे systems पहले से मौजूद हैं, data collection और retention तथा सरकार द्वारा निजी data हासिल करने पर regulation की सामाजिक सहमति बनाने का पहला कदम है। मौजूदा स्थिति सिर्फ पूँजी के हित में है और democracy व नागरिक अधिकारों को नुकसान पहुँचाती है, इसलिए बदलाव ज़रूरी है

• इस दृष्टिकोण से कि credit या reputation systems बाज़ार के प्राकृतिक विकास का परिणाम हैं, Sweden का उदाहरण दिया गया, जहाँ बहुत पहले से “credit check” बहुत आम है। हाल में कंपनियों द्वारा उपभोक्ताओं के लिए credit score विकसित करने और ऐसा मॉडल बनाने का भी उल्लेख किया गया जिसमें व्यक्ति को अपना score देखने के लिए paid subscription लेनी पड़ती है। यह पूरी प्रक्रिया कंपनियों की उस कोशिश के रूप में देखी गई जिसमें वे risk और cost को manage करने तथा अधिक कुशल लेन-देन के लिए उपभोक्ता का मूल्यांकन करना चाहती हैं

  • सभी developed countries credit check करते हैं, लेकिन चीन व्यवहार का मूल्यांकन करता है

• समुदाय में बिना गाली-गलौज या झगड़े के व्यवहार करने के अपने तरीके का कारण भी बताया गया। पहले UseNet के समय trolling और आक्रामक पोस्ट अक्सर लिखे जाते थे, लेकिन वह बहुत नकारात्मक अनुभव था। अब व्यवहार इस आधार पर किया जाता है कि अपनी व्यक्तिगत integrity और समाज के एक उत्पादक सदस्य होने के मानदंड पर खरा उतरना है। यानी दूसरों के आकलन या reputation से ज़्यादा, यह अपने ही लिए महत्वपूर्ण कारणों से किया जाता है