AI से मनाने की लागत घटने पर एलीट आम लोगों की प्राथमिकताओं को कैसे गढ़ सकते हैं?

 (arxiv.org)
2 पॉइंट द्वारा GN⁺ 2025-12-05 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • AI आधारित पर्सुएशन तकनीक के विकसित होने के साथ, एलीटों द्वारा जनता की नीति-सम्बंधी प्राथमिकताओं को सटीक रूप से ढालने की लागत तेजी से कम हो गई है
  • शोध में एलीटों द्वारा बहुमत-नियम की बाधा और पर्सुएशन खर्च को शामिल करते हुए, जनता की राय के वितरण को कैसे पुनर्गठित किया जाता है, इसका डायनैमिक मॉडल के जरिए विश्लेषण किया गया है
  • एकल-एलीट व्यवस्था में, पर्सुएशन तकनीक में सुधार के साथ समाज के चरम ध्रुवीकरण स्थिति की ओर अभिसरण की प्रवृत्ति दिखाई देती है
  • इसके विपरीत, जब परस्पर विरोधी दो एलीट बारी-बारी से सत्ता में आते हैं, पर्सुएशन तकनीक समाज को ‘अर्ध-ताला (semi-lock)’ स्थिति में ले जाकर ध्रुवीकरण को कम कर सकती है
  • कुल मिलाकर, जब AI पर्सुएशन लागत को कम करता है, ध्रुवीकरण स्वाभाविक घटना न होकर शासन की रणनीति का औजार बन जाता है, जिससे लोकतंत्र की स्थिरता पर बड़े असर पड़ते हैं

लोकतंत्र में पर्सुएशन तकनीक का बदलता स्वरूप

  • लोकतंत्र में किसी नीति को लागू करने के लिए जन समर्थन हासिल करना जरूरी होता है, और एलीटों को इसे हासिल करने के लिए जनता की धारणाओं को गढ़ना या बदलना होता है
    • पहले, स्कूल शिक्षा, सार्वजनिक प्रसारण, प्रचार और प्रायोजन नेटवर्क जैसे धीमे और कम-कुशल साधनों पर निर्भर रहना पड़ता था
    • इन तरीकों में उच्च खर्च और कम परिशुद्धता के कारण बड़े पैमाने पर जनमत-मनोनयन कठिन था
  • AI के प्रसार ने इस बाधा की बुनियाद बदल दी है
    • जेनरेटिव मॉडल और एजेंट सिस्टम वास्तविक समय में व्यक्तिगत अनुकूलित पर्सुएशन सामग्री बड़े पैमाने पर बना सकते हैं
    • जब पर्सुएशन की लागत कम होती है, तो जनता की प्राथमिकताओं का वितरण ही एलीट का निर्णय चर (control variable) बन जाता है

एकल एलीट मॉडल: ‘पोलराइज़ेशन पुल (polarization pull)’

  • एकल एलीट प्रत्येक समय-बिंदु पर बहुमत-नियम के तहत नीति लागू करने के लिए जनता का समर्थन समायोजित करता है
    • जब पर्सुएशन खर्च मौजूद हो, एलीट के लिए भविष्य की अनिश्चितता को देखते हुए समाज को कुछ हद तक विभाजित रखना फायदेमंद होता है
    • यदि जनमत 50:50 के करीब रहे, तो अगली बार नीति दिशा बदलने पर भी समर्थन बदलने की लागत न्यूनतम रहती है
  • इसलिए एलीट जनता की राय को सहमति से दूर, यानी चरम की ओर धकेलने की प्रवृत्ति दिखाता है
    • पर्सुएशन तकनीक जितनी बेहतर होती है, इस ध्रुवीकरण अभिसरण की गति उतनी तेज़ होती जाती है
  • गणितीय विश्लेषण के अनुसार, एलीट के लिए जनता की राय को मध्य मान (1/2) के आसपास ले जाना इष्टतम है, और केवल सहमति से दूरी बढ़ाने वाले समायोजन ही होते हैं

दो एलीट प्रतिस्पर्धा मॉडल: ‘अर्ध-ताला (semi-lock)’ प्रभाव

  • जब दो एलीट विपरीत नीति-पसंद रखते हुए बारी-बारी से सत्ता में आते हैं, पर्सुएशन तकनीक का प्रभाव बदल जाता है
    • दोनों पक्ष जनमत को बहुमत थ्रेशहोल्ड के पास बनाए रखना चाहते हैं, लेकिन चरम ध्रुवीकरण से विरोधी के आसानी से छीन लेने का जोखिम बढ़ता है
    • इसलिए हर एलीट की कोशिश रहती है कि जनता की राय को ऐसे मध्य अर्ध-स्थिर अंतराल में ले जाए जिसे दूसरा पक्ष पलट न सके
  • नतीजतन, पर्सुएशन तकनीक माहौल के अनुसार ध्रुवीकरण बढ़ा भी सकती है और घटा भी सकती है
    • जितनी अधिक प्रतिस्पर्धा होगी, उतनी ही सामाजिक एकजुटता बढ़ने की संभावना बनती है

पूर्व शोध से अंतर

  • पहले की साहित्य में ध्रुवीकरण का विश्लेषण आय, पहचान, मीडिया संरचना जैसे बाहरी कारकों के परिणाम के रूप में किया गया था
  • इस शोध में ध्रुवीकरण को एलीट द्वारा रणनीतिक रूप से चुना गया नीति-उपकरण मानकर मॉडल बनाया गया है
  • साथ ही, AI आधारित पर्सुएशन तकनीक के विकास से दीर्घकाल में राजनीतिक संतुलन और राय-वितरण का पुनर्गठन कैसे होता है, इसे जोड़कर समझाया गया है
    • संबंधित शोध के तौर पर LLM आधारित पर्सुएशन प्रयोग (Salvi et al., Schoenegger et al., Tappin आदि) और AI के राजनीतिक अर्थशास्त्र पर प्रभाव (Korinek, 2024) का उल्लेख किया गया है

लोकतंत्र की स्थिरता पर निहितार्थ

  • पर्सुएशन की लागत घटने के साथ, ध्रुवीकरण स्वाभाविक घटना नहीं बल्कि रणनीतिक शासन-उपकरण बन जाता है
  • यह राजनीतिक अस्थिरता और सूचना-हेरफेर के जोखिम को बढ़ा सकता है
  • AI तकनीक की प्रगति जब राजनीतिक पर्सुएशन की संरचना और लागत को पुनर्संगठित करती है, तो लोकतंत्र की सततता के सामने नए चुनौतियाँ खड़ी होती हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-12-05
Hacker News राय

  • Converse के निबंध को पढ़ते हुए यह सवाल उठता है कि क्या आम लोगों की सच में अपनी राय होती भी है
    उदाहरण के लिए टैरिफ के मुद्दे को देखें, तो जनमत सर्वेक्षण में समर्थन लगभग 38% दिखता है, लेकिन उद्योग-वार हितों को देखें तो यह इससे काफी कम होना चाहिए
    खुदरा, सेवा और निर्माण क्षेत्र को टैरिफ से कोई लाभ नहीं मिलता, और विनिर्माण क्षेत्र भी आयातित कच्चे माल पर निर्भरता के कारण स्थिति जटिल है
    अंततः सिर्फ इस्पात और एल्युमिनियम उद्योग ही इसका ज़ोरदार समर्थन करते हैं, और उनका हिस्सा GDP का लगभग 2% है
    दिलचस्प बात यह है कि यह किताब 1964 में प्रकाशित हुई थी और उस समय पर केंद्रित है जब वियतनाम युद्ध और counterculture आंदोलन जैसी सामाजिक असंतुष्टि फूटने ही वाली थी

    • टैरिफ का समर्थन करने वाले लोग सिर्फ भावनाओं से नहीं, बल्कि विनिर्माण की वापसी और राष्ट्रीय सुरक्षा को मज़बूत करने के लिए एक तर्कसंगत निर्णय ले रहे हैं
      इसे विदेशी निर्भरता घटाने और नौकरियाँ बढ़ाने के लिए किए गए cost-benefit analysis का नतीजा माना जा सकता है
    • समस्या यह नहीं है कि आम लोगों को बोलने का अधिकार दिया जाता है, बल्कि यह है कि जानकार लोगों को चुना नहीं जाता
      लोग यह भ्रम पाल लेते हैं कि वे बहुत जानते हैं, और उनकी राय को नीति-निर्माण में बराबरी से माना जाना चाहिए
      पश्चिमी समाजों में एक-दूसरे की राय को चुनौती न देने या जवाबदेह न ठहराने की संस्कृति बढ़ी है, जिससे यह प्रवृत्ति और गंभीर हो गई है

  • लेख की चर्चा AI-विशेष नहीं है
    असली मुद्दा persuasion की cost structure है, और AI का ज़िक्र सिर्फ ऐसे टूल के रूप में है जो प्रचार सामग्री को सस्ता बना देता है
    यही तर्क Facebook targeted ads या रूसी troll farm पर भी लागू हो सकता है

    • लोग LLM के output पर दूसरे मीडिया की तुलना में अधिक भरोसा करने की प्रवृत्ति रखते हैं
      AI बहुत आत्मविश्वास से बोलता है, इसलिए उसमें authority का एहसास होता है
      असली समस्या यह है कि ऐसे संदेशों को नियंत्रित करने की ताकत अत्यंत धनी लोगों के हाथ में होती है
    • AI पुराने साधनों की तुलना में कहीं तेज़ी से थोपी गई एकरूपता (enforced conformity) को मज़बूत कर सकता है
      इस पर अपने विचार मैंने ब्लॉग पोस्ट में लिखे हैं
    • AI मौजूदा तंत्रों को और अधिक शक्तिशाली ढंग से इस्तेमाल करता है
      रूसी troll automation के ज़रिए 10 गुना अधिक content बना सकते हैं, जबकि स्वतःस्फूर्त विरोध आंदोलन उसी अनुपात में नहीं बढ़ पाते
    • persuasion की लागत 2 गुना घटे तो यह मात्रात्मक बदलाव है, लेकिन 100 गुना घटने पर गुणात्मक परिवर्तन होता है
    • AI का वादा यही है कि जिन कामों के लिए पहले मानव श्रम चाहिए था, उन्हें सस्ता बना दे
      इससे अच्छी चीज़ें भी बढ़ेंगी, लेकिन समस्या यह है कि बुरी चीज़ें भी सस्ती हो जाती हैं

  • elite द्वारा जनमत-प्रबंधन अख़बार और प्रसारण के दौर से ही चलता आया है
    पाठ्यपुस्तकें और शिक्षा-पाठ्यक्रम भी इससे अलग नहीं थे
    बल्कि LLM शायद propaganda के प्रति अधिक प्रतिरोधी हो सकते हैं, encyclopedia के बाद सबसे ज़्यादा
    क्योंकि commercial competition मौजूद है, अगर कोई मॉडल बहुत पक्षपाती हो जाए तो उपयोगकर्ता जल्दी समझ जाएंगे और उसे छोड़ देंगे
    ‘objective reporting’ की अवधारणा भी वास्तव में व्यावसायिक विश्वसनीयता हासिल करने की रणनीति से ही निकली थी

  • ‘स्वतंत्र विचारक’ बनना अक्सर ‘अजीब इंसान’ बन जाने जैसा होता है
    भीड़ ग़लत हो सकती है, लेकिन अगर आप अकेले अलग सोचते हैं तो उसकी सामाजिक लागत बड़ी होती है
    उदाहरण के लिए, मुझे लगता है कि bed frame के बिना सिर्फ mattress इस्तेमाल करना अधिक आरामदायक है, लेकिन ज़्यादातर लोग इसे अजीब मानते हैं

    • यह बात याद आती है: “अगर आपके सारे विचार किसी एक राजनीतिक दल की लाइन से मेल खाते हैं, तो शायद आप खुद नहीं सोच रहे”
    • स्वतंत्र रूप से जीना अपने आप में एक इनाम है
      आख़िरकार हम अकेले जन्म लेते हैं और अकेले मरते हैं, दूसरों की स्वीकृति क्षणिक है
    • सिर्फ mattress इस्तेमाल करने पर फ़र्श की ठंडक और नमी की समस्या आती है
      हवा का प्रवाह न हो तो फफूंदी लग सकती है, और बुज़ुर्गों या कमज़ोर लोगों के लिए यह असुविधाजनक हो सकता है
      futon जैसे फ़र्श पर इस्तेमाल के लिए डिज़ाइन किए गए उत्पाद अधिक उपयुक्त हैं

  • पहले से ही बड़े AI models संवेदनशील विषयों पर fine-tuning से गुज़र रहे हैं
    कंपनियों की legal, marketing और governance टीमें जिस दिशा पर सहमत होती हैं, मॉडल उसी ओर ढाले जाते हैं, और लाखों लोग वही नतीजा सीधे इस्तेमाल करते हैं

    • पहले search engine जानकारी को filter करते थे, लेकिन model fine-tuning कहीं अधिक कठिन और अपारदर्शी है

  • मैंने AI की मदद से बैंक से 200 डॉलर वापस लेने में सफलता पाई
    बैंक के PDF दस्तावेज़ों का संदर्भ लेकर AI ने एक औपचारिक अनुरोध-पत्र लिखा
    आगे चलकर अगर बैंक ऐसे अनुरोध AI से process करने लगें, तो AI द्वारा AI को मनाने का युग आ सकता है
    एक नया LLM benchmark: AI-persuasion™ चाहिए

  • machine learning आधारित influence manipulation तो 10 साल पहले से ही मौजूद है
    data mining और ad targeting परिपक्व तकनीकें हैं
    चिंता की बात तात्कालिक persuasion नहीं, बल्कि बचपन से ही विश्वासों को आकार देने वाली संरचनात्मक influence है
    ‘iPad generation’ इसका उदाहरण है, इसलिए यह डरावना लगता है

    • “Grok/Alexa, क्या यह सच है?” जैसे सवाल authority का काम करते हैं
      लोग जो बात सबसे पहले सुनते हैं, उसे सच मान लेते हैं, और बाद में उसका खंडन होने पर भावनात्मक प्रतिक्रिया देते हैं
      बचपन में डाले गए ‘तथ्य’ बाद में बदलना कठिन होता है, और automated systems इसे बड़े पैमाने पर कर सकते हैं
      manipulation की लागत लगभग 0 के करीब पहुँच रही है, इसलिए यह ख़तरनाक है

  • हमारे पास private surveillance society के ख़िलाफ़ कोई सुरक्षा-कवच नहीं है
    असल में जिन चीज़ों को हल करना चाहिए, वे हैं शिक्षा, आवास, भोजन और जीवन-यापन की लागत जैसी रोज़मर्रा की समस्याएँ

    • लेकिन ऐसा दौर द्वितीय विश्वयुद्ध के बाद से वैश्वीकरण से पहले तक का एक छोटा अपवाद था
      मानव इतिहास का अधिकांश हिस्सा कुछ elite द्वारा धन और सत्ता के एकाधिकार वाली सामंती संरचनाओं से भरा है
      आज की असमानता सिस्टम का इरादतन परिणाम है, और आगे यह और बदतर होगी
    • फिर भी मानवता ने कई मायनों में प्रगति की है
      साक्षरता, शिक्षा में भागीदारी और पोषण की स्थिति 1925 की तुलना में बहुत बेहतर हुई है
      लेकिन आवास लागत और जीवन-यापन की लागत पिछले 20 वर्षों में फिर बिगड़ी है
    • समाधान सरल है: डिवाइस बंद करो और खुद सीखने की क्षमता बनाए रखो

  • social media और AI की वजह से ‘Big Lie’ को बार-बार दोहराने की लागत तेज़ी से घट गई है
    इसलिए सरकारें आसानी से ऐसे संदेश फैला सकती हैं, जैसे कि महँगाई घट रही है

    • “लागत घट गई” — क्या इसे propaganda का लोकतंत्रीकरण भी कहा जा सकता है?
    • लेकिन वास्तव में सिर्फ पैसे के दम पर CBS जैसे मीडिया संस्थानों को नियंत्रित नहीं किया जा सकता
      असली ‘Big Lie’ कुछ अंदरूनी लोगों की घुसपैठ से संभव होती है, और CIA इसकी प्रभावशीलता पहले ही दिखा चुकी है

  • लगभग एक सदी पहले George Orwell की 1984 में ही ऐसी स्थिति की भविष्यवाणी की गई थी
    उसमें रिकॉर्ड को real time में बदलने और अतीत को मिटा देने वाले सूचना-नियंत्रण के दुःस्वप्न का चित्रण है
    मूल पाठ देखें

    • अब समय आ गया है कि ऐसी चेतावनियों को AI-केंद्रित समुदायों में भी गंभीरता से सुना जाए