विज्ञापन बेचने के लिए हम नरक बना रहे हैं [वीडियो]

• AI का ख़तरा रोबोट नहीं, बल्कि सत्ता में बैठे लोग AI का इस्तेमाल कैसे करते हैं इस पर चिंता है
• डिजिटल विज्ञापन और persuasion structure इस दिशा में विकसित हो रहे हैं कि वे हर उपयोगकर्ता की कमजोरियों को पहचानकर उन्हें नियंत्रित कर सकें
• machine learning algorithms ऐसे तरीकों से मानव व्यवहार का अनुमान लगाते और उसे दिशा देते हैं जिन्हें हम पूरी तरह समझ नहीं सकते
• डेटा संग्रह और algorithmic manipulation का उपयोग राजनीति और सामाजिक प्रभाव डालने में किया जा रहा है
• हमें डिजिटल सिस्टम की संरचना को पारदर्शी रूप से फिर से डिज़ाइन करना होगा और तकनीक को मानव मूल्यों की रक्षा करने वाली दिशा में आगे बढ़ाना होगा

---

AI और सत्ता: वास्तविक खतरे

• AI को लेकर असली डर Terminator जैसे रोबोट नहीं, बल्कि सत्ता रखने वालों द्वारा AI को मोड़कर इंसानों को नियंत्रित करना है
• George Orwell की "1984" की तरह निगरानी प्रणाली वास्तविकता बन सकती है
• कंपनियां ऐसी तकनीक विकसित कर रही हैं जो व्यक्तिगत स्वतंत्रता और गरिमा का उल्लंघन कर सकती हैं
• Facebook, Google, Amazon, Alibaba, Tencent जैसी कंपनियां विज्ञापनों के ज़रिए डेटा संग्रह और विश्लेषण पर केंद्रित हैं

डिजिटल विज्ञापन और persuasion structure का विकास

• पारंपरिक विज्ञापन सीमित भौतिक स्थान और targeting पर निर्भर थे, लेकिन डिजिटल दुनिया में हर व्यक्ति के लिए customized persuasion संभव है
• इंटरनेट विज्ञापन इस आधार पर लगातार पीछा करने वाले customized ads बनाते हैं कि हमने क्या देखा, क्या खोजा और किस बारे में बात की
• भौतिक दुनिया के विपरीत, डिजिटल स्पेस अरबों की संख्या में real-time persuasion structures चला सकता है

machine learning algorithms की ताकत और सीमाएं

• machine learning algorithms का उपयोग बड़े पैमाने के डेटा के ज़रिए व्यक्तियों के व्यवहार का अनुमान लगाने और उसे प्रभावित करने में होता है
• खुद programmers भी algorithm के भीतर क्या हो रहा है, इसे पूरी तरह नहीं समझते
• जितना अधिक डेटा होगा, algorithm उतना अधिक शक्तिशाली होगा; इसलिए कंपनियां जितना संभव हो उतना डेटा इकट्ठा करना चाहती हैं

सोशल मीडिया और राजनीतिक हेरफेर

• Facebook और YouTube algorithm के ज़रिए राजनीतिक रुझान का विश्लेषण और उस पर प्रभाव डाल सकते हैं
• उदाहरण के लिए, Facebook private message boards का उपयोग करके केवल खास जनसमूहों को जानकारी दिखा सकता है
• एक साधारण पोस्ट से भी लाखों लोगों के मतदान व्यवहार को बदलने के मामले मौजूद हैं
• YouTube recommendation algorithm उपयोगकर्ताओं को चरमपंथी सामग्री की ओर खींचने वाला "rabbit hole" effect पैदा करता है

डिजिटल सिस्टम के पुनःडिज़ाइन की आवश्यकता

• हम अभी ऐसी स्थिति में हैं जहाँ हमें यह नहीं पता कि हम कौन-सी जानकारी देख रहे हैं और दूसरे लोग क्या देख रहे हैं
• algorithm जातीयता, राजनीतिक रुझान, यौन अभिविन्यास जैसी व्यक्तिगत विशेषताओं का पता लगा सकते हैं
• चीन facial recognition technology का उपयोग करके निगरानी तंत्र को मज़बूत कर रहा है, और पश्चिम भी ऐसे ही खतरे का सामना कर रहा है
• डिजिटल तकनीक को मानवीय मूल्यों के आधार पर फिर से बनाना और पारदर्शिता सुनिश्चित करना होगा
• इसके लिए तकनीक, रचनात्मकता और राजनीतिक संरचना तक में व्यापक बदलाव की मांग है

निष्कर्ष: डिजिटल तकनीक के साथ बढ़ती ज़िम्मेदारी

• डिजिटल प्लेटफ़ॉर्म मूल्यवान उपकरण हैं, लेकिन साथ ही व्यक्ति और समाज के लिए गंभीर खतरा भी बन सकते हैं
• मौजूदा सिस्टम ऐसा ढांचा है जिसमें हम "उत्पाद" की तरह व्यापार का हिस्सा बन जाते हैं
• बेहतर भविष्य के लिए तकनीक की पारदर्शिता, मानव-केंद्रित मूल्य, और रचनात्मक तथा राजनीतिक बदलाव आवश्यक हैं
• हमें यह समझना होगा कि "असीम संभावनाओं वाली तकनीक, असीम जोखिम भी साथ लाती है"

[GN⁺]

Hacker News राय

• लगता है कि इंटरनेट के ज़्यादातर विज्ञापन खोखले और भ्रामक हैं

  • अगर विज्ञापन ऊपर बताए गए जैसे न हों, तो ठीक है
  • क्योंकि algorithm यह नहीं जानता कि कौन-सा विज्ञापन दिखाए, इसलिए Ublock Origin इस्तेमाल करता हूँ
  • लगता है कि विज्ञापन paid promotion के बजाय ऐसे अच्छे विज्ञापन बनने चाहिए जिन्हें लोग सच में देखना चाहें
  • Splendor Song Chalta rahe जैसे ad music अच्छे लगते हैं, इसलिए उन्हें सुनता रहता हूँ
  • लगता है कि ज़्यादातर विज्ञापन अमीर बनने के तरीके बेचने वाली ठगी हैं
  • ऐसे ठगी वाले course बेचने वालों से नफ़रत है, और लगता है कि विज्ञापन अर्थव्यवस्था ठगों के इर्द-गिर्द चलती है
  • लगता है कि यह privacy nightmare और dystopia बना रहा है
  • विज्ञापन बंद करके सेवा इस्तेमाल करना चाहता हूँ
  • business customers की बजाय आम customers से बड़ी कमाई की उम्मीद नहीं है
  • open source के प्रति नैतिक ज़िम्मेदारी महसूस होती है, लेकिन इस बात को लेकर दुविधा है कि business खुद self-host कर सकते हैं
  • system पैसे से चलाया जाता है, और जब पैसे की कमी होती है तो नैतिकता के नज़रअंदाज़ होने की संभावना बहुत ज़्यादा होती है
  • competition बहुत ज़्यादा है, और ideas में भी बड़ा फ़र्क नहीं है, इसलिए विज्ञापन आज़माता हूँ

• विज्ञापनों से बचने के लिए Safari में AdBlock Pro और AdBlock इस्तेमाल कर रहा हूँ

  • YouTube पर बहुत समय बिताता हूँ, इसलिए Premium subscription लिया है और recommendations छिपाने के लिए UnTrap for YouTube extension खरीदा है
  • BlueSky, Hacker News, YouTube पर अक्सर जाता हूँ, लेकिन X, TikTok, Instagram, Facebook इस्तेमाल नहीं करता
  • Amazon का इस्तेमाल न करने की कोशिश कर रहा हूँ

• आय असमानता के बारे में बहुत शिकायत की है, लेकिन इससे बहुत-सी बातें समझ में आती हैं

  • लोगों के पास services पर खर्च करने की क्षमता नहीं है, इसलिए ध्यान खींचकर पैसे कमाने का तरीका अपनाया जाता है
  • क्योंकि product मुफ़्त है, इसलिए user support को लेकर कोई अपेक्षा नहीं होती

• cookies स्वीकार करता हूँ, विज्ञापन देखता हूँ, newsletter popup बंद करता हूँ, और विज्ञापन पर वीडियो देखता हूँ

  • इसने सच में बिल्कुल सही बात पकड़ी है

• Reddit का telemetry implementation बहुत आक्रामक है

  • events इकट्ठा करने वाले endpoint हर बार page load होने पर random तरीके से बदल जाते हैं
  • सभी event collection URLs दूसरे उपयोगों के लिए valid API endpoints हैं
  • आम ad blocking tools से इन्हें block करना मुश्किल है
  • यह दुर्भावनापूर्ण लगता है

• ad blocker के मौजूद होने की बात करने वाली टिप्पणियाँ बहुत हैं, लेकिन वे मुद्दे को चूक रही हैं

  • ad-based internet economy का नुकसान सिर्फ विज्ञापन देखने तक सीमित नहीं है
  • इंटरनेट की पूरी content और structure इसी अर्थव्यवस्था के हिसाब से विकृत हो जाती है
  • search engines, SEO, content discovery mechanisms, और content के प्रकार व विविधता सब बेहतर हो सकते थे

• सोचता हूँ कि क्या ऐसा हमला शुरू किया जा सकता है जिसमें विज्ञापन देखने वाले इंसानों को spoof करके ad metrics को बेकार बना दिया जाए