क्या हम खलनायक हैं?

• Hinge के boosts अनुभव को शुरुआती बिंदु बनाते हुए, यह लेख आलोचना करता है कि रोज़मर्रा की services कैसे मनोवैज्ञानिक techniques और algorithms के ज़रिए हर interaction से अधिक value निकालने वाली संरचना बना रही हैं
• tip screen, Uber algorithms, coffee खरीदना, dating, ride-hailing, दोस्तों के बीच payment तक—हर जगह intermediary बीच में आकर users पर धीरे-धीरे और दबाव डालता है
• इस उम्मीद के उलट कि manipulation से थके users को market बचा लेगा, कंपनियां dashboards और AI के जरिए customer lifetime value को और ज्यादा बारीकी से optimize करती हैं
• engagement को maximize न करने पर competition में पिछड़ने वाली Red Queen’s race शुरू हो जाती है, और social capital व value तक Moloch के हाथों खर्च हो जाते हैं
• advertising, price discrimination, big data·machine learning·psychology का इस्तेमाल कर बड़े पैमाने पर manipulation को justify करना मुश्किल है, और यह लेख आधुनिक capitalism को wireheading के करीब मानता है

---

रोज़मर्रा की services value कैसे extract करती हैं

• Hinge join करने के बाद दिखे boosts ही समस्या का शुरुआती बिंदु हैं
• tip screen, Uber algorithms और कई zero-sum interactions ऐसे examples बनते हैं जिनमें psychological techniques के जरिए समाज के हर पल से थोड़ा-थोड़ा अधिक value निकाली जाती है
• coffee खरीदना, dating, ride-hailing, किसी दोस्त को पैसे भेजना जैसी सामान्य social activities में भी middleman आ गया है
  • यह middleman latest AI algorithms के जरिए users से और ज्यादा निचोड़ने की भूमिका निभाता है
• users को लगे कि उनके साथ manipulation हो रहा है, तो market इसे ठीक कर देगा—यह उम्मीद कमजोर है
  • कंपनियां dashboards के जरिए ऐसी reactions को पहले ही समझ लेती हैं
  • AI को adjust करके लोगों को यह कम महसूस कराया जा सकता है कि उनके साथ manipulation हो रहा है
  • लक्ष्य short-term extraction से आगे जाकर customer lifetime value को maximize करना है

competition और reform की संभावना पर संदेह

• competition से बाहर निकलना भी मुश्किल है
  • competing business चलाने के लिए engagement metrics को maximize करना पड़ता है
  • हर metric एक target बन जाता है, और engagement maximize न करने पर engagement खो देने वाली Red Queen’s race बन जाती है
  • हालात यहां तक पहुंचते हैं कि social capital और value भी Moloch को अर्पित हो जाते हैं
• सिर्फ individual choice से इंकार करके इसे हल करना मुश्किल है; यह ज्यादा collective action problem जैसा है
• democratic reform की संभावना पर भी संदेह है
  • सवाल उठाया जाता है कि क्या algorithms अपने ही खत्मे के लिए voting होने देंगे
  • voting और action के अलगाव की तुलना Uber में driver को मिलने वाली रकम और passenger fare के अलग-अलग होने वाली संरचना से की गई है
  • यहां तक कि यह कठोर अभिव्यक्ति भी इस्तेमाल की गई है कि reform नहीं, सिर्फ revolution है
• financial collapse, World War 3, बड़े पैमाने की famine जैसी extreme घटनाओं के बाद भी क्या बड़े पैमाने की manipulation को ठीक माना जा सकता है—यह सवाल पूछा गया है
• advertising, price discrimination, big data·machine learning·psychology का इस्तेमाल कर बड़े पैमाने पर manipulation ठीक नहीं है—यह स्पष्ट रूप से कहा गया है
• आधुनिक capitalism wireheading है, और यह lesson हमें तभी समझ आएगा जब customers की बड़ी संख्या Moloch को खिला दी जाएगी

[GN⁺]

Hacker News की रायें

• कुछ लोगों के लिए ज़्यादा पैसे देकर लाइन में आगे निकल जाना ही मकसद होता है। लेकिन उन्होंने यह अंदाज़ा नहीं लगाया था कि जब हर कोई premium देने लगेगा, तो लाइन फिर से उनके ही सामने बन जाएगी
  ऑस्ट्रेलिया में airline mileage users के साथ कुल मिलाकर यही स्थिति है। पहले entry barrier ऊँचा था, इसलिए benefits मिलते थे, लेकिन FIFO काम ने club status को आम बना दिया, जिससे boarding advantage लगभग खत्म हो गया और points वाली flight tickets भी लगभग नहीं मिलतीं
  इसलिए जब status की चाह और differential pricing की चाह को consumer के खिलाफ weaponize किया जाता है, तो मुझे लगता है कि यह सचमुच anti-social pattern है। Uber उन लोगों को guarantee तक देकर market में आया जो कानून तोड़ने का जोखिम उठा रहे थे, और मुझे यह इसलिए भी नापसंद था कि वह profits लगातार विदेश भेजता रहा; लेकिन taxi service इतनी खराब हो चुकी थी कि अब हम Uber और surge pricing के आदी हो गए हैं
  ऑस्ट्रेलिया में PayWave और food service में tip feature का आना भी सबको कुछ अटपटा लगता है। यह ऑस्ट्रेलियाई ढंग का नहीं है। statutory minimum wage और penalty rates मौजूद हैं, इसलिए वह feature बंद होना चाहिए
  यूरोप में flight tickets में baggage शामिल करना अनिवार्य करने की कोशिशों का भी काफी मज़ाक उड़ाया जा रहा है; अब भी कुछ सच्चे believers हैं जो साफ़ underwear की ज़रूरत को कमजोरी मानते हैं

  • मुझे लगता है कि गैर-अमेरिकियों को tip culture के फैलाव का विरोध करना चाहिए। हर तरह की tip से इनकार करना चाहिए
    पता है कि staff कम वेतन पर है, लेकिन अगर आप tip देना शुरू करते हैं, तो wages और नीचे जाएंगी और सबके लिए हालात खराब होते जाएंगे—यह slippery slope है
  • Uber और Lyft महंगे हैं, लेकिन अगर आपको पुराने taxi heyday की ठीक से याद है, तो यह कहना मुश्किल है कि वे जिस चीज़ की जगह आए, उससे भी बदतर हैं। NYC जैसे बड़े शहरों में taxi आसानी से मिल जाती थी, लेकिन बाकी जगहों पर phone book से मिली किसी संदिग्ध company पर निर्भर रहना पड़ता था, और car आएगी इसकी भी कोई guarantee नहीं होती थी
    अब कहीं से भी तुलनात्मक रूप से जल्दी car बुला सकते हैं। drivers या passengers के खिलाफ predatory business practices गंभीर हैं और उन्हें ज़्यादा मजबूत regulation की जरूरत है, लेकिन मैं पुराने तरीके पर वापस नहीं जाना चाहता
  • EU की low-cost airlines, खासकर Ryanair या EasyJet में अब priority boarding line में लगभग हर कोई खड़ा होता है और कई बार सामान्य line में बस मैं अकेला होता हूं। पहले ज़्यादा पैसे देने पर आप पहले चढ़ते थे, लेकिन अब सामान्य line में होने पर भी मैं अक्सर priority boarding line के 2/3 लोगों से पहले अंदर चला जाता हूं, जो अजीब है
    यहां Uber surge भी कुछ मिनटों में 40→50→38 euros जैसा काफी हिलता है, इसलिए app को थोड़ी देर देखते रहो और अच्छे price पर book कर लो। Taxi लगभग हमेशा दोगुनी, और airport पर तीन गुनी तक महंगी होती है; कई बार rude भी होती है, और rating भी नहीं दे सकते, इसलिए मैं कम ही लेता हूं
    हाल में taxi ली थी: airport तक 10 मिनट का रास्ता था, Uber 15 euros दिखा रहा था, और असली taxi driver ने कहा बस 15 euros दे दो, तो मैं बैठ गया। लेकिन उसी car में बाद में बैठे दूसरे passenger से उसने 72 euros लिए। यानी 10 मिनट की ride से लगभग 90 euros कमा लिए
    Uber को नापसंद करके इस्तेमाल न करना, बदले में मिलने वाली चीज़ की तुलना में जिंदगी को बहुत असुविधाजनक बना देता है। Taxi industry को झटका चाहिए था और लगता है अब भी उसने कुछ नहीं सीखा। पहले से booking करनी पड़ती है, app खराब है और यह बहुत महंगी है। 2 या उससे ज्यादा लोग हों तो कई बार train से भी सस्ती पड़ती है, जो उस देश में काफी अजीब बात है जहां “जहां हो सके train लेनी चाहिए” कहा जाता है
  • अगर कोई market purist हो, तो शायद कहेगा कि इसका मतलब बस इतना है कि product की कीमत गलत लगाई गई है। असली ticket price premium जोड़कर होना चाहिए, और ticket price तथा line skip करने की price दोनों बढ़ाई जानी चाहिए—कुछ ऐसा
  • अगर परवाह न करें और बस यह मान लें कि मैं line के सबसे पीछे हूं, तो एक तरह की आज़ादी मिलती है। premium न देकर lobby में आराम करो, और जब पैसे देने वाले लोग line में इंतज़ार करने के बाद लगभग निकल जाएं, तब मेरी बारी आती है

• manipulative होने पर इंसानों की पुरानी प्रतिक्रिया, यानी opt-out, को कम करके नहीं आंकना चाहिए
  यह theory नहीं है, अभी हो रहा है। digital detox का चलन, युवाओं में feature phone की वापसी, public feeds से private DMs की ओर जाना, “Do Not Disturb” generation—ये सब एक ही phenomenon हैं। लोग manipulation महसूस कर रहे हैं और एक-एक notification बंद करके बाहर निकल रहे हैं

  • वह opt-out metric भी valuable है, इसलिए अब उसे मुफ्त में नहीं दूंगा। जानबूझकर random तरीके से participate और opt out कर सकता हूं, ताकि किसी को पता न चले कि क्या काम करता है
    digital detox और feature phone revival भी अब market बन चुके हैं, बस “lifestyle” हैं। लोग manipulation महसूस नहीं करते। manipulation awareness तक market बन चुकी है, और निश्चित ही कुछ YouTubers होंगे जो इससे खूब चल रहे होंगे
    दिलचस्प सवाल यह है कि profiling algorithms को किस हद तक बेवकूफ बनाया जा सकता है। क्या उन्हें यह believe कराया जा सकता है कि मैं कुछ और हूं, और उन्हें कितना खराब किया जा सकता है—यह ज़्यादा महत्वपूर्ण है
  • capitalism से opt out नहीं कर सकते। ऐसी तरकीबें झुंड की सबसे धीमी हिरन न बनने में मदद कर सकती हैं, लेकिन इसका मतलब यह नहीं कि आप exploitation से पूरी तरह मुक्त हैं
  • आखिरकार वे पकड़ में मुश्किल opt-out dollars को target करेंगे
    watch?v=9h9wStdPkQY के link का सिरा मैंने भाषा और content की वजह से हटा दिया है, लेकिन आपको पता होगा क्या करना है, और शायद यह भी कि वीडियो किसका है
  • 2012 से ही मैं social media और apps से बाहर निकल चुका हूं, जो जिंदगी की छोटी-छोटी चीज़ों तक को commodify और monetize करते हैं
  • “opt-out” “परवाह बंद करना” जैसा नहीं है, और मुझे चिंता है कि क्या यह अच्छी मानवीय प्रतिक्रिया भी है
    “परवाह बंद करना” individual level पर काम करता है, लेकिन opt-out शायद collective level पर काम करना चाहिए। मैं social science expert नहीं हूं, लेकिन मुझे लगता है कि opt-out अगर positive change तक पहुंचना है, तो उसे broken windows theory के साथ जुड़ना होगा। समस्या यह है कि बहुत लोग पहले से ही उस opt-out stage में हैं
    सभी के लिए अप्रिय माहौल में environment साथ-साथ गिरता है, लेकिन induced collective change नहीं होता। feature phones और digital detox exceptions जैसे हैं; असल में acceptable standards व्यवस्थित रूप से नीचे जा रहे हैं। उससे भी बुरा यह है कि यह equality और inclusion के नाम पर हो रहा है, जबकि groups के बीच imbalance और बढ़ रहा है
    Occupy Wall Street और Arab Spring के बाद “परवाह न करना” trend बन गया। यह corporate marketing जैसे self-optimization, growth hacking और data-driven lifestyle के contrast में था; 80s–90s के economic boom की nostalgia से hyper/super/über जैसे morphemes भी फिर लौटे, और neoliberal free-market accelerationism तथा Bitcoin भी इसी flow में fit हो गए
    “परवाह न करना” एक critique था उस existing system की, जो citizens की individuality पर जोर देने के लिए attention छीनता था; लेकिन politicians और corporate operators ने इसे अपनी मौजूदा भूमिका की जिम्मेदारियों से ज्यादा अपने career पर ध्यान देने के रूप में गलत समझ लिया। लगातार ज्यादा connected होती दुनिया में वे भी अब “परवाह” नहीं करने लगे
    https://en.wikipedia.org/wiki/Broken_windows_theory
    https://en.wikipedia.org/wiki/The_Subtle_Art_of_Not_Giving_a...

• सरकार जन्म के समय हर व्यक्ति के लिए 1,000 डॉलर का S&P 500 अकाउंट खोल दे तो वह Social Security की फंडिंग बन सकता है—यह विचार एक अच्छा बिंदु है। आखिरकार वह पैसा सबसे बड़ी कंपनियों और उन कंपनियों में सुनिश्चित inflow बन जाता है जिन्हें माना जाता है कि वे कभी बड़ी होंगी, और सार्वजनिक नकदी को निजी कंपनियों में पुनर्वितरित करने का यह एक और तरीका है
  इसी तरह, बेसिक इनकम एक गैर-गतिशील अर्थव्यवस्था का सबूत लगती है। यह असल में इस बात की स्वीकृति और मान्यता है कि “आप शायद अपने और अपने परिवार का भरण-पोषण करने वाली सम्मानजनक नौकरी नहीं खोज पाएंगे, इसलिए सरकार जब तक मौजूद है, आपको आराम से रहने के लिए पैसा देगी”

  • मुझे नहीं लगता कि बहुत लोग उस तरह की बेसिक इनकम का समर्थन करते हैं। मेरे हिसाब से बेसिक इनकम न्यूनतम जीवन-यापन की गारंटी है, और उससे अधिक कमाने पर जीवन-यापन की गारंटी घटनी नहीं चाहिए
    मुझे लगता है कि लोकतांत्रिक market economy में बेसिक इनकम जैसी किसी चीज़ की ज़रूरत होती है, और Scandinavian देश इस तर्क को समर्थन देते हैं
  • S&P 500 में निवेश किसी भी समय सबसे बड़ी कंपनियों में allocation होता है
    ETF को rebalance करना पड़ता है, इसलिए वह कुछ stocks बढ़ाता-घटाता है और कभी-कभी हटाता भी है। SPY खरीदने पर आपको सिर्फ मौजूदा शामिल कंपनियों ही नहीं, बल्कि भविष्य में शामिल होने वाली कंपनियों का भी exposure मिलता है
    जब कोई कंपनी index से बाहर हो जाती है, तो ETF के यांत्रिक रूप से चलने के कारण उसका share price काफी गिर सकता है। “काफी” सापेक्ष है, लेकिन पिछले हफ्ते PLTR के Russell 2000 से निकलने के बाद उसका अच्छा-खासा गिरना एक उदाहरण है
  • यह इस बात का सबूत है कि अमेरिका inflation exporter है। बेसिक इनकम वैश्विक स्तर की strategic inflation से मुकाबला नहीं कर सकती
  • S&P 500 कंपनियों को केवल इसलिए cash inflow नहीं मिलता कि उनके shares खरीदे जा रहे हैं

• George के गैर-तकनीकी लेख आम तौर पर प्रेरणाहीन लगते हैं, इसलिए मैं उनसे बचता हूं, लेकिन इस बार लेख सच में समझ में आता है
  बेशक, वह शायद उन लोगों के साथ अपने रिश्तों पर आत्मचिंतन तक नहीं पहुंचेगा जिनकी वह आम तौर पर तारीफ करता है और जिनके साथ उठता-बैठता है, लेकिन कम-से-कम दूसरे लोग शायद अपने भीतर झांक सकें और अलग तरह से व्यवहार कर सकें
  कुछ बदलना ही होगा। HN पर भी पिछले कुछ वर्षों में ऐसी भावना बढ़ी लगती है। हो सकता है मैं इसे बेहतर देखने लगा हूं, लेकिन समस्या शायद Grape के अस्तित्व मात्र से ज्यादा इस बात में हो कि वह आया कहां से

  • शीर्षक “Are we the baddies?” रखा था, तो लगा था कि वह इस सब में अपनी भूमिका पर थोड़ा भी विचार करेगा, लेकिन उसने ऐसा नहीं किया
  • कुछ हिस्सा बस trend के पीछे भागने जैसा लगता है। आत्मचिंतन का तरीका “dashboard पर phone camera लगाकर self-driving car बना लेते हैं” वाले approach जैसा पढ़ता है
  • geohot वही व्यक्ति है जिसने Advent of Code leaderboard पर आने के लिए LLM इस्तेमाल किया था
  • यह link बस यहां छोड़ रहा हूं: https://x.com/ns123abc/status/1940980667455836578

• लेखक को अपने product से शुरुआत करनी चाहिए। वह product कम-से-कम हर 14 दिन में internet से connect न किया जाए तो काम करना बंद कर देता है
  https://github.com/commaai/openpilot/blob/a8ec08e5bbc2be0a32...

  • Musk के acquisition के बाद Twitter ultimate propaganda recommendation algorithm बन गया, और यह भी तथ्य है कि उन्होंने वहां काम करने के लिए volunteer किया था
    https://www.theverge.com/2022/12/20/23519922/george-hotz-geo...
  • सही है, आखिर यह niche product ही तो उन समस्याओं का structural source है जिनकी वह बात कर रहा था

• मैंने शुरुआती browsers और आधुनिक internet infrastructure पर काम किया, और आज के internet को संभव बनाने वाली hyperscale cloud infrastructure बनाने में भी भाग लिया। जो कुछ हो रहा है, उसमें से काफी में मेरा हाथ था, और मुझे ईमानदारी से लगता था कि मैं कुछ बेहतर बना रहा हूं
  फिर product manager की भूमिका आई, और मैंने अपने किए हुए हर काम पर पछताना शुरू कर दिया

  • क्या आप थोड़ा और समझा सकते हैं, जानना चाहूंगा
    मैंने लंबे समय तक एक छोटा business चलाया और एक चलने लायक company बनाई, फिर बाद में लालच में आकर एक काफी बड़ी tech company में product manager के रूप में काम किया। यह बेहतरीन products बनाने के बारे में मेरी समझ से बहुत दूर था, लेकिन छोटी company में “सब कुछ” करते हुए जो तरीका सीखा था, उससे काम आगे बढ़ाने के लिए यह बहुत अच्छी तरह फिट था। उपलब्धियां बहुत थीं, लेकिन लगभग लगातार burnout और anxiety से जूझता रहा
    मैंने बहुत लोकप्रिय cloud और open-source software में भी योगदान दिया, लेकिन ज्यादातर चीजें नापसंद थीं। खासकर product management और product-management industrial complex का वह तरीका पसंद नहीं था जिसमें वह भूमिका को वास्तविकता से अलग कर देता है, फिर भी founders, C-level और पुरानी पीढ़ी की बेवकूफियां ठीक करने की मांग करता है। Miro boards और अंतहीन GDocs comment threads से भी थक गया था
    इसलिए मैंने बड़ी compensation तक छोड़ दी और product organization से निकलकर फिर से बनाने के काम में लौट आया
    मैं असहमत नहीं हूं; बस product manager की भूमिका के उदय पर आपका निजी अनुभव और सुनना चाहता हूं। हालांकि मुझे यह भी लगता है कि केवल PMs और PM-centric culture को दोष नहीं दिया जा सकता। अब तक मैं ऐसी leadership team से नहीं मिला हूं जो सम्मान करने लायक या संभालने योग्य व्यवहार और फैसले करती हो, और जाहिर है, समस्या मेरे होने की संभावना भी बड़ी है

• शीर्षक British show That Mitchell and Webb Look के एक sketch से आया है: https://www.youtube.com/watch?v=h242eDB84zY

  • अगर आपने यह show नहीं देखा है, तो यह वाकई शानदार है। बहुत चतुर satire है
    Dr Death भी modern tech पर बिल्कुल फिट बैठने वाली व्याख्या है
    https://m.youtube.com/watch?v=Skl71urqKu0
  • classic है: https://www.youtube.com/watch?v=s_4J4uor3JE
  • यह काफी दुखद है, लेकिन साथ ही मजेदार भी:
    https://www.youtube.com/watch?v=uRbj1Q4tXNo

• बाहर जाइए और लोगों से बात कीजिए। Dating apps के इर्द-गिर्द कोई moat नहीं है, और इंसान अब भी वास्तविक जगहों में मौजूद हैं
  मैंने अभी तक कोई dating app contract नहीं देखा जो अजनबियों के casually approach करने पर रोक लगाता हो। matchmakers भी अब भी मौजूद हैं

  • ऐसा नहीं कर सकते। 90s की तरह किसी अनजान शहर के व्यक्ति से casual “hello” कह दिया, तो अच्छे-से-अच्छे में भी TikTok पर creepy इंसान का ठप्पा लगने की अच्छी संभावना है
  • अफसोस, ऐसी चीजें सिर्फ high-trust वाले छोटे कस्बों में ही संभव हैं

• ऐसी पोस्ट एक तरह के demographic heatmap के रूप में दिलचस्प लगती है। क्योंकि पहले geohot की hacking की तरह सिर्फ़ अपनी रुचियों के पीछे भागने वाला व्यक्ति अब समस्या को पहचान रहा है और इतना प्रेरित हुआ है कि इस पर लिख सके
  मेरी नज़र में geohot उस map के ठीक बीच में काफ़ी अंदर तक आ चुका है

  • सामाजिक समस्याओं की ओर distributed तरीके से इशारा कर पाना अच्छी बात है। Trevor Noah या कुल मिलाकर social media को देखें तो यह साफ़ दिखता है कि आज हमारे समाज को community की सख़्त ज़रूरत है
    हमें आधुनिक दौर के गांव की ज़रूरत है। हर फैसला सिर्फ़ individualistic और self-centered तरीके से न लें, बल्कि एक-दूसरे की मांगों और ज़रूरतों के हिसाब से ढलें। भले ही पता हो कि माता-पिता ग़लत हैं, कभी-कभी अपनी बात मनवाने पर ज़ोर न देना भी ज़रूरी हो सकता है। पूरी तरह बिखरकर transactional अस्तित्व बनने के बजाय, अब interdependent समाज को पोषित करने का समय है
  • George Hotz से radical anti-capitalism जैसा कुछ सुनने की उम्मीद नहीं थी
    हालांकि इस लेख में Hotz ने जो भावनाएं व्यक्त की हैं, वैसी ही भावनाएं मैं भी महसूस करता रहा हूं, और यह बात कहने के लिए मैं उनकी सराहना करता हूं

• जवाब “हां” है, और यह कितना बुरा है इसका जवाब है वाकई बहुत बुरा। इंसानों ने पहले कभी नहीं समझा कि जन्मजात सहयोग कितना अनिवार्य है, और कितना नाज़ुक भी
  अगर चींटियों की colony से pheromone trails इस्तेमाल करने की क्षमता हटा दी जाए तो क्या होगा
  अगर चींटियों की colony के pheromone trails का इस्तेमाल करके कुछ चींटियों को दूसरी चींटियों की कीमत पर “लाभ” कमाने दिया जाए तो क्या होगा
  चींटियों में self-awareness बहुत कम हो सकती है, लेकिन अगर उसमें consciousness भी जोड़ दी जाए और उन्हें बता दिया जाए कि उनके साथ manipulation हो रहा है, फिर ऊपर के दोनों experiments दोहराए जाएं तो क्या होगा
  इंसानों द्वारा इस्तेमाल किए जाने वाले complex adaptive systems को समझने का अच्छा तरीका है खुद ऐसा system बनाकर देखना। John Holland की “Hidden Order” उस तरीके के बारे में संकेत देती है