- Hinge, Uber जैसे प्रमुख ऐप्स में उन्नत algorithms और मनोवैज्ञानिक तकनीकें इस तरह काम करती हैं कि उपयोगकर्ताओं से अधिकतम लाभ निकाला जा सके
- समाज की रोज़मर्रा की हर तरह की बातचीत में AI-आधारित मध्यस्थ शामिल होकर अतिरिक्त मुनाफ़ा निकालने की संरचना बनाते हैं
- कंपनियाँ Lifetime Customer Value को अधिकतम करने के लिए उपयोगकर्ता की प्रतिक्रिया के अनुसार algorithms को तेज़ी से समायोजित करती हैं
- प्रतिस्पर्धा में पीछे न रहने के लिए इस रुझान के साथ चलना पड़ता है, इसलिए इसे सामूहिक समस्या माना जा सकता है
- डेटा, machine learning और मनोवैज्ञानिक तकनीकों के सहारे बड़े पैमाने पर हेरफेर सामान्य हो चुका है, इसलिए बुनियादी बदलाव के बिना सुधार मुश्किल है
समस्या की रूपरेखा: algorithms और मनोवैज्ञानिक तकनीकों का सामान्यीकरण
- Hinge, Uber जैसी प्रमुख सेवाएँ boost, tip screen, sales algorithms जैसे अलग-अलग साधनों से उपयोगकर्ताओं से अधिकतम लाभ लेने वाली संरचना पर चलती हैं
- रोज़मर्रा की ज़िंदगी के लगभग हर क्षेत्र में मध्यस्थ AI दखल देता है, और उन्नत AI algorithms के ज़रिए "थोड़ा और" निकालने का तरीका पूरे समाज में फैल रहा है
- कॉफी खरीदना, डेट पर जाना, या दोस्त को पैसे भेजना जैसी रोज़मर्रा की गतिविधियों में दुर्भावनापूर्ण मध्यस्थ स्वचालित होकर मुनाफ़ा कमाने लगते हैं
बाज़ार की आत्म-सुधार क्षमता और algorithms का अनुकूलन
- बहुत से लोगों को लग सकता है कि वे इस हेरफेर से थककर खुद इससे बचने लगेंगे, लेकिन कंपनियाँ पहले से इसका अनुमान लगाकर data dashboards के माध्यम से तुरंत प्रतिक्रिया देती हैं
- AI इस तरह काम करता है कि उपयोगकर्ता असहज महसूस करने से पहले ही भावनात्मक नियंत्रण और अतिरिक्त इनाम देकर उन्हें प्लेटफ़ॉर्म से दूर जाने से रोका जाए
प्रतिस्पर्धा और सामूहिक कार्रवाई की समस्या
- कोई इस सिस्टम से बाहर निकलना भी चाहे, तो प्रतिस्पर्धी माहौल में जब तक सभी कारोबार इसमें शामिल न हों, बाहर रहना नुकसानदेह होता जाता है
- हर metric प्रतिस्पर्धा का विषय बन जाता है, और ‘Red Queen’s Race’ की तरह पीछे न छूटने के लिए सामाजिक पूंजी और मूल्यों तक की क़ुर्बानी देनी पड़ती है
वास्तविक सामाजिक संरचना और बदलाव की कठिनाई
- पूरा समाज इस ढाँचे में फँस चुका है, इसलिए केवल किसी व्यक्ति के बाहर निकल जाने से बुनियादी बदलाव लाना मुश्किल है; यहाँ एक सामूहिक कार्रवाई की समस्या मौजूद है
- algorithm-चालित लोकतंत्र में विकल्प (voting) भी वास्तविक बदलाव से कटा हुआ है, और यह संकेत मिलता है कि मौजूदा ढाँचे के भीतर सुधार नहीं बल्कि मूलभूत परिवर्तन (क्रांति) ही व्यावहारिक समाधान हो सकता है
निष्कर्ष और समस्या का मूल
- विज्ञापन, price discrimination, और बड़े पैमाने पर data-आधारित हेरफेर—ये सब मूल रूप से सही नहीं हैं
- आधुनिक पूँजीवाद 'wireheading' जैसी स्थिति में इंसानी व्यवहार को चरम रूप से निर्देशित करता है, और असल समस्या अब पैमाना और अंधाधुंध हेरफेर के एक नए स्तर तक पहुँच चुकी है
1 टिप्पणियां
Hacker News की राय
कुछ लोगों के लिए प्रीमियम देकर कतार काटना ही असली मकसद था, लेकिन जब हर कोई प्रीमियम देने लगे तो अंत में कतार वहीं की वहीं रहती है; ऑस्ट्रेलिया की कमर्शियल फ्लाइट्स में यह खास तौर पर दिखता है। Fly in Fly out कामकाज की वजह से क्लब ग्रेड आम हो गया, बोर्डिंग प्राथमिकता या पॉइंट्स टिकट भी लगभग गायब हो गए। कुल मिलाकर, भेदभावपूर्ण pricing और status-seeking उपभोक्ताओं पर लागू होने पर सामाजिक रूप से हानिकारक पैटर्न बन जाते हैं। Uber से नफ़रत करने का निजी अनुभव और टैक्सी सेवा के बिगड़ने की बात भी आई, साथ ही Uber के अवैध market entry को नज़रअंदाज़ करने वाले बिज़नेस मॉडल की आलोचना हुई। लेकिन अब Uber इतना सामान्य हो चुका है कि surge pricing भी बहुत परेशान नहीं करती। ऑस्ट्रेलिया में tipping culture आने पर असहजता जताई गई; क़ानूनी minimum wage और penalty rates मौजूद हैं, इसलिए tipping feature बंद होना चाहिए। यूरोपीय एयरलाइंस में baggage inclusion अनिवार्य करने की बहस का भी ज़िक्र हुआ, और यहां तक कि साफ़ अंडरवियर रखने पर कमज़ोर समझकर मज़ाक उड़ाने जैसी यूरोप की अजीब सांस्कृतिक बातों का भी वर्णन था.
एक गैर-अमेरिकी का सख़्त मत कि tipping culture को साफ़-साफ़ ठुकराना चाहिए; एक बार टिप मिलने लगे तो वेतन और नीचे जाएगा और हालात बदतर होंगे, इसलिए टिप लेना ही नहीं चाहिए.
Uber और Lyft महंगे हैं, लेकिन पुराने टैक्सी सिस्टम की तुलना में आज की स्थिति बहुत बेहतर है। न्यूयॉर्क जैसे बड़े शहरों को छोड़ दें तो पहले फोनबुक में नाम ढूँढकर संदिग्ध कंपनियों से बुकिंग करनी पड़ती थी, और गाड़ी मिलना भी मुश्किल था। अब कहीं से भी ऐप से तुरंत कार बुला सकते हैं और रफ़्तार भी तेज़ है। ड्राइवरों या यात्रियों के साथ होने वाली अनुचित व्यावसायिक चालें निश्चित ही समस्या हैं, लेकिन पुराने सिस्टम में लौटने की कोई इच्छा नहीं है.
खासकर यूरोप की low-cost airlines में लगभग हर कोई priority boarding खरीद लेता है। पहले अतिरिक्त शुल्क देकर आगे जाने का मतलब था, लेकिन अब priority boarding की लाइन ही ज़्यादा लंबी हो जाती है—यही विडंबना है। Uber के surge pricing समय में कुछ देर ऐप पर किराया बदलता हुआ देखते रहो और सस्ता होने पर बुक कर लो। टैक्सी का किराया Uber से 2–3 गुना महंगा होता है और व्यवहार भी अच्छा नहीं, ऊपर से rating system भी नहीं होता, इसलिए टैक्सी लेने से झिझक होती है। एक वास्तविक उदाहरण में एयरपोर्ट तक Uber से सस्ती टैक्सी मिली; ड्राइवर ने Uber के किराए जितने cash पर ले जाने को मान लिया, लेकिन दूसरे यात्री से 5 गुना किराया वसूल लिया। निष्कर्ष यह कि Uber न इस्तेमाल करने का रवैया जीवन को बस और कठिन बनाता है। यूरोप में तो कई बार 2 या उससे अधिक लोग हों तो ट्रेन से भी Uber सस्ता पड़ता है.
अगर हर कोई प्रीमियम दे और फिर भी दोबारा कतार बन जाए, तो बाज़ार समर्थक कहेंगे कि प्रीमियम जुड़ा हुआ वास्तविक मूल्य ही असली कीमत बन जाता है; समाधान के लिए कतार की लागत और बढ़नी चाहिए.
कतार की परवाह न करके सबसे अंत में प्रवेश करने की सहजता का आनंद लेने वाला नज़रिया भी है; प्रीमियम दिए बिना लॉबी में आराम से इंतज़ार करो और लाइन लगभग खत्म हो जाए तब प्रवेश कर लो.
तकनीकी प्रगति और manipulation के प्रति इंसानों की timeless प्रतिक्रिया disengagement है—यह कोई सिद्धांत नहीं, बल्कि पहले से चल रही वास्तविक घटना है। डिजिटल detox, युवाओं में dumbphone की वापसी, public feed की जगह private DM, और ‘Do Not Disturb’ पीढ़ी जैसे उदाहरण दिए गए। लोगों को manipulation महसूस होता है और वे एक-एक करके opt out कर रहे हैं.
मेरा disengagement score अब मुफ्त में नहीं मिलेगा; जानबूझकर random तरीके से disengage करता हूँ ताकि कोई भी पक्ष प्रभाव का अनुमान न लगा सके। dumbphone trend या digital detox भी अब सिर्फ़ एक lifestyle market बन चुके हैं; manipulation की पहचान भी नए बिज़नेस की सामग्री बन गई है। सवाल यह है कि algorithm को कितना hack किया जा सकता है, और क्या उसे अपने बारे में गलत profiling करने पर मजबूर किया जा सकता है.
2012 के बाद से apps और social media जैसी जीवन को product/monetize करने वाली सेवाओं को पूरी तरह छोड़ देने का अनुभव.
कड़वा अनुमान कि कंपनियाँ अब ‘disengagement revenue’ पर भी नज़र रखेंगी; YouTube watch?v=9h9wStdPkQY (लिंक का सिर्फ़ उल्लेख) जैसी संदर्भ सामग्री साझा की गई.
पूंजीवाद से पूरी तरह disengage होना असंभव है; बताए गए कई disengagement व्यवहार—digital detox, dumbphone वगैरह—बस कम शोषित होने के तरीके हैं, असली शोषण से पूरी मुक्ति नहीं.
disengagement, nonchalance से अलग है, और यह ज़रूरी नहीं कि अच्छा मानवीय response हो। nonchalance व्यक्तिगत स्तर का रवैया है, जबकि disengagement सामूहिक प्रभाव चाहता है, लेकिन अधिकतर मामलों में यह सकारात्मक बदलाव तक नहीं पहुँचता। उल्टा सामुदायिक गिरावट और baseline नीचे जाने लगती है; समानता और समावेशन के नाम पर होने के बावजूद वास्तव में ध्रुवीकरण बढ़ता है। ‘Occupy Wall Street’ और ‘Arab Spring’ के बाद hyper-individualism के लोकप्रिय होने से राजनेताओं और executives तक में जवाबदेही कम हुई और वे अपने करियर पर ज़्यादा केंद्रित हो गए। संदर्भ के लिए Broken Windows Theory Wikipedia, The Subtle Art of Not Giving a F*ck
लेखक के बनाए उत्पाद (openpilot) में यह समस्या बताई गई कि अगर 14 दिन तक इंटरनेट कनेक्शन न हो तो यह काम करना बंद कर देता है; संबंधित code link साझा किया गया.
George के गैर-तकनीकी लेख आमतौर पर टालता हूँ, लेकिन यह लेख अर्थपूर्ण लगा। अक्सर उनमें self-reflection की कमी और ज़रूरी आत्म-परीक्षण का अभाव होता है, पर इस बार इसे आत्मचिंतन के अवसर की तरह लिया जा सकता है। हाल के समय में HN community में भी इसी तरह का माहौल बढ़ता महसूस हो रहा है, और बदलाव की ज़रूरत को लेकर संकट-बोध साझा किया गया.
"Are we the baddies?" शीर्षक देखकर लगा था कि अपने व्यक्तिगत रोल पर चिंतन होगा, लेकिन ऐसा नहीं हुआ—इस पर निराशा जताई गई.
यह भी सवाल उठा कि क्या कुछ लोग बस trend का पीछा कर रहे हैं; गहरी सोच के बिना सतही नकल जैसा भाव लेख में महसूस हुआ.
geohot के LLM का उपयोग करके Advent of Code leaderboard में ऊपर आने के मामले का ज़िक्र करते हुए हल्की व्यंग्यात्मक प्रतिक्रिया दी गई.
संदर्भ के लिए संबंधित tweet link छोड़ा गया.
"अगर सरकार हर व्यक्ति के लिए $1000 से शुरू होने वाला S&P 500 खाता खोल दे तो social security हल हो जाएगी"—इस दावे को उद्धृत करते हुए कहा गया कि यह मूलतः सिर्फ़ बड़ी कंपनियों (या उनके समूहों) में सार्वजनिक धन के लगातार प्रवाह की गारंटी देने जैसा है। UBI भी मूलतः आर्थिक ठहराव का संकेत है; यह ऐसी संरचनात्मक समस्या को स्वीकार करता है जिसमें सरकार लोगों को नौकरी देने के बजाय सिर्फ़ उनके अस्तित्व के लिए भुगतान करती है.
UBI को ‘सिर्फ़ अस्तित्व के लिए आराम देना’ जैसी व्याख्या से असहमति जताई गई। UBI न्यूनतम जीवित रहने की गारंटी देता है, और उसके ऊपर की अतिरिक्त आय व्यक्ति खुद कमा सकता है। स्कैंडिनेवियाई देशों के उदाहरण को UBI की आवश्यकता वाले market economy ढाँचे के समर्थन में रखा गया.
समझाया गया कि S&P 500 कंपनियों के शेयर खरीदे जाने पर भी वास्तव में सीधे धन का प्रवाह कंपनी में नहीं जाता.
ETF (index-tracking fund) में refresh और rebalance के दौरान किसी कंपनी के बाहर होने पर शेयर कीमत तेज़ी से गिर सकती है; उदाहरण के तौर पर हाल में Pltr के Russel2000 index से हटने के बाद बड़ी गिरावट का उल्लेख किया गया.
इंटरनेट ब्राउज़र, आधुनिक infrastructure और hyperscale cloud बनाने का अनुभव साझा किया गया। शुरुआत में कुछ बेहतर बना रहे होने का गर्व था, लेकिन Product Manager की भूमिका आने के बाद सब पर पछतावा होने लगा.
ब्रिटिश TV शो "That Mitchell and Webb Look" के एक sketch scene को शीर्षक का मूल स्रोत बताया गया और YouTube link साझा किया गया.
उस शो की witty satire क्षमता का ज़िक्र हुआ; Dr Death episode भी आधुनिक science and technology पर व्यंग्य के लिए बेहद उपयुक्त बताया गया, संबंधित video link
दुखद लेकिन मज़ेदार एक और episode link की सिफ़ारिश की गई.
एक classic scene link का भी ज़िक्र हुआ.
अब आधिकारिक तौर पर बूढ़ा हो जाने वाला मज़ाक भी किया गया.
राय कि इंसानी सहयोग कितनी बुनियादी चीज़ है, और साथ ही कितनी नाज़ुक भी, इसे मानवता ने कभी ठीक से समझा ही नहीं। अगर चींटियों के pheromone signals हटा दिए जाएँ तो colony कैसे टूटेगी, या कुछ चींटियों को ‘लाभ’ देकर सिस्टम कैसे बदलेगा—ऐसे thought experiment सुझाए गए। अगर इन्हीं प्रयोगों को self-awareness वाली चींटियों पर दोहराया जाए तो नतीजे फिर अलग होंगे—ऐसी कल्पना भी की गई। complex adaptive systems को समझने का एक तरीका उन्हें खुद बनाकर देखना है; इसी के साथ John Holland की "Hidden Order" की सिफ़ारिश की गई.
George का NVidia monopoly के खिलाफ AMD को आज़माने का रवैया पसंद आने की प्रतिक्रिया आई; बाज़ार एकाधिकार तोड़ने की दिशा में उसके रुख की सराहना हुई.
लेकिन यह भी कहा गया कि AMD chips इस्तेमाल करते समय bugs की वजह से लंबे समय तक stable operation मुश्किल होने पर शायद उसे छोड़ना पड़ा.
सफल और बेहद जुनूनी George Hotz को भी romantic मामलों में beginner की राह पर चलते देख, अपने जैसे कम असाधारण लोगों के और अधिक संघर्ष करने की सहानुभूतिपूर्ण बात कही गई.
ऐसे पोस्ट को demographic heatmap की तरह देखने वाला नज़रिया भी सामने आया; इसका मतलब यह है कि अब तक सिर्फ़ दिलचस्पी का पीछा करने वाले कुछ अधिक परिधीय लोग भी इस समस्या की गंभीरता समझकर खुलकर बोलने लगे हैं—जैसे geohot hacking वगैरह। यह भी इशारा है कि geohot इस घटना-क्रम के ठीक बीच में खड़ा है.
"कभी न कभी लोगों को समझना होगा कि हम समाज नाम की सामूहिकता में जीते हैं; उसकी शुरुआत किससे होगी?"—इस सवाल को उद्धृत किया गया। podcast और SNS जैसे माहौल ने सामाजिक समस्याओं पर बिखरे हुए ढंग से इशारा करना संभव बना दिया है, लेकिन हमें असल में आधुनिक अर्थों वाला village community चाहिए। अति-व्यक्तिवाद और self-centered decision-making से बाहर निकलकर, दूसरों की ज़रूरत और परिस्थिति के मुताबिक़ संवेदनशील रिश्ते फिर से बनाना महत्वपूर्ण है.
George Hotz से लगभग मूलभूत anti-capitalist संदेश सुनने की उम्मीद नहीं थी, लेकिन इस भावना को ईमानदारी से व्यक्त करने के साहस पर तालियाँ दी गईं.