- बिना जनता की सहमति के AI फीचर प्रमुख सॉफ़्टवेयर और सेवाओं में अपने-आप शामिल किए जा रहे हैं
- ज़्यादातर उपयोगकर्ता AI नहीं चाहते या उस पर भरोसा नहीं करते, लेकिन MS·Google जैसी बड़ी IT कंपनियाँ bundle और forced rollout के ज़रिए AI अपनाने की रफ़्तार बढ़ा रही हैं
- उपभोक्ताओं से बिना विकल्प दिए उसकी लागत भी वसूली जा रही है, और सर्वे बताते हैं कि जिन उत्पादों में AI फीचर जोड़े जाते हैं, उनमें पसंद और भरोसा दोनों घटते हैं
- कंपनियाँ AI से जुड़े खर्च और घाटे छिपाने के लिए उसे मौजूदा सेवाओं के साथ बाँधकर accounting losses छिपा रही हैं
- कानूनी और नीतिगत नियमन (पारदर्शिता·opt-in·जवाबदेही·बौद्धिक संपदा अधिकार आदि) की ज़रूरत पर ज़ोर देते हुए AI के दुरुपयोग के खिलाफ सामाजिक प्रतिक्रिया की अपील की गई है
जो लोग AI नहीं चाहते, उन पर उसे जबरन थोपने का चलन
- हाल ही में Microsoft Outlook खोलते ही Copilot AI companion इस्तेमाल करने का सुझाव देने वाला संदेश सामने आया
- नाम भले AI companion रखा गया हो, लेकिन असल में यह एक अनचाहा फीचर है
- ईमेल पाने वाला व्यक्ति भी सीधे इंसान द्वारा लिखा गया मेल चाहता है, AI से लिखा संदेश नहीं
- Copilot को disable करना मुश्किल बनाया गया था; बड़ी मुश्किल से उसे बंद करने का तरीका मिला, लेकिन जल्द ही Excel जैसे दूसरे प्रोग्रामों में भी AI terms of use से सहमति देने की ज़बरदस्ती होने लगी
- MS 365 subscription की कीमत भी $3 प्रति माह बढ़ा दी गई, और उसके साथ अनचाहे Copilot के 60 उपयोग bundle कर दिए गए
- चाहे उपयोगकर्ता वास्तव में इसका इस्तेमाल न करे, फिर भी उसे इसकी कीमत चुकानी पड़ती है, और AI फीचर Word, Excel जैसे सभी सॉफ़्टवेयर में built-in कर दिए जाते हैं
AI bundling और forced use के आर्थिक/रणनीतिक कारण
- AI के लिए ज़्यादातर उपयोगकर्ता स्वेच्छा से पैसे नहीं देते (अमेरिका में सिर्फ 8% लोग अतिरिक्त भुगतान को तैयार)
- इसलिए उसे ज़रूरी सेवाओं के साथ bundle करके ही जबरन अपनाया जा सकता है ताकि वह बाज़ार में टिक सके
- अगर AI एक standalone paid product होता, तो उसका घाटा साफ़ दिखता और investors तथा shareholders की नाराज़गी बहुत बढ़ जाती
- मौजूदा सेवाओं में AI को छिपाकर accounting losses दबा दिए जाते हैं, और बाहर से उसे लाभकारी दिखाया जाता है
- उदाहरण के तौर पर, अगर कोई रेस्तरां granite stone को dessert की तरह बेचे तो कोई नहीं खरीदेगा, लेकिन पूरे meal की कीमत में $1 जोड़कर सबको ज़बरदस्ती दे दे, तो वह यह दावा कर सकता है कि “हर ग्राहक पत्थर खरीद रहा है”
उपयोगकर्ता की पसंद खत्म होना और असंतोष
- वास्तव में उपयोगकर्ता के पास AI अपनाने या न अपनाने का कोई विकल्प नहीं है
- सिर्फ MS ही नहीं, Google भी search results में AI को अपने-आप जोड़ रहा है
- platform उपयोगकर्ता की सहमति के बिना एकतरफ़ा AI फीचर जोड़ते जा रहे हैं, और ग्राहक ऐसा रवैया झेलते हैं मानो उनसे कहा जा रहा हो, “चुप रहो और स्वीकार करो”
- नीचे दिए गए सभी AI फीचर, उपयोगकर्ता की इच्छा से अलग, ज़बरदस्ती लागू किए जा रहे हैं
- AI customer support, AI search results, software में built-in AI, AI द्वारा भेजे गए ईमेल, Spotify AI music, Amazon AI books आदि
- जितने ज़्यादा AI फीचर जुड़ते हैं, उत्पाद की पसंद उतनी ही घटती है (4000 लोगों के सर्वे में AI पसंद सिर्फ 18%)
- विशेषज्ञ और media भी चेतावनी देते हैं कि AI की तेज़-रफ़्तार तैनाती ग्राहक भरोसे और बिक्री को नुकसान पहुँचा सकती है
Big Tech की ओर से AI को और आक्रामक तरीके से थोपना
- पहले कंपनियाँ ग्राहकों की राय के प्रति संवेदनशील रहती थीं, लेकिन अब Big Tech एकाधिकार जैसी ताकत का इस्तेमाल कर रही है
- उपयोगकर्ता की इच्छा और विकल्प को लगभग पूरी तरह दरकिनार कर एकतरफ़ा फीचर जोड़ना जारी है
- Meta (Facebook) ऐसा फीचर भी तैयार कर रही है जिसमें उपयोगकर्ता न चाहे तब भी AI chatbot पहले संदेश भेजे (Messenger को पूरी तरह disable करना भी लगभग असंभव)
- यह तरीका लगभग पारंपरिक spam जैसा है, और उपयोगकर्ताओं में इसके प्रति असहजता बढ़ रही है
AI boycott करना लगभग असंभव
- अगर कोई AI को ठुकराना भी चाहे, तो व्यवहार में उसे ईमेल, search, Word·Excel, Amazon·Spotify जैसी ज़रूरी सेवाएँ छोड़नी पड़ेंगी
- आगे चलकर healthcare, counseling, legal services, hiring, emergency response जैसी सामाजिक आधारभूत सेवाएँ भी AI-केंद्रित होती जा सकती हैं
- बड़ी IT कंपनियाँ पहले ही उपयोगकर्ता की सहमति या पसंद की परवाह किए बिना मानवीय सेवाओं के निशान तेज़ी से मिटा रही हैं
अविश्वसनीय AI का जबरन फैलना: एक विडंबना
- हैरानी की बात यह है कि AI अभी इतना भरोसेमंद भी नहीं हुआ है, फिर भी उसका यह forced rollout तेज़ होता जा रहा है
- वास्तव में AI अक्सर बेढंगे और ग़लत जवाब देता है, लेकिन कंपनियाँ उसे ठीक करने को लेकर भी गंभीर नहीं दिखतीं
सामाजिक और कानूनी प्रतिक्रिया की ज़रूरत
- पारदर्शिता कानून, opt-in (पूर्व सहमति) कानून, जवाबदेही कानून, बौद्धिक संपदा सुरक्षा कानून आदि AI अपनाने के लिए अनिवार्य नियमन हैं
- अगर राजनीति इस पर प्रतिक्रिया नहीं देती, तो नागरिक पहल या class action lawsuit जैसे सामाजिक कदम ज़रूरी हो सकते हैं
- उपभोक्ता (jury) भी आख़िरकार इस वास्तविकता से सहमत होंगे कि उन पर AI जबरन थोपा जा रहा है
अमेरिका-चीन प्रतिस्पर्धा वाले फ़्रेम पर सवाल
- इस तर्क का विरोध किया गया है कि AI अपनाने की दौड़ में अमेरिका को चीन से आगे निकलना ही चाहिए
- लेखक का कहना है कि AI जिस मंज़िल (there) की ओर बढ़ रहा है, वह शायद दुखद नतीजे और पछतावा छोड़ जाएगी, और वे चाहते हैं कि उसका परिणाम बहुत दूर भविष्य में जाकर ही देखा जाए
निष्कर्ष
- AI, जनता की सहमति के बिना, Big Tech की अगुवाई में रोज़मर्रा की ज़िंदगी और पूरे समाज में तेज़ी से फैल रहा है
- यह उपयोगकर्ताओं की सक्रिय माँग का परिणाम नहीं, बल्कि एकाधिकारवादी कॉरपोरेट हित और बाज़ार तंत्र की विकृति का नतीजा है
- बिना विकल्प के AI अपनाने का दबाव आगे और बढ़ेगा, और इससे सामाजिक पछतावे की आशंका भी बड़ी है
4 टिप्पणियां
कोरियाई अनुवाद में पहले ही बेहूदा ऑटो-ट्रांसलेशन गंदे तरीके से ठूंस दिया था, और अब तो यह और भी विकसित हो गया है। ऑटो-ट्रांसलेशन भी नहीं रोक पाए, तो अब इस बेहूदा AI को गंदे तरीके से ठूंसना भी पूरा झेलेंगे!
मुझे AI फीचर्स, खासकर वे सेवाएँ जो बैकग्राउंड में इंतज़ार करती रहती हैं और कहती हैं कि वे मदद करेंगी, बिल्कुल पसंद नहीं हैं।
अगर वे remote पर चलती हैं तो मेरी जानकारी साझा होने की समस्या है, और अगर वे local पर चलती हैं तो वे मेरे कंप्यूटर के resources (CPU, memory, battery, ...) खर्च करती हैं।
Private remote server पर install करने वाले तरह की service कैसी रहेगी?
Hacker News राय
मुझे भी ऐसे AI integration फीचर्स चिढ़ाने वाले और गैरज़रूरी लगते हैं। वजह यह कम है कि LLM बेकार हैं, और ज़्यादा यह कि मौजूदा products के साथ उनका integration गहराई से सोचा नहीं गया। यह वैसा ही है जैसे बड़ी कंपनियाँ trend के पीछे भागते हुए बिना सोचे-समझे software अपना लेती हैं। हाल में petekoomen की रचनात्मक टिप्पणी के मुताबिक, "AI युग की "horseless carriage"" जैसी घटना फिर से दोहराई जा रही है।
मैं Cursor और Windsurf जैसे products में यह देख रहा हूँ कि LLM को बड़े पैमाने पर subsidy मिल रही है। ये tools असल में LLM के marketing tools जैसे हैं, और investors की संरचना देखें तो बात और साफ़ हो जाती है। इन services की operating cost काफ़ी ज़्यादा है, इसलिए इनके लिए तेज़ी से mass adoption हासिल करना बहुत ज़रूरी है। मैंने पहले इस पहलू पर ध्यान नहीं दिया था, लेकिन अब सोच रहा हूँ कि वे आखिर कितनी तेज़ी से adoption चाहते हैं।
बड़े AI gatekeepers पहले से ही बड़े models चलाने में bottleneck और scalability problems झेल रहे हैं। किसी बुनियादी तकनीकी breakthrough के बिना यह स्थिति बदलती नहीं दिखती। दुनिया जितनी AI-केंद्रित होती जाएगी, इन gatekeepers और computing resources पर निर्भरता उतनी बढ़ेगी। इससे access priority या resource priority के नाम पर price increase का ख़तरा है। और हम अभी wearable stage तक भी नहीं पहुँचे हैं।
सारा user data इन gatekeepers को भेजा जाना पड़ता है, और data का cloud की ओर जाना बढ़ रहा है। पहले data को पढ़ने और दोबारा उपयोग करने में आर्थिक लाभ कम था, इसलिए मेरी knowledge information और personal information अपेक्षाकृत कम exposed होती थी। लेकिन जबरन AI adoption बढ़ने के साथ अब यह और धुंधला हो गया है कि model कौन चला रहा है और मेरा data कहाँ जा रहा है। LLM accuracy की समस्या तो है ही, लेकिन gatekeepers और data concentration की समस्या भी उतनी ही चिंताजनक है। डर यह है कि सुविधा के बदले हम कम गुणवत्ता वाली चीज़ें और सस्ता operating structure स्वीकार करने लगेंगे।
मैं overall argument से सहमत हूँ, लेकिन लेखक की थोड़ी अटपटी writing flow पढ़कर एक पल को लगा कि कहीं यह AI ने तो नहीं लिखा। लेखक जिन सभी features का ज़िक्र करता है, उनके लिए open source या सस्ते paid alternatives मौजूद हैं। हालांकि insurance companies जैसे कुछ क्षेत्रों में public pressure या service lock-in की वजह से AI का इस्तेमाल टालना मुश्किल दिखता है। कोई यह कह सकता है कि ChatGPT दुनिया की सबसे ज़्यादा इस्तेमाल होने वाली websites में है, इसलिए users सच में इसे चाहते हैं। लेकिन मुझे इसके दो वाजिब counterarguments लगते हैं। पहला, लोकप्रियता का मतलब हमेशा payment intent नहीं होता—ऐसे उदाहरण भरे पड़े हैं। दूसरा, कई popular websites के users भी यह नहीं चाहते कि वे sites दूसरे हर क्षेत्र में घुसकर उनकी पूरी रोज़मर्रा की ज़िंदगी पर कब्ज़ा कर लें।
अभी थोड़ी देर पहले मैंने पहली बार Gmail को मेरे पास आए email का summary बनाते देखा। दिल से यही लगा कि कृपया ऐसा मत करो। मैं अपना email खुद पढ़ लूँगा, और यह अनावश्यक summary बस पढ़ने लायक text और बढ़ा देती है। हाँ, जिन users को colleagues से बड़ी मात्रा में vaguely important emails मिलते हैं, उनके लिए यह उपयोगी हो सकता है। लेकिन मेरे personal account में आने वाली चीज़ें या तो दोस्तों से होती हैं, या फिर ऐसी होती हैं जिन्हें summary नहीं बल्कि सीधे trash में जाना चाहिए। हाँ, Gmail के spam filtering के लिए मैं सचमुच आभारी हूँ।
मैं इस लेख की बात से पूरी तरह सहमत हूँ। ‘AI’ मध्यम स्तर के bad actors के लिए छोटा-सा market बना सकता है, लेकिन ज़्यादातर users के लिए यह spam है—बिलकुल Clippy की तरह, जिसे किसी ने नहीं माँगा था। उम्मीद है कि किसी दिन AI भी Clippy की तरह ग़ायब हो जाए।
मैं इस दावे से सहमत नहीं हूँ कि “हर कोई internet चाहता था।” बहुत से लोगों को smartphone आने से पहले इसमें कोई रुचि नहीं थी। smartphone desktop की तुलना में असुविधाजनक है, लेकिन ज़्यादा convenient होने की वजह से लोकप्रिय हुआ। “ज़्यादा असुविधाजनक, लेकिन ज़्यादा convenient” वाला यही marketing logic AI पर भी लागू होता है। इसलिए शायद AI को भी लोग स्वीकार कर लेंगे।
ऐसा लगता है जैसे कोई हवा में बात कर रहा हो। AI की समस्या बहुत सूक्ष्म है, इसलिए ज़्यादातर लोग बस “काफ़ी अच्छा जवाब” मिल जाने पर संतुष्ट हो जाते हैं, और यह समझ ही नहीं पाते कि यह दरअसल एक नई natural language programming language के स्तर का creative tool है। बार-बार सफलता पाने के लिए effective prompts लिखना ज़रूरी है, लेकिन वास्तव में ऐसा करने की मेहनत बहुत कम लोग करते हैं। prompt engineering की चर्चा तक को लोग यह कहकर खारिज कर देते हैं कि “क्या prompt लिखना भी engineering है?” लेकिन यही तो वह उन्नत तकनीकी process है जिसे industry को गंभीरता से लेना चाहिए। LLM की इस सूक्ष्म शक्ति को वास्तव में बहुत कम लोग समझते हैं, और mainstream institutions में तो माहौल उल्टा इसे fraud मानने का है।
CEOs AI पर इतने अटके क्यों हैं? क्योंकि stock investors सिर्फ़ “AI-enabled” सुनते ही पैसा लगा देते हैं। investors की यही demand “AI business model” के ढहने से रोकने वाली मुख्य चीज़ है। आख़िरकार यह एक bubble है, लेकिन यह bubble कुछ समय तक बना रहेगा।
ChatGPT दुनिया की top 5 popular websites में है और बहुत तेज़ी से बढ़ रहा है। इतना लोकप्रिय product सिर्फ़ market resistance के आधार पर समझाया नहीं जा सकता। Instagram users में भी वास्तविक payment intent बहुत कम है, शायद 8% के आसपास। तो क्या इसका मतलब यह है कि Instagram भी ऐसा product है जिसे लोग नहीं चाहते और उन पर थोपा गया है?