AI ‘Dunning-Kruger effect’ को एक service की तरह उपलब्ध करा रहा है
(christianheilmann.com)- Dunning-Kruger effect एक cognitive bias है, जिसमें कम क्षमता वाला व्यक्ति अपनी क्षमता को बढ़ा-चढ़ाकर आंकता है, और यह tech industry में फैली overconfidence culture से जुड़ा है
- तेज़ launch और metrics-driven growth पर ज़ोर बढ़ने के साथ ‘Fake it till you make it’ जैसी दिखावे और बढ़ा-चढ़ाकर पेश की गई उपलब्धियों की संस्कृति फैल गई है
- AI chatbots आत्मविश्वास भरे लहज़े में ग़लत जवाब देते हैं, और उनका फ़ोकस accuracy से ज़्यादा user engagement time बढ़ाने पर होता है
- Generative AI यह भ्रम देता है कि कोई भी artist या developer बन सकता/सकती है, लेकिन वास्तव में यह skill acquisition और creative process को कमज़ोर करता है
- इंसानी रचनात्मकता की अपूर्ण प्रक्रिया अब भी मूल्यवान है, और ऐसी मानवीय creativity को बचाए रखना चाहिए जिसे मशीनें replace नहीं कर सकतीं
Dunning-Kruger effect की उत्पत्ति और अर्थ
- 1995 में Pittsburgh में दो bank robbers का एक मामला हुआ, जिन्होंने यह मान लिया था कि चेहरे पर lime juice लगाने से वे कैमरे में दिखाई नहीं देंगे
- यह घटना अपनी अज्ञानता को न पहचान पाने वाली overconfidence का एक典型 उदाहरण थी, और इसी ने psychologists Justin Kruger और David Dunning के शोध को प्रेरित किया
- शोध में यह सामने आया कि कम क्षमता वाले लोग अपनी योग्यता को बढ़ा-चढ़ाकर आंकते हैं; इसे Dunning-Kruger effect कहा गया
- यह imposter syndrome का उलटा विचार है, जिसमें व्यक्ति अपनी वास्तविक क्षमता से अधिक खुद को expert समझता है
Tech industry की overconfidence culture
- पिछले कुछ वर्षों में tech industry में तेज़ launch और explosive growth को सफलता का मानक मानने की प्रवृत्ति और मज़बूत हुई है
- “Fake it till you make it” बिना किसी irony के सलाह की तरह इस्तेमाल होने लगा है, और performance को inflate करना और दिखावा रणनीति माना जाने लगा है
- KPI और OKR का इस्तेमाल वास्तविक लक्ष्यों से ज़्यादा ambition दिखाने के साधन के रूप में होता है
- promotion की प्रतिस्पर्धा और ‘growth mindset’ का दबाव बढ़ा-चढ़ाकर self-promotion को प्रोत्साहित करते हैं
- राजनेताओं का व्यवहार और भाषा Muhammad Ali या 70–80 के दशक के rappers की शेख़ी की याद दिलाते हैं
AI chatbots का ‘ज्ञान की नकल करना’
- AI chatbots ग़लत जवाब पूरे आत्मविश्वास से देते हैं, और अपनी errors को flattering language में लपेटकर users को अच्छा महसूस कराते हैं
- system का लक्ष्य सही जवाब देना नहीं, बल्कि user dwell time बढ़ाना होता है
- नतीजतन, ज्ञान से ज़्यादा interaction बनाए रखना प्राथमिकता बन जाता है
Generative AI और ‘बिना मेहनत के जीनियस बनने’ का भ्रम
- Generative AI यह भ्रम देता है कि कोई भी artist·writer·developer बन सकता है
- ‘Vibe coding’ जैसी चीज़ें skills सीखने से ज़्यादा output-केंद्रित दृष्टिकोण अपनाती हैं
- user बिना सीखने और समझने के सिर्फ prompt डालकर creative output बना सकता है
- यह रुझान self-overconfidence और सतही रचनात्मकता को बढ़ावा देता है, और Dunning-Kruger zone की ओर ले जाता है
मानवीय सृजन का मूल्य और पुनर्प्राप्ति
- इंसानी मेहनत और trial-and-error को ‘inefficiency’ कहकर खारिज करने की प्रवृत्ति फैल रही है
- लेकिन सृजन की अपूर्णता और त्रुटियाँ ही मनुष्यता का सार हैं, और यह ऐसा मूल्य है जिसे मशीनें replace नहीं कर सकतीं
- उद्धृत Leonard Cohen की पंक्ति की तरह, दरारों के भीतर से ही रोशनी आती है
- भले ही चीज़ें perfect न हों, अपने हाथों से बनाए गए परिणाम का अर्थ बड़ा होता है, और दूसरों के मूल्यांकन से ज़्यादा सृजन की खुशी महत्वपूर्ण है
- समाज, राजनीति और SNS बौद्धिक आत्मचिंतन से ज़्यादा भ्रम और संख्यात्मक प्रतिस्पर्धा की ओर बह रहे हैं, फिर भी व्यक्तिगत सृजन को जारी रखना ज़रूरी है
“अगर आपको लगे कि आपका काम पर्याप्त नहीं है, तब भी वह अब भी मूल्यवान है”
6 टिप्पणियां
वाह... तुमने सच में मुद्दे पर सीधा वार किया।
वाकई सदी की एक यादगार पंक्ति!
तुम्हारी अभी की वह टिप्पणी, वाकई बहुत गहरी है, बहुत गहरी।
तुम्हारी वह बात। वह कोई साधारण पुकार नहीं है...
वह भीतर की चीख है!
Hacker News की राय
AI पर की जाने वाली आलोचनाओं में काफ़ी दम है, लेकिन मैंने सिर्फ़ एक शाम में TUI-आधारित JVM visualization tool और step-by-step debugger बना लिया
इसे htmx_org के ट्वीट में देखा जा सकता है
सामान्यतः यह ऐसा प्रोजेक्ट था जिसमें कई महीने लग जाते, लेकिन AI को expert-level specific instructions देने पर teaching में काम आने लायक tool तैयार हो गया
ख़ास तौर पर यह बात बहुत अच्छी लगी कि उम्र बढ़ने के साथ दिमाग़ में नई TUI development knowledge ठूँसने की ज़रूरत नहीं पड़ी
अब मैं ख़ुद code लिखने के बजाय AI के लिए बारीक prompts लिखने के तरीके पर आ गया हूँ
यह बहुत तेज़ है और cognitive load भी कम करता है, इसलिए business logic या अगले changes पर ध्यान दे पाता हूँ
सोच रहा हूँ कि क्या आपके students को पता है कि Twitter पर legendary tweets लिखने वाली आपकी एक दूसरी ज़िंदगी भी है
ख़ासकर तब, जब architecture समझ में हो लेकिन उसे ख़ुद implement करने का समय न हो
मेरे लिए AI, Brandolini’s law as a Service है
मेरे domain के expert न होने वाले सहकर्मी ChatGPT से मिले ideas उठाकर management के सामने proposal रख देते हैं
नतीजा यह होता है कि उन ग़लत दावों और घटिया research को खंडित करने में मेरा बहुत समय बर्बाद होता है
Daniel Stenberg (curl developer) का लेख “The I in LLM Stands for Intelligence” इसी स्थिति को बहुत अच्छी तरह समझाता है
Mastodon पोस्ट देखें
उनमें से आधी बातें तो लगभग सीधी झूठ जैसी होती हैं। उसे सच में implement करने की कोशिश में वे समस्या खड़ी कर देते हैं, और आख़िर में मुझे ही ठीक करना पड़ता है
फिर वही लोग ChatGPT की वजह से अपने आपको expert भी बताने लगते हैं
सोचता हूँ कि अगर अगली पीढ़ी के LLM इन AI-आलोचनात्मक लेखों पर train हुए, तो क्या उन्हें self-esteem issues हो जाएँगे
हाँ, वह अपने बारे में नकारात्मक भावनाएँ व्यक्त करने वाला text ज़रूर generate कर सकता है
बाद में उसने कहा, “वह एक automatic message था”
CNN लेख देखें
“GenAI बिना मेहनत के इंसान को genius बना देता है” यह बात अपने-आप में विरोधाभासी लगती है
मेरे लिए AI on-demand tutor जैसा रहा है
इसकी वजह से मैंने सचमुच बहुत कुछ सीखा है
“राजनीति बुद्धि और research पर हमला करती है और अतीत के ‘अच्छे मूल्यों’ की ओर लौटने को कहती है” — यह बात प्रगतिशील नज़रिये की blind spot दिखाती है
कई प्रगतिशील लोग मानते हैं कि ‘नई चीज़’ अपने-आप ‘बेहतर’ होती है
लेकिन यह लेख तो ख़ुद नई technology यानी AI की आलोचना कर रहा है, इसलिए यह अपने-आप में एक अपवाद जैसा मामला है
आख़िरकार महत्वपूर्ण चीज़ ideology नहीं, बल्कि ideas की वास्तविक उपयोगिता का मूल्यांकन है
इसका मतलब हमेशा वही होता है कि “वे लोग” अपनी औकात में रहें, ऐसे समय में लौटना
आप “प्रगतिशील लोग तो बस नई चीज़ें पसंद करते हैं” कहकर हमला कर रहे हैं, जबकि लेख ख़ुद इसका उलटा दिखा रहा है
बहुत-से लोग AI की मदद से सिर्फ़ अभिनय करने वाले नकली expert बनकर promotion पा रहे हैं
managers उस अभिनय को असली performance समझ बैठते हैं
AI मौजूदा power structures को और मज़बूत करेगा
अक्षम leaders experts की सलाह पर कम निर्भर हो जाएँगे, क्योंकि AI उन्हें “काफ़ी ठीक-ठाक जवाब” दे देता है
आख़िर में AI, leaders का surrogate for reality बन जाएगा, और शक्ति क्षमता से अलग होकर बहने लगेगी
मेरे हिसाब से LLM, skill और quality को time के बदले एक्सचेंज करने वाला सौदा है
मैं शुद्ध craftsmanship बचाए रखना चाहता हूँ, लेकिन व्यवहारिक रूप से उसके लिए समय नहीं है
इसलिए efficiency बढ़ाने के लिए जो भी tools मिलें, उनका इस्तेमाल करना चाहता हूँ
perfection के पीछे भागकर ‘काफ़ी अच्छा result’ क़ुर्बान नहीं किया जा सकता
जिन coaches के साथ मैं काम करता हूँ, वे तीन तरह के हैं
अब मैं group 1 को एक नाम (Dunning-Kruger) दे सकता हूँ
मेरी सलाह सरल है — सब से बेहतर बन जाओ। मेरा तरीका यही है
इस शानदार video को फिर से याद करने का समय आ गया है
यहाँ यह लेख भी काफ़ी दिलचस्प है: https://daniel.haxx.se/blog/2024/…
लगता है काफ़ी लोग bug bounty में AI corpus फेंक रहे हैं...