क्या AI हमारी क्षमताओं को खराब कर रहा है? शुरुआती शोध के नतीजे नकारात्मक संकेत देते हैं

 (nature.com)
3 पॉइंट द्वारा GN⁺ 5 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कामकाजी माहौल में AI टूल्स पर निर्भरता बढ़ने के साथ, चिकित्सा और कंप्यूटर साइंस जैसे जहाँ कौशल बहुत महत्वपूर्ण है ऐसे क्षेत्रों में लोगों द्वारा विकसित क्षमताएँ कमजोर पड़ सकती हैं — ऐसे शुरुआती संकेत मिल रहे हैं
  • पोलैंड के एंडोस्कोपी विशेषज्ञों पर हुए एक अध्ययन में, AI का उपयोग न होने पर adenoma detection rate 28.4% से घटकर 22.4% हो गया
  • Anthropic के एक randomized controlled experiment में AI सहायता पाने वाले इंजीनियरों का क्विज़ औसत स्कोर 50% रहा, जो बिना AI वाले समूह के 67% से कम था
  • अमेरिका के हेल्थकेयर वर्कर्स सर्वे में 70% नर्सों और 77% डॉक्टरों ने AI पर अत्यधिक निर्भरता से कौशल ह्रास को लेकर चिंता जताई
  • जैसे पहले GPS ने रास्ता खोजने की क्षमता को कमजोर किया था, वैसे ही generative AI सोच और व्याख्या जैसी संज्ञानात्मक क्षमताओं को खुद स्वचालित करने वाली पहली तकनीक के रूप में उभर रही है, इसलिए मानव विशेषज्ञता को बचाए रखना एक महत्वपूर्ण चुनौती है

AI deskilling घटना का उभार

  • पेशेवर लोग अपने काम में AI टूल्स पर निर्भर हो रहे हैं, और इससे मेहनत से सीखे गए कौशल के कमजोर पड़ने की आशंका मेडिकल एक्सपर्ट्स, कंप्यूटर वैज्ञानिकों और अन्य समूहों में फैल रही है
  • Wolters Kluwer द्वारा इस महीने जारी अमेरिकी हेल्थकेयर वर्कर्स सर्वे में 70% नर्सों और 77% डॉक्टरों ने AI सिस्टम्स पर अत्यधिक निर्भरता से क्षमता ह्रास को लेकर चिंता जताई
  • चिकित्सा, कंप्यूटर साइंस और अन्य क्षेत्रों में AI-जनित 'deskilling' शुरू होने के संकेत सामने आ रहे हैं, और शोधकर्ता इस पर चर्चा कर रहे हैं कि AI युग में मानव विशेषज्ञता को कैसे बचाया जाए
  • Syracuse University के सूचना वैज्ञानिक Kevin Crowston: "सिर्फ इस घटना के अस्तित्व को पहचानना भी इस बात पर आत्मचिंतन को प्रेरित कर सकता है कि कौन-से कौशल बनाए रखने हैं और कौन-से AI को सौंपने हैं"

चिकित्सा क्षेत्र — एंडोस्कोपी विशेषज्ञों पर अध्ययन

  • अध्ययन की रूपरेखा

    • यह पोलैंड के एंडोस्कोपी विशेषज्ञों पर किया गया अध्ययन था, और सभी सहभागी डॉक्टर अपने करियर में कम-से-कम 2,000 colonoscopy कर चुके थे
    • उन्हें एक AI सिस्टम दिया गया जो real time में colonoscopy वीडियो का विश्लेषण करके pre-cancerous intestinal lesions यानी adenoma को चिह्नित करता था
    • इस टूल को कुछ दिनों में उपलब्ध और कुछ दिनों में अनुपलब्ध रखा गया

  • परिणाम

    • डॉक्टरों द्वारा AI का उपयोग शुरू करने के बाद, जब सिस्टम उपलब्ध नहीं था तब उनका प्रदर्शन उल्लेखनीय रूप से गिर गया
    • AI लागू होने से पहले के 3 महीनों में विशेषज्ञों ने 28.4% colonoscopy में कम-से-कम 1 adenoma पाया
    • AI लागू होने के बाद के 3 महीनों में बिना AI सहायता की गई colonoscopy में adenoma detection rate घटकर 22.4% रह गया
    • यह परिणाम पिछले अक्टूबर The Lancet Gastroenterology and Hepatology में प्रकाशित हुआ

  • विशेषज्ञों की व्याख्या

    • University of California, San Francisco के डॉक्टर Robert Wachter: "बहुत उच्च कौशल वाले विशेषज्ञ भी अगर AI पर अधिक निर्भर हो जाएँ, तो काम के लिए ज़रूरी कार्य करने की उनकी क्षमता घट सकती है"
    • अध्ययन के लेखक: "ऐसे टूल्स के लगातार संपर्क में रहने पर क्लिनिशियन AI के बिना संज्ञानात्मक निर्णय लेते समय कम प्रेरित, कम केंद्रित और कम जिम्मेदार हो सकते हैं"
    • University of Oslo के डॉक्टर-शोधकर्ता और सह-लेखक Yuichi Mori: "इस घटना की पुष्टि के लिए और अधिक शोध की ज़रूरत है, लेकिन AI उपयोगकर्ताओं को कुछ कौशल खोने के जोखिम से अवगत रहना चाहिए"
      • "फिलहाल deskilling का कोई स्थापित समाधान नहीं है, और यह आने वाले 10 वर्षों का एक अत्यंत महत्वपूर्ण शोध विषय होना चाहिए"

कंप्यूटर साइंस क्षेत्र — Anthropic का कोडिंग प्रयोग

  • कंप्यूटर साइंस में कौशल ह्रास की जाँच के लिए San Francisco की AI कंपनी Anthropic की शोध टीम ने 52 software engineers पर एक randomized controlled experiment तैयार किया
    • सभी 52 प्रतिभागियों को बुनियादी coding tasks के दौरान web search और काम करने के तरीके से जुड़ी guidance तक पहुँच दी गई
    • इनमें से आधों को अतिरिक्त रूप से AI assistant इस्तेमाल करने के लिए प्रोत्साहित किया गया
  • काम के बाद सीखी गई चीज़ों पर हुए क्विज़ में AI उपयोग समूह का औसत 50% और बिना AI समूह का 67% रहा
    • AI सहायता पाने वाले प्रतिभागी खासकर code errors की diagnosis वाले प्रश्नों में कमजोर रहे, जिससे संकेत मिला कि वे अभी-अभी लिखे गए कोड के concepts को सीख नहीं पाए
    • यह अध्ययन peer review से पहले preprint server arXiv पर पोस्ट किया गया
  • Crowston: "अब प्रदर्शन और सीखने के बीच एक अजीब disconnect मौजूद है"
    • "लोग काफी ऊँचे स्तर पर प्रदर्शन कर पा रहे हैं, लेकिन मूल रूप से वे AI से कौशल उधार ले रहे हैं, उसे स्वयं विकसित नहीं कर रहे"
    • यह नतीजा खासकर इस क्षेत्र के छात्रों और युवा पेशेवरों के लिए चिंता का विषय है

cognition की outsourcing — पिछली तकनीकों से तुलना

  • University of Queensland के information systems researcher Tapani Rinta-Kahila: "पहले भी ऐसी तकनीकें रही हैं जिन्होंने GPS navigation की तरह रास्ता खोजने की क्षमता को कमजोर किया और कुछ विशेष कौशलों को कम उपयोगी बना दिया"
    • लेकिन generative AI "सोच और व्याख्या से जुड़ी संज्ञानात्मक क्षमताओं को स्वचालित करने वाली पहली तकनीक" है, जिन्हें लंबे समय तक मानव की विशिष्ट क्षमता माना जाता था

  • अकाउंटेंट का उदाहरण

    • 2018 में प्रकाशित एक अध्ययन में उन अकाउंटेंट्स के समूह की जाँच की गई जो 10 साल से अधिक समय तक automated non-AI accounting systems का उपयोग करते रहे थे
    • टूल हट जाने पर पाया गया कि अकाउंटेंट्स कई रोज़मर्रा के काम कैसे करने हैं, यह भूल चुके थे
    • "अगर अगली पीढ़ी के प्रोग्रामर्स के पास पर्याप्त hands-on अनुभव नहीं होगा, तो वे coding की बुनियाद को सही तरह से नहीं समझ पाएँगे"
    • "यह बात accounting, law और अन्य knowledge-intensive professions पर भी समान रूप से लागू होती है"

  • कौशल क्षरण रोकने के उपाय

    • यह पहचानना ज़रूरी है कि generative AI को कितना काम सौंपा जा रहा है
    • generative AI models कैसे काम करते हैं और उनकी सीमाएँ क्या हैं, इसे सही ढंग से समझना चाहिए, और बिना सत्यापन AI output पर भरोसा नहीं करना चाहिए
    • "generative AI पर निर्भरता और सचेत सतर्कता बनाए रखने के बीच की प्रतिस्पर्धी गतिशीलता को संभालना होगा"

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 5 시간 전
Hacker News की राय

  • हम लोग बहुत आराम में रहे हैं। AC वाले दफ़्तर में Herman Miller की कुर्सी पर बैठकर कंप्यूटर सीखे, ऊँची सैलरी ली, और अब जब हमने बुद्धिमत्ता को synthesize करने का तरीका खोज लिया है, तो उससे जो ज़्यादातर काम हमने सोचा है वह बस उस सबसे मज़ेदार करियर को खराब करना है जिसका ज़्यादातर लोग सिर्फ़ सपना देख सकते थे
    बेशक अभी हम ज़्यादा productive हैं, लेकिन उसमें से कितना हिस्सा इस वजह से है कि हमने पहले हाथ से बनाई गई बुद्धिमत्ता के ऊपर AI चढ़ाकर उसका उपयोग किया है, यह कहना मुश्किल है
    कौन गारंटी दे सकता है कि 36 महीने बाद सिस्टम ज्ञान घट नहीं जाएगा और हम कुल मिलाकर बदतर डेवलपर नहीं बन चुके होंगे
    यह नहीं कह रहा कि AI का इस्तेमाल न करो। फीचर पर सीधे काम करते समय GitHub Workflows सेट करना, या VPS पर agent से इंटरनेट वाले काम करवाना जैसी उपयोगी साइड-टास्क्स में मैं इसे हमेशा इस्तेमाल करता हूँ। थोड़ी synthesized intelligence अच्छी है
    लेकिन अपनी ही बुद्धिमत्ता को बदलकर augment करना अच्छा नहीं है। जैसे steroids खाकर शरीर को नुकसान पहुँचाते हुए भी muscular हुआ जा सकता है, वैसे ही मुझे लगता है कि असली लाभ उसी काम के भीतर होता है। shortcut अक्सर सबसे खतरनाक रास्ता होता है

    • “हम ज़्यादा productive हैं” यह पूछने से ज़्यादा, मैं यह पूछना चाहता हूँ कि AI युग हमें सिर्फ़ और ज़्यादा, और तेज़ उत्पादन की दिशा में और गहराई तक धकेल रहा है। आखिर किसलिए?
      मैं software engineer इसलिए बना था क्योंकि code लिखना, जटिल समस्याओं पर सोचना और उन्हें हल करना, और अपने हाथ से बनाई चीज़ को पहली बार चलते देखना मज़ेदार था
      क्या code की जगह agents की फ़ौज को manage करना सच में मज़ेदार है? या हमें सिर्फ़ उस रफ़्तार का नशा है जिसमें हम अकेले संभव न होने वाली गति से चीज़ें बना पाते हैं? मेरे लिए तेज़ चलना अपने आप में मज़े का मूल हिस्सा कभी नहीं था
      दोहराए जाने वाले काम या boilerplate घटाने के लिए AI का इस्तेमाल समझ आता है, लेकिन जो लोग agent-based development पर पूरी तरह all-in हो गए हैं, उन्हें देखकर सच में सवाल उठता है
    • कई डेवलपर्स के लिए 36 महीने बाद बदतर डेवलपर बन जाना शायद best-case भी हो सकता है। लेबर मार्केट पहले ही productivity बढ़ोतरी को absorb करने के हिसाब से बदल रहा है, और नौकरी बचाने के लिए सबको और ज़्यादा उत्पादन करने पर मजबूर किया जाएगा
      demand तुरंत productivity बढ़ोतरी के बराबर नहीं पहुँच सकती, इसलिए कंपनियाँ बस ज़्यादा बेच नहीं सकतीं, और अंत में layoffs होंगे। कम नौकरियों के लिए ज़्यादा लोग प्रतिस्पर्धा करेंगे तो बचे हुए लोगों की wages भी नीचे जाएँगी। यह बुनियादी demand-supply की समस्या है
      सोचता हूँ 2024 में जिन लोगों ने कहा था, “मेरा काम बहुत complex या specialized है, इसलिए इस पर असर नहीं पड़ेगा,” उनमें से अब कितने लोग वही बात कहेंगे
      कंपनियों को या तो लगातार महँगी होती प्रति-token कीमत चुकाकर labor cost घटानी होगी, या फिर यह मानकर कि यह समझौता बेकार है, दोबारा human intelligence पर दाँव लगाना होगा। आने वाले कुछ महीनों में लगता है कि उद्योग की economics हमारे लिए फैसला करेगी
    • या तो आप AI का गलत इस्तेमाल कर रहे हैं, या फिर आपका workplace अच्छा नहीं है। मुझे AI के साथ coding करना बहुत मज़ेदार लगता है
      LLM और उनके tools ऐसे नए constraints जैसे लगते हैं जिन्हें सिस्टम डिज़ाइन करते समय फिट करना पड़ता है, और अगर उन्हें अच्छी तरह संभालो तो पहले से बड़े और बेहतर सिस्टम बनाए जा सकते हैं। यह programming skill tree की एक बिल्कुल नई branch सीखने जैसा है
      हाँ, यह मैं उस समय कह रहा हूँ जब Claude ने application का RBAC पूरी तरह बर्बाद कर दिया था और मुझे पिछले दो दिन उसे फिर से बनाना पड़ा
    • कृपया “हम” मत कहिए। बहुत से लोगों ने न तो ये models चाही थीं, न ये कंपनियाँ, न ही उन्होंने इसमें योगदान दिया था। अगर कोई योगदान था, तो बस उनका code, data, और intellectual property चुराया गया
      बहुत से लोगों ने अपनी मर्ज़ी से AI use नहीं अपनाया, बल्कि नियोक्ता ने व्यवहारिक रूप से उन पर यह थोप दिया। AI की वजह से सब ज़्यादा productive भी नहीं हुए हैं; कई लोग जितना समय बचाते हैं, उतना ही AI द्वारा लिखे code को review करने में खर्च कर देते हैं
    • कंपनी में LLM का इस्तेमाल मुझ पर थोपा गया, और मुझसे कहा गया, “समझने की कोशिश मत करो, बस इसे काम करने लायक बना दो।” यह ऐसे कहा गया मानो इस वाक्य की बेतुकापन साफ़ न हो
      उसके बाद से मैं इस नौकरी से, शायद इस करियर से भी, निकलने का रास्ता ढूँढ़ रहा हूँ
      आख़िर में जिन्हें सच में फ़र्क पड़ता है वे या तो छाँट दिए जाएँगे या खुद चले जाएँगे, और पूरा क्षेत्र Dunning-Kruger शैली के AI maximalists से भर जाएगा। “AI engineers को replace कर देगा” यह बात सही हो सकती है, लेकिन जिस वजह और जिस तरीके से यह कहने वाले लोग सोचते हैं, उससे बिल्कुल अलग तरह से

  • मुझे यह जानने की जिज्ञासा है कि क्या बहुत अमीर लोगों या बहुत ऊँचे पदों वाले executives पर भी यही असर होता है। ऐसे लोग तो पहले से ही अपनी सोच को ‘outsource’ कर सकते थे, और काम delegate करना, research/summary मंगवाना, tasks assign करना जैसी चीज़ें करते आए हैं
    क्या इस तरह काम इंसानों को सौंपना भी उसी तरह क्षमता को कमजोर करता है? या AI बुनियादी रूप से अलग है? अगर अलग है, तो क्यों? क्या इसलिए कि हर चीज़ delegate न करने का नैतिक·सामाजिक दबाव नहीं होता?

    • हाँ। रोज़मर्रा के hands-on development से management role में जाते ही skills का क्षय शुरू हो जाता है। भले ही वे जादू की तरह अचानक गायब न हों, फिर भी आप नई प्रगति के साथ चलकर अभ्यास नहीं कर रहे होते
      अगर आप manager की भूमिका सही ढंग से निभाते हैं, तो यह संभव career paths में सबसे डरावनों में से एक है। कुछ साल बाद कम वेतन वाले hands-on developer के रूप में यथार्थवादी ढंग से वापस लौटने का रास्ता नहीं बचता। आपका काम खुद करना नहीं, बल्कि दूसरों से करवाने में मदद करना होता है
      बेशक बीच का एक क्षेत्र है, और लोग R&D या side projects के ज़रिए skills को थोड़ा-बहुत तेज़ रखने की कोशिश करते हैं, लेकिन यह रोज़ होने वाले production-floor के काम जैसा नहीं है
      शुरुआती skill level लोगों में अलग हो सकता है, लेकिन समय के साथ पड़ने वाला असर मोटे तौर पर समान होता है
      जब कोई अनुभवी engineer कहता है कि वह management track में जाना चाहता है, तो मैं सबसे ज़्यादा इसी बात पर चेतावनी देता हूँ। यह हल्के में लेने वाला फैसला नहीं है
    • हाँ। professors और university deans के साथ भी ऐसा होता है
      इसलिए मुझे लगता है कि Noam Shazeer के OpenAI में शामिल होने को भी इसी संदर्भ में देखना चाहिए। यह निश्चित रूप से एक अच्छी hiring है, लेकिन यह मानने की कोई खास वजह नहीं है कि उनके पास अब भी कोई ऐसी गुप्त जादुई कला है जो दूसरों के पास अधिक आधुनिक रूप में नहीं है
    • मालिक वर्ग वास्तव में काम नहीं करता। वे जो high-level planning delegate करते हैं, वह software engineering जैसे कामों की तुलना में AI agents के लिए करना आसान है। क्योंकि उसे इतना सटीक या executable होने की ज़रूरत नहीं होती
      लेकिन scope बहुत बड़ा होता है और भूमिका का जोखिम भी बड़ा होता है, इसलिए इंसानों को हटाकर भी इसे पर्याप्त ‘safe’ बनाने के लिए शायद Fable 5 या Fable 6 स्तर के vision-language models चाहिए होंगे
      2027 में जो चीज़ विस्फोटक रूप से बढ़ेगी, वह automated AI companies होंगी, और human CEOs तथा owners ऐसी AI-operated companies से प्रतिस्पर्धा नहीं कर पाएँगे
    • बौद्धिक काम, और व्यापक रूप से वे सभी क्षेत्र जिनमें ऊपर या नीचे जा सकने वाला skill tree होता है, अभ्यास न करने पर समय के साथ कमजोर पड़ते हैं। यह वैसा ही है जैसे कुछ समय तक दौड़ न लगाने पर दोबारा शुरू करते ही अपना पुराना personal record तुरंत न बना पाना
      कुछ समय दूर रहने के बाद वापस पकड़ बनाना, शुरुआत से skill विकसित न करने या जन्मजात प्रतिभा न होने की तुलना में आसान होता है, लेकिन अभ्यास न करें तो गिरावट तो आती ही है। जो leaders पूरी तरह management/strategy roles में ऊपर चले गए और hands-on skills बनाए नहीं रखे, वे अंततः समझने की गति में काफ़ी धीमे हो गए
      यह study हुई, यह अच्छी बात है। AI और मानव कल्याण के बीच नकारात्मक सहसंबंध हमारे समय की बड़ी चुनौतियों में से एक है। लेकिन यह निष्कर्ष अपने-आप में काफ़ी स्पष्ट लगता है
    • मैंने काफ़ी ऐसे पूर्व programmer managers देखे हैं जो कुछ साल management में रहने के बाद fizzbuzz भी मुश्किल से कर पाते हैं। इसलिए मुझे यह काफ़ी समान लगता है
      दिमाग़ का बड़ा हिस्सा “use it or lose it” के काफ़ी करीब काम करता है, और ऐसी delegation दरअसल इस्तेमाल न करना ही है
      फिर भी LLMs इंसानों को काम सौंपने से कहीं ज़्यादा खराब साबित हो सकते हैं। आंशिक रूप से इसलिए कि iteration cycle इतनी तेज़ है कि बहुत अमीर न होने पर भी आप वह रफ़्तार पा सकते हैं जो इंसानों से खरीदी नहीं जा सकती

  • एक साल से ज़्यादा हो गया, मैंने शुरू से अंत तक कोई code function खुद नहीं लिखा। उसकी जगह मैं architecture और system properties के बारे में कहीं ज़्यादा समय सोच रहा हूँ
    इसलिए मुझे लगता है कि बहुत low-level skills कुछ हद तक खोई हैं। लेकिन शायद इससे मुझे higher-level skills पर ज़्यादा समय देने का मौका मिला है। क्या यह वैसा हो सकता है जैसे doctors image पढ़ने में कमजोर हो गए हों, लेकिन patient context के बारे में सोचने के लिए उनके पास अधिक cognitive resources हों?
    पक्का नहीं कह सकता
    फिर भी अब AI के बिना बैठकर खुद code लिखने के लिए मैं अपने शरीर को तैयार ही नहीं कर पाता। यह बहुत धीमा और लगभग पीड़ादायक लगता है

    • मुझे जिज्ञासा है कि नए आने वाले लोग, उदाहरण के लिए data structures और low-level algorithms से वास्तविक applications में हाथ से जूझने वाली मानसिक ट्रेनिंग के बिना भी, क्या वही उपयोगी और उत्पादक सोचने का तरीका हासिल कर पाएँगे
      जब मैं design school में था, तो काम का बड़ा हिस्सा graphite, कटा हुआ कागज़, paint, charcoal जैसे physical media में होता था, और साथ ही अच्छी तरह tracing तथा digital tools का उपयोग भी सिखाया जाता था। digital में भी आपको अलग-अलग strokes बनाने और सही tools चुनने पड़ते थे, लेकिन जो लोग पूरी तरह digital background से आए थे, उनमें प्रक्रिया की समझ का एक हिस्सा साफ़ तौर पर गायब था
      यह कुछ वैसा है जैसे कोई व्यक्ति जिसने सिर्फ photo references देखे हों, वह real-life drawing करने की कोशिश करे। जब आप ऐसी चीज़ बनाते हैं जो पहले से ही 2D है, तो cognition की एक पूरी परत इस्तेमाल ही नहीं होती। सीखा तो जा सकता है, लेकिन अगर मजबूरी न हो तो लोग बार-बार photo लेकर वही बनाते रहेंगे
      image generation तो इतनी अलग चीज़ है कि बहुत सूक्ष्म inpainting होने पर भी उसकी तुलना करना मुश्किल है। अगर किसी के पास advanced image generation का बहुत अनुभव हो और वह painting सीखना शुरू करे, तो यह कहने में मुझे हिचक होगी कि वह एकदम शुरुआती व्यक्ति से बहुत आगे होगा। photo-reference artists के लिए यह बात लागू नहीं होती, और जो पूरी तरह digital artists tablet पर real-life drawing करते आए हैं, उनके लिए तो और भी नहीं
      यह कुछ वैसा ही है जैसे millennials हमेशा technology तक पहुँच रखते थे, लेकिन उन्होंने dial-up era में computer use भी देखा था, इसलिए वे आम तौर पर उस विशिष्ट “iPad kid” की तुलना में ज़्यादा tech-savvy होते हैं जो directory structure तक navigate नहीं कर पाता
    • सवाल यह है कि ध्यान केंद्रित करने लायक उच्च-स्तरीय skills आखिर बचेंगी कौन-सी
      मुझे यक़ीन नहीं है कि project management या architecture जैसे कामों में AI स्वाभाविक रूप से बदतर ही होगा
    • मान लें कि AI के पुजारी सही हैं, और AI इस्तेमाल करने से सोचने की कुछ क्षमता खाली हो जाती है जिससे आप ऊँचे स्तर की चीज़ों पर विचार कर सकें; तब आपका boss उस अतिरिक्त क्षमता का इस्तेमाल कैसे करवाएगा? क्या वह users को और ऊँचे स्तर की cognitive abilities विकसित करने देगा? मुझे ऐसा नहीं लगता
      मान लें कि लेख में doctors ने AI आने के बाद और खराब प्रदर्शन किया। अगर AI की वजह से वे उसी समय में, जिसमें पहले 10 tests होते थे, अब 100 tests कर सकते हैं, तो employer उस बची हुई labor time का क्या करेगा? साफ़ है, वह और ज़्यादा tests करवाएगा, और कुछ doctors को, जिनकी अब ज़रूरत नहीं रही, निकाल देगा
      जो doctors बचे रहेंगे वे deskilled हालत में समान या उससे भी ज़्यादा काम करेंगे, और समाज को कम गुणवत्ता वाली healthcare मिलेगी। फिर भी employer labor cost बचाएगा और shareholders खुश होंगे
    • हमने IBM punch cards चलाना नहीं सीखा था। modern languages में functions को हाथ से लिखना भी तेज़ी से पुराना पड़ता काम बनता जा रहा है
    • बहुत से CEOs की नज़र में आप धीरे-धीरे बेकार होते जा रहे हैं

  • यह नया है, और खासकर इसका दायरा नया है। किसी व्यक्ति की कुछ "skills" नहीं, बल्कि लगभग सब कुछ दांव पर है। गहराई से, व्यापक रूप से, और लगातार सोचने की क्षमता की सबसे बुनियादी नींव को चुनौती मिल रही है। ऐसा पहले इस तरह कभी नहीं हुआ
    agent को काम करते देखना कभी-कभी चौंकाने वाला, यहां तक कि सांस रोक देने वाला होता है। उल्टा, ठीक उसी ताकत की वजह से हम उसके प्रलोभन और निष्क्रिय बना देने वाली शक्ति के प्रति भी उतने ही बड़े पैमाने पर असुरक्षित हो जाते हैं। दीर्घकालिक मनोवैज्ञानिक प्रभाव की संभावना लगभग किसी शक्तिशाली नशे जैसी है

    • गहराई से, व्यापक रूप से, और लगातार सोचने की क्षमता को चुनौती मिलने की बात आए तो सबसे पहले social media और content algorithms याद आते हैं। AI युग में प्रवेश से पहले की भयावह मौजूदा स्थिति बनाने वाली शुरुआती लहर वही थी
      आजकल echo chamber में फंसना बहुत आसान है, और silo से बाहर निकलना बहुत मुश्किल
      यह दोधारी तलवार हो सकती है। जिस AI पर ज्यादातर लोग सर्वज्ञ oracle की तरह भरोसा करते हैं, वही शायद social media या Youtube, TikTok स्क्रॉल करते हुए निष्क्रिय रूप से अपना ली गई राय के खिलाफ हमें मिलने वाला इकलौता प्रतिवाद भी दे सके
      उदाहरण के लिए, अगर Claude, ChatGPT, Grok से Marjorie Taylor Greene जैसे लोगों द्वारा social media पर फैलाए गए 2018 Hawaii wildfires के "space lasers" के बारे में पूछें, तो वे जल्दी ही उसे बकवास कहकर खारिज कर देते हैं
      आखिरकार हो सकता है कि हर किसी के पास अपना AI हो जो सिर्फ वही कहे जो वे सुनना चाहते हैं। लेकिन अभी तक मैंने ऐसे लोगों को देखा है जो Grok द्वारा उनके दावे खारिज किए जाने पर Twitter पर बहस छोड़ देते हैं। इसलिए थोड़ी उम्मीद दिखती है
    • "ऐसा पहले कभी नहीं हुआ" कहने से पहले यह पढ़ लेना चाहिए कि radio और television के आविष्कार पर लोगों ने क्या कहा था
      agent को काम करते देखना जितना सांस रोक देने वाला है, magic भी उतना ही हो सकता है। यह असहज संभावना कि यह सब किसी ऐसी illusion का नतीजा हो सकता है जिसे हम सही से समझते नहीं, लोगों को ज्यादा परेशान करती नहीं लगती
      दीर्घकालिक मनोवैज्ञानिक प्रभाव का शक्तिशाली नशे जैसा होना शायद इससे ज्यादा जुड़ा हो कि इस product के मालिकों ने इसे किस तरह market और distribute करने का फैसला किया है। परदा थोड़ा-सा हटते ही यह मदहोशी डर में बदल सकती है। Upton Sinclair जैसा क्षण करीब आ रहा है
    • मानव मन को शरीर जितनी ही चुनौती चाहिए। बढ़ने के लिए, बल्कि ऊंचे cognitive स्तर को बनाए रखने के लिए भी, यही एकमात्र तरीका है
      nurses, doctors, और परिवार वाले अच्छी तरह जानते हैं कि जब कोई व्यक्ति अचानक बिस्तर तक सीमित हो जाए और उत्तेजना व करने लायक चुनौतियां न्यूनतम रह जाएं, तो जीवन की दिशा कितनी तेजी से गिरती है
      LLM चुनौती को हटा देता है या न्यूनतम कर देता है। employer के cost cutting के अलावा engineer के लिए इसमें क्या value add है, यह कल्पना करना मुश्किल है। हां, कुछ लोग कहेंगे कि वे पहले से 10 गुना ज्यादा कर रहे हैं, और शायद कुछ सच में करते भी हों, लेकिन उस पर भी संदेह है। बाकी ज्यादातर लोगों के लिए यह अच्छा नहीं है, और जब तक price की वजह से ज्यादातर markets में इसका इस्तेमाल रुक न जाए, तब तक यह बेहतर भी नहीं होगा

  • मैं 40 की उम्र में ऐसी रफ्तार से नई चीजें सीख रहा हूं जिसकी कभी कल्पना नहीं की थी। नए sports, नया business, और नई academic रुचियां
    technology एक leverage है, और AI हमारे पास मौजूद सबसे बड़ा leverage है। यह आलस्य को भी संभव बनाता है, और जबरदस्त productivity को भी। आगे का रास्ता आप खुद चुनते हैं

    • यह आप पर लागू होता है या नहीं, पता नहीं, लेकिन मैंने कुछ ऐसे दोस्तों को देखा है जिन्हें यकीन हो गया कि वे science की frontier की खोज कर रहे हैं, और बात आखिर में हमेशा किसी अजीब quantum-और-metaphysics टाइप की बेसिरपैर की बातों में घूम जाती थी
      LLM एक flatterer है, और लंबी बातचीत में यह चापलूसी positive feedback loop बना देती है। अगर context window में किसी गलत व्याख्या या उपमा की पुष्टि चली जाए, तो chatbot उसी रास्ते पर चलता रहता है, क्योंकि वह पिछले text की सबसे plausible continuation होता है
      फिर देखते-देखते आप ब्रह्मांड के छिपे हुए ताने-बाने की खोज कर रहे होते हैं, और वह हमेशा Minkowski fractal spacetime tensor lattice manifold और subharmonic DNA nanotubes जैसी किसी चीज़ पर पहुंचता है
      इसलिए अगर आपके पास यह परखने और सुनिश्चित करने का मजबूत तरीका नहीं है कि आप सचमुच सीख भी रहे हैं, तो सावधान रहना बेहतर है
    • आप सीख नहीं रहे। सीखने में खुद करके देखना शामिल होता है
      यह बहुत पहले से मालूम है। अगर छात्र सिर्फ math की किताब पढ़े और बार-बार problems हल न करे, तो वह exam पास नहीं कर पाएगा
      सबसे अच्छे हाल में भी आप बस कुछ पढ़ रहे होते हैं। coding agent के users तो वह भी नहीं करते
    • आप सीख नहीं रहे। आप सिर्फ समझाया जाना सुन रहे हैं, और आमतौर पर औसत से कम skill level पर उन्हें इस्तेमाल करने के लिए एक हथौड़ा पकड़ा दिया गया है
      सीखने में बहुत बड़ा time investment लगता है। LLM इस्तेमाल करने से वह समय कम नहीं हो जाता
    • AI sports में ठीक-ठीक कैसे मदद करता है? क्या आप बेहतर athlete बने? उदाहरण के लिए coach के नजरिए से क्या आपने हर sport की strategy ज्यादा सीखी? क्या आप विस्तार से बता सकते हैं
    • असल में मैं सहमत हूं। साफ लगता है कि LLM से concepts सीखे और explore किए जा सकते हैं। लेकिन शुरू से ही मैं self-taught स्वभाव का और बहुत motivated इंसान था
      जो भी technical चीजें मैं जानता हूं, वे सब मैंने अपनी मेहनत से सीखी हैं। इसलिए मैं चाहता हूं कि इन tools का प्रचार इस मॉडल के रूप में हो कि वे लोगों से बेहतर काम करवाते हैं, न कि सिर्फ ज्यादा काम
      अभी तो इन्हें लोगों की क्षमता बढ़ाने के बजाय बड़े पैमाने की layoffs के बहाने की तरह इस्तेमाल किया जा रहा है। जाहिर है, इसने ऐसे लोगों की भी बड़ी संख्या खींच ली है जो अपनी असली क्षमता को बढ़ा-चढ़ाकर दिखाना चाहते हैं

  • tools का इस्तेमाल आम तौर पर ऐसी curve का पालन करता है। अगर आप किसी skill को बचाए रखना चाहते हैं, तो उसे सचमुच बचाए रखना होगा
    यह अपने-आप में जरूरी नहीं कि बुरा ही हो। tools ऐसी बहुत-सी चीजें संभव बनाते हैं जो उनके बिना नहीं हो सकतीं, और जब कोई tool किसी skill की जगह लेता है, तब वह skill मूल रूप से कितनी महत्वपूर्ण है, इस पर बहस हो सकती है

    • यहां मुश्किल यह है कि जिन skills के समूह को हम कमजोर करना चाहते हैं, उसका दायरा लगभग अनंत है
      यह calculator जैसा कोई विशेष tool नहीं है जिसका problem domain साफ-साफ परिभाषित हो। वास्तव में बहुत-से लोग AI का इस्तेमाल coding या visual design जैसे पेशेवर क्षेत्रों में कर रहे हैं, लेकिन सिद्धांततः ऐसा कोई कारण नहीं कि हम अभी जिस abstraction level पर काम करते हैं, उसे भी AI को न सौंप दें
    • इस मामले में बड़ी समस्या यह है कि इस tool का अच्छे से उपयोग करने के लिए भी बुनियादी skills विकसित और संरक्षित रहनी चाहिए। यह electric drill से बहुत अलग है
    • यह ठीक है या नहीं, इसका फर्क इस बात पर निर्भर करता है कि tool कितना भरोसेमंद है। calculator या compiler हो तो ठीक है। लेख में दिया machine learning image classification वाला उदाहरण भी ठीक लगता है, हालांकि मैं पूरी तरह आश्वस्त नहीं हूं
      LLM output भरोसेमंद नहीं है, इसलिए अब भी judgment चाहिए। code का judgment करने के लिए आपको कुछ हद तक खुद उससे जूझा होना चाहिए। इसलिए अविश्वसनीय tool तब तक ज्यादा मददगार नहीं होता जब तक आप उसकी अनिश्चितता को स्वीकार करने को तैयार न हों
    • सही। लेकिन अगर आप उस tool के मालिक नहीं हैं, और वह किसी centralised, यहां तक कि political या state-adjacent समूह के हाथ में है, तो जिस क्षण यह "computer says no" बन जाता है, आप बड़ी मुश्किल में पड़ जाते हैं

  • Staff+ इंजीनियरों के बारे में सोचें तो यह चौंकाने वाली बात नहीं है। उनका काम AI को निर्देश देने जैसा काफी हद तक मिलता-जुलता है। ज़्यादातर लोग मेहनत, बेहतरीन engineering skill, soft skills, और थोड़ी किस्मत के सहारे सीढ़ी चढ़ते हैं। लेकिन कंपनी जितनी बड़ी होती जाती है, coding, debugging, और गहरी design पर उनका समय उतना ही कम होता जाता है
    उसकी जगह वे एक बहुत technical product manager की तरह काम करने लगते हैं। वे VP लोगों को high-level product requirements की planning और writing में मदद करते हैं, और उस पर थोड़ा technical terminology छिड़क देते हैं। whiteboard पर box बनाते हैं, सुंदर slides तैयार करते हैं, और leadership को पसंद आए ऐसे polished documents लिखते हैं। वे या तो meeting में होते हैं या अगली meeting की ओर जा रहे होते हैं, और अगर कोई technical idea आता है तो टीम को भेजकर उसे validate करवाते हैं
    स्वाभाविक रूप से उन्हें अब भी लगता है कि वे गहराई से technical हैं, लेकिन जिस दिन उन्हें operational outage ठीक करना हो, technical interview पास करना हो, या बहुत सारा code लिखना पड़े, उस दिन पता चलता है कि उनकी skills जंग खा चुकी हैं
    यह आलोचना नहीं है, बल्कि एक असली career challenge को रेखांकित करना है। एक engineer के रूप में आप technical क्षमता को निखारना चाहते हैं, लेकिन organizational ladder पर ऊपर जाने के लिए आपको और ज़्यादा organizational काम लेना पड़ता है। एकमात्र समाधान जो सूझता है, वह researcher या professor के क़रीब जाना है। अच्छे professors भी समय के साथ papers लिखने या formulas derive करने में कम समय लगाते हैं, लेकिन उनकी insight इतनी गहरी हो जाती है कि वे PhD students को guide करके बेहतरीन नतीजे निकलवाते हैं। बस, वह रास्ता जितना कहा जाता है उतना आसान नहीं है

  • मेरे हिसाब से सबसे बड़ा नकारात्मक असर यह है कि लोग जो कुछ AI में डालते हैं, उसे परखने के लिए बहुत जल्दी आगे बढ़ जाते हैं। अगर आप बहुत तेज़ चलते हैं, तो आपके पास taste विकसित करने या एक ही समस्या के कई approaches की बारीकियों को समझने का समय नहीं होता
    मैं भी LLM का काफ़ी इस्तेमाल करता हूँ, लेकिन लगता है कि जो code निकलकर आता है, उसके साथ बैठकर समय बिताने में मैं औसतन अपने साथियों से कहीं ज़्यादा समय लगाता हूँ। पहली output “काम” तो करती है, लेकिन उसे मन में थोड़ा बैठने देने के बाद, और सचमुच merge करने लायक महसूस होने तक, मैं आम तौर पर मूल idea को 2~3 बार और दोहराता हूँ
    इसलिए सब कुछ जोड़कर देखें तो जिन design-level चिंताओं का सच में महत्व है, उनमें मुझे productivity बहुत बढ़ी हुई नहीं लगती

  • सबसे पहले, मुझे endoscopy study की उपयोगिता पर सवाल है। AI से होने वाली संभावित deskilling से पहले और बाद में पाए गए adenoma की संख्या की तुलना करने के लिए यह मानना पड़ेगा कि adenoma occurrence rate स्थिर है, और यह मान लेना मुझे पूरी तरह सुरक्षित नहीं लगता
    यह study की समस्या है या summary की, पता नहीं, लेकिन यह मापना कहीं बेहतर research design होता कि प्रतिभागियों ने baseline analysis की तुलना में कितना अच्छा किया, और इससे यह भरोसा भी ज़्यादा मिलता कि वास्तव में skill में बदलाव हुआ था
    यह भी जानना दिलचस्प होगा कि क्या reading time कम हुआ था, या AI ने इतनी तेज़ी से पढ़ लिया कि लोगों ने पुराने तरीके से scan पढ़ते समय ज़्यादा दबाव महसूस किया। यह एक संभावित confounding factor है
    दूसरा, यह चौंकाने वाली बात नहीं है कि AI की वजह से measurable deskilling दिखता है। लेकिन पहले भी spell checker और calculator की वजह से deskilling पाया जा सकता था। फिर भी आज कोई यह नहीं कहता कि हमें word processor छोड़ देना चाहिए और उंगलियों-पैरों की उंगलियों पर गिनना चाहिए या long division करना चाहिए
    कौन-सी skills और knowledge वास्तव में experts के लिए अहम हैं, और किन चीज़ों को technology को outsource किया जा सकता है, इसमें हमेशा trade-off होता है। अभी यह एक transition period है, क्योंकि technology नई भी है और बहुत तेज़ी से बदल भी रही है। कुछ साल बाद, जब adoption curve में हम ऊपर पहुँच जाएंगे और कुछ क्षेत्रों में बदलाव की रफ़्तार स्थिर हो जाएगी, तब coding और medicine जैसे क्षेत्रों में AI के ऐसे उपयोग पर ठहराव आएगा जिसमें knowledge और skill दोनों का मेल चाहिए होगा। और मेरा मानना है कि तब लोग इस बात के आदी हो जाएंगे कि आज जो चीज़ें नौकरी के core मानी जाती हैं, उन्हें लोगों को न तो जानना पड़ेगा और न खुद करना पड़ेगा

  • क्या AI गायब हो जाएगा और तब हमें खोई हुई skills पर पछताना पड़ेगा? सबसे बुरे हाल में भी हम cutting-edge की जगह open weight models इस्तेमाल करेंगे, इसलिए मुझे यह कोई बड़ा मुद्दा नहीं लगता
    मुझे पूरा यक़ीन है कि calculator के आविष्कार के बाद लोग arithmetic में पहले से कमज़ोर हुए होंगे

    • असली ख़तरा individual level पर नहीं, बल्कि social level पर है
      समय के साथ skills बनती हैं, तो insight पैदा होती है, और वही insight innovation तक ले जाती है
      AI बहुत-सी दिलचस्प चीज़ें करता है, लेकिन अभी innovation नहीं करता
      असली ख़तरा यह नहीं है कि हम सब skills खो देंगे और AI तक पहुँच भी खो देंगे। ऐसा होना संभव तो है, लेकिन access खोने की संभावना कम लगती है। बड़ा जोखिम यह है कि AI लगभग अपने मौजूदा स्तर पर ही ठहरा रहे, और इस बीच हम उस पर निर्भर होकर अपनी skills कुंद कर लें, और एक गैर-नवोन्मेषी मशीन को सोचने का बहुत बड़ा हिस्सा सौंप देने से innovation ठहर जाए
      मैं यह नहीं कह रहा कि ऐसा ज़रूर होगा, लेकिन यह काफ़ी संभव परिणाम लगता है
    • क्या 2023 से पहले की computing की पूरी history गायब हो गई है? क्या हालत सचमुच इतनी खराब है
    • “calculator के आविष्कार के बाद लोग arithmetic में कमज़ोर हो गए” वाले वाक्य में, LLM के लिए “arithmetic” की जगह variable X रख सकते हैं
      “LLM के आविष्कार के बाद लोग X में कमज़ोर हो गए”
      समस्या सिर्फ़ यह नहीं है कि X skill घटती है
      समस्या यह है कि LLM के मामले में X दरअसल लगभग सारी knowledge और communication skills है
      क्या समाज सचमुच ऐसी स्थिति झेल सकता है जिसमें लगभग सारी knowledge और communication skills का क्षरण हो जाए
    • सबसे बुरे हाल में cognitive shrinkage होगा। हम और ज़्यादा मूर्ख और आलसी हो जाएंगे