ChatGPT इस्तेमाल करने पर आपके दिमाग में cognitive debt जमा होता है

• Large Language Models (LLM) का उपयोग करके essay writing का मानव मस्तिष्क गतिविधि और cognitive load पर क्या प्रभाव पड़ता है, इस पर एक प्रायोगिक अध्ययन किया गया
• LLM उपयोगकर्ताओं में लेखन पर ownership की भावना कम थी, उन्हें अपने ही लिखे को सटीक रूप से उद्धृत करने में कठिनाई हुई, और लंबे समय में भाषाई, व्यवहारिक और तंत्रिका स्तर पर प्रदर्शन में गिरावट बनी रही
• प्रतिभागियों को LLM, search engine, और केवल दिमाग का उपयोग (Brain-only) करने वाले तीन समूहों में बाँटा गया, और कुछ प्रतिभागियों ने शर्तें बदलकर भी तुलना में भाग लिया
• EEG (मस्तिष्क तरंग मापन) के परिणामों में Brain-only समूह ने सबसे मजबूत और व्यापक brain network connectivity दिखाई, जबकि LLM उपयोगकर्ताओं में सबसे कमजोर connectivity देखी गई
• अध्ययन दिखाता है कि AI पर निर्भरता सीखने की प्रक्रिया में cognitive cost पैदा कर सकती है, और इसके शैक्षिक प्रभावों की गहराई से समीक्षा की जरूरत है

---

अध्ययन का अवलोकन

• यह अध्ययन essay writing के दौरान AI सहायक टूल्स के उपयोग का मस्तिष्क गतिविधि और व्यवहार पर प्रभाव तलाशता है
  • प्रतिभागियों को LLM (ChatGPT आदि), search engine, और Brain-only (बिना किसी टूल के) तीन समूहों में बाँटा गया
  • हर समूह ने समान परिस्थितियों में तीन सत्र पूरे किए, और चौथे सत्र में कुछ प्रतिभागियों की शर्तें बदली गईं
    • LLM उपयोगकर्ता Brain-only में बदले गए (LLM-to-Brain)
    • Brain-only उपयोगकर्ता LLM शर्त में बदले गए (Brain-to-LLM)
• कुल 54 लोगों ने सत्र 1~3 में भाग लिया, और 18 लोगों ने सत्र 4 तक पूरा किया

प्रयोग की विधि

• EEG (electroencephalography) के माध्यम से essay writing के दौरान cognitive load और brain connectivity मापी गई
• लिखे गए essays का natural language processing (NLP) विश्लेषण किया गया, साथ ही मानव शिक्षकों और AI evaluators द्वारा स्कोर भी दिए गए
• NER (named entity recognition), n-gram patterns, और topic ontology विश्लेषण में समूह के भीतर समानता अधिक पाई गई

प्रमुख परिणाम

• EEG विश्लेषण में समूहों के बीच स्पष्ट अंतर मिला
  • Brain-only समूह में सबसे मजबूत और व्यापक brain network connectivity दिखी
  • search engine समूह में मध्यम स्तर की भागीदारी देखी गई
  • LLM समूह में सबसे कमजोर connectivity पाई गई
• जैसे-जैसे बाहरी टूल्स का उपयोग बढ़ा, cognitive activity घटने की प्रवृत्ति देखी गई
• सत्र 4 में LLM-to-Brain में बदले प्रतिभागियों ने alpha और beta band connectivity में कमी, यानी cognitive hypoactivation की स्थिति दिखाई
• इसके विपरीत, Brain-to-LLM में बदले प्रतिभागियों ने memory recall क्षमता में सुधार और occipito-parietal तथा prefrontal क्षेत्रों की सक्रियता दिखाई, जो search engine उपयोगकर्ताओं के समान थी

व्यवहारिक और भाषाई अवलोकन

• essay के प्रति ownership की भावना (Self-reported ownership) LLM समूह में सबसे कम और Brain-only समूह में सबसे अधिक थी
• LLM उपयोगकर्ताओं को अपने ही लिखे को सटीक रूप से उद्धृत करने में कठिनाई हुई
• 4 महीने के follow-up में LLM उपयोगकर्ताओं ने तंत्रिका, भाषाई और व्यवहारिक स्तर पर लगातार कम प्रदर्शन दिखाया

निष्कर्ष और निहितार्थ

• LLM तुरंत सुविधा देता है, लेकिन इसके साथ दीर्घकालिक cognitive cost भी जुड़ा हो सकता है
• अध्ययन AI पर निर्भरता के सीखने और सोचने की क्षमता पर नकारात्मक प्रभाव को लेकर चेतावनी देता है
• यह शैक्षिक और संज्ञानात्मक दृष्टि से AI उपयोग के संतुलन और पुनर्मूल्यांकन की आवश्यकता पर जोर देता है
• MIT Media Lab ने इन परिणामों के आधार पर AI युग में learning mechanisms को फिर से डिज़ाइन करने की आवश्यकता उठाई है

[dbs0829]

शोध को पेशे के तौर पर करने वाले व्यक्ति की नज़र से मैं इस समस्या के बारे में बहुत जोर देकर बात करता रहता हूँ। पहले जो चीज़ें इंसानों के काम की जगह लेती थीं, वे आम तौर पर किसी खास फ़ंक्शन को बदलती थीं; cognition खुद को बदलने वाले मामले बहुत कम थे। संज्ञानात्मक क्षमताएँ बोझ और दबाव से गुजरने की प्रक्रिया में कार्यात्मक रूप से सीखती हैं, लेकिन इससे हम खुद ही ऐसे अवसरों से अपने आपको वंचित कर रहे हैं। यह भी कहा जा सकता है कि इससे हम दूसरी चीज़ों पर ध्यान दे सकते हैं, लेकिन अगर संज्ञानात्मक क्षमता खुद ही बढ़ नहीं पाई, तो संभव है कि दूसरी चीज़ें करने का अवसर भी कभी न मिले। बेशक, यह एक संक्रमणकालीन दौर में दिखने वाली घटना भी हो सकती है, लेकिन हाल में जिन junior लोगों का मैंने इंटरव्यू लिया है, या अपने स्कूल के जूनियरों को देखकर, मुझे लगता है कि समस्या सोच से ज़्यादा गंभीर है। यह सही है कि किसी tool का उपयोग इस पर निर्भर करता है कि आप उसे कैसे इस्तेमाल करते हैं, लेकिन जब लोग एक छोटे से smartphone तक को नियंत्रित नहीं कर पा रहे हैं, और चलते हुए smartphone देखते रहने वाले smombie हर तरफ़ फैल चुके हैं, तो यह उम्मीद करना मुश्किल है कि ज़्यादातर लोग इसे पर्याप्त self-control के साथ अच्छी तरह इस्तेमाल करेंगे।

[euphcat]

हर बार जब कोई नया माध्यम सामने आया, तब ऐसी ही बहस हुई थी
सुकरात ने कहा था कि लिखना याददाश्त को खराब कर देता है, और Gutenberg के दौर में लोगों को चिंता थी कि कहीं चिंतन ही गायब न हो जाए

मुझे यह राय दिलचस्प लगती है। संदर्भ: xkcd.com/1601 xkcd.com/1227

[m00nlygreat]

मैं भी इसी समस्या के कारण LLM पर निर्भर होने से सावधान रहता हूँ। इंसान जो भी ज़्यादातर चीज़ें बनाता है, उनमें 'इरादा' ही मूल तत्व होता है। फ़िल्म हो, खाना हो, या तकनीक.... मुझे लगता है कि implementation की अहमियत सिर्फ़ लगभग 15% ही होती है.

अगर LLM समय बचाता है, तो बचाया गया वह समय quality बेहतर करने में लगना चाहिए

[GN⁺]

Hacker News की राय

• AI का बहुत ज़्यादा इस्तेमाल करने पर समस्या सुलझाने में डूब जाने का एहसास कम हो जाता है
  जटिल Sugiyama framework-आधारित graph layout algorithm को implement करते समय AI की मदद से concepts जल्दी समझ लिए, लेकिन जब उससे code ही लिखवाया तो उल्टा समझ अटक गई
  बाद में Copilot IDE की जगह Copilot 365 app में बदलकर उससे principles समझे और debugging खुद की, तो फिर से वही immersion वापस मिला
  मेरा मानना है कि AI को काम सौंपने के बजाय interactive encyclopedia की तरह इस्तेमाल करना कहीं बेहतर है

  • मेरा असली काम code लिखना नहीं, बल्कि समस्याएँ हल करना है
    अब मैं code review या architecture design पर ज़्यादा ध्यान दे पाता हूँ, इसलिए असली काम पर समय दे रहा हूँ
  • मुझे यह एक अच्छी anecdote लगती है. skill atrophy सच में होती है
    AI को encyclopedia की तरह इस्तेमाल करने पर भी information खोजने की क्षमता घटेगी, लेकिन समय और ऊर्जा बचाने का trade-off फिर भी क़ीमती है
  • मैं भी इसी तरह के phases से गुज़रा हूँ
    शुरुआत “चलो LLM से पूछ लेते हैं” से हुई, फिर “मैं थोड़ा आराम कर लूँ तब तक LLM कर देता है” तक पहुँची, और फिर “LLM मेरी ideas के साथ चलता है और नई inspiration देता है” तक बढ़ी
    लेकिन आख़िर में deadline और real-world काम सामने आ ही जाते हैं
  • क्या programmer से manager बने लोगों को भी ऐसा ही एहसास होता है, यह जानने की जिज्ञासा है
  • पूरी तरह सहमत. आख़िरकार हमें AI नाम के इस जानवर को काबू करना सीखना होगा

• हर नए medium के आने पर इसी तरह की बहसें होती रही हैं
  Socrates ने कहा था कि writing याददाश्त खराब कर देगी, और Gutenberg के दौर में लोगों को डर था कि गहरा चिंतन गायब हो जाएगा
  यह study छोटा sample और कम अवधि वाली है, इसलिए इसकी reliability कम है, लेकिन LLM calculators या Google से अलग इस अर्थ में हैं कि वे पूरी cognitive process को replace कर सकते हैं, इसलिए गुणात्मक रूप से अलग हैं
  हो सकता है cognitive क्षमता गायब नहीं हो रही, बल्कि उसका रूप बदल रहा हो. नतीजा शायद 20 साल बाद ही साफ़ होगा

  • सच कहें तो पुराने ज़माने के आलोचक पूरी तरह ग़लत भी नहीं थे
    जो लोग लिखना-पढ़ना नहीं जानते थे, उनके पास बहुत विशाल याद रखने की क्षमता होती थी, और अब हम मशीनों पर निर्भर होकर सुस्त हो गए हैं
    इंटरनेट आए 30 साल हो चुके हैं, फिर भी productivity में बहुत बड़ी छलाँग नहीं दिखी — इसे productivity paradox(https://en.wikipedia.org/wiki/Productivity_paradox) भी कहा जाता है
  • सीखने के तीन स्तंभ हैं: theory, practice, metacognition
    LLM इन तीनों चरणों को कमजोर करते हैं. लेकिन अगर इन्हें personalized teacher की तरह इस्तेमाल कर हमसे सवाल करवाए जाएँ, तो यह दिमाग़ को विकसित भी कर सकते हैं
    मगर कंपनियाँ उस दिशा में नहीं जाएँगी, इसलिए हमें बेहतर दिशा के लिए लड़ना होगा
  • TV सच में एक ‘idiot box’ था. समस्या सिर्फ़ tool की नहीं, बल्कि consume किए जाने वाले content की quality की भी थी
    calculator ने भी इसी तरह जटिल गणना करने की क्षमता को कमज़ोर किया
  • research design बुरा नहीं है, लेकिन अभी यह शुरुआती चरण में है
    अगर बदलाव सकारात्मक है तो सीखने के आकलन के नए तरीके चाहिए होंगे, और अगर नकारात्मक है तो LLM-blocking policies की ज़रूरत होगी
    किसी भी स्थिति में education system का redesign टालना मुश्किल है
  • novel या TV इंसानी सोच की प्रक्रिया को replace नहीं करते, लेकिन AI expertise की सीढ़ी तोड़ सकता है
    अगर junior लोग छोटे-मोटे काम करते हुए आगे बढ़ ही नहीं पाएँगे, तो senior भी अंततः कम हो जाएँगे

• छात्र के नज़रिए से देखें तो AI learning aid के फ़ायदे से ज़्यादा नुकसान हैं
  trial and error और reflection की प्रक्रिया गायब हो जाती है, और हम अपनी सोच तक automated system को सौंपने लगते हैं
  पहले Instagram को block करना काफ़ी था, अब तो सोच को ही block करने का दौर आ गया है

• psychologist Cat Hicks और neuroscientist Ashley Juavinett के podcast Change, Technically में इस study की समस्याओं पर अच्छी चर्चा है

  • 52 मिनट बहुत लंबा लगा. अच्छा होता अगर कोई मुख्य निष्कर्ष संक्षेप में बता देता
  • सच तो यह है कि podcast सुने बिना भी paper देखकर समझ आता है कि यह ग़ैर-वैज्ञानिक और biased study है
    ChatGPT लोगों को कम समझदार बना सकता है, लेकिन इस तरह की study से वह साबित नहीं किया जा सकता

• मुझे तो उल्टा AI की वजह से ADHD के लक्षण कम हुए लगते हैं
  interactive notebook की तरह ideas organize कर पाता हूँ, और LaTeX में लंबे लेख लिखने की प्रक्रिया कहीं ज़्यादा आनंददायक हो गई है
  ऐसा लगता है जैसे मैं ADHD के बिना काम कर रहा हूँ

  • इसके उलट मुझे लगता है AI focus बिगाड़ता है
    जब मैं खुद coding करता हूँ तो flow बना रहता है, लेकिन AI के response का इंतज़ार करते-करते ध्यान भटक जाता है
  • जैसे आग स्थिर रूप से जलने लगे तो इंसान हर समय चिंगारी पर नहीं अटकता, उसी तरह AI सोच को अधिक efficient बनाने का tool भर है
  • मुझे भी ADHD है, और AI की वजह से मैं large-scale projects आसानी से चला पा रहा हूँ
    ChatGPT से design पर बातचीत करता हूँ, और Copilot से coding में मदद लेता हूँ
    उल्टा सीखने की रफ़्तार और समझ दोनों बढ़ी हैं
  • मेरी productivity भी बढ़ी है, लेकिन details की जाँच करना ज़्यादा थकाऊ हो गया है
    मैंने कभी ADHD test नहीं कराया, लेकिन focus की समस्या ज़रूर महसूस होती है

• मेरे एक दोस्त ने बताया कि उसके 20s में उम्र वाले colleague ने lunch bill की calculation ChatGPT से करवाई
  यह देखकर हैरानी हुई कि युवा पीढ़ी साधारण arithmetic तक के लिए AI पर निर्भर हो रही है

  • LLM गणित में कमज़ोर होते हैं, इसलिए simple calculations भी अक्सर ग़लत कर देते हैं
    यहाँ तक कि Google Sheets को Excel भी कह देते हैं
  • हो सकता है वह मज़ाक कर रहा हो. अगर कोई 30 मिनट जोड़ना भी न कर पाए, तो वह हँसने वाली बात है
  • मैं भी 10 साल से ज़्यादा समय से browser address bar या Python prompt में calculation करता आया हूँ
    इंसान मूल रूप से arithmetic में बहुत अच्छा नहीं होता, इसलिए ज़रूरी नहीं कि सब हाथ से ही किया जाए
  • मैं math major रहा हूँ, फिर भी mental math अब भी कमज़ोर है
    simple calculation समस्या-समाधान नहीं है
  • calculator आने के बाद से basic arithmetic बेकार skill बन चुकी है
    अब AI पढ़ना-लिखना तक संभाल रहा है, तो इंसान ऊँचे स्तर की सोच पर ध्यान दे सकता है

• जैसे Druids ने writing के प्रचलन की आलोचना की थी, वैसे ही याददाश्त की कमी हमेशा से होती रही है
  फिर भी writing फैली, और हम बस इतना नहीं जानते कि उससे हम ज़्यादा समझदार हुए या कम

  • सीखने के तीन स्तंभों (theory·practice·metacognition) को LLM एक साथ कमजोर करते हैं, इस मायने में यह writing से अलग स्तर का बदलाव है
    फिर भी अगर इसे personalized teacher की तरह इस्तेमाल किया जाए, तो यह दिमाग़ को विकसित भी कर सकता है
    आख़िरकार AI की दिशा हमें ही तय करनी है
  • smartphone ने याददाश्त पर उससे भी बड़ा असर डाला
    अब phone numbers या रास्ते याद रखने की ज़रूरत नहीं रहती
    लेकिन अगर AI समय बचाता है, तो उतना समय source material पढ़ने में लगाया जा सकता है
  • याददाश्त अभी भी मौजूद है. मेरा बेटा अपने पसंदीदा band के पूरे lyrics याद रखता है
    आख़िर में religion भी ध्यान अर्थव्यवस्था का सबसे शुरुआती रूप था
  • यह analogy शायद मुद्दे से थोड़ा भटकती लगती है
  • दरअसल Socrates तो किताबों के भी ख़िलाफ़ थे.
    विडंबना यह है कि जिन समस्याओं की उन्हें चिंता थी, LLM वही हल कर रहे हैं

• GPS पर निर्भरता और AI पर निर्भरता मिलती-जुलती समस्याएँ हैं
  कुछ लोग रास्ता याद नहीं रख पाते, और कुछ लोग उसे आँख मूँदकर follow करते हैं

  • मैंने map orientation को हमेशा north-up रखने की आदत डाल ली है
    इससे शहर की संरचना समझने में मदद मिलती है
    LLM के साथ भी ऐसा ही है: AI जब जवाब बना रहा होता है, तब मैं खुद problem solve करने की race लगाकर focus बनाए रखता हूँ
  • GPS पर overdependence brain health के लिए हानिकारक हो सकती है, इस पर एक study है (https://www.nature.com/articles/s41598-020-62877-0)
    यह चिंता की बात है कि युवा पीढ़ी GPS के बिना कार चलाना ही नहीं चाहती
  • जिन रास्तों पर मैं कई बार जा चुका हूँ, वहाँ मैं जानबूझकर navigation के बिना drive करता हूँ
    LLM के मामले में भी यही बात है: बहुत ज़्यादा निर्भरता से हम सोचने की क्षमता ही outsource करने लगते हैं
  • मुझे तो रास्ते याद रखने में पहले से दिक्कत थी. GPS ने समस्या पैदा नहीं की, बल्कि उसे हल किया
  • लोगों की spatial cognition अलग-अलग होती है
    कुछ लोग जगहों की बनावट तुरंत समझ लेते हैं, जबकि कुछ को ज़्यादा समय लगता है

• यह study दरअसल participants से 20 मिनट का essay लिखवाने वाला एक experiment है
  ऐसे माहौल में लोग सिर्फ़ short-term efficiency पर ध्यान देंगे, इसलिए इसका वास्तविक cognitive प्रभाव से ज़्यादा लेना-देना नहीं है
  देखना यह चाहिए कि सच में अर्थपूर्ण tasks में LLM क्या असर डालते हैं

• आख़िरकार निष्कर्ष बस इतना ही है: “जिसने robot को tennis खेलते देखा, उसकी तुलना में जिसने खुद खेला, उसने ज़्यादा muscles इस्तेमाल किए”

  • सही बात, अंत में मतलब यही है कि “मुश्किल काम को आसान बना दो, तो दिमाग़ कम इस्तेमाल होगा”

[yurihan]

किम डे-री। मैं हिम्मत करके आपको एक सलाह देना चाहता हूँ। बात बस इतनी है कि AI GTP? का बहुत ज़्यादा इस्तेमाल मत कीजिए। अगर सुविधा है, तो जोखिम भी बढ़ता है। गाय काटने के लिए वैसी धार होती है, लेकिन क्या मुर्गी काटने के लिए भी तलवार चाहिए? आसान तरीका ही सही जवाब हो सकता है।

GitHub, Googling, और सरल तरीके भी हैं। इसमें ज़्यादा मेहनत या समय भी नहीं लगता, और बाद में bare coding का तरीका भी है।

मान लीजिए किम डे-री युद्धभूमि में एक जनरल हैं। युद्ध में जीतना तो स्वाभाविक ही है, है ना? तो क्या उस स्थिति के मुताबिक रणनीति नहीं होनी चाहिए? सिर्फ़ ज़मीनी सेना से ही काबू पाएँ? नहीं। मेरी राय में Googling ज़्यादा तेज़ हो सकती है, बेशक यह व्यक्ति पर निर्भर करता है, और GPT भी अच्छा हो सकता है। मैं बस यह कहना चाहता हूँ कि AI कहीं गाय काटने वाली छुरी जैसा औज़ार तो नहीं है।

[epiontech]

यह वैसा ही है जैसे हथौड़ा देखकर कहना कि “यह घर को कमज़ोर बनाता है।”
समस्या टूल नहीं, बल्कि उसका इस्तेमाल कैसे किया जाता है, यह है।

उदाहरण के लिए:
कैलकुलेटर इस्तेमाल करने पर मानसिक गणना कम हो सकती है,
लेकिन बदले में आप ज़्यादा जटिल गणित कर सकते हैं।

GPS इस्तेमाल करने पर रास्ते याद रखने की क्षमता कम हो सकती है,
लेकिन आप बड़े दायरे की spatial strategy बना सकते हैं।
ChatGPT भी बिल्कुल ऐसा ही है।

[epiontech]

और एक दिलचस्प बात।
ऐसी बातें पढ़कर अगर आप बिना सोचे बस इस पर सहमत हो जाते हैं कि “हाँ, AI का इस्तेमाल करने से इंसान मूर्ख हो जाता है”,
तो जिस cognitive debt की वह व्यक्ति बात कर रहा है, वह उसी क्षण वास्तव में पैदा हो रही होती है।
टूल हमेशा तटस्थ होते हैं।
सोच को कर्ज़ बनाना है या संपत्ति, यह उपयोगकर्ता का रवैया तय करता है।

[tazuya]

शुरुआती हिस्सा तो समझ में आता है, लेकिन बाद के हिस्से का उदाहरण उचित नहीं लगता।
व्यायाम उपकरण = LLM नहीं, बल्कि व्यायाम सहायक उपकरण = LLM है। यानी, कसरत करते समय सहायक उपकरण का इस्तेमाल करके शरीर पर पड़ने वाला भार कम किया जाए तो वजन बढ़ाया जा सकता है, लेकिन उससे मेरे शरीर की मांसपेशियां बढ़ाने या रक्त संचार को सुचारु करने जैसे व्यायाम के प्रभाव आधे रह जाते हैं।

[tazuya]

अनुपयुक्त उदाहरण लिखकर फिर यह कहना कि "उपमा और रूपक समझने में आसानी के लिए लिखे जाते हैं।" अपने आप में विरोधाभास है। आपकी टिप्पणी देखकर लगता है कि अब आगे टिप्पणी लिखने का कोई अर्थ नहीं है।

[tazuya]

आह, हाँ। आप इसे इसी तरह समझ सकते हैं।