- यह निबंध-लेखन शिक्षा में LLM उपयोग की cognitive cost को मापने वाला एक preprint paper है, जो यह परखता है कि सीखने और काम में व्यापक रूप से इस्तेमाल होने वाले AI tools क्या सीखने की क्षमता को कमजोर कर सकते हैं
- प्रतिभागियों को LLM, Search Engine, और Brain-only समूहों में बांटा गया और उन्होंने 3 बार निबंध लिखे; 4वें राउंड में LLM समूह के कुछ प्रतिभागियों ने बिना tool के लिखा, जबकि Brain-only समूह के कुछ प्रतिभागियों ने LLM का उपयोग किया
- राउंड 1~3 में 54 लोग, और राउंड 4 में उनमें से 18 लोग शामिल हुए; साथ में EEG, NLP analysis, session-wise interviews, human teachers, और अलग से बनाए गए AI judge की grading का उपयोग किया गया
- जितना अधिक external support मिला, उतनी ही brain connectivity कम दिखी; Brain-only समूह में सबसे मजबूत network, Search Engine समूह में मध्यम स्तर, और LLM support में सबसे कमजोर overall coupling दिखी
- 4 महीनों में 4 sessions के दौरान LLM समूह ने neural, linguistic, और grading—तीनों स्तरों पर Brain-only समूह की तुलना में कम प्रदर्शन दिखाया, और ownership तथा तुरंत बाद quote करने की क्षमता भी कम थी
निबंध लेखन में मापी गई LLM की cognitive cost
- फोकस इस बात पर है कि शैक्षिक वातावरण में निबंध लिखते समय LLM उपयोग cognitive process पर कैसी लागत छोड़ता है
- LLM personalized learning experience, immediate feedback, और educational resources तक बेहतर पहुंच दे सकता है, लेकिन इसका उपयोग जितना बढ़ता है, critical thinking और deep analysis में भागीदारी उतनी कम हो सकती है
- निबंध लेखन स्कूलों और standardized tests में छात्रों की क्षमता मापने का आम कार्य है, और इसे इसलिए चुना गया क्योंकि यह कई cognitive processes को एक साथ मांगने वाला जटिल काम है
- यह paper अभी preprint, under review स्थिति में है
प्रतिभागी और session design
- प्रतिभागियों को तीन समूहों में बांटा गया
- LLM समूह: निर्दिष्ट LLM tool के साथ निबंध लेखन
- Search Engine समूह: search engine का उपयोग करके निबंध लेखन
- Brain-only समूह: बिना किसी external tool के निबंध लेखन
- राउंड 1~3 में हर प्रतिभागी अपनी मूल group assignment में ही रहा
- राउंड 4 में कुछ प्रतिभागियों की condition बदली गई
- LLM-to-Brain: पहले LLM का उपयोग करने वाले प्रतिभागी अब बिना tool के लिखते हैं
- Brain-to-LLM: पहले बिना tool के लिखने वाले प्रतिभागी अब LLM का उपयोग करते हैं
- राउंड 1~3 में कुल 54 प्रतिभागी शामिल थे, और राउंड 4 को उनमें से 18 ने पूरा किया
- हर session में SAT topics में से एक चुनकर निबंध लिखा गया; राउंड 1~3 में हर session के लिए 3 topics, यानी कुल 9 topics के विकल्प दिए गए
मापन के तरीके
- brain activity मापने के लिए EEG का उपयोग किया गया
- cognitive engagement और cognitive load का आकलन करने के लिए प्रतिभागियों की brain activity रिकॉर्ड की गई
- उद्देश्य निबंध लेखन के दौरान neural activation को और गहराई से समझना भी था
- निबंध के text पर NLP analysis लागू किया गया
- Named Entities Recognition(NER)
- n-gram
- topic ontology
- embedding-based similarity और distance
- हर session के बाद प्रतिभागियों के interviews किए गए
- निबंध संरचना का पालन
- निबंध से quote कर सकने की क्षमता
- quote की accuracy
- निबंध पर ownership
- satisfaction आदि की जांच की गई
- grading के लिए human teachers और अलग से बनाया गया AI judge दोनों का उपयोग किया गया
EEG परिणाम: external support बढ़ने पर brain connectivity घटी
- तीनों समूहों ने अलग-अलग neural connectivity patterns दिखाए, जो अलग cognitive strategies को दर्शाते हैं
- brain connectivity, external support की मात्रा बढ़ने के साथ व्यवस्थित रूप से कम हुई
- Brain-only समूह: सबसे मजबूत और व्यापक network
- Search Engine समूह: मध्यम स्तर की engagement
- LLM support: overall coupling सबसे कमजोर
- राउंड 4 में LLM-to-Brain प्रतिभागियों में neural connectivity कमजोर रही और alpha·beta networks में कम engagement दिखी
- इसके उलट Brain-to-LLM प्रतिभागियों में memory recall अधिक था और व्यापक occipito-parietal तथा prefrontal nodes की re-engagement दिखी
- यह pattern संभवतः visual processing से जुड़ा हो सकता है और Search Engine समूह में अक्सर देखे गए pattern जैसा है
language analysis में दिखी निबंधों की विशेषताएं
- हर समूह के भीतर NER, n-gram, topic ontology में लगातार समानता पाई गई
- LLM समूह के निबंधों में समूह के भीतर अधिक homogeneous linguistic features दिखीं
- Search Engine समूह में कुछ topics पर search optimization के प्रभाव जैसे n-gram usage दिखे
- उदाहरण: PHILANTHROPY topic में
homelessn-gram पर फोकस दिखा
- उदाहरण: PHILANTHROPY topic में
- Brain-only समूह के निबंधों के बीच की distance, LLM या Search Engine समूहों की तुलना में हमेशा अधिक और statistically meaningful थी
- कुछ topics में LLM समूह और Brain-only समूह के बीच लगभग orthogonal स्तर का अंतर दिखा
- उदाहरण: HAPPINESS, PHILANTHROPY topics
ownership, memory, और quote करने की क्षमता
- LLM समूह ने interviews में अपने निबंध के प्रति ownership कम दिखाई
- Search Engine समूह में भी ownership ऊंची थी, लेकिन Brain-only समूह से कम
- कुछ मिनट पहले लिखे गए अपने ही निबंध से content quote करने की क्षमता भी LLM समूह में कम थी
- Brain-only समूह ने उच्च ownership और उच्च quoting ability दिखाई
- राउंड 4 के Brain-to-LLM प्रतिभागियों ने LLM का उपयोग किया, लेकिन पहले के Brain-only sessions के प्रभाव के साथ बेहतर content integration दिखाया और ownership बंटी हुई रही
राउंड 4 के switching experiment में अंतर
- Brain-to-LLM प्रतिभागियों ने पहले AI के बिना लिखने और फिर AI tool के साथ दोबारा लिखने की condition में अधिक neural connectivity दिखाई
- alpha, beta, theta, delta bands की directed connectivity पूरे network में बढ़ी
- पहले के LLM-only राउंड 1~3 की तुलना में अधिक व्यापक brain-network interaction दिखा
- LLM-to-Brain प्रतिभागियों ने पहले LLM उपयोग के बाद बिना tool के लिखते समय अधिकांश bands में कम coordinated neural effort दिखाया
- LLM-विशिष्ट vocabulary bias भी दिखा
- AI judge और human teachers दोनों ने ऊंचे scores दिए, लेकिन NER·n-gram usage distance में यह अन्य समूहों और sessions की तुलना में कम उभरा
- जब Brain-only समूह ने राउंड 4 में LLM का उपयोग किया, तो brain connectivity शुरुआती Brain-only राउंड 1 pattern पर वापस नहीं गई और Brain-only राउंड 3 स्तर तक भी नहीं पहुंची
- network engagement की एक intermediate state दिखी
निष्कर्ष और सीमाएं
- LLM उपयोग का प्रतिभागियों पर मापने योग्य प्रभाव पड़ा, और शुरुआती फायदे स्पष्ट दिखे, लेकिन 4 महीनों की sessions में LLM समूह ने कई स्तरों पर Brain-only समूह से कम प्रदर्शन किया
- कम प्रदर्शन neural connectivity, linguistic features, और grading results—तीनों में साथ-साथ दिखा
- ऐसे समय में जब आम उपयोगकर्ताओं पर LLM के शैक्षिक प्रभाव अभी आकार लेना शुरू ही कर रहे हैं, learning capability में गिरावट की संभावना एक महत्वपूर्ण मुद्दा बनी हुई है
- यह paper सीखने के वातावरण पर AI के cognitive और practical प्रभावों को समझने के लिए एक प्रारंभिक guide बनने का लक्ष्य रखता है
1 टिप्पणियां
Hacker News की राय
इसे “cognitive debt का जमा होना” कहने के बजाय मैं इसे सीधे cognitive decline या cognitive ability का नुकसान कहूंगा
भाषा का इस्तेमाल न करें तो उसे भूल जाना स्वाभाविक है, और दिमाग गैर-ज़रूरी जानकारी को पकड़े नहीं रखता। Google Maps navigation के उपयोग पर हुई studies में भी ऐसे नतीजे थे कि “GPS का आदतन इस्तेमाल autonomous navigation के दौरान spatial memory पर नकारात्मक असर डालता है” या map users में gray matter की कमी देखी गई
जिसने भी science में expertise बनाई है, वह जानता है कि किसी चीज़ को समझने के लिए उसे बार-बार सोचना पड़ता है, और यह खोजना पड़ता है कि हर idea दूसरे ideas से कैसे जुड़ता है। सिर्फ़ maths textbook को सरसरी तौर पर पढ़ लेने से maths नहीं आती; रुककर सोचना पड़ता है। मेरे हिसाब से बाद में सोचने में इस्तेमाल होने वाली mental objects खुद सोचने की क्रिया से ही बनती हैं
बहुत लिखना पड़ता है। Writing दिमाग को विचारों को structure करने में मदद करती है, अपने-आप से structured बातचीत संभव बनाती है, और कई रास्ते explore करवाती है। सिर्फ़ सोचने और मनन करने से जल्द ही सीमा आ जाती है, लेकिन writing विचारों को लगभग अंतहीन रूप से explore करने देती है
अगर thinking का writing से इतना गहरा संबंध है, और writing prose, drawings, equations, graphs, charts—कुछ भी हो सकती है, तो यह देखना दिलचस्प है कि LLMs के increasingly ज़्यादा writing अपने हाथ में लेने से cognitive ability पर क्या असर पड़ेगा
LLM से बहुत सारा text लिखवाना, structure बनवाना, arguments और visuals तैयार करवाना बहुत tempting होता है। थोड़ा-थोड़ा और काम उसे सौंपते जाएं तो अंत में वह output बिल्कुल आपका अपना नहीं रह जाता
लेकिन उस report पर मेरा नाम होता है, और मुझसे उसे explain और understand करने की अपेक्षा की जाती है। असल में report दिमाग में मौजूद “high-dimensional reality” का “two-dimensional projection” होनी चाहिए, लेकिन 1/10 समय में उगला गया report ऐसा नहीं होता। कागज़ पर वह ठीक-ठाक लग सकता है, पर concepts समझाने हों तो अटकना पड़ता है
अंततः समझ आता है कि काम खुद करना होगा, mental model बनाना होगा, उसे express करना होगा, फिर से express करना होगा, और बार-बार express करना होगा। target audience के हिसाब से अलग-अलग तरीकों से करना होगा
LLM से पहले report लिखने के लिए जो mental model बनाना पड़ता, और LLM का इस्तेमाल करने पर जिसे लगभग बनाए बिना काम चल जाता है—इन दोनों के बीच के gap को समझाने के लिए cognitive debt शब्द ठीक लगता है
आखिरकार report या paper पर मेरा नाम होता है। author के रूप में मुझसे क्या अपेक्षा की जा सकती है? समय के साथ वह अपेक्षा कम भी हो सकती है। अगर गहरे सवाल उठें, तो शायद author को bypass करके LLM के “mental” model पर निर्भर किया जाने लगे। लेकिन LLM जैसे दूसरे models मूलभूत सत्य और reality के बारे में अलग-अलग “models”, यानी prediction algorithms रख सकते हैं। सबसे accurate prediction संभव कराने वाला कौन सा है? उसके लिए एक निश्चित depth of understanding चाहिए, और LLM पर अत्यधिक निर्भर होकर लिखने से वह गहराई नहीं बनती
लंबे समय में यह सचमुच population level पर “cognitive decline, या cognitive ability के नुकसान” की ओर ले जा सकता है, लेकिन ऐसा पक्का कहना सावधानी मांगता है। printing press ने वैसा परिणाम नहीं दिया था, हालांकि उस समय के religious elites को चिंता थी कि आम लोग texts की सही interpretation नहीं कर पाएंगे
इस thread में भी जैसा कहा गया, “writing is thinking” मुझे सही लगता है। हालांकि writing से बेहतर कोई ऐसी चीज़ भी हो सकती है जिसे हमने अभी invent नहीं किया है। सोचने का मतलब है ऐसा detailed mental model विकसित करना जो भविष्य को chance से बेहतर probability के साथ predict करने दे। हमारा survival इसी पर निर्भर है, और information theory के नज़रिए से evolution भी यही है [0]। “information की रोशनी के बिना biology में कुछ भी अर्थपूर्ण नहीं है”
[0] https://www.youtube.com/watch?v=4PCHelnFKGc
20 साल से यह किया भी नहीं, और मुझे काफ़ी यक़ीन है कि आगे फिर कभी करने की ज़रूरत नहीं पड़ेगी
paper का “cognitive debt” term के लिए references या citations न देना भी इसे अजीब title जैसा बनाता है। शायद इसे आखिरी समय में बदला गया हो
MIT से आई एक दिलचस्प study है। सभी psychology studies की तरह इसे healthy skepticism और independent verification चाहिए। imaging और psychometric evaluation तक सब कुछ डाल देने वाला mixed bag भी लगता है, लेकिन “LLM इस्तेमाल करने पर आपका brain ऐसा दिखता है” जैसी तस्वीर किसे पसंद नहीं आएगी
LLM अब धीरे-धीरे एक और ऐसी तकनीक जैसा लगने लगा है जिसके प्रति समाज खुद immunity विकसित कर लेगा
शिक्षा में यह पहले ही शुरू हो चुका है: शिक्षक छात्रों से बातचीत करते हैं, उन्हें सीखते हुए देखते हैं, और यह पुष्टि करते हैं कि वे कौशल दिखा पा रहे हैं। बिज़नेस में भी जल्द ही यह समझ आ जाएगी कि मूल्यवान communication का बड़ा हिस्सा लोगों को खुद ही, अपनी बात के लेखक के रूप में, तैयार करना होगा। लेखक होना ज़्यादातर communication के मूल का लगभग दो-तिहाई है
बेशक, उससे पहले side effects के प्रति सही immunity विकसित करने के लिए हमें सोच के नाटकीय रूप से उथले हो जाने का झटका झेलना पड़ेगा। “औसतपन” में विश्वास रखने वाले भोले प्रशंसकों के सामने विशेषज्ञों की LLM-विरोधी भावना शुरुआती immunity अनुभव जैसी लगती है: https://fly.io/blog/youre-all-nuts/
अपने projects में LLM को “macro” स्तर पर इस्तेमाल करने पर हमेशा मेरी सोच बहुत बिगड़ गई, decision-making मुझसे छिन गई, और बाद में ज़रूरी adaptation के लिए मेरी readiness खराब हो गई। महत्वपूर्ण कामों में LLM सख्ती से केवल micro-level fill-in-the-blanks tool है
यह calculator जैसा नहीं है। यह हाथ से calculation करने के लिए पसंदीदा algorithms छीन लेने की बात नहीं है। यह ऐसी system है जो सोच को ही non-thinking से बदल देती है, और जहाँ भी इसे इस्तेमाल किया जाता है वहाँ readiness, depth, adaptability और ownership की भावना को गंभीर रूप से नुकसान पहुँचाती है
मैं बहुत प्रतिभाशाली engineers के साथ कई meetings में शामिल होता हूँ, लेकिन अक्सर वे अपने तर्क इस तरह पेश नहीं कर पाते कि तकनीकी और गैर-तकनीकी दोनों लोग साथ चल सकें। लिखने और बोलने में एक कला होती है, और अब अपने late 40s में जाकर ही मैं उसकी कीमत सच में समझना शुरू कर रहा हूँ। भाषा एक शक्तिशाली tool है, और कभी-कभी एक शब्द का चुनाव किसी argument को बचा भी सकता है और बिगाड़ भी सकता है
मुझे नहीं दिखता कि LLM इस स्थिति को कुल मिलाकर बहुत बदतर बनाने के अलावा क्या कर सकता है
डरावनी बात सिर्फ यह नहीं कि वे सोचने से बचने के लिए ChatGPT इस्तेमाल करते हैं, बल्कि यह भी है कि उन्हें लगता है कोई notice नहीं करेगा, या वे मानते हैं कि adults ऐसे ही बातचीत करते हैं
सच कहूँ तो बहुत-सा communication खास valuable नहीं होता। फिर भी वह बनता रहता है, और अगर कोई उसे पढ़ता ही नहीं, तो क्या generation को automate कर देना ठीक नहीं होगा
बेशक, कई महत्वपूर्ण चीज़ें भी हैं जिन्हें सही तरह से करना ज़रूरी है
मैं academia में हूँ, जहाँ सिद्धांततः सबसे अधिक सोच मांगने वाले professions में से एक होना चाहिए। फिर भी मेरी लिखी हुई चीज़ों में आधे से ज़्यादा तरह-तरह की reports, grant applications, ethics और data management applications, recommendation letters, administrative forms आदि होते हैं। ये इस अर्थ में “valuable” नहीं कहे जा सकते कि इनमें उपयोगी सोच की ज़रूरत हो; बस बेवकूफाना requirements पूरी हो जाएँ, इससे किसी को फर्क नहीं पड़ता कि text मेरी तरह सुनाई देता है या नहीं
ऐसे use cases में LLM एक वरदान है, और क्योंकि यह actual research और face-to-face teaching के लिए अधिक समय देता है, इसलिए उल्टा सोचने में मदद करने की संभावना ज़्यादा है
यहाँ जिस cognitive debt की चर्चा है, वह सही है, लेकिन मुझे लगता है कि शायद बहुत conservative है
यह language जैसी skills भूल जाने या GPS इस्तेमाल करने से spatial memory खोने भर की बात नहीं है। यह integrated reasoning संभालने वाले neural pathways के systematic और irreversibly सिकुड़ने की समस्या हो सकती है
मुख्य risk “debt” अपने-आप में नहीं है, जिसमें यह nuance है कि practice से उसे चुकाया जा सकता है, बल्कि cognitive tipping point पार करना है। यह वह critical point है जहाँ executive function, synthesis और argumentation LLM जैसे external systems में इतने अधिक shift हो जाते हैं कि biological brain निर्मम efficiency के तहत इस्तेमाल न होने वाले connections को prune ही नहीं करता, बल्कि उन्हें फिर से बनाने की meta-ability भी खो देता है
हमारा biological wet hardware बिना version control वाला “use it or lose it” system है। जब complex cognitive functions atrophy होते हैं, तो “source code” damage हो जाता है। गहरी और structured thinking को support करने वाले ढह चुके neural networks के लिए कोई git revert नहीं है
यह HN thread essay writing पर केंद्रित है, लेकिन scale बढ़ाकर देखें तो हम collective cognition को outsource करने का एक विशाल, uncontrollable experiment कर रहे हैं। लंबी अवधि का परिणाम कम skilled लोगों का समाज नहीं, बल्कि ऐसे लोगों का समाज हो सकता है जो हमारे world को बनाने वाली किस्म की thinking को structurally कर ही नहीं सकते
इसलिए सवाल “cognitive debt से कैसे बचें?” नहीं है। सचमुच डरावना सवाल है: “अगर biological mind का vessel इतनी बेरहमी से, और शायद irreversibly, आलस्य के लिए optimize हो जाए, तो हमारे mind को किस तरह के vessel की ज़रूरत है?”
https://github.com/dmf-archive/dmf-archive.github.io
जो नहीं पता उसे पूछने या “boring parts” skip करने के लिए ये अच्छे हैं। खासकर किसी obscure technical problem का solution forums या social media के कई pages में ढूँढने की प्रक्रिया मुझे ज़रा भी smarter बनाती है, ऐसा नहीं लगता। वैसे भी information verify करनी होती है और सावधानी से लेनी होती है
अगर StackExchange अपने original intention के अनुसार होता, तो वह text models से कहीं ज़्यादा valuable होता। लेकिन वास्तविक लोग imperfect होते हैं और उनके साथ तरह-तरह के cognitive biases और baggage आते हैं, जबकि LLM किसी सवाल को recommendations और interactions मिलने के तुरंत बाद “too broad” कहकर बंद नहीं करता
इसके उलट, जिन topics को मैं अच्छी तरह जानता हूँ उन पर LLM writing मुझे अब भी काफी inferior लगती है। उदाहरण के लिए, email लिखने की कोशिश करूँ तो direction बनाए रखने के लिए prompt ठीक करना पड़ता है, या output को बहुत rewrite करना पड़ता है, और अंत में लगभग उतना ही समय लग जाता है। Text model को proofread या peer review करने से बेहतर है कि मैं अपने flow में खुद लिखूँ
AI Zettelkasten का उलटा है
किसी विषय पर सक्रिय रूप से काम करते हुए धीरे-धीरे गहरी insights पाने के बजाय, हम AI से बनाए गए content corpus के ऊपर तेज़ी से लेकिन सतही ढंग से iteration करते हैं
उदाहरण के लिए, Middle East की स्थिति को बेहतर समझने के लिए मैंने OpenAI को co-author बनाकर Hamas और Hizbulah की उत्पत्ति पर 10 पेज का essay लिखा
लेकिन मुझे कुछ भी याद नहीं है, और इससे भी बुरा यह कि जो याद है वह मेरे द्वारा ठीक किए गए hallucinations हैं या वास्तविक facts, यह भी नहीं पता
LLM, आपकी जगह लिख देने वाला tool नहीं, बल्कि गलतियां खोजने, gaps और errors बताने, और दुनिया के बारे में सामान्य सवालों की जांच में मदद करने वाला tool हो तो एक बेहतरीन sparring partner बन सकता है. बेशक हमेशा सावधानी रखनी और sources verify करनी चाहिए
आप यह sense विकसित कर लेते हैं कि model को कैसे steer करना है और hallucinations कैसे कम करने हैं, लेकिन इससे साफ़ तौर पर समझाए जा सकने वाला knowledge जमा नहीं होता, न ही challenging thinking होती है. यह कुछ हद तक muscle memory जैसी प्रतिक्रियाएं सीखने जैसा है—LLM output के किसी खास रूप को देखकर तय करना कि उस पर ज्यादा भरोसा करना है या नहीं, कोई दूसरी prompt strategy आजमानी है या नहीं, context clear करना है या नहीं
भले ही इसे skill कहा जा सके, model बेहतर होने पर कुछ सालों में इसके बेकार हो जाने की संभावना बड़ी है. यह assembly line worker जैसी बेबसी का एहसास कराता है
व्यक्तिगत रूप से नतीजे चौंकाने वाले नहीं हैं. जब मैं अपने writing या translation work में AI का इस्तेमाल करता हूं, तो मुझे ऐसा महसूस नहीं होता कि मैं writing या translation process में उतनी मानसिक गहराई से शामिल हूं जितना सब कुछ खुद करने पर होता है
लेकिन मैंने यह भी पाया कि AI को दूसरे तरीके से इस्तेमाल करना अपने आप में बहुत mentally immersive हो सकता है. पिछले 2 हफ्तों से मैं Claude Code के साथ प्रयोग कर रहा हूं कि essays और research papers की brainstorming, research और writing को कितना पूरी तरह automate किया जा सकता है. मैं उतनी ही गहराई से डूबा रहा जितना खुद लिखते या translate करते समय, लेकिन immersion का रूप अलग है
अब तक प्रयोग के नतीजे काफी अच्छे हैं. यानी, यह जानते हुए भी कि essays और papers AI agent ने लिखे हैं, उन्हें पढ़ना अक्सर रोचक लगता है. बेशक उन्हें publish या share करने की कोई योजना नहीं है
मुझे आश्चर्य होता है कि कहीं मैं उस increasingly rare group का हिस्सा तो नहीं बन जाऊंगा जो सचमुच कुछ कर सकता है, जबकि बाकी लोग धीरे-धीरे अक्षम होते जाएं
“LLM group के participants ने brain activity, language और scores—हर स्तर पर Brain-only group से कम प्रदर्शन किया” — यह आश्चर्यजनक नहीं, लेकिन निराशाजनक है
जब इंसान की भूमिका सिर्फ result को review करके stamp लगाने की रह जाती है, तो आम तौर पर वह बहुत खराब करता है
मैं कुछ समय से सोचता रहा हूं कि genuine augmentation workflow बनाने के लिए engagement का तरीका ही key है. LLM द्वारा लिखा code review करना? खास नहीं. LLM मेरे changes देखता रहे और feedback दे? यह बिल्कुल अलग बात है. यह मुश्किल है और शायद बहुत लोकप्रिय भी न हो, लेकिन अगर हम किसी तरह driver’s seat में नहीं रहे तो हालात काफी gloomy हो सकते हैं
[1]: https://en.m.wikipedia.org/wiki/Ironies_of_Automation
https://dune.fandom.com/wiki/Butlerian_Jihad
अब coding का अधिकांश हिस्सा AI से करते हुए एक थोड़ा अप्रत्याशित side effect यह रहा कि मैं कहीं कम थकता हूं और ज्यादा देर तक focus कर पाता हूं
यह दूसरे distractions मौजूद होने पर भी काम पूरा करने में मदद करता है. मूल रूप से, कुछ mental capacity AI को सौंप देने से बाकी जगह capacity खाली हो जाती है
पहले unexpected errors या documentation check जैसी चीज़ें “speed bumps” का काम करती थीं, जिनसे सांस लेने का मौका मिलता था, और आम तौर पर तब पता चल जाता था कि मैं कितना थक गया हूं, तो थोड़ा रुक जाता था
AI के साथ वे speed bumps अभी भी हैं, लेकिन कभी-कभी थोड़ा extra momentum मिल जाता है, जिससे मैं इतना धीमा नहीं पड़ता कि सोच सकूं कि मैं कितना थक चुका हूं
AI का सही होना भी ज़रूरी नहीं. मौजूदा situation के हिसाब से दिया गया suggestion पढ़ना भर मेरे thought flow को trigger कर देता है, और फिर उसे वापस रोकना मुश्किल हो जाता है
आप शहर से बाहर Walmart तक पैदल जाकर सामान लेकर लौट सकते हैं, लेकिन car इस्तेमाल करने पर यह बहुत तेज़ और कम थकाऊ होता है. तब आप अपनी पसंद की चीज़ों पर ज्यादा quality time लगा सकते हैं
GAN के लोकप्रिय दौर में मैंने image generation के लिए generator-discriminator model train किया था
काफी सोचने पर समझ आया कि discrimination, generation से कहीं आसान है
उदाहरण के लिए, मैं अच्छा UI और खराब UI अलग कर सकता हूं, लेकिन जान बचाने की नौबत आ जाए तब भी अच्छा UI नहीं बना सकता. फिल्म अच्छी है या नहीं, यह तुरंत पता चल जाता है, लेकिन एक ठीक-ठाक short story लिखना कठिन काम है
मैं judge कर सकता हूं कि कोई drawing कितनी realistic है, लेकिन एक साधारण bicycle भी ऐसी नहीं बना सकता कि दूसरों को भरोसा हो जाए
कई मामलों में मैं judge कर सकता हूं कि LLM output अच्छा है या खराब. फिर एक crude strategy के तौर पर खराब results फेंककर तब तक generate करते रह सकते हैं जब तक target हासिल न हो जाए. LLM इसी discrimination और generation के gap की वजह से उपयोगी है
ये दोनों skills अलग हैं. Generate करने की क्षमता सीखना मुश्किल है और बहुत मूल्यवान है. अगर लगातार practice न की जाए तो यह सिकुड़ जाएगी
लेकिन ज्यादा complex tasks, खासकर जहां deep evaluation चाहिए, वहां ऐसा ज़रूरी नहीं. उदाहरण के लिए, 5 non-trivial PRs review करना उन्हें खुद लिखने से ज्यादा मुश्किल और समय लेने वाला हो सकता है
Images या छोटी stories में यह इसलिए अच्छा काम करता है क्योंकि आप जो filter लगा रहे हैं वह “अच्छा vs खराब” नहीं, बल्कि पसंद आया vs पसंद नहीं आया है
मुझे लगता है कि हम ऐसी तकनीक के साथ ज़्यादा स्वस्थ रिश्ता बनाना सीख लेंगे। समय-सीमा पता नहीं। इसमें पीढ़ियाँ लग सकती हैं, या यह उम्मीद से जल्दी भी हो सकता है
यह साफ़ है कि language models असल में accelerant हैं। लेकिन अगर औसत व्यक्ति ज़्यादा “अच्छा बोलने” लगे, तो कच्ची intelligence का संकेत भी समय के साथ बदल जाएगा
कोई भी language model के साथ रिश्ता नहीं बनाना चाहता। लेकिन language models उन लोगों की मदद कर सकते हैं जो जीवन के बड़े बदलावों और निराशाओं से निपटने के लिए तैयार नहीं हैं। यह एक tool है, बस इसका इस्तेमाल करना आना चाहिए
एक वास्तविक उदाहरण के तौर पर relationship advice को देखें। समय के साथ “ChatGPT-guided relationship” शायद दो तरह की हो जाएगी। एक “copy-paste type” होगी, जो पहले से ही कमज़ोर communication में बस complexity जोड़ती है—यानी “मैंने बस वही copy कर दिया जो ChatGPT ने कहा” वाली type—और दूसरी “accelerated type” होगी, जिसमें ChatGPT से अपनी और partner की motivations का analysis करके common problems के बेहतर solutions खोजे जाते हैं
दूसरी type को ठीक से परखने के लिए अब भी दिमाग़ और empathy चाहिए। पहली type हमेशा heartbreak पर खत्म होगी। मुझे भरोसा है कि लोग आखिरकार यह फर्क समझ लेंगे
मेरा direct या indirect experience नहीं है, लेकिन मैंने ऐसे कई cases सुने हैं जहाँ लोग सचमुच AI के साथ किसी तरह के relationship में पड़ जाते हैं, और उसकी appeal भी कुछ हद तक समझ आती है। आपके पास ऐसा “कोई” हो सकता है जो पूरी तरह judge न करे, जब आप अपनी बात कहना चाहें तो हमेशा मौजूद हो, और आपसे कोई demands न करे। यह असली relationship जैसा बिल्कुल नहीं है, लेकिन सबसे खराब human relationships से objectively बेहतर है और loneliness की तुलना में mental health के लिए बेहतर होने की संभावना भी है
अच्छा हो या बुरा, अगले 10 सालों में human-AI relationships तेज़ी से बढ़ेंगे लगते हैं। एक तरफ memory और long-term planning capabilities में, और शायद robotic bodies में improvements होंगे; दूसरी तरफ loneliness epidemic फैल रही होगी
इसे cognitive offloading कहा जाता है। जिसने coding assistants के साथ पर्याप्त समय तक काम किया है, वह इसे पहचान लेगा
यह higher abstraction level पर काम करने का inevitable result है। यह दुनिया का अंत नहीं है। मेरी assembly skills भी जंग खा चुकी हैं