- मनुष्यों द्वारा सीधे लिखे गए वैज्ञानिक लेखन का महत्व LLM युग में भी लगातार रेखांकित किया जा रहा है
- लेखन केवल शोध परिणामों को संप्रेषित करने से आगे बढ़कर विचारों को परिष्कृत करने और नए विचार खोजने का एक उपकरण है
- LLM द्वारा लिखा गया टेक्स्ट जवाबदेही और प्रामाणिकता में कमजोर होता है, और गलत जानकारी पैदा करने (hallucination) का जोखिम भी बड़ा है
- LLM का readability सुधारने, grammar correction, idea generation जैसे टूल के रूप में उपयोग प्रभावी है, लेकिन पूरा लेखन उसे सौंप देने पर critical thinking और creative thinking के अवसर खो सकते हैं
- रचनात्मक शोध narrative बनाने का अनुभव और उस पर चिंतन का अवसर मनुष्य की विशिष्ट और महत्वपूर्ण प्रक्रिया है
LLM के युग में मनुष्य-जनित वैज्ञानिक लेखन का मूल्य
- वैज्ञानिक लेखन शोध-पद्धति का एक केंद्रीय हिस्सा है और शोध परिणामों को संप्रेषित करने की सामान्य परंपरा भी
- लेखन केवल परिणामों की रिपोर्टिंग नहीं, बल्कि संरचित और उद्देश्यपूर्ण तरीके से विचारों को व्यवस्थित कर मुख्य संदेश निकालने की प्रक्रिया है
- ऐसे शोध निष्कर्ष भी मौजूद हैं कि हस्तलेखन मस्तिष्क की connectivity तथा learning और memory पर सकारात्मक प्रभाव डालता है
मानव-केंद्रित वैज्ञानिक लेखन की आवश्यकता
- यह तर्क प्रस्तुत किया गया है कि मनुष्यों द्वारा सीधे लिखे गए वैज्ञानिक लेखन के महत्व को लगातार स्वीकार किया जाना चाहिए
- LLM का उपयोग करके पूरे शोध-पत्र या peer review report को जल्दी लिखा जा सकता है, लेकिन LLM लेखक नहीं हो सकता (जवाबदेही का अभाव)
- यदि लेखन ही सोचना है, तो LLM द्वारा लिखा गया शोध-पत्र पढ़ना मानो शोधकर्ता के नहीं बल्कि मॉडल के ‘विचार’ पढ़ने जैसा है — यही एक प्रमुख समस्या बताई गई है
LLM के उपयोग की सीमाएँ और सावधानियाँ
- मौजूदा LLM गलत जानकारी उत्पन्न कर सकते हैं, जिसे ‘hallucination’ कहा जाता है
- LLM द्वारा बनाए गए उद्धरण या संदर्भ काल्पनिक हो सकते हैं, इसलिए हर बात की सावधानी से जाँच करनी पड़ती है, और व्यवहार में इसमें अधिक समय भी लग सकता है
- LLM की कुछ समस्याएँ केवल वैज्ञानिक डेटाबेस पर प्रशिक्षित मॉडल से सुधर सकती हैं, लेकिन वास्तविक दक्षता अभी भी अनिश्चित है
LLM के सकारात्मक उपयोग के तरीके
- LLM का पठनीयता सुधारने, grammar correction, विभिन्न शोध-पत्र खोजने और सारांश बनाने, idea brainstorming जैसे कार्यों में उपयोगी ढंग से इस्तेमाल किया जा सकता है
- writer’s block से निकलने, अलग-अलग तरह की व्याख्याएँ सुझाने, नए विषयों के बीच संबंध खोजने में भी यह रचनात्मक सोच का सहायक हो सकता है
मनुष्य की विशिष्ट रचनात्मकता और आत्मचिंतन का मूल्य
- लेकिन पूरा लेखन LLM को सौंप देना शोध क्षेत्र के बारे में चिंतन और रचनात्मक narrative निर्माण के अवसर खो देने का कारण बनता है
- शोध सामग्री को आकर्षक और प्रभावशाली कहानी के रूप में पुनर्गठित करने की प्रक्रिया अकादमिक पेपर से आगे बढ़कर एक अनिवार्य मानवीय क्षमता है
1 टिप्पणियां
Hacker News राय
मेरा मानना है कि पढ़ना भी सोचना ही है। और क्योंकि पढ़ना और लिखना दोनों सोचने की प्रक्रियाएँ हैं, इन्हें आदतन AI models को सौंप देना खतरनाक है। खासकर छात्रों के विकास के दौर में, उन्हें पढ़ने और लिखने के जरिए खुद सोचना सीखना चाहिए—आत्मचिंतन, नोट्स आदि के साथ लगातार अभ्यास ज़रूरी है। यह calculator के इस्तेमाल जैसा है; कुछ बुनियादी क्षमता आने के बाद electronic calculator का उपयोग ठीक है, लेकिन सबसे पहले दिमाग से गणना करना या हाथ से हल करने का अनुभव होना चाहिए। इसकी वजह input mistakes और परिणाम की जाँच करने की आदत है। मुझे चिंता है कि जिन छोटे छात्रों की सोचने की क्षमता अभी पूरी तरह विकसित नहीं हुई, वे LLM को काम सौंपना शुरू कर रहे हैं
मैं प्राचीन मिस्र में लिपि के आविष्कार की कहानी (Plato के Phaedrus से उद्धृत) का उदाहरण देना चाहूँगा। Thoth, Thamus को लिपि के लाभ बताता है, लेकिन Thamus चेतावनी देता है कि लिखित शब्दों पर निर्भरता स्मृति को कमजोर कर देगी। यानी यह बहस 2000 साल से भी अधिक समय से दोहराई जाती रही है। मुझे भी लगता है कि शायद Thamus की बात सही हो सकती है, लेकिन वास्तविकता यह है कि अब हम सब पढ़ने और लिखने के सहारे ही जीवन जीते हैं
वास्तव में कागज़ पर कुछ लिखने की क्रिया अपने आप में गहरी सोच को जन्म देती है। खासकर engineering में यह आत्मसात करना महत्वपूर्ण है। इसी वजह से कई tech कंपनियों में RFC जैसी documentation culture विकसित हुई है। इससे लेखक को भी, और reviewer को भी, बहुत मदद मिलती है
पढ़ना दूसरों के विचारों का अनुसरण करना है, लेकिन लिखना अपने विचारों की सीधे पड़ताल करने की प्रक्रिया है। यही कारण है कि लिखना बहुत लोगों के लिए कष्टदायक होता है, और साथ ही ज़रूरी भी। और, सिखाना भी महत्वपूर्ण है। विचारों को स्पष्ट रूप में तराशना बहुत मूल्यवान और कठिन काम है
मेरा मानना है कि LLM का सोच पर प्रभाव calculator जैसा ही है। यह कुछ चरणों को छोड़ने देता है, लेकिन उसी वजह से नई तरह की सोच संभव होती है। मेरी सोच LLM की वजह से बढ़ी है। क्योंकि LLM repetitive काम कम कर देता है, मैं जानकारी के सिर्फ 'signal' को जल्दी निकालने या अलग-अलग क्षेत्रों के ideas को जोड़ने में ज़्यादा समय और ऊर्जा लगा पाया। गलतियाँ हो सकती हैं, लेकिन LLM के बिना भी मैं लगभग वही गलतियाँ करता, बस धीमा होता। सच तो यह है कि जिन क्षेत्रों में मैं expert नहीं हूँ, वहाँ शायद research ही छोड़ देता या मेरी सोच बहुत सीमित रह जाती। LLM को रोक देने से सोच गहरी नहीं हो जाती। जैसे calculator पर रोक लगाने से हर कोई गणित में अच्छा नहीं हो जाता, लेकिन calculator की अनुमति होने पर गणित पसंद करने वाले लोग बहुत आगे तक जा सकते हैं
ये बच्चे ऐसे भविष्य में रहेंगे जहाँ AI और अधिक विकसित होगा। दुनिया तेजी से बदल रही है, इसलिए मुझे विश्वास है कि बच्चे भी खुद समझ जाएँगे। लेकिन यह भी सच है कि internet generation ने जिस digital abundance का सपना देखा था, वह अब धीरे-धीरे बेकार content की बाढ़ और information warfare के दुःस्वप्न में बदलता जा रहा है
मैं Paul Graham की यह बात उद्धृत करना चाहूँगा: "लिखना ही सोचना है। अच्छा लिखने के लिए स्पष्ट सोचना पड़ता है, और स्पष्ट सोचना बहुत कठिन काम है। सोचने का एक खास रूप ऐसा है जो केवल वास्तव में लिखने की प्रक्रिया से ही संभव होता है। अगर आप लिखे बिना सिर्फ सोचते हैं, तो आप बस यह भ्रम पालते हैं कि आप सोच रहे हैं। अगर दुनिया 'लिखने वालों' और 'न लिखने वालों' में बँट जाए, तो उसका नतीजा ऊपर से दिखने की तुलना में कहीं अधिक खतरनाक होगा। तब दुनिया 'सोचने वालों' और 'न सोचने वालों' में बँट जाएगी"
https://www.paulgraham.com/writes.html
सोच और लिखना गहराई से जुड़े हुए हैं। सोच और ChatGPT का उपयोग वैसा संबंध नहीं रखते
MIT Media Lab के 'Your Brain on ChatGPT' का लिंक: https://share.google/RYjkIU1y4zdsAUDZt
मुझे हैरानी होती है कि LLM वास्तव में वैज्ञानिक शोधपत्र कैसे "लिख" सकता है। उदाहरण के लिए, जब western blot results, किसी खास genetically modified mouse का data, single-cell sequencing data आदि दिए जाते हैं, तो paper में एक नया protein उजागर किया जाता है और यह समझाया जाता है कि mouse के gene edit करने से कौन-सा pathway बदलता है। LLM को कौन-सा raw material दिया जाए, और LLM यह कैसे समझे कि यह खोज अर्थपूर्ण क्यों है? मेरे विचार में LLM मूलतः वही paraphrase करता है जो मैं उससे कहलवाता हूँ। वास्तव में writing का कठिन हिस्सा यह तय करना है कि 'कहानी को कैसे आगे बढ़ाया जाए'
graduate school में जाने पर हर field में paper लिखने का एक standard format सिखाया जाता है। अगर LLM ने उस field के पर्याप्त papers सीख लिए हों, तो user द्वारा दी गई जानकारी को सही sections में अपने आप रख सकता है। paper लिखने में अधिकतर समय citations सँभालने और format मिलाने में जाता है, इसलिए ऐसे stylistic और repetitive काम LLM कर दे तो बेहतर ही है। scientist के लिए rigor और clarity महत्वपूर्ण हैं, लेकिन style-matching वाला छोटा-मोटा काम automation को सौंपना चाहूँगा
LLM arXiv जैसे paper repositories के पूरे corpus को सीखकर संबंधित papers को इंसानों से भी बेहतर समझ सकता है
LLM plan या outline पहले बना सकता है, इसलिए यह भी एक तरह की writing ही है
बोलना भी सोचना ही है। इसी वजह से speech की freedom पहला constitutional amendment भी है। अगर कोई मेरे बोलने के अधिकार को सीमित करता है, तो वह मेरी सोच को भी नियंत्रित करता है।
लिखना 'Harry Potter' के 'Pensieve' जैसी एक superpower है। यह दिमाग से ideas निकालकर उन्हें analysis के कई स्तरों पर देखने देता है, और स्मृतियों को आसानी से store और organize करने में मदद करता है
speech की freedom को लेकर आज की धारणा वास्तव में अपेक्षाकृत नई है; यह 1910~1920 के दशक में स्थापित हुई। उससे पहले 'free speech' का अर्थ आज से बहुत अलग था—इस पर एक शानदार podcast (Radiolab आदि) भी था
संबंधित वेबसाइट: https://voicebraindump.com
जब लोग कहते हैं कि "लिखना महत्वपूर्ण है", तो क्या वे वास्तव में यह नहीं कह रहे होते कि "मैं लिखते हुए अधिक समझदार महसूस करता हूँ और अच्छा लगता है"? असल में हम लंबे समय तक दिमाग में ideas को जोड़ते रहते हैं, और जब वे सब इकट्ठे हो जाते हैं तभी उन्हें ऊँचे स्तर पर synthesize करते हैं; मुझे लगता है कि लोग अक्सर इस वास्तविक synthesis को लिखने की क्रिया समझ बैठते हैं। अगर मैंने एक हफ्ता पहले लिखने की कोशिश की होती, तो वह निष्फल होता
कम से कम मेरे लिए ऐसा नहीं है। विचारों, ideas और ज्ञान को कागज़ पर ठोस रूप देने की प्रक्रिया में मुझे गलतियाँ और कमियाँ दिखती हैं, और उन्हें सुधारने का मौका मिलता है। यह सिर्फ correction तक सीमित नहीं रहता; नए दृष्टिकोण और नए angles भी उभरते हैं—ऐसी चीज़ें जो पहले मेरी चेतना में थीं ही नहीं। मैं writing को thinking का tool मानता हूँ। एक और tool है group brainstorming या discussion। ऐसी प्रक्रियाएँ मेरी सोच को पूरक बनाती हैं, अधिक मजबूत करती हैं, और नई दिशाएँ या connections भी दिखाती हैं। Paul Graham का essay (ideas को words में बदलने पर) और Paul Zissner की किताब Writing to Learn भी मैं recommend करता हूँ। writing सीखते समय अभ्यास के रूप में इसे करना एक तरह का 'teaching' effect देता है, जो Feynman learning method से भी मेल खाता है
https://paulgraham.com/words.html
अपने व्यक्तिगत अनुभव से कहूँ तो, जब मैं वास्तव में लिखता हूँ, तब अपनी सोच या ज्ञान के contradictions और gaps पकड़ पाता हूँ। उन्हें ढूँढना और ठीक करना ही वह कारण है कि मैं कहता हूँ 'लिखना ही सोचना है'
मैं सहमत नहीं हूँ। मेरा तरीका यह है कि पहले अलग-अलग, आपस में न मिले हुए विचारों को सब लिख लेता हूँ, फिर structure उभरने तक उन्हें सजाता और दोबारा व्यवस्थित करता हूँ। अंत में एक synthesized परिणाम बन जाता है। कुछ structure शायद दिमाग में पहले से था, लेकिन वह स्पष्ट नहीं था। बार-बार rearrange करना ही इस बात का प्रमाण है कि writing स्वयं synthesis का काम है
कमियाँ या errors तभी दिखती हैं जब उन्हें लिखकर सामने रखा जाए। अनुभव से कहूँ तो, बिना लिखे मैं उन्हें कभी नहीं पकड़ पाता
यह नज़ररिया कुछ ज़्यादा cynical है। हर व्यक्ति का सोचने और काम करने का तरीका अलग होता है, और हर किसी को अलग तरह का लाभ मिलता है। ज़्यादातर लोग यह बात 'writing एक virtue है' का दिखावा करने के लिए नहीं कहते
"लिखना ही सोचना है" इस संदेश से मैं सहमत हूँ, लेकिन यह शर्तों के साथ सही है। यह हमेशा से ऐसा नहीं था। वास्तव में, writing सस्ती होने के बाद ही हमने लिखते हुए अपने विचार विकसित करना सीखा। 18वीं से 20वीं सदी के शुरुआती लेखकों की रचनाएँ और डायरियाँ देखें, तो ऐसा लगता है कि Tolstoy, Zweig, Goethe आदि पूरी किताब पहले दिमाग में रच लेते थे और फिर 20~30 दिनों में एक बार में लिख डालते थे। पहले सोच और writing अलग-अलग थीं। आधुनिक समय में सस्ते कागज़ और computers की वजह से यह तरीका बदल गया। इसका मतलब यह नहीं कि आज का तरीका गलत है, लेकिन 'सोच = writing' ही एकमात्र रास्ता है, ऐसा नहीं समझना चाहिए। Socrates ने भी कहा था कि writing स्मृति को नुकसान पहुँचाती है (और यह पूरी तरह गलत भी नहीं था), फिर भी आज सब writing का इस्तेमाल करते हैं। LLM पर की जाने वाली आलोचना अजीब तरह से विडंबनापूर्ण लगती है। writing को लेकर वही analogy अपने आप याद आती है। जो बच्चे LLM के साथ बड़े होंगे, उनकी सोच का तरीका अलग होगा
बल्कि मुझे लगता है कि यह "सोच ही writing है" वाले दावे की प्रतिक्रिया थी। मैं भी मानता हूँ कि बिना लिखे भी सोचना पूरी तरह संभव है। लेकिन writing सिर्फ तैयार विचार उँड़ेलने का काम नहीं करती; यह मेरे विचारों की आलोचना करने, नए ideas निकालने, उन्हें सरल बनाने या विस्तार देने में मदद करती है। विचारों को लिख देने पर उनका meta स्तर पर review करना बहुत आसान हो जाता है
जब कागज़ महँगा था, तब अस्थायी लेखन के लिए wax tablets या wooden boards का उपयोग किया जाता था। यह दावा कि लोग केवल स्मृति के सहारे पूरी किताब की योजना बनाकर एक ही बार में लिख देते थे, वास्तव में कितना आम था, इस पर मुझे संदेह है; और Tolstoy की War and Peace के लेखन-प्रक्रिया पर प्रमाण भी मौजूद हैं
https://www.amazon.com/Tolstoy-Genesis-Peace-Kathryn-Feuer/dp/0801419026
जब भी मैं मध्ययुगीन दार्शनिक ग्रंथों में लंबे और तार्किक तर्क देखता हूँ, तो अक्सर सोचता हूँ कि उस समय, जब अस्थायी notes के लिए कागज़ भी आम नहीं था, यह सब कैसे विकसित किया गया होगा।
और जहाँ तक इस बात का सवाल है कि "LLM के साथ बड़े होने वाले बच्चे अलग सोचेंगे", तो मैं जानना चाहूँगा कि ठीक कैसे। आज के university students को LLM इस्तेमाल करते देखता हूँ, तो बदलने से ज़्यादा यह चिंता होती है कि वे शायद कम सोच रहे हैं
इससे मिलती-जुलती लेकिन थोड़ी अलग दृष्टि Larry McEnerney की theory में है। वे writing को thinking के लिए writing और communication के लिए writing में बाँटते हैं। thinking के लिए writing Socrates से पहले से मौजूद थी, लेकिन वह अधिक निजी क्रिया के करीब थी। communication के लिए writing का दायरा novels, journalism आदि तक फैला है। Larry मुख्य रूप से इस बात पर ध्यान देते हैं कि research paper तैयार करने वाले students अक्सर इन दोनों को जोड़ नहीं पाते और मुश्किल में पड़ जाते हैं
LLM पारंपरिक "writing" से बहुत अलग है। LLM एक creative agent के अधिक करीब है। मेरे अपने विचारों को बार-बार लिखने और संपादित करने का जो लाभ है, LLM के साथ अब 'कोई दूसरा' मेरे लिए thinking, writing और editing तक कर देता है, इसलिए मेरी अपनी सोच कम हो जाती है। अगर cycle वह चीज़ है जिससे मैं अपनी शक्ति से अधिक दूर जाता हूँ (writing), और car पूरी तरह अलग energy source है (LLM), तो शारीरिक स्वास्थ्य के लिए कौन-सी बेहतर है? और यह दावा कि Tolstoy पूरी किताब दिमाग में रखकर लगभग एक ही झटके में लिख देता था, दिलचस्प है। उसके वास्तविक examples या प्रमाण जानना चाहूँगा। Tolstoy जैसा aristocrat होने पर उसके पास पर्याप्त संसाधन रहे होंगे
बहुत से लोग यह मानते हैं कि अगर LLM मानव writing को ही replace कर दे, तो मानव विकास के लिए खतरा पैदा होगा। मैं इससे अधिक आशावादी हूँ। अगर अच्छी writing अच्छी thinking तक ले जाती है, तो मेरी writing skill सुधारने वाला हर प्रयास मेरी सोचने की क्षमता भी बढ़ाएगा। इस अर्थ में LLM writing skill, और आगे चलकर thinking itself, दोनों को सुधारने में बड़ी मदद कर सकता है। यह background information और संबंधित topics पर शक्तिशाली feedback भी दे सकता है। मेरा विश्वास है कि संयम से LLM का उपयोग किया जाए, तो यह हमें और बेहतर इंसान बना सकता है
जब भी मुझे गंभीरता से गहराई में सोचने की ज़रूरत होती है, मैं sublime text खोलता हूँ और स्थिति को जितना संभव हो उतना संक्षेप में, एक-एक पंक्ति में लिखता हूँ। इस दौरान मैं खुद से बहुत सीधे और बुनियादी सवाल पूछता हूँ, ताकि सार, लक्ष्य और रास्ते को सच में समझ सकूँ। ऐसा लगता है जैसे किसी mafia boss को जवाब दे रहा हूँ—कोई बहाना नहीं, कोई आडंबर नहीं, सिर्फ सच। ऐसा करने पर पूरी संरचना समझ में आने लगती है, और तुरंत करने वाले कामों की सूची भी उभर आती है
मेरे पुराने manager (और editor) अक्सर writing को 'discovery' कहते थे। यानी यह मूलतः thinking के ही समान संदर्भ में है। मैं इस राय से सहमत हूँ