2 पॉइंट द्वारा GN⁺ 2025-01-22 | 1 टिप्पणियां | WhatsApp पर शेयर करें

क्षमा करें, लेकिन दिया गया लिंक मान्य लेख सामग्री शामिल नहीं करता। यदि आप कोई अन्य लेख या सामग्री प्रदान करें, तो मैं उसका सारांश और अनुवाद करने में मदद कर सकता हूँ।

1 टिप्पणियां

 
GN⁺ 2025-01-22
Hacker News टिप्पणियां
  • यह बात तो साफ़ लगती है। किसी सवाल का जवाब सीधे पाने के बजाय खुद रिसर्च करने में समय लगाएं, तो कहीं ज़्यादा सीखते हैं
    कुछ लोग ऐसे अनुशासित हो सकते हैं जो जवाब तुरंत मिल जाने पर भी आगे रिसर्च करें, लेकिन ज़्यादातर लोग ऐसे नहीं होते, और कंपनियां भी लंबे समय के नुकसान की बजाय तेज़, “efficient” और “competitive” समाधान चाहती हैं

    • प्राचीन ग्रीस में भी लिखित भाषा के इस्तेमाल को लेकर पुरानी पीढ़ी की ऐसी ही चिंताओं के रिकॉर्ड मिलते हैं। मौखिक परंपरा में विद्वान को सब कुछ याद रखना पड़ता था, और पढ़ना-लिखना युवाओं की याददाश्त बिगाड़ने वाली बैसाखी माना जाता था
      अब हम एक नए युग की दहलीज़ पर हैं जहां पढ़ने की जगह AI search/retrieval ले रहा है, और यह चिंता वाजिब है कि AI बैसाखी बनकर युवा पीढ़ी को कमज़ोर बना सकता है। हालांकि परिणाम क्या होगा, यह पता नहीं; अभी तक ऐसा कोई संकेत नहीं है कि AI का इस्तेमाल business outcomes को नुकसान पहुंचा रहा है, और “AGI बड़े सामाजिक बदलाव लाएगा” वाला बड़ा दावा शायद सही लगता है
    • अगर तर्क यह है कि सीधे जवाब पाने की तुलना में रिसर्च करने से ज़्यादा सीख मिलती है, तो क्या सबको first principles से शुरू करने के लिए मजबूर नहीं करना चाहिए?
      सीखना जिज्ञासा से जुड़ा है, और जिज्ञासा रिसर्च की कठिनाई से जुड़ी नहीं है। जिज्ञासु व्यक्ति सीधे जवाब मिलने पर भी और सवाल पूछेगा, और जिसे जिज्ञासा नहीं है वह वहीं रुक जाएगा। हम सब दिग्गजों के कंधों पर खड़े हैं, और यह बुरी नहीं बल्कि अच्छी बात है। दिग्गजों को छोड़कर खुद उस ऊंचाई तक रेंगकर पहुंचने में कुछ फायदे हो सकते हैं, लेकिन ज्ञान हस्तांतरण के तरीके के तौर पर यह कहीं कम प्रभावी लगता है
    • LLM शायद ऐसी तकनीक बनेगा जो ज्ञान तक पहुंच बढ़ाने के साथ-साथ ज्ञान की खाई भी चौड़ी करेगी। इंटरनेट के साथ भी ऐसा ही हुआ था
      30 साल पहले उम्मीद थी कि मानवता के ज्ञान तक तुरंत पहुंच मिल जाए तो हर कोई स्मार्ट हो जाएगा, लेकिन Wikipedia होने के बावजूद ज़्यादातर लोग ऐसे गुस्सा भड़काने वाले वीडियो स्क्रॉल करते हैं जो न ज्ञान देते हैं, न अच्छा महसूस कराते हैं। बेशक पाकिस्तान में मोबाइल फोन से कोडिंग कर vim plugin maintain करने वाले व्यक्ति जैसे उदाहरण अद्भुत हैं, लेकिन यह पूरी औसत मानवता पर असर से ज़्यादा, उन गिने-चुने लोगों पर असर है जिन्हें tools का लाभ उठाने का मौका मिला
      एक physicist ने YouTube interview में कहा था कि अब कोई भी physicist ChatGPT से नए papers पर graduate-level सवाल पूछकर physics के subfields के बीच ज्ञान में आवाजाही कर सकता है, जिससे physics research में मदद मिलती है
    • लंबे समय के नुकसान पर विचार न करना 2010 के दशक की junior engineers hiring वाली चर्चा जैसा है। कंपनियां juniors को hire करके train नहीं करना चाहतीं, क्योंकि उस investment का training देने वाली कंपनी को वापस न मिलने का जोखिम बड़ा है
      अगर senior engineer को project से हटाकर junior को सिखाया जाए, और junior skill और experience हासिल करके दूसरी कंपनी चला जाए, तो कंपनी को negative ROI झेलना पड़ता है। आखिरकार यह tragedy of the commons है, और आज भी mechanism अलग होने पर भी बात मिलती-जुलती है। skilled software engineers की कमी आ सकती है, लेकिन industry जिस तरह engineers को allocate करके उनसे काम कराती है वह इतना wasteful है कि कुछ समय तक कमी झेलने की गुंजाइश दिखती है
    • इसलिए मैं ChatGPT का इस्तेमाल मुख्यतः Socratic questions जैसे कामों के लिए करता हूं। जैसे, “context C में मैंने A, B, C try किया है, क्या कोई option छूट गया?”, “इस plan में efficiency के लिहाज से कोई missing part दिखता है?”
      यह जवाब खोजने से ज़्यादा महंगे dead ends से बचने के लिए है
  • इस समस्या के दो पहलू हैं, और यह थोड़ा विवादास्पद हो सकता है। किसी भी topic पर ChatGPT से सवाल पूछें तो आम तौर पर जवाब के आधार पर और सवाल पूछने लगते हैं, और उनमें से ज़्यादातर मूर्खतापूर्ण सवाल होते हैं, लेकिन उस प्रक्रिया में जानकारी ग्रहण करके उसका विश्लेषण करने के बाद जिज्ञासा के चलते और गहराई में जाने का एहसास होता है
    इंटरनेट रिसर्च से तुलना करें तो इसमें अच्छी बातें भी हैं, लेकिन जितना गहराई में जाते हैं, अक्सर किसी के राय मिली हुई लेखन को पढ़ना पड़ता है। उस लेख में लगता है कि कौन-से सवाल महत्वपूर्ण हैं, किस angle से देखना है, और निष्कर्ष क्या है—ये सब पहले से तय है। शैक्षिक तो होता है, फिर भी सवाल लगातार बचते रहते हैं
    फर्क जिज्ञासा का है। किसी topic में जिज्ञासा हो तो आप सीखते हैं, न हो तो जवाब लेकर संतुष्ट हो जाते हैं। यह आलस नहीं है, और हर चीज़ के प्रति जिज्ञासा रखना संभव नहीं है

    • ChatGPT भी दरअसल biased है। उसके कई राजनीतिक रुख हैं, और कुछ topics को taboo जैसा treat करता है
      फर्क यह है कि एक single entity model की राजनीतिक प्रवृत्ति तय करती है, और वह model किसी एक opinion piece की तुलना में कहीं ज़्यादा लोगों से interact करता है
    • बिना किसी judgment के सवाल पूछ पाने की बात ऐसे tools की ताकत में underrated लगती है। कुछ लोग इतने intellectually secure होते हैं कि दूसरों से “मूर्खतापूर्ण” सवाल पूछ सकें, लेकिन ज़्यादातर लोग, खासकर अजनबियों के सामने, ऐसे नहीं होते
      मुझे लगता है मैंने Stack Overflow पर कभी सवाल नहीं पूछा। क्योंकि साफ़ दिखता था कि जिस सवाल को पूछकर मूर्ख दिखने की चिंता हो, उस community में उसके साथ कैसा व्यवहार होगा। लेकिन ऐसे models से हर तरह के मूर्खतापूर्ण सवाल बिना चिंता पूछे जा सकते हैं, और यह बात अच्छी है
    • ChatGPT जो जानकारी दे सकता है, वह आखिरकार web से मिली चीज़ें और उसी समय गढ़ी हुई चीज़ें ही हैं। उदाहरण के लिए, वह library जाकर Wikipedia में cite न की गई भूली-बिसरी material पढ़कर नहीं आ सकता
      ChatGPT के साथ “जिज्ञासु” चर्चा करने का मतलब अंततः अपनी bias और ChatGPT की bias के मिले-जुले filter से इंटरनेट search करना है। यह escaped जैसा महसूस हो सकता है, लेकिन आप अभी भी इंटरनेट के भीतर हैं। इंटरनेट अब आपके सवालों का बोलकर जवाब देता है, बस; फिर भी वह इंटरनेट ही है
    • थकता नहीं, ऐसा दयालु professor जैसा
  • OpenAI ने जब पहली बार ChatGPT जारी किया था, तभी से मैं यह बात कहता आ रहा हूँ। हर जगह इस्तेमाल हो सकने वाले और हर सवाल का जवाब मौजूद लगता हो ऐसे LLM का खतरा उसके अस्तित्व में नहीं, बल्कि उसके लुभावने स्वभाव में है
    असली खतरा यह है कि किसी समस्या को अकेले शांत मन से बार-बार सोचने के बजाय, सबसे पास मौजूद LLM से तुरंत जवाब मांग लेने का मन करता है। दिमाग में समस्या को इधर-उधर घुमाकर देखने की क्रिया, यानी critical thinking, आखिरकार एक skill है, और यह केवल जानबूझकर, संयमित practice से ही बेहतर होती है

    • मैं इस समस्या को समझता हूँ, लेकिन मेरे ChatGPT इस्तेमाल में यह आलस को बढ़ाने के बजाय उसे पार करने में मदद करता है
      जब कोई project शुरू करना मुश्किल लगता है, तो ChatGPT से पूछना लगभग बिना किसी friction के होता है, और होश आता है तो मैं project पर काम कर रहा होता हूँ और 8 घंटे बीतकर वह खत्म हो चुका होता है। किसी परेशान करने वाली library installation पर अटक जाऊँ तो ChatGPT उसे सुलझा देता है, जिससे निराशा नहीं होती। यह किसी भी tool से ज्यादा flow state में जाने और उसे बनाए रखने में मदद करता है, और टालमटोल से बचने का अच्छा तरीका है
    • किसी समस्या को शांत मन से सोचते रहना तभी productive होता है जब सही जानकारी मौजूद हो। जानकारी न हो तो ज्यादा से ज्यादा पहिया फिर से invent करने में समय बर्बाद करने का खतरा होता है
      इस उपयोग में LLM Google जैसी ही श्रेणी का tool है, यानी जानकारी query करके वापस पाने और ग्रहण करने का माध्यम। Google की तरह query का result अंत नहीं, साधन है। जैसे कहा जाता है, “lab में एक महीना बिताने से library में बिताया जाने वाला एक हफ्ता बच जाता है”, वैसे ही Claude/ChatGPT/Copilot से 10 मिनट पूछना भी समय बचा सकता है। क्या personal tutor रखना भी आलस है?
    • LLM ने Hitchhiker's Guide to the Galaxy में पहले से कुछ हद तक पता बात फिर से सिखाई। problem solving की कुंजी शुरू से ही सही सवाल पूछना है
      जवाब को जल्दी retrieve कर पाना खतरनाक नहीं है। 90 के दशक में Google या 70 के दशक में portable calculator को लेकर भी ऐसी ही बातें हुई थीं। मेरे लिए LLM बस उस प्रक्रिया को तेज करता है जिसमें मैं वैसे भी manually internet search करता, और critical thinking अच्छी करनी हो तो ज्यादा सवाल पूछने पड़ते हैं
    • शारीरिक आलस यहाँ मददगार लगता है। LLM को समस्या पूरी तरह समझाना, और कुछ काम का text निकलवाने के लिए prompt को ठीक से frame करना भी इतना झंझट लगता है कि पहले खुद ही सोचने लगता हूँ
      आमतौर पर या तो सीधे खुद हल कर लेता हूँ, या कोई बेहतर primary source याद आ जाता है
  • arXiv पर preprint मौजूद है, और पेज 18 के ऊपर metacognitive laziness क्या है यह दिया है: “मानव-AI interaction के संदर्भ में हम metacognitive laziness को ऐसे परिभाषित करते हैं कि learner AI सहायता पर निर्भर होता है, metacognitive load को बाहरी बना देता है, और जिम्मेदार metacognitive प्रक्रियाओं को learning task से कम प्रभावी ढंग से जोड़ता है”
    यहाँ “metacognitive load” से मतलब उस cognitive और metacognitive effort से लगता है जो learner को ऐसे tasks करते समय learning process को प्रभावी ढंग से regulate करने के लिए चाहिए, जिनमें सक्रिय self-monitoring, planning और evaluation की जरूरत होती है
    paper इसे cognitive outsourcing जैसा मानता है, जहाँ tool कठिन cognitive work की जगह ले लेता है, और इसके परिणामस्वरूप क्षमता विकसित करने के मौके छिन जाते हैं और tool पर निर्भरता बनती है
    https://arxiv.org/pdf/2412.09315

    • यह definition वैसी लगती है जैसे folding map की जगह Google Maps इस्तेमाल करने पर माता-पिता शिकायत करें। सामान्य map पढ़ने की क्षमता शायद कम हुई हो, लेकिन कुल मिलाकर स्थिति बेहतर हुई है
      इसे “आलस” कहना reductive है। “किसी चीज़ की मदद पर निर्भर होना” ही तो हर technology का उद्देश्य है
  • इस मुद्दे को लेकर निश्चित रूप से दो तरह की भावनाएँ हैं। एक ओर वह बात याद आती है कि “कोई भी जेब में calculator लेकर नहीं घूमता”, और बच्चे असली दुनिया में पूरी तरह लाचार हो जाएंगे। बाद में calculator लगभग हर किसी की जेब में आ गया, और बच्चे भी ठीक रहे
    दूसरी ओर, सीखना कैसे है यह सीखना, media literacy, और स्वतंत्र रूप से जांच-पड़ताल कर निष्कर्ष बनाने की प्रक्रिया से मिलने वाले फायदे भी अहम हैं
    जवाब शायद बीच में कहीं है। LLM को अंतिम मंज़िल बनाने के बजाय उसे learning aid की तरह इस्तेमाल करना चाहिए

    • परीक्षाओं और homework में calculator इस्तेमाल न करने को कहा गया था, इसलिए आज भी मैं दिमाग में हिसाब कर सकता हूँ
      हाल में मैंने Gen Z को ऐसे card games में घबराते देखा जिनमें जोड़ना पड़ता है, या फिर छुट्टे पैसे का हिसाब लगाना होता है। Millennials के लिए यह primary school स्तर की चीज़ है
    • सीखने का तरीका, media literacy, स्वतंत्र research और निष्कर्ष बनाना खत्म नहीं होंगे। बेहतर prompts सीखना, कब AI को नज़रअंदाज़ करना है यह सीखना, और जानकारी को वास्तविक काम की चीज़ में बदलना सीखने जैसी नई skills पुरानी skills की जगह लेंगी
      आज भी कितने लोग घोड़े पर काठी कस सकते हैं, घड़ी के बिना समय पढ़ सकते हैं, shirt सिल सकते हैं, कपड़ा बना सकते हैं, आदिम औजारों से शिकार कर सकते हैं, या आग जला सकते हैं? बच्चों को AI से छिपाया भी जा सकता है, और बच्चों को AI का उपयोग करके बढ़ना भी सिखाया जा सकता है। जो चीज़ बहुत भविष्यवादी लगती है उसे छोड़ देने पर क्या होता है, यह देखना हो तो Amish को देखिए। वह सम्मानजनक जीवन है, लेकिन यह पढ़ रहे लोगों में से कितने लोग वह जीवन चुनेंगे?
    • यह देखकर हैरानी होती है कि लोग LLM जो कहता है उस पर बस हमेशा भरोसा कर लेते हैं। मेरे कुछ दोस्त काम से लेकर साधारण सवालों तक हर चीज़ के लिए ChatGPT इस्तेमाल करते हैं
      एक दोस्त ने किसी musician की biography ChatGPT से पूछी, और यह थोड़ा डरावना लगा कि वह उसी जानकारी और sources वाले Wikipedia page को नहीं पढ़ सकता था। माँ ने कहा कि उन्होंने “capsule wardrobe” बनाने के लिए ChatGPT इस्तेमाल किया, तो मुझे लगा कि बस कपड़े देखकर जो नहीं पहनतीं उसे हटा दें, इतना ही तो है। इतने सरल फैसले computer क्यों करे?
      मुझे ठीक से नहीं पता कि LLM को learning aid की तरह इस्तेमाल करना चाहिए या नहीं। मैंने ऐसा कोई कारण नहीं देखा कि यह online search या अपनी खुद की creative कहानी से बेहतर क्यों है, और अगर LLM का कोई स्पष्ट उपयोगी use case है तो सुनना चाहूँगा
    • मुझे यह library वाले उदाहरण के ज्यादा करीब लगता है। माता-पिता की पीढ़ी को library जाकर किताबें खोजनी पड़ती थीं, लेकिन मेरी पीढ़ी कहती थी कि internet इस्तेमाल कर लो
      व्यवहार में, व्यापक ज्ञान और details तक जल्दी पहुँचने की क्षमता का मानक बढ़ेगा। जब ज़रूरत हो तब details बहुत जल्दी check की जा सकें, तो कई fields को मध्यम स्तर तक समझने में बड़ा मूल्य है। जितना गहराई में जाते हैं, learning speed भी धीरे-धीरे कम होती जाती है। जटिल काम करते समय details पता हों तब भी वे महत्वपूर्ण होती हैं, इसलिए वैसे भी दोबारा check करनी पड़ती थीं
    • schools में अब slide rule या log tables नहीं पढ़ाए जाते। calculators और computers ने calculus पढ़ाने वाले और statistics में PhD रखने वाले मुझमें भी काफी metacognitive laziness पैदा कर दी है
      unit circle भी π/4 के multiples के अलावा लगभग reflex की तरह याद नहीं है, और π/6 के multiples कर सकता हूँ लेकिन धीमा हूँ। फिर भी मुझे नहीं लगता कि इन चीज़ों को तुरंत याद न रख पाने से मैं खराब mathematician बन गया हूँ। छोटी समस्याओं का जवाब पाने में थोड़ा धीमा हो सकता हूँ, लेकिन जटिल समस्याएँ अभी भी हल कर सकता हूँ
      integration formulas मैं छोटी integral table book या Wolfram Alpha में देखता हूँ। खुद derive कर सकता हूँ, लेकिन मुझे नहीं लगता कि वह 100% सही ही होगा। Metacognitive laziness मेरे अंदर पहले ही जगह बना चुकी है। बस अगर इसे पूरी brain rot में फैलने से पहले रोकने का तरीका मिल जाए तो ठीक रहेगा। अगर हम students को critically सोचना सिखाएँ, और AI को ऐसा सहायक बनाना सीखें जो हमें Wall-E के spaceship humans जैसा न बना दे, तो हम बच सकते हैं
  • abstract यह परिभाषित ही नहीं करता कि metacognitive laziness क्या है, और पहले बताए गए results के आधार पर context में उसका अर्थ भी पर्याप्त रूप से स्पष्ट नहीं करता
    व्यक्तिगत रूप से मुझे Google search की तुलना में ChatGPT की साफ़ बेहतर बात यह लगती है कि शुरुआती जवाब के बाद उस पर लगातार और nuanced सवाल पूछे जा सकते हैं। traditional search में follow-up searches करते जाने पर लगाए गए समय के मुकाबले जिज्ञासा की marginal utility घटती जाती है। सवाल को जितना अधिक precise बनाते हैं, SEO-optimized न किए गए results दिखना उतना कठिन हो जाता है, और अक्सर या तो ऐसे articles मिलते हैं जो general readers के लिए होते हैं और नई जानकारी नहीं देते, या फिर ऐसे specialized resources जो बहुत व्यापक technical background knowledge मांगते हैं। LLM मेरे इच्छित जवाब तक पहुँचने के लिए अच्छा पुल बना देता है

    • अगर परिभाषा नहीं है, तो इसे सीधे अर्थ में पढ़ा जा सकता है। मतलब, बेहतर सीखने के तरीके सीखने की कोशिश बंद कर देना। जैसे chatbot से सीखना शुरू करने पर दूसरे तरीकों का अभ्यास न करना और सिर्फ chatbot पर निर्भर हो जाना
      मैंने सुना है कि junior engineers इस जाल में फँस गए हैं। colleagues के सामने अपनी knowledge gap दिखाने के बजाय वे हर चीज़ chatbot से पूछते हैं। chatbot अगर खुली गलतियों से बच भी जाए, तो junior सूक्ष्म गलतियाँ नहीं पकड़ पाता
    • आपने “मुझे जो जवाब चाहिए” कहा, यह दिलचस्प है। “मेरे सवाल का सही जवाब” नहीं कहा; इस लिहाज से यह approach मौजूदा bias reinforcement की ओर काफी जा सकती है
      यह किसी खास Wikipedia article को ढूँढने, और फिर उसके sources में जाकर वह मूल स्रोत खोजने जैसा बहुत लगता है जहाँ “मुझे जो जवाब चाहिए” पहली बार आया था
    • कुछ दिन पहले single-photon chip पर बने neural network की बात हुई थी। मैंने paper को ChatGPT में डाला और यह समझने के लिए इस्तेमाल किया कि उस chip ने असल में क्या provide किया, वह कैसे काम करती है, key components के basic principles क्या हैं, और system integration कैसे होता है—काफी अधिक meaningful और comprehensive तरीके से
      hallucination की संभावना को ध्यान में रखना पड़ता है, लेकिन हमेशा उपलब्ध, न थकने वाला व्याख्याकार होना उल्टा dense technical information को explore करने और नए concepts समझने की motivation बढ़ाता है। हालांकि blank page से लिखना शुरू करने की इच्छा घटती लगती है। विषय को ChatGPT के साथ explore कर के rough outline और basic content लेने के बाद आगे लिखना शुरू करता हूँ
    • ChatGPT कभी-कभी अपनी ही reality “invent” कर देता है, फिर भी कई बार यह Google या DuckDuckGo search results से बेहतर लगता है
      कुछ मामलों में content verify करने के लिए search engine में डालने लायक specific strings भी LLM ही दे देता है। search बुरी तरह टूट चुका है, और लगभग 2014 के आसपास से, जब Google search results pages पर results से ज्यादा ads दिखने लगे, तब से यही हाल है
    • abstract के examples और शब्द के अपने अर्थ के आधार पर खुद definition बनाने की कोशिश न करना ही metacognitive laziness का अच्छा उदाहरण लगता है। यानी खुद सोचने की प्रक्रिया में आलस्य
  • मोबाइल फोन और लैपटॉप ने, मेरे जैसे ऐसे व्यक्ति के लिए जो इनके बिना बड़ा हुआ, कुछ चीज़ें बदल दीं। करीब 20~25 साल पहले मुझे एहसास हुआ कि एक-दो web search, ज़्यादा से ज़्यादा दो-तीन, से लगभग कोई भी तथ्य पता किया जा सकता है, और करीब 10~15 साल पहले ऐसा connected device मेरी जेब में आ गया जो जब भी कहो यह काम कर देता था
    लेकिन करीब 5 साल पहले से मैंने सामाजिक स्थितियों में ज़्यादातर सचेत रूप से ऐसा न करना शुरू कर दिया। बातचीत के दौरान कोई मामूली तथ्य जानने की उत्सुकता हो भी जाए, तो प्रवाह तोड़कर स्क्रीन निकालकर घूरते हुए जवाब नहीं देता, बस उस व्यक्ति के साथ बातचीत जारी रखता हूँ
    80~90 के दशक में pub quiz जैसे माहौल में ऐसी छोटी-छोटी बातों पर, जिन्हें दोनों में से कोई तुरंत नहीं जानता था, गरमागरम बहस हो जाती थी। अब जवाब इतना आसानी से मिल जाता है कि ऐसी चीज़ें लगभग खत्म हो गई हैं, और पूरी तरह खो गई हैं। मुझे उनकी कमी तो नहीं खलती, लेकिन इससे मैं बहुत तीखे ढंग से महसूस करने लगा हूँ कि मेरी चेतना web search से उपलब्ध तथ्यों से कितनी बंधी हुई है, और मुझे नहीं पता कि अपने दिमाग का इतना बड़ा हिस्सा अपने नियंत्रण से बाहर किसी जगह outsource करना मुझे पसंद है या नहीं

    • बहुत पहले मैंने सोचा था कि शायद Guinness ने “world records book” इसी तरह के उन सवालों का जवाब देने के लिए बनाया होगा जो pub में बार-बार उठते थे
    • छोटी notebook या Anki flashcards, या सरल notes साथ रखे जा सकते हैं
      याददाश्त में मदद के लिए सिर्फ़ general knowledge सीखना भी एक तरीका है
    • मैं इतना उम्रदराज़ हूँ कि उस दौर के pub quiz याद हैं जब फोन से खोजा नहीं जा सकता था। मेरा पक्का मानना है कि फोन ने pub quiz को खराब कर दिया
    • अच्छा उदाहरण है, लेकिन अगर हम अपने पूर्वजों का समय कल्पना करें तो ऐसी बात भी कही जा सकती है: “याद है पहले लोग खेलते थे कि कौन सबसे दूर बैठे पक्षी को देख सकता है? चश्मे ने वह खेल खराब कर दिया”
  • कहा जाता है कि generative AI द्वारा बनाया गया code इंसान को पूरा review करना चाहिए। यानी यह देखना चाहिए कि कोई स्पष्ट error तो नहीं है, और यह requirements के मुताबिक “सही चीज़” बना रहा है या नहीं
    इस तरह generative AI इस्तेमाल करने वाले practitioners के किस्से बताते हैं कि यह उन अनुभवी developers के लिए अच्छा tool है जिन्हें पता है कि किस बात से सावधान रहना है। लेकिन जो अभी सीख रहे हैं और जिन्हें पता ही नहीं कि वे क्या कर रहे हैं, उनके बारे में सोचें तो उन्हें पता नहीं होता कि किस बात से सावधान रहना है। क्या उन्हें पता होगा कि use-after-free क्या है, cache memory कैसे काम करती है, यह पूछना चाहिए? क्या वे algorithms और data structures के नाम जानते होंगे? क्या वे पहचान पाएँगे कि generative AI कब बकवास कर रहा है?
    इस तरह की research कठिन है लेकिन महत्वपूर्ण है। sample छोटा है, फिर भी दिलचस्प है, और जिज्ञासा है कि क्या कोई इसे repeat करके verify कर सकेगा

    • computer science पढ़ाने वाले एक दोस्त से सुना एक किस्सा है। इस साल कई students ने C code में अनावश्यक break statements डालना शुरू कर दिया
      जैसे while (condition) { do_stuff(); if (!condition) { break; } }। पता करने पर common factor ChatGPT निकला, और जिन students ने पूछा कि loop कैसे काम करता है, उन सभी को “loop से बाहर निकलने के लिए break() इस्तेमाल करो” जैसे variants में जवाब मिला। computer science में ऐसा नहीं किया जाता, और यह न सिर्फ़ अनावश्यक है बल्कि formal proof को और जटिल बना देता है, इसलिए exam में “class में सीखे तरीके से करें” जैसी instruction डालनी पड़ी और आम तौर पर एक one-off exception रखना पड़ा
    • जब X की कुछ समझ होती है, तो कभी-कभी X के साथ Y करना संभव हो जाता है। जो काम पहले नहीं कर पाते थे, वे भी हो जाते हैं
      उदाहरण के लिए, मैं programmer हूँ लेकिन maths में बहुत कमजोर हूँ। game बनाना चाहता हूँ और सच में बना भी सकता हूँ, लेकिन maths की वजह से अक्सर प्रगति बहुत कठिन हो जाती है। games बनाकर release भी कर चुका हूँ, लेकिन maths हमेशा अटकाती है। मुझे ठीक-ठीक पता होता है कि कैसी behavior और result चाहिए, पर वहाँ तक कैसे पहुँचना है यह हमेशा नहीं समझ पाता
      LLM ऐसी चीज़ों को छोटे black box में अलग करने में बहुत मदद करता है। मुझे पता होता है कि result सही है, लेकिन यह 100% निश्चित नहीं होता कि वह कैसे हुआ। जब यह गलत code देता है, तो मैं पहचान सकता हूँ क्योंकि मुझे पता है कि मैं क्या खोज रहा हूँ और क्यों, बस “कैसे” वाला हिस्सा missing होता है। यह किसी third-party library जैसा है जिसे आप internal पूरी तरह समझे बिना भी public API समझकर इस्तेमाल कर सकते हैं, फर्क इतना कि उसका code अपने codebase में डालकर ढेर सारे unit tests लगा देते हैं
    • जो व्यक्ति ऐसी सूक्ष्म nuances नहीं पकड़ सकता, उसके लिए LLM कितनी भी बार इस्तेमाल कर ले, सक्षम programmer बनना मुश्किल है
  • अभी मैं reasoning-type LLM deepseek-r1 को शानदार rustlings tutorial पर test कर रहा हूँ। यह अच्छी तरह documented है और solutions भी online आसानी से मिल जाते हैं, इसलिए coding tasks का evaluation करते समय यह देखने के लिए एक आलसी test के रूप में अच्छा है कि क्या नई नौकरी ढूँढने और software engineering को hobby बना लेने का समय आ गया है
    rustlings से test करने की वजह यह भी है कि students और future colleagues के लिए learning tool के रूप में इसकी value देखनी है। शायद ऐसी चीज़ teacher के रूप में उपयोगी हो सकती है। Rust compiler भी बहुत अच्छी advice देता है, इसलिए LLM output से तुलना करने के लिए एक बेहतरीन baseline मौजूद है
    निष्कर्ष यह है कि deepseek-r1 जल्द किसी को replace करता नहीं दिखता। यह भारी मात्रा में text generate करता है, लेकिन ज़्यादातर बात समझ में नहीं आती और लगभग हमेशा बुरी तरह गलत होती है। हालांकि inexperienced developers या beginners, खासकर beginners, confuse हो सकते हैं और गलत रास्ते पर खींचे जा सकते हैं, और जो चीज़ सुनने में plausible लगती है पर असल में नहीं होती, उसे अपना rational thinking outsource करने का जोखिम है
    फिलहाल statistical model की लंबी-चौड़ी बातें education और future developers के performance के लिए नुकसानदेह लगती हैं। शायद coffee और frustration के आँसुओं से trained, code और architecture से खुद जूझने वाली शायद आख़िरी पुराने ढंग की software engineers की generation के लिए golden age आ सकती है। आखिर LLM द्वारा mass-produced कचरे को किसी न किसी को तो ठीक करना ही होगा

    • उस evaluation में क्या आप model की पूरी reasoning process को ध्यान में रख रहे हैं? मेरी समझ में ये models conclusion पर पहुँचने से पहले कई रास्ते और possibilities explore करने के लिए ही मूलतः इतने verbose तरीके से बोलने के लिए बनाए गए हैं
      मकसद उस output को ज्यों का त्यों इस्तेमाल करना नहीं, बल्कि उसके ऊपर final answer को व्यवस्थित करने वाली layer जोड़ना ज्यादा लगता है।
      मैंने coding तब शुरू की थी जब Stack Overflow बस popular होने ही वाला था, और मुझे याद है उस समय भी “Stack Overflow lazy developers बनाएगा”, “सच्चे developer का अंत है” जैसे blog posts की भरमार थी। मैं विरोध करने की कोशिश नहीं कर रहा, बस यह दिलचस्प है कि ऐसी भावना समय के साथ सिर्फ़ details बदलकर दोहराई जाती रहती है
  • Socrates ने Plato के Phaedrus में लेखन की आलोचना करते हुए कहा था कि यह “सीखने वालों की आत्मा में विस्मृति पैदा करेगा”; Leonard Euler ने कहा था कि logarithm table के बजाय first principles से logarithm निकाले जाने चाहिए; और Lord Kelvin का मानना था कि mechanical calculator छात्रों की reasoning क्षमता विकसित करने की उपेक्षा करवाएगा
    Henry Ford की आत्मकथा में एक हिस्सा है जिसमें 1907 में एक किसान ने कहा था कि gasoline tractor “बच्चों को आलसी और बेकार बना देगा” और उन्हें खेती सीखने से रोक देगा; और 1877 में New York Times में शिक्षकों की यह चिंता छपी थी कि eraser लगी pencil छात्रों को लिखने से पहले सोचने की जरूरत से मुक्त कर देगी और उन्हें लापरवाह बना देगी
    Augustus De Morgan ने कहा था कि printed multiplication tables पर निर्भर छात्र संख्याओं को समझ नहीं पाते और “साधारण calculating machines” बन जाते हैं; John Philip Sousa ने आलोचना की थी कि phonograph लोगों को instruments सीखना बंद करवा देगा; और Richard Feynman भी चिंतित थे कि portable calculators की वजह से छात्र estimation और mathematical relationships समझने की क्षमता खो सकते हैं
    और भी आगे जारी रख सकता हूँ। Claude ने तो 15 उदाहरण लिख दिए थे। 20 साल बाद, अगर AI हम सबको मार नहीं देता, तो शायद हम पीछे मुड़कर देखेंगे कि LLM के साथ काम करना वैसी बैसाखी नहीं था जैसा आज लोग सोचते हैं

    • मुझे नहीं लगता कि उन आठ में से कोई भी गलत है। खासकर अगर हम हर विचार को समझने की कोशिश करें। उस दौर में समय ज्यादा धीमे बहता था, और eraser से drawing बनाना भी लगभग एक अलग genre जैसा है
    • जिज्ञासा है कि prompt क्या था