क्या हम बहुत ज़्यादा सोच AI पर छोड़ रहे हैं?

 (artfish.ai)
1 पॉइंट द्वारा GN⁺ 6 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • मामूली चुनावों से लेकर जटिल रिसर्च और तर्क तक, अब AI तैयार जवाब देने लगा है; इसलिए सिर्फ समय बचाने से आगे बढ़कर यह महत्वपूर्ण हो गया है कि हम सोच की स्वायत्तता को कहाँ तक बचाए रखें
  • सर्च इंजन सवाल को तोड़ने, स्रोतों का मूल्यांकन करने और जवाब को समेटने का काम इंसानों पर छोड़ते थे, लेकिन Google Deep Research और OpenAI Deep Research अब उन मध्यवर्ती सोच-प्रक्रियाओं को भी संभाल लेते हैं जिनमें पहले मिनटों, घंटों या दिनों लगते थे
  • पुर्तगाल के औपनिवेशिक इतिहास पर पहले परिकल्पनाएँ बनाकर, उन पर चर्चा करके और फिर AI से सत्यापन करने पर, AI ने कई परिकल्पनाओं का समर्थन किया और नई व्याख्याएँ जोड़ीं, लेकिन कुछ उचित संभावनाएँ छूट गईं; इससे पहले सोचना, फिर AI का उपयोग करना का महत्व दिखता है
  • Gemini translation, coding agent और ChatGPT personal tutor की तरह AI दोहराए जाने वाले काम और सीखने का बोझ कम कर सकता है, लेकिन जब छात्रों ने लगभग एक जैसे असाइनमेंट उत्तर जमा किए, तो यह स्पष्ट हुआ कि जवाब पा लेना और सोचने की कला सीखना अलग बातें हैं
  • अगर AI सिर्फ सरल कामों को automate करने तक न रुके, बल्कि यह भी तय करने लगे कि हमें क्या चाहिए और कौन-से फैसले लेने हैं, तो इंसान सुविधा के साथ-साथ एजेंसी भी उसे सौंप सकते हैं

AI ने रोज़मर्रा के फ़ैसलों की जगह भी लेना शुरू कर दिया है

  • रिसर्च, तर्क और जवाब देने का काम AI को सौंपना अब मामूली फ़ैसलों से लेकर जटिल सोच तक आसान और सुविधाजनक हो गया है, और कुछ माहौल में इसे सक्रिय रूप से प्रोत्साहित भी किया जाता है
  • Ken Liu की 2012 की लघुकथा The Perfect Match में एक सामान्य-उद्देश्य AI assistant Tilly आता है, जो दावा करता है कि वह उपयोगकर्ता की पसंद और मनःस्थिति को जानता है
    • नायक यह तय करने से लेकर कि सुबह क्या खाना है, कौन-सा संगीत सुनना है, किसके साथ डेट पर जाना है, और डेट पर क्या कहना है—सब कुछ Tilly पर छोड़ देता है
    • वह मानता है कि Tilly वैज्ञानिक तरीके से उसकी पसंद के अनुसार सबसे सही चुनाव ढूँढ लेगा, इसलिए कपड़ों जैसे छोटे फ़ैसलों से लेकर प्यार खोजने जैसे बड़े फ़ैसलों तक वह उसे सौंप देता है
  • San Francisco के एक startup इवेंट में एक ऐसा व्यक्ति दिखा, जिसने अपनी शर्ट पर दो उंगलियों की चौड़ाई से भी छोटा धातु का capsule-type microphone लगाया हुआ था और हर बातचीत रिकॉर्ड कर रहा था
    • दिन खत्म होने पर वह रिकॉर्ड की गई बातचीत का सार और विश्लेषण करने वाला workflow चलाता था
    • उसका कहना था कि Claude Fable उससे बेहतर critical thinking करता है, इसलिए वह अपनी सारी सोच उसी पर छोड़ देता है
    • उसका startup मानव engineers के हर input और काम को बिना स्पष्ट सहमति के इकट्ठा करके engineers को replace करना चाहता है

सर्च रिज़ल्ट से तैयार जवाब तक

  • Claude, ChatGPT और Gemini से पहले भी लोग अपनी सोच का कुछ हिस्सा search engine पर छोड़ते थे, लेकिन search में भी सवाल को तोड़ना, स्रोतों का मूल्यांकन करना और जवाब को समेटना ज़रूरी था
  • AI अब इन मध्यवर्ती चरणों को खुद संभाल लेता है और जटिल या विशेषज्ञता वाले सवालों पर भी कुछ ही मिनटों में तैयार जवाब बना देता है
  • Google Deep Research और OpenAI Deep Research वह काम कर सकते हैं जिसे कोई व्यक्ति कुछ मिनटों, कुछ घंटों या कभी-कभी कई दिनों में करता था
  • ऐसे tools सिर्फ समय ही नहीं बचाते, बल्कि सीधे सोचने की प्रक्रिया भी कम कर देते हैं; इसलिए ये काम में मदद और स्वायत्तता के नुकसान के बीच की सीमा धुंधली कर सकते हैं
  • जीवन के महत्वपूर्ण मामलों में अंतिम निर्णय कौन लेता है, इसी से तय होता है कि AI assistant केवल काम में मदद कर रहा है या निर्णयों पर हावी हो रहा है

तेज़ जवाब और धीमी सोच में फर्क करना

  • मौजूदा मौसम, 10 साल पहले किसी देश का राष्ट्रपति कौन था, या skincare और sports equipment की reviews जैसे कई सवालों के लिए तेज़ जवाब उपयुक्त होते हैं
  • लेकिन कुछ सवाल ऐसे भी होते हैं जिन्हें तुरंत खोजने के बजाय थोड़ा ज़्यादा देर तक सोचने लायक होता है
  • बिना मोबाइल फ़ोन के टहलते समय यह सवाल आ सकते हैं कि चेरी पेड़ पर उगती है या झाड़ी पर, या पहला World Cup मैच कब और कहाँ हुआ था; लेकिन घर पहुँचने से पहले ऐसे ज़्यादातर सवाल भूल जाते हैं
    • अगर केवल कुछ महत्वपूर्ण सवाल ही याद रह जाएँ, तो तुच्छ सवालों को भूल जाने और हर जिज्ञासा का तुरंत जवाब न पाने में भी एक मूल्य हो सकता है

पहले परिकल्पना बनाना, फिर AI से सत्यापन: पुर्तगाल यात्रा

  • पुर्तगाल का Monument to the Discoveries पुर्तगाल के तथाकथित Age of Discovery की स्मृति में बना है
  • पुर्तगाल में ऐसा लगा कि उस दौर के लोगों को ‘discoverers’ और ‘explorers’ के रूप में सम्मान दिया जाता है, जबकि अमेरिका में उन्हीं व्यक्तियों को ‘conquerors’ और ‘colonialists’ कहा जा सकता है
    • स्थानीय tour guide ने जवाब दिया कि Henry the Navigator जैसे लोग अमेरिका में Christopher Columbus की तरह cancel culture का निशाना नहीं हैं, बल्कि आम तौर पर सम्मानित ऐतिहासिक व्यक्तित्व माने जाते हैं
  • यह सवाल उठा कि पुर्तगाल अपने औपनिवेशिक इतिहास पर गर्व क्यों दिखाता है और अमेरिका से अलग प्रतिक्रिया क्यों देता है; तब बहन ने ChatGPT से तुरंत पूछने के बजाय पहले खुद परिकल्पनाएँ बनाने का फैसला किया
    • यह संभावना कि पुर्तगाल अमेरिका की तुलना में अपेक्षाकृत अधिक homogeneous और धार्मिक है
    • यह संभावना कि ‘Age of Discovery’ पुर्तगाल की राष्ट्रीय कथा के सबसे प्रमुख अध्यायों में से एक है
    • अनुमान लगाते, जोड़ते, खंडन करते और अपनी राय बदलते हुए, दोनों ने स्कूल में बहुत पहले पढ़े इतिहास ज्ञान को याद किया
  • यह जानते हुए भी कि कुछ परिकल्पनाएँ गलत हो सकती हैं, उन्होंने याददाश्त, ज्ञान, दुनिया की समझ और critical thinking का इस्तेमाल करने की प्रक्रिया का ही अभ्यास किया
  • बाद में जब वही सवाल AI से पूछा गया, तो उसने कई मौजूदा परिकल्पनाओं का समर्थन किया और कुछ छूटी हुई व्याख्याएँ जोड़ीं, लेकिन कुछ ऐसी संभावनाएँ छोड़ दीं जिन्हें दोनों अब भी उचित मानते थे
  • अगर क्रम सवाल → परिकल्पना बनाना → AI से सत्यापन और विस्तार हो, तो AI इंसानी सोच की जगह नहीं लेता, बल्कि उसे पूरक बनता है

दोहराए जाने वाले काम कम करने में उपयोगी इस्तेमाल

  • Gemini की उन tasks में भी, जो कठिन समस्याएँ हल करने, सोचने और tools का उपयोग करने की क्षमता को मापती हैं, AI की व्यावहारिक उपयोगिता दिखाई देती है
  • काम और सीखने के माहौल में AI लगने वाला समय बहुत कम कर सकता है और लोगों को ज़्यादा महत्वपूर्ण हिस्सों पर ध्यान देने में मदद कर सकता है
    • Korea की एक कंपनी में काम करने वाला उपयोगकर्ता Gemini से लंबी English आधिकारिक रिपोर्टों का Korean में अनुवाद करके काम की गति बढ़ाता है
    • एक researcher विचारों को आगे बढ़ाता है और विस्तृत implementation को coding agent को सौंप देता है, जिससे analysis के लिए अधिक समय मिलता है
    • एक learner ने ChatGPT को personal tutor की तरह इस्तेमाल करके biochemistry को शुरुआत से पढ़ा और कुछ ही महीनों में MCAT की तैयारी की
  • अगर सामान्य सोच और दोहराए जाने वाले काम AI को देकर अधिक महत्वपूर्ण और दिलचस्प सोच के लिए समय निकाला जाए, तो जीवन की संतुष्टि और productivity दोनों बढ़ सकती हैं
  • OECD की workplace में AI impact report AI के ज़रिए structured, repetitive और boring tasks के automation पर बात करती है
  • International Labour Organization की Digital Labour Platforms and the Future of Work उन कामों पर चर्चा करती है जिन्हें कम भुगतान पर मानव श्रमिक करते आए हैं
  • अगर AI कई घंटों के कठिन और साधारण काम संभाल ले, तो इंसान अधिक रोचक और संतोष देने वाली सोच पर ध्यान केंद्रित कर सकते हैं

सीखने की प्रक्रिया छोड़ देने पर पैदा होने वाली समस्या

  • एक online university में physics पढ़ाने वाले professor को संदेह है कि अधिकांश या सभी छात्र अपने assignments AI से करवा रहे हैं
    • कुछ उत्तर इतने मिलते-जुलते हैं, मानो छात्रों ने वही सवाल उसी AI में सीधे paste कर दिया हो
    • छात्रों के अपने विचार या राय के बिना सामान्य AI जवाब बार-बार दिखते हैं
  • AI का इस्तेमाल हुआ या नहीं, इसे साबित करने का कोई तरीका नहीं है, और उत्तर खुद काफ़ी व्यापक हैं, इसलिए अधिकतर छात्रों को A मिल जाता है
  • AI सीखने में मदद कर सकता है, लेकिन यह केवल परिणाम बना सकता है, बिना यह सिखाए कि उस जवाब तक पहुँचा कैसे जाए
  • physics problem में कौन-सा equation इस्तेमाल करना है या essay में कौन-से source और argument चुनने हैं—यह प्रक्रिया उबाऊ लग सकती है, लेकिन अगर इसे छोड़ दिया जाए तो school और learning का उद्देश्य ही कमज़ोर पड़ जाता है

सरल कामों का automation और सोच की स्वायत्तता

  • सोच की पूरी स्वायत्तता और साधारण कामों के automation को साफ़-साफ़ अलग करना कठिन है, और वास्तविक AI उपयोग अक्सर दोनों का मिश्रण होता है
  • निजी data को collect और analyze करने का काम भी कुछ हद तक Microphone Man के तरीके जैसा है
  • फर्क शायद यह है कि data को खुद इकट्ठा और चुना गया, जिन सवालों के जवाब चाहिए थे वे खुद बनाए गए, और अंतिम नतीजों का मूल्यांकन भी खुद किया गया
    • एक और अंतर यह भी था कि दूसरों की बातचीत रिकॉर्ड नहीं की गई, बल्कि अपना data इस्तेमाल किया गया
  • साधारण कामों को automate करके अर्थपूर्ण गतिविधियों के लिए समय निकालने और learning experience के लिए कुछ काम खुद करने के बीच हमेशा संतुलन की ज़रूरत होती है

इच्छाओं और एजेंसी को आकार कौन देता है

  • The Perfect Match की Jenny आलोचना करती है कि Tilly केवल यह नहीं बताता कि उपयोगकर्ता क्या चाहता है, बल्कि यह भी तय करने लगता है कि उसे क्या सोचना चाहिए
  • स्वायत्तता कम-से-कम आंशिक रूप से इस बात पर निर्भर करती है कि व्यक्ति अपनी इच्छाओं को खुद बनाने की प्रक्रिया में लगातार शामिल रहे
  • अगर कौन-सा संगीत सुनना है, कौन-सी फ़िल्म देखनी है, क्या खाना है, कौन-से जूते पहनने हैं—यह सब AI पर छोड़ दिया जाए, तो व्यक्ति यह तय करने की अपनी क्षमता भी सौंप सकता है कि उसे वास्तव में क्या चाहिए
  • AI automation का मूल्यांकन करते समय यह अलग करना ज़रूरी है कि वह मानव श्रम और tasks कम कर रहा है, या मानव की सोच और एजेंसी की जगह भी ले रहा है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 6 시간 전
Hacker News की राय

  • अत्यधिक उपयोग व्यक्तिपरक है, इसलिए AI का बहुत उपयोग करने वाला कोई भी व्यक्ति यह कह सकता है कि वह बस इसकी क्षमता को खोल रहा है, और कैलकुलेटर ने भी इंसानों को बेवकूफ़ नहीं बनाया
    लेकिन जोड़ कैलकुलेटर को सौंप देने पर भी मैं वही रहता हूँ, जबकि अगर अपनी ज़्यादातर सोच LLM को सौंप दूँ, तो मेरे पास क्या बचेगा? अगर पालन-पोषण, रिश्ते, और product design तक उसे सौंप दें, तो यह पूछना पड़ता है कि दुनिया में हमारी अपनी जो विशिष्ट value जुड़ती है, क्या वह सिर्फ एक बार लिखा गया prompt ही है
    इंसान द्वारा लिखा गया उपन्यास स्वभावतः अधिक मूल्यवान है, क्योंकि वह कठिनाई से अर्जित साझा अनुभव में जड़ें रखता है, और मैं भी ऐसा इंसान रहना चाहता हूँ जो पुराने तरीके से उपन्यास लिख सके। मैं खेलों में भी अच्छा नहीं हूँ, इसलिए कम-से-कम अपनी सोचने की क्षमता तो बचाकर रखना चाहता हूँ

    • फुसफुसाती बालियाँ निबंध LLM युग में खास तौर पर बहुत उपयुक्त लगता है
      AI को उस बाली की तरह इस्तेमाल किया जा सकता है जो लगातार पूछती है, “अब क्या करूँ और इसे कैसे सुधारूँ?”, या फिर एक exoskeleton की तरह, जहाँ आप मनचाहे परिणाम का रूप पहले से तय करके कहते हैं, “इस समस्या पर xyz metric space लागू करने वाला kd-tree implement करो।” दूसरा तरीका पहले से पूरी की जा चुकी सोच का execution automation है, इसलिए उसकी समीक्षा करना आसान है, लेकिन पहला तरीका सोचने की क्षमता को सिकोड़ देता है
    • जिन LLM चरमपंथियों को मैं जानता हूँ, उनमें से काफ़ी लोग tech क्षेत्र में उत्कृष्ट होने लायक ज्ञान या क्षमता नहीं रखते, इसलिए वे काम निपटाने के cheat code की तरह LLM का इस्तेमाल करते हैं
      मेरा एक हाई-स्कूल सहपाठी, जो कुछ साल पहले Drupal site भी ठीक से configure नहीं कर पाता था, अब AI startup में cutting-edge engineer बन गया है, और LinkedIn पर रोज़ AI buzzwords पोस्ट करता है। अंततः वह समय आएगा जब AI-जनित output और इंसानी नतीजों में फ़र्क करना संभव नहीं रहेगा, और बहुत से लोग तो अभी भी फ़र्क नहीं कर पाते
    • कैलकुलेटर होने पर भी recipe की मात्रा समायोजित करने जितनी गणना तो दिमाग़ में कर सकनी चाहिए, और यह भी पता होना चाहिए कि क्या गणना करनी है। “कैलकुलेटर है, इसलिए गणित की ज़रूरत नहीं” वाली दलील मानकर चलती है कि समस्या पाठ्यपुस्तक की तरह साफ़-सुथरी करके दी जाएगी
      LLM से programming करते समय भी यह जानना ज़रूरी है कि क्या माँगना है, और यह परखने का ज्ञान होना चाहिए कि परिणाम अपेक्षित दायरे में है, सही है, और सुरक्षित है या नहीं। जो non-technical लोग output की खुद समीक्षा और संशोधन नहीं करते, वे आख़िरकार ऐसी दीवार से टकराते हैं जहाँ वे खुद debug नहीं कर सकते और उन्हें इंसानी मदद चाहिए होती है
    • कैलकुलेटर ने गणित करने वाले इंसान की जगह नहीं ली, बल्कि गणित तालिकाओं और calculators जैसे पहले से मौजूद tools की जगह ली
      उस समय गणित शिक्षकों की नज़र में छात्रों की critical thinking सचमुच कम हुई थी। calculators और गणित तालिकाओं का इस्तेमाल करते समय significant figures जैसी बातों पर सोचना पड़ता था, लेकिन कैलकुलेटर ऐसी सोच की मांग नहीं करता
    • कैलकुलेटर इस्तेमाल करने से पहले आपको उत्तर का मोटा अंदाज़ा पहले से होता है, इसलिए अगर परिणाम का आकार या sign ग़लत हो तो आप तुरंत पकड़ लेते हैं। GPS में भी यही बात लागू होती है; लेकिन जो लोग खुद रास्ता नहीं ढूँढ सकते, वे typo कर दें या ग़लत Springfield चुन लें, तब भी उन्हें पता नहीं चलता
      एक सहकर्मी की project plan की समीक्षा करते समय मैंने बुनियादी parameters खुद जाँचे और जो बातें समझ नहीं आईं उन पर सवाल किए, तो उसने मीटिंग में कहा कि मैंने वे समस्याएँ पकड़ लीं जो Claude नहीं ढूँढ पाया। यह खास तौर पर नए लोगों के लिए ख़तरनाक है, जिन्होंने अभी domain की pitfalls नहीं सीखी हैं; और इस मामले में तो अनुभवी व्यक्ति ने भी पूरा काम LLM पर छोड़ दिया था

  • “अब खुद को manager समझो” वाली सलाह के उलट, मेरा मानना है कि AI युग में ज़्यादा उपयोगी बनने और AI का असरदार उपयोग करने के लिए तकनीकी समझ को गहराई से बनाना बेहतर है
    मैं बच्चों को उनके रुचि-क्षेत्र की textbooks पढ़ने की सलाह देता हूँ और खुद भी ऐसा करता हूँ। मेरा अनुमान है कि बहुत जल्द गहरी समझ अपने-आप में दुर्लभ और कीमती संसाधन बन जाएगी

    • मैं manager के रूप में अच्छा इसलिए था क्योंकि जिन कामों की अपेक्षा मैं अपनी टीम से करता था, उन्हें मैं खुद भी कर सकता था। इसी वजह से मैं नतीजों का आलोचनात्मक मूल्यांकन कर पाता था, यथार्थवादी समय-सीमा तय कर पाता था, उनके योगदान को ऊपर तक सही ढंग से पहुँचा पाता था, और स्टाफ़ कम हो तो खुद भी काम संभाल लेता था
      अच्छे front-line managers में आम तौर पर यह क्षमता होती थी, और जिनमें यह शुरू से नहीं थी या बहुत पहले खो गई थी, वे संघर्ष करते थे। वरिष्ठ managers या executives को manage करना अलग बात है, लेकिन LLM management front-line management से मिलता-जुलता है
    • कठिन concepts सीखना पहले से कहीं आसान हो गया है, लेकिन उन concepts को समझे बिना भी उनसे जुड़े परिणाम बना लेना भी आसान हो गया है। इस शक्तिशाली नए tool का इस्तेमाल धैर्य और उद्देश्यबोध के साथ करने के लिए अनुशासन और drive की ज़रूरत है
    • textbooks की सिफ़ारिश करने के बजाय AI का आलोचनात्मक उपयोग कैसे करें यह सिखाना शायद ज़्यादा प्रभावी हो सकता है
      मध्यम रूप से सक्षम लेकिन कभी-कभी घातक रूप से ग़लत AI के साथ बातचीत करने पर आप सवाल पूछते हैं, जवाबों पर शक करते हैं, जाँच-पड़ताल और तर्क करते हैं, आलोचना करते हैं, और फिर दोहराते हैं। textbook के अधिक सही होने की संभावना होती है, लेकिन इसकी गारंटी नहीं होती, और वह जानकारी एकतरफ़ा देती है; जबकि ग़लत AI जवाब आपको सामग्री के साथ सक्रिय रूप से जुड़ने पर मजबूर करते हैं
    • मुझे manager बनना पसंद नहीं, इसलिए मैंने promotion भी ठुकराए हैं; इसी वजह से AI के कारण “खुद को manager समझो” वाली सोच भी पसंद नहीं। लोगों या automata को manage करने के बजाय मैं खुद कुछ बनाना चाहता हूँ
    • मैं जूनियर्स को सलाह देता हूँ कि textbook खोलें। जब मैं ऐसे लोगों को बेहद ख़राब performance और बिना किसी सुसंगत data model वाले जटिल systems बनाते देखता हूँ, जिन्हें वे मज़बूत शैक्षणिक बुनियाद के बिना अनंत समय मिलने पर भी खुद implement नहीं कर सकते, तो तकलीफ़ होती है

  • design review के दौरान मैंने एक जूनियर developer से पूछा कि उसने एक खास calculation क्यों की, तो उसने जवाब दिया, “पता नहीं।” यह सुनकर मैं स्तब्ध रह गया। पूरी की पूरी ग़लत calculation AI-जनित थी, और वह यह तक नहीं पहचान पाया कि वह ग़लत है
    ज़्यादातर लोग AI का इस्तेमाल नया ज्ञान सीखने के लिए नहीं, बल्कि काम खुद उससे करवाने के लिए करते हैं, और वे परिणाम भी नहीं समझते। अगर prompt बनाने के अलावा इंसान कोई value ही नहीं जोड़ता, तो फिर इंसान की ज़रूरत क्यों है, यह सवाल उठता है

    • डिग्री पूरी करने वाले 90 छात्रों में से हर एक के साथ one-on-one छोटा-सा code review करने पर तीन स्पष्ट समूह दिखे। एक वे छात्र जो AI से सीखकर code और सवाल समझते थे, दूसरे वे जो AI का बहुत कम इस्तेमाल करते थे और जानते थे कि उन्होंने क्या लिखा है, और तीसरे वे जिन्होंने assignment AI को सौंप दिया था और हर सवाल पर “पता नहीं” कहा
      एक छात्र ने मान लिया कि उसने अपना code एक बार भी नहीं पढ़ा, तो मैंने उससे कहा, “मैं तुम्हें डाँट नहीं रहा, लेकिन इस समय तुम खुद कह रहे हो कि यहाँ तुम्हारी बिल्कुल ज़रूरत नहीं है”
    • हर पेशे में मूल चीज़ व्यावहारिक अनुभव है, जो अपनी या दूसरों की ग़लतियों से सीखते हुए बनता है। अगर मैं अपनी ग़लतियों से नहीं सीखता, तो मैं विशेषज्ञ नहीं बनूँगा, बल्कि बुरे prompts की ग़लतियों से सीखने वाला एक विशेषज्ञ prompt writer ही बनकर रह जाऊँगा, इसलिए मैं पहला रास्ता चुनूँगा

  • यह मान लेना आसान है कि हम इंसानी काम को automate कर रहे हैं, लेकिन धीरे-धीरे automate तो इंसानी agency और सोच हो रही है। model जो बातें default में देता है या एक prompt पर निकाल देता है, वे व्याकरण की दृष्टि से इतनी परिपूर्ण होती हैं कि उन्हें नज़रअंदाज़ करके खाली पन्ने से तर्क करना कठिन हो जाता है
    सोच की प्रक्रिया को shortcut करने वाले model के खिलाफ़ कुछ tasks और ideas को AI से अलग-थलग रखना पड़ सकता है। लेकिन तेज़ी से और अधिक output देने के दबाव में किस मानसिक काम को अलग रखा जाए यह तय करना ही बहुत कठिन है

  • आगे चलकर वह युग ज़्यादा डरावना लगता है जिसमें हर बयान के साथ LLM citation लगाना पड़े और हर काम के लिए approval लेना पड़े — यानी सोच को ज़बरदस्ती AI को सौंपने का दौर। मीटिंग में दिया गया कोई आइडिया अगर Fable 9 खराब बता दे तो उसे आगे बढ़ाया नहीं जा सकेगा, और उसका विरोध करने पर नौकरी भी जा सकती है
    सबसे कम प्रतिरोध वाला रास्ता हमेशा LLM के निर्देश मानना होगा, इसलिए बहुत से लोग सोचना पूरी तरह छोड़ देंगे। AI बातचीत कर सकता है, लेकिन उससे बहस नहीं की जा सकती; बस उसे आपका मन बदलने के लिए मनाना होगा। उसके साथ किसी देवता जैसा व्यवहार किया जा सकता है, और यह भयानक मानसिक दमन है जो शायद बस कुछ ही साल दूर है

    • अल्पकालिक लाभ के आसान रास्ते की बजाय resilience बढ़ाने वाला लंबा रास्ता चुनने वाले लोग बहुत कम होंगे
      पहले से ही ऐसे लोग आम हैं जो LLM को सोचने देते हैं और फिर उसे गलत बताया जाए तो गुस्सा हो जाते हैं। वे ऐसे products या services मांगते हैं जो हमारी कंपनी देती ही नहीं, लेकिन LLM के गलत होने की बात मानने के बजाय हमें, जो इस काम के expert हैं, ही गलत ठहराते हैं। सिर्फ साढ़े तीन साल में LLM को experts से ऊंची authority मान लिया जाना, सोच से कहीं ज़्यादा व्यापक हो चुका है
    • यह लगभग 《1984》 जैसा है, और अब हमारे पास telescreen और Ministry of Truth को बड़े पैमाने पर लागू करने की तकनीक भी मौजूद है

  • जैसे calculator इस्तेमाल करने से पहले मैं दिमाग में जवाब के मोटे digit count का अंदाज़ा लगा लेता हूँ, वैसे ही LLM के साथ भी वही तरीका अपनाता हूँ। पहले सोचता हूँ कि मैं खुद क्या जवाब देता, फिर देखता हूँ वह कितना करीब है, और जवाब पर भरोसा किए बिना context की बारीकियों को ध्यान में रखता हूँ
    लेकिन जब वह अप्रासंगिक हिस्सों को ज़रूरत से ज़्यादा या बहुत कम समझाता है, और सवाल का औपचारिक जवाब तो देता है लेकिन वस्तुनिष्ठ रूप से बेहद खराब समाधान पेश करता है, तब और ज़्यादा थकान होती है। यह उस छात्र जैसा लगता है जो खाली जगह न छोड़ने के लिए नंबर बटोरने वाली लंबी-चौड़ी उत्तर-पुस्तिका लिखता है

    • अगर बच्चों से हर calculation में log tables और slide rule इस्तेमाल कराए जाएँ, तो शायद वे calculation से पहले समाधान-रणनीति बनाना और numbers की समझ बेहतर विकसित कर पाएँ। हो सकता है कि calculation के कठिन हिस्से को बहुत ज़्यादा abstract कर देने से गणितीय विकास में बाधा आई हो, लेकिन इससे पढ़ाई का समय बहुत बढ़ने की समस्या भी है
    • मैंने गणितीय objects सीखते समय जितना संभव हो mental math का अभ्यास किया, और linear algebra सीखते समय 4×4 matrix का inverse भी दिमाग में निकाला। कागज़ और पेंसिल तक को cheating मानता था। calculator और computer जीवन भर मुझसे यह काम बेहतर करते रहे हैं, इसलिए कुछ मायनों में आज भी कुछ बदला नहीं है
    • स्कूल में हमें कागज़-पेंसिल के बिना calculation करने की mental arithmetic class मिलती थी, और calculator कोई विकल्प ही नहीं था। मैं अपने छह साल के बच्चे को भी उसका कुछ हिस्सा सिखाने की कोशिश कर रहा हूँ
    • calculator तब तक कुछ नहीं करता जब तक आपको उसका उपयोग और क्या input करना है, यह न पता हो; लेकिन LLM उस पूरी प्रक्रिया को ही bypass कर देता है, इसलिए calculator और LLM की तुलना बेमानी लगती है

  • आजकल मेरा consulting काम धीरे-धीरे उन हालात को संभालने की तरफ झुकता जा रहा है जो दूसरे लोग AI को सोचने देने के बाद पैदा कर देते हैं
    कुछ शोधकर्ता ऐसे भी हैं जो research question से असंबंधित बेहूदा deduplication को regex से संभालने के लिए महीनों तक Claude का इस्तेमाल करते रहते हैं, और कभी पूरी research methodology ही ChatGPT से मौके पर निकलवा लेते हैं। नतीजा हमेशा अव्यवस्थित होता है और भारी stress व समय की बर्बादी पैदा करता है
    non-technical लोग LLM को oracle की तरह मानते हैं और उसके नतीजों के अर्थ पर लगभग विचार किए बिना बड़े assumptions और decisions ले लेते हैं। critical thinking की कमी AI से पहले भी थी, लेकिन अब यह बिल्कुल नए स्तर पर पहुँच गई है, और जहाँ-तहाँ सिर्फ इसलिए गलतियाँ हो रही होंगी क्योंकि किसी ने कहा, “Claude से पूछ लेते हैं”

    • हाल में lawyers और writers ने docker और agents को लेकर मुझसे ऐसे कई ठोस सवाल पूछे हैं जैसे कोई junior engineer पूछे। दोनों पेशों में आम तौर पर अपने और दूसरों के काम की आलोचनात्मक समीक्षा और बहुत सावधानी से जाँच-पड़ताल करने में काफी समय लगता है
      engineers सहित बहुत से लोग LLM को oracle की तरह इसलिए लेते हैं क्योंकि हमारी culture इस बात को ज़्यादा महत्व देती है कि ईंटों को और तेज़ी से ढोया जाए, बजाय इसके कि ईंट सही जगह जा रही है या शुरू से सही ईंट है भी या नहीं। यहाँ ईंट क्यों महत्वपूर्ण है, यह https://www.business.com/articles/management-theory-of-frank... और https://en.wikipedia.org/wiki/Time_and_motion_study में देखा जा सकता है

  • लगता है LLM लोगों को और आलसी बना रहे हैं। लोग जवाब खोजने से पहले खुद कोई कोशिश किए बिना पहले सवाल फेंक देते हैं, और उम्मीद करते हैं कि सामने वाला सब काम छोड़कर AI की तरह विस्तार से जवाब दे देगा
    manuals या documentation कोई नहीं पढ़ता, पढ़ने की एकाग्रता या इच्छा भी नहीं है, और यह तक जाँचना भी ज़रूरी नहीं समझा जाता कि वे मौजूद हैं या नहीं। पहले भी कुछ हद तक ऐसा था, लेकिन LLM के बाद खुद सोचकर हल निकालने की क्षमता बहुत ज़्यादा बिगड़ गई है

  • मैं खुद generative AI का बिल्कुल उपयोग नहीं करता, इसलिए व्यक्तिगत रूप से अपनी सोच उसे नहीं सौंप रहा हूँ। लेकिन कई tech और programming forums देखकर industry जिस दिशा में जा रही है वह मुझे पसंद नहीं
    अभी उम्मीद है कि यह रुझान गायब हो सकता है, लेकिन जितना लंबा चलेगा, नुकसान भी उतना बड़ा होगा

    • अगर मैं यह जगह न देखता, तो सोचता कि पूरी industry इस रुझान का 100% समर्थन करती है। काफ़ी विरोध और प्रतिरोध भी मौजूद है, यह जानकर थोड़ी-सी उम्मीद मिलती है
    • बस यही उम्मीद है कि subsidies के सहारे मिलने वाला उपयोग-शुल्क समर्थन खत्म हो जाए और LLM की cost efficiency भी अब और बेहतर न हो। जब किसी के पास बंदूक इस्तेमाल करते रहने का विकल्प हो, तो वह स्वेच्छा से उसे रखकर तलवार उठाने वाला नहीं होगा

  • शुरुआत में ही इस धारणा पर संदेह है कि ज़्यादातर लोग वास्तव में सोचते हैं। आम तौर पर लोग दूसरों के विचारों से परिचित होकर सीखे गए पैटर्न के अनुसार व्यवहार करते हैं, और उन्हें स्वीकारते समय या आपस में टकराने पर जबरन संगति बना लेते हैं
    वास्तविक सोच कठिन है और समय लेती है, लेकिन दूसरों से सीखे गए पैटर्न भर से भी छोटे लक्ष्य हासिल हो जाते हैं, इसलिए समय और मेहनत लगाने की प्रेरणा कम होती है। आधुनिक AI, आधुनिक मनुष्य में सोच की अनुपस्थिति को और तेज़ी से और कहीं अधिक ऊर्जा के साथ चलाने वाला विस्तारित संस्करण के अधिक करीब है

    • मेरे जानने वालों में किसी को भी मैं इस तरह वर्णित नहीं कर सकता, इसलिए मनुष्य के बारे में इतना अंधकारमय नज़रिया अजनबी लगता है। सोचता हूँ क्या आपने कभी लोगों से गहरी बातचीत नहीं की, या शौक़ से कला बनाने वालों से नहीं मिले
      अगर तकनीकी लोग मनुष्यों को इतना तुच्छ समझते हैं, तो मानवता का भविष्य डरावना लगता है। आखिरकार अगर आपके शरीर के संसाधन भी clip production में पुनःआवंटित कर दिए जाएँ, तो कोई भी दुखी नहीं होगा
    • मुझे नहीं लगता कि आधुनिकता ने मनुष्य को पतित किया है। अगर सोचना कठिन काम है, तो ऊर्जा बचाना तर्कसंगत है, और संभव है कि इसी ने मनुष्य की mimesis को विकसित किया हो, जो बड़े पैमाने के सहयोग की नींव बनी
      कुछ ही लोग कठिन सोच के जरिए कुछ नया और उपयोगी खोजते हैं, और बहुसंख्यक बिना आलोचना के उसकी नकल कर सकते हैं। यह मनुष्य की बहुत प्रेरक छवि नहीं है, लेकिन किसी को नीचा दिखाने का कारण भी नहीं, बल्कि जीवन की उस वास्तविकता के अधिक करीब है जिसे रणनीतिक ढंग से संभालना चाहिए
      https://en.wikipedia.org/wiki/Mimesis
    • मुझे लगता है कि Kurt Vonnegut की 《Timequake》 औसत मानव जीवन पर बहुत सटीक बैठती है
    • “वास्तव में सोचने वाले लोग बेहद कम हैं” कहना अपुष्ट और ठंडा निष्कर्ष है
    • सिर्फ़ LLM को मानवीय रूप देना भी तर्कसंगत विमर्श के लिए हानिकारक है, लेकिन उसी अभिव्यक्ति को फिर मनुष्यों पर लागू करके शब्दों के अर्थ तक धुंधला नहीं करना चाहिए। मनुष्य “संगति का hallucination” नहीं करते, क्योंकि hallucination परिभाषा के अनुसार ऐसी धारणा है जो वास्तविकता से मेल नहीं खाती
      AI केवल पहले से मौजूद सोच की कमी का विस्तार नहीं है, बल्कि नई समस्याएँ भी पैदा करता है। वैज्ञानिक, graduate students, और PhD जैसे लोग, जो ज्ञान की अग्रिम पंक्ति में गहराई से सोचते रहे हैं, वे भी LLM के इस्तेमाल से सोचने की क्षमता खो रहे हैं — इस पर चिंता जता रहे हैं। इसे और तेज़ तथा अधिक ऊर्जा के साथ बिगड़ने देने के बजाय, हमें इसे रोकना और पलटना चाहिए