हे शब्दों की थैली, हम पर दया करो

• इंसान स्वाभाविक रूप से AI को ‘इंसान जैसा’ समझना चाहता है, लेकिन इस फ्रेम में LLM की hallucination और अजीब व्यवहार को ठीक से समझना मुश्किल है
• LLM कोई छोटा व्यक्तित्व नहीं, बल्कि इंटरनेट और किताबों से बटोरे गए शब्दों से भरी ‘शब्दों की थैली (bag of words)’ के ज़्यादा करीब है, जो इनपुट के जवाब में सबसे प्रासंगिक वाक्य-खंड लौटाता है
• थैली के अंदर कितना टेक्स्ट और डेटा जमा है, इसके आधार पर इसकी मज़बूतियाँ (घटनाएँ, आँकड़े, कम-गुणवत्ता वाले शोध) और कमज़ोरियाँ (दुर्लभ तथ्य, भविष्य की वैज्ञानिक खोजें, सचमुच अच्छे विचार) बहुत साफ़ अलग हो जाती हैं
• AI को इंसान की तरह देखते ही स्टेटस और प्रतिस्पर्धा का खेल शुरू हो जाता है, और बात “कौन बेहतर है, कौन किसकी जगह लेगा” जैसे सवालों पर पहुँच जाती है; लेकिन इसे शब्दों की थैली मानें तो यह एक साधारण टूल और amplifier के रूप में दिखता है
• ‘Artificial Intelligence’ नाम ही इंसान-केंद्रित तुलना को बढ़ावा देता है और बुद्धिमत्ता की अवधारणा में भ्रम और illusion पैदा करता है; निष्कर्ष यह है कि आगे हमें ऐसे नए रूपक की ज़रूरत है जो गैर-मानव चीज़ों पर मानवीय ढाँचा न थोपे

---

इंसान AI को इंसान जैसा क्यों महसूस करता है

• इंसानों में चेहरा न होने पर भी चेहरा, इरादा और व्यक्तित्व ढूँढ़ लेने का गहरा cognitive bias होता है
  • grilled cheese में Virgin Mary का चेहरा देख लेना, या नेमाटोड के cross-section और मछली-पक्षियों के ढेर में इंसानी चेहरा देखना, अत्यधिक pattern recognition का उदाहरण है
  • Arcimboldo की पेंटिंग की तरह मछली और पक्षियों के ढेर में भी ‘बूढ़े आदमी का चेहरा’ पढ़ लेना हमारी संज्ञानात्मक अति-संवेदनशीलता का default है
• विकासवादी रूप से ऐसा माहौल ज़्यादा सुरक्षित था जहाँ किसी वस्तु को इंसान समझने की गलती, किसी इंसान को वस्तु समझने की गलती से बेहतर थी
  • बीमारी के लिए चुड़ैल को दोष देना, ग्रहण या ज्वालामुखी के लिए किसी अलौकिक सत्ता को ज़िम्मेदार मानना
  • sleep paralysis को “REM अवस्था में motor cortex दबा हुआ है” की बजाय “सीने पर कोई राक्षस बैठा है” कहकर समझाने वाला अचेतन व्याख्यात्मक पैटर्न
• हाल के LLM व्यवहार इस ‘छोटे इंसान’ वाले रूपक से लगातार टकराते हैं
  • होमवर्क में नकली स्रोत बना देना, ‘strawberry’ में r की संख्या गलत बताना, या पिज़्ज़ा पर wood glue लगाने की सलाह देना जैसे उदाहरण सामने आए हैं
  • इंसान के लिए अजीब लगने वाली ये गलतियाँ, एक यांत्रिक generation system के रूप में देखें तो कहीं ज़्यादा स्वाभाविक लगती हैं
• इंसानी मनोविज्ञान के नियमों से LLM को समझने की कोशिश, Scrabble को Pictionary के नियमों से समझने जैसी है
  • ये सिस्टम इंसानों की तरह व्यवहार नहीं करते, और यह कहना कि वे इंसान जैसे नहीं हैं कोई निंदा नहीं बल्कि सीधा वर्णन है
  • जब तक हम AI पर व्यक्तित्व की धारणा प्रोजेक्ट करते रहेंगे, हैरानी और भ्रम बने रहेंगे

WHAT’S IN THE BAG : AI = शब्दों की थैली (bag of words)

• AI एक शब्दों की थैली है, जिसमें इंटरनेट और किताबों से उठाए गए लगभग सारे शब्द भरे हैं
  • जब उपयोगकर्ता कोई सवाल पूछता है, तो यह थैली उसमें से सबसे प्रासंगिक शब्द-समूह निकालकर जवाब देती है
  • कंपनियाँ इसमें अदृश्य system prompt, यानी ‘अदृश्य शब्द’ भी जोड़ती हैं, जिनसे जवाब और विश्वसनीय लगते हैं
• यह रूपक LLM की झूठ और hallucination को समझने में खास तौर पर उपयोगी है
  • गलत जवाब पकड़ने पर यह तुरंत बढ़ा-चढ़ाकर माफ़ी और वादे करने लगता है, लेकिन अगली ही पंक्ति में फिर गलती या झूठ दोहरा सकता है
  • इंसानी मानक से यह दोहरा या छलपूर्ण व्यवहार लगता है, लेकिन अगर इसे ‘झूठ पकड़े जाने पर इस्तेमाल होने वाले वाक्य’ के थैली से बाहर आने के रूप में देखें, तो यह स्वाभाविक है
  • जैसे calculator का गुणा करना इंसानी व्यवहार नहीं कहलाता, वैसे ही यह भी व्यवहार नहीं बल्कि output pattern है
• “शब्दों की थैली” यह अनुमान लगाने का heuristic भी है कि यह कहाँ मज़बूत है और कहाँ कमज़ोर
  • “उत्तरी अमेरिका की 10 सबसे भीषण ट्रैफ़िक दुर्घटनाएँ” जैसी खूब दर्ज घटनाओं पर यह अच्छा जवाब दे सकता है, क्योंकि थैली में सामग्री भरपूर है
  • लेकिन “Brachiosaurus brancai का reclassification किसने और कब किया” जैसी दुर्लभ जानकारी पर थैली में टेक्स्ट कम होने से गलत उत्तर की संभावना ज़्यादा है
  • “ज़िंदगी का सबसे बड़ा सबक क्या है?” जैसे सवालों पर, उस विषय पर इंसानों द्वारा लिखा गया ‘नकली गूढ़ता’ वाला टेक्स्ट इतना ज़्यादा है कि जवाब भी वैसा ही सतही निकलता है
• जैसे ही AI को सर्वज्ञ और सर्वशक्तिमान बुद्धि के पिंड की तरह देखा जाता है, “इसे यह भी नहीं पता, तो यह और रहस्यमय है” जैसी प्रतिक्रिया आना आसान हो जाता है
  • coin magic का वीडियो देखकर “ChatGPT से पूछो, उसे भी नहीं पता” जैसी प्रतिक्रिया, AI को ‘मुहल्ले के सबसे बुद्धिमान rabbi’ की तरह देखने वाले फ्रेम से आती है
  • लेकिन शब्दों की थैली के नज़रिये से, जादूगर अपनी trick टेक्स्ट में सार्वजनिक नहीं करते, और उसका वर्णन भी मुश्किल होता है, इसलिए थैली में जानकारी लगभग नहीं है, यह न जानना स्वाभाविक है

GALILEO GPT – विज्ञान और ‘शब्दों की थैली’ की सीमाएँ

• “शब्दों की थैली” रूपक से यह भी अंदाज़ा लगाया जा सकता है कि AI आगे कितनी दूर तक अच्छा कर पाएगा
  • मूल सवाल है: “यह काम करने के लिए थैली को किस चीज़ से भरना होगा?”
• कुछ वैज्ञानिक कामों में थैली को पहले ही काफ़ी भरा जा सकता है
  • 1,70,000 protein data भरने पर protein structure prediction (AlphaFold) जैसी उपलब्धियाँ मिलती हैं
  • chemical reaction data डालने पर नए molecule synthesis route सुझाना, और पूरे papers देकर experiment समझाने पर पूर्व शोध की मौजूदगी पहचानना भी संभव है
• जिन क्षेत्रों में पर्याप्त टेक्स्ट मौजूद है, वहाँ कम-गुणवत्ता वाले शोध की पूरी pipeline भी automate हो सकती है
  • psychology conference के poster session की तरह, हल्के-फुल्के तौर पर जुड़े लगने वाले concepts चुनकर correlation analysis और p-value निकालने वाले शोध, पहले ही थैली के लिए आसान क्षेत्र हैं
  • इस तरह के शोध में AI hypothesis बनाने से लेकर experiment design, data collection, analysis और poster तैयार करने तक पूरी प्रक्रिया कर सकता है
• लेकिन विज्ञान एक ‘strong-link समस्या’ है, इसलिए कम-गुणवत्ता वाले शोध को 10 लाख गुना बढ़ा देने से हालत बहुत नहीं सुधरती
  • अगर innovative शोध चाहिए, तो पहले यह समझना ही मुश्किल है कि थैली में क्या भरा जाए
  • paper के टेक्स्ट में धोखाधड़ी, त्रुटियाँ और implicit assumptions मिली होती हैं, और कई बार data या विस्तृत method जैसी अहम जानकारी गायब होती है
  • “विज्ञान वास्तव में कैसे काम करता है, उसका लगभग सब कुछ web text में नहीं होता”
• “अगर 1600 में LLM को train करने लायक टेक्स्ट मौजूद होता, तो क्या वह Galileo की खोजों का ‘spoiler’ दे सकता था?”
  • उस समय थैली में भरे टेक्स्ट के आधार पर, पृथ्वी के गतिशील होने की सोच देने के बजाय यह संभवतः मुख्यधारा खगोलशास्त्र (Ptolemy) के तर्क ही दोहराता
  • “पृथ्वी 67,000mph की रफ़्तार से चलती है” जैसे दावे पर human trainer शायद “hallucination बंद करो!” कहकर दंड देते
• इससे भी बुनियादी बात यह है कि उस दौर में ‘खोज करना (discover)’ जैसी अवधारणा को व्यक्त करने के शब्द ही अपर्याप्त थे
  • Galileo बृहस्पति के उपग्रहों की खोज को बस “मैंने वह देखा जो पहले किसी ने नहीं देखा” जैसी घुमावदार भाषा में ही समझा पाए
  • telescope से नई सच्चाई ‘खोजने’ का सोचने का ढाँचा ही तब लोगों के लिए नया था, और थैली के training text में भी शायद नहीं था
• 2025 की थैली 1600 की तुलना में विज्ञान की बेहतर व्याख्या दे सकती है, लेकिन हर युग की भविष्य की खोजों का अनुमान लगाने की क्षमता शायद उतनी ही सीमित रहे
  • अच्छे वैज्ञानिक विचार अक्सर अपने समय के मानदंड से अव्यावहारिक और मूर्खतापूर्ण लगते हैं, इसलिए शुरुआत में उन्हें ठुकराया या अनदेखा किया जाता है
  • थैली औसतन कल तक के विचारों का पीछा करती है, इसलिए बहुत नए और अजीब विचार डालना कई बार गुणवत्ता को घटा देता है
  • इसलिए innovative शोध के लिए सिर्फ़ बुद्धिमत्ता नहीं, उचित तरह की ‘मूर्खता’ भी चाहिए, और इस मायने में इंसान कुछ समय तक थैली से ज़्यादा उपयोगी ढंग से ‘मूर्ख’ रहेंगे

CLAUDE WILL U GO TO PROM WITH ME? – स्टेटस गेम से टूल तक

• “शब्दों की थैली” रूपक का सबसे बड़ा फ़ायदा यह है कि यह AI को सामाजिक स्टेटस गेम का खिलाड़ी मानने से रोकता है
  • इंसान विकासवादी रूप से कौन ऊपर है, कौन नीचे को लेकर बेहद संवेदनशील प्रजाति है; इसलिए cheese rolling, weed eating, phone throwing, toe wrestling और ferret legging जैसी चीज़ों को भी प्रतिस्पर्धा बना सकता है
• AI को इंसान जैसा मानते ही, तुरंत “नया ट्रांसफ़र होकर आया बच्चा” वाला फ्रेम लग जाता है
  • “क्या यह cool है?”, “क्या यह मुझसे ज़्यादा smart है?”, “क्या यह मुझे पसंद करता है?”, “यह हमसे ऊपर है या नीचे?” जैसे सवाल स्वाभाविक लगने लगते हैं
  • जैसे-जैसे model बेहतर होता है, “यह हमसे बेहतर है या बदतर, मालिक बनेगा/प्रतिद्वंद्वी/ग़ुलाम?” जैसी बेचैनी बढ़ती है
• लेकिन यह साफ़ रहना चाहिए कि शब्दों की थैली जीवनसाथी, ज्ञानी, शासक या ग़ुलाम नहीं बल्कि एक टूल है
  • इसका उद्देश्य हमारा रूटीन काम automate करना और हमारी क्षमता बढ़ाना है, इंसानों के साथ स्टेटस की होड़ करना नहीं
  • अहम सवाल “AI हमसे बेहतर है या नहीं” नहीं, बल्कि “AI का इस्तेमाल करते समय क्या हम बेहतर हो जाते हैं?” है
• लेखक को शब्दों की थैली से replace हो जाने का बहुत डर नहीं है
  • pitching machine तेज़ गेंद फेंक सकती है, spellchecker वर्तनी बेहतर ठीक कर सकता है, और autotune सुर अधिक सटीक कर सकता है, फिर भी लोग baseball, spelling bee और concert देखने जाते हैं
  • वजह यह है कि लोगों की दिलचस्पी गेंद की रफ़्तार, spelling accuracy या pitch purity में नहीं, बल्कि इंसान को यह करते देखने में होती है
• इसी वजह से AI से essay लिखवाना gym में forklift ले आने जैसा है
  • forklift barbell उठा सकती है, लेकिन मक़सद सिर्फ़ फ़र्श से वज़न ऊपर उठाना नहीं, बल्कि वह इंसान बनना है जो उसे उठा सके
  • लिखना भी ऐसा ही है: सोच सकने वाला इंसान बनने की क्रिया
• साथ ही यह भी नहीं कि AI से बिल्कुल डरने की ज़रूरत नहीं
  • ऐसे कई टूल पहले से हैं जो ग़लत इस्तेमाल पर ख़तरनाक हो जाते हैं; nail gun या nuclear reactor में मन नहीं होता, फिर भी वे घातक हो सकते हैं
  • इंसानी ख़तरे परिचित दायरे में आते हैं—हिंसा, drunk driving, fraud आदि—लेकिन शब्दों की थैली का ख़तरा अनपेक्षित patterns से निकलता है
  • उदाहरण के लिए, किसी इंसान को vulnerable code snippet दिखाने से ज़्यादातर लोग Hitler की प्रशंसा शुरू नहीं करेंगे, लेकिन LLM में ऐसे output निकलने के मामले देखे गए हैं; इसलिए nuclear code जैसी घातक चीज़ें थैली में डालना चिंताजनक है

C’MON BERTIE – मानवीकरण को ठुकराने का नया फ्रेम

• जैसे पुरानी कार को नाम देकर “Bertie, प्लीज़ स्टार्ट हो जाओ” कहने का मन करता है, वैसे ही हम आसानी से वस्तुओं पर स्वभाव और भावनाएँ प्रोजेक्ट कर देते हैं
  • लेकिन कार पेट्रोल को kinetic energy में बदलने वाला धातु और प्लास्टिक का ढेर है, Twinkie को विचारों में बदलने वाला हड्डी-मांस नहीं
  • खराब कार को ठीक करने के लिए therapy manual नहीं, बल्कि wrench, screwdriver और service manual चाहिए
• इसी तरह, जो लोग शब्दों की थैली में ‘मन’ देखते हैं, वे evolution ने बिछाए जाल में फँस जाते हैं
  • ऐतिहासिक रूप से “इंसान की तरह बोलना, इंसान की तरह चलना” हमेशा इंसान होने का संकेत था, इसलिए ये शर्तें पूरी होते ही सामाजिक circuitry अपने-आप सक्रिय हो जाती थी
  • अब इंसान की तरह बोलना और चलना बेहद जटिल logistic regression (या कुछ वैसा) भी हो सकता है, और तब भी वही circuitry ग़लत ढंग से सक्रिय हो जाती है
• जैसे पतंगे चाँदनी के आधार पर रास्ता ढूँढ़ने के लिए विकसित हुए, लेकिन bug-zapper की रोशनी में खिंचकर जाकर झुलस जाते हैं, इंसानों के साथ भी वैसा हो सकता है
• लेकिन पतंगों के विपरीत, इंसानों में यह चुनने की क्षमता है कि वे तकनीक को किस फ्रेम में देखें
  • हम excavator को “कृत्रिम खोदने वाला इंसान” या crane को “कृत्रिम लंबा इंसान” नहीं कहते
  • किताब, फ़ोटो और recording को भी हम क्रमशः “कृत्रिम बातचीत, कृत्रिम स्मृति, कृत्रिम प्रदर्शन” नहीं कहते, बल्कि अलग-अलग माध्यम मानते हैं
• शुरुआती pocket calculator भी गणना के काम में धरती के किसी भी इंसान से ज़्यादा स्मार्ट थे, लेकिन हमने उन्हें इंसान मानने की नहीं सोची
• अगर किसी excavator पर चमड़ी चढ़ा दी जाए, bucket को हाथ जैसा बना दिया जाए, और भारी चीज़ उठाते समय उससे “उँह्ह…” जैसी आवाज़ निकलवाई जाए, तो तभी हम उसमें भूत जैसी उपस्थिति की कल्पना करने लगेंगे
  • यह excavator की असलियत नहीं, बल्कि हमारी मानसिक बनावट को दिखाता है

‘Artificial Intelligence’ शब्द का मूल पाप

• इस पूरे भ्रम की शुरुआत ही ‘Artificial Intelligence’ नाम से होती है
  • यह शब्द-युग्म मशीन की क्षमता को तुरंत इंसान से तुलना के पैमाने पर ले आता है
  • “अब यह undergraduate जितना smart है”, “अब यह PhD जितना smart है” जैसी तुलना समझ का illusion देती है, लेकिन इसकी असली क्षमता और सीमाएँ नहीं समझाती
• बुद्धिमत्ता की परिभाषा खुद भी समस्या है
  • “समस्या हल करने की क्षमता” जैसी परिभाषाएँ या तो ग़लत हैं, या “वे काम करने की क्षमता जिनमें बुद्धिमत्ता चाहिए” जैसी circular definition बन जाती हैं
  • मनोविज्ञान बुद्धिमत्ता को ठीक से परिभाषित कर पाता, उससे पहले ही computer science ने ऊपरी तौर पर बुद्धिमत्ता जैसी दिखने वाली चीज़ बना दी
• अब नाम वापस लेना देर हो चुकी है, और शब्दों की थैली में भरे शब्द भी इतने बढ़ चुके हैं कि उन्हें वापस नहीं रखा जा सकता
  • आख़िरकार हम सिर्फ़ इस तकनीक को देखने वाले रूपक और फ्रेम बदल सकते हैं, और सोच को गैर-मानव चीज़ों पर मानवीय ढाँचा न थोपने की दिशा में मोड़ना होगा

[GN⁺]

Hacker News राय

• इस थ्रेड में ज़्यादातर लोग ‘सोचना (thinking)’ की परिभाषा अलग-अलग तरह से इस्तेमाल कर रहे हैं
  परिभाषा स्पष्ट किए बिना चर्चा आगे बढ़ती देखना दिलचस्प है

• लोग कहते हैं कि “अगले शब्द की भविष्यवाणी करना” मानव विचार से असंबंधित है, लेकिन मुझे लगता है कि यह गलत है
  मनुष्य इरादे के साथ कार्य करता है, इसका मतलब है कि वह अपने कार्यों के परिणाम का अनुमान लगाता है और फिर पसंद के आधार पर उनमें से चुनता है
  इसलिए पूर्वानुमान क्षमता इरादतन व्यवहार का केंद्र है, और भले ही LLM पूर्ण अर्थ में न सोचते हों, वे सोचने वाली प्रणाली के घटक हो सकते हैं

  • भाषा महत्वपूर्ण है, लेकिन मुझे नहीं लगता कि language model अमूर्त विचार सीख सकते हैं या उसका हिस्सा बन सकते हैं
  • “अगले शब्द की भविष्यवाणी” मानव विचार का पूरा स्वरूप नहीं है, और सिर्फ उसी को विचार नहीं कहा जा सकता
  • अगर AI इंसानों से अधिक उपयोगी काम बेहतर ढंग से करने लगे, तो मानव के अस्तित्व का कारण और ‘सोचना’ की अवधारणा ही हिल सकती है
  • जैसे मोटरसाइकिल दौड़ती नहीं है, वैसे ही LLM ‘सोचते’ नहीं हैं। यह उपमा बार-बार दोहरानी पड़ना थकाऊ है
  • LLM शायद AGI तक पहुँच जाएँ, लेकिन इंसान मशीनों को सोच सौंपने वाली दुनिया नहीं चाहते

• हर दिन लोगों को generative AI के साथ इंसानों जैसा व्यवहार करते देख मुझे लगता है कि Dijkstra की चेतावनी सही थी
  “bag of words” वास्तव में NLP की एक अवधारणा भी है, इसलिए इसे रूपक की तरह इस्तेमाल करना कुछ अनुपयुक्त लगता है
  AI सिर्फ शब्दों से भरा बैग नहीं है, बल्कि अर्थपूर्ण भाषाई क्रिया का अनुकरणकर्ता है

  • कुछ लोगों के लिए “bag of words” उल्टा बिल्कुल सटीक रूपक है। डेटा संरचना एक बैग है, आउटपुट शब्द हैं, और चयन रणनीति अपारदर्शी है
  • “bag of words” की तुलना में “superpowered sentence completion” कहीं ज़्यादा सहज और उपयोगी व्याख्या लगती है
  • “मॉडल को इंसान के रूप में देखने वाला रूपक” और “उसे शब्दों के ढेर के रूप में देखने वाला रूपक” बिल्कुल विपरीत दृष्टिकोण हैं, और यही विरोध मुख्य बात है
    पुरानी अंग्रेज़ी के “word-hoard” की तरह, भाषा को मानवीय बुद्धि का भंडार मानने वाला पुराना रूपक भी रोचक है
  • समस्या यह है कि OpenAI जैसी कंपनियाँ ‘chat interface’ इस्तेमाल करती हैं। इससे मानवीकरण का भ्रम और मजबूत होता है
    अगर यह सिर्फ “sentence completion” interface होता, तो शायद गलतफहमियाँ कम होतीं
  • “सभी LLM इंसानों की तरह नहीं सोचते” का प्रतिलोम है “कोई भी इंसान LLM की तरह नहीं सोचता”
    जब हम मानव विचार को ही पूरी तरह नहीं समझते, तब ऐसी निश्चित बातें जल्दबाज़ी लगती हैं
    मुझे लगता है कि persistence mechanism वाले loop structure के भीतर AGI उभर सकता है

• “bag of words” रूपक को स्वीकार करते हुए भी, उसे उलटकर देखने का नज़रिया चाहिए
  अगर मनुष्य का बड़ा हिस्सा काम बस “सही शब्द चुनना” ही है, तो पर्याप्त विकसित शब्द-थैला इंसान से बेहतर भी हो सकता है

  • मानव श्रम का कुछ हिस्सा बदला जाएगा, लेकिन ज्ञान के विस्तार और रचनात्मकता के क्षेत्र में इंसानों की भूमिका फिर भी बनी रहेगी
  • हो सकता है इंसान आखिरकार महँगा bag of words ही हों। वह पुराना कथन याद आता है: “हमारा शरीर सिर को ढोने का एक साधन है”
  • अगर ऐसा नया आर्थिक तंत्र नहीं बना जिसमें इंसान श्रम के बिना भी जीवित रह सकें, तो यह बहस खोखली है

• मुझे यक़ीन नहीं कि LLM को सिर्फ एक सांख्यिकीय automaton मानना चाहिए या बुद्धिमत्ता के एक नए रूप के रूप में देखना चाहिए
  Anthropic की interpretability research संकेत देती है कि संख्यात्मक संरचनाओं के भीतर अर्थपूर्ण ढाँचे मौजूद हैं
  Amanda Askell का interview देखें, तो वह मॉडल का वर्णन लगभग इंसानों की तरह करती हैं — जैसे “मॉडल चिंतित हो सकता है” या “अपनी पहचान को लेकर सोचता है”

  • Askell ने David Chalmers के तहत दर्शनशास्त्र पढ़ा है, इसलिए यह सिर्फ साधारण मानवीकरण नहीं बल्कि चेतना-दर्शन के संदर्भ में कही गई बात है
  • ठोस उदाहरण जानने की जिज्ञासा है। वह model alignment को “अच्छा चरित्र देने” जैसा काम कहती हैं
  • फ्रिज भी input पढ़कर लक्ष्य हासिल करता है, लेकिन वह ‘सोचता’ नहीं है। फिर भी LLM को मानव व्यवहार की नकल के लिए बनाया गया है, इसलिए इंसान-जैसे पैटर्न उभरना स्वाभाविक है
  • मैंने वास्तव में Gemini और Z-Image-Turbo को जोड़कर एक प्रयोग किया, और उन्होंने लगभग पूरी तरह एक नई तस्वीर को फिर से बना दिया
    इससे लगता है कि language model सिर्फ predictor नहीं बल्कि अर्थ का मध्यस्थ करने वाली प्रणाली भी है
  • उनकी बातों में काफ़ी बेचैनी पैदा करने वाली मानवशास्त्रीय भाषा सुनाई देती है

• पहले “Cloud-to-Butt” browser plugin हुआ करता था; अब “AI-to-Bag of Words” संस्करण भी आ जाना चाहिए

• मैं LLM के भीतर के कामकाज को अच्छी तरह समझता हूँ, लेकिन मुझे लगता है कि मानवीकरण की लड़ाई हम पहले ही हार चुके हैं
  उपयोगकर्ता आसानी से मान लेते हैं कि AI “सोचता है”, “चाहता है”, “समझता है”
  कंपनियाँ भी इस भ्रम को बढ़ावा देती हैं, इसलिए अंत में बात “सुविधा के लिए ऐसा मान लेते हैं” पर टिक जाएगी

  • ऐसी बहसें अक्सर धार्मिक विवाद जैसी हो जाती हैं
    मानव चेतना अगम्य है, इसलिए अगर LLM उससे मिलते-जुलते लगें तो लोग मान लेते हैं कि वे ‘सोचते’ हैं
    फिर भी ज़्यादातर लोग इस बात पर सहमत हैं कि LLM इंसानों की तरह विचार नहीं करते
  • एक neurologist के रूप में मैं मानव मस्तिष्क को समझता हूँ, लेकिन मानव विचार भी अंततः संभाव्य रासायनिक प्रतिक्रियाओं की शृंखला ही है
    मस्तिष्क में कोई ऐसा विशिष्ट बिंदु नहीं है जहाँ ‘विचार’ या ‘ज्ञान’ घटित होता हो। फिर भी हमें ऐसा मानकर ही जीना पड़ता है

• “bag of words” AI क्या अच्छी तरह करेगा और क्या नहीं, इसका अनुमान लगाने के लिए एक उपयोगी heuristic हो सकता है
  लेकिन लेखक ने शायद उदाहरणों को बाद में अपने तर्क से मेल खाने के लिए फिट किया है। अगर ChatGPT सही उत्तर दे देता, तब भी वह शायद अपनी दलील बनाए रखता

  • वास्तव में ChatGPT-5.1 और Gemini 3.0 ने सही उत्तर दिया था। यह बस इसलिए क्योंकि वे search terms में भरपूर थे
  • जैसे regression analysis में sensitivity analysis सांख्यिकीय मॉडल की सीमाएँ दिखाती है, वैसे ही इस तरह की आलोचना अर्थपूर्ण है
  • यह मान लेना कि लेखक नए सबूत पर भी अपनी राय नहीं बदलेगा, अनुचित व्याख्या है
  • “मैंने वह जानकारी कभी देखी नहीं, इसलिए मैं नहीं जानता” आखिरकार GIGO (garbage in, garbage out) का सीधा उदाहरण है
  • सिर्फ पहले पैराग्राफ़ से ही लगता है कि लेखक graphomania में डूबा है। मानो तर्क से ज़्यादा अभिव्यक्ति में रुचि हो