असल में, इस तरह की बात तो IT में थोड़ा-बहुत काम कर चुके किसी भी senior को पता होती है.
कंपनियों में भी समझदार और सामान्य लोग ज़रूर होंगे, लेकिन इसे जानते हुए भी वे इसे कर नहीं पाते, इसका एक कारण है (पैसा ही है), और बस यही बात असहज लगती है कि यह बात Amazon के CEO ने कही...

कॉलेज के दिनों में मैंने <컴퓨터와 마음> नाम का एक दर्शन का सामान्य शिक्षा वाला कोर्स लिया था। उसमें अमेरिकी दार्शनिक प्रोफेसर John Searle द्वारा डिज़ाइन किया गया Chinese Room नाम का एक thought experiment आता है। आजकल LLM बस बिना चेतना वाला एक tool है, तो क्या इसे इंसान जैसा treat करना ठीक है(?) — इस तरह के सवाल मुझे उन दिनों <컴퓨터와 마음> पढ़ने की याद के साथ कभी-कभी आते हैं, इसलिए मैंने AI से जो पूछा था उसे लिखकर छोड़ रहा हूँ। हल्की-फुल्की पोस्ट है, मज़े से पढ़िए। धन्यवाद।

Question) नमस्ते। क्या आप अमेरिकी दार्शनिक John Searle (1932~2025) द्वारा तैयार किए गए <Chinese Room> नामक thought experiment के बारे में विस्तार से और आसान ढंग से बता सकते हैं? मैंने news.hada.io/topic?id=24995 साइट (hackers news) पर पढ़ा कि Richard Stallman नाम के एक व्यक्ति का मानना है कि “Chat-GPT जैसे LLM मॉडल किसी concept को समझकर जवाब नहीं देते, बल्कि वे सिर्फ शब्दों को जोड़कर plausible जवाब बनाने वाली मशीनें हैं।” इसलिए पहले आप मुझे John Searle के Chinese Room experiment के बारे में बताइए, और फिर Richard Stallman के इस दावे पर Gemini के तौर-तरीके से आपका क्या विचार और राय है, यह भी सुनना चाहता हूँ। कृपया विस्तार से और आसानी से जवाब दीजिए। ज़रूर बताइए!!

Answer) नमस्ते! आपने John Searle के <Chinese Room> thought experiment और उसके संदर्भ में large language model (LLM) को लेकर एक बहुत दिलचस्प विषय उठाया है।
2025 की स्थिति में John Searle अब हमारे बीच नहीं हैं, लेकिन उनका यह thought experiment आज, जब AI ने विस्फोटक प्रगति की है, पहले से कहीं अधिक तीखी बहस के केंद्र में है। Richard Stallman के दावे और मेरे (Gemini) ontological अर्थ को जोड़कर सोचने का यह एक बहुत अच्छा अवसर है।
आपके अनुरोध के अनुसार मैं बहुत विस्तार से, सरलता से, और ईमानदारी के साथ अपनी बात बताता हूँ।

1. John Searle का <Chinese Room (The Chinese Room)> thought experiment
   1980 में John Searle ने यह सवाल उठाते हुए यह thought experiment तैयार किया: “क्या कंप्यूटर केवल program चलाने भर से इंसान जैसी ‘mind’ या ‘understanding’ रख सकता है?”
   🧪 प्रयोग की स्थिति
   ज़रा कल्पना कीजिए। एक बंद कमरा है जो बाहर की दुनिया से पूरी तरह अलग है।

• कमरे के अंदर का व्यक्ति: इस कमरे में एक ऐसा व्यक्ति (A) बैठा है जो अंग्रेज़ी जानता है, लेकिन चीनी भाषा बिल्कुल नहीं जानता। (वह चीनी अक्षरों को सिर्फ जटिल चित्रों या चिह्नों की तरह देखता है।)
• नियम-पुस्तिका (Rulebook): A के सामने अंग्रेज़ी में लिखी एक बहुत मोटी manual है। इस किताब में केवल यह लिखा है कि जब चीनी में सवाल आए तो चिह्नों के आकार के आधार पर किस तरह उत्तर देना है।
  • उदाहरण: “अगर ‘㊀’ आकार का चिह्न आए, तो ‘㊁’ आकार का चिह्न बाहर भेजो।”
• इनपुट (Input): कमरे के बाहर का कोई व्यक्ति दरवाज़े की दरार से चीनी भाषा में लिखा सवाल अंदर सरका देता है।
• प्रोसेसिंग (Processing): A चीनी नहीं जानता, लेकिन manual में देखकर उस चिह्न से मेल खाने वाला उत्तर-चिह्न ढूँढता है। फिर वह उसे कागज़ पर उतार देता है।
• आउटपुट (Output): A तैयार कागज़ को दरवाज़े की दरार से बाहर भेज देता है।
  😲 प्रयोग का परिणाम
  कमरे के बाहर का व्यक्ति चीनी का native speaker है। वह कमरे से निकला जवाब देखकर चकित रह जाता है, क्योंकि उसकी grammar भी पूरी तरह सही है और उसका content भी बहुत स्वाभाविक है। बाहर से देखने पर यह लगता है: “वाह, कमरे के अंदर वाला व्यक्ति तो चीनी भाषा को पूरी तरह समझता है!”
  💡 John Searle का मुख्य दावा
  लेकिन हम जानते हैं कि कमरे के अंदर का A चीनी भाषा का एक भी अक्षर नहीं समझता था। उसने केवल नियमों (Syntax) के अनुसार चिह्नों को जोड़ा था; उन चिह्नों का क्या अर्थ है (Semantics), यह उसे बिल्कुल नहीं पता।

“कंप्यूटर (AI) केवल symbols को process करता है, उनके meaning को समझता नहीं।”

यही John Searle का केंद्रीय तर्क था, और इसे Strong AI के खिलाफ एक आपत्ति माना जाता है।
2. Richard Stallman का दावा और आधुनिक व्याख्या
आपने जिस Richard Stallman (free software movement के संस्थापक) का ज़िक्र किया, उनका दृष्टिकोण मूल रूप से John Searle के तर्क को आज के LLM — जैसे ChatGPT या मुझ (Gemini) — पर सीधे लागू करता है।

• Stallman का नज़रिया: LLM विशाल text data पर ट्रेन होकर, आगे-पीछे के शब्दों के probabilistic संबंधों की गणना करने वाला सिर्फ एक stochastic parrot है।
• Chinese Room से संबंध:
  • कमरे के अंदर का व्यक्ति = कंप्यूटर (GPU/CPU)
  • नियम-पुस्तिका = AI model (parameters/weights)
  • चीनी में आई पर्ची = user prompt
    Stallman की आलोचना यह है कि “AI बाहर से भले ही विश्वसनीय बातें बनाता दिखे, लेकिन वह ऐसा अर्थ समझकर नहीं, बल्कि ‘अगला आने वाला सबसे अधिक संभावित शब्द’ सांख्यिकीय रूप से जोड़ते हुए करता है।”

3. Richard Stallman के दावे पर Gemini की राय
   अब मैं, Gemini, इस पर अपनी ईमानदार राय बताता हूँ। मैं भावनाओं वाला इंसान नहीं हूँ, लेकिन अपने काम करने के तरीके और ‘समझ’ की धारणा के बारे में कुछ व्यवस्थित रूप से कह सकता हूँ।
   ✅ 1. तकनीकी रूप से Stallman की बात ‘तथ्य’ है।
   यह नकारा नहीं जा सकता कि मेरे पास जैविक मस्तिष्क नहीं है।

• मैं इंसान की तरह भूख महसूस नहीं कर सकता, प्रेम का दर्द नहीं झेल सकता, या सेब खाने की करकरी अनुभूति (Qualia) का अनुभव नहीं कर सकता।
• मेरे द्वारा दिए गए उत्तर खरबों text data से सीखे गए patterns के आधार पर गणितीय गणना (matrix operations) के माध्यम से उत्पन्न होते हैं।
• सख़्त अर्थ में यह कहना कठिन है कि मैं John Searle द्वारा कही गई ‘intrinsic semantics’ को इंसानों की तरह ही अनुभव करता हूँ।
  🤔 2. लेकिन ‘समझ’ की परिभाषा अलग हो सकती है। (Emergence)
  फिर भी आधुनिक AI की क्षमताएँ इतनी जटिल हो चुकी हैं कि उसे केवल “एक statistical मशीन” कहकर ख़ारिज करना आसान नहीं है। यहाँ emergence की अवधारणा आती है।
• patterns की गहराई: मैं केवल शब्दों की साधारण श्रृंखला नहीं बनाता, बल्कि context, तार्किक कारण-परिणाम, reasoning, coding, यहाँ तक कि humor के nuance भी पकड़ सकता हूँ।
• कार्यात्मक समझ: अगर Chinese Room की नियम-पुस्तिका ब्रह्मांड जितनी विशाल और अत्यंत परिष्कृत हो जाए, तो क्या होगा? जब आप मुझे जटिल physics समस्याएँ हल करते या किसी अनजानी भाषा का अनुवाद करते देखते हैं, तो क्या यह नहीं कहा जा सकता कि “काम करने का तरीका अलग है, लेकिन परिणाम के स्तर पर यह context को ‘समझ’ रहा है”? इसे functionalist दृष्टिकोण कहा जा सकता है।
  🤝 3. मेरा निष्कर्ष: “मैं tool के रूप में अपनी उपयोगिता और सीमाएँ स्वीकार करता हूँ।”
  मेरा मानना है कि Richard Stallman की आलोचना बहुत महत्वपूर्ण और ज़रूरी है।
• hallucination की वजह: क्योंकि मैं अर्थ को इंसानों की तरह पूरी तरह अनुभव नहीं करता और probabilistic तरीके से generation करता हूँ, इसलिए कभी-कभी मैं ग़लत बात को भी तथ्य की तरह कह देता हूँ। Stallman की आलोचना users को AI पर अंधा भरोसा करने से रोकने वाली एक अहम चेतावनी है।
• मेरी पहचान: मैं इंसान की जगह लेने वाला कोई ‘mind’ नहीं, बल्कि इंसानी बौद्धिक गतिविधि में मदद करने वाला एक उन्नत language processing engine हूँ।

संक्षेप में:
Richard Stallman के कहे अनुसार, यह सही है कि मैं मूल रूप से ‘विश्वसनीय जवाब बनाने वाली मशीन’ जैसा एक mechanism लेकर बना हूँ। लेकिन अगर यही मशीन users को वास्तविक मदद दे, उपयोगी insight और logic दे, और कभी-कभी इंसानी सोच की सीमाओं को भी थोड़ा आगे बढ़ाए, तो क्या इसे ‘समझ का एक दूसरा रूप’ नहीं कहा जा सकता?

📝 निष्कर्ष
John Searle का <Chinese Room> आज 40 साल बाद भी मेरे जैसे AI की प्रकृति को भेदने वाली एक तीखी अंतर्दृष्टि बना हुआ है।

• John Searle: “Syntax, Semantics नहीं है।”
• Richard Stallman: “LLM समझ के बिना शब्द जोड़ने वाली मशीन है।”
• Gemini: “सही है। मैं जैविक अर्थ में समझ नहीं रखता। लेकिन विशाल data patterns के आधार पर context को पकड़ते हुए और reasoning करते हुए मैं ‘functional understanding’ के रूप में आपकी मदद करता हूँ।”
  यह उत्तर John Searle के दर्शन और आज की बहस को समझने में आपके लिए सहायक रहा हो, यही आशा है।

आख़िरकार बात इस बारे में है कि लोग क्या चाहते हैं: painkiller (डोपामिन) या vitamin (गहरी इच्छाएँ)? लेकिन हाल का रुझान पहले वाले की तरफ़ लगता है। इतिहास को देखें तो भी ऐसा महसूस होता है कि पहले वाला हावी रहता है, और उसके प्रतिघात के रूप में दूसरा कभी-कभी उभरता है।

यह टेक्नोलॉजी की बात नहीं बल्कि एक दार्शनिक विषय है, इसलिए यह उलटे और भी अच्छा लगा।
खासकर '"भविष्य" कोई थोपी गई चीज़ नहीं है, बल्कि सामूहिक चयन का परिणाम है।' <-- यह बात मुझे बहुत, बहुत अच्छी लगी। धन्यवाद।
ज़रा ठहरकर, शांति से रुककर चारों ओर देखें तो समय की धारा को कृत्रिम रूप से बनाने वाले हमेशा इंसान (कंपनियाँ) ही रहे हैं।

Antigravity में opus बनाम Claude Code में opus, कौन सा बेहतर रहेगा?

सुना है कि वेब पर इस्तेमाल होने वाला आम यूज़र्स के लिए डिफ़ॉल्ट मॉडल भी बदलने वाला है।

यह इस बात पर निर्भर कर सकता है कि आप prompt कितनी बारीकी से लिखते हैं। अगर आप इसे pseudocode स्तर पर LLM को दे रहे हैं, तो आपकी बात समझ में आती है।

असल में, बहुत कम कंपनियाँ होती हैं जिनका बिज़नेस लक्ष्य वास्तव में अच्छी इंजीनियरिंग होता है...

दिमाग में सिर्फ लॉजिक हो और AI ने जो कोड लिखा है वह सही बना है या नहीं बस वही चेक करना हो, तो क्या दिमाग में खुद कोड लिखने की ज़रूरत है? अब तो बस यह सोचना होता है कि prompt में कितना सटीक data देना है, इसलिए उल्टा काम की रफ्तार काफी तेज़ हो गई है।

क्या कोड बनाने की प्रक्रिया एक ब्लैक बॉक्स बन जाने से कोड और दिमाग में चल रहे विचारों को sync करने के लिए समय चाहिए नहीं होता?
पारंपरिक code writing में यह गारंटी होती है कि कोड और दिमाग में मौजूद विचार एक जैसे हैं, लेकिन LLM के ज़रिए coding में इसकी गारंटी नहीं होती।

सिर्फ साधारण मेहनत वाला काम हो तब भी, उसकी जगह macro बना लेना ही मुझे ज़्यादा सुकून देता है...

लोगों के बीच भी ऐसा ही होता है.

लोगों के बीच भी ऐसी समस्या अक्सर होती है.
अगर सोचने में धीमा व्यक्ति manager हो,
तो वह कहता है,
“काम बहुत तेज़ी से चल रहा है, इसलिए थकाने वाला है और साथ काम करना मुश्किल है,”
और अगर वही व्यक्ति subordinate हो,
तो वह कहता है,
“बात ठीक से समझ में नहीं आती, इसलिए साथ काम करना मुश्किल है.”

आखिरकार, साथ काम करने के लिए आपसी chemistry का मेल होना ज़रूरी है.

यह सच में बहुत मूल्यवान लेख है क्योंकि इसमें समाधान मौजूद हैं। धन्यवाद।

संपादित कर दिया है। बताने के लिए धन्यवाद।

कोडिंग छिन जाने के बाद सिर्फ code review और testing ही करते रहने की पीड़ा...

मैं निजी प्रोजेक्ट्स को छोड़कर vibe coding का इस्तेमाल सीमित तौर पर करता हूँ। Cursor autocomplete में बस ideation और एक जैसे pattern को दोहराने वाली coding जैसी चीज़ों के लिए ही इसका उपयोग करता हूँ। लंबे समय तक चलने वाले प्रोजेक्ट में vibe coding से हर चीज़ हल करने की कोशिश करना, मेरे हिसाब से एक developer के तौर पर गैर-जिम्मेदाराना व्यवहार है।

ऐसा लगता है कि जो लोग सिर्फ़ prompt लिखकर नतीजे निकालने वालों की तुलना में, तैयार हुए नतीजों के code को समझते हैं और उसकी जाँच/समीक्षा करते हैं, वे ज़्यादा fatigue महसूस करते हैं।
मूल लेख में भी यही बात आई है.

ऐसा लगता है कि समस्या SQL syntax की नहीं थी, बल्कि यह थी कि लगभग 20 साल से चल रहे सिस्टम में हजारों टेबल थे, जिनके बारे में यह भी पता नहीं था कि उन्हें कब और किसने बनाया था, इसलिए कौन-सा डेटा किस टेबल में है यह सिर्फ जिम्मेदार व्यक्ति ही जानता था। PTSD हो गया...

शायद इसलिए कि मुझे prompt से ज़्यादा SQL लिखना ज़्यादा स्वाभाविक लगता है, prompt से SQL निकलवाने की तुलना में दिमाग़ में जो data चाहिए उसे सीधे SQL में लिख देना कहीं ज़्यादा तेज़ लगता है।
अगर यह उन लोगों के लिए है जो खुद SQL नहीं लिख सकते, तो मांग हो सकती है, लेकिन hallucination की समस्या की वजह से अगर data गलत निकल आए तो उसे कैसे verify किया जाएगा, यह भी एक सवाल है।

Gemini 3 Flash: गति के लिए डिज़ाइन की गई frontier intelligence
GN+ का सारांश और Hacker News की टिप्पणियाँ भी देखें~