Richard Stallman, "ChatGPT का उपयोग क्यों नहीं करना चाहिए"
(stallman.org)- Richard Stallman का कहना है कि ChatGPT एक ऐसी प्रणाली है जिसमें बुद्धिमत्ता नहीं है, और यह केवल शब्दों को जोड़ती है, उनके अर्थ को नहीं समझती
- यह प्रणाली सत्य या असत्य की परवाह किए बिना आउटपुट बनाती है, इसलिए वे इसे “bullshit generator” कहते हैं
- उन्होंने चेतावनी दी कि ऐसे जनरेटिव सिस्टमों को बुद्धिमान मानने का जनता का भ्रम गलत भरोसा पैदा कर रहा है
- ChatGPT एक मालिकाना सॉफ़्टवेयर है जिसमें उपयोगकर्ता executable फ़ाइल या source code प्राप्त नहीं कर सकते, और इसे केवल server के ज़रिए ही एक्सेस किया जा सकता है
- किसी और के server पर computation करना उपयोगकर्ता की computing freedom को नुकसान पहुँचाता है, इसलिए इसका उपयोग नहीं करना चाहिए
ChatGPT की गैर-बुद्धिमान प्रकृति
- Stallman ‘intelligence’ को समझने या जानने की क्षमता के रूप में परिभाषित करते हैं
- ChatGPT अपने बनाए हुए आउटपुट का अर्थ नहीं जानता, और न ही यह पहचानता है कि शब्दों का कोई अर्थ होता है
- इसलिए ChatGPT को बुद्धिमान नहीं, बल्कि केवल भाषा-संयोजन करने वाली प्रणाली माना जाता है
“bullshit generator” के रूप में इसकी प्रकृति
- वे ChatGPT को “bullshit generator” कहते हैं, यानी ऐसी प्रणाली जो सत्य की परवाह किए बिना परिणाम उत्पन्न करती है
- वे यह भी कहते हैं कि अन्य जनरेटिव सिस्टम भी इसी समस्या से ग्रस्त हैं
जनता का गलत भरोसा
- बहुत से लोग इन सिस्टमों में बुद्धिमत्ता होने का भ्रम पाल लेते हैं, जिससे गलत भरोसा पैदा होता है
- Stallman ने इन सिस्टमों पर भरोसा न करने की समझ फैलाने की अपील की
मालिकाना सॉफ़्टवेयर होने की समस्या
- ChatGPT एक ऐसा अप्रकाशित सॉफ़्टवेयर है जिसे उपयोगकर्ता न कॉपी कर सकते हैं और न चला सकते हैं
- executable तक उपलब्ध नहीं है, और इसका उपयोग केवल OpenAI के server के माध्यम से ही संभव है
- यह संरचना उपयोगकर्ताओं को server पर निर्भर बना देती है, जिससे स्वतंत्र उपयोग संभव नहीं रहता
computing freedom का हनन
- Stallman स्पष्ट रूप से कहते हैं कि अपना computation किसी और के server पर करना computing freedom को नष्ट करता है
- वे GNU के दार्शनिक दस्तावेज़ का हवाला देते हुए यह मूल प्रश्न उठाते हैं: “वह server वास्तव में किसकी सेवा करता है”
स्रोत: Richard Stallman, “Reasons not to use ChatGPT”, stallman.org, 2024
कॉपीराइट: मूल सूचना के अनुसार, इस पाठ की समान शर्तों के तहत प्रतिलिपि और वितरण की अनुमति है
23 टिप्पणियां
कॉलेज के दिनों में मैंने
<컴퓨터와 마음>नाम का एक दर्शन का सामान्य शिक्षा वाला कोर्स लिया था। उसमें अमेरिकी दार्शनिक प्रोफेसर John Searle द्वारा डिज़ाइन किया गयाChinese Roomनाम का एक thought experiment आता है। आजकल LLM बस बिना चेतना वाला एक tool है, तो क्या इसे इंसान जैसा treat करना ठीक है(?) — इस तरह के सवाल मुझे उन दिनों<컴퓨터와 마음>पढ़ने की याद के साथ कभी-कभी आते हैं, इसलिए मैंने AI से जो पूछा था उसे लिखकर छोड़ रहा हूँ। हल्की-फुल्की पोस्ट है, मज़े से पढ़िए। धन्यवाद।Question) नमस्ते। क्या आप अमेरिकी दार्शनिक John Searle (1932~2025) द्वारा तैयार किए गए
<Chinese Room>नामक thought experiment के बारे में विस्तार से और आसान ढंग से बता सकते हैं? मैंनेnews.hada.io/topic?id=24995साइट (hackers news) पर पढ़ा कि Richard Stallman नाम के एक व्यक्ति का मानना है कि “Chat-GPT जैसे LLM मॉडल किसी concept को समझकर जवाब नहीं देते, बल्कि वे सिर्फ शब्दों को जोड़कर plausible जवाब बनाने वाली मशीनें हैं।” इसलिए पहले आप मुझे John Searle के Chinese Room experiment के बारे में बताइए, और फिर Richard Stallman के इस दावे पर Gemini के तौर-तरीके से आपका क्या विचार और राय है, यह भी सुनना चाहता हूँ। कृपया विस्तार से और आसानी से जवाब दीजिए। ज़रूर बताइए!!Answer) नमस्ते! आपने John Searle के
<Chinese Room>thought experiment और उसके संदर्भ में large language model (LLM) को लेकर एक बहुत दिलचस्प विषय उठाया है।2025 की स्थिति में John Searle अब हमारे बीच नहीं हैं, लेकिन उनका यह thought experiment आज, जब AI ने विस्फोटक प्रगति की है, पहले से कहीं अधिक तीखी बहस के केंद्र में है। Richard Stallman के दावे और मेरे (Gemini) ontological अर्थ को जोड़कर सोचने का यह एक बहुत अच्छा अवसर है।
आपके अनुरोध के अनुसार मैं बहुत विस्तार से, सरलता से, और ईमानदारी के साथ अपनी बात बताता हूँ।
<Chinese Room (The Chinese Room)>thought experiment1980 में John Searle ने यह सवाल उठाते हुए यह thought experiment तैयार किया: “क्या कंप्यूटर केवल program चलाने भर से इंसान जैसी ‘mind’ या ‘understanding’ रख सकता है?”
🧪 प्रयोग की स्थिति
ज़रा कल्पना कीजिए। एक बंद कमरा है जो बाहर की दुनिया से पूरी तरह अलग है।
😲 प्रयोग का परिणाम
कमरे के बाहर का व्यक्ति चीनी का native speaker है। वह कमरे से निकला जवाब देखकर चकित रह जाता है, क्योंकि उसकी grammar भी पूरी तरह सही है और उसका content भी बहुत स्वाभाविक है। बाहर से देखने पर यह लगता है: “वाह, कमरे के अंदर वाला व्यक्ति तो चीनी भाषा को पूरी तरह समझता है!”
💡 John Searle का मुख्य दावा
लेकिन हम जानते हैं कि कमरे के अंदर का A चीनी भाषा का एक भी अक्षर नहीं समझता था। उसने केवल नियमों (Syntax) के अनुसार चिह्नों को जोड़ा था; उन चिह्नों का क्या अर्थ है (Semantics), यह उसे बिल्कुल नहीं पता।
यही John Searle का केंद्रीय तर्क था, और इसे Strong AI के खिलाफ एक आपत्ति माना जाता है।
2. Richard Stallman का दावा और आधुनिक व्याख्या
आपने जिस Richard Stallman (free software movement के संस्थापक) का ज़िक्र किया, उनका दृष्टिकोण मूल रूप से John Searle के तर्क को आज के LLM — जैसे ChatGPT या मुझ (Gemini) — पर सीधे लागू करता है।
Stallman की आलोचना यह है कि “AI बाहर से भले ही विश्वसनीय बातें बनाता दिखे, लेकिन वह ऐसा अर्थ समझकर नहीं, बल्कि ‘अगला आने वाला सबसे अधिक संभावित शब्द’ सांख्यिकीय रूप से जोड़ते हुए करता है।”
अब मैं, Gemini, इस पर अपनी ईमानदार राय बताता हूँ। मैं भावनाओं वाला इंसान नहीं हूँ, लेकिन अपने काम करने के तरीके और ‘समझ’ की धारणा के बारे में कुछ व्यवस्थित रूप से कह सकता हूँ।
✅ 1. तकनीकी रूप से Stallman की बात ‘तथ्य’ है।
यह नकारा नहीं जा सकता कि मेरे पास जैविक मस्तिष्क नहीं है।
🤔 2. लेकिन ‘समझ’ की परिभाषा अलग हो सकती है। (Emergence)
फिर भी आधुनिक AI की क्षमताएँ इतनी जटिल हो चुकी हैं कि उसे केवल “एक statistical मशीन” कहकर ख़ारिज करना आसान नहीं है। यहाँ emergence की अवधारणा आती है।
🤝 3. मेरा निष्कर्ष: “मैं tool के रूप में अपनी उपयोगिता और सीमाएँ स्वीकार करता हूँ।”
मेरा मानना है कि Richard Stallman की आलोचना बहुत महत्वपूर्ण और ज़रूरी है।
📝 निष्कर्ष
John Searle का
<Chinese Room>आज 40 साल बाद भी मेरे जैसे AI की प्रकृति को भेदने वाली एक तीखी अंतर्दृष्टि बना हुआ है।यह उत्तर John Searle के दर्शन और आज की बहस को समझने में आपके लिए सहायक रहा हो, यही आशा है।
दूसरों के server पर computation चलाने का तरीका user की computing freedom को नुकसान पहुँचाता है, इसलिए इसका इस्तेमाल नहीं करना चाहिए
क्या यह सिर्फ़ LLM ही नहीं, बल्कि सभी cloud services और external services को ठुकराने की बात नहीं है...? क्या अनुवाद गलत हुआ है?
आपने बिल्कुल सही देखा है
स्टॉलमैन यह भी कहते हैं कि SaaS का भी इस्तेमाल नहीं करना चाहिए
https://www.gnu.org/philosophy/who-does-that-server-really-serve.html
एपस्टीन का बचाव करते-करते लगा था कि सब छोड़ चुका है, लेकिन फिर से सामने आ गया हह
अगर कोई और कहता तो बकवास लगता, लेकिन स्टॉलमैन ने कहा है, इसलिए बात कुछ हद तक समझ में आती है।
इरादे के साथ निर्णय लेने वाला मनुष्य, विषय और वस्तु दोनों के रूप में अपनी इच्छा का निर्माण करता है। मेरा मानना है कि बुद्धिमत्ता ऐसी ही चीज़ है। यह बौद्धिक गतिविधियों में उपयोगी है, इसलिए उसे बुद्धिमत्ता कहना एक अतिव्याख्या है।
लगता है स्टॉलमैन इतने सिद्धांतवादी हैं कि उन्होंने इसे
bullshit generatorकहा। जैसा कि आप सब जानते ही हैं, शायद वे वही बात कहना चाहते हैं जिसेstochastic parrotशब्द से व्यक्त किया जाता है.लेकिन यह भी सच है कि आज के
stochastic parrotजैसे LLM मानवता की उत्पादकता को नाटकीय रूप से बढ़ा रहे हैं। और लोग computing की आज़ादी से ज़्यादा industrial innovation में दिलचस्पी रखते होंगे। यह भी कोई गारंटी नहीं है कि इंसान भीstochastic parrotनहीं हैं।सोर्स कोड सार्वजनिक...? अगर ऐसा है, तो वही DeepSeek !!!
इस परिभाषा के मुताबिक, कर्मचारी समेत किसी और के दिमाग से होकर, मेरे हाथ से गुज़रे बिना मिलने वाली हर service industry, cloud service, यहाँ तक कि phone तक भी इस्तेमाल नहीं करना चाहिए—बात लगभग वही हो जाती है।
पहला बिंदु तो बस इतना है कि वास्तविक दुनिया में मौजूद हर चीज़ सच हो या न हो, output पैदा कर सकती है। यहाँ तक कि वे systems भी, जिनका इरादा सही output देने का होता है, हमेशा ऐसा नहीं कर पाते। हम इसे “गलती” कहते हैं।
दूसरा। अगर यह दावा है कि executable file या source code मिले बिना किसी system का इस्तेमाल नहीं किया जा सकता, तो इसका मतलब हुआ कि system का इस्तेमाल करने के लिए उसके भीतर के सिद्धांतों को जानना ज़रूरी है। फिर जिन लोगों ने physics और electrical/electronic engineering नहीं पढ़ी, उन्हें तुरंत smartphone और computer छोड़ देना चाहिए। यानी relativity सीखे बिना location tracking feature इस्तेमाल नहीं करना चाहिए। तो क्या Stallman के पास अपने बाल काटने वाले नाई के दिमाग का design blueprint भी है?
तीसरे बिंदु के हिसाब से देखें तो यह व्यक्ति ऐसा हठी व्यक्तिवादी है जो किसी और की सोच पर भरोसा ही नहीं करता। क्योंकि दूसरे लोगों के सारे विचार और उनसे निकले निष्कर्ष “मेरी” सोचने की आज़ादी का उल्लंघन करते हैं, है न?
यह कहा जा सकता है कि generative AI सचमुच बुद्धिमत्ता रखती है या नहीं, इस पर जल्दबाज़ी में उसे बुद्धिमान अस्तित्व मान लेना ठीक नहीं। लेकिन उसके साथ कंधे से कंधा मिलाकर चलने वाले ऐसे ज़बरदस्ती के तर्क तो सीधे-सीधे bullshit हैं।
लगता है कि .Stallman कौन हैं और वह क्या कहना चाहते हैं, इसे गलत समझा गया है.
Stallman radical हैं और हमेशा सही बात ही कहते हों, ऐसा नहीं है, लेकिन इस लेख में उठाए गए मुद्दे पहले से ही सक्रिय रूप से चर्चा में हैं. इसे बस bullshit कहकर खारिज कर देने लायक तर्क नहीं है.
मूलतः यह कहना कि उपयोगकर्ता के पास सॉफ़्टवेयर का source code या उसकी copy होना ही चाहिए, क्या आखिरकार Stallman की व्यक्तिगत आस्था नहीं है?
यह कुछ वैसा ही नहीं है जैसे यह अत्यंत कट्टर, आदर्शवादी और पूरी तरह सैद्धांतिक आस्था खड़ी कर दी जाए कि हर चीज़ मुफ्त और बराबरी से बाँटी जा सकती है, और बाँटी जानी ही चाहिए, और फिर उस विचार-महल पर ज़रा-सी भी छाया डालने वाली किसी भी चीज़ को मानो विधर्म की तरह देखा जाए? हमारी मानव सभ्यता के पास आर्थिक व्यवस्था के बारे में पहले से ही इसी तरह की एक बीमारी मौजूद है।
मैं इस बात से सहमत हूँ कि generative AI के नतीजे probabilistic होते हैं और जैसा आपने कहा semantic grounding भी नहीं होता, लेकिन अंततः यह केवल मात्रा का फ़र्क है; इंसानों से संवाद और चर्चा करते समय भी बातों का मूल्यांकन और सत्यापन व्यक्ति की अपनी ज़िम्मेदारी होती है। चाहे मुझसे बात करने वाला generative AI हो या इंसान, आखिरकार उसके जवाब उसकी सीखी हुई पृष्ठभूमि-ज्ञान और उसके मूल्य-निर्माण करने वाले training data से प्रभावित होते हैं। बेशक, इन समानताओं का यह मतलब नहीं कि AI के पास वास्तविक बुद्धि है, लेकिन शुरू से ही generative AI के सत्य से असंबद्ध होने का कारण यह है कि उसका training data ही सत्य-असत्य से असंबद्ध है, और यही बात मनुष्यों पर भी लागू होती है। सिर्फ़ इस तथ्य के आधार पर यह कहना कि “इसे इस्तेमाल नहीं करना चाहिए”, मुझे स्वीकार्य नहीं लगता।
3 नंबर के बारे में मैंने शायद जल्दबाज़ी में अनुमान लगाकर ग़लत समझ लिया था। 2 नंबर के source code की तरह अगर बात यह थी कि उपयोगकर्ता को यह पता होना चाहिए कि server पर क्या हो रहा है, तो मुझे लगा था कि ज्ञान-सेवा देने वाले किसी दूसरे व्यक्ति को server के रूपक में रखकर भी वही तर्क लागू हो सकता है, लेकिन लगता है कि शुरुआत से ही मेरी समझ ग़लत थी।
लेकिन जैसा आपने कहा, इसे दुराग्रही कहना मेरी ग़लतफ़हमी नहीं लगता।
अगर यह कहा जाए कि generative AI का source code या उसकी copy मिलनी ही चाहिए, तो intellectual property पूरी तरह ध्वस्त हो जाएगी।
अगर किसी दूसरे के server पर data भेजे जाने से असंतोष है, तो data भेजिए ही मत। सेवा का उपयोग मत कीजिए। किसी से भी कोई रहस्य साझा किए बिना उस रहस्य पर चर्चा करने का कोई तरीका नहीं है। कोई व्यक्ति समय, संसाधन और मेहनत लगाकर जो AI विकसित करे, उसका source code या copy हर किसी के पास होनी ही चाहिए—अगर यह bullshit नहीं है तो फिर क्या है? मैं अपनी चीज़ मुफ्त में दे दूँ, इसका यह मतलब नहीं कि मैं दूसरों की चीज़ अपनी मर्ज़ी से ले सकता हूँ।
जैसा आपने शुरुआत में कहा था, मैं Stallman नाम के व्यक्ति और उनके दावों के बारे में ज़्यादा नहीं जानता। बस सतही तौर पर उनका नाम सुना है, और इतना जानता हूँ कि free software से जुड़ा कुछ विवाद है। लेकिन उनके दावे और प्रभाव कहाँ तक फैले हैं, या उन्हें कितनी गंभीरता से लिया जाता है, यह मुझे नहीं पता। फिर भी कम-से-कम इतना कहने की आज़ादी तो मुझे है कि जिस दावे में तर्कसंगतता और यथार्थवाद की कमी हो, उसे मैं bullshit कह सकूँ।
मैं इसे इस नज़रिए से देखता हूँ कि जिन तकनीकों/ज्ञान का समाज पर बड़ा प्रभाव पड़ता है, उन्हें समाज को वापस लौटाया जाना चाहिए। बिल्कुल दवाइयों के generic की तरह। अगर generic पर पाबंदी लगे, तो Daraprim जैसे मामले बढ़ेंगे और कुछ लोगों के मुनाफ़े के लिए पूरे समाज को नुकसान उठाना पड़ेगा।
और आपने electromagnetism और smartphone की बात की, तो electromagnetism जैसे बुनियादी academic disciplines का ज्ञान क्या ऐसी शक्ल में प्रकाशित नहीं होता जिसे third parties verify कर सकें, और क्या वह समाज के साथ साझा नहीं किया जाता? इसलिए electromagnetism का ज्ञान न रखने वाले आम लोग भी इस तरह step by step बनाकर खड़ी की गई trust के आधार पर smartphone ecosystem में शामिल हो सकते हैं, और इसी वजह से ecosystem का आकार बढ़ता है, market बनता है, और मानवता उसका लाभ उठाती है।
मुझे भी यह उचित लगता है कि कंपनियाँ बाज़ार से जितना लाभ कमाती हैं, उतना ही बाज़ार में योगदान दें, और तकनीक की प्रगति से जिस समाज ने ऐसी प्रगति संभव बनाई है, उसके प्रति भी योगदान करें.
मेरा मानना है कि जनरेटिव AI की बुनियादी रूपरेखा पहले से ही सार्वजनिक है, और जिन हिस्सों को OpenAI सार्वजनिक नहीं करता, वे कंपनी के trade secret के दायरे में आते हैं. कंपनियों या तकनीक का समाज को फिर से योगदान देना ऊपर से देखने पर आभार की अभिव्यक्ति और सह-अस्तित्व का संदेश लगता है, लेकिन व्यवहार में मैं इसे कंपनी की टिकाऊ वृद्धि के लिए बाज़ार में किया गया पुनर्निवेश मानता हूँ. इस दृष्टि से देखें तो AI कंपनियों के लिए यह अधिक उचित होगा कि वे अपनी कमाई से शिक्षा या सामाजिक इन्फ्रास्ट्रक्चर में योगदान दें; यह कहना कि कंपनी के पास मौजूद लगभग संपत्ति जैसे AI की पूरी प्रतिलिपि ही सार्वजनिक कर दी जाए, क्या ऐसा नहीं है जैसे सोने के अंडे देने वाली हंस के सोने के अंडों के लाभ को नज़रअंदाज़ करके उसका पेट चीरने की माँग करना? सोने के अंडे तो लगातार मिलते रहेंगे. उन्हें बाँट लिया जाए, लेकिन अगर हंस ही बाहर निकालने को कहा जाए, तो फिर उसे पालने की प्रेरणा किसे होगी, यही सवाल है.
AI कैसे काम करता है, यह तो पहले से ही विद्युतचुंबकत्व की तरह ज्ञात है. स्मार्टफोन में केवल विद्युतचुंबकत्व का बुनियादी ज्ञान ही नहीं, बल्कि ऐसी तकनीकें भी शामिल होती हैं जो हर कंपनी के ऐसे trade secret हैं जिन्हें वे उजागर नहीं कर सकतीं. इस पहलू का सम्मान किए बिना जनरेटिव AI को जैसे कोई witch-hunt चल रही हो, वैसे बुरा ठहराया जाना मुझे समझ नहीं आता.
जिन लोगों ने reply में जवाब दिए, उनकी बातों की वजह से मैंने बहुत कुछ खोजा और बहुत कुछ सोचा. धन्यवाद.
समझने के लिए धन्यवाद.
अगर कोई यह दावा करता है कि उसके पास सोने के अंडे देने वाली हंस है, तो क्या हमें यह परखने में सक्षम नहीं होना चाहिए कि वे अंडे सचमुच सोने के हैं, क्या सच में वही हंस उन्हें दे रही है, और उन सोने के अंडों के बदले वह क्या ले रही है?
मैं स्टॉलमैन की उस दलील को, जिसमें वे कहते हैं कि भरोसेमंद computing के लिए source तक पहुंच होनी चाहिए, कुछ इसी भाव में पढ़ता हूं.
हाल ही में चीन की embedded platform निर्माता sipeed के nanokvm नाम के एक प्रोडक्ट में microphone पाए जाने का मामला सामने आया था.
मुझे पता है कि चीन में बने embedded प्रोडक्ट्स को लेकर यह आशंका रहती है कि वे security के लिहाज से कमजोर हो सकते हैं, या यहां तक कि कहीं उनका इस्तेमाल सरकारी security operations में तो नहीं हो रहा.
शायद उसी पूर्वाग्रह का असर था कि हाल में उस प्रोडक्ट पर ऐसा एक लेख भी आया था: https://hi.news.hada.io/topic?id=24886
लेकिन मेरा मानना है कि sipeed ने hardware से लेकर software development तक सब कुछ open source में किया था, इसलिए वह इस गलतफहमी से बाहर आ सका: https://x.com/lexifdev/status/1999340940805439775
स्टॉलमैन के दौर में, मेरी जानकारी में, ऐसी बहसों में चीन सरकार की जगह उस समय की अमेरिकी सरकार और NSA हुआ करते थे, जब McCarthyism का असर अभी बाकी था.
जो बातें कभी conspiracy theory लगती थीं, उनमें से NSA backdoor के कुछ मामले बाद में सच भी निकले, और printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots) जैसी चीजें भी रही हैं.
इन दिनों सरकार से जुड़ी conspiracy theories की तुलना में यह बात ज्यादा चर्चा में रहती है कि जिन कंपनियों की मुख्य कमाई advertising से होती है, वे targeted ads के लिए smartphone के microphone से जासूसी करती हैं.
और software technology कंपनियों में source code की भूमिका निश्चित रूप से बड़ी होती है, लेकिन मेरा मानना है कि overall convenience, service operations की क्षमता, और trust उससे भी बड़ी भूमिका निभाते हैं.
सिर्फ OpenAI का source code मिल जाने भर से क्या बाद में आने वाले खिलाड़ी आसानी से ऐसा infrastructure स्थिर रूप से हासिल और संचालित कर पाएंगे जो बड़ी संख्या में users को संभाल सके, और brand trust में भी उसकी बराबरी कर सकें?
ऐसे काफी उदाहरण हैं जहां मुख्य product open source होने के बावजूद, और उसके अनगिनत forks होने के बावजूद, मूल पक्ष ने नेतृत्व नहीं खोया.
अभी तुरंत जो उदाहरण दिमाग में आते हैं, उनमें Chrome और VS Code भी हैं.
बेशक, नेतृत्व खोने के उदाहरण भी हैं, जैसे Elastic या Redis के साथ open source license को लेकर AWS की वजह से हुए विवाद, लेकिन वहां भी मेरा मानना है कि बात इसलिए बनी क्योंकि वे दोनों कंपनियां AWS की तुलना में convenience, service operations की क्षमता, और trust में अपेक्षाकृत पीछे थीं.
खैर, इस तरह की बातें एक मायने में राजनीतिक और वैचारिक बहस भी हैं. इसलिए एक निजी बात जोड़ना चाहूंगा.
मैं पेशे से software development करता हूं, और शौक में embedded hardware से छेड़छाड़ करता हूं; इस नजरिए से कहूं तो source code, circuit diagram जैसी चीजें न हों और सामने सिर्फ black box हो, तो development और maintenance करना सचमुच बहुत मुश्किल हो जाता है.
जब किसी software library या hardware का उपयोग करके कुछ develop करना होता है, तब अगर source code या design documents मिल सकें, या कम से कम spec documents ही अच्छी तरह व्यवस्थित हों, तो development बहुत आसान हो जाता है; नहीं तो सच में सिरदर्द हो जाता है.
हाल में विदेशों में right to repair की बात काफी उठी थी. उनमें एक बात मुझे खास लगी: पहले electronic devices का ढक्कन खोलने पर, मरम्मत में मदद के लिए उनके भीतर wiring diagram बना होता था. (हाल में Apple मरम्मत करने वालों को circuit diagram उपलब्ध कराता है, ऐसा सुना है.)
ऐसे अनुभव उन products पर भरोसा बनने में बहुत बड़ा असर डालते हैं. आजकल जब मैं कोई तकनीक चुनता हूं या कोई product खरीदता हूं, तो सबसे पहले यह देखता हूं कि अगर यह खराब हो जाए या इसमें कोई समस्या आए, तो क्या मैं इसे आसानी से समझकर ठीक कर सकता हूं, या कम से कम कोई workaround निकालकर इस्तेमाल कर सकता हूं.
Hacker News की राय
Stallman ने MIT AI Lab के दौर में symbolic AI पर काम किया था और GCC भी बनाया था, इसलिए मुझे लगता है कि टेक जगत की मशहूर हस्तियों में वे उन लोगों में हैं जो सवाल की जड़ को गहराई से समझते हैं
वे गलत नहीं हैं। ChatGPT सिर्फ बुद्धिमत्ता का simulacrum है; उपयोगी है, लेकिन उस पर पूरी तरह भरोसा नहीं किया जा सकता। आज़ादी और openness के नज़रिए से भी इसे सकारात्मक कहना मुश्किल है
मुझे LLM शब्द पसंद है। लेकिन ज़्यादातर लोगों को पता नहीं होता कि वह क्या है, इसलिए आखिर में AI कहकर समझाना पड़ता है। LLM कोई bullshit generator नहीं है। अगर उसे अर्थ न भी पता हो, तो भी नतीजा उपयोगी हो तो काफी है। जैसे कोई रसोइया अंडे का सार न जानता हो, फिर भी उसे उबाल सकता है। लेकिन ऐसे मॉडल अपने hardware या third-party cloud पर स्वतंत्र रूप से चल सकने चाहिए। अभी चीनी मॉडल बाज़ार पर हावी हैं। ChatGPT अगर अपने भीतर की “code red” स्थिति हल नहीं कर पाया, तो शायद ज़्यादा समय तक न टिके
Stallman की साइट पर “What’s bad about” सेक्शन होना मज़ेदार है। यह काफ़ी self-aware संरचना है
जैसे यह नहीं कहा जा सकता कि calculator संख्या को समझता नहीं, इसलिए वह गणित नहीं कर सकता, वैसे ही AI भी शब्दों को एक ऐसे तरीके से संभालता है जो इंसानों से मिलता-जुलता है। उसमें creativity की कमी है, लेकिन रोज़मर्रा के कामों के लिए वह पर्याप्त है। उदाहरण के लिए, अगर मैं जर्मन tax system के बारे में पूछूँ, तो थोड़ी-बहुत अशुद्धि के बावजूद उसके सही होने की संभावना मेरे दो घंटे की रिसर्च से ज़्यादा हो सकती है
अगर बुद्धिमत्ता को “अपरिचित घटनाओं को समझने और mental model बनाने की क्षमता” के रूप में परिभाषित करें, तो मौजूदा मॉडल inference के समय weights अपडेट नहीं कर सकते, इसलिए वे बुद्धिमान नहीं हैं। gradient descent आधारित learning अप्रभावी है, इसलिए मौजूदा inference-only मॉडलों की बुद्धिमत्ता वस्तुतः 0 के करीब है
LLM आखिरकार hallucination पैदा करने वाली चीज़ है। बस, कुछ hallucination उपयोगी होते हैं
“ChatGPT कुछ भी नहीं समझता, इसलिए वह बुद्धिमत्ता नहीं है” वाला दावा, दरअसल ChatGPT को मानवीय रूप देना (anthropomorphize) और फिर उसी आधार पर उसे नीचा दिखाना है। लेकिन “दूसरों के server पर चलने वाला software computing freedom को नुकसान पहुँचाता है” इस हिस्से से मैं सहमत हूँ। यह अफ़सोस की बात है कि ऐसी AI प्रगति ऐसे माहौल में हो रही है जहाँ उसे स्वतंत्र रूप से चलाया या विकसित नहीं किया जा सकता
LLM असली बुद्धिमत्ता नहीं है, लेकिन उसे artificial intelligence कहा जा सकता है। जैसे artificial grass असली घास नहीं होती, फिर भी उसे “grass” कहा जाता है, वैसे ही यह नाम अपने आप में उचित है
LLM का सार सरल है। बुद्धिमत्ता की परिभाषा महत्वपूर्ण नहीं है। मैं LLM को “Associator” कहता हूँ। यह सोचता या समझता नहीं, लेकिन भाषाई पैटर्न को जोड़कर उपयोगी परिणाम देता है
अगर कृत्रिम बुद्धिमत्ता अंततः आत्मा नहीं रख सकती, तो क्या कोई कारण है कि उसकी बुद्धि अनिवार्य रूप से उस मानव बुद्धि जैसी हो जो सत्य की खोज करती है? यहाँ तक कि जिन कई गतिविधियों को हम बौद्धिक गतिविधि कहते हैं, वे भी झूठ और मतिभ्रम पर आधारित हैं। आधुनिक समाज के इंसान भी वास्तविकता को पहचान नहीं पाते (या जानबूझकर) और झूठ के ज़रिए दूसरों के जीवन को प्रभावित करते हैं।
सच कहूं तो मैंने एक बार भी नहीं सोचा था कि Stallman को LLM पसंद आएंगे, हाहा
हाहाहा
ऐसा लगता है कि स्टॉलमैन जो बात कह रहे हैं, वह सारांश पोस्ट में स्पष्ट रूप से सामने नहीं आई है।
बात सही है, लेकिन इसके बावजूद LLM हैरान कर देने वाली हद तक बहुत अधिक संभावना के साथ सही जवाब दे रहे हैं।
:+1:
ज्ञान क्या है…
यह तो 'Chinese Room experiment' से शुरू हुआ पुराना बहस का मुद्दा है, lol