LLM Inevitabilism (अनिवार्यवाद/अपरिहार्यवाद)
(tomrenner.com)- अनिवार्यवाद (Inevitabilism) एक शक्तिशाली framing है जो इस तरह विमर्श की दिशा तय करता है मानो कोई खास भविष्य निश्चित रूप से आने वाला हो
- AI और LLM के भविष्य को लेकर मुख्यधारा के लोग यह कहते हैं कि “ऐसा भविष्य अपरिहार्य है”, और उसी के अनुसार खुद को ढालने का दबाव बनाते हैं
- यह framing असहमति या प्रतिरोध को ‘अवास्तविक’ मानती है, और वास्तव में चुनाव की स्वतंत्रता छीन लेने वाला मनोवैज्ञानिक प्रभाव साथ लाती है
- लेखक यह सवाल उठाते हैं कि LLM या AI वाला भविष्य वास्तव में वांछित भविष्य है भी या नहीं, और इस बात पर ज़ोर देते हैं कि हम किस तरह का भविष्य चाहते हैं और कौन-सी तकनीक चुनेंगे, यह हमें स्वयं तय करना चाहिए
- अनिवार्यता के फ्रेम में बहने के बजाय, हर व्यक्ति को अपने मनचाहे भविष्य पर सक्रिय रूप से विचार और अमल करना चाहिए
अनिवार्यता फ्रेमिंग की ताकत
- जब किसी बहुत कुशल बहस करने वाले व्यक्ति से तर्क-वितर्क होता है, तो हम बार-बार अप्रत्याशित बिंदुओं की ओर खिंच जाते हैं
- अपनी दलील के केवल कमजोर हिस्सों की रक्षा करते-करते, मुख्य बात प्रवाह में दब जाती है
- अंततः लय और आत्मविश्वास दोनों खो जाते हैं, और बहस में हम पीछे पड़ जाते हैं
- कॉलेज के दिनों में अंतरराष्ट्रीय वाद-विवाद प्रतियोगिता जीतने वाले एक मित्र ने जिस रणनीति पर ज़ोर दिया, वह थी पहले फ्रेम तय करना
- यानी अपनी शब्दावली और तर्क से बातचीत का ढांचा तय करना। फ्रेम पर नियंत्रण मिल जाए, तो बहस का नतीजा मानो पहले से तय हो जाता है
Surveillance Capitalism और ‘अनिवार्यवाद’
- Shoshana Zuboff की 『The Age of Surveillance Capitalism』 पढ़ते हुए ‘Inevitabilism (अनिवार्यवाद, अपरिहार्यवाद)’ की अवधारणा से परिचय हुआ
- किसी अवधारणा को नाम देना भर भी बहस को संगठित करने और समस्या-बोध साझा करने में बड़ी ताकत देता है
- ‘अनिवार्यवाद’ वह सोच है जो यह दावा करती है कि कोई खास भविष्य अवश्य साकार होगा, और सिर्फ उसकी तैयारी करना ही तर्कसंगत विकल्प है ऐसा दिखाती है
- यह तरीका विरोधी मत को ‘वास्तविकता को नज़रअंदाज़ करने वाला’ ठहराता है, और केवल वही चर्चा मान्य करता है जो पहले से इस फ्रेम को स्वीकार कर चुकी हो
AI अनिवार्यता फ्रेमिंग के वास्तविक उदाहरण
> “हम AI के साथ सह-अस्तित्व वाले संसार में प्रवेश करेंगे” — Mark Zuckerberg
> “AI नई बिजली है” — Andrew Ng
> “AI मनुष्यों की जगह नहीं लेगा, बल्कि AI का उपयोग करने वाला व्यक्ति, उसका उपयोग न करने वाले व्यक्ति की जगह लेगा” — Ginni Rometty
- ऐसे वक्तव्य यह माहौल बनाते हैं कि AI का युग पहले ही तय हो चुका भविष्य है
- चर्चा का केंद्र “क्या यह हमारा वांछित भविष्य है?” से हटकर “इस अपरिहार्य भविष्य के अनुरूप खुद को कैसे ढालें?” पर चला जाता है
- इनमें धमकीभरा संकेत भी शामिल होता है, जो यह मनोवृत्ति पैदा करता है कि “इसे ठुकराओगे तो नुकसान होगा” या असहमति जताना “मूर्खता” है
चुनाव और स्वायत्तता
> "मुझे यकीन नहीं है कि LLM वास्तव में भविष्य का सही स्वरूप है, या वह भविष्य वैसा है जैसा मैं चाहता हूँ"
- लेकिन हममें से हर व्यक्ति के पास भविष्य के स्वरूप और तकनीक के उपयोग के तरीके को चुनने का अधिकार है
- सावधान रहना चाहिए कि अनिवार्यवाद का फ्रेम हमारी पसंद हमसे छीन न ले
- हर व्यक्ति को अपने मनचाहे भविष्य पर विचार करना और उस भविष्य के लिए संघर्ष करना ज़रूरी है
निष्कर्ष
- तकनीक और भविष्य को देखते समय, अपरिहार्यता के फ्रेम में निष्क्रिय रूप से बह मत जाइए
- हर व्यक्ति को अपने हिसाब से बेहतर भविष्य की सक्रिय कल्पना और उसके लिए कार्य करने का दृष्टिकोण अपनाना चाहिए
1 टिप्पणियां
Hacker News की राय
मुझे लगता है कि दो बातें एक साथ सच हो सकती हैं।
supersonic passenger jet की तरह, कई ऐसी “अनिवार्य लगने वाली तकनीकें” पर्याप्त business return न मिलने पर गायब हो जाती हैं, या microwave की तरह कुछ खास उपयोग-मामलों तक सीमित हो जाती हैं। यदि पर्याप्त लाभदायक model नहीं बनता, तो LLM शायद आज की तुलना में कम खास और कम परेशान करने वाली जगह पर टिक जाएगा। हर जगह जबरन LLM ठूँसने की कोशिशों को खास अच्छी प्रतिक्रिया नहीं मिल रही है
मुझे लगता है कि supersonic passenger jet वाला यह उदाहरण AI पर ही नहीं, बल्कि कंप्यूटर और पूरे इंटरनेट पर भी लागू हो सकता है।
एक समय supersonic passenger jet तकनीक चमत्कारी लगती थी और ऐसा लगता था कि उसका विस्तार होना तय है, लेकिन उसके पीछे उस दौर की तकनीक से हल न होने वाली समस्याएँ और लाभहीनता छिपी हुई थीं।
मुझे लगता है कि कंप्यूटर और इंटरनेट भी aerospace industry जैसी दिशा में जा सकते हैं। हो सकता है हम तकनीक की चोटी के काफी करीब पहुँच चुके हों।
अगर 1970 के दशक में कोई टाइम मशीन से जाकर कहता कि 50 साल बाद 2025 में supersonic passenger jet गायब हो जाएँगे, और aviation industry बस ज़्यादा चिढ़ाने वाले रूप में बिना किसी बुनियादी बदलाव के बची रहेगी, तो कोई विश्वास नहीं करता।
इसलिए हो सकता है कि 2075 में हम LLM पर कोई documentary देखते हुए यह याद कर रहे हों कि इतनी आशाजनक दिखने वाली तकनीक आखिर लगभग क्यों गायब हो गई
मैं इस दावे से ज़्यादा सहमत नहीं हूँ कि “ज़्यादातर लोगों को LLM के नतीजे घिसे-पिटे और उपभोग करने में अप्रिय लगते हैं।” वास्तव में लोगों को LLM के output काफी पसंद हैं, तभी ChatGPT इतिहास का सबसे तेज़ी से बढ़ने वाला app बना। Perplexity जैसे AI app भी Google के search dominance को चुनौती देने लगे हैं।
हाँ, आम लोग ChatGPT द्वारा लिखा गया उपन्यास या कविता-संग्रह खरीदने नहीं जाएँगे, लेकिन इससे यह साबित नहीं होता कि उसका output पढ़ने में खराब है या सिर्फ अरुचि पैदा करता है। यह भी नकारना मुश्किल है कि वह स्पष्ट और आसानी से पढ़ी जाने वाली summaries और explanations बनाता है
आपकी दूसरी बात मुझे उलझन में डालती है। मुझे नहीं पता कि यह कहना सही है या नहीं कि LLM कंपनियाँ अभी के models से पैसा नहीं कमा रहीं। OpenAI के पास सालाना 10 अरब डॉलर का ARR और 10 करोड़ MAU है। हाँ, अभी वह घाटे में है, लेकिन यह model improvement के लिए किया जा रहा burn है। अगर आज ही model improvement रोक दी जाए और focus operating cost optimization और बड़े user base से कमाई पर लगाया जाए, तो क्या यह कहना सही होगा कि कोई सफल business model है ही नहीं? लोग पहले से इन tools का रोज़ इस्तेमाल कर रहे हैं। यह अनिवार्य है
मूल पोस्ट की दलील मूलतः “AI को एक सामान्य तकनीक की तरह देखने” वाले दृष्टिकोण जैसी ही है
AI as Normal Technology
संदर्भ चर्चा लिंक
“जो तकनीकें अनिवार्य लगती थीं वे अंततः business profitability की कमी से पीछे हट गईं” वाली बात पर, 120 से अधिक cable TV channels भी लॉन्च के समय अच्छे विचार लगे होंगे, लेकिन वास्तव में वे LLM की तरह ही थे, जहाँ अधिकांश content में किसी की दिलचस्पी नहीं थी
आधुनिक secular युग के नकारात्मक परिणामों में से एक यह है कि बहुत बुद्धिमान और विचारशील लोग हज़ारों साल की दर्शन और धार्मिक सोच को पुराना या अब बेकार मानकर आसानी से खारिज कर देते हैं। (वैसे, मैं <A Secular Age> किताब की बहुत सिफारिश करता हूँ।)
ऐसी मानसिकता लोगों को दुनिया और भविष्य के बारे में बार-बार लौटने वाले मनोवैज्ञानिक पैटर्न पहचानने से रोकती है, और उस पहचान के आधार पर अपने विचार समायोजित करने से भी
उदाहरण के लिए, AI inevitabilism, Reformation काल की predestination से बहुत अलग नहीं है। यह विचार कि इतिहास पहले से तय रास्ते पर चलता है, बस इसमें ईश्वर की जगह तकनीक आ गई है; मनोवैज्ञानिक रूप से यह लगभग वही है। यह एक ऐसी मानसिक संरचना है जिसमें स्वतंत्रता और ज़िम्मेदारी को किसी धुँधली लेकिन शक्तिशाली शक्ति (अब तकनीक) पर डाल दिया जाता है
मैं इस दावे को लेकर संशय में हूँ कि AGI बहुत जल्द मुख्यधारा बन जाएगा, लेकिन growing up के दौरान बहुत-सी theology की किताबें पढ़ने के बाद भी, मैं LessWrong जैसे लोकप्रिय essays को धार्मिक या कम पढ़े-लिखे लोगों की लिखावट नहीं मानता। “उन्हें नया भगवान मिल गया!” वाला दृष्टिकोण बहुत आम तरह का distraction है। हाँ, AGI inevitabilists में कुछ लोगों पर यह उपमा लागू हो सकती है, लेकिन सबसे कमजोर दलीलों पर ही ध्यान टिकाना मुझे निरर्थक लगता है
मेरे मन में Techno Calvinists बनाम Luddite Reformists जैसी छवि आती है
मुझे लगता है यह प्रवृत्ति किसी grand narrative या ideology की अनुपस्थिति से निकलती है। बहुत-से चतुर tech लोग हैं जिन्हें दार्शनिक/धार्मिक चिंतन में दिलचस्पी नहीं, लेकिन वे कुछ नया बनाना चाहते हैं
वे धीरे-धीरे और अधिक पैसे के पीछे भागते हैं, और आखिरकार उनमें से कुछ समझते हैं कि सिर्फ पैसे का पीछा करना खोखला है। लेकिन वे भ्रम पाल लेते हैं कि वे मानवता की इस सार्वभौमिक समस्या से ऊपर हैं
इस विकृति के भीतर वे पुराने art को recycle करते हैं, समय के साथ और खराब होते apps बनाते हैं, और मानव सुधार के मूल रचनात्मक आनंद को छोड़कर सिर्फ धन-संग्रह पर केंद्रित हो जाते हैं
LLM और AI बोतल से जिन्न बाहर निकालने जैसे हैं, लेकिन वास्तव में वे बिजली से कम और linear perspective या printing press के ज़्यादा करीब ठहरेंगे। आज की संस्कृति में यह मानो Leonardo da Vinci पूरी ज़िंदगी सिर्फ linear perspective tutorials बेचता रहता
यह पूरी तरह नई घटना नहीं है; बस predestination मानने वालों के तर्कों को सहारा देने के लिए एक नया “भय का विषय” जुड़ गया है
मेरा उद्देश्य सिर्फ इस घटना की ओर इशारा करना है। लोग physics या religion से आने वाले predestination को तो ठुकराते हैं, लेकिन “AI अनिवार्य है” जैसे दावों पर अब भी मुग्ध हो जाते हैं
लेख का मुख्य तर्क यह है कि 'inevitabilism' अपने पक्ष में बातचीत मोड़ने की एक rhetorical strategy भर है, जो आलोचना को “वास्तविकता से इनकार” कहकर चर्चा से बाहर कर देती है। Reformation ideology से तुलना मुझे खास अर्थपूर्ण नहीं लगती।
और यहाँ दी गई 'secular predestination' की उपमा में भी एक विडंबना है।
Protestant predestination स्वतंत्रता और ज़िम्मेदारी से पलायन जैसी चीज़ नहीं है। उसका मूल विचार यह है कि divine grace “पाई” नहीं जाती, “प्राप्त” होती है, और यह निष्क्रियता को उचित ठहराने का बहाना भी नहीं है। बल्कि इससे लोग अपने अच्छे कर्मों के माध्यम से मुक्ति के प्रमाण को देखने की कोशिश करते हैं।
यह “तत्काल पुरस्कार की अपेक्षा के बिना परिश्रम” से जुड़ता है, और Max Weber की किताब में शुरुआती capitalism के प्रेरक कारणों में से एक के रूप में इसका विश्लेषण भी मिलता है
इसलिए predestination और “technological inevitabilism” वास्तव में बहुत अलग अवधारणाएँ हैं
historicism में भी (जैसे Hegel के “इतिहास के अनिवार्य नियम”) इससे मिलती-जुलती चर्चा मिल सकती है
मुझे आभास होता है कि हमारे बच्चों या पोतों की पीढ़ी तक अमेरिका ऐसा समाज बन सकता है जहाँ service और information economy ने लगभग सारी manufacturing विदेश भेज दी होगी, और विशाल तकनीकी क्षमता कुछ ही लोगों के हाथों में सिमट जाएगी
public interest का प्रतिनिधित्व करने वालों में कोई भी तकनीकी समस्याओं को समझ नहीं पाएगा, और लोग अपना agenda तय करने या सत्ता पर सवाल उठाने लायक ज्ञान भी खो देंगे
लोग crystals पकड़े astrology पर निर्भर होंगे, critical thinking घटेगी, और अच्छा महसूस होने तथा सच के बीच की रेखा धुँधली पड़ जाएगी; वे लगभग बिना ध्यान दिए अंधविश्वास और अँधेरे में फिसलते चले जाएँगे
मुझे नहीं लगता कि यह उद्धरण यहाँ पूरी तरह फिट बैठता है, लेकिन जो लोग स्रोत जानना चाहते हैं उनके लिए बता दूँ कि यह The Demon-Haunted World से लिया गया है
यह पंक्ति पढ़ते ही मुझे उसकी आवाज़ कानों में सुनाई देने लगी
उसमें एक ऐसी विशिष्ट शैली है जो चाहे लोग जितनी नकल करें, कभी बासी नहीं लगती
अगर 2009 में कोई कहता कि smartphone का प्रभुत्व अनिवार्य है, तो वह इसलिए क्योंकि उसने smartphone इस्तेमाल किया था और उसकी ताकत खुद देखी थी, न कि इसलिए कि वह किसी एजेंडा के तहत free will को मोड़ना चाहता था
2025 में अगर आप सचमुच AI का उपयोग करके वास्तविक काम कर रहे हों, तो इस तकनीक के बड़े पैमाने पर अपनाए जाने की अनिवार्यता से इनकार करना मुश्किल होगा। AI इतिहास में पहले कभी न देखी गई तेज़ी और ताकत से आ रहा है। सिर्फ डर के कारण इसे नज़रअंदाज़ नहीं किया जा सकता
80 के दशक में जो लोग AI को अनिवार्य मानकर निवेश कर रहे थे, या 10 साल पहले जो VR को अगली बड़ी चीज़ मानते थे, उनके नतीजे देखकर ही बहुत कुछ समझा जा सकता है। Zuck अब भी अरबों डॉलर जला रहा है, और Apple ने भी demand forecast पूरी तरह गलत आंका।
AR, VR के लिए rescue plan बन सकता है, लेकिन consumer market में प्रवेश अभी दूर है, और VR के लिए बनी ज़्यादातर तकनीक का AR से सीधा संबंध भी नहीं होगा
Tesla के self-driving Robo-taxi का मिथक भी 10 साल पुराना हो चुका है, लेकिन वास्तव में बिना मालिक के चलकर लाभ कमाने वाली कोई Tesla है ही नहीं
पीछे मुड़कर सिर्फ सफल तकनीकों के उदाहरण देना मूर्खता है। असफल तकनीकों की भी भरमार रही है, और investment तथा industrial bubbles भी बहुत रहे हैं
यही वह rhetorical move है जिसका ज़िक्र पोस्ट में किया गया है
उस समय को याद कीजिए जब लोग एक बेहद क्रांतिकारी और अनिवार्य मानी जा रही transportation technology के बारे में खूब बातें कर रहे थे। hype, secret meetings, भारी उम्मीदें… और आखिर में नतीजा Segway निकला
यह कुछ हद तक self-fulfilling prophecy जैसा लगता है। बड़ी tech कंपनियाँ “AI” को हर product में जबरन भर रही हैं और फिर कहती हैं, “देखो, यह इतना व्यापक है, इसलिए अनिवार्य है!”
मैं भी मानता हूँ कि AI अनिवार्य है, लेकिन अभी groupthink इतना ज़्यादा है कि हर चीज़ speech-bubble आधारित agent UI के रूप में पेश की जा रही है
जब सब लोग इससे आगे बढ़ जाएँगे, तब अगली चीज़ क्या होगी यह देखने को लेकर मैं उत्साहित हूँ
अगर 1950 में कोई कहता कि smartphone mainstream बन जाएगा, तो शायद अधिकांश लोग यह आसानी से मान लेते। SF novels और films में ऐसा भविष्य अक्सर दिखता था
लेकिन social media को लेकर प्रतिक्रिया अलग होती। किसी को वह cool लगता, तो किसी को dystopian
वास्तव में ये तीनों चीज़ें (smartphone, social media, AI) 1950 के दशक से भी पहले लोगों की कल्पना को उकसा रही थीं
और सच कहें तो AI, उन्नत communication device से कम और कल्पित social media से ज़्यादा मिलता-जुलता है
1950 के दशक में nuclear technology को भी अनिवार्य माना जाता था। uranium glass से बने बर्तन तक बेचे जाते थे, जो शायद अब भी किसी घर की शेल्फ़ पर चमक रहे हों या कब के टूट चुके हों
“LLM winter” आ सकता है
जब लोगों को एहसास होगा कि LLM वास्तव में कुछ “कर” नहीं सकता, तब ऐसा हो सकता है
कंपनियाँ LLM की गलतियों की ज़िम्मेदारी consumers पर डालने की कोशिश करेंगी
हमें ऐसे systems चाहिए जो ईमानदारी से “मुझे नहीं पता”, “मैं यह काम नहीं कर सकता” जैसे output दें
programmer समुदाय से पहले ही ऐसी रिपोर्टें आ रही हैं कि LLM का इस्तेमाल उल्टा negative value दे रहा है
LLM के छोड़े हुए निशानों को साफ़ करने में बहुत समय लग जाता है
LLM की गलतियों की ज़िम्मेदारी consumers पर डालना सिर्फ कंपनियों तक सीमित नहीं है
इस forum के उत्साही users (या शायद cyber shills) भी ऐसी ही सोच दिखाते हैं
वे कहते हैं कि LLM से value निकालने के लिए कुछ ज्ञान और 'prompt engineering' (जिसे अब 'context engineering' भी कहा जा रहा है) की क्षमता चाहिए
आखिरकार वे यह कथा बनाते हैं कि जो लोग इस tool को समय की बर्बादी मानते हैं और जो लोग इससे भारी productivity gain देखते हैं, उनके बीच फर्क सिर्फ user की skill का है
यह narrative blogs, forums, यहाँ तक कि हाल के METR research results की गलत व्याख्याओं में भी दिखाई देता है
बेशक, किसी भी tool का पूरा लाभ लेने के लिए कुछ स्तर की skill चाहिए
लेकिन LLM इस्तेमाल करके भी फायदा न पाने वालों को सीधा अयोग्य कह देना अपमानजनक है
LLM कोई ऐसी alien technology नहीं है जिसके लिए विशेष engineering expertise चाहिए
सही सवाल पूछकर और tool व concepts को थोड़ा-बहुत समझकर कोई भी इसे सीख सकता है
इस तरह दलील देने वालों का उद्देश्य अंततः LLM बेचना या उसके प्रभाव को बढ़ा-चढ़ाकर पेश करना ही है
इंसानों पर भी आँख मूँदकर भरोसा नहीं किया जा सकता, इसलिए guardrails, checks, oversight और audit रखे जाते हैं
software में code review, testing, monitoring जैसी best practices इसी कारण हैं
यही वजह है कि software development वह क्षेत्र बना जहाँ LLM सबसे तेज़ी से जड़ें जमा सका
हमारे पास पहले से अविश्वसनीय human “workers” से निपटने के तरीके हैं, और वही अनुभव LLM पर लागू किया जा सकता है
अंततः सफल LLM applications की कुंजी यह है कि business-specific guardrails लगाए जाएँ और ऐसा system बनाया जाए जिसमें ज़रूरत पड़ने पर मानव हस्तक्षेप कर सके
LLM को ऐसे systems में डालना ज़रूरी है जो उसे मजबूर करें कि वह सही व्यवहार करे
उदाहरण के लिए, LLM को दस्तावेज़ों या man pages का संदर्भ लेने के लिए कहा जाए और सिर्फ कुछ निश्चित lines output करने को कहा जाए
तब system वास्तव में उन lines को ढूँढकर उद्धृत करेगा, और LLM मनगढ़ंत उद्धरण नहीं बना पाएगा
अभी तक LLM का type system के साथ कोई एकीकृत उदाहरण नहीं है
एक शक्तिशाली type system (जैसे dependent types) compile time पर यह सुनिश्चित कर सकता है कि “यह function हमेशा sorted list लौटाता है”
proof code बहुत लिखना पड़ता है, लेकिन अगर LLM वही proof लिख दे, तो compile हो जाने पर हम उसे सही मान सकते हैं
बेशक, low memory या power failure जैसी अपवाद स्थितियाँ फिर भी मौजूद रहेंगी
मैं चाहता हूँ कि यह ‘low-quality output mass production’ वाला उन्माद जल्दी खत्म हो
लेकिन जो लोग quality की परवाह ही नहीं करते—scammers, spammers, clickbait bloggers, चुनाव में दखल देने वाले, घटिया apps/music/video/“art” से ad revenue कमाने वाले—उनके लिए आज का Gen AI एक परफेक्ट product है
quality को महत्व देने वाले लोग भले समझ जाएँ कि AI बेकार है, तब तक internet शायद मर चुका होगा
तब तक हम ‘post-truth’, ‘post-art’, ‘post-skill’, ‘post-democracy’ के दौर में होंगे, और सबसे ज़्यादा फायदा कुछ California के अरबपतियों ने उठाया होगा
समझदार लोगों को सामाजिक मूल्य बिगाड़ने वाला कचरा बनाने में अपनी प्रतिभा खर्च करते देखना जितना उदास करता है, उतना कम ही कुछ और करता है
90 के दशक में मैंने पहली बार एक दोस्त से internet के बारे में सुना, और यह सुनकर कि कॉलेज में पढ़ने वाला कोई व्यक्ति मुझे internet दिखा सकता है, मैं एक घंटे के भीतर कॉलेज के कंप्यूटर के सामने बैठा था
links पर क्लिक करना, ऐसे वेग से बहता text कि पढ़ना मुश्किल हो, शानदार layouts, images, और दूसरी webpages के links—और यह सब बिना printing, shipping या इंतज़ार के तुरंत देख पाना—मुझे झकझोर गया। मुझे यक़ीन हो गया कि यही भविष्य है, और यह बस अनिवार्य लगा
कल मुझे एक बड़े library stack के आधार पर पूरा program फिर से लिखना था, यानी मुझे लंबा documentation पढ़ना पड़ता या code को खुद खंगालना पड़ता
इसके बजाय मैंने GPT 4.1 में पूरा program और library paste करके rewrite करने को कहा, उसने एक ही बार में काम कर दिया, और मैंने 15 मिनट में पूरा diff पढ़कर सिर्फ कुछ style tweaks किए। कई घंटे बच गए। यह मुझे भविष्य जैसा लगा, और फिर से अनिवार्य लगा
P.S. बहुत-से replies मेरे अनुभव की तुलना LLM के साथ बातचीत करते हुए धीरे-धीरे code बदलने वाली शैली (‘agentic coding’) से कर रहे हैं, लेकिन मेरा तरीका है "एक बार में एक file, code को छुए बिना"। अधिक जानकारी यहाँ है
मैं पूरी तरह सहमत हूँ, लेकिन सच कहूँ तो यह मुझे कुछ वैसा ही लगता है जैसे यह कहना कि IDE के साथ programming करना ही भविष्य है
inevitabilism का मूल यह नहीं कि नया और शक्तिशाली dev tool आपकी productivity कुछ घंटों तक बढ़ा देता है, बल्कि यह है कि knowledge का broker कौन होगा, knowledge work को कैसे परिभाषित किया जाएगा, employer और employee का रिश्ता कैसे बदलेगा, surveillance के साधन कैसे बदलेंगे, और समाज की प्रणालियाँ कैसे काम करेंगी
जो लोग inevitabilism फैलाते हैं वे जिद्दी developers को मनाने की कोशिश नहीं कर रहे; वे अपने लिए अनुकूल नया 'game board' बनाना चाहते हैं। और अगर आपको उसके rules पसंद न हों या आप उनका विरोध करें, तो वे कहेंगे “कुछ नहीं किया जा सकता, यह अनिवार्य है, चीज़ें ऐसी ही होती हैं”
LLM की समस्या तब शुरू होती है जब उसे creative thinking या विचार के लिए इस्तेमाल किया जाता है
यह वास्तव में कई contexts (खासकर coding) में उपयोगी है, लेकिन इसका मतलब यह नहीं कि LLM ऐसी तकनीक है जो ‘सब कुछ बदल देगी’
“AI is the new electricity” जैसी बात बढ़ा-चढ़ाकर कही गई है (Andrew Ng के उस कथन का हवाला, जिसमें जोर था कि AI बिजली जैसी नहीं बनेगी)
मुझे तो यह “AI is the new VBA” के ज़्यादा करीब लगता है। तब भी लोग उत्साहित थे कि “अब हर कोई programming कर सकेगा!”, लेकिन असल में उसका सबसे बड़ा असर छोटे-मोटे automation पर ही पड़ा। हाँ, अब चीज़ें कहीं तेज़ हैं और hype कहीं बड़ा है, लेकिन मूल प्रकृति वैसी ही लगती है
LLM हमेशा अच्छा काम नहीं करते
उदाहरण के लिए, हाल ही में एक अजीब समस्या थी कि VirtualBox VM, Windows 10 पर 4 गुना धीमा हो गया था
मैंने AI की मदद से कई solutions आज़माए, लेकिन कोई फायदा नहीं हुआ
आखिर में पता चला कि Windows Features में "Virtual Machine Platform" checkbox अचानक uncheck हो गया था
जब मैंने AI को यह बताया, तो उसने ज़िद की कि वह option ज़रूरी नहीं है और उसका 'off' होना ही बेहतर है
लेकिन असल समस्या वही थी; option को check करके reboot किया, और सब ठीक हो गया
AI सिर्फ गहरे reasoning में ही नहीं, जहाँ basic common sense चाहिए, बल्कि साधारण associative memory में भी स्पष्ट रूप से गलती करता है
अगर इसे web search के विकल्प की तरह इस्तेमाल करना है, तो fact-checking ज़रूरी है
LLM-आधारित AI में ‘facts’ की कोई अवधारणा नहीं होती। यह सिर्फ token prediction है, जो input/training data के आधार पर संयोगवश सही होने की अपेक्षाकृत अधिक संभावना वाला output देता है
मैं LLM inevitabilism से पूरी तरह सहमत हूँ। मुझे लगता है कि जैसा यहाँ बताया गया है, वैसे ही भविष्य में हर व्यक्ति इसे रोज़ इस्तेमाल करेगा। smartphone की तरह
लेकिन AGI inevitabilism से मैं सहमत नहीं हूँ। “models लगातार बेहतर हो रहे हैं, इसलिए AGI अनिवार्य है” यह निष्कर्ष तक पहुँचने के लिए तर्क की छलाँग है
क्या आपको सच में भरोसा है कि code सही तरह से काम कर रहा है?
अगर आपने सिर्फ AI के सहारे code पढ़ना सीखा ही नहीं तो?
मेरा मानना है कि code को खुद पढ़कर verify करने की क्षमता कहीं ज़्यादा महत्वपूर्ण है
मेरी पिछली नौकरी में मैंने एक किस्सा सुना था: किसी ने aircraft company के flap-control firmware में bug खोजा, और समस्या समझाने के लिए खुद विमान से यात्रा कर रहा था—और संयोग से उसी firmware वाले विमान में बैठा हुआ था
इस inevitabilism की सबसे कठिन बात यह है कि जो लोग “यह अनिवार्य है” कहते हैं, वही लोग वास्तव में करोड़ों डॉलर development, deployment और advertising पर खर्च भी कर रहे हैं
यह कुछ वैसा है जैसे लोमड़ियाँ मुर्गीखाने में दरवाज़ा बनाते हुए कहें, “लोमड़ी का अंदर आना रोका नहीं जा सकता। इसलिए बेहतर है कि इसे सबके लिए काम करने वाला system बना दिया जाए”
“अपना पैसा वहीं लगाओ जहाँ अपनी बात रखते हो” वाली रणनीति मुझे अपने-आप में ठीक लगती है
सवाल यह भी है कि क्या वे सच में ‘दरवाज़ा’ बना रहे हैं, या दरवाज़ा पहले से है और वे बस सबसे पहले अंदर घुसना चाहते हैं?
सहमत। हमें लोमड़ियों की मदद नहीं करनी चाहिए; हमें तो उन्हें खदेड़ना चाहिए
दो बातें बहुत साफ़ हैं
लेख की तरह, मुझे भी लगता है कि CEO द्वारा तय किए गए framing के भीतर बहस करना निरर्थक है। वे मुख्यतः market से बात कर रहे होते हैं, जबकि हम वे लोग हैं जो तकनीक के काम करने का तरीका समझते हैं; इसलिए हमें LLM का अधिक वस्तुनिष्ठ मूल्यांकन करना चाहिए और अपना framework बनाना चाहिए
मेरी नज़र में LLM software tools के विकास का एक और चरण है। यह चकित करने वाला और थोड़ा डरावना लग सकता है कि LLM आसानी से ठीक-ठाक code लिख देता है, लेकिन दशकों से दोहराए जाते CRUD और business logic की लगातार माँग के बीच, उन असंख्य उदाहरणों से एक विशाल probabilistic generator पर्याप्त context और prompt मिलने पर नए संयोजन बना ले, यह कोई बहुत चौंकाने वाली बात नहीं है
एक technologist के रूप में मैं समझना चाहता हूँ कि LLM मेरे उद्देश्यों में कैसे मदद कर सकता है। अगर न चाहूँ तो इसका इस्तेमाल न करूँ, लेकिन इसकी बदलती क्षमताओं पर नज़र बनाए रखना ज़रूरी है ताकि मेरा फैसला समझदारी भरा रहे
इतने बड़े hype के सामने मैं अतीत के प्रति nostalgia या किसी वांछित आदर्श से चिपककर कोई बेकार crusade नहीं छेड़ने वाला
लोगों को natural language में संवाद करना पसंद है
LLM, पुरानी logical languages और computers से बात करने वाले जटिल interfaces से बाहर निकलकर, internet के शुरुआती दौर वाली computing शैली को समाप्त करने की दिशा में पहला कदम है
inevitabilism यहीं से आता है, क्योंकि सच तो यह है कि अधिकांश लोग computer चलाना सीखना नहीं चाहते; वे बस उससे ऐसे बात करना चाहते हैं जैसे वह कोई जीवित चीज़ हो
(मैं मानता हूँ कि सच में computers पसंद करने वाले लोग 5% से कम होंगे)
लोग भरोसेमंद और deterministic प्रतिक्रिया भी चाहते हैं। वे चाहते हैं कि button दबाने पर लगभग हमेशा वही परिणाम मिले; वे यह नहीं चाहेंगे कि 10% संभावना पर कुछ अजीब हो जाए
LLM कभी इस स्तर की स्थिरता तक पहुँच पाएँगे या नहीं, यह अभी साफ़ नहीं है
“logical languages से बाहर पहला कदम”... logical languages तो मूलतः deterministic implementation को संभव बनाकर abstractions बनाने में एक बड़ी छलाँग थीं
natural language उस लक्ष्य से इतनी दूर है कि इसे संक्षेप में समझाना भी मुश्किल है
“क्या इंसान भाषा के माध्यम से abstraction हासिल नहीं करते?”—अगर आपने कभी वास्तविक कानूनी दस्तावेज़ (जैसे House bill का पूरा पाठ) पढ़ा हो, तो शायद यह विचार बदल जाए
यह बात मुझे उलटी अजीब लगती है कि natural language UI को जितना स्वागत मिलना चाहिए था, उतना नहीं मिला
natural language UI computer science का एक पुराना अधूरा सपना था, और अब यह इतना सामान्य लगने लगा है कि जैसे लोग उसकी अहमियत भूल गए हों
coding/writing/research के लिए LLM सबसे उपयुक्त न भी हों, फिर भी मैं चाहता हूँ कि इस तरह का user experience (UX) बना रहे
समस्या को भाषा में खुलकर व्यक्त कर पाना, और shorthand/slang/tone तक को सही तरह पहुँचा पाना, सचमुच अद्भुत है और बहुत उपयोगी भी
“दैनिक भाषा भौतिकशास्त्री जितनी अमूर्तता व्यक्त करना चाहता है, उसके लिए पूरी तरह अनुपयुक्त है। केवल mathematics और mathematical logic ही भौतिकशास्त्री की मंशा के अनुरूप उतनी ही संक्षिप्त अभिव्यक्ति दे सकती हैं।”
यही कारण है कि हम mathematics में अब natural language का उपयोग नहीं करते। natural language बहुत लंबी-चौड़ी और अत्यंत अस्पष्ट होती है
अगर natural language में contracts समझाने का कोई अच्छा तरीका होता, तो lawyers अब तक ढूँढ चुके होते।
contracts की व्याख्या में अंतर पर हम GDP का एक बड़ा हिस्सा बर्बाद कर देते हैं
यह अवधारणा Timothy Snyder द्वारा कही गई ‘politics of inevitability’ से गहरे जुड़ी हुई है
“politics of inevitability” एक ऐसी worldview है जिसके अनुसार भविष्य सिर्फ वर्तमान का विस्तार है, प्रगति के नियम पहले से ज्ञात हैं, कोई विकल्प नहीं है, इसलिए हमें कुछ करने की ज़रूरत भी नहीं
मूल लेख इस विचार को commercial क्षेत्र पर लागू करता है, लेकिन असल में यह उस भाषा से जुड़ा है जो लोगों से agency छीन लेती है
संबंधित लेख लिंक