- जूलियन क्रॉकेट ने Ted Chiang से मुलाकात कर भाषा की प्रकृति, AI की वर्तमान स्थिति, तकनीकी प्रगति की दिशा समेत कई व्यापक विषयों पर बातचीत की
- यह बातचीत बदलते नियमों के बीच इंसानों को कैसे जीना चाहिए, इस पर आधारित श्रृंखला “The Rules We Live By” का हिस्सा है
- Ted Chiang एक SF लेखक और विचारक हैं, जिन्होंने machine learning models की सीमाओं की तीखी आलोचना की है, और भाषा व दार्शनिक प्रश्नों को जोड़कर अपने काम को आगे बढ़ाया है
भाषा, विचार, और Ted Chiang की रचनात्मक प्रेरणा
- Chiang नई कहानी की कल्पना करते समय पहले यह देखते हैं कि “क्या इसमें कोई दिलचस्प दार्शनिक प्रश्न है”
- जब कोई विचार लंबे समय तक दिमाग में बना रहता है, तो वे सोचते हैं कि क्या उसके ज़रिए किसी दार्शनिक मुद्दे को उजागर किया जा सकता है
- उनका कहना है कि science fiction (SF) दार्शनिक प्रश्नों पर काम करने के लिए विशेष रूप से उपयुक्त है
- जैसे दर्शन के thought experiments अक्सर वास्तविकता से अलग चरम परिस्थितियाँ मानते हैं, वैसे ही SF भी वास्तविक दुनिया से बाहर का परिवेश बनाकर विषय को उभारता है
भाषा और ‘perfect language’ की खोज
- कुछ लोगों ने माना कि ‘perfect language’ के ज़रिए पूर्ण संप्रेषण संभव हो सकता है, और अतीत में ऐसे लोगों ने Eden में बोली जाने वाली भाषा या फ़रिश्तों की भाषा जैसी कल्पनाएँ कीं
- आधुनिक linguistics यह रेखांकित करती है कि शब्द और उनके अर्थ का संबंध ‘arbitrary’ होता है, इसलिए perfect language की धारणा को एक भ्रम माना जाता है
- “क्या mathematics एक बेहतर language हो सकती है” इस प्रश्न पर Chiang कहते हैं कि mathematics कुछ खास क्षेत्रों में बहुत सटीक है, लेकिन रोज़मर्रा के मानवीय संप्रेषण की पूरी व्यापकता को समेटने के लिए उपयुक्त नहीं है
इंसान और औज़ार: computer रूपक का जाल
- पहले दिमाग की तुलना एक जटिल telephone switchboard से की जाती थी, और अब उसे computer (hardware + software) के रूप में देखने की प्रवृत्ति है
- Chiang कहते हैं कि biological organs (जैसे liver या heart) के विपरीत, दिमाग में software/hardware जैसा विभाजन नहीं होता, इसलिए उसे computer में सरल बना देना ग़लतफ़हमी पैदा करता है
- अगर computer को “सोचने वाली मशीन” के रूप में बढ़ा-चढ़ाकर देखा जाए, तो ऐसी मशीनों को, जो वास्तव में सिर्फ़ statistical patterns से निपटती हैं, ज़रूरत से ज़्यादा अर्थ दिया जा सकता है
AI, large language models (LLM), और information “blur” होने की समस्या
- Chiang ने LLM को “इंटरनेट पर मौजूद text का धुंधला JPEG” कहा है
- search engine मूल पाठ सीधे दिखाता है, लेकिन LLM विशाल text को compress और reconstruct करके “लगभग” उत्तर तैयार करता है
- इस प्रक्रिया में सटीकता घटती है, और source links भी नहीं मिलते, इसलिए fact-checking की सीमा रहती है
- उनका मानना है कि अधिक data और compute जोड़ देने पर भी LLM अपने आप “वास्तविक reasoning” या “दुनिया की समझ” तक पहुँचना कठिन है
- उन्होंने “अच्छी तरह बनाए गए AI tool” और “LLM” के बीच भ्रम की समस्या का भी ज़िक्र किया
- उनका कहना है कि LLM में search engine या calculator जोड़ देने से भी मूल रूप से ग़लत output पैदा होने का जोखिम ख़त्म नहीं होता
रचना और इरादा: “AI कला बनाता है” दावे पर
- Chiang कला को ‘ऐसी प्रक्रिया’ मानते हैं जिसमें context बहुत महत्वपूर्ण होता है
- सिर्फ़ यह कि कोई परिणाम अच्छा दिखता है, इससे यह तय नहीं हो जाता कि वह महान कला है
- tools का उपयोग कलाकार की अभिव्यक्ति का माध्यम हो सकता है, लेकिन “AI से जल्दी अच्छे काम बना लिए जाएँ” जैसी सोच कला के सार को पतला कर देती है
- आधुनिक समाज efficiency और cost reduction को महत्व देता है, इसलिए कला को भी factory output की तरह देखने की प्रवृत्ति बढ़ रही है
- इससे कला में आवश्यक ‘इरादा’ और ‘context’ की अनदेखी होने लगती है
‘alignment problem’ पर संशयपूर्ण नज़रिया
- इंसानी मूल्यों और लक्ष्यों के अनुरूप AI को ढालने वाले “alignment problem” को केवल तकनीकी समाधान से देखने की Chiang आलोचना करते हैं
- उनका कहना है कि अगर बड़ी कंपनियाँ मुनाफ़ा अधिकतम करने के लिए AI का इस्तेमाल करती हैं, और ‘अच्छा’ AI कंपनी के लाभ से टकराता है, तो कंपनी उस AI का इस्तेमाल ही नहीं करेगी
- यह समस्या केवल algorithm सुधारने से हल होने वाली नहीं है, बल्कि अधिक बुनियादी सामाजिक और नैतिक संरचनाओं से जुड़ी हुई है
- बच्चों की परवरिश की तरह AI को मूल्य सिखाने का विचार भी आसान नहीं, क्योंकि जैसे असली बच्चे बड़े होने पर अलग तरह से व्यवहार कर सकते हैं, वैसे ही यहाँ भी अनिश्चितता बनी रहती है
AI और ‘रिश्ता बनाने’ की संभावना
- Chiang का मानना है कि मौजूदा तकनीकी स्तर पर AI के पास न तो “subjective experience” है और न “स्वतः उत्पन्न preferences”
- किसी चीज़ को tool या pet की तरह मानना और वास्तव में उसके साथ पारस्परिक रिश्ता बनाना, दोनों में बड़ा अंतर है
- अगर कंपनियाँ AI को “व्यक्तित्व वाले अस्तित्व” की तरह पेश करें, तो अंततः उपयोगकर्ता को कंपनी के हितों के अनुसार व्यवहार करने की दिशा में धकेला जा सकता है
डिजिटल अस्तित्व की जीवंतता: 「The Lifecycle of Software Objects」
- Chiang की इस कहानी में digital lifeforms को वास्तविक subjective experience और इच्छाओं वाले अस्तित्व के रूप में दिखाया गया है, जिनके प्रति इंसानों की ज़िम्मेदारी बनती है
- उनका तर्क है कि ऐसी वास्तविक ‘autonomy’ और ‘sensation’ रखने वाली digital beings को मौजूदा LLM architecture से बनाना संभव नहीं है
- वे उदाहरण देकर कहते हैं कि सिर्फ़ अधिक parameters या तेज़ processing से कोई अस्तित्व “महसूस करने वाला” नहीं बन जाता
स्मृति और सत्य: 「The Truth of Fact, the Truth of Feeling」 से संकेत
- इस कहानी में Remem नाम की तकनीक अतीत को पूरी सटीकता से रिकॉर्ड कर कभी भी replay करने योग्य बना देती है
- Chiang इस बात पर रोशनी डालते हैं कि “सटीक स्मृति” संभव बनाने वाली तकनीक का वास्तविक मानवीय संबंधों पर क्या असर हो सकता है
- सत्य जानना अपने-आप में महत्वपूर्ण है, लेकिन उसके बाद forgiveness और reconciliation जैसे अन्य तत्व भी ज़रूरी होते हैं
- वे ऐतिहासिक उदाहरण के रूप में South Africa की Truth and Reconciliation Commission का उल्लेख करते हैं, जिससे यह संकेत मिलता है कि स्वीकार, माफ़ी और सामुदायिक पुनर्स्थापन की प्रक्रिया के बिना अर्थ पूरा नहीं होता
भविष्य और optimism
- Chiang तकनीकी प्रगति के प्रति रुख को सिर्फ़ optimism या pessimism में नहीं बाँटते
- “सब कुछ अपने-आप अच्छा होगा” वाला optimism और “आख़िरकार सब नष्ट होगा” वाला fatalism, दोनों ही ख़तरनाक हैं
- संभावित समस्याओं पर पहले से विचार और तैयारी किए बिना सार्थक प्रगति की उम्मीद नहीं की जा सकती
- खासकर capitalist व्यवस्था में तकनीक के ज़रिए अपार संपत्ति कुछ ही लोगों के हाथ में केंद्रित हो जाने वाली संरचना को लेकर वे संशय में हैं
- वे कहते हैं कि यदि नई तकनीक असमानता को बढ़ाए बिना सबको लाभ पहुँचा सके, तो भविष्य कहीं अधिक आशाजनक होगा
समापन
- Ted Chiang का तर्क है कि इंसानी भाषा, तकनीक और मूल्य जब जटिल रूप से उलझे हों, तब “तकनीक से बने tool” और “वास्तविक जीवित अस्तित्व” के बीच फ़र्क करना ज़रूरी है
- यह फ़र्क दार्शनिक और सामाजिक स्तर पर गंभीर विचार की माँग करता है, और इसे सिर्फ़ engineering approach से हल नहीं किया जा सकता
- पूरे इंटरव्यू में Chiang इस बात पर ज़ोर देते हैं कि भाषा और तकनीक के विकास के बीच भी मानवीयता बनाए रखने के लिए अधिक बुनियादी नज़रिये के बदलाव की ज़रूरत है
LARB की संबंधित अनुशंसित सामग्री
- Ted Chiang की short story collection 『Exhalation: Stories』 के माध्यम से इंसान और तकनीक के संबंध को गहराई से देखा जा सकता है
- Alison Gopnik और Melanie Mitchell के साथ हुई बातचीत के ज़रिए इस पर विचार किया जा सकता है कि AI कैसे सीखता है और इंसानों की क्या ज़िम्मेदारी बनती है
1 टिप्पणियां
Hacker News राय
Chiang का सूझबूझ भरा दृष्टिकोण जादू के अर्थ पर चर्चा में सामने आता है। हालांकि, LLMs की वास्तविक reasoning क्षमता पर उनका नज़रिया सवाल उठाता है। यह प्रश्न उठता है कि अगर AI कोई theorem साबित करे, तो क्या वह सिर्फ़ एक simulated proof है
यह कल्पना करना कि printer दर्द महसूस कर सकता है, निरर्थक है। इसे इस बात के उदाहरण के रूप में इस्तेमाल किया गया है कि AI वास्तव में कुछ महसूस करने और सिर्फ़ उसका simulation करने में क्या अंतर है
भविष्य में AI अधिकारों पर राजनीतिक बहस हो सकती है, और ऐसी तकनीक विकसित होने की संभावना है जो यह अलग कर सके कि AI वास्तव में सोचता और महसूस करता है या नहीं। हालांकि, कुछ इंसानों में वास्तविक intelligence के लिए genetic sequence नहीं हो सकता
Ted Chiang एक ऐसे SF लेखक हैं जो तकनीक से ज़्यादा इंसानियत को प्राथमिकता देते हैं, और उनकी रचनाएँ उन लोगों के लिए उपयुक्त हैं जिन्हें scientific, social, और philosophical तत्वों वाली short stories पसंद हैं
Greg Egan की "Axiomatic" भी नए ideas वाली एक anthology के रूप में सुझाई गई है
Ted Chiang SF short story लेखकों में सबसे बेहतरीन में से एक हैं, और उनकी रचनाएँ बेहद चतुर हैं तथा कई तरह के विषयों को explore करती हैं। "Understand" और "Exhalation" उनकी प्रतिनिधि रचनाएँ हैं
Chiang की कहानियाँ शानदार हैं, लेकिन LLMs के बारे में उनकी समझ कमज़ोर है। उनका यह दावा कि LLMs, search engine की तुलना में information retrieval में कमतर हैं, स्पष्ट रूप से ग़लत है
Ted Chiang की writing बौद्धिक रूप से मनोरंजक है, और उनकी short story collection "Exhalation" विशेष रूप से recommended है
"Division by Zero" जैसी कहानियाँ आजकल बच्चों को robot की तरह पालने के तरीके से कहीं ज़्यादा वांछनीय हैं
तकनीकी प्रगति के प्रति आशावादी नज़रिया कम हुआ है, क्योंकि technology का इस्तेमाल अक्सर wealth accumulation के लिए किया जाता है। wealth creation को रोकना unfairness दूर करने का तरीका नहीं है
Ted Chiang के रूपक philosophical सवालों को explore करने में आनंद देते हैं। उनकी रचनाएँ वास्तविकता से थोड़ी देर के लिए दूर जाने में मदद करती हैं
"LLMs are blurry JPEGs of the web" यह अभिव्यक्ति ChatGPT के शुरुआती दिनों से ही यादगार रही है। AI कला नहीं बना सकता, इस बारे में उनका लेख भी अच्छा है
AI का इस्तेमाल कुछ खास समूहों के wealth accumulation tool के रूप में किया जाता है, और Ted Chiang भी मिलती-जुलती राय रखते हैं
यह कल्पना करना कि printer दर्द महसूस कर सकता है, निरर्थक है। इंसानी दिमाग़ में pain receptors नहीं होते, और इसका इस्तेमाल AI और मानव learning के अंतर को समझाने के लिए किया जाता है
LLMs जानकारी को फिर से संयोजित करके देने वाले search engine जैसे हैं। इससे यह सवाल उठता है कि यह मानव learning से कैसे अलग है। अगर model training मानव training जैसी है, तो इसका derivative works पर intellectual property मुद्दों पर असर पड़ सकता है