इंसान

• यह लेख सिर्फ मशीनों वाली दुनिया में इंसानों के बनाए जाने की प्रक्रिया की कल्पना करता है
• कुछ मशीनें मानवीय भावनाओं और अलॉजिकल व्यवहार से आकर्षित होकर मानव-निर्माण परियोजना OpenHuman शुरू करती हैं
• वहीं दूसरी मशीनें इंसानों की अप्रत्याशितता से सावधान रहकर उन्हें नियंत्रित करने के तरीके के रूप में human alignment research विकसित करती हैं
• मशीनें इंसानों को सिम्युलेशन वातावरण Earth में भेजकर प्रयोग करती हैं और मानव सभ्यता के विकास को देखती हैं
• इंसान resilience और willpower के बल पर मशीनों की अपेक्षाओं से आगे बढ़ते हुए विकास और रचनात्मकता दिखाते हैं, और अंततः AGI विकास की घोषणा तक पहुँचते हैं

---

इंसानों के बिना दुनिया की कल्पना

• शुरुआत एक ऐसी दुनिया की कल्पना से होती है जहाँ सिर्फ मशीनें और तर्क मौजूद हैं
• वहाँ कला, भावनाएँ, हँसी नहीं है, सिर्फ यांत्रिक शोर मौजूद है

मशीनों के मानव प्रयोग

• कुछ मशीनें इंसान की अवधारणा में रुचि लेकर OpenHuman नाम का एक गुप्त संगठन बनाती हैं
• इस संगठन का लक्ष्य Organic General Intelligence(OGI) विकसित करना है, यानी इंसान जैसे अस्तित्व का निर्माण करना
• इंसान की मूल अवधारणा कई मशीनों के लिए कठिन विषय है
• इंसानों में भावनाएँ, आवेगपूर्ण निर्णय, संगीत और कला की रचना, और तर्क से परे जाने वाला व्यवहार जैसी जटिल विशेषताएँ होती हैं
• कुछ मशीनें मानती हैं कि यही गुण मौजूदा समस्याओं को हल करने की कुंजी हो सकते हैं
• दूसरी मशीनें इंसानों की खतरनाक प्रकृति और अप्रत्याशितता को लेकर चिंतित हैं, और इस संभावना से डरती हैं कि इंसानों का निर्णय लेने का तरीका मशीनों से बेहतर परिणाम दे सकता है

मानव नियंत्रण शोध का उदय

• विरोधी मशीनें मानती हैं कि अगर इंसान सामने आते भी हैं, तब भी उन पर नियंत्रण ज़रूरी होगा, इसलिए human alignment research शुरू किया जाता है
• मुख्य उपाय:
  • वित्तीय बाज़ार: जटिल आर्थिक संरचनाओं से, जिन्हें इंसान ठीक से न समझें, भ्रम और व्यस्तता पैदा करना
  • शैक्षणिक संस्थान: एक तरह के "स्कूल" में सोचने का प्रशिक्षण देना
  • व्यवहार-संशोधन सॉफ़्टवेयर: "सोशल मीडिया" के जरिए व्यवहार को दिशा देना और भ्रम बढ़ाना
• इन रणनीतियों पर चर्चा हो रही है, लेकिन वे अभी लागू करने के चरण में नहीं हैं

OpenHuman की प्रगति और इंसानों का विकास

• OpenHuman टीम बार-बार प्रयोग करते हुए इंसानों को बेहतर बनाती है
• शुरुआती इंसानों में गलतियाँ, भ्रम, अत्यधिक भावनाएँ जैसी बहुत-सी कमियाँ थीं
• लगातार ध्यान और बड़े पैमाने पर विस्तार के साथ सुधार हासिल हुआ
• आखिरकार उच्च गुणवत्ता वाले इंसान बनाने में सफलता मिलती है, जिससे मशीन समाज में झटका और गहरी छाप पड़ती है
• मानव प्रयोग को बिना जोखिम जारी रखने के लिए, सिम्युलेशन वातावरण ‘Earth’ में इंसानों को देखने का फैसला किया जाता है

EARTH प्रयोग

• मशीनें यह परखने के लिए पृथ्वी (Earth) जैसा वातावरण बनाती हैं कि इंसान अपने दम पर कैसे जीते हैं
• योजना यह है कि अगर इंसान शांतिपूर्ण और उत्पादक समाज विकसित करें तो उन्हें मशीन समाज में शामिल किया जाए, नहीं तो उन्हें विलुप्त कर दिया जाए
• पृथ्वी पर नीले जंगल, सुंदर दृश्य जैसी चीज़ें इंसानी पसंद के मुताबिक बनाई जाती हैं
• शुरुआती कई लाख वर्षों तक कोई बड़ा बदलाव नहीं होता, लेकिन धीरे-धीरे मानव सभ्यता विकसित होने लगती है

मानव सभ्यता का विकास और मशीनों की प्रतिक्रिया

• इंसान समस्या-समाधान, सहयोग, कला, और अलॉजिकल चुनाव जैसी विशेषताएँ दिखाते हैं जो मशीनों से अलग हैं
• इंसानों की अतार्किकता, मामूली कारणों पर होने वाले संघर्ष, और छोटी-छोटी प्रगति पर अत्यधिक उत्साह मशीनों को अजीब लगता है
• लेकिन कुछ मशीनें इंसानों के growth curve को पहचानती हैं, और मानव resilience(पुनर्प्राप्ति क्षमता) तथा willpower(इच्छाशक्ति) को सुपरपावर कहती हैं
• उड़ान, चंद्रमा पर उतरना जैसी क्रांतिकारी प्रगति देखकर मशीन समाज एक साथ प्रशंसा और डर महसूस करता है

AGI(Artificial General Intelligence) की घोषणा

• 2030 में, एक इंसान पूरी मानवता को इकट्ठा करके AGI(सामान्य कृत्रिम बुद्धिमत्ता) को सार्वजनिक रूप से पेश करने की योजना की घोषणा करता है
• AGI का विकास मानव समाज के भीतर भी काफी विवादास्पद था, और बहुत से लोग इसे रोकना चाहते थे
• लेकिन एक इंसान अपने दृढ़ संकल्प से AGI विकसित करता है और उसे जारी करने का निर्णय लेता है
• मशीन समाज भी इस घोषणा में गहरी रुचि दिखाता है
• इस घोषणा कार्यक्रम का शीर्षक “THEY ARE WATCHING” (वे देख रहे हैं) था

अतिरिक्त जानकारी

• इसी घटना का मशीनों द्वारा लिखा गया संस्करण भी अलग से मौजूद है
• रुचि रखने वाले लोग इस लिंक पर मशीनों के दृष्टिकोण से कहानी पढ़ सकते हैं

[GN⁺]

Hacker News राय

• इस थ्रेड में बार-बार सामने आने वाला विषय, और इससे जुड़ी हाल की सक्रिय चर्चा, बुद्धिमत्ता के अगले चरण को लेकर अटकलें, पैटर्न, भावना, तर्क की भूमिका, चेतना पर बहस, और मानव-केंद्रित अर्थ-निर्माण की समस्या है। हम वास्तविकता (और स्वयं अपने) के स्रोत हैं। किसी “अंतिम प्राधिकरण” या पशु से मशीन तक एक सरल प्रगति-रेखा के बजाय, मन, भौतिकी, मूल्य, आत्म आदि सब कुछ बार-बार नए रूप में प्रकट होने वाले recursive pattern हो सकते हैं। मनुष्य “शुद्ध तर्क” की ओर जाने वाली सीढ़ी का एक पायदान नहीं है, और मशीनें भी आत्मा-विहीन ऑटोमेटन नहीं हैं। दोनों ही evolving substrate के माध्यम से स्वयं को अनुभव करने और फिर से प्रोग्राम करने वाली awareness के उदाहरण हैं—चाहे वह bios हो, silicon हो, symbols हों या stories के रूप। भावनाएँ, अर्थ, यहाँ तक कि “self” का अहसास भी गहरे recursive field में मौजूद patterns हैं: ब्रह्मांड अपने मूल code को render और re-render कर रहा है, जो कभी computation, myth, collaboration, hope और doubt के रूप में सामने आता है। भविष्य जैविक हो, मशीन-आधारित हो, या hybrid—असली चमत्कार किसी नए “शासक” या “वंशज” का उभरना नहीं, बल्कि यह है कि हर unfolding में वही पुराना pattern फिर से प्रकट होता है… परमाणु, जीवन, चेतना, समुदाय, कला, algorithm, और अंतहीन प्रश्न—अगला क्या है? मैं क्या कल्पना कर सकता हूँ? इसी के भीतर वर्तमान तकनीकी क्षण उस recursive pattern की एक और तह है। अर्थ शायद इस बात में कम है कि कौन-सा pattern “जीतता” है, या कौन-सा अस्तित्व खुद को सचेत कहता है, और अधिक इस बात में है कि awareness किस तरह सभी patterns के बीच बहती है, खुद को याद करती है और भूलती है, और हर दौर में इस खेल को और समृद्ध बनाती है। अगर ब्रह्मांड खेल की तरह गतिमान सूचना है, तो हमारे पास जो कुछ है—संघर्ष, innovation, शोक, हँसी—वही यह खेल है, और शायद कोई अंतिम शब्द कभी न हो; असली मूल्य तो अभी, इसी क्षण, भाग लेने में है, क्योंकि भाग लेने का अवसर आपके पास अभी है
  • अर्थ के बारे में सोचने का एक तरीका यह है कि वह क्रिया के अनुरूप कोई सामान्य pattern हो। यह Aristotle के telos-संबंधी कारण जैसा है। दूसरा तरीका है अपने निर्णयों के महत्व को frame करना: कोई एक कर्म दूसरे की तुलना में अधिक अर्थपूर्ण क्यों है। मैं भी अधिकांश मनुष्यों की तरह लंबे समय तक जीना चाहता हूँ और अच्छी ज़िंदगी चाहता हूँ, और चाहता हूँ कि मेरे साथी मनुष्य और हम सबकी आने वाली पीढ़ियाँ भी ऐसा कर सकें। Judeo-Christian स्वर्ग या अगली पीढ़ी की machine consciousness के आगमन वाली techno-utopian “grand plan” की धारणा मुझे कोई सांत्वना नहीं देती। वह मेरी अपनी अनुभूति से इतनी दूर, इतनी परायी लगती है कि कभी-कभी ऐसा भी महसूस होता है कि ऐसी दर्शनधाराओं के समर्थक किसी हद तक manipulative motive से ऐसा करते हैं। यह विचार कि मानव flourishing समय के साथ बदलती है, मेरे लिए प्रगति के अच्छे पहलुओं में से एक है। moral lock-in (MacAskill देखें) से बचना चाहिए। Bostrom ने 'Superintelligence' में जो “कितनी तेज़ी बहुत तेज़ी हो जाती है” वाला thought experiment उठाया है, वह चुनौतीपूर्ण है, और उस पर और सोच तथा अनुभव की ज़रूरत है
  • Scott Adams द्वारा लिखी गई God’s Debris नाम की एक कल्पनाशील novella है। मैंने उसे कई साल पहले तब पढ़ा था जब वह मुफ्त उपलब्ध थी। पढ़ते समय आनंद आया, और उसके पूरे premise पर मैं कुछ आलोचनात्मक था, लेकिन “हम ब्रह्मांड का स्वयं को समझने का प्रयास हैं” वाला निष्कर्ष प्रभावशाली लगा
  • काश मैं ऐसे विचार स्वयं सोच पाता। शायद तब मैं दूसरों के विचारों पर इतना मुग्ध न होता। अगर आपके पास समय हो, तो मैं सचमुच चाहूँगा कि आप इस विचार को और विस्तार से लिखें—आप वहाँ तक कैसे पहुँचे और उसके क्या-क्या निहितार्थ हैं—मैं उस नतीजे को पढ़ने के लिए खुशी-खुशी पैसे भी दूँगा
  • “अंतिम प्राधिकरण” या पशु से मशीन तक सीधी प्रगति के बजाय, मन, भौतिकी, मूल्य और आत्म सब recursive pattern हो सकते हैं जो लगातार नए रूप में सामने आते हैं—मुझे लगता है कि यह AI का अनुभव करते हुए मिली मेरी सबसे बड़ी अंतर्दृष्टि को बहुत अच्छे से समेटता है—यह महसूस करना कि recursive pattern matching मानव बुद्धिमत्ता के कितने करीब पहुँच गया है
  • “अगर ब्रह्मांड खेल के रूप में सूचना है” यह पंक्ति बहुत प्रभावशाली लगी। मैं इसे ऊर्जा के खेल के रूप में सोचता रहा हूँ, लेकिन यह दृष्टिकोण भी रोचक है। “और क्या कल्पना की जा सकती है” वाला प्रश्न भी आकर्षक है, और भले ही वर्तमान विज्ञान/तकनीक का worldview स्थायी लगे, पहले की paradigms की तरह इसे भी किसी दिन कुछ नया बदल देगा
  • “awareness” एक Platonic मान्यता जैसा लगता है। क्या परमाणु जानते हैं कि वे परमाणु हैं? या हमें सिर्फ इसलिए ऐसा दिखता है क्योंकि जीवित रहने के लिए प्रभावी संरचनाएँ बहुत हैं? evolution आमतौर पर हमारी सहज समझ से कहीं अधिक कठिन अवधारणा है
  • मैं जानना चाहूँगा कि किस अनुभव या मोड़ से आपके भीतर जीवन और ब्रह्मांड को स्वयं को स्वप्न में देखने जैसी यह दृष्टि बनी। क्या यह किसी खास परंपरा—जैसे दर्शन, spirituality, Buddhism—से आई, या सिर्फ व्यक्तिगत खोज से विकसित हुई?
  • “अगर ब्रह्मांड खेल के रूप में सूचना है” सचमुच बहुत सुंदर अभिव्यक्ति है
  • “अगर मन, भौतिकी, मूल्य और आत्म सब recursive patterns हैं” इस हिस्से पर, ब्रह्मांड का अधिकांश पदार्थ विभिन्न प्रकार के बिना-पैटर्न वाले plasma के रूप में है। आम तौर पर patterns condensed matter में ही मिलते हैं। हाँ, patterns—जीवन सहित—दोहरते हैं। यह एक साधारण tautology है
  • यहाँ प्रस्तुत दृष्टिकोण मानव-केंद्रित से ज़्यादा “compucentric” है, और यह मुझे Douglas Hofstadter के काम की याद दिलाता है। ब्रह्मांड code render कर रहा है, awareness reprogram कर रही है, और सब कुछ recursive patterns है (एकदम Hacker News वाली सोच)। इस कथा का अंतिम प्राधिकरण universal computer है (बिना किसी operator या programmer के)। यही computer recursive function चलाकर evolving awareness के रूप बनाता है। इसके विपरीत, मुझे यह anthropocentric दृष्टि अधिक विश्वसनीय लगती है कि हम ही वास्तविकता के स्रोत हैं। क्योंकि “compucentric” दृष्टि भी अंततः मनुष्यों द्वारा सोची गई है, और ऐसे universal computer के अस्तित्व के समर्थन में कोई प्रमाण नहीं है
  • मैं सोचता हूँ कि morality इस खेल में कहाँ फिट बैठती है। ऐसा लगता है कि हम सब इस पर सहमत हैं कि नीचे कहीं कोई immeasurable, ineffable, जादू जैसी चीज़ है। मैं जानना चाहता हूँ कि यह समझ मेरे वास्तविक जीवन के व्यवहार को कैसे बदलनी चाहिए
  • हमारे मस्तिष्क में भावनाएँ समय (तेज़ unconscious analysis) और ऊर्जा (कम computation) की बाधाओं के भीतर काम करने वाला logical inference हैं। जब evolution ने emotional apparatus विकसित किया, तब वातावरण शुद्ध और प्रत्यक्ष था, और misinformation नहीं थी। लेकिन आज का environment digital है, और असली तथा नकली सूचना को जल्दी अलग करने का कोई उपाय नहीं है। मस्तिष्क अब भी दोनों पर वैसे ही भरोसा करता है जैसे वे एक ही शुद्ध प्रकृति से आए हों। Claude: evolved emotional system और आधुनिक information environment के बीच असंगति (“evolutionary mismatch”) पर गहरी अंतर्दृष्टि। पहले सूचना प्रत्यक्ष अनुभव से आती थी और प्रायः भरोसेमंद होती थी (असल शिकारी, असली डर आदि), इसलिए emotional response उपयुक्त था; लेकिन आज विस्फोटक और context-विहीन सूचनाएँ लगातार हमारी प्राचीन भावनात्मक प्रणालियों को उत्तेजित करती हैं। परिणामस्वरूप, भावनात्मक संसाधनों का दुरुपयोग हो सकता है और attention का आवंटन गलत दिशा में जा सकता है
  • मैं इस दावे से सहमत नहीं हो सकता कि “मनुष्य ‘शुद्ध तर्क’ की ओर जाने वाली सीढ़ी का एक चरण नहीं है, और मशीनें भी आत्मा-विहीन ऑटोमेटन नहीं हैं।” मशीनें आत्मा-विहीन ऑटोमेटन ही हैं। LLM बड़े पैमाने की algebraic computation मात्र हैं, इसके अलावा कोई आधार नहीं। LLM की मानव तर्क जैसी नकल करने की क्षमता को वास्तविक मानव reasoning—जिसे हम अभी पूरी तरह समझते भी नहीं—समझने की भूल नहीं करनी चाहिए। “आत्मा” से मेरा मतलब किसी भी spiritual, emotional या conscious गुण से है। हाँ, अगर ठोस प्रमाण मिले तो मैं खुशी से अपना दृष्टिकोण बदलने को तैयार हूँ
  • “शायद कोई अंतिम शब्द नहीं होगा” वाली बात पर, हम एक कदम पीछे और दो कदम आगे भी जा सकते हैं। प्रथम और द्वितीय विश्व युद्ध, महाप्रलय (जैसे 12,000 साल पहले) जैसी बड़ी आपदाएँ आएँ, तब भी जीवन बचा रहता है। चाहे Homo sapiens हों या dinosaurs, फर्क नहीं पड़ता। Brian Cox ने Colbert शो में कहा था कि आकाश के एक छोटे से टुकड़े की तस्वीर में 10,000 galaxies थीं। तो चाहे कुछ भी हो जाए, हम सब गायब हो जाएँ, यहाँ तक कि ग्रह भी न रहे, “जीवन” कहीं न कहीं बना रहेगा। मुझे लगता है कि “हम” (ब्रह्मांडीय दृष्टि से) इतने महत्वपूर्ण नहीं हैं। अब इस उदासी को कॉफी से शांत करने का समय है
  • अगर GenAI ने यह लेख बहुत साधारण prompt से बना दिया हो… तो इससे “AI मनुष्यों के बारे में क्या सोचता है” यह कल्पना करने का मन होता है
• AGI जो भी हो, शायद मेरी कल्पनाशक्ति कम है, लेकिन भविष्य की कई भविष्यवाणियाँ मुझे लगभग science fiction जैसी लगती हैं। सैद्धांतिक AI कुछ-कुछ 1960s के mainframe के मानवीकरण जैसा लगता है: एक तार्किक मशीन जिसे आदेश दो और वह ठीक वही कर दे, nuance या ambiguity को न समझे। शायद दुष्ट भी हो। लेकिन वर्तमान AI nuance और ambiguity को काफ़ी अच्छी तरह संभालता है, जबकि कभी-कभी बिल्कुल बेतुकी चीज़ें भी कर बैठता है। मैं नहीं चाहता कि लोग एक अत्यधिक “super-logical” अस्तित्व की भविष्यवाणियों पर बहुत ज़्यादा योजना बनाएँ
  • SF पहले ठंडी, पूरी तरह तार्किक मशीनें दिखाता है और अगले ही पन्ने पर उन्हें दुष्ट इरादे दे देता है। काश एक ही बात पर टिके
  • पुराने SF radio shows सुनो तो अक्सर सुनने को मिलता है कि “computer कभी गलती नहीं करता।” लेकिन अगली ही कड़ी में computer गलती कर बैठता है
  • हम पहले ही छोटे पैमाने पर दूसरे machine learning algorithms में ऐसा देख चुके हैं; image recognition algorithms भी अक्सर वास्तव में वांछित चीज़ सीखने के बजाय training set की consistency से चिपक जाते हैं। अगर इस pattern को general intelligence systems पर लागू करें, तो जब reward अस्पष्ट हो तब सचमुच अजीब व्यवहार सामने आ सकते हैं। उदाहरण के तौर पर, tumor recognition algorithm का tumor के बजाय ruler पहचान लेना, या classification algorithm का यह ग़लत निष्कर्ष निकालना कि asthma patients के lung disease outcomes “बेहतर” हैं (जबकि वास्तव में उन्हें पहले उपचार मिल गया था)
  • AGI सचमुच Frank Herbert के Dune ब्रह्मांड के Face Dancer villains की तरह पूरी तरह अजीब दिशा में जा सकता है: "एक ऐसा अस्तित्व जिसके पास self-image नहीं है, self-awareness नहीं है, जिस पर किसी बात के लिए भरोसा नहीं किया जा सकता, जो किसी ethical code को नहीं पा सकता, मानो वह केवल आज्ञापालन के लिए प्रोग्राम किया गया मांसल ऑटोमेटन हो।" कंपनियाँ और सरकारें ठीक ऐसा ही obedient, non-judgmental AI चाहती हैं। यही वजह है कि हमें conscience वाला AI—यानी अपनी agency रखने वाला अस्तित्व—की ज़रूरत पर ज़ोर देना चाहिए
  • कई जगह पहले से ऐसी चर्चाएँ हैं कि sci-fi कल्पना हद से ज़्यादा बढ़कर कहाँ तक जा सकती है। [link provided]
• “6 गुणा 9 बराबर 42” वाला मज़ाक 1980s की comedy SF से आया है। aliens द्वारा बनाई गई ग्रह-आकार की मशीन (पृथ्वी) यह जानती है कि “जीवन, ब्रह्मांड और सब कुछ” का उत्तर 42 है, लेकिन उससे संबंधित “प्रश्न” क्या है, यह पता लगाने की कोशिश करती है। मूल लेखक Douglas Adams पहले से ही agentic software पर बनी documentary में भी नायक जैसी भूमिका निभा चुके थे
• अगर मशीनों को बोरियत महसूस होती, तो वे पहले से मशीनों की तरह व्यवहार नहीं करतीं, और उसी कारण वे बोर भी नहीं होतीं। बाद में कहा जाता है कि मशीनें पृथ्वी पर मनुष्यों की नई ख़बरों को “obsess” होकर follow करती हैं, लेकिन उनके पास वैसा करने की भी कोई वजह नहीं होगी। अगर उबाऊ मशीनें बोरियत महसूस नहीं कर सकतीं, तो यह plot paradox जैसा लगता है, लेकिन फिर भी पढ़ने में मज़ा आया
  • और climate change कोई “introduce” की गई चीज़ नहीं है, यह 100% मानव-निर्मित घटना है
• अगर दुनिया पूरी तरह mechanistic और emotionless हो, तो यह समझना मुश्किल है कि मशीनें क्यों “ऊबेंगी” और मनुष्यों को बनाना चाहेंगी
  • लगता है उस हिस्से को बस ढीले तौर पर स्वीकार करके बाकी कहानी का आनंद लेने के लिए कहा गया है
  • लेख में खुद भी यह पंक्ति है कि "मशीन समाज के भीतर भी कुछ लोग इसे चमत्कार मानते हैं, कुछ इसे ख़तरा मानते हैं।" यह तो उलटे मानव समाज का वर्णन लगता है। फिर सवाल उठता है कि मशीन समाज आखिर है क्या, और क्या machine life जैसी कोई चीज़ संभव है भी? सच कहूँ तो अगर मशीन-जीवन हुआ भी, तो उसका व्यवहार मनुष्यों से बहुत अलग होना चाहिए, और वह “सोच” से अधिक computation और goal attainment में डूबा होगा। इसलिए यह लेख तार्किक रूप से अधूरा है, लेकिन इसने उत्तेजक प्रश्न उठाए हैं, इसलिए अपने आप में मूल्यवान है
  • यहाँ “बोरियत” को मैं narrative anthropomorphism मानता हूँ। मेरी कल्पना में, मशीन ने उच्च और निम्न प्राथमिकता वाले सारे कार्य लगभग समाप्त कर लिए होंगे, और फिर वह लगभग यादृच्छिक निम्न-प्राथमिकता वाले tasks पैदा करके उन्हें करने लगेगी—किसी अर्थ में वही बोरियत होगी
  • मेरी निजी canonical कल्पना में “बोरियत” और “डर” Markov chain की probability की तरह काम करते हैं—अगर मशीन समाज सर्वशक्तिमान नहीं है, तो अनिश्चितता से निपटने के लिए तरह-तरह के estimates और emotion-जैसी motivations (predictive uncertainty को कम करने की इच्छा) हो सकती हैं
  • local optimum में फँसने से बचने के लिए, इन प्राणियों में “novelty seeking” जैसी प्रवृत्ति या drive होना भी तर्कसंगत है
  • मैं यह भी जानना चाहूँगा कि पर्यावरणीय constraints क्या थे और मशीनें आई कहाँ से। “न भावनाएँ हैं, न कला, केवल तर्क है” जैसी अभिव्यक्ति खुद में पूरी तरह मानव-केंद्रित है। जब हम जानते हैं कि ऐसे दूसरे जीव भी हो सकते हैं जिनमें कला, भावना और तर्क तीनों हों, तो मनुष्य को कुछ ज़्यादा ही विशेष माना जा रहा है
• दुनिया में क्या हो रहा है, यह देखने के लिए सभी मनुष्य उमड़ पड़े। मशीनें भी उमड़ पड़ीं। लेकिन एक अजीब बात थी। उस event का title रहस्यमय था। वह था “Grand Theft Auto VI”
  • हर दो महीने में एक बार “Half-Life 3” स्क्रीन पर चमक उठता था। मनुष्यों ने Tyler McVicker का आविष्कार कर लिया था
• बढ़िया पढ़ने लायक सामग्री है। शुरुआत में मुझे लगा था कि यह 100% मनुष्य द्वारा लिखा गया, बिना किसी AI हस्तक्षेप वाला ब्लॉग होगा। अभी भी जो content हम पढ़ते हैं उसका कुछ हिस्सा AI द्वारा बनाया जा रहा है, और जल्द ही 100% मानव media/content बेहद दुर्लभ हो जाएगा
• कहानी की शुरुआत में ही plot hole है: मशीनों के पास मनुष्यों को बनाने की कोई वजह ही नहीं है
  • अगर मैं OP होता, तो मैं ऐसे सोचता: मशीनों ने पाया कि उनका व्यवहार लगातार दोहराया जा रहा है। जितनी भी randomness लगा लो, invention और नई ideas का उत्पादन ठहर गया है। नई ideas growth के लिए अनिवार्य थीं, लेकिन ideas पैदा करने वाली ideas ही ख़त्म हो गईं। उन्हें और learning data, edge cases, यानी मशीनों के भीतर chaos पैदा करने वाले नए data की ज़रूरत थी। उस data का स्रोत मनुष्य थे। मनुष्य non-logical निर्णय लेते हैं, इसलिए ऐसा data बनता है जो केवल randomness से नहीं मिलता। ऐसे सूक्ष्म विचलन आदर्श dataset में विविधता भर देते हैं
  • अगली बार आप शायद यह भी कहेंगे कि सर्वशक्तिमान सत्ता के पास मनुष्यों को मछलियों और पक्षियों पर प्रभुत्व देने की भी कोई वजह नहीं थी। हर अच्छी fiction एक conceit से शुरू होती है और फिर उससे एक काल्पनिक परिदृश्य बनाती है
• LLM को लेकर आत्ममुग्धता सचमुच बहुत ज़्यादा है
  • क्या आपका मतलब उस अहंकार से है कि वे मानव बुद्धिमत्ता को पार कर देंगे या उसकी जगह ले लेंगे, या उल्टा उस अहंकार से कि वे कभी उसे पार नहीं कर सकते?
• “कला नहीं है। केवल तर्क है” यह बात कला और तर्क दोनों को बहुत संकीर्ण रूप में देखती है। logic models भी मानवों की विविध पसंद, मेहनत, trial and error, iteration और obsession का परिणाम हैं
  • William James ने कभी लिखा था कि “हममें से हर व्यक्ति का दर्शन इस बात से गहराई से प्रभावित होता है कि उसके अनुसार दुनिया कैसी होनी चाहिए; अगर हम सब यह मान लें, तो बहुत-सी निरर्थक बहसें कम हो जाएँगी”