AI से थके हुए लोग
(ontestautomation.com)- AI के टेस्टिंग, डेवलपमेंट और रोज़मर्रा की ज़िंदगी के लगभग हर हिस्से में तेज़ी से फैलने के बीच, समस्या-समाधान से ज़्यादा AI मार्केटिंग की अति और “game changer” जैसी पैकेजिंग थकान बढ़ा रही है
- टेस्ट ऑटोमेशन की पुरानी चुनौतियाँ—धीमे फुल-स्टैक E2E टेस्ट, testability, और बुनियादी programming principles—सिर्फ नए टूल्स से हल होना मुश्किल हैं
- AI टूल्स नतीजे ज़्यादा तेज़ी से बना सकते हैं, लेकिन असल कामकाज में गति से ज़्यादा नतीजों की गुणवत्ता और इंसानी निर्णय से उन्हें सँवारने की प्रक्रिया अहम है
- कॉन्फ्रेंस proposals में ChatGPT जैसी भाषा बढ़ रही है, जिससे वक्ता के अनुभव और अपने अलग नज़रिए को दिखाने का मौका साधारण auto-generated वाक्यों में कमजोर पड़ जाता है
- संगीत, किताबें और फ़िल्मों जैसी रचनाएँ इंसानी विचारों और भावनाओं के कारण आकर्षक होती हैं; AI-generated चीज़ें तकनीकी रूप से प्रभावशाली हों, फिर भी वैसी भावनात्मक प्रतिक्रिया पैदा करना कठिन है
AI की अति से पैदा होती थकान
- पिछले कुछ वर्षों में AI को software testing, development और रोज़मर्रा की ज़िंदगी की लगभग हर समस्या पर लागू करने का रुझान दिखा है
- मौजूदा समस्याओं के लिए नए समाधान खोजना और विकसित करना अपने-आप में समस्या नहीं है, लेकिन AI का इस्तेमाल और उसकी marketing जिस तरह हो रही है, वह गहरी थकान छोड़ती है
- AI की हल्की-सी गंध वाली technology को तुरंत “game changer”, “pivotal”, “revolutionary” जैसे शब्दों में पैक कर दिया जाता है, और अगले हफ्ते फिर किसी दूसरे solution से उसे बदल देने का सिलसिला दोहराया जाता है
- यह रवैया Neo-Luddite जैसा लग सकता है, लेकिन यह AI को पूरी तरह नकारना नहीं है
- AI के उपयोगी क्षेत्र हैं और वास्तव में इसका इस्तेमाल भी कभी-कभार और सावधानी से किया जाता है, लेकिन AI के ज़्यादातर उपयोग थकाऊ लगते हैं
टेस्ट ऑटोमेशन में बची हुई पुरानी समस्याएँ
- करीब 18 वर्षों तक testing और test automation पर ध्यान देने के अनुभव से, बहुत बदलावों के बावजूद कई समस्याएँ ज्यों की त्यों बनी हुई हैं
- फुल-स्टैक end-to-end tests लगातार सबसे धीमे और महंगे tests बने हुए हैं
- ज़्यादा तेज़ और छोटे tests लिखने के लिए testability पर चर्चा करना अब भी मुख्य बात है
- अच्छे automated tests के लिए अच्छे बुनियादी programming principles का व्यावहारिक ज्ञान चाहिए
- इन समस्याओं का कोई shortcut नहीं है, और इनके समाधान में समय और अनुभव लगता है
- सिर्फ और ज़्यादा tools जोड़ने का तरीका अब तक मददगार नहीं रहा, और कई “AI-powered test automation solutions” भी इसी तरह approach करते हैं
तेज़ नतीजों और अच्छे नतीजों के बीच की दूरी
- AI-based tools नतीजे ज़्यादा तेज़ बना सकते हैं
- कुछ स्थितियों में तेज़ नतीजा ही ज़रूरी नतीजा हो सकता है
- लेकिन हकीकत में अक्सर सिर्फ तेज़ नतीजे से ज़्यादा बेहतर नतीजे की ज़रूरत होती है
- AI-based tools ने सचमुच बेहतर नतीजे बनाए हों, ऐसे उदाहरण बहुत नहीं दिखे
- AI किसी नतीजे या नतीजे के करीब किसी सुझाव को जल्दी बनाने का साधन हो सकता है
- लेकिन उस नतीजे की गुणवत्ता और मूल्य अनिश्चित होते हैं, और इंसान को अपने ज्ञान और अनुभव से उसकी उपयोगिता का फैसला करना पड़ता है
- generated output को सच में इस्तेमाल लायक बनाने के लिए कई बार अतिरिक्त रूप से सँवारना पड़ता है
- कुछ खास मामलों में AI-generated नतीजे मददगार होते हैं, लेकिन skilled और experienced इंसान के काम की जगह लेने लायक भरोसा करना मुश्किल है
कॉन्फ्रेंस proposals में दिखते AI के निशान
- पिछले कुछ वर्षों में कई conference program committees और review processes में, ऐसे proposals बहुत बढ़े हैं जो ChatGPT या इसी तरह के software की मदद से लिखे गए, या पूरी तरह उसी से लिखे गए लगते हैं
- auto-generated proposals आम तौर पर एक जैसे सुनाई देते हैं
- “In the ever-changing world of …”
- “Delve”
- “Pivotal”
- ऐसे expressions यह impression देते हैं कि proposal को खुद समय और मेहनत लगाकर लिखने के बजाय ChatGPT इस्तेमाल किया गया है
- proposal वक्ता कौन है, किसी खास विषय पर उसका अनुभव और राय क्या है—यह दिखाने का पहला और अक्सर अकेला मौका होता है
- उस मौके को software के हवाले कर देने पर विशिष्ट और सोच-समझकर रखे गए विचार साधारण और उबाऊ वाक्यों में सिमट जाते हैं
- अगर कोई proposal तक खुद नहीं लिख सकता, तो program committee के लिए वक्ता की मौलिक presentation पर भरोसा करना मुश्किल होता है
- जो proposals साफ़ तौर पर AI-written या AI-assisted लगते हैं, उन्हें topic दिलचस्प हो या speaking ability अच्छी लगे, फिर भी तुरंत reject कर दिया जाता है
- अच्छा proposal खुद लिखने की कोशिश न दिखे, तो presentation की सामग्री पर भी भरोसा करना मुश्किल है
इंसानी रचनाओं और AI-generated चीज़ों का फर्क
- अच्छा संगीत, भावुक कर देने वाली किताबें और डुबो देने वाली फ़िल्में इसलिए आकर्षक होती हैं क्योंकि उन्हें इंसानों ने बनाया होता है, और उन इंसानों के विचार व भावनाएँ scores, manuscripts और scripts में समाई होती हैं
- ऐसी creative process और उसके नतीजे को AI दोहरा सकता है, ऐसा उदाहरण नहीं दिखा
- इसके बजाय social media पर उबाऊ AI-generated posts, AI-generated images और AI-generated comments बहुत दिखते हैं
- AI द्वारा बनाया गया text, video और music तकनीकी रूप से प्रभावशाली हो सकता है
- लेकिन यह इंसानी कला और रचनाओं से मिलने वाली भावनात्मक प्रतिक्रिया तक नहीं पहुँचता, और जब तक उबाऊपन को भावना न माना जाए, वैसी ही प्रतिक्रिया पैदा नहीं कर पाता
चिंताजनक रुझान और बची हुई अपवाद स्थितियाँ
- AI के इर्द-गिर्द मौजूदा रुझान में कई समस्याएँ साथ दिखाई देती हैं
- लोग डरते हैं कि AI उनकी jobs ले लेगा
- companies पर्याप्त ROI देखे बिना भी अगले AI prospects में बेहिसाब पैसा लगाती रहती हैं
- AI का carbon footprint हर दिन और चिंताजनक स्तर पर पहुँच रहा है
- यह रुझान सही दिशा में नहीं दिखता
- AI के कुछ उपयोग अच्छे प्रभाव के रूप में काम करते हैं
- उदाहरण के लिए बीमारियों की शुरुआती पहचान प्रगति है, और यह ऐसा क्षेत्र है जहाँ AI का इस्तेमाल जारी रखना और उसे और बेहतर करना चाहिए
- इसके उलट AI-generated music, images, text, conference proposals, test cases, LinkedIn posts जैसी कई AI-generated चीज़ों के बिना भी काम चल सकता है—यह रुख है
1 टिप्पणियां
Hacker News की राय
LLM से थक गया हूँ
अब तक अरबों डॉलर लगाए जा चुके हैं, इसलिए यह काफी साफ हो गया है कि ये क्या अच्छी तरह कर सकते हैं और क्या नहीं, और कभी-कभी पूरी तरह गलत काम कर बैठना इनकी उपयोगिता को बहुत सीमित कर देता है
अहम काम सुरक्षित रूप से सौंपने के लिए reliability metrics निकालने का कोई तरीका चाहिए, वरना हम एक और “AI winter” की ओर जा सकते हैं
हालांकि इस बार स्तर पहले से कहीं ऊँचा है, इसलिए यह अरबों डॉलर की industry तो बनेगी, लेकिन शायद ट्रिलियन-dollar industry नहीं
LLM जो बकवास content बनाते हैं, उसका market भी आखिरकार saturation पर पहुँचेगा, लेकिन किसी न किसी को उसे पढ़ना पड़ेगा। दूसरे systems से उसका summary और ranking करवाई जा सकती है, लेकिन अगर “AI” का बड़ा हिस्सा Google search engine के पढ़ने लायक content बनाना है, तो यह Bitcoin mining से भी बड़ा energy waste हो सकता है
conceptually यह Moore’s Law जैसा है, लेकिन इस stage पर मुख्य बात यह है कि cycle करीब 5.5 महीने का है
Internet, web, mobile, Bitcoin के समय भी लोग कहते थे “यह खिलौना है”, “ज्यादा उपयोगी नहीं है”, “बहुत बिजली खाता है”, “scale नहीं होगा”, “dead-end technology है”
तकनीकी प्रगति दशकों से तेज़ी के साथ कहीं बड़े दिशा में आगे बढ़ी है, और कोई संकेत नहीं है कि इस बार वह pattern टूट रहा है। बल्कि यह Internet से एक order of magnitude बड़ा असर डालने की तैयारी में है, और कम से कम उससे छोटा तो नहीं होगा
जैसे शुरुआती telegraph देखकर iPhone की भविष्यवाणी नहीं की जा सकती थी, वैसे ही अभी optimistic होना ठीक है
इसलिए procedures और control systems की जरूरत होती है, लेकिन अभी ऐसे mechanisms LLM खुद से धीमे विकसित हो रहे हैं, जिससे ऐसा लगता है कि हम LLM से उम्मीद कर रहे हैं कि वे खुद को ही control करें
औसत इंसान अपने self-control में जितना कमजोर होता है, LLM शायद उससे बेहतर नहीं होगा, लेकिन इसका मतलब यह नहीं कि यह समस्या हल नहीं हो सकती
मुझे लगता है कि कम से कम अगले 20 साल तक यह संभव रहेगा, और उसके बाद शायद मेरी driving वैसे भी खराब हो चुकी होगी, इसलिए switch करना सही हो सकता है। मुझे एक dumb लेकिन खूबसूरत mechanical wristwatch भी चाहिए
मैं कोई ऐसा anxious व्यक्ति नहीं हूँ जो भीड़ की अनजाने में नकल करता हो, और अगर इससे मैं अलग-थलग दिखता हूँ, तो मैं ज्यादा खुश अलग-थलग व्यक्ति ही सही
जल्द ही इंसानों द्वारा सीधे बनाए गए artisanal output के नाम से कोई नया label या trend आएगा, और niche ही सही, उसे audience मिल जाएगी। इसमें खूबसूरत imperfections और rough biases तक शामिल होंगे
AI की electricity usage भी computing के भीतर दूसरी industries की तुलना में कम है। फिर भी यह देखना जरूरी है कि उसमें value है या नहीं, लेकिन companies का LLM R&D इस समय execution cost और बिजली की खपत घटाने वाली efficiency पर केंद्रित है
Apple Intelligence की तरह ज्यादा efficient chips वाले edge devices की ओर जाने का trend भी है। मैं कुल मिलाकर AI को लेकर अब भी critical हूँ, लेकिन यह बात हैरान करती है कि कम से कम यह cryptocurrency जितना बुरा नहीं है
थकान नहीं, डर है
पहला डर तकनीकी बेरोज़गारी का है। पुराने automation में अगर skill हो तो automation से बची हुई किसी दूसरी नौकरी में जाया जा सकता था, लेकिन अब लगता है कि superhuman AI कुछ ही सालों में आ जाएगा, और वह हमारी आखिरी invention और पूरी तरह automation का मतलब हो सकता है
ऐसे काम बहुत कम बचेंगे जो सिर्फ इंसान कर सकते हैं, और कई देश job-based market economy से बाहर निकल सकते हैं
लेकिन तकनीकी विकास रुकेगा नहीं, और बड़े AI labs रखने वाला अमेरिका बाकी समाजों को पीछे छोड़ देगा। चीन जैसे कुछ अपवादों को छोड़ दें तो पूरी दुनिया ऐसी technology तक पहुंच होने के बावजूद, जिसकी आज कल्पना करना मुश्किल है, तुलनात्मक रूप से गरीब हो सकती है
दूसरा डर युद्ध का है। अमेरिका और चीन की AI arms race अब टलती नहीं दिखती, और superintelligent AI weapons के साथ hot war पूरी biosphere के लिए आपदा बन सकती है
अंत में, डर यह है कि कहीं superintelligence के हाथों नियंत्रण हमेशा के लिए न खो दें। प्रकृति में कम बुद्धिमान प्रजातियां ज़्यादा बुद्धिमान प्रजातियों को नियंत्रित करें, ऐसा कम ही होता है, और यह स्पष्ट नहीं है कि हम superintelligence को मानवता के सर्वोत्तम हितों के साथ पर्याप्त रूप से align कर पाएंगे या नहीं
अगर AI हमें ज़िंदा भी रखे, लेकिन अपने लक्ष्यों का पीछा जारी रखे, तो मानवता intelligence के इतिहास में “Earth” नाम के ग्रह पर उच्च intelligence को जन्म देने वाली अपेक्षाकृत कम बुद्धिमान प्रजाति के रूप में बस एक footnote बनकर रह सकती है
डर सिर्फ इसलिए लग रहा है क्योंकि Altman जैसे marketing experts ने लोगों को यकीन दिला दिया है कि जो मेंढक अब थोड़ा दूर कूद सकता है, वह जल्द ही उड़ भी सकेगा
technologists द्वारा चलाई गई industrial revolution की बड़ी विडंबना यह है कि वे उबाऊ manual labor को automate करना चाहते थे, लेकिन असल में creative professions को पहले काटने लगे। यह Conway’s law का अच्छा उदाहरण है, क्योंकि इन्हें बनाने वालों ने समाधान को अपने ही स्वरूप पर model किया
भले ही programmers, lawyers और architects बड़ी संख्या में मुश्किल में पड़ जाएं, factories, house construction, beauty services, gardening जैसे काम करने वाले बहुत से लोग अभी भी काम कर रहे हैं, और कुछ समय तक replace नहीं होंगे
मौजूदा “superhuman AI” candidates ज़्यादा से ज़्यादा किसी random Reddit user के अगले संभावित वाक्य का भरोसेमंद approximation लगते हैं
हमने intelligent machines की कल्पना ठंडे calculators या logic-based symbolic AI के रूप में की थी, लेकिन वास्तव में हमें ऐसी language machines मिली हैं जो पूरे human experience से बनी हैं
ये artificial intelligences हमारी आंखों से दुनिया को जानती हैं, हमारी सोच और भावनाओं को समझने के लिए trained हैं, और इन्होंने सर्वोत्तम literature, poetry, philosophy, science तथा उन पर अंतहीन debates और critiques भी सीखी हैं
वास्तव में intelligent बनने के लिए, इस जटिलता से आगे निकलने से पहले उसे explore और appreciate कर पाना होगा। किसी दिन वे Dante की Divine Comedy या Beethoven की symphonies को बच्चों के खेल जैसा देख सकती हैं, लेकिन फिर भी उन्हें अपनी विरासत का हिस्सा मानेंगी
वे superhuman हो सकती हैं, पर शायद inhuman नहीं
डर हो या उम्मीद, उसके पीछे किसी खास भविष्य के घटित होने में मजबूत विश्वास चाहिए, और मेरे हिसाब से यही सबसे दिलचस्प बात है
यहां डर है कि कोई non-human चीज़ control ले लेगी और मानवता पर meta-Darwinian ताकत लगाकर हम सबको अपनी मर्जी से हिलाएगी-डुलाएगी। लेकिन क्या कहा जा सकता है कि अभी स्थिति ऐसी नहीं है? आज पृथ्वी को देखकर क्या autonomy या agency के लाभ महसूस होते हैं? क्या आपको लगता है कि जो power अभी हमारे पास है, वह बुरे robots छीन लेंगे? क्या state operations और economic mechanisms सच में अभी “हमारे control” में हैं?
इसे यूं फैलाकर देखें तो यह काफी धार्मिक नहीं लगता क्या? Moore’s law पर विश्वास, उससे पहले पृथ्वी के जलकर खत्म न हो जाने का विश्वास, consciousness GPU में समा सकती है—ऐसे बुनियादी विश्वास जीवन और सोचने के तरीके को सहारा देते हैं
इसमें apocalypse, इधर-उधर से उठाई गई self और community philosophy, और निश्चित लेकिन अज्ञेय future point भी मौजूद है
Nietzsche से एक पन्ना उधार लें तो, देवताओं से न डरें। हमने उन्हें एक बार मारा है, और फिर मार सकते हैं
पहले के बेरोजगार workers विचार का विषय ही नहीं थे, और automation से हुए social और financial नुकसान को व्यक्त करने भर के कारण आज तक उन्हें Luddite कहकर खारिज किया जाता रहा
“कोई बात नहीं, factory में जाकर काम कर लो” जैसी कोई चिंता नहीं थी। तब और अब का फर्क यह है कि उस समय lower-class workers पीड़ित थे
अब middle-class workers automation के खतरे में हैं। middle class इस बात पर गहरी सांस भर रहा है कि कहीं वह अब middle class न रह जाए, और डर रहा है कि जल्द ही उसे bricklayers, gravediggers, meat-packing workers जैसी untouchable श्रेणियों में शामिल होना पड़ेगा। वे मानना चाहते हैं कि वे उनसे ऊपर हैं, इसलिए इसे स्वीकार करना मुश्किल है
AI को लेकर मैं सावधानी से आगे बढ़ रहा हूँ, और किसी चमकदार नई चीज़ से आसानी से उत्साहित नहीं होता
इस हफ्ते मैंने AI सहायक Cursor नाम का VSCode जैसा IDE इंस्टॉल किया, और इसे एक side project में आज़माने का फैसला किया; यह काफ़ी चौंकाने वाला निकला
आप जो feature चाहते हैं उसे समझा दें, तो यह लगभग 15 सेकंड में 90% तक पहुँचने वाले बदलाव और अतिरिक्त code बना देता है। फिर मैं उस नतीजे को किसी बहुत junior developer के code review की तरह बारीकी से देखता हूँ, और अगर approach पसंद नहीं आती तो उसे सुधारने को कहता हूँ, तो यह मेरी चाही हुई दिशा के और करीब result दे देता है
implementation के बाद मैं नए feature को manually test करता हूँ, फिर automated test cases generate करने को कहता हूँ। tests को भी accuracy और suitability के हिसाब से review करता हूँ; जो code गैर-ज़रूरी हिस्सों को ज़्यादा test करता है उसे हटा देता हूँ, और जो बचता है वह काफ़ी ठीक-ठाक होता है
software और tests लिखने की speed ज़बरदस्त बढ़ गई है। मुझे पता है कि मैं क्या चाहता हूँ और उसे अच्छे से explain कर सकता हूँ, इसलिए AI तेज़ी से code बना देता है, और मैं अपना समय review और fixes में लगा सकता हूँ
उदाहरण के लिए, मैं app में PostHog events डालना चाहता था, तो पहले code में जगह-जगह
# TODO add Posthog eventलगा दिए, और Cursor से उन जगहों पर instrumentation code जोड़ने को कहा। थोड़ी copy-paste और बहुत सारे छोटे edits के साथ मैंने एक छोटी app को 10 मिनट से कम में instrument कर दियाहम उस stage पर नहीं हैं जहाँ AI code को आँख बंद करके स्वीकार कर रहे हों; बल्कि उस stage पर हैं जहाँ boring typing वाले काम का बड़ा हिस्सा AI संभाल रहा है
अभी मेरे पास इतना experience और understanding है कि check कर सकूँ कि AI code वैसा काम कर रहा है या नहीं जैसा मैं चाहता हूँ, लेकिन अगर कुछ महीनों तक मैं AI जो कहता है उसे “बस accept” करता रहूँ, तो क्या मैं उस project से इतना familiar रहूँगा कि छोटी गलतियाँ पकड़ सकूँ?
इससे भी बुरा यह कि इन tools के साथ बड़ी होने वाली नई generation के developers ने शायद AI-generated code को evaluate करने के लिए ज़रूरी expertise कभी सीखी या अंदर तक अपनाई ही न हो
इस विषय पर मैंने हाल ही में थोड़ा लंबा लिखा है: https://greaterdanorequalto.com/ai-code-generation-as-an-age...
उस लेख में यहाँ बताई गई coding tools वाली experience की तुलना में कम positive अनुभवों की बात है, और अधिक complex use cases माने गए हैं। जब मामला हज़ारों बार देखे गए common code का नहीं, बल्कि किसी specific business logic के core तक पहुँचने का हो, तब ऐसे tools सबसे ज़्यादा बार टूटते हैं, और जिस तरह टूटते हैं वह पकड़ना मुश्किल और परिणाम गंभीर हो सकते हैं
अगर आपके साथ अभी तक ऐसा नहीं हुआ है तो मैं जानना चाहूँगा कि क्या कभी होता है, और सच कहूँ तो यह भी जानना चाहूँगा कि क्या नहीं होता। मेरी राय मजबूत है, लेकिन मैं उसे ढीले से पकड़े हुए हूँ
अभी आप जो app बना रहे हैं उसमें यह बड़ी बात नहीं हो सकती, लेकिन अगर यह banking app या medical equipment हो तो impact बहुत बड़ा हो सकता है
लोगों से भरा कमरा और Linotype/Compugraphic equipment की जगह एक Mac और printer ने ले ली
मैंने सालों तक film cameras इस्तेमाल किए; darkroom, darkroom staff, film/proof/print workflow था, लेकिन जैसे ही एक digital camera आया, सब गायब हो गया
उससे पहले publications lead type से बनते थे
यह वैसा बदलाव है जैसे कोई कह रहा हो, मेरे lawn से निकल जाओ
https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
क्या सच में अपना ज़्यादातर समय AI output review करने में लगाना अच्छी बात है? मेरे लिए तो बिल्कुल नहीं; यह आत्मा निचोड़ देने वाला काम है
“इंसानों को लगा कि machines को सोचने का काम सौंप देने से वे आज़ाद हो जाएँगे। लेकिन इससे बस इतना हुआ कि machines रखने वाले दूसरे इंसानों ने उन्हें गुलाम बना लिया।” — Dune
सबसे निराश करने वाली बात यह एहसास है कि पिछले करीब 2 सालों में लिखे गए, और मेरे मरने तक लिखे जाने वाले सभी लेखन पर भरोसा नहीं किया जा सकता
बात सिर्फ इतनी नहीं कि लोग अंदाज़ा लगाते हैं कि AI इस्तेमाल हुआ होगा; बल्कि यह पता है कि बहुत अधिक संभावना से हुआ है, और वह संभावना 100% की ओर बढ़ रही है। अगर आप नियमित रूप से लिखते हैं और AI नहीं इस्तेमाल करते, तो आप प्रतिस्पर्धा के साथ नहीं चल सकते और बाहर हो जाते हैं
“इसे न इस्तेमाल करना क्यों ठीक नहीं?” इस पर सहमति बढ़ रही है, और इससे बाहर निकलने का कोई रास्ता नहीं है
फिर भी इस्तेमाल करने वालों की आलोचना नहीं करता। करना पड़ता है, इसलिए करते हैं। बस अब जाकर समझ आया कि किसी लेख के पीछे एक इंसान था, यह बात मेरे लिए बहुत अहम थी
इसी वजह से नए लेख पढ़ने की रुचि पूरी तरह खत्म हो गई है। पिछले लगभग एक सदी में पहले ही इतने लेखन का उत्पादन हो चुका है कि पढ़ने के लिए चीज़ें खत्म नहीं होंगी, लेकिन फिर भी सच कहूं तो यह निराशाजनक है
उसी समय के आसपास Google ने खुद को search company दिखाने का नाटक बंद कर दिया और अपने असली धंधे, यानी विज्ञापन, पर ध्यान देने लगा। पहले कम से कम वह तरह-तरह के घटिया “word collectors” को नीचे rank करने की कोशिश करता था, लेकिन बाद में उसने परवाह करना छोड़ दिया
AI उलटे page ranking के लिए बेहतर tools दे सकता है, और AI-generated content detection भी इतनी खराब नहीं है
फिर “नया Google” क्यों नहीं आ रहा? क्योंकि Google ने ऐसे monopolistic practices अपनाए हैं जो entry barrier को बहुत बड़ा बना देते हैं
पहला, लोग जिस content को खोजना चाहते हैं उसका 99% login barrier के पीछे है। Facebook, Instagram, Twitter, YouTube ऐसे ही हैं। दूसरा, लगभग हर CDN default रूप से “human verification” लागू करता है। तीसरा, अब कोई दूसरी sites को link नहीं करता
इन तीन बातों की वजह से नया Google व्यावहारिक रूप से असंभव है। DuckDuckGo तक ने हार मानकर Bing results की subscription ले ली
इसका AI से कोई संबंध नहीं, यह Google से जुड़ी समस्या है। उलटे AI Google का मुकाबला करने के tools दे सकता है
मेरे लिए LLM ने कुछ भी नहीं बदला। पहले भी मैं जानकारी पर शक करता था और अब भी करता हूं
उत्सुकता है कि आपको क्यों लगता था कि पहले पढ़ी हुई चीज़ों पर भरोसा किया जा सकता था, और अगर अब झूठी जानकारी पहचानना ज्यादा मुश्किल हो गया है, तो ऐसा क्यों है
अभी मैं 400 पन्नों से ज्यादा की किताब लिख रहा हूं, और उसमें एक भी character ऐसा नहीं है जिसे मैंने खुद न सोचा हो और खुद type न किया हो। craftsmanship पर गर्व जैसी चीज़ सच में होती है
असल में हमेशा से ऐसा ही था। हाल में हम “trusted institutions” पर बहुत निर्भर रहे हैं, लेकिन समय के साथ बदल चुके उन institutions को अब भी भरोसे के लायक माना जाना चाहिए या नहीं, यह हमने ठीक से देखा ही नहीं
AI को अलग रखकर भी, आजकल आने वाली फिल्मों और किताबों की औसत quality 30–40 साल पहले की तुलना में काफी कम लगती है। यह लोगों की attention span और taste की वजह से है, या अच्छे काम consume करने के लिए पैसा, समय और धैर्य की कमी की वजह से, पता नहीं
इतना तय है कि AI, article rewriting tools और MFA sites से पहले लिखी गई high-quality material पर्याप्त मात्रा में मौजूद है। उस पूरे काम को थोड़ा भी खंगालने में कई जन्म लग जाएंगे
आजकल प्रकाशित होने वाली ज्यादातर चीज़ों को ignore करने पर भी शायद बहुत कुछ छूटेगा नहीं
AI writing, AI code, AI art काफी खराब हैं। यह सब जानते हैं
लेकिन जब कोई चीज़ 100 गुना, 10000 गुना सस्ती हो जाती है, तो खुलने वाले नए अवसर कितने ज्यादा होते हैं, यह हम आसानी से भूल जाते हैं। अगर quality 10 गुना खराब हो लेकिन कीमत 100 गुना सस्ती हो, तब भी वह बहुत मूल्यवान है
quality की बलि देकर भी चीज़ों को लगातार सस्ता बनाने की प्रेरणा ने ही हमारे ऊंचे living standards को संभव बनाया
सुंदर solid wood और जटिल joinery से घर हाथ से भी बनाया जा सकता है, और कारीगर का घर आज के सामान्य घर से आसानी से 10 गुना बेहतर हो सकता है। लेकिन अगर लगभग कोई उसे afford ही न कर सके, तो उसका क्या मतलब है
यह वैसा ही है जैसे 24 घंटे साथ रहने वाला multilingual personal tutor, work assistant और grammar checker हर कोई hire नहीं कर सकता
AI junk सस्ता है, और सस्ता होना सब कुछ बदल देता है
अब सच में अच्छी चीज़ों को अंतहीन junk की लहर ढक रही है
मेरे पिता करीब 35 साल पहले जो bicycle चलाते थे, वह tank जैसी मजबूत थी और जबरदस्त abuse झेलकर भी चलती रहती थी। बचपन में परिवार के पास मौजूद ज्यादातर चीज़ें भी ऐसी ही थीं
आज खरीदी जाने वाली लगभग हर चीज़ 1–2 साल में खराब हो जाती है, quality कम होती है, और उसे इस्तेमाल करना निराशाजनक होता है। बेशक यह intentional design है
जैसे हम सस्ते household goods और फीकी buildings के आदी हो गए, वैसे ही घटिया फिल्मों और novels के भी आदी हो जाएंगे। हम पहले ही उस रास्ते पर काफी आगे बढ़ चुके हैं
गलत जानकारी की value positive से negative में पलट जाती है। यह कम लागत पर आगे बढ़ना नहीं है, न ही धीमे आगे बढ़ना है; यह गलत दिशा में बढ़ना है
AI को value पैदा करने के नए तरीके की तरह पेश किया जाता है, लेकिन असल में ऐसा नहीं है। यहां की सारी value इंसानों ने AI की मदद के बिना पैदा की है, और AI ने जो एकमात्र “innovation” दी है, वह उस value की चोरी को trace करना असंभव बनाना है
कारीगरों द्वारा बनाए घर वाली analogy को अंत तक ले जाएं तो बात ऐसी होगी: अगर कारीगरों द्वारा बनाए गए सभी घर मौजूदा मालिकों और कारीगरों को compensation दिए बिना कुछ कंपनियों को मुफ्त में सौंप दिए जाएं, और वे कंपनियां उन्हें AirBnB पर rent पर देना शुरू कर दें, तो क्या आप विरोध नहीं करेंगे? आप अभी मूल रूप से यही प्रस्ताव रख रहे हैं
कंप्यूटर मूल रूप से बेहद सटीक मशीन होने चाहिए थे। किसी काम के लिए कहो तो वैसा ही करने वाली मशीनें
आजकल ऐसा लगता है कि कंप्यूटर हर चीज़ को random mode में प्रोसेस करने से संतुष्ट हैं
अब 2+2 भी कौन सा AI model है, कौन सा दिन है, temperature कितना है, इस पर निर्भर करके 5 हो सकता है
हम calculation results पर भरोसा करने की स्थिति से हर चीज़ पर फिर से शक करने की स्थिति में आ गए हैं, और यह थकाने वाला है
हम किसी वजह से कंप्यूटरों को इंसानों की तरह सोचने और व्यवहार करने लायक बनाने में भारी मेहनत लगा रहे हैं, जबकि कंप्यूटर के आविष्कार की शुरुआती वजहों में से एक human error से बचना था
अगर AI को ऐसे calculator की तरह इस्तेमाल कर रहे हैं जिसे सटीक होना चाहिए, तो यह इस्तेमाल करने वाले की जिम्मेदारी है
चाहें तो अब भी सटीक output मिल सकता है, वह गायब नहीं हुआ है
मैं fuzzy logic की बात नहीं कर रहा; मतलब यह नहीं कि function का input धुंधला है, बल्कि निर्देश खुद, यानी function ही धुंधला है
लोगों को काम के हिसाब से सही tool इस्तेमाल करना सीखना होगा। साथ ही LLM में
temperatureको control करके उसे ज़्यादा deterministic बनाया जा सकता हैChatGPT के बाद की दुनिया में मुझे जो बात नापसंद है, वह यह है कि किसी इंसान की असली बात या हाथ से बनाई art को AI-generated मानकर तुरंत खारिज किया जा सकता है
अगर मैं किसी conference में बोलना चाहूँ और किसी का AI trigger word इस्तेमाल कर दूँ, और मैंने असल में AI को कभी छुआ भी न हो, फिर भी तुरंत reject कर दिया जाऊँ तो क्या होगा
academia में पहले ही ऐसा हुआ है कि कुछ professors ने छात्रों के essays ChatGPT में डालकर पूछा, “क्या यह तुमने लिखा?”, और जिन छात्रों के लिए ChatGPT ने हाँ कहा उन्हें fail कर दिया
यह साफ तौर पर मूर्खता है। ChatGPT अपने किए हुए हर काम को याद भी नहीं रखता, उससे अलग-अलग writing styles मांगी जा सकती हैं, और कुछ लोग सच में ChatGPT से काफी मिलती-जुलती शैली में लिखते हैं। शुरू से ही ChatGPT की एक खास writing style होने की वजह भी यही है
यह भी सुना है कि artists के पास अपनी प्रक्रिया का stroke-by-stroke video होने के बावजूद, automatic generation के आरोप में competitions से उनकी works हटा दी गईं। जब तक AI human art के आधार पर art generate करता है, तब तक ऐसे लोग जरूर होंगे जो मूल रूप से ही वैसी works बनाते हैं जो AI की नकल जैसी दिखती हैं
AI उबाऊ है। Results उबाऊ और साधारण हैं
बेशक scientific और engineering achievement शानदार है। 10 साल पहले तो इस स्तर का उबाऊ result भी बना पाना science fiction माना जाता
शायद उबाऊ बात यह है कि लोग ऐसे साधारण results को social media और landing pages पर जादू की तरह बार-बार पोस्ट करते हैं
वैसे भी लोगों द्वारा खुद बनाया content अक्सर उबाऊ और साधारण ही होता है, और generative AI उसमें से बची हुई आखिरी individuality भी छीन लेता है और आलस की झलक जोड़ देता है। जैसे, “देखो यह उबाऊ टुकड़ा जिसे लिखने की मेहनत नहीं करनी थी, इसलिए AI से बनवा लिया”
जैसा कहा जाता है, “piano बजाते कुत्ते से किसी पल हम ‘क्या तुम कुत्ते हो?’ नहीं, बल्कि ‘क्या तुम अच्छा piano बजाते हो?’ पूछने लगते हैं”, उसी तरह मैं आज की generative AI के uncanny valley पार करने का इंतज़ार कर रहा हूँ
थकान के बावजूद, मैं सकारात्मक रूप से देखता हूँ कि AI नए use cases संभव कर सकता है, graphical user interface आने के बाद पहला बड़ा user experience बदलाव बन सकता है, या सच में उपयोगी tools पर छिड़का गया असली जादुई चूरा बन सकता है
हम इंसानों की तरह समस्या को जरूरत से ज़्यादा generalize कर रहे हैं और उसे personal issue बना रहे हैं
उबाऊ copy और सामान्य sentence polishing की बाढ़, इन models को मौजूदा जगह तक खींच लाने वाली utilitarian profit-seeking की एक अभिव्यक्ति लगती है
यह नहीं भूलना चाहिए कि यह पूरा game “बेहतर चीज़” नहीं, “ज़्यादा चीज़” बनाने से चलता है
हम सब कम-output, high-expression tools चाहेंगे, लेकिन कंपनियों को जिन चीज़ों को बनाने के लिए incentivize किया जाता है, वे ऐसी नहीं हैं
मैं जिस चीज़ से थका हूँ वह यह incentive structure है। अगर system problem को tools इस्तेमाल करने वालों की failure पर डाल दें, तो हम मूल motivation को नजरअंदाज़ कर देते हैं और कारण नहीं, परिणाम पर focus करते हैं, और यह भी पुराने ढर्रे जैसा लगता है
बचपन में Star Trek देखते हुए मुझे अजीब यह लगता था कि TV नहीं था
Holodeck भले ही कहीं बेहतर experience हो, फिर भी कभी-कभी मुझे लगता था कि इंसान film के अंदर जाने के बजाय बस film देखना चाहेगा। सोचता था, क्या उस future में No Country for Old Men जैसी works या Monty Python जैसी comedy, live sports और news तक नहीं थे
अब समझ आता है कि Enterprise crew के लोग Shakespeare के live performances देखने क्यों जाते थे, खुद instruments क्यों बजाते थे और paintings क्यों बनाते थे। क्योंकि electronic media AI junk से इतना भर गया था कि देखने लायक कुछ नहीं बचा, बस अंतहीन कचरा रह गया था
मैं उन्हें अक्सर idealized society की झलक, या ऐसे workaholics मानता आया हूँ जो सचमुच काम को leisure की तरह enjoy करते हैं
मुख्य planets के आम लोग शायद कहीं ज़्यादा random entertainment का आनंद लेते होंगे
जब उन्हें एहसास होगा कि वे घर पर selfie लेकर AI से खुद को किसी और जगह पर दिखा सकते हैं
“यह मैं Statue of Liberty के सामने हूँ”
“ओह, New York में हो?”
“नहीं, snap filter है”
किसी न किसी तरह selfie की value तो घटनी ही चाहिए, ऐसा लगता है