जनरेटिव AI का छल

• ChatGPT को लॉन्च हुए 2 साल से ज़्यादा हो चुके हैं, और large language model (LLM) एक क्रांतिकारी कॉन्सेप्ट से 21वीं सदी के सबसे बड़े छलावों में से एक बन गए हैं
• OpenAI के CEO Sam Altman ने इस बुलबुले को इसलिए फुलाया ताकि LLM को ऐसी अर्थव्यवस्था में बेचा जा सके जो श्रम का शोषण करना चाहती है या उसे बदलना चाहती है
• LLM के coding या search जैसे use case हैं, लेकिन सिर्फ़ इसलिए कि कुछ लोग LLM-आधारित software इस्तेमाल करते हैं, यह साबित नहीं होता कि generative AI टिकाऊ है या यह कई trillion dollar का वास्तविक उद्योग है
• इस तरह की बातचीत इतनी उबाऊ हो चुकी है कि अब दोबारा न कहना पड़े, इसलिए कुछ जवाब पहले से लिख रहा हूँ
• "Ed" से मतलब लेखक Edward Zitron ख़ुद हैं

“Ed, AI के कई तरह होते हैं”

• “मुझे यह पहले से पता है” मैं अभी “Generative AI” के बारे में बात कर रहा हूँ

“Ed, ChatGPT के 30 करोड़ users हैं. क्या इसका मतलब नहीं कि उद्योग साबित हो चुका है?”

• “ज़्यादा users होने से असली बाज़ार की टिकाऊपन की गारंटी नहीं मिलती” हर तरह की media coverage ने ChatGPT को हद से ज़्यादा उछाला है, और इसमें ऐसे सवाल हैं जो वास्तविक आँकड़ों से टकराते हैं
• “30 लाख हों या 30 करोड़, सिर्फ़ यह संख्या अपने आप में कुछ साबित नहीं करती” 30 करोड़ users तो बस तब हो सकते हैं जब सबसे ज़्यादा चर्चित product मुफ़्त में खुला हो
• “अगर monthly users के मुकाबले paid conversion rate जैसे ठोस metrics देखें, तो business viability कमज़ोर भी हो सकती है” इसलिए सिर्फ़ user count पर आँख बंद करके भरोसा करना मुश्किल है

“Ed, ChatGPT अभी शुरुआती दौर में है. इंतज़ार करें तो क्या यह बेहतर नहीं होगा?”

• “इस पर पहले ही 2 साल से ज़्यादा समय से भारी investment और attention डाला जा चुका है” Transformer-आधारित research भी 2017 से शुरू है, और इसमें पहले ही अरबों डॉलर झोंके जा चुके हैं
• “फिर भी अब तक कोई खास ‘killer app’ नहीं है” Cloud Computing या smartphone की तरह तुरंत और व्यापक use case अब भी नहीं दिखता
• “इतने बड़े public attention वाला startup बहुत कम देखा गया है, फिर भी ठोस नतीजे कम हैं” 2 साल से ज़्यादा investment और प्रचार केंद्रित रहा, लेकिन ऐसा product अब भी नहीं दिखता जिसे हर किसी को ज़रूर इस्तेमाल करना पड़े

“Ed, ChatGPT तो generative AI का iPhone moment है. क्या यह इतिहास का सबसे बड़ा software launch नहीं?”

• “iPhone ने phone और computer की अवधारणा बदल दी थी, लेकिन ChatGPT ने वैसा नहीं किया” iPhone से बने विशाल नए उद्योगों के उलट, generative AI से पैदा हुई कोई अनिवार्य service नज़र नहीं आती
• “अगर कल ChatGPT गायब हो जाए, तो क्या रोज़मर्रा की ज़िंदगी पर बड़ा असर पड़ेगा?” लेखक मानते हैं कि ‘ज़्यादातर लोगों’ पर इसका असर बहुत मामूली होगा
• “Microsoft की ‘AI revenue’ भी असली profit नहीं, बल्कि एक व्यापक और धुंधला जोड़ है” बड़ी IT कंपनियाँ AI को आगे कर रही हैं, लेकिन यह साफ़ profit या उद्योग-स्तरीय innovation में नहीं बदल रहा

“Ed, आख़िरकार कभी न कभी यह समस्या हल हो ही जाएगी, है न?”

• “मैं पूछना चाहता हूँ कि कब हल होगी” OpenAI और Anthropic दोनों हर साल अरबों डॉलर जला रहे हैं, फिर भी उनके पास revenue पैदा करने का साफ़ model नहीं है
• “उनके दावे (‘cost जल्द घट जाएगी’, ‘कुछ साल बाद हम profitable हो जाएँगे’) बस कंपनियों के अंदरूनी अनुमान हैं” व्यवहारिक समाधान अब भी ठोस नहीं है
• “सवाल यह है कि Anthropic या OpenAI कब तक ऐसे ही पैसा जलाते हुए भविष्य को गिरवी रख सकते हैं”

“Ed, हम आख़िर कर क्या रहे हैं?”

• “OpenAI और Anthropic दोनों एक साथ भारी घाटा दर्ज कर रहे हैं, फिर भी कहते हैं कि 2027 के आसपास profitable हो जाएँगे” लेकिन इसके ठोस आधार कमज़ोर हैं
• “Dario Amodei (Anthropic) कहते हैं कि 2027 में सब कुछ संभव हो जाएगा, लेकिन वहाँ तक पहुँचने का रास्ता अस्पष्ट है” लेखक इसे हद से ज़्यादा आशावाद मानते हैं
• “कंपनियों के दस्तावेज़ों के मुताबिक API revenue जैसे हिस्से मुख्य हैं, लेकिन सिर्फ़ इससे अरबों डॉलर की भरपाई हो पाएगी या नहीं, इस पर संदेह है”
• कुल मिलाकर यह “Generative AI उद्योग सच में टिकाऊ और अर्थपूर्ण है या नहीं” वाला बुनियादी सवाल उठाता है

“Ed, ये बेवकूफ़ लोग असल में कर क्या रहे हैं?”

• “सब लोग ‘Reasoning’ model, ‘Chain-of-thought’ जैसे advanced features में लगे हैं, लेकिन क्या इससे सचमुच कोई क्रांतिकारी बदलाव आता है, यह संदिग्ध है” DeepSeek जैसे open source model भी आ गए हैं, इसलिए प्रतिस्पर्धा और तेज़ हो गई है
• “OpenAI का नया feature ‘Deep Research’ web से सामग्री ढूँढ़कर report बनाता है, लेकिन source की reliability कम है और यह बार-बार दोहराए गए citation देता है, इसलिए वास्तविक उपयोगिता कम है”
• “ऐसे generative AI product कुल मिलाकर भारी, महंगे और सिर्फ़ लंबे-चौड़े, चमकदार ‘output’ बनाने वाले हैं” इन्हें सच में ‘research’ कहना मुश्किल है

“Ed, मुझे लग रहा है मैं पागल हो जाऊँगा”

• “कई media outlet और investor कहते हैं कि generative AI जल्द सब कुछ बदल देगा, लेकिन असल product उथले हैं और revenue भी मामूली है”
• “कंपनियों के CEO डराते हैं कि AI jobs को replace कर देगा, लेकिन ठोस सबूत कमज़ोर हैं” यह ज़्यादा तर share price बढ़ाने के लिए किया गया बढ़ा-चढ़ाकर दावा लगता है
• “लेखक का मानना है कि यह बुलबुला फूटा तो dot-com bubble से भी बड़ा झटका लगेगा” बड़े पैमाने के investment, environment और infrastructure resources की बर्बादी, और लोगों की नौकरी को लेकर चिंता जैसे दुष्प्रभाव ही बढ़ते दिख रहे हैं
• “क्या यह सच में भविष्य है, या एक बहुत बड़ा ठगी का खेल?”
  • कोई वास्तविक और सार्थक “killer app” अब भी नज़र नहीं आता, और कंपनियाँ भारी लागत उठाकर घाटे में चल रही हैं
  • media coverage और corporate प्रचार की तुलना में लोगों को महसूस होने वाली वास्तविक value काफ़ी कम है, और long-term sustainability पर भी सवाल हैं
  • कुल मिलाकर लेखक मौजूदा generative AI बाज़ार को ‘Con(छल/ठगी)’ के अधिक क़रीब मानते हैं

[ifmkl]

अगर inference models को सही तरीके से इस्तेमाल करें, तो ये कमाल के हैं.. ये खुद ही test cases बनाकर चलाते हैं, optimization techniques सुझाकर लागू भी कर देते हैं, सच में काफी जबरदस्त हैं

[dicebattle]

मेरे मामले में, इसने अनजान चीज़ों को खोजकर सीखने के तरीके को पूरी तरह उलट दिया है, और मैं न सिर्फ कोडिंग में बल्कि प्रोजेक्ट की तकनीकी दिशा तय करने के तरीके में भी 6 महीने पहले की तुलना में बिल्कुल अलग गति और तरीके से काम कर रहा हूँ। प्रोडक्टिविटी में बढ़ोतरी की तो बात ही क्या है।

सिर्फ 1 साल पहले तक भी, आसपास अगर कोई AI से बने कोड पर अंधविश्वास करता दिखता था तो मेरे दिमाग में लगभग 200 सवालिया निशान उठ जाते थे, लेकिन हाल के बदलाव सचमुच चौंकाने वाले हैं।
उल्टा कहें तो, AI की तुलना में smartphone तो बस एक फ़ोन पर web browser जोड़ देने जैसा ही है, उसमें भला क्या खास है?

[hhcrux]

जब इसे खुद इस्तेमाल करके देखते हैं, तो सच कहूँ तो कभी-कभी यह किसी तरह के ज्योतिषी जैसा लगता है.
कभी-कभार जिन लोगों को अच्छा result मिल जाता है, वे हैरान होकर उसका हर जगह प्रचार करते हैं, और जिन्हें ज़्यादातर असंतोषजनक या बिल्कुल गलत जवाब मिलते हैं, वे यह सोचकर आगे बढ़ जाते हैं कि अभी बस इसकी क्षमता इतनी ही है...

[savvykang]

हाइप और FOMO से थकान जैसी भावनाओं और प्रतिक्रियाओं को अलग रख भी दें, तब भी मुझे लगता है कि नई तकनीक को देखने के तरीके पर इससे पर्याप्त संकेत मिलते हैं

1. AI में फ़र्क समझना: algorithm/logic, machine learning, natural language analysis, text/image/video/audio generation
2. AI उद्योग की sustainability
3. AI उपयोगकर्ता के नज़रिए से cost efficiency और अपेक्षित utility

[savvykang]

1980~1990 के दशक में जब कपड़े धोने के automation तकनीक आई थी, उस दौर को दर्ज करने वाला एक लेख याद आ गया, इसलिए अतिरिक्त उद्धरण दे रहा हूँ

अगर आज के समय की तरह, जब हर तरह के fully automatic features से भरे smartphone के साथ भी कोई computer जैसा विशेषण नहीं जोड़ता, तब शायद इसे बस fully automatic washing machine कहा जाता। लेकिन उस समय कपड़े धोने के automation को computer के अलावा किसी और शब्द से असरदार ढंग से व्यक्त करना संभव नहीं था। ड्राई क्लीनिंग दुकान के मालिक, उपभोक्ता, और विज्ञापन—सबने इसे इसी तरह साझा किया।

इस घटना के बारे में 27 नवंबर 1991 के Hankyoreh अख़बार के "computer सर्वशक्तिमान मरीज" शीर्षक वाले एक कॉलम में यह भी कहा गया था कि "हमारे देश में computer की लहर चलने लगी, यहाँ तक कि अब तो ड्राई क्लीनिंग की दुकानों में भी computer washing लिखकर लगाना पड़े तभी कारोबार चलता है।"

https://m.imaeil.com/page/view/2019101522053521827

[gooksangom6394]

आह, तो इसलिए Computer Laundry Cleaning जैसे नाम वाली दुकानें थीं। मज़ेदार है।

[dbs0829]

कुछ बातों से मैं सहमत हूँ, और मुझे भी लगता है कि कुछ हिस्से बढ़ा-चढ़ाकर कहे गए हैं, लेकिन लेख का लहजा बहुत आक्रामक लगता है। जैसे मानो पहले से निष्कर्ष तय करके उसी के मुताबिक बात आगे बढ़ाई जा रही हो।

[xguru]

> Ed कभी-कभी अच्छे points उठाते हैं, लेकिन वह बड़ी tech कंपनियों से बहुत नाराज़ हैं, और उनका ग़ुस्सा अक्सर संदेश में बाधा डालता है

नीचे की Hacker News टिप्पणी को इस वाक्य को ध्यान में रखकर देखें. hehe
आजकल के development tools को देखें तो developer के नज़रिए से लगता है कि killer app पहले ही आ चुकी है, लेकिन non-developer के नज़रिए से ऐसा महसूस होना भी समझ में आता है.

[youknowone]

सूरज उग रहा है और बस भोर की धुंधली रोशनी छाई है, ऐसे समय में यह कहना कि यह दीपक से बेहतर क्या है — ऐसी बात पढ़कर अफ़सोस होता है।

अगर लेखक की किसी एक बात से मैं सहमत हूँ, तो वह यह है कि मैं OpenAI की जीत पर, Anthropic की जीत पर, xAI की जीत पर, या Google और MS की जीत पर दांव नहीं लगाऊँगा। कौन-सी कंपनी पैसा कमाएगी या नहीं कमाएगी, यह बेहद अनिश्चित बात है.

लेकिन आने वाले कुछ वर्षों में सभी बौद्धिक श्रम की उत्पादकता तेज़ी से बढ़ेगी, यह रुकना संभव नहीं लगता। यह local device पर चलेगा या remote server पर, मुफ्त में चलेगा या भुगतान लेकर — यह नहीं पता। लेकिन भले ही आज की सभी AI कंपनियाँ revenue generation में विफल हो जाएँ और हारने वाली साबित हों, उनकी लगाई गई पूंजी से दुनिया जो बदल चुकी है, वह गायब नहीं होगी। वे 2027 में मुनाफ़े में हों या दिवालिया हो जाएँ, दुनिया बदलती है.

[ethanhur]

यह टिप्पणी बहुत रिलेटेबल है। मैं तो Cursor के बिना डेवलपमेंट ही नहीं कर पाता, ऐसी हालत हो गई है.

लेकिन मुझे अब भी लगता है कि AI की cost efficiency की समस्या बड़ी है, इसलिए मैं भी किसी एक कंपनी की जीत पर दांव नहीं लगा रहा हूँ.

[huiya]

अरे, अब तो मेरी हालत ऐसी हो गई है कि AI के बिना मैं डेवलपमेंट ही नहीं कर पाता....

[GN⁺]

Hacker News की राय

• अगर मेरा Android या iPhone गायब हो जाए, तो मुझे लगेगा जैसे मैं एक सदी पीछे समय-यात्रा करके चला गया हूँ। अगर Google Search गायब हो जाए, तो मैं अब काम नहीं कर पाऊँगा। अगर cloud गायब हो जाए, तो मैं अब apps नहीं बना पाऊँगा। library जाने के अलावा कोई समाधान नहीं होगा

  • अगर ChatGPT या Copilot जैसे derivative tools गायब हो जाएँ, तो बस थोड़ी असुविधा होगी। मैं documents पढ़कर और code थोड़ा धीरे लिखकर काम जारी रखूँगा। सच कहूँ तो, मैं पहले भी कई बार ऐसा कर चुका हूँ (Copilot with GPT-3.5, Cursor, Copilot with GPT-4, Zed with Claude आदि)
  • अगर आप लंबे समय से Silicon Valley में रहे हैं, तो आपने कई hype cycles देखे होंगे। AI सबसे नया cycle है। इसका मतलब यह नहीं कि AI धोखा है, लेकिन इसे बेचने के लिए बढ़ा-चढ़ाकर और अतिशयोक्तिपूर्ण दावे करने की प्रवृत्ति है
  • AI का इस्तेमाल मुख्य रूप से text और code लिखने के लिए हो रहा है। इसे वास्तव में पूरे market में workflows में integrate होने में समय लगेगा
  • एक बेहतरीन लेख जो न ज़रूरत से ज़्यादा निराशावादी है, न आशावादी, वह Benedict Evans का The AI Summer है। उसका तर्क है कि बड़ी कंपनियों में बहुत उत्साह है, लेकिन वास्तविक adoption अभी भी कम है
  • "LLM अपने-आप में product नहीं है - यह ऐसी technology है जो tools या features को संभव बनाती है, और उपयोगी होने के लिए इसे नए framing, UX और tools के साथ अलग या फिर से गढ़ा जाना चाहिए। इसमें अधिक समय लगेगा"

• developers के बीच LLM को लेकर इतनी नकारात्मक प्रतिक्रिया देखकर मुझे थोड़ा झटका लगा। एक नए tool के रूप में इसमें सीखने की ज़रूरत है और यह कभी-कभी उतना अच्छा नहीं होता, लेकिन जिसने भी built-in coding assistance वाला IDE इस्तेमाल किया है (जैसे VS Code का Copilot mode - Chat mode नहीं, Claude 3.5 का उपयोग करते हुए), उसके लिए यह ईमानदारी से किसी junior developer से बहुत खराब नहीं है और 100 गुना तेज़ है। अगर code खराब हो तो उसे फेंक सकते हैं और 10 सेकंड बाद फिर से कोशिश कर सकते हैं। एक बहुत अनुभवी developer के रूप में, speed boost बहुत बड़ा है। सिर्फ 6 महीने पहले तक यह भयानक था। 1 या 2 साल बाद यह कितना बेहतर होगा, यह जानने की उत्सुकता है। अभी यह unit tests चलाना, console errors पढ़ना, या IDE hints तक पहुँचना नहीं कर सकता, फिर भी यह ज़्यादातर सही code बना देता है। जैसे-जैसे integration गहरा होगा, यह और बेहतर होता जाएगा

• hype और anecdote को अलग रख दें, तो generative AI कई महीनों से लगभग वहीं का वहीं है। वे जो "बड़ी चीज़" कर पाए हैं, वह है reasoning का उपयोग करके बड़े language models को "सोचने" पर मजबूर करना

  • पिछले 18 महीनों में generative AI में हुए सबसे दिलचस्प बदलाव यहाँ छूट गए हैं
  • multimodal: अब LLM images, audio और (कुछ हद तक) video को consume कर सकते हैं। यह 2023 के text-only models की तुलना में बड़ा सुधार है, और इस technology के लिए कई नए applications खोलता है। मैं हर दिन image और audio models (ChatGPT Advanced Voice) का इस्तेमाल करता हूँ
  • context length. GPT-4 8,000 tokens संभाल सकता था। आज के लगभग सभी leading models 100,000+ तक हैं, और सबसे बड़े models 10 लाख या 20 लाख tokens संभाल सकते हैं। इससे वे कहीं अधिक उपयोगी हो जाते हैं
  • cost. आज के अच्छे models, GPT-3 युग के models की तुलना में 100 गुना सस्ते हैं और कहीं अधिक सक्षम भी

• दिशा सही है

  • मेरी राय में GenAI एक assistant है। Copilot प्रभावी रूप से templates बनाता है
  • ChatGPT से emails पढ़े जा सकते हैं और tone जाँची जा सकती है
  • Claude camera equipment पर टिप्पणी कर सकता है
  • Claude rare चीज़ों की image recognition में बहुत अच्छा है
  • मुझे यक़ीन हो गया है कि /completions API बस +10% या किसी झटकेदार helper से ज़्यादा नहीं है
  • मुझे ऐसा agent नहीं चाहिए जो मेरे codebase में तेज़ी से उथल-पुथल मचाने वाले intern से भी कम समझदार हो; code generation tools मोटे तौर पर यही कर रहे हैं
  • मैंने self-driving car startup को driving के दौरान images पहचानने के लिए GPT neural network का उपयोग करते देखा है। मैं उस use case को बहुत promising मानूँगा
  • मैं यह कहने की हिम्मत करता हूँ कि Shirky का BS jobs thesis सही साबित हो रहा है, क्योंकि अगर hallucinating AI वह काम कर सकती है...
  • खैर
  • मुझे नहीं लगता कि बुनियादी चीज़ें इस spending को justify करती हैं। बहुत ज़्यादा कटु आलोचना है, लेकिन hype भी बहुत ज़्यादा है

• यह उन सबसे पक्षपाती लेखों में से एक है जो मैंने पढ़े हैं। कई महीनों से Ed यह भविष्यवाणी कर रहा है कि AI bubble "कभी भी" फट जाएगा, और वह अक्सर AI कंपनियों की revenue का हवाला इस संकेत के रूप में देता है कि products viable नहीं हैं। जबकि valuations मुख्य रूप से R&D की प्रगति पर आधारित हैं, न कि इस सिद्धांत पर कि मौजूदा products का व्यापक adoption बढ़ेगा। मुझे लगता है कि मौजूदा स्थिति को अलग-अलग actors के बीच R&D race के रूप में देखा जाना चाहिए

• सवाल यह है कि generative AI ने वास्तव में किया क्या है, products कहाँ हैं

  • product असल में ChatGPT है
  • अगर LLM bubble है, तो हमें उम्मीद करनी चाहिए कि OpenAI की ज्यादातर revenue API से आएगी (जिसका उपयोग वे startups करते हैं जिन्होंने "जादुई AI काम" करने के लिए फंड जुटाया है, और जैसे ही investors पैसे देना बंद करेंगे, bubble फट जाएगा)। लेकिन https://futuresearch.ai/openai-revenue-report के अनुसार, API revenue सिर्फ 15% है, और बाकी 85% अलग-अलग subscription offerings से आता है, खासकर ChatGTP Plus subscription से 55% - यानी सीधे consumers से
  • इससे यह साबित नहीं होता कि यह bubble नहीं है (consumers बाद में यह समझ सकते हैं कि यह बेकार है और छोड़ सकते हैं), लेकिन इसकी संभावना कम हो जाती है

• Ed कभी-कभी अच्छी बातें कहता है, लेकिन वह big tech कंपनियों से बहुत नाराज़ है, और उसका गुस्सा अक्सर उसके संदेश में बाधा डालता है

  • उसकी हाल की टिप्पणियाँ पढ़कर मुझे Google के IPO के समय Karl Denninger की Google पर की गई आलोचना याद आती है, जहाँ उसने दावा किया था कि वह $85 stock price को सही ठहराने जितना पैसा कभी नहीं कमा पाएगी (तब लगाए गए $1000 की आज लगभग $375,000 कीमत होती)

• हमारी समस्या का एक बड़ा हिस्सा इस तथ्य से आता है कि ऐसी "companies" बनाना संभव है जिनका business model तब तक पैसा खोना है जब तक सबको यह मानने के लिए brainwash न कर दिया जाए कि "product" अच्छा है। एक सामान्य दुनिया में, ऐसी companies fail हो जातीं और AI छोटे failures और छोटी successes के साथ कई वर्षों या दशकों में आगे बढ़ता रहता। इसके बजाय, क्योंकि कुछ अमीर लोग जुआ खेलने को तैयार हैं, बेहूदा चीज़ों की बाढ़ आ जाती है

• और अभी भी कोई killer app नहीं है! ऐसा कोई product नहीं है जिसे सब प्यार करते हों, कोई iPhone moment नहीं है

  • मैं ज़ोर देकर कहूँगा कि coding assistants AI की पहली killer app हैं। Copilot, Cursor, Windsurf आदि