Vibe Coding का भ्रम, AI code का स्तर और भविष्य

• हाल के AI coding टूल्स जल्दी “चलने वाला code” बना देते हैं, लेकिन वे अपने-आप वह “अच्छा product” नहीं बना पाते जिसकी उपयोगकर्ता उम्मीद करते हैं

• लेखक इसके दो बड़े कारण बताते हैं

  • AI में common sense/implicit knowledge की कमी
  • RLVR-आधारित training में “अच्छे code/product” की तुलना में “code execution success” को reward मिलना आसान होना

• उदाहरण के तौर पर Sejong the Great MacBook Pro hallucination, car wash test, और Korean classroom/student image generation failure का उल्लेख करते हुए कहा गया है कि latest models भी ऐसी अजीब बातें मिस कर सकते हैं जिन्हें इंसान तुरंत पकड़ लेता है

• अगर coding RLVR का reward execution पर ज़्यादा झुका हो, तो LLM ज़रूरत से ज़्यादा try-except, fallback, और defensive logic बनाकर technical debt बढ़ा सकता है

• Go में बस जीतना काफी है, लेकिन software में बात सिर्फ “किसी तरह चल जाना” नहीं, बल्कि “ऐसा product होना” है जिसे लोग चाहें और उसके लिए पैसे दें

• Karpathy के AJI (Artificial Jagged Intelligence) नज़रिए से देखें तो मौजूदा AI की कमज़ोरियाँ “taste”, product sense, और implicit common sense वाले हिस्सों में हैं

• Anthropic भी मानता है कि design/taste वाला क्षेत्र अभी काफी हद तक इंसानों के हाथ में है, लेकिन model improvements के साथ इसकी सीमाएँ फिर से तय हो रही हैं

• लेखक का अनुमान है कि GPT-5.4 → GPT-5.5 जैसे model improvements के साथ यह gap धीरे-धीरे कम होगा

• अंततः जब AI में ऐसा sense और judgment आ जाएगा जिसे इंसानों से अलग करना मुश्किल हो, तब वह Turing test पार कर सकेगा, और लेखक के अनुसार उसी बिंदु को AGI माना जा सकता है

सारांश:
AI coding की समस्या यह नहीं है कि “वह code नहीं लिख सकता”, बल्कि यह है कि “वह यह जाने बिना executable output के लिए optimize होता है कि इंसान वास्तव में किस तरह का product चाहते हैं।” अभी इंसान की भूमिका AI की common sense, taste, और product judgment की कमी को पूरा करने में है.

[joyoo]

मुझे नहीं पता कि यह लेख किसने लिखा है, लेकिन निजी तौर पर यह पिछले 10 वर्षों में पढ़े गए लेखों में सबसे निम्न स्तर का लेख था।
मैं इतना स्तब्ध हो गया कि लेख पढ़ते-पढ़ते जैसे सुन्न-सा रह गया।

[brainer]

तो फिर आप खुद एक अच्छा लेख लिखकर दिखाइए।

[kurthong]

कुछ हिस्सों से मैं सहमत हूँ और कुछ से नहीं। आखिरकार, अभी के लिए मानव बुद्धि का सक्रिय रूप से हस्तक्षेप करना सही लगता है। Vibe coders को भी, भले वे coding में अच्छे न हों, software structure या कम-से-कम बुनियादी समझ के आधार पर development करना चाहिए। आखिर में, जो ideas न manage किए जा सकें और जिनमें domain knowledge न हो, वे रेत के महल जैसे होते हैं और लंबे समय तक टिक नहीं पाएंगे।

[pullrequest]

मेरे हिसाब से यह एक ऐसी बात को लंबा खींचकर लिखता है जो पहले से ही स्पष्ट है, और कई मशहूर नाम गिनाता है, इसलिए इसमें पढ़ने लायक खास मूल्य नहीं दिखता।

[brainer]

मुझे भी लगता है कि यह स्वाभाविक सी बात है।
हालांकि, मैंने यह लेख इसलिए लिखा क्योंकि मैंने यह बात खुद भी अनुभव की है और कई कम्युनिटीज़ में भी सुनी है।

[memevibe82]

दददद

[cherrycoder]

यह बात पहले से ही बार-बार कही जाती रही है। लेकिन आखिरकार यह समय के साथ सुलझने वाली समस्या है। क्या 10 साल बाद भी हालात ऐसे ही रहेंगे?

[brainer]

मुझे लगता है कि यह अलग है।

[kimujinyogi]

अगर कभी AI ऐसा दिन देखे जब वह निर्देश में न लिखी बातों पर भी सवाल उठाकर अपनी राय दे सके
तब शायद सचमुच इंसानों की जगह ली जा सकेगी, लेकिन
यह कुछ वैसा ही होगा जैसे बहुत अमीर लोग self-driving की बजाय ड्राइवर साथ रखते हैं
तो क्या भविष्य का engineer वही होगा जो कोई काम कहने पर हर चीज़ एक-एक करके जांचकर उसकी जगह पुष्टि करता रहे (मेरी ही तरह)

[brainer]

मौजूदा LLM स्तर पर सिर्फ सवाल उठाने से ज़्यादा महत्वपूर्ण बात "मानवीय common sense" होना है।

कुछ साल पहले एक मशहूर व्यक्ति ने भविष्यवाणी की थी कि भविष्य में LLM पल भर में इंसानों की चाही चीज़ें develop कर पाएगा, और इस वजह से SW कंपनियाँ गायब हो जाएँगी।