Vibe Coding का भ्रम, AI code का स्तर और भविष्य

• हाल के AI coding टूल्स जल्दी “चलने वाला code” बना देते हैं, लेकिन वे अपने-आप वह “अच्छा product” नहीं बना पाते जिसकी उपयोगकर्ता उम्मीद करते हैं

• लेखक इसके दो बड़े कारण बताते हैं

  • AI में common sense/implicit knowledge की कमी
  • RLVR-आधारित training में “अच्छे code/product” की तुलना में “code execution success” को reward मिलना आसान होना

• उदाहरण के तौर पर Sejong the Great MacBook Pro hallucination, car wash test, और Korean classroom/student image generation failure का उल्लेख करते हुए कहा गया है कि latest models भी ऐसी अजीब बातें मिस कर सकते हैं जिन्हें इंसान तुरंत पकड़ लेता है

• अगर coding RLVR का reward execution पर ज़्यादा झुका हो, तो LLM ज़रूरत से ज़्यादा try-except, fallback, और defensive logic बनाकर technical debt बढ़ा सकता है

• Go में बस जीतना काफी है, लेकिन software में बात सिर्फ “किसी तरह चल जाना” नहीं, बल्कि “ऐसा product होना” है जिसे लोग चाहें और उसके लिए पैसे दें

• Karpathy के AJI (Artificial Jagged Intelligence) नज़रिए से देखें तो मौजूदा AI की कमज़ोरियाँ “taste”, product sense, और implicit common sense वाले हिस्सों में हैं

• Anthropic भी मानता है कि design/taste वाला क्षेत्र अभी काफी हद तक इंसानों के हाथ में है, लेकिन model improvements के साथ इसकी सीमाएँ फिर से तय हो रही हैं

• लेखक का अनुमान है कि GPT-5.4 → GPT-5.5 जैसे model improvements के साथ यह gap धीरे-धीरे कम होगा

• अंततः जब AI में ऐसा sense और judgment आ जाएगा जिसे इंसानों से अलग करना मुश्किल हो, तब वह Turing test पार कर सकेगा, और लेखक के अनुसार उसी बिंदु को AGI माना जा सकता है

सारांश:
AI coding की समस्या यह नहीं है कि “वह code नहीं लिख सकता”, बल्कि यह है कि “वह यह जाने बिना executable output के लिए optimize होता है कि इंसान वास्तव में किस तरह का product चाहते हैं।” अभी इंसान की भूमिका AI की common sense, taste, और product judgment की कमी को पूरा करने में है.