VS Code का Copilot Chat open source के रूप में जारी

• VS Code का GitHub Copilot Chat extension open source के रूप में जारी किया गया है
• Chat view में Copilot से natural language में सवाल पूछकर कोड से जुड़ी मदद तुरंत पाई जा सकती है
  • workspace के code, variables, Participant जानकारी, Slash commands आदि का उपयोग करके context-aware जवाब दिए जाते हैं
• Inline chat के जरिए code के भीतर सीधे AI के सुझाव लागू किए जा सकते हैं
  • refactoring, exception handling जोड़ना, जटिल algorithms को समझाना आदि real time में संभव है

अवलोकन

• GitHub Copilot एक AI-आधारित साथी programmer tool है, जो code लिखने की गति और गुणवत्ता बेहतर करने में मदद करने वाला extension है
• उपयोगकर्ता अपने project के लिए सबसे उपयुक्त model चुन सकते हैं, chat responses को customize कर सकते हैं, और agent mode का उपयोग करके स्वाभाविक collaborative programming session चला सकते हैं
• GitHub Copilot (code autocomplete) और GitHub Copilot Chat (interactive AI) अलग-अलग extensions के रूप में इंस्टॉल होते हैं
• इसे free plan या enterprise administrator की स्वीकृति के जरिए इस्तेमाल किया जा सकता है, और subscription आवश्यक है
• व्यक्तिगत और business उपयोग के लिए विभिन्न products (personal, business, enterprise plans) उपलब्ध हैं
• Copilot Chat, UI integration की प्रकृति के कारण, केवल VS Code के नवीनतम version पर काम करता है और नए models व features के साथ integration संभव है
  • पुराने VS Code में केवल Copilot Chat का पिछला version ही इस्तेमाल किया जा सकता है
• Copilot Chat का उपयोग करना GitHub Copilot Preview terms और transparency notice से सहमति माना जाता है
• उपयोगकर्ता के code का ownership सुरक्षित रहता है, और उसे GitHub Copilot के अन्य उपयोगकर्ताओं के लिए suggested code के रूप में इस्तेमाल नहीं किया जाता

[GN⁺]

Hacker News राय

• यहाँ उनके इस्तेमाल किए जाने वाले system prompt template का लिंक साझा किया गया है लिंक

  • इससे यह पता चला कि developer के cursor position को ${CURSOR_TAG} से चिह्नित करने की सुविधा है, और यह हिस्सा कोड में developer कहाँ ध्यान दे रहा है इसे समझने में महत्वपूर्ण रूप से इस्तेमाल होता है, यह जानकारी दिलचस्प लगी

• VS Code में Copilot कई मामलों में उम्मीद से कम लगता है, और Microsoft स्तर पर अपेक्षित polished completeness की कमी दिखती है

  • agent mode जुड़ने के बाद भी क्या ऐसा ही महसूस हुआ, यह जानना चाहता हूँ; मेरे अनुभव में इसका उपयोग काफ़ी संतोषजनक रहा है, Gemini CLI या cline अभी तक नहीं आज़माया, लेकिन नहीं लगता कि वे Copilot से बेहतर होंगे

  • पहले Microsoft से काफ़ी उम्मीदें रहती थीं, लेकिन पिछले 15 वर्षों में आए प्रोडक्ट्स को देखकर अब ऐसी उम्मीद रखना मुश्किल है

• अच्छा होगा अगर कोई AI से यह विश्लेषण कराए कि Copilot Chat prompts और responses को कैसे process करता है, उसकी decision tree क्या है

  • मैं भी Copilot Chat के working flow को लेकर बहुत जिज्ञासु हूँ, फिलहाल tools[0] और prompts[1] को देख रहा हूँ, और कोड के call path को trace कर रहा हूँ
  • मुख्य flow यह है कि जब उपयोगकर्ता ask या edit चुनता है, तो प्रवेश AskAgentIntent.handleRequest, EditAgentIntent.handleRequest में होता है, उसके बाद DefaultIntentRequestHandler.getResult() में instance बनाया जाता है और intent को call करके runWithToolCalling loop चलाया जाता है, prompts और tool responses को .tsx में render किया जाता है
  • संबंधित फ़ाइलों के लिंक हैं createFileTool.tsx, editCodePrompt.tsx, और toolCallingLoop.ts

• Copilot Chat बस Microsoft SaaS का frontend भर है; वास्तव में महत्वपूर्ण हिस्सा GitHub Copilot API के पीछे छिपा है, इसलिए इसे सही मायने में open source कहना मुश्किल है। किसी को भी इस LLM की design या training data तक पहुँच नहीं है, self-hosting भी संभव नहीं है, यह बस एक और subscription model का प्रचार है और personal data को third party को सौंपने वाली संरचना है; इसमें community value या public benefit नहीं है

  • मैं इस राय का विरोध करता हूँ; सभी commercial SOTA LLM models मोटे तौर पर समान code quality और limitations दिखाते हैं, असली फ़र्क इस बात में आता है कि meaningful context information कैसे दी जाती है और results को process करने की संरचना कैसी है। सिर्फ़ LLM में बार-बार फ़ाइल का content डालने वाला agent कोई भी बना सकता है, लेकिन केवल उससे अच्छा coding agent नहीं बन जाता

  • इस आलोचना की logic को ठीक से समझना मुश्किल है। open source का सीधा मतलब source खोलना है, और वह उपयोगकर्ता के लिए कितना उपयोगी है यह अलग मुद्दा है

  • मेरे हिसाब से open source का मतलब source code public करना है, खास तौर पर इस मामले में आलोचना का कारण समझ नहीं आता

  • इस बात से सहमत हूँ कि Copilot Chat केवल frontend है, लेकिन अगर frontend खुद open source हो जाए तो उसमें भी public value है, क्योंकि फिर किसी को UI शुरू से दोबारा बनाने की ज़रूरत नहीं पड़ेगी। और यह कहना कि LLM design या training data भी open source होना चाहिए, कुछ ज़्यादा खिंची हुई आलोचना है; व्यवहारिक रूप से open source community के पास इतने बड़े computing resources चलाने की क्षमता नहीं है

  • हाल की टिप्पणियों में "AI" API को लेकर काफ़ी असंतोष दिखता है, developer न होने के कारण इसे समझना आसान नहीं है; पहले मुझे भी "Web API" को लेकर ऐसी ही शिकायतें थीं

  • पहले वेबसाइटों में API नहीं होते थे और लोग वेब पर सार्वजनिक जानकारी को बस scrape कर लेते थे; यह तरीका बिना signup के, जब तक वेबसाइट मौजूद हो, तब तक संभव रहता था

  • दूसरी ओर Web API आम तौर पर email collection, usage tracking, account restrictions, pricing tiers जैसी चीज़ों के ज़रिए access को सीमित करते हैं, और कई बार API बिना किसी पूर्व सूचना के बंद हो जाने का जोखिम भी रहता है

  • homepage से bulk data download करने का विकल्प बहुत कम जगहों पर होता है, जैसे कुछ सरकारी साइटें, Wikipedia dump आदि

  • यही बात अब LLM पर भी लागू हो गई है; model weights जैसी internal data को public किए बिना, उपयोगकर्ताओं को account signup, subscription आदि के माध्यम से public information का परोक्ष access दिया जाता है; data server पर है, लेकिन उसे सीधे प्राप्त नहीं किया जा सकता

  • क्या अंततः यह वही स्थिति नहीं है जहाँ developers जिन tools और technologies का समर्थन करते थे, वही अब वापस developers के ख़िलाफ़ काम करने लगी हैं?