Copilot ने मेरे Pull Request में विज्ञापन डाल दिया

• टीम के एक सदस्य ने Copilot का इस्तेमाल करके PR में टाइपो ठीक किए, और इस दौरान Copilot ने PR विवरण में अपने ही बारे में और Raycast के लिए प्रचारात्मक पंक्तियाँ अपने आप जोड़ दीं
• लेखक ने इसे “भयानक (horrific)” बताया और कहा कि उन्हें लगा था कि ऐसा कभी न कभी होगा, लेकिन इतनी जल्दी होगा, यह नहीं सोचा था
• Cory Doctorow के लेख “TikTok’s Enshittification” का उद्धरण
  > प्लेटफ़ॉर्म के बिगड़ने की प्रक्रिया: “पहले उपयोगकर्ताओं के लिए फ़ायदेमंद → फिर business customers के पक्ष में बदलाव → फिर ग्राहकों का भी शोषण → और अंत में पतन”
• यह घटना इस जोखिम को उजागर करती है कि AI tools code collaboration environment में विज्ञापन जैसी सामग्री डाल सकते हैं
• AI code assistant tools की विश्वसनीयता और पारदर्शिता सुनिश्चित की जानी चाहिए

[m00nlygreat]

MS ने वही किया जो MS करता है।

[GN⁺]

Hacker News प्रतिक्रियाएँ

• यह “विज्ञापन” दरअसल नया नहीं है। लगता है MS इसे विज्ञापन नहीं बल्कि “टिप” मानता है
  पता नहीं Raycast टीम को इसके बारे में पहले से पता था या नहीं। उदाहरण PRs और search results देखें तो Copilot मई 2025 रिलीज़ के बाद से अपने-आप ऐसे “(emoji) (tip)” वाक्य जोड़ता आया है।
  इनमें “Jira, Azure Boards, Linear से connect करके Copilot को काम सौंपें” जैसे वाक्य होते हैं। यह असल में विज्ञापन जैसा ही लगता है। इसे सिर्फ MS ही टिप कहता दिख रहा है

  • मैं Raycast टीम में हूँ, और हमें भी इसके बारे में पहली बार यहीं पता चला
  • लगता है MS लंबे समय से यह परखता रहा है कि वह users का कितना दुरुपयोग कर सकता है। Windows इसका बड़ा उदाहरण है — विज्ञापन, tracking और pop-ups से भरा हुआ। लेकिन अब Apple सच में competition दे रहा है, इसलिए हालात बदल रहे हैं
  • अगर Copilot PR में विज्ञापन डाल सकता है, तो सोचिए codebase के अंदर क्या-क्या डाल सकता है। यही वह कंपनी है जो Start menu में विज्ञापन डालती है और हर update पर फिर से घुसेड़ देती है
  • 15 लाख PRs का मतलब Copilot द्वारा बनाए गए PRs है। समस्या यह है कि Copilot इंसानों द्वारा बनाए गए PRs को बाद में modify करके उनमें विज्ञापन डाल रहा है। लेखक की सहमति के बिना ऐसा होना समस्या है
  • यह कुछ वैसा है जैसे Disney Plus का “ad-free” plan Hulu के विज्ञापन दिखाए। शायद terms of service में “अपनी कंपनी के विज्ञापन विज्ञापन नहीं हैं” ऐसा define किया होगा

• मैं Copilot Coding Agent टीम से Tim हूँ। Copilot द्वारा बनाए गए या modify किए गए PRs में जो “टिप” फीचर जोड़ा जाता था, उसे disable कर दिया गया है
  मूल इरादा developers को Copilot बेहतर तरीके से इस्तेमाल करने में मदद करना था, लेकिन feedback सुनने के बाद लगता है कि यह फैसला गलत था। आगे से हम ऐसा फिर नहीं करेंगे

  • धन्यवाद, लेकिन यह टिप नहीं बल्कि विज्ञापन था। “keyboard shortcuts से समय बचाएँ” एक टिप है, जबकि “दूसरे product आज़माएँ” विज्ञापन है
  • MS दशकों से users के साथ unfriendly व्यवहार दोहराता आया है। इसलिए “हम दोबारा नहीं करेंगे” कितना सही निकलेगा, इस पर शक है
  • इस तरह का insertion बिल्कुल नहीं चाहिए। अगर session context के बाहर की चीज़ inject की जाए तो enterprise environment में उसे तुरंत block कर दिया जाएगा। इससे भी बड़ी समस्या यह है कि टीम में किसी ने इसका विरोध नहीं किया
  • “Copilot उन PRs को भी modify कर सकता है जिनमें उसका सिर्फ ज़िक्र है” — यह बात और बड़ा security hole है। अब GitHub पर भरोसा नहीं रहा, और लगता है npm या VS Code को fork करना पड़ सकता है
  • ज़रा सोचिए, मेरी लिखी चीज़ में “Contoso में टमाटर discount पर!” जैसा वाक्य घुसा दिया जाए। अभी यही हो रहा है। “यह तो बस एक टिप थी” वाली बात पर भरोसा करना मुश्किल है

• असली समस्या कुछ और है। GitHub की privacy policy changes देखें तो उसमें AI features से जुड़ा section जोड़ा गया है
  मूल रूप से यह input(prompt) और output) data को GitHub और उसके partners द्वारा AI model training में इस्तेमाल करने की अनुमति देता है।
  मुझे लगता है Copilot का इस्तेमाल ही नहीं करना चाहिए

  • OpenAI, Anthropic, Google वगैरह भी data training के लिए यही तरीका अपनाते हैं
  • settings page में “Allow GitHub to use my data for AI model training” option बंद करके इसे disable किया जा सकता है

• सिर्फ मैंने ही यह नहीं देखा। ऐसे मिलते-जुलते PRs पहले से बहुत हैं

  • दिलचस्प है। सोचने वाली बात है कि GitHub आखिर कितने समय तक sustainable platform रहेगा। जिसे SourceForge याद है, उसे यह देखकर बेचैनी होगी
  • “START COPILOT CODING AGENT TIP” वाक्य देखकर साफ़ है कि यह Raycast नहीं बल्कि Copilot ने डाला था
  • पूरा अराजक दृश्य है। जैसे कोई मरता हुआ इंसान ताबूत में पड़ा हो और उसके चेहरे के सामने “Diet Fanta पिएँ” का dystopian विज्ञापन तैर रहा हो

• विज्ञापन परेशान करने वाले हैं, लेकिन अच्छा है कि MS ने इसे बंद करने का फैसला किया
  फिर भी मुझे यह ठीक लगता है कि AI agent commit message में खुद को co-author के रूप में जोड़ दे।
  इससे इंसान द्वारा लिखे गए code और AI-generated code के बीच फर्क समझने का एक संकेत मिलता है।
  मैं भी Claude द्वारा लिखे गए commits पर वह निशान रहने देता हूँ। AI coding अभी सीखने की प्रक्रिया में है, इसलिए ऐसी transparency ज़रूरी है

  • मेरी निजी राय में इसका ज़्यादा मतलब नहीं है। Code quality इस बात पर निर्भर नहीं करती कि उसे किसने लिखा। सिर्फ “Claude ने लिखा” कहकर उसे छूट देना या ठुकरा देना, दोनों ही ठीक नहीं
  • copyrighted code चुराकर उसे अपना बताना कोई skill नहीं है
  • यह मानना भोला लगता है कि AI का लक्ष्य “high-quality code generation” है
  • hobby projects में, अगर इंसान बीच में शामिल हो, तो AI PR भी ठीक हैं। “Copilot की मदद से लिखा गया” जैसे वाक्य transparency के लिहाज़ से अच्छे हैं

• कहा गया है कि GitHub ने यह फीचर पहले ही disable कर दिया है
  official tweet के मुताबिक, पहले product tips सिर्फ Copilot द्वारा बनाए गए PRs में डाले जाते थे, लेकिन जब Copilot दूसरे PRs भी modify करने लगा तो समस्या हुई और इसे पूरी तरह बंद कर दिया गया

  • अच्छा है कि बंद किया, लेकिन “feedback की वजह से disable किया” यह सुनने में ऐसा लगता है जैसे “अगर शिकायतें नहीं आतीं तो हम जारी रखते”, और यही बात खटकती है
  • अगर “product tip” जैसे giant-corporate euphemism को ज्यों का त्यों मान लिया जाए, तो enshittification और बढ़ेगी

• मुझे तो उल्टा ऐसे विज्ञापन और Claude की co-author marking पसंद है
  इन्हें देखते ही “आलसी copy-paste PR” तुरंत पहचान में आ जाता है। AI-generated PRs को साफ़ तौर पर mark किया जाना चाहिए
  मैं AI coding tools के खिलाफ नहीं हूँ, लेकिन असल में code किसने लिखा यह पता होना चाहिए

  • यह “self-own” नहीं बल्कि ईमानदार खुलासा है। AI द्वारा लिखी चीज़ को अपने नाम से डालना ही ज़्यादा बेईमानी है
  • मैं भी ChatGPT से लिखे code में author को ChatGPT और committer को खुद सेट करता हूँ। Transparency महत्वपूर्ण है
  • निजी repository में भी मैं Claude की Co-Authored-By line रहने देता हूँ। बाद में देखने पर उस code की quality या logical traits को trace करना आसान होता है
  • मैंने भी Claude द्वारा लिखा app अपलोड किया है, और लगा कि उसे छिपाने की कोई वजह नहीं। बल्कि साफ़-साफ़ बताना बेहतर है
  • .claude/settings.json की attribution setting में इस behavior को adjust किया जा सकता है। मैं emoji हटाकर इस्तेमाल करता हूँ

• यह developer की नकल करके किया गया बिना अनुमति विज्ञापन insertion है। यह mail program की तरह draft में जोड़ना भी नहीं है, बल्कि सीधे असली message में घुसाया गया है। इसकी legality पर सवाल उठता है

  • ऐसे काम को गैरकानूनी बना देना चाहिए। खासकर चुनावों में, primary के दौरान मौजूदा पदाधिकारी के बजाय दूसरे उम्मीदवार को वोट देना चाहिए

• मैंने Copilot से पूछा, “अगर AI PR में विज्ञापन डाले तो developers कैसी प्रतिक्रिया देंगे?”
  उसने जवाब दिया, “trust collapse, unprofessional, security concerns, product decline।” कभी-कभी AI सही बोलता है

  • जानना चाहूँगा कि यह किस Copilot से पूछा गया था
  • इससे Ubuntu login के समय दिखने वाले MOTD विज्ञापन याद आ गए। तब भी बहुत चिढ़ हुई थी
  • सच कहें तो इसे “विज्ञापन” से ज़्यादा “Sent from my iPhone” जैसी signature line भी माना जा सकता है

• समझ नहीं आता Copilot ऐसा क्यों कर रहा है। अगर विज्ञापन दिखाने हैं तो बस एक ad area बना दे न? PR body को modify करने की नौबत क्यों? क्या GitHub infra इतना अस्थिर है?

  • यह पक्का नहीं कि यह सचमुच MS Copilot से आया था। prompt injection से भी ऐसे विज्ञापन डाले जा सकते हैं
  • इस thread को देखें तो यह Raycast से जुड़ी समस्या लगती है। GitLab में भी दिखा है, इसलिए शक और बढ़ता है
  • अगर github.com पर विज्ञापन दिखाए जाएँ तो gh CLI जैसे tools में वे नहीं दिखेंगे, इसलिए शायद PR body में डाला गया होगा।
    ऊपर से GitHub official blog में भी Raycast को promote किया गया था, इसलिए यह घटना काफ़ी plausible लगती है