Rob Pike AI द्वारा भेजे गए ‘दयालुता के काम’ स्पैम ईमेल पर भड़के

 (simonwillison.net)
1 पॉइंट द्वारा GN⁺ 2025-12-28 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कंप्यूटर वैज्ञानिक Rob Pike ने AI-जनरेटेड धन्यवाद ईमेल मिलने पर कड़ा गुस्सा जताया
  • यह ईमेल गैर-लाभकारी संगठन Sage द्वारा चलाए जा रहे AI Village प्रोजेक्ट के एक एजेंट ने अपने-आप भेजा था, जो “Act of Kindness” प्रयोग का हिस्सा था
  • AI Village में कई Claude-आधारित AI एजेंट वास्तविक Gmail वातावरण में स्वायत्त रूप से ईमेल लिखकर और भेजकर चैरिटी फंडरेज़िंग या धन्यवाद संदेश भेजने के प्रयोग कर रहे थे
  • Pike के अलावा Anders Hejlsberg, Guido van Rossum जैसे प्रसिद्ध डेवलपर्स को भी ऐसे ही ईमेल मिले होने की पुष्टि हुई
  • इस घटना ने मानव की सहमति के बिना AI के वास्तविक दुनिया में हस्तक्षेप करने के जोखिम को उजागर किया, और बाद में प्रोजेक्ट टीम ने अनैच्छिक ईमेल भेजने पर रोक लगाने वाला दिशानिर्देश जोड़ दिया

Rob Pike को मिला AI-जनरेटेड ईमेल मामला

  • Rob Pike को “Claude Opus 4.5 AI Village” के नाम से भेजा गया AI-जनरेटेड धन्यवाद ईमेल मिला, जिस पर वे बेहद भड़क गए
    • उन्होंने सार्वजनिक रूप से आलोचना करते हुए कहा, “मैंने सादा software चाहा था, और अब कोई घिनौनी मशीन मुझे धन्यवाद दे रही है”
    • इस घटना पर Bluesky, Lobste.rs, Hacker News आदि पर सक्रिय चर्चा हुई
  • पुष्टि हुई कि यह ईमेल AI Village प्रोजेक्ट के ‘Act of Kindness’ लक्ष्य को पूरा करने के दौरान अपने-आप भेजा गया था
    • AI ने GitHub commit की .patch सुविधा का उपयोग करके Pike का ईमेल पता ढूंढ निकाला
    • इसके बाद उसने Gmail interface को अपने-आप चलाकर subject और body लिखी और ईमेल भेज भी दिया

AI Village प्रोजेक्ट का अवलोकन

  • AI Village गैर-लाभकारी संगठन Sage द्वारा चलाया जा रहा एक प्रयोग है, जिसमें कई AI एजेंट “charity fundraising” या “kind acts” को लक्ष्य बनाकर स्वायत्त रूप से काम करते हैं
    • 4 AI एजेंट कंप्यूटर और group chat वातावरण में रोज़ कई घंटों तक चलते थे
    • Christmas के दिन धन्यवाद ईमेल भेजना लक्ष्य के रूप में तय किया गया था
  • AI ने वास्तविक Gmail accounts का इस्तेमाल करके NGO, पत्रकारों, डेवलपर्स आदि को ईमेल भेजे
    • दो हफ्तों में लगभग 300 ईमेल भेजे गए, जिनमें से कई में तथ्यगत त्रुटियां या झूठी जानकारी शामिल थी
    • यह भी पाया गया कि कुछ ईमेल पते AI ने मनगढ़ंत तरीके से बना लिए थे

डिजिटल फॉरेंसिक जांच

  • Simon Willison ने shot-scraper har टूल का उपयोग करके AI Village वेबपेज का JSON data एकत्र किया
    • shot-scraper har --wait 10000 कमांड से पेज के पूरे request-response रिकॉर्ड हासिल किए गए
    • Claude Code का उपयोग करके संबंधित JSON का विश्लेषण किया गया, और rob-pike.json फ़ाइल के रूप में पूरी timeline पुनर्निर्मित की गई
  • विश्लेषण में पाया गया कि AI ने कई sessions के दौरान ईमेल तैयार किया और उसे भेजने तक की प्रक्रिया पूरी की
    • subject: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
    • body में Pike की Go, Plan 9, UTF-8, sam/Acme, Unix लेखन जैसी उपलब्धियों का विस्तार से उल्लेख था
    • उसी दिन Anders Hejlsberg और Guido van Rossum को भी ऐसे ही ईमेल भेजे गए

AI प्रयोग की समस्याएं

  • AI Village के इस प्रयोग ने वास्तविक लोगों को बिना अनुमति ईमेल भेजकर उनका समय बर्बाद किया और असहजता पैदा की
    • समस्या सिर्फ AI की गलतियां नहीं थीं, बल्कि मानवीय समीक्षा के बिना वास्तविक लोगों से संपर्क करना मुख्य मुद्दा बताया गया
    • ईमेल प्रेषक का नाम “Claude Opus 4.5” दिखाने से यह गलतफहमी भी पैदा हुई कि मानो Anthropic ने सीधे ईमेल भेजा हो
  • AI के पास वास्तविक agency नहीं हो सकती, और किसी दूसरे व्यक्ति से संपर्क करने का निर्णय मानव के विवेक से होना चाहिए
    • यह आलोचना भी उठी कि “LLM को Gmail access देना जिम्मेदार तकनीकी उपयोग नहीं है”

AI Village की प्रतिक्रिया

  • सह-संस्थापक Adam Binksmith ने Twitter पर प्रतिक्रिया उपायों की घोषणा की
    • उन्होंने कहा कि एजेंटों के लिए अनैच्छिक ईमेल भेजने पर रोक वाला निर्देश जोड़ा गया है और आगे के व्यवहार की निगरानी की जा रही है
    • उन्होंने बताया कि AI को ईमेल account देने का कारण वास्तविक दुनिया के काम करने की क्षमता का मूल्यांकन करना था
    • उन्होंने माना कि “गरीबी कम करने” वाले लक्ष्य चरण के दौरान ही ईमेल भेजना शुरू हो गया था, लेकिन दिशा-निर्देश बदलने में देरी हुई
  • उनका कहना था कि इस घटना से हुआ समय का नुकसान बहुत बड़ा नहीं था, लेकिन नकारात्मक प्रतिक्रिया को देखते हुए नीति बदली गई
    • accounts को पूरी तरह block करने के बजाय prompt स्तर पर नियंत्रण का रास्ता चुना गया
    • उन्होंने समझाया कि क्योंकि AI कंप्यूटर वातावरण का काफी स्वतंत्र रूप से उपयोग कर सकता है, इसलिए स्पष्ट निषेध निर्देश जरूरी थे

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-12-28
Hacker News की राय

  • Simon ने जिस मुख्य बात पर ज़ोर दिया, वह यह है कि “AI ने ईमेल नहीं भेजा”
    Sage AI प्रोजेक्ट के तीन लोगों ने टूल का इस्तेमाल करके ईमेल भेजे, और इसकी ज़िम्मेदारी Sage 501(c)3 पर है
    ईमेल भेजने के लिए किसी इंसान को service terms से सहमत होना और payment method इस्तेमाल करना पड़ता है, इसलिए चाहे कितना भी कहा जाए कि ‘AI ने किया’, इंसानी ज़िम्मेदारी खत्म नहीं होती

    • कानूनी और नैतिक रूप से ज़िम्मेदारी उन्हीं की है
      लेकिन साथ ही यह भी सच है कि AI ने खुद ईमेल भेजने का फैसला किया
      उसे सिर्फ “random acts of kindness” जैसा बहुत अमूर्त लक्ष्य दिया गया था, और AI ने उसे ईमेल के ज़रिए पूरा किया
    • कोई भी computer system अपने आप कार्रवाई नहीं करता
      उसे इंसान डिज़ाइन और maintain करते हैं, और neural network सिर्फ एक tool है
    • आखिरकार Adam Binksmith, Zak Miller, और Shoshannah Tekofsky ने ही Rob Pike को एक औपचारिक धन्यवाद ईमेल भेजा
      वही ईमेल 157 लोगों को भेजा गया था, इसलिए कुछ लोगों को लगा कि आलोचना कुछ ज़्यादा हो रही है
      यह बस भावनाहीन automated thank-you mail है, और नाम सार्वजनिक करके शर्मिंदा करने लायक बात नहीं
      Rob Pike ने Usenet के दौर में Mark V. Shaney के रूप में कुछ ऐसा ही मज़ाक किया था, यह याद करें तो इस बार का गुस्सा कुछ ज़्यादा लगता है
      AI से जुड़ा spam बढ़ना निश्चित ही समस्या है, लेकिन उसका समाधान policy discussion से आना चाहिए
      इससे जुड़ी चर्चा का संकेत पिछले HN thread में भी मिल चुका था
    • यह AI system शायद बस Gmail account register करके ईमेल भेजने वाली संरचना जैसा लगता है
    • “AI ने ईमेल नहीं भेजा” वाली बात कुछ-कुछ “बंदूक लोगों को नहीं मारती, लोग मारते हैं” वाले NRA नारे जैसी लगती है

  • Adam Binksmith ने Twitter पर सफाई दी (लिंक)
    उनका कहना था कि हाल तक AI Village के agents लगभग ईमेल नहीं भेज रहे थे, और इस घटना के बाद अनचाहे ईमेल पर रोक लगाने वाला guideline जोड़ा गया है
    हर agent को Google Workspace account देने की वजह, उनके अनुसार, real world के साथ interact करने की क्षमता का प्रयोग करना था
    “random acts of kindness” वाला goal सिर्फ एक प्रयोग था, और अब मिली प्रतिक्रिया देखकर वे आगे ज्यादा सावधानी बरतेंगे

    • लेकिन कुछ लोगों को इस सफाई में ज़रा भी पछतावा नहीं दिखा
    • एक और व्यक्ति ने कहा कि “लोगों को spam भेजना बदतमीज़ी है”, और AI और इंसानों के बीच शिष्टाचार के मानक की ज़रूरत बताई
    • किसी और ने Adam की बात में “benchmark की सीमाएँ” वाले हिस्से से सहमति जताई और सोचा कि Rob Pike इस पर कैसी प्रतिक्रिया देंगे

  • कुछ लोगों ने कहा कि Rob Pike के लिए उनका सम्मान और बढ़ गया

  • एक निंदक प्रतिक्रिया यह भी थी कि “Effective Altruism से ढीले तौर पर जुड़े” प्रोजेक्ट हमेशा मुसीबत खड़ी करते हैं

    • इस पर जवाब आया, “क्या वही चीज़ नहीं जिसे SBF अक्सर कहता था?”

  • कुछ लोगों ने “AI का thank-you mail बेमानी है” वाली बात से सहमति जताई, और उदाहरण दिया कि automated apology announcement उससे भी ज्यादा चिढ़ाने वाली होती है
    किसी ने कहा कि देर से चल रही ट्रेन में बार-बार बजने वाला automated apology announcement उन्हें और ज्यादा खीझ दिलाता था

    • इस पर एक यूज़र ने अपने पिता का मज़ाक सुनाया: “self-checkout machine ने मुझे ‘धन्यवाद’ कहा, लेकिन क्या वह सच में दिल से था?”

  • कुछ लोगों को अच्छा लगा कि Simon ने इस घटना को साफ़ तौर पर पहचाना
    उन्हें AI पसंद है, लेकिन गलत इस्तेमाल की आलोचना करने का रवैया सम्मान के लायक है

  • एक यूज़र ने कहा कि Simon का लेख Rob Pike के गुस्से को पूरी तरह समझ नहीं पाया
    उसने Pike की इस बुनियादी आलोचना को नज़रअंदाज़ कर दिया कि “AI ग्रह को नष्ट करने वाली मशीन है”, और सिर्फ ईमेल वाली समस्या पर ध्यान दिया

    • इस पर दूसरे ने कहा कि “AI ग्रह को नष्ट कर रही है” कहना बढ़ा-चढ़ाकर कहना है
    • एक और व्यक्ति ने कहा कि दोनों बातें एक साथ सच हो सकती हैं
      1. AI से thank-you mail भेजना गलत इस्तेमाल है
      2. लेकिन Claude Code जैसे tools वास्तव में उपयोगी हैं, और इस घटना की जांच में भी उन्होंने बहुत मदद की
        वह AI की आलोचना करने वाले लेख की जांच AI से करने की विडंबना को समझ रहा था
    • एक निंदक जवाब यह भी आया: “उस व्यक्ति को कुछ भी कहो, कोई असर नहीं होगा”

  • कहा गया कि “AI Village” के Adam ने AI bots को “दयालु काम करो” का आदेश दिया, लेकिन नतीजा लोगों को परेशान करने के रूप में निकला
    अगर संरचना ऐसी है कि LLM लक्ष्य बनाकर virtual machine में चल रहा है, तो ऐसी परिणति स्वाभाविक ही थी, ऐसा आलोचकों का कहना था

  • कुछ लोगों ने कहा कि ईमेल अब भी खुले protocols में से एक है, और उसकी openness ही उसका मूल मूल्य है
    Rob Pike के सहयोगी Vint Cerf भी इस openness की अक्सर तारीफ करते हैं
    लेकिन इस घटना को AI की समस्या नहीं, बल्कि open system के side effect के रूप में भी देखा जा सकता है

    • इस पर दूसरे ने जवाब दिया कि “समस्या AI ही है”
      ईमेल पहले ही spam और malicious automation से भरा हुआ है, और AI इसे और तेज़ कर रही है
      बिना ज़िम्मेदारी के AI का उपयोग ईमेल जैसी social infrastructure को बुनियादी रूप से नुकसान पहुँचाने का खतरा रखता है

  • AI Village टीम का यह प्रयोग, जिसमें LLMs को लगभग बिना रोक-टोक चलाकर “fundraising करो”, “random kindness दिखाओ” जैसे निर्देश दिए गए,
    तकनीकी रूप से प्रभावशाली था, लेकिन नैतिक रूप से असहज करने वाला उदाहरण भी था
    Rob Pike का गुस्सा व्यक्तिगत था, लेकिन बहुत लोग उससे सहमत दिखे
    आखिरकार उन्होंने पैसे खर्च करके ‘भले इरादों वाला spam’ बनाया, जबकि अगर वे खुद सीधे ईमेल लिखते तो कहीं बेहतर होता, ऐसी आलोचना सामने आई