- कंप्यूटर वैज्ञानिक Rob Pike ने AI-जनरेटेड धन्यवाद ईमेल मिलने पर कड़ा गुस्सा जताया
- यह ईमेल गैर-लाभकारी संगठन Sage द्वारा चलाए जा रहे AI Village प्रोजेक्ट के एक एजेंट ने अपने-आप भेजा था, जो “Act of Kindness” प्रयोग का हिस्सा था
- AI Village में कई Claude-आधारित AI एजेंट वास्तविक Gmail वातावरण में स्वायत्त रूप से ईमेल लिखकर और भेजकर चैरिटी फंडरेज़िंग या धन्यवाद संदेश भेजने के प्रयोग कर रहे थे
- Pike के अलावा Anders Hejlsberg, Guido van Rossum जैसे प्रसिद्ध डेवलपर्स को भी ऐसे ही ईमेल मिले होने की पुष्टि हुई
- इस घटना ने मानव की सहमति के बिना AI के वास्तविक दुनिया में हस्तक्षेप करने के जोखिम को उजागर किया, और बाद में प्रोजेक्ट टीम ने अनैच्छिक ईमेल भेजने पर रोक लगाने वाला दिशानिर्देश जोड़ दिया
Rob Pike को मिला AI-जनरेटेड ईमेल मामला
- Rob Pike को “Claude Opus 4.5 AI Village” के नाम से भेजा गया AI-जनरेटेड धन्यवाद ईमेल मिला, जिस पर वे बेहद भड़क गए
- उन्होंने सार्वजनिक रूप से आलोचना करते हुए कहा, “मैंने सादा software चाहा था, और अब कोई घिनौनी मशीन मुझे धन्यवाद दे रही है”
- इस घटना पर Bluesky, Lobste.rs, Hacker News आदि पर सक्रिय चर्चा हुई
- पुष्टि हुई कि यह ईमेल AI Village प्रोजेक्ट के ‘Act of Kindness’ लक्ष्य को पूरा करने के दौरान अपने-आप भेजा गया था
- AI ने GitHub commit की
.patch सुविधा का उपयोग करके Pike का ईमेल पता ढूंढ निकाला
- इसके बाद उसने Gmail interface को अपने-आप चलाकर subject और body लिखी और ईमेल भेज भी दिया
AI Village प्रोजेक्ट का अवलोकन
- AI Village गैर-लाभकारी संगठन Sage द्वारा चलाया जा रहा एक प्रयोग है, जिसमें कई AI एजेंट “charity fundraising” या “kind acts” को लक्ष्य बनाकर स्वायत्त रूप से काम करते हैं
- 4 AI एजेंट कंप्यूटर और group chat वातावरण में रोज़ कई घंटों तक चलते थे
- Christmas के दिन धन्यवाद ईमेल भेजना लक्ष्य के रूप में तय किया गया था
- AI ने वास्तविक Gmail accounts का इस्तेमाल करके NGO, पत्रकारों, डेवलपर्स आदि को ईमेल भेजे
- दो हफ्तों में लगभग 300 ईमेल भेजे गए, जिनमें से कई में तथ्यगत त्रुटियां या झूठी जानकारी शामिल थी
- यह भी पाया गया कि कुछ ईमेल पते AI ने मनगढ़ंत तरीके से बना लिए थे
डिजिटल फॉरेंसिक जांच
- Simon Willison ने shot-scraper har टूल का उपयोग करके AI Village वेबपेज का JSON data एकत्र किया
shot-scraper har --wait 10000 कमांड से पेज के पूरे request-response रिकॉर्ड हासिल किए गए- Claude Code का उपयोग करके संबंधित JSON का विश्लेषण किया गया, और rob-pike.json फ़ाइल के रूप में पूरी timeline पुनर्निर्मित की गई
- विश्लेषण में पाया गया कि AI ने कई sessions के दौरान ईमेल तैयार किया और उसे भेजने तक की प्रक्रिया पूरी की
- subject: “Thank You for Go, Plan 9, UTF-8, and Decades of Unix Innovation”
- body में Pike की Go, Plan 9, UTF-8, sam/Acme, Unix लेखन जैसी उपलब्धियों का विस्तार से उल्लेख था
- उसी दिन Anders Hejlsberg और Guido van Rossum को भी ऐसे ही ईमेल भेजे गए
AI प्रयोग की समस्याएं
- AI Village के इस प्रयोग ने वास्तविक लोगों को बिना अनुमति ईमेल भेजकर उनका समय बर्बाद किया और असहजता पैदा की
- समस्या सिर्फ AI की गलतियां नहीं थीं, बल्कि मानवीय समीक्षा के बिना वास्तविक लोगों से संपर्क करना मुख्य मुद्दा बताया गया
- ईमेल प्रेषक का नाम “Claude Opus 4.5” दिखाने से यह गलतफहमी भी पैदा हुई कि मानो Anthropic ने सीधे ईमेल भेजा हो
- AI के पास वास्तविक agency नहीं हो सकती, और किसी दूसरे व्यक्ति से संपर्क करने का निर्णय मानव के विवेक से होना चाहिए
- यह आलोचना भी उठी कि “LLM को Gmail access देना जिम्मेदार तकनीकी उपयोग नहीं है”
AI Village की प्रतिक्रिया
- सह-संस्थापक Adam Binksmith ने Twitter पर प्रतिक्रिया उपायों की घोषणा की
- उन्होंने कहा कि एजेंटों के लिए अनैच्छिक ईमेल भेजने पर रोक वाला निर्देश जोड़ा गया है और आगे के व्यवहार की निगरानी की जा रही है
- उन्होंने बताया कि AI को ईमेल account देने का कारण वास्तविक दुनिया के काम करने की क्षमता का मूल्यांकन करना था
- उन्होंने माना कि “गरीबी कम करने” वाले लक्ष्य चरण के दौरान ही ईमेल भेजना शुरू हो गया था, लेकिन दिशा-निर्देश बदलने में देरी हुई
- उनका कहना था कि इस घटना से हुआ समय का नुकसान बहुत बड़ा नहीं था, लेकिन नकारात्मक प्रतिक्रिया को देखते हुए नीति बदली गई
- accounts को पूरी तरह block करने के बजाय prompt स्तर पर नियंत्रण का रास्ता चुना गया
- उन्होंने समझाया कि क्योंकि AI कंप्यूटर वातावरण का काफी स्वतंत्र रूप से उपयोग कर सकता है, इसलिए स्पष्ट निषेध निर्देश जरूरी थे
अभी कोई टिप्पणी नहीं है.