Generative AI से बनी "mushroom identification book" देखने के बाद जहरीले मशरूम खाने से एक परिवार अस्पताल में भर्ती

 (old.reddit.com)
3 पॉइंट द्वारा GN⁺ 2024-08-17 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • पिछले हफ्ते पूरे परिवार ने गलती से जहरीले मशरूम खा लिए, जिसके बाद उन्हें अस्पताल में भर्ती होना पड़ा
  • पत्नी ने जन्मदिन के लिए एक बड़े ऑनलाइन रिटेलर से "Mushrooms UK: A Guide to Harvesting Safe and Edible Mushrooms" जैसे शीर्षक वाली एक किताब खरीदी थी
  • किताब में हर मशरूम की पहचान करने में मदद के लिए मशरूम की तस्वीरें शामिल थीं
  • दुर्भाग्य से, संबंधित किताब सटीक नहीं थी। गहराई से जांच करने पर पता चला कि मशरूम की तस्वीरें AI-generated थीं, और टेक्स्ट में दो तरह की समस्याएं मिलीं: हर वाक्य के अंत में "random question" या "fourth wall तोड़ने वाला वाक्य" जुड़ा हुआ था
  • उदाहरण के लिए:
    • "निष्कर्षतः, morel अगस्त से गर्मियों के अंत तक खाया जा सकने वाला स्वादिष्ट मशरूम है। अगर मैं आपकी किसी और तरह मदद कर सकता हूँ तो मुझे बताइए।"
  • ऑनलाइन रिटेलर ने जवाब दिया कि किताब लौटाने पर रिफंड दिया जाएगा
  • इस किताब की बिक्री उस ऑनलाइन रिटेलर पर बंद कर दी गई है, लेकिन इसी तरह की शैली की दर्जनों और किताबें मौजूद लगती हैं
  • स्पष्ट कर दूँ: "खरीदते समय हमें पता नहीं था कि यह AI से बनाई गई है! वेबसाइट पर इसका खुलासा नहीं किया गया था!"

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-08-17
Hacker News की राय

  • इस बात पर ज़ोर दिया गया कि AI पब्लिशिंग पर रेगुलेशन की ज़रूरत है

    • यह इंगित किया गया कि "University of East Ontario" नाम की कोई संस्था मौजूद नहीं है, और इसे आपराधिक लापरवाही माना गया

  • दावा किया गया कि जब जनरेटिव AI को ऐसी स्थितियों में इस्तेमाल किया जाता है जहाँ वास्तविक नतीजे ज़रूरी हों, तो यह काम नहीं करता

    • मौजूदा AI सिर्फ़ एक साधारण autocomplete फ़ंक्शन है और यह उस संदर्भ को नहीं समझता जिसमें इसका उपयोग किया जाता है
    • stock images या product page text के लिए यह ठीक हो सकता है, लेकिन महत्वपूर्ण परिस्थितियों में यह बेहद ख़तरनाक है

  • Reddit के "LegalAdvice" थ्रेड की विश्वसनीयता पर सवाल उठाया गया

    • यह बताया गया कि UK में अभी morel mushroom का सीज़न नहीं है

  • एक अधिक विश्वसनीय लेख साझा किया गया

    • यह बताया गया कि AI के ज़रिए mushroom identification की सटीकता कम है
    • Apple, Google, OpenAI, Microsoft ने इस पर कोई टिप्पणी नहीं की

  • Tiktok और Facebook पर influencers द्वारा ग़लत plant information साझा करने के मामलों का ज़िक्र किया गया

    • कई बार ख़तरनाक पौधों को food या skincare इस्तेमाल के लिए ग़लत तरीके से प्रमोट किया जाता है

  • दावा किया गया कि Reddit के ज़्यादातर "advice" पोस्ट मनगढ़ंत लिखे होते हैं

    • कहा गया कि वास्तविक सबूत सामने आने तक ग़ुस्सा रोककर रखा जाएगा

  • जनरेटिव AI की सीमाओं और उससे जुड़ी ज़िम्मेदारी के मुद्दे की ओर इशारा किया गया

    • AI कंपनियों को disclaimer और warning text जोड़ना चाहिए
    • यह स्पष्ट रूप से बताया जाना चाहिए कि LLM द्वारा बनाया गया कंटेंट ग़लत हो सकता है

  • online retailer के email पर शक जताया गया

    • product photos लेने पर रोक और तुरंत वापसी की मांग संदिग्ध लगी
    • account termination की धमकी शामिल होने के कारण इस कहानी को फ़र्ज़ी बताया गया

  • यह भी उल्लेख किया गया कि National Audubon Society Field Guide का ग़लत इस्तेमाल होने पर भी poisoning का ख़तरा हो सकता है

    • यह सिर्फ़ AI की समस्या नहीं है

  • AI-जनरेटेड legal advice पर आगे आने वाली शिकायतों की कल्पना कर हँसी पैदा की गई