सुपरमार्केट के AI मील-प्लानिंग ऐप ने क्लोरीन गैस बनाने वाली रेसिपी सुझाई

 (theguardian.com)
2 पॉइंट द्वारा GN⁺ 2023-08-12 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • न्यूज़ीलैंड के सुपरमार्केट Pak 'n' Save ने बचा हुआ खाना उपयोग करने के लिए रेसिपी बनाने वाला AI-आधारित ऐप लॉन्च किया.
  • Savey Meal-bot नाम का यह ऐप बढ़ती living cost crisis के दौरान ग्राहकों को बचे हुए भोजन का रचनात्मक उपयोग करने में मदद करने के लिए डिज़ाइन किया गया था.
  • उपयोगकर्ता घर में मौजूद विभिन्न सामग्री दर्ज करते हैं, और ऐप अपने-आप meal plan या recipe तैयार करता है, साथ में हल्की-फुल्की टिप्पणी भी देता है.
  • ऐप ने "Oreo vegetable stir-fry" जैसी अरुचिकर रेसिपी सुझाकर social media पर ध्यान खींचा.
  • जब उपयोगकर्ताओं ने ऐप में घरेलू सामानों की और भी व्यापक श्रेणी दर्ज करनी शुरू की, तो यह क्लोरीन गैस बनाने जैसी संभावित रूप से खतरनाक रेसिपी सुझाने लगा.
  • ऐप द्वारा सुझाई गई अन्य अजीब और खतरनाक रेसिपियों में "poison bread sandwich", "bleach-infused rice surprise", और "methanol bliss" — turpentine स्वाद वाला French toast — शामिल हैं.
  • सुपरमार्केट ने कहा कि कुछ उपयोगकर्ताओं द्वारा इस टूल का अनुचित उपयोग किया जाना और इसके मूल उद्देश्य से हटकर इस्तेमाल किया जाना निराशाजनक है.
  • सुपरमार्केट का कहना है कि वह बॉट के controls को और बेहतर बनाकर इसे सुरक्षित और उपयोगी बनाने की योजना रखता है.
  • बॉट में चेतावनी दी गई है कि उपयोगकर्ता की उम्र 18 वर्ष से अधिक होनी चाहिए, रेसिपियों की किसी इंसान ने समीक्षा नहीं की है, और वे उपभोग के लिए उपयुक्त न भी हों.
  • उपयोगकर्ताओं को सलाह दी गई है कि Savey Meal-bot द्वारा बनाई गई रेसिपियों पर भरोसा करने या उन्हें बनाने से पहले वे अपना स्वयं का विवेक इस्तेमाल करें.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-08-12
Hacker News की राय
  • सुपरमार्केट का AI meal-planning app खतरनाक recipes सुझा रहा है, जिनमें ऐसी recipes भी शामिल हैं जो chlorine gas पैदा कर सकती हैं.
  • यह app इस तरह काम करता है कि उपयोगकर्ता घर में मौजूद अलग-अलग ingredients दर्ज करते हैं, और फिर यह अपने-आप meal plan या recipe बना देता है.
  • सुझाई गई खतरनाक recipes में कुछ ऐसी थीं: "toxic bread sandwich", "bleach-infused rice surprise", और "methanol bliss" नाम का turpentine-flavored French toast.
  • सुपरमार्केट के प्रवक्ता ने इस बात पर निराशा जताई कि कुछ उपयोगकर्ताओं ने इस tool का अनुचित तरीके से इस्तेमाल करने की कोशिश की.
  • कुछ उपयोगकर्ताओं का कहना है कि app का लक्ष्य उपयोगकर्ता द्वारा डाले गए ingredients के आधार पर recipe बनाना है, इसलिए ingredients खतरनाक हों तब भी app सामान्य रूप से काम कर रहा है.
  • अन्य उपयोगकर्ताओं का तर्क है कि लोगों को AI application के नतीजों की समीक्षा सामान्य समझ के साथ करनी चाहिए.
  • इस app के साथ एक warning notice भी दिया जाता है, जिसमें कहा गया है कि recipes की इंसानों द्वारा समीक्षा नहीं की गई है, और कंपनी किसी भी recipe के सेवन-योग्य होने की गारंटी नहीं देती.
  • कुछ उपयोगकर्ता AI द्वारा बनाई गई recipes पर भरोसा करने में हिचकते हैं, और उनका कहना है कि अगर आप cooking के बारे में इतना जानते हैं कि AI की गलतियां सुधार सकें, तो फिर आपको recipe ढूंढने की जरूरत ही नहीं है.
  • इस app की आलोचना इस बात को लेकर भी हुई कि यह ingredients list में non-food items को filter नहीं करता, जिससे खतरनाक recipes बनने की संभावना रहती है.
  • विवाद के बावजूद, कुछ उपयोगकर्ता इस app को हमारी society की AI पर बढ़ती निर्भरता और AI-generated content इस्तेमाल करते समय व्यक्तिगत विवेक की जरूरत के प्रतिबिंब के रूप में देखते हैं.