Cursor IDE की AI सपोर्ट सिस्टम में hallucination से यूज़र्स में भ्रम

 (old.reddit.com)
1 पॉइंट द्वारा GN⁺ 2025-04-16 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Cursor IDE का एक बड़ा फ़ायदा यह है कि इसमें कई डिवाइस पर एक साथ लॉगिन करके काम स्विच किया जा सकता है
  • लेकिन एक समय के बाद ऐसी समस्या आने लगी कि यूज़र डेस्कटॉप से लैपटॉप पर स्विच करें या कई डिवाइस पर लॉगिन करें, तो वे अपने-आप लॉगआउट हो जाते थे
  • यह बिना किसी चेतावनी या नोटिफ़िकेशन के लॉगआउट करता था, जिससे यूज़र्स भ्रमित हो गए
  • कई डिवाइस पर काम करना डेवलपर्स के लिए ज़रूरी फ़ीचर है, इसलिए इस अचानक रोक को यूज़र्स ने स्वाभाविक रूप से नई policy समझ लिया

सपोर्ट सिस्टम की "झूठी policy गाइडेंस"

  • जब यूज़र्स ने Cursor के सपोर्ट ईमेल पर पूछताछ भेजी, तो जवाब मिला: "यह नई login policy के अनुसार सामान्य व्यवहार है"
  • समस्या यह थी कि यह जवाब किसी असली इंसान ने नहीं बल्कि AI chatbot ने बनाया था, और यह वास्तविक policy नहीं बल्कि झूठी जानकारी थी
  • AI द्वारा अपने-आप बनाई गई यह व्याख्या यूज़र्स के बीच तेज़ी से फैल गई और इसे आधिकारिक policy समझ लिया गया
  • कई यूज़र्स ने इस झूठी जानकारी के आधार पर सार्वजनिक रूप से subscription cancel करने की घोषणा की और Cursor पर भरोसा खो दिया

कम्युनिटी की प्रतिक्रिया और जवाबदेही की कमी

  • स्थिति साझा करने और समस्या पर चर्चा करने वाला Reddit का मुख्य thread lock करने के बाद delete कर दिया गया
  • इससे यह लगा कि घटना पर कोई आधिकारिक प्रतिक्रिया या स्पष्टीकरण दिए बिना चुप्पी बनाए रखी गई
  • हक़ीक़त में यह कोई policy बदलाव नहीं बल्कि backend session handling की साधारण गड़बड़ी थी, लेकिन AI द्वारा बनाई गई व्याख्या ने उससे भी ज़्यादा नुकसान किया

घटना का महत्व

  • यह घटना सिर्फ़ एक तकनीकी गलती नहीं थी, बल्कि इस बात का उदाहरण थी कि AI सपोर्ट सिस्टम यूज़र भरोसा तोड़ सकते हैं
  • जब असली टीम की जगह AI ग्राहक सहायता संभालता है, तो "hallucination" जैसी स्थिति पैदा हो सकती है, जिसमें झूठी जानकारी बन जाती है, और उसका नुकसान बड़ा हो सकता है
  • यूज़र्स के साथ कम्युनिकेशन में पारदर्शिता की कमी और AI सिस्टम के कमजोर प्रबंधन का मेल गंभीर नतीजे ला सकता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-04-16
Hacker News राय

  • लोग बड़ी मेहनत से यह दावा कर रहे हैं कि hallucination अब कोई बड़ी समस्या नहीं रही, लेकिन विडंबना यह है कि इस कहानी से फायदा उठाने वाली कंपनी को ही सीधे नुकसान हो रहा है

    • बेशक, वे इस समस्या को नज़रअंदाज़ करने की कोशिश करेंगे
    • यह मानने से तो बेहतर है कि यह समस्या अब भी मौजूद है और आसानी से गायब नहीं होगी

  • LLM को लेकर असहज महसूस होता है

    • समझ नहीं आता कि कोई स्वाभिमानी software developer ऐसी चीज़ क्यों इस्तेमाल करेगा
    • अच्छा software लिखना सीखना चाहिए और उस क्षेत्र का expert बनना चाहिए
    • AI software की value घटाता है, process को बिगाड़ता है, और भविष्य के junior developers के skill development की उम्मीद पूरी तरह खत्म कर देता है
    • Debian, Python, Vim का इस्तेमाल जारी रखूंगा
    • LLM, LSP, autocomplete के बिना भी गर्व के साथ ऐसा code लिखूंगा जिसे maintain करना आसान हो

  • साज़िश वाली सोच से देखें तो ऐसा लगता है कि वे policy change का दोष "AI support agent" पर डालकर चाहते हैं कि कोई ज़्यादा गहराई में न जाए

    • कंपनी पर सामान्य अविश्वास के अलावा इससे जुड़ी कोई जानकारी या वजह नहीं है

  • मूल Reddit पोस्ट का archive link दिया गया है

  • इसलिए नहीं कि मुझे लगा policy change सच है, बल्कि इसलिए कि इसने मुझे याद दिला दिया कि मैंने इस महीने इसे ज़्यादा इस्तेमाल नहीं किया, इसलिए subscription cancel कर दी

  • Cursor अजीब है

    • उसके शायद ही इस्तेमाल होने वाले GitHub पर हजारों unresolved issues हैं
    • उसमें VSCode से ज़्यादा bugs हैं
    • मैं इसे हर दिन इस्तेमाल करता हूँ और पैसे भी देता हूँ, लेकिन मुझे यह पसंद नहीं है
    • जब आप ऐसा product बना लेते हैं जिसे लोग नापसंद करते हुए भी इस्तेमाल करें, तो आप सफल हो गए
    • सोचता हूँ कि क्या कोई और alternatives हैं
    • Continue को आज़माया, लेकिन tab completion और typing experience निराशाजनक था

  • Cursor उन users के साथ बिल्ली-चूहे के खेल में फँसा है जो नए accounts बनाकर असीमित इस्तेमाल करने वाला "hack" कर रहे हैं

    • यह GitHub पर trending भी हुआ था
    • Cursor को अपना VSCode fork maintain करने में हमेशा दिक्कत होगी
    • इस क्षेत्र की दूसरी कंपनियाँ तेज़ी से बढ़ रही हैं, और मैं भी Roo और Cline पर switch करना शुरू कर चुका हूँ

  • "दर्जनों users ने सार्वजनिक रूप से subscription cancel की" — इसका सबूत क्या है?

    • comments में कुल 4 users ने कहा कि उन्होंने subscription cancel की है या करेंगे, जिनमें से 3/4 ने कहा कि अगर यह समस्या सच हुई या उनके साथ हुई तो वे cancel करेंगे
    • केवल 1 व्यक्ति ने कहा कि उसने पहले ही cancel कर दी है
    • जानना चाहता हूँ कि क्या कहीं और भी इस पर चर्चा हो रही है

  • Reddit की top post में:

    • भ्रम के लिए माफ़ी है
    • अगर माफ़ी सचमुच ईमानदार होती, तो वे support के लिए chatbot इस्तेमाल करने की कोशिश बंद कर देते

  • यह मामला इतिहास में ऐसे उदाहरण के रूप में याद रखा जाएगा जहाँ AI hype, AI की actual capability से आगे निकल गई