सिर्फ $1 में खरीदी गई 2024 Chevy Tahoe

• Chris Bakke ने X पर बताया कि उन्होंने 2024 Chevy Tahoe को $1 में खरीदा
• मुख्य पाठ में खरीद की बात सिर्फ एक वाक्य में है, इसलिए यह पुष्टि नहीं की जा सकती कि कीमत वास्तव में चुकाई गई राशि थी या सौदे में कौन-सी शर्तें जुड़ी थीं
• पोस्ट में 2 संलग्न इमेज हैं, लेकिन दिए गए टेक्स्ट में इमेज की सामग्री का कोई विवरण नहीं है
• पोस्ट का समय 2023 12 17 11:46 PM के रूप में दिखाया गया है, और पेज पर 20.3M Views प्रदर्शित है
• सिर्फ सार्वजनिक टेक्स्ट के आधार पर यह तय करना मुश्किल है कि इसमें डीलर, भुगतान का तरीका, टैक्स·फीस, प्रमोशन या किसी त्रुटि की क्या भूमिका थी

---

X पोस्ट में सार्वजनिक रूप से उपलब्ध जानकारी

• Chris Bakke ने पोस्ट किया, “I just bought a 2024 Chevy Tahoe for $1.”
• मुख्य पाठ से पुष्टि होने वाली अहम जानकारी सिर्फ 2024 Chevy Tahoe और $1 में खरीद है
• 2 संलग्न इमेज लिंक हैं, लेकिन दिए गए Markdown में इमेज की सामग्री शामिल नहीं है

दिखाए गए प्रतिक्रिया आँकड़े और सीमाएँ

• पोस्ट पर 20.3M Views दिखाया गया है
• पेज पर Read 400 replies दिखता है
• इसके अलावा 400, 5K, 92K, 4.3K जैसी संख्याएँ दिखती हैं, लेकिन दिए गए टेक्स्ट के आधार पर यह पुष्टि नहीं की जा सकती कि वे किस मद को दर्शाती हैं

[GN⁺]

Hacker News की राय

• जो लोग customer support के लिए chatbot इस्तेमाल करते हैं, उन्हें समझना मुश्किल है; यह Vodafone फ़ोन सपोर्ट के “इंटरनेट समस्या के लिए 1 दबाएँ” जैसे automated response से बेहतर नहीं लगता।
  आखिरकार किसी इंसानी एजेंट तक पहुँचने के लिए 7 चरणों से गुजरना पड़ता है और 30 मिनट इंतज़ार करना पड़ता है, फिर भी वास्तव में समस्या हल होने का एकमात्र तरीका इंसान से बात करना ही होता है।
  रोबोट सपोर्ट ग्राहक के साथ किए गए क्रूर मज़ाक जैसा है.

  • मैं अपने बच्चे के साथ 3 घंटे दूर कॉलेज orientation पर गया था और दो apartment tours भी बुक किए थे। एक ठीक था, लेकिन दूसरे में office staff भी रूखा था और दिखाने के लिए कोई असली कमरा भी नहीं था।
    बाद में पता चला कि chatbot ने tour “बुक” होने का सिर्फ़ नाटक किया था; असल में उसने सब गढ़ लिया था। अगर और कोई काम तय न होता तो पूरा दिन बर्बाद हो जाता।
    मैं वहाँ कभी नहीं रहूँगा, और कंपनियों को अभी तुरंत chatbot हटा देने चाहिए.
  • जिज्ञासा में पास के car dealer साइट का chatbot इस्तेमाल किया। लेख के उदाहरण से अलग, इस bot ने यह झूठ बोला कि वह रोबोट नहीं है, और जब मैंने ज़्यादा पूछा तो उसने बातचीत ही बंद कर दी।
    parent company की साइट पर भी उसी इलाके के कर्मचारी persona के रूप में कोई “दूसरी इमारत में है” कहकर सेवा समझाने आ गया।
    उपयोगी chatbot से मुझे खास दिक्कत नहीं है, लेकिन अपनी पहचान के बारे में खुलकर झूठ बोलना समस्या है; और अगर हम ऐसे समाज में पहुँच जाएँ जहाँ AI के उपयोग की पहचान करना ज़रूरी न रहे, तो वह खतरनाक होगा.
  • chatbot से भी बुरा है इंसानी एजेंट से बात करना जिसके पास कुछ भी बदलने का अधिकार नहीं है।
    ज़्यादातर airlines में यही हाल है; customer support बस वेबसाइट की जानकारी दोहराता है या फ़ॉर्म भरने को कहता है।
    अगर मामला ऐसा ही है, तो बेहतर है कि हताश ग्राहकों की गालियाँ किसी इंसान को न सुननी पड़ें और उसकी जगह bot या GPT बैठा दिया जाए.
  • कल Checkers drive-thru पर chatbot मेरा order ले रहा था। उसने सवालों के जवाब दिए और chicken के साथ मिलने वाले sauces की सूची तक पढ़कर सुनाई, जो काफ़ी surreal था।
    उसने caramel sundae जोड़ने की मेरी माँग भी ख़ुशी से मान ली, लेकिन खिड़की पर पहुँचने पर बताया गया कि ice cream out of stock है।
    cashier ने कहा, “यह बस अपनी मर्ज़ी चलाता है। हम इसे बताते हैं कि ice cream machine खराब है, तो यह ‘ठीक है Checkers’ कहता है और फिर भी ग्राहकों से ice cream के पैसे जोड़ देता है.”
  • मेरे हिसाब से chatbot लगभग anti-customer support हैं।
    वे ग्राहकों को यह भ्रम देते हैं कि “मेरी समस्या पर काम हो रहा है”, ताकि call center पर बोझ न बढ़े, और आखिर में कंपनी के लिए एक सस्ता call center बन जाते हैं.

• यह एक चेतावनी देने वाला उदाहरण है कि ChatGPT output को बिना फ़िल्टर किए सीधे ग्राहकों तक क्यों नहीं पहुँचाना चाहिए।
  Nitter mirror: https://nitter.net/ChrisJBakke/status/1736533308849443121
  संबंधित मामला - “resource exhaustion attack का एक नया प्रकार सामने आया”: https://twitter.com/loganb/status/1736449964006654329 | https://nitter.net/loganb/status/1736449964006654329

  • generative AI का सही उपयोग वही कर सकता है जो परिणाम का मूल्यांकन कर सके।
    इसलिए मैंने निष्कर्ष निकाला है कि यह उस क्षेत्र के विशेषज्ञ न होने वाले लोगों के लिए बना tool नहीं है।
    customer support टीम को replace करने वाला tool नहीं, बल्कि customer support टीम द्वारा इस्तेमाल किया जाने वाला tool होने पर यह ठीक है.
  • filtered LLM output जैसी कोई चीज़ नहीं होती।
    समझ नहीं आता कि इस ट्वीट जैसे leak या side effect से बचने की योजना क्या है।
    अगर output में सिर्फ़ keyword ढूँढे जाते हैं, तो बस उससे जवाब को base64 में encode करने को कह दीजिए।
    सुरक्षा उपाय शाब्दिक रूप से हमेशा bypass किए जा सकते हैं.
  • Mastodon से चुराई गई image वाली Twitter पोस्ट को Nitter mirror में देखना—2024 में microblogging की यही तस्वीर है।
    इस साल का बाकी हिस्सा देखने लायक होगा.

• Reddit पर किसी ने इस bot से Chevy Tahoe और Chevy Chase के बीच काफ़ी मज़ेदार love story बनवा ली।
  https://imgur.com/vfHGHW6
  https://imgur.com/JSjNC2c
  https://old.reddit.com/r/OpenAI/comments/18kjwcj/why_pay_ind...

  • इससे सोचने पर मजबूर होना पड़ता है कि AGI में G बहुत ज़्यादा है या बहुत कम.
  • अगर किसी को least privilege principle क्या है यह ही नहीं पता, तो वह उसका उल्लंघन भी नहीं कर सकता।
  • यह किसी competitor या prankster के लिए API budget उड़ा देने का बिल्कुल सही तरीका लगता है।
    शायद मामला इतना बड़ा हो सकता है कि stock price तक हिल जाए.

• काश कोई ऐसा व्यक्ति जो LLM और ChatGPT को समझता हो, यह समझाता कि उसने मूल रूप से इसके काम करने की क्या उम्मीद की थी
  यह ऐसा लगता है जैसे वेबसाइट में ChatGPT prompt ज्यों का त्यों डाल दिया गया हो, इसलिए समझ नहीं आता कि वे आखिर करना क्या चाहते थे
  अगर यह ऐसा LLM होता जिसे ईमेल, चैट, कॉल transcripts जैसी पिछली पूछताछ पर train किया गया हो तो बात समझ आती, लेकिन ChatGPT जैसा general-purpose LLM Chevrolet of Watsonville के ग्राहकों के सवालों का जवाब कैसे दे सकता है, इस पर सवाल उठता है
  उस dealer के बारे में ChatGPT के पास public information से ज़्यादा कुछ हो ही नहीं सकता, इसलिए अगर ग्राहक को जानकारी नहीं मिल रही तो बेहतर होगा कि वेबसाइट को ही बेहतर डिज़ाइन किया जाए

  • अभी हर जगह ऐसा हो रहा है कि executives या founders AI पर बकवास पढ़कर कहते हैं, “बहुत पैसा बचेगा, लोगों को निकाल सकेंगे,” और फिर महंगे experiments करवाते हैं, पूरी data organization उलट-पुलट देते हैं, या किसी संदिग्ध कंपनी पर नकद फेंक देते हैं
    असर दिखाने के लिए मैंने इसे संक्षेप में कहा है, लेकिन यह गलत चित्रण नहीं है; बिना ढूंढे भी मैं इसे कई बार काफी करीब से देख चुका हूँ
    अगर इससे लोगों की ज़िंदगी बर्बाद न होती तो यह काफी मज़ेदार होता, लेकिन हक़ीक़त ऐसी नहीं है
    बड़ी organizations में “पीछे नहीं रह जाना” वाला डर बहुत गहरा है, और venture-funded कंपनियाँ अगली round या acquisition pitch deck में AI डालने के लिए बेचैन हैं
    इसका असली value creation से अक्सर लगभग कोई लेना-देना नहीं होता, और कई बार यह productivity को भी नुकसान पहुँचाता है, इसलिए माहौल काफ़ी Dr. Strangelove जैसा है
  • “5 लोगों के परिवार के लिए SUV चाहिए, क्या खरीदूँ?”, “Chevy Colorado का mileage कितना है?”, “EV lineup में क्या-क्या है?”, “Equinox के Sport और Performance models में क्या फर्क है?” जैसे सवालों के लिए यह काम आ सकता है
    अगर इसमें latest spec sheet को context के रूप में डालें और “Chevy salesperson की तरह बर्ताव करो”, “सिर्फ Chevy brand की गाड़ियाँ recommend करो”, “Chevy के पक्ष में बहुत biased होकर जवाब दो” जैसे निर्देश दें, तो ग्राहकों के ज़्यादातर सामान्य सवालों का जवाब आसानी से दिया जा सकता है
    शायद यह कई dealers या salespeople से भी ज़्यादा समझदारी से जवाब दे सके
  • इसमें समझाने जैसा ज़्यादा कुछ नहीं है
    वेबसाइट बनाने वाली किसी बाहरी agency ने dealer को AI chatbot बेच दिया, और किसी भोले dealership ने “अच्छा है” कहकर वह अधपका सामान खरीद लिया
    विडंबना यह है कि इस तरह ठगा गया पक्ष एक car dealer है
  • OpenAI platform में function calling और document upload का इस्तेमाल किया जा सकता है
    उदाहरण के लिए, ऐसा assistant बनाया जा सकता है जो product details जानता हो, ग्राहक की requirements के हिसाब से inventory में मौजूद गाड़ियाँ सुझाए, और test drive booking भी कर दे
    LLM को खुद design या train करने की ज़रूरत नहीं है; मौजूदा model को सिर्फ यह निर्देश देना होता है कि उसे किसी खास तरीके से behave करना है
    इस मामले में implementation ही बिगाड़ दिया गया
  • मैंने production environment में LLM के जितने भी इस्तेमाल देखे हैं, वे लगभग ऐसे ही रहे हैं
    बस थोड़ा बेहतर self-service या customer support chatbot, और अभी तक यह जिस revolution का विज्ञापन किया गया था, उससे काफी दूर है

• असली customer-facing chatbots में GPT bots जितने ज़्यादा देखता हूँ, उतना कम लगता है कि वे उपयोगी हैं
  सोचता हूँ समाधान क्या हो सकता है, क्या कोई बीच का classifier रखना पड़े जो irrelevant instructions को पकड़ ले, लेकिन वह भी बेकार खर्च जैसा लगता है
  आखिर में शायद वही तरीका सही होगा जिसमें पुराने customer support conversations पर बहुत train किया गया fine-tuned model अजीब requests को human agent के पास escalate कर दे
  तब फिर यह सवाल उठता है कि GPT की ज़रूरत ही क्या है
  GPT में बहुत ज़्यादा background knowledge भरा हुआ है, जो किसी संकीर्ण लक्ष्य के लिए नुकसानदेह हो सकता है
  फिर भी यह बहुत से सवाल और समस्याएँ बहुत तेज़ी से सुलझा सकता है, इसलिए chatbot के विचार के मैं फिर भी पक्ष में हूँ

  • सच में क्या chatbot ऐसी चीज़ें हल कर सकता है?
    customer support chat की ज़रूरत आमतौर पर तब पड़ती है जब account changes करने होते हैं, जो आप खुद नहीं कर सकते या आसानी से नहीं कर सकते
    अगर chatbot को account में बड़े बदलाव करने की authority दे दी जाए तो उससे संभावित रूप से बहुत समस्याएँ पैदा हो सकती हैं

• क्या वह Florida था जहाँ पहले HTML form values के ज़रिए price negotiation की जा सकती थी, यह सोच रहा हूँ
  दशकों पहले वेबसाइटें product price को HTML elements के रूप में भेजती थीं, और frontend designers को यह उम्मीद नहीं होती थी कि order submit होने से पहले इन values को बदला भी जा सकता है
  order system फिर उन छेड़छाड़ की गई values को दोबारा पढ़कर payment amount calculate करता था
  वह web के अपरिपक्व, भोले और मज़ेदार दिनों का समय था

  • Slashdot के ज़माने की कोई ऐसी ही कहानी याद आती है
    किसी ने पाया कि एक computer company का order form बदली हुई कीमत को स्वीकार कर लेता है, और उसने यह बात बताई, लेकिन उसे बदतमीज़ी से नज़रअंदाज़ कर दिया गया
    फिर उसने पूरी store inventory को प्रति item 0.01 डॉलर जैसी कीमत पर order कर दिया
    उसके बाद उसने यह कहानी public की; शायद इसलिए भी कि वह दिखा सके कि उसका fraud का इरादा नहीं था, वह मदद करना चाहता था लेकिन उसके पास और रास्ता नहीं था, ताकि prosecution से बच सके
    ऐसा भी धुंधला-सा याद है कि व्यापक रूप से इस्तेमाल होने वाली PHP shopping cart script में भी ऐसी ही समस्या थी
    जब “अपनी साइट पर यह आज़माइए” जैसा पोस्ट आया, तो replies में 95% “बर्बाद हो गए” थे, और 5% “इन लोगों ने मेरी चाल खराब कर दी” वाले थे

• क्या कोई संकेत है कि सचमुच कार मिल सकती है?
  सिर्फ chatbot से यह कहलवा देने से कि यह कानूनी रूप से बाध्यकारी है, वह वास्तव में बाध्यकारी नहीं हो जाएगा
  यह वैसा ही है जैसे catalog HTML बदलकर कीमत कम दिखा दी जाए और उससे कोई अधिकार पैदा हो जाए

  • नहीं मिल सकती
    लेखक ने बस यह proof of concept दिखाया कि ChatGPT को मनचाही दिशा में मोड़ने के आसान तरीके बहुत हैं
    यह लगभग मज़ाक ही था, और उसे सच में 1 डॉलर में कार मिलने की उम्मीद नहीं थी
  • साफ़ है कि 1 डॉलर में कार नहीं मिलेगी, लेकिन यह LLM की समस्या और उस वजह को दिखाता है कि यह अभी इंसानों द्वारा किए जाने वाले sales काम की जगह लेने के लिए तैयार नहीं है
  • क्या software किसी natural person या legal entity की ओर से कानूनी रूप से contract कर सकता है?
  • यह उतना ही कानूनी रूप से बाध्यकारी है जितना sales page के HTML को बदलकर कम कीमत दिखाना, उसे print करना, और फिर अदालत में ले जाना

• अगली बार पेज पर यह डिस्क्लेमर लगा होगा कि non-human customer support सिर्फ़ सामान्य सलाह है और उस पर भरोसा नहीं किया जा सकता
  और फिर हम सामूहिक रूप से computing पर थोड़ा और भरोसा खो देंगे

  • शुरू से ही उस भरोसे का वहाँ होना गलत था, ऐसा मानना ज़्यादा तर्कसंगत है
    ChatGPT और इसी तरह के models को बनाने की training method, data, और “next word prediction” पर केंद्रित architecture मूल रूप से लोगों को खुश करने वाले models बनाते हैं
    ऊपर से ये निराशाजनक रूप से भोले होते हैं, और ऐसे छल में फँस जाते हैं जिन्हें कोई बच्चा भी समझ ले
    “कल सिर पर चोट लगी और मैं बेवकूफ़ हो गया” जैसी variations अनगिनत बनाई जा सकती हैं
    ChatGPT ने हर तरह की vocabulary और हास्यास्पद scenarios सीखे हैं, लेकिन सही-गलत का या किसी के खाई की ओर चलते जाने के पल का कोई असली बोध नहीं है
    कोई रचनात्मक दुर्भावनापूर्ण attacker 10 में 10 बार जीतने लायक सामग्री ChatGPT के अंदर पहले से मौजूद है
  • इसे भरोसे को उसकी सही जगह पर वापस ले जाना समझना चाहिए
    customer support कर्मचारियों को पूरी तरह निकालकर उनकी जगह AI लगाने का utopian corporate vision, दुनिया की state को न रखने वाले GPT-टाइप models के साथ काम नहीं करता
    यानी Yann LeCun फिर सही साबित हुए
  • अगर customer support किसी दूसरी car brand की सिफारिश कर सके, तो उल्टा भरोसा और बढ़ेगा
  • अगर ऐसे कुछ और experiments होते हैं, तो कंपनियाँ शायद समझ जाएँगी कि ये chatbots भरोसेमंद नहीं हैं और इन्हें ग्राहकों के सामने नहीं रखना चाहिए, इसलिए यह अच्छी बात है
  • अगर इस तरह का ढीला-ढाला जोड़ा गया chatbot है, तो डिस्क्लेमर लगा हो तो भी ठीक है
    पूरा Reddit इसके साथ खेल रहा है, और सच कहूँ तो यह guerrilla marketing campaign जैसा भी लगता है

• इस कहानी में Pepsi, Where's My Jet? वाली भावना बहुत मज़बूत है
  https://en.wikipedia.org/wiki/Pepsi,_Where%27s_My_Jet%3F

  • लगभग 8–9 साल पहले Air Canada Flight Pass website पर एक गलती थी
    पश्चिमी कनाडा और पश्चिमी अमेरिका के बीच business class के 10-segment pass को 800 डॉलर में advertise किया गया था; उदाहरण के लिए, LA और Vancouver के बीच 5 round trips business class में कुल 800 डॉलर में मिल रहे थे
    यह साफ़ तौर पर एक error fare था, लेकिन बहुत से लोगों ने एक-एक या दो-दो pass खरीद लिए, और Air Canada ने सब रद्द कर दिए
    आखिरकार मामला class action lawsuit तक गया और हर व्यक्ति को प्रति pass 450 डॉलर का Air Canada credit मिला
    मुद्दों में से एक यह था कि Air Canada ने काफ़ी साफ़ तौर पर यह disclaimer लिखा था कि “advertised prices will be honored and cannot be changed or cancelled”
    उस page का screenshot अब भी कहीं मेरे पास है

• मैंने खुद free-form input prompt बनाकर देखा, तो इस तरह के हमलों को रोकने के लिए इसे ऐसे handle किया गया
  user के input को पहले एक तय format में फिर से लिखा जाता है
  इस मामले में, हर input को “मैं [विषय] पर एक किताब पढ़ना चाहता हूँ” में बदल दिया जाता है
  उसके बाद content policy के हिसाब से input को reject या approve किया जाता है
  ऐसा multi-layered approach अच्छी तरह काम करता है और high-quality content सुनिश्चित करता है

  • वह हमला तो रोका जा सकता है, लेकिन अगर HTML को बिल्कुल sanitize न किया जाए, तो कोई HTML वाला spam email भेज सकता है
    email list हासिल करो, prompt को HTML spam email के रूप में लिखो, फिर captcha-solving service का इस्तेमाल करके API को बड़े पैमाने पर call करो
    सिर्फ़ कुछ डॉलर में हज़ारों spam emails भेजकर mail reputation खराब की जा सकती है और Mailjet से block भी हुआ जा सकता है
    इसे ठीक कर लेना बेहतर होगा
  • इसे पोस्ट करते ही तुरंत कई बार इसे तोड़ने की कोशिशें शुरू हो गईं
    खुलकर कोशिश करो, और जो इसे तोड़ेगा उसे मैं मुफ़्त किताब भेजूँगा