1 पॉइंट द्वारा GN⁺ 2023-10-20 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Python/Pandas के फुल-टाइम इंस्ट्रक्टर Reuven Lerner ने पहले Facebook पर अपने कोर्स का विज्ञापन चलाया था, जिसके बाद उनका Meta विज्ञापन अकाउंट सस्पेंड हो गया; अपील के बाद Meta प्लेटफ़ॉर्म्स पर उन पर आजीवन विज्ञापन प्रतिबंध लगा दिया गया
  • सस्पेंशन का कारण सिर्फ़ Meta के विज्ञापन नियमों का उल्लंघन बताया गया था, लेकिन किस नियम का उल्लंघन हुआ, इसकी ठोस व्याख्या नहीं दिखी
  • LinkedIn पर एक परिचित ने बताया कि Meta ने Python शिक्षा के विज्ञापन को जीवित जानवरों के व्यापार के रूप में गलती से समझने का एक मामला देखा था; मुद्दे की जड़ यह थी कि Python और Pandas क्रमशः एक प्रोग्रामिंग भाषा और डेटा एनालिसिस लाइब्रेरी हैं
  • Meta में काम कर चुके या कर रहे 3 परिचितों ने जाँच करने की कोशिश की, लेकिन सस्पेंशन के बाद 1 साल से ज़्यादा समय बीत जाने के कारण 180-दिन डेटा रिटेंशन पॉलिसी के तहत सबूत मिट चुके थे, इसलिए रिकवरी का कोई तरीका नहीं होने का जवाब मिला
  • ऐसा लगता है कि मूल फैसला और अपील, दोनों AI से प्रोसेस हुए; इसलिए आगे कोर्स विज्ञापन फिर शुरू करने पर भी वे Meta के बजाय Google जैसे दूसरे विज्ञापन चैनलों पर खर्च करेंगे

Python/Pandas कोर्स के विज्ञापन से Meta पर स्थायी प्रतिबंध तक की प्रक्रिया

  • Reuven Lerner Python और Pandas पढ़ाने वाले फुल-टाइम इंस्ट्रक्टर हैं; वे दुनिया भर की कंपनियों में इन-पर्सन ट्रेनिंग देते हैं और ऑनलाइन प्रोडक्ट्स भी चलाते हैं
  • कुछ साल पहले उन्होंने Facebook पर कुछ प्रोडक्ट्स के विज्ञापन चलाए थे, लेकिन खास नतीजा नहीं मिला, और उसके बाद विज्ञापन अकाउंट लगभग छोड़ा हुआ ही रहा
  • करीब 1 साल पहले जब वे विज्ञापन पेज पर फिर गए, तो उन्हें सूचना दिखी कि Meta विज्ञापन नियमों के उल्लंघन के कारण अकाउंट सस्पेंड कर दिया गया है
  • कुछ महीने पहले उन्होंने विज्ञापन मैनेजमेंट पेज फिर देखा, लेकिन विज्ञापन अब भी अनुमति-रहित स्थिति में थे
    • कौन-सा नियम तोड़ा गया था, यह नहीं दिखाया गया
    • उनका कहना है कि उन्होंने Python और Pandas कोर्स के अलावा कुछ भी विज्ञापित नहीं किया था
  • “Click here to appeal” बटन से अपील की, लेकिन करीब 30 मिनट बाद Meta ने ईमेल भेजा कि नीति उल्लंघन की पुष्टि हो गई है और Meta प्लेटफ़ॉर्म्स पर उन पर आजीवन विज्ञापन प्रतिबंध रहेगा

Python को जानवरों के व्यापार के रूप में गलत समझे जाने की संभावना और रिकवरी की विफलता

  • LinkedIn पर एक परिचित ने बताया कि उन्हें भी Meta प्लेटफ़ॉर्म्स पर Python एजुकेशन कोर्स का विज्ञापन करते समय समस्या आई थी, और Meta ने इसे जीवित जानवरों का व्यापार माना था
  • Lerner का मानना है कि Meta के AI सिस्टम ने Python और Pandas को तकनीकी शब्दों के बजाय जानवरों के रूप में समझा और प्रतिबंध का फैसला किया
    • Python एक प्रोग्रामिंग भाषा है
    • Pandas Python की डेटा एनालिसिस लाइब्रेरी है
    • उनका मानना है कि अपील भी किसी इंसान ने नहीं, बल्कि AI ने प्रोसेस की और वैसा ही फैसला दिया
  • Meta में काम कर चुके या कर रहे 3 परिचितों ने जाँच करने की कोशिश की, लेकिन इससे रिकवरी नहीं हो सकी
    • पहले परिचित ने पुष्टि की कि Meta की 180-दिन डेटा रिटेंशन पॉलिसी के कारण संबंधित सबूत मिट चुके हैं, और अकाउंट सस्पेंशन के बाद 1 साल से ज़्यादा समय बीत जाने से रिकवरी संभव नहीं है
    • दूसरे और तीसरे परिचित भी इससे आगे कोई नतीजा नहीं निकाल सके
  • Lerner का मानना है कि Meta के AI ने बड़ी गलती की, और मूल फैसला तथा अपील दोनों AI से प्रोसेस होना “काफी बेतुका” है
  • तय अवधि के भीतर प्रतिक्रिया न देने के कारण प्रतिबंध अब पलटा नहीं जा सकता, और उनका कहना है कि आगे विज्ञापन फिर शुरू करने पर Meta को विज्ञापन खर्च नहीं मिलेगा, बल्कि Google जैसी कंपनियों को मिलेगा

1 टिप्पणियां

 
GN⁺ 2023-10-20
Hacker News की राय
  • जब AI जैसी अपारदर्शी प्रक्रिया फैसले लेती है, तो सच में बहुत झुंझलाहट होती है
    जापान में LLC के बराबर Godo Kaisha स्थापित की, तो मेरा ग्रीन टी subscription business https://tomotcha.com Stripe ने reject कर दिया, जबकि पहले वही business sole proprietorship के रूप में बिना समस्या चल रहा था
    reject किए जाने के समय भी मेरा sole proprietor Stripe account चलता रहा; अगर सच में terms violation होता, तो कोई इंसान देखकर पहले उसी account को बंद करता, इसलिए लगता है कि rejection शायद AI ने किया था
    मुझे पता है कि financial regulations कड़े होते हैं और payment companies कई बार कारण विस्तार से नहीं बता सकतीं, लेकिन नतीजा यह हुआ कि फिलहाल PayPal में ही फंसना पड़ेगा
    product mix बदल रहा है, इसलिए शायद अब यह Stripe की terms में फिट हो जाए; सोच रहा हूं कि Stripe account खोलने की फिर से कोशिश कर सकता हूं या नहीं

    • ऐसी समस्याओं को message को बस ज़्यादा ईमानदार बनाकर काफी हद तक कम किया जा सकता है
      जैसे, “हमारे automated AI system ने तय किया है कि आपके साथ लेन-देन करना हमारे लिए फायदेमंद नहीं है। हम कारण नहीं बता सकते क्योंकि इससे spam बचाव के संकेत मिल सकते हैं। हालांकि, $15 देने पर कोई इंसान review करेगा, और आप legal sales proof, registered company information आदि submit कर सकते हैं। reject होने पर भी refund नहीं होगा, और human review terms की boundaries को push करने का मौका नहीं है” जैसा बता देना चाहिए
    • हमारी company mental health/psychiatry से जुड़ी है, और कुछ patients को hospital के अंदर ही esketamine treatment देती है; इसी वजह से हम Stripe के जरिए continuing medical education conference payments नहीं ले सकते
      हम समझाते हैं कि हम esketamine या कोई भी medicine नहीं बेचते, फिर भी Stripe में supposedly किसी इंसान से बात करने के बाद भी नतीजा नहीं बदलता
      website समेत कहीं भी यह नहीं लिखा कि हम बेचते हैं, और patient payments insurance के जरिए होते हैं, इसलिए Stripe से process भी नहीं करते
      जवाब बस यही आता है कि “आप medicines बेचते हैं, इसलिए account suspend किया गया” या “आपकी दी गई जानकारी की जांच हो रही है”; meeting या documents submit करने के प्रस्ताव ignore कर दिए जाते हैं
      Stripe शानदार service है, लेकिन customer screening के मामले में company के अंदर कुछ गंभीर रूप से गलत चल रहा है
    • contact करके देख सकते हैं
      मैं नहीं कहूंगा कि Stripe support का experience अच्छा था, लेकिन आखिर में issue solve हो गया
      लगता है Stripe को Japan में रहने वाले foreigner के overseas company own करने वाली स्थिति से बहुत दिक्कत होती है
    • तथाकथित AI सच में गुस्सा दिलाता है
      मैंने normal phone number से telecom company को call किया, लेकिन mobile phone या cell tower issue की वजह से call कट गया; करीब 5 बार कोशिश करने पर robot response ने इसे “abuse” कहा और support phone use करने पर permanent ban लगा दिया
      appeal करने के लिए support phone ही इस्तेमाल करना था, और website robochat भी पहले से blocked था
      आखिर में मैंने Facebook page खंगाला, उम्मीद में कि कोई इंसान manage करता होगा; किस्मत से human agent तक पहुंचा और block हट गया
      कुछ सालों से Facebook पर कुछ post नहीं करता, account बस बेवकूफ बड़ी companies से contact करने के backup channel के तौर पर बचाकर रखा है
  • सबसे ज्यादा frustrating बात यह है कि वे खुलेआम झूठ बोलते हैं
    असल में वे account review करते ही नहीं, और ban permanent भी नहीं होता
    ऐसी स्थिति में जिस पल किसी अधिकार रखने वाले इंसान तक पहुंचते हैं, ban हट जाता है, इसलिए आखिरकार यह पूरा मामला Facebook/Meta की cost, efficiency और convenience का है
    मुझे लगता है कि इस समस्या के लिए कानून चाहिए
    साफ है कि market में ऐसे व्यवहार को ठीक करने की ताकत नहीं है, और पसंद हो या न हो, practically essential online service से lifetime ban किसी व्यक्ति के लिए विनाशकारी हो सकता है

    • ऐसी समस्याओं से निपटने वाले कानून पहले से हैं, और market solution भी देता है
      बस सब लोग कान बंद करके “Big Tech monopoly नहीं है” चिल्लाते हैं, इसलिए existing laws लागू नहीं होते
      अगर सच में competitive environment होता, तो arbitrarily block न करने वाले और real customer support staff रखने वाले पड़ोस की दुकान पर चले जाते
    • Meta के लिए भी कोई इंसान जल्दी से एक बार देख ले, यह फायदे का क्यों नहीं है, समझ नहीं आता
      user से human review cost दिलवाई जा सकती है, नहीं? किसी इंसान का कितना time लगेगा, शायद करीब $20?
  • ऐसे कई मिलते-जुलते cases हैं
    Scunthorpe problem classic example है, जहां AOL ने “cunt” substring की वजह से users को अपना hometown Scunthorpe set करने से रोक दिया था
    Amazon ने “guns” के कारण Guns N' Roses merchandise की बिक्री रोकी, और Miranda नाम को “Iran” substring के कारण bank transfer issues झेलने पड़े
    कुछ games ने Nasser nickname को N-word जैसा दिखाते हुए “N*er” के रूप में display किया, और Alexa आज भी “pussycat” ठीक से नहीं बोल पाती
    parental control software ने URL में “anal” filter किया और “analysis” तक block हो गया, और दूसरे software ने filename में “sex” होने पर delete कर दिया, जिससे “sysext” तक delete हो गया
    एक school में उस bug की वजह से पूरा computer lab ठप हो गया, और इसकी वजह यह भी थी कि IT प्रभारी व्यक्ति ने software compatibility check किए बिना सभी PCs को एक साथ Windows 10 पर update कर दिया था
    UK politician Dominic Cummings भी Twitter account नहीं बना सके थे

    • “Nasser” वाला case असल में N-word नहीं, बल्कि “ass” हटाने जैसा दिखता है
      फिर भी काफी जल्दबाजी वाला filtering है
      दोबारा देखने पर बदला हुआ नाम और भी खराब है; मजेदार भी है और दुखद भी
    • middle school में मैं थोड़े समय के लिए एक ऐसे देश में था जहां internet censorship कड़ी थी; assignment के लिए plants के sexual reproduction की जानकारी ढूंढनी थी, लेकिन “sex” filter की वजह से VPN के बिना search नहीं हो पाता था
      असल में harmless topic नहीं मिल पाता था, लेकिन search terms थोड़े बदलकर खेलते रहें तो filter से बच निकलने वाला porn ढूंढना आसान था
    • मुझे अब भी याद है जब Google ने कई moral panics में से एक के तहत shopping site पर सभी gun-related items ban कर दिए थे
      जाहिर है, “gun” वाली Burgundy wine तक block हो गई थी
      यानी इतना जल्दबाजी में लागू किया कि filter भी ठीक से नहीं बना पाए
    • मेरा नाम Guido है, और दुनिया में कहीं यह racist slur माना जाता है; इसलिए जिस region में मैं रहता भी नहीं, उसके standards की वजह से account नहीं बना सका
  • Ebay पर seller account बनाने की कई बार कोशिश की, लेकिन account creation और verification के 2 मिनट के भीतर terms violation के कारण ban हो गया
    उस समय तक मैंने profile photo तक upload नहीं की थी और account से कुछ भी नहीं किया था
    बाद की process भी वैसी ही थी: appeal एक bot handle करता था जो सिर्फ जवाब देता था, “हम सही हैं, आपने terms violate की हैं, account banned है, और decision final है”
    वे दिन याद आते हैं जब organizations संभावित रूप से बहुत पैसा कमाकर देने वाले customers के लिए human customer support hire करती थीं
    आजकल advertising या selling अक्सर कुछ ही platforms पर निर्भर होती है, इसलिए डर लगता है कि एक bot कभी भी मेरे business और company को खत्म कर सकता है

    • account बनाते समय किस तरह का IP address इस्तेमाल किया था, यह जानने की उत्सुकता है
      residential, mobile, work/office, या data center में से कौन सा था?
  • उपनाम की वजह से Facebook परिवार की सेवाओं में WhatsApp को छोड़कर मुझे जीवनभर के लिए ब्लॉक कर दिया गया है
    Facebook मानता है कि मेरा उपनाम नकली है या बहुत विवादास्पद है, और पासपोर्ट की कॉपी भेजने पर भी उसने अपना मन नहीं बदला
    असली नाम नीति लागू होने से पहले, लगभग 13 साल पहले मेरा Facebook account था, लेकिन बहुत पुराने परिचितों की friend requests ठुकराना या स्वीकार करना अजीब लगता था, इसलिए मैंने उसे बंद कर दिया
    अब जिस बिल्डिंग में मैं रहता हूं, उसकी महत्वपूर्ण जानकारी पाने का इकलौता जरिया Facebook group है, लेकिन मैं उसे access नहीं कर सकता, इसलिए असुविधा होती है
    मेरी पत्नी access कर सकती है, इसलिए कोई बड़ी समस्या नहीं है, लेकिन Facebook की real-name policy को bypass करना हो तो लगता है उल्टा नकली नाम ही इस्तेमाल करना पड़ेगा
    हालांकि ऐसा करने पर Facebook ads या developer-related features इस्तेमाल करना मुश्किल होगा

    • मेरे अनुभव में, Facebook account एक बार बंद कर दें तो उसे फिर से खोलना लगभग असंभव है
      मेरे लिए जो इकलौता तरीका काम कर पाया, वह Meta, तब Facebook, में नौकरी मिलना था, और onboarding के लिए account चाहिए था
    • पहले मेरा एक दोस्त था जिसका नाम Harry Potter था, और उस समय Facebook पर sign up करने की कोशिश में उसे काफी मुश्किल दौर से गुजरना पड़ा
    • खास तौर पर गंभीर बात यह है कि Facebook के अंदर साफ तौर पर नकली नाम इस्तेमाल करने वाले लोग बहुत बड़ी संख्या में हैं
      जिन photo-centric groups में मैं हूं, उनमें कई जगह आधे से ज्यादा posts ऐसे लोगों से आती हैं जो नकली या कभी-कभी अपमानजनक नाम इस्तेमाल करते हैं, और यह पता होने के बावजूद कि उन्हें कई बार report किया गया है, कोई कार्रवाई नहीं होती
      खराब policy भी अगर बिना consistency के enforce की जाए, तो आम तौर पर और खराब हो जाती है
  • “Meta को मेरा पैसा नहीं मिलेगा, वह Google जैसी कंपनी को मिलेगा, जिसके ad division में कम-से-कम कुछ लोग तो दिखते हैं” वाली बात असल में यह कहने का जटिल तरीका है कि मैं उस कंपनी से कारोबार करूंगा जो मेरा business स्वीकार करे
    Google भी सिर्फ ad division ही नहीं, पूरे account पर पूरी तरह automated bans लगाने के लिए कुख्यात है

    • आखिरकार अगर आप सबको block करते चले जाते हैं, तो यह spam भेजने वालों और fraudsters को ही concentrate करने का अच्छा तरीका बन जाता है, जो वैसे भी समय-समय पर नई company बना लेते हैं
      मैंने पहले इस बारे में नहीं सोचा था, लेकिन यह समझा सकता है कि समय के साथ ad quality degrade होती क्यों महसूस हुई
    • बात सही है
      Google में भी बहुत सारे automated systems हैं, और मुझे पता है कि लोग पहले उनसे काफी परेशान हुए हैं
      फिर भी Google के automated systems में फंसे मेरे दोस्त आखिरकार किसी ऐसे इंसान तक पहुंच पाए जो समस्या ठीक कर सके
      Meta में customers के लिए ऐसा कोई रास्ता दिखता नहीं है, और 3 employees, जो इस बात से सहमत थे कि स्थिति बेतुकी है और मेरे लिए guarantee दे सकते थे, वे भी decision reverse नहीं करा पाए
    • पहले Mac के लिए software advertise करने की वजह से मेरी Google Adwords campaign suspend हो गई थी
      software सिर्फ Mac पर चलता था, लेकिन Google ने Apple, Mac जैसे शब्दों को trademark बताते हुए उनके इस्तेमाल की अनुमति नहीं दी
      यह “Mac के लिए widget counting software” जैसे context में description के तौर पर लिखा था, “genuine Apple software” जैसी expression नहीं थी
      appeal की, लेकिन reject हो गई, और याद है कि आगे कोई रास्ता नहीं था
      नतीजा यह हुआ कि Mac-only software advertise करने का कोई practically usable तरीका नहीं बचा था
  • Facebook/Meta में ऐसी ही समस्या झेली, और आखिरकार ads services खरीदना छोड़ दिया
    मेरे हिसाब से समाधान कानून से यह enforce करना है कि 1) जब user सिर्फ algorithm से deal कर रहा हो, तो उसे यह बताया जाए, और 2) तय समय के भीतर किसी इंसान से contact करने की सुविधा अनिवार्य हो
    उम्मीद है कम-से-कम EU जल्द ही ऐसा कानून बनाएगा
    बिना किसी compensation के AI interaction में बेहिसाब समय बर्बाद होना भी समस्या है, लेकिन ज्यादा चिंता की बात यह है कि AI “customer support” या तो कोई वास्तविक काम नहीं कर पाता, या उल्टा user settings, billing आदि में गंभीर बदलाव करने का अधिकार रखता है
    पहला मामला company द्वारा customers को धोखा देना है, और दूसरा बहुत खराब नतीजे ला सकता है

    • कुछ EU countries पहले से तय समय के भीतर इंसान से contact उपलब्ध कराना जरूरी करती हैं, और यह बहुत अच्छी तरह काम करता है
      हालांकि Meta पर इसका खास असर नहीं दिखता
      Meta, Google, Amazon जैसी companies, जो customer support के लिए सिर्फ AI पर निर्भर करती हैं, उन पर इतनी fines लगनी चाहिए कि वे bankruptcy तक पहुंच जाएं
    • ज्यादा सटीक कहें तो, ऐसे इंसान से contact हो पाना चाहिए जिसके पास algorithmic decision को reverse करने का अधिकार हो
    • मुझे लगा था कि ऐसी problems 90s में ही solve हो जानी चाहिए थीं, जब AOL का इस बात पर मजाक उड़ता था कि Scunthorpe में शामिल एक खास substring की वजह से users उसे location के तौर पर enter नहीं कर सकते थे
  • अगर ऐसी “bad-luck incidents” को healthcare, finance, insurance, policing, education, corporate hiring आदि में extend करके देखें, तो सोचने पर मजबूर होना पड़ता है कि automation और “AI” के नाम पर, लागत घटाने और efficiency बढ़ाने के बहाने हम किस तरह के समाज की ओर जा रहे हैं
    technology से लोगों—यहां Meta employees—को information ज्यादा efficiently process करने में मदद मिले, इसमें कोई समस्या नहीं
    लेकिन जिन मामलों का दूसरों पर छोटा या बड़ा असर पड़ता हो, उनमें इंसान को प्रक्रिया से बाहर करना विनाशकारी दिशा है
    संयोग से आज Financial Times के main page पर भी “Meta के Yann LeCun जल्दबाजी में AI regulation के खिलाफ हैं” वाली article लगी है

    • अगर AI censorship एक बार genocide में contribute कर दे, तो यह Facebook की गलती है
      फिर भी अगर AI censorship को regulate न किया जाए, तो समस्या और बड़ी होगी
      https://erinkissane.com/meta-in-myanmar-part-i-the-setup
  • भविष्य में आपका स्वागत है
    ज्यादा देर नहीं लगेगी जब internet पर companies या institutions से interact करने वाले ज्यादातर लोगों के साथ यह बकवास लगभग रोज होगी
    बहुत ज्यादा automated और opaque processes, छोटे signals पर तुरंत block कर देने वाली logic, और ऐसे review paths जहां इंसान तक कभी पहुंच ही नहीं होती—ये सब सामान्य हो जाएंगे
    क्योंकि automation से बच गए इंसान customers से बात करने की फुर्सत के बिना algorithms को feed करने में बहुत busy होंगे

    • मेरे देखने में government contractors को यह तरीका पसंद है
      ज्यादातर लोगों के पास government से लड़ने के resources नहीं होते, इसलिए उन्होंने हमेशा quality से ज्यादा quantity को महत्व दिया है
      greed और ignorance से चलने वाला “AI” मुझे पश्चिमी देशों में कई government services को खराब और collapse करने की दिशा में जाने वाला चरण लगता है
    • legal system तो पहले ही ऐसा हो चुका है
      केवल वही लोग outcome पाने की उम्मीद कर सकते हैं जिन्हें system navigate करने का knowledge हो, या जो required protocol से interface करने के qualified हों
      mega-corporations अब उसी से नीचे वाले स्तर पर उतर आई हैं, ऊपर बैठे powerful लोगों की आदतें तो अपनाती हैं, लेकिन accountability नहीं लेतीं
    • यह वैसा ही सस्ता रास्ता है जैसे car manufacturers 40 high-quality physical buttons की जगह बड़ा, चमकदार और खराब tablet लगा देते हैं
      15 साल से ज्यादा पुरानी car में भी, अगर वह accident-damaged न हो, तो मैंने physical buttons को fail होते नहीं देखा
      इसके उलट premium price लेने वाली premium company में असली इंसान response देता है
      यह धीमा हो सकता है, लेकिन empathy और non-standard solutions की उम्मीद की कुछ गुंजाइश रहती है
  • ऐसे मामलों का इकलौता समाधान शायद सिर्फ Meta ही नहीं, बल्कि पूरे FAANG जैसे समूहों के लिए छोटे दावों की अदालत या स्वतंत्र मध्यस्थता प्रक्रिया रखना हो सकता है
    बस कल्पना कीजिए कि किसी Big Tech कर्मचारी को जज या मध्यस्थ के सामने कहना पड़े: “सिस्टम ने यूज़र को अपने-आप ब्लॉक कर दिया, अपील भी अपने-आप खारिज हो गई, और सबूत व support data सब डिलीट हो चुके हैं, इसलिए हमें पता लगाने का कोई तरीका नहीं है कि ऐसा क्यों हुआ”
    किसी भी तरह की मध्यस्थता या कानूनी समीक्षा में ऐसा जवाब तुरंत tech giant की हार की वजह बनेगा
    आम तौर पर मैं कंपनियों के इस अधिकार का समर्थन करता हूं कि वे किसके साथ कारोबार करें यह चुन सकें, लेकिन एक बिंदु पर जब कोई कंपनी quasi-monopoly स्थिति में पहुंच जाती है और market access की gatekeeper बन जाती है, तो ऐसे फैसलों के लिए एक तर्कसंगत appeal route जरूरी होता है
    EU Digital Markets Act की “business users को end users तक पहुंचने की अनुमति देने” जैसी बाध्यताएं इससे जुड़ सकती हैं; अब देखना होगा कि ऐसी laws के जवाब में कंपनियों का व्यवहार बदलता है या नहीं