Waterloo University के vending machine में चेहरे की पहचान से जुड़ा error message दिखने पर privacy चिंताएं बढ़ीं

• University of Waterloo campus के smart vending machine में facial recognition application का error दिखने के बाद छात्रों ने चिंता जताई कि बिना सूचना के biometric और demographic detection हो रहा हो सकता है
• संबंधित device M&M design वाला chocolate और candy vending machine था, जो Modern Languages building और Hagey Hall सहित campus के कई स्थानों पर लगाया गया था
• error की तस्वीर online फैलने के बाद छात्रों ने छोटे छेद को camera या sensor मानकर sticky tack, chewing gum, Post-it notes आदि से ढकना शुरू कर दिया
• supply service company Adaria ने device के ownership, manufacturing और data access से इनकार किया, जबकि manufacturer Invenda ने जवाब दिया कि software केवल local processing करता है और images या personally identifiable information को store या transmit नहीं करता
• University of Waterloo ने इन vending machines को जल्द से जल्द हटाने और तब तक संबंधित software को disable करने का अनुरोध किया

---

Error message से सामने आया campus vending machine विवाद

• University of Waterloo के smart vending machines छात्रों की privacy concerns के बाद campus से हटाए जाने वाले हैं
• इन vending machines पर M&M images लगी हैं और ये chocolate व अन्य candies बेचती हैं
  • installation locations में Modern Languages building और Hagey Hall शामिल हैं
• फरवरी की शुरुआत में एक छात्र ने Modern Languages building के vending machine में error message देखा
  • message facial recognition application से जुड़ी समस्या दिखाता हुआ लग रहा था
  • चौथे वर्ष के छात्र River Stanley ने कहा कि अगर यह error नहीं दिखता, तो छात्रों को इसका पता नहीं चलता, और मौके पर कोई warning नहीं थी

छात्रों की प्रतिक्रिया और online प्रसार

• error message की तस्वीर online आने के बाद छात्रों के बीच तेजी से share हुई
• कई छात्रों ने vending machine के छोटे छेद को camera location मानकर ढकने की कोशिश की
  • इस्तेमाल की गई चीजों में sticky tack, chewing gum, Post-it notes आदि शामिल थे
• छात्र Dilpreet Sandhu ने कहा कि उन्हें नहीं लगता vending machine में facial recognition की जरूरत है, इसलिए वे हैरान हुए
• Sandhu ने यह भी जोड़ा कि यह बात जानने के बाद उन्हें सवाल हुआ कि क्या अन्य जगहों पर भी ऐसी technology इस्तेमाल हो रही हो सकती है
  • उन्होंने यह भी कहा कि university campus का आम user late teens से early twenties तक का young adult होता है

Adaria, MARS, Invenda का पक्ष

• vending machine provider Adaria Vending Services Limited ने email में बताया कि वे fulfillment service provider हैं
  • वे devices के owner या manufacturer नहीं हैं
  • उन्हें devices से आने वाले इस प्रकार के data तक access नहीं है
• vending machines का ownership MARS के पास है और manufacturer Invenda है
• MARS ने CTV की comment request का जवाब नहीं दिया
• Invenda ने भी CTV की comment request का जवाब नहीं दिया, लेकिन Stanley को भेजे email में कहा कि vending machine के अंदर मौजूद demographic detection software पूरी तरह local रूप से काम करता है
  • यह images या personally identifiable information store नहीं करता
  • यह images या personally identifiable information communicate या transmit नहीं करता

Invenda website पर detection features का विवरण

• Invenda website के अनुसार Smart Vending Machines किसी व्यक्ति की presence, estimated age और gender detect कर सकती हैं
• website बताती है कि software USB optical sensor से निकले digital image map को real time में local रूप से process करता है
  • यह data permanent storage medium में store नहीं किया जाता
  • इसे internet के जरिए cloud में transmit नहीं किया जाता
• Invenda ने Stanley को बताया कि यह software European Union के privacy law GDPR का compliance करता है
• Stanley ने सवाल उठाया कि क्या यह technology Canada में legal है

Canada privacy case और university की कार्रवाई

• 2020 में Canada federal Privacy Commissioner की investigation में पाया गया कि Cadillac Fairview के digital information kiosks में लगे embedded cameras ने mall customers की जानकारी या consent के बिना 50 लाख से अधिक images record की थीं
  • उन kiosks ने facial recognition technology का इस्तेमाल किया था
• Stanley का मानना है कि छात्रों को यह example बताया जाना चाहिए कि explicit और meaningful consent के बिना यह privacy laws का उल्लंघन हो सकता है
• University of Waterloo ने कहा कि वह स्थिति को संभाल रही है
  • university ने अनुरोध किया कि संबंधित vending machines को campus से जल्द से जल्द हटाया जाए
  • तब तक software को disable करने का अनुरोध किया गया
• Stanley ने कहा कि अगर university vending machines हटाने की कार्रवाई पूरी नहीं करती, तो वे Ontario Information and Privacy Commissioner के पास complaint file करेंगे

[GN⁺]

Hacker News की रायें

• विक्रेता का brochure देखने पर, vending machine इस जानकारी का इस्तेमाल कहाँ करती है, यह काफ़ी साफ़-साफ़ लिखा है
  कौन क्या खरीदता है, इसके बारे में demographic जानकारी gender, age आदि के आधार पर इकट्ठा की जाती है और उसे ad targeting में इस्तेमाल किया जाता है। इसमें यह भी लिखा है कि इसे “partner media brokers” के साथ भी साझा किया जाता है
  app install करने पर “gamification” के ज़रिए sales बढ़ाने की बात भी वे बड़े गर्व से बताते हैं: https://a.storyblok.com/f/184550/x/e7435c019e/brochure-svm_g...

  • बड़ी screen से ढकी vending machine आधुनिक technology की उन सभी बातों का प्रतीक है जो मुझे नापसंद हैं
    खरीदार के नज़रिए से कुछ भी बेहतर नहीं होता। आप पूरा stock एक नज़र में नहीं देख सकते, बची हुई quantity नहीं जान सकते, और machine भी उसे भरोसेमंद तरीके से नहीं जानती। हर interaction धीमा है, और बदले में आपको ads और mini-games मिलते हैं
    देर रात भूख लगी है और train 2 मिनट में छूटने वाली है, मुझे बस एक Snickers खरीदना है। ऐसी कंपनियाँ नुकसान के करीब हैं
  • brochure कमाल का है। मेरा पसंदीदा selling point यह है कि machine में असल में मौजूद न होने वाले products भी screen पर दिखाकर बेचे जा सकते हैं और customer को drink के बजाय digital IOU दिया जा सकता है

    "Customizable UI design - Product selection can be extended to include products not physically in the machine. Consumers can store them in Invenda Wallet [a mobile app] and redeem them somewhere else."
    convenience पर आधारित impulse purchase को बाद में फिर जाकर पूरा करने वाले अतिरिक्त काम में बदल देता है
    शायद आखिरकार कोई business angle है जिसे मैं समझ नहीं पा रहा। वरना ऐसी feature सच में sales बढ़ा ही नहीं सकती। सोच रहा हूँ कि क्या वे digital products बेचना चाहते हैं, या targeted digital coupons के ज़रिए पास की दुकानों में लोगों को लाना चाहते हैं। यह भी जानना चाहता हूँ कि किसी ने इसे असल में देखा है या नहीं

  • 21वीं सदी के अमेरिकी university campus में facial recognition से gender detect करना—आख़िर इसमें ऐसा क्या गलत हो सकता है कि media में भारी बवाल हो जाए
  • जापान में 2010 से ही facial recognition vending machines से product recommendations और statistics collection किया जा रहा है: https://www.youtube.com/watch?v=S2hwnGrn3go
  • एक Mars bar खरीदने पर भी दुनिया मुझे targeted ads भेजने पर तुली है

• मुझे लगता है यह सच होगा, लेकिन मज़े के लिए यह भी कल्पना होती है कि कहीं कोई prank तो नहीं कर रहा। dialog box का title हो या app name, ऐसा लगता है जैसे जानबूझकर वैसा बनाया गया हो
  2000s के आख़िर में जिस company में काम करता था, वह automatic urinals वाले office में शिफ्ट हुई थी; उस समय यह काफ़ी अनोखी चीज़ थी। matte black plastic device में flush handle था, और dark infrared-transmitting plastic की चमकदार window थी
  साफ़ तौर पर वह automatic flush के लिए proximity sensor था, लेकिन किसी ने official notice जैसा “camera को न छुएँ” चिपका दिया और कुछ लोगों को वाकई डरा दिया

• website पर “USB optical sensor से निकाले गए digital image maps को real time में locally process करता है” जैसी line देखकर शक होता है कि USB optical sensor असल में hidden camera है और “digital image maps” उसी camera की images हैं
  अगर ऐसा है, तो “उस data को permanent storage media में store नहीं करते या internet के ज़रिए cloud पर transmit नहीं करते” वाला बाकी वाक्य भी बच निकलने की गुंजाइश रखने वाली wording हो सकती है

  • शायद यह Apple के Face ID sensor जैसा कुछ हो सकता है। सख़्त मायने में वह “camera” है, लेकिन image लेने के बजाय depth map capture करने वाला device है
    यह बात मानने लायक है कि वे images या raw depth maps internet पर नहीं भेजते। data volume भी बड़ा होगा और ऐसे raw data का वे क्या करेंगे, यह भी तुरंत समझ नहीं आता
    लेकिन demographic जानकारी, और शायद individual users तक को, खास purchase patterns से जोड़ने की कोशिश लगभग तय लगती है

• 2018 में Renesas ने “Facial Expression Kit Giveaway” competition किया था और मुझे उनमें से एक मिला था। वह “RZ Omron Facial Expression Kit giveaway” था, और RZ उस समय relatively नई microcontroller lines में से एक थी
  prize लेने के लिए affidavit पर sign करना पड़ता था और मैंने सच में sign किया, लेकिन अंततः उसे इस्तेमाल नहीं किया और बाद में वह local Hamfest में चला गया। example code vending machine था
  आज मुझे इससे जुड़ी जो सामग्री मिल सकी, वह बस इतनी है: “OMRON Develops Real-Time Facial Expression Estimation Technology” https://www.omron.com/media/press/2012/10/e1023.html

• जहाँ मैं काम करता था, वहाँ की vending machine SSN के आख़िरी चार digits enter करवाती थी। मुझे यह सचमुच नापसंद था

  • कृपया ऐसे समझाइए जैसे मैं पाँच साल का हूँ

• क्या अमेरिका में facial recognition अभी तक व्यापक नहीं हुआ है?
  UK में यह पहले से हर जगह इस्तेमाल हो रहा है। ज़्यादातर stores और checkout systems में है, national CCTV में भी इस्तेमाल होता है, और police इसे protesters की पहचान के लिए इस्तेमाल करती है। मेरे इलाके के schools तो बच्चों के phones पर spyware तक install करके बच्चों और परिवारों की निगरानी करते हैं
  यहाँ अगर vending machine मुझे identify करे तो किसी को फ़र्क पड़ेगा, यह कल्पना करना भी मुश्किल है। खतरा क्या है?

  • यह कोई annoying adult नहीं है जो राह चलते लोगों को बताता फिरता हो कि तुमने क्या खरीदा
    यह ads बेहतर बेचने के लिए collector है, जो ऐसी जानकारी जमा करता है जो पूरी दुनिया में फैल सकती है
    जैसे हर शुक्रवार 05:00 बजे soda खरीदते हो या नहीं, ऐसी categories बनाई जा सकती हैं। “party animal” जैसी। या शायद नहीं, लेकिन यह मानना मुश्किल है कि उन्होंने software और cameras पर extra खर्च इसलिए किया होगा कि पैसा डुबाना चाहते थे
  • मुझे पता था कि UK surveillance-state वाली बकवास में तेज़ी से खराब हो रहा है, लेकिन क्या यह पहले ही उस स्तर तक पहुँच गया?
    public interest के लिए अपनी जान जोखिम में डालकर government surveillance cameras को damage और remove करने वालों के लिए सम्मान और बढ़ गया
  • खतरा यह है कि ऐसी technology द्वारा जुटाए गए छोटे-छोटे information pieces अगली genocidal dictatorship के हाथ लग जाएँ। वे किन metrics के आधार पर purge करेंगे, यह सोचने वाली बात है
  • EU ने कुछ साल पहले GDPR pass किया था; समझ नहीं आता कि UK में ऐसी स्थिति कैसे है

• ऐसी चीज़ें सच में दिमाग खराब कर देती हैं, लेकिन लेख का अंत जितना सोचा था उतना निराशाजनक नहीं है। छात्रों को grassroots स्तर पर विरोध करते, यूनिवर्सिटी को शायद कार्रवाई करते, और लोगों को यह महसूस करते देखना अच्छा है कि वे कानून के तहत कुछ कर सकते हैं
  हमें दबाव बनाए रखना होगा ताकि ऐसी चीज़ें धीरे-धीरे कम सामान्य लगें, और सज़ाएं भी लगातार कड़ी होती जाएं। तभी लोग और सशक्त महसूस करेंगे और विरोध कर पाएंगे
  कानून में यह भी साफ़ होना चाहिए कि ऐसे डिवाइसों को “नुकसान पहुंचाने” का अधिकार है। निजी तौर पर मुझे लगता है कि ऐसी चीज़ को बेसबॉल बैट से तोड़ना कम-से-कम अदालत में बचाव योग्य होना चाहिए

• मुझे जिज्ञासा है कि लोगों को कौन-सी tracking “ठीक” लगती है और कौन-सी “गलत”, इसकी सीमा कहां है
  यहां लगभग सभी छात्र facial recognition को नापसंद करते दिखते हैं। दूसरी तरफ, मैंने कई लोगों को ऑनलाइन tracking की परवाह न करते हुए भी देखा है
  शायद जब tracking असली दुनिया में आ जाती है और ज़्यादा “वास्तविक” महसूस होती है, तब लोग ज़्यादा संवेदनशील हो जाते हैं

  • implicit consent जैसी चीज़ होती है। Gmail अकाउंट बनाते समय हम जानते हैं कि Google मेरी सारी emails तक पहुंच सकता है। Gmail इस्तेमाल करने पर Google मेरा ad profile बनाता है, यह भी कुछ हद तक पता होता है, और एक तरह से हम इस पर implicit consent दे रहे होते हैं
    लेकिन अगर पता चले कि डॉक्टर द्वारा भेजे गए blood test PDFs इकट्ठा करके insurance companies को बेचे जा रहे हैं, तो यह निष्पक्ष रूप से reasonable consent की सीमा से बाहर है
    M&M बेचने की स्थिति में, मेरे हिसाब से data collection की स्वीकार्य सीमा बहुत कम है
  • online targeting मुझे बहुत परेशान नहीं करती। अगर “acai berry smoothie” का ad “beach vacation” के ad में बदल जाए, तो यह ऐसी चीज़ से बदलकर ऐसी चीज़ हो रही है जिसमें रुचि है, इसलिए अनुभव बेहतर होता है। Google Maps या Facebook जैसे free products इस्तेमाल करते समय मैं उस deal की शर्तें भी समझता हूं
    लेकिन इस मामले में vending machine company या उसकी distribution chain में कहीं कोई इसे vending machine customers को demographic-based advertising दिखाने के लिए इस्तेमाल कर रहा है। फिर भी product की कीमत मुझे ही देनी है, और ऐसा भी नहीं कि पहले के non-targeted ads targeted ads में बदल रहे हों। शुरू से कोई ad था ही नहीं
    वे ad revenue का कोई हिस्सा मुझे लौटाएंगे भी नहीं, और आसपास की vending machines शायद उसी company की होंगी, इसलिए competition भी नहीं है। आखिरकार यह बस company के लिए अतिरिक्त revenue source है, user के लिए इसका कोई उपयोग नहीं

• ऐसे समय जिन vandals की ज़रूरत होती है, वे सब कहां चले गए?

• थोड़े-से superglue से काम हो जाएगा