- यह आम धारणा कि स्मार्टफ़ोन लगातार बातचीत सुनकर विज्ञापन दिखाते हैं, उसके स्पष्ट सबूत नहीं हैं; असली ad targeting ज़्यादातर location, relationships, और behavioral data को मिलाकर की जाती है
- 2024 में Cox Media Group के Active Listening विवाद को “real-time intent data” और voice data के इस्तेमाल से जुड़े दस्तावेज़ों ने हवा दी, लेकिन बड़ी tech कंपनियों ने CMG से दूरी बना ली और CMG ने यह product बंद कर दिया
- Wandera के 2019 के प्रयोग में iPhone और Samsung Galaxy को 30-30 मिनट pet food ad audio सुनाया गया, फिर ad exposure, data usage, battery, और background activity की तुलना की गई, लेकिन microphone के लगातार upload होने का कोई संकेत नहीं मिला
- Northeastern University के शोधकर्ताओं ने 17,000 से ज़्यादा Android apps की जाँच में छिपकर microphone चालू करने के मामले नहीं पाए, लेकिन कुछ apps द्वारा screenshots और screen recordings तीसरे पक्ष को भेजे जाने जैसी अधिक सीधी privacy समस्या मिली
- Facebook जैसे platforms के पास device-to-device tracking, friend graph, location, purchase information, और Android call/text metadata जैसे बड़े पैमाने के personal data होते हैं, जिनसे वे रुचियों का अनुमान लगा सकते हैं; इसलिए यह साधारण जासूसी से अधिक जटिल और अपारदर्शी ad system बन जाता है
स्मार्टफ़ोन जासूसी की बात बार-बार क्यों लौटती है
- जब social media पर अभी-अभी हुई बातचीत से बिल्कुल मेल खाता विज्ञापन दिखता है, तो सबसे आसान व्याख्या microphone spying जैसी लगती है
- Facebook, Google, और Apple के निजी बातचीत के keywords सुनकर personalized ads दिखाने की बात लंबे समय से एक tech conspiracy theory बन चुकी है
- लेकिन anecdotal उदाहरणों को छोड़ दें, तो इस बात का स्पष्ट सबूत नहीं मिला कि स्मार्टफ़ोन निजी बातचीत लगातार सुनकर उसे विज्ञापनों में इस्तेमाल करते हैं
2024 का Active Listening विवाद
- 2024 में 404 Media द्वारा प्रकाशित दस्तावेज़ में Cox Media Group(CMG) ने Active Listening नाम का एक system पेश किया
- इसमें कहा गया था कि smart devices के microphone से “real-time intent data” हासिल किया जा सकता है
- और “voice data” को AI processing तथा अन्य “behavioral data” के साथ मिलाकर अत्यधिक targeted ads दिए जा सकते हैं
- Active Listening वास्तव में कैसे काम करता था, यह स्पष्ट नहीं है
- विवाद के तुरंत बाद बड़ी tech कंपनियों ने CMG से दूरी बना ली
- Amazon ने कहा कि उसने कभी CMG के साथ ad partner के रूप में काम नहीं किया
- Google और Meta ने CMG के साथ अपने संबंध समाप्त कर दिए
- CMG ने कहा कि उसने Active Listening product को “गलतफ़हमी से बचने के लिए” बंद कर दिया
- जितना समझा जा सकता है, CMG का system फ़ोन के microphone को 24 घंटे सुनने वाला नहीं था, बल्कि “Hey Google” या “Hey Siri” जैसे wake words के बाद cloud में जाने वाले छोटे voice snippets का इस्तेमाल करने के ज़्यादा क़रीब था
Facebook Messenger transcription विवाद और गलतफ़हमियाँ
- 2019 की Bloomberg रिपोर्ट में खुलासा हुआ कि Facebook ने Facebook Messenger की audio conversations को बाहरी contractors से transcribe करवाया
- Facebook ने कहा कि यह automatic transcription algorithm की accuracy जाँचने की प्रक्रिया थी, और transcription feature के लिए opt-in करने वाले users को संभावित human review की जानकारी थी
- कुछ रिपोर्टों ने सवाल उठाया कि Facebook की यह जानकारी कितनी पारदर्शी थी
- यह घटना “Facebook निजी बातचीत सुन रहा था” जैसी headlines के साथ फैली और ads के लिए microphone spying वाली धारणा फिर मज़बूत हुई
- Mark Zuckerberg ने अप्रैल 2018 में अमेरिकी कांग्रेस में microphone से users को सुनकर ads में इस्तेमाल करने के सवाल पर जवाब दिया, “हम ऐसा नहीं करते”
- Facebook ने 2016 में भी कहा था कि वह फ़ोन microphone का इस्तेमाल ads या News Feed के लिए नहीं करता, और ads users की interests और profile information पर आधारित होते हैं
Wandera प्रयोग: data usage का हिसाब मेल नहीं खाता
- mobile security कंपनी Wandera ने 2019 में यह जाँचने के लिए एक सरल प्रयोग किया कि क्या स्मार्टफ़ोन लगातार बातचीत सुनते हैं
- iPhone और Samsung Galaxy को एक कमरे में रखकर, 3 दिनों तक रोज़ 30 मिनट pet food ad audio चलाया गया
- कई app permissions सक्रिय की गईं
- तुलना के लिए वही फ़ोन एक शांत कमरे में भी रखे गए
- प्रयोग में दो बातें जाँची गईं
- क्या प्रयोग के बाद app stream में pet food ads दिखाई देते हैं
- data usage, battery consumption, और background activity को track किया गया
- किसी भी app में pet food ads दिखाई नहीं दिए
- audio वाले कमरे और शांत कमरे के बीच data usage, battery consumption, और background activity में भी लगभग कोई अंतर नहीं था
- Wandera के James Mack ने कहा कि 30 मिनट के test data का उपयोग virtual assistant के data usage से काफ़ी कम था, और इससे संकेत मिलता है कि test किए गए apps में लगातार recording और cloud upload नहीं हो रहे थे
- Facebook के पूर्व product manager Antonio Garcia-Martinez ने भी Wired में लिखे लेख में अनुमान लगाया कि microphone surveillance के लिए data usage का ऐसा स्तर चाहिए जिसे छिपाना मुश्किल होगा
- one-way VoIP call के लिए लगभग 24 kbps, यानी प्रति सेकंड लगभग 3 kB data चाहिए
- अगर मान लें कि फ़ोन दिन का आधा समय चालू रहता है, तो प्रति user लगभग 130 MB प्रतिदिन बनता है
- अमेरिका के 15 करोड़ daily active users के हिसाब से यह रोज़ लगभग 20 PB होगा
- Facebook का कुल data storage लगभग 300 PB और daily collection लगभग 600 TB बताया गया
- एक जवाब यह भी दिया जाता है कि device पर local keyword detection की जा सकती है, लेकिन इसका प्रतिवाद यह है कि Facebook को ad keywords के लाखों संकेत track करने पड़ेंगे और CPU load इतना दिखेगा कि उसे छिपाना मुश्किल होगा
microphone से भी अधिक सीधी tracking: screen capture
- Northeastern University की Jingjing Ren और Elleen Pan ने 2017 की शुरुआत में यह जाँचने के लिए एक study design की कि क्या स्मार्टफ़ोन users की जानकारी के बिना उनकी बातें सुनते हैं
- शोधकर्ताओं को कोई ऐसा मामला नहीं मिला जिसमें microphone चोरी-छिपे सक्रिय किया गया हो
- इसके बजाय उन्होंने पाया कि कुछ apps अपनी ही screen को अपने-आप capture करके तीसरे पक्ष को भेज रहे थे
- Christo Wilson ने कहा कि audio leak का कोई मामला नहीं मिला, लेकिन एक उदाहरण में app ने screen activity का video तीसरे पक्ष को भेजा
- 17,000 से ज़्यादा Android apps में 9,000 से ज़्यादा के पास screenshots लेने की संभावित permission थी
- David Choffnes ने कहा कि screen capture, छत की ओर देख रहे camera या बेकार की बातचीत रिकॉर्ड करने वाले microphone से भी बदतर हो सकता है, और इस privacy loophole को आसानी से बंद करने का कोई तरीका नहीं है
ad targeting के पास पहले से ही पर्याप्त data है
- Facebook के पास microphone के किसी तकनीकी चमत्कार के बिना भी कमजोर संकेतों के आधार पर users को target करने के बेहतर साधन हैं
- Garcia-Martinez का मानना था कि Facebook उन सभी devices पर user को पहचान सकता है जिनसे उसने Facebook access किया है, और retailer के पास मौजूद जानकारी के साथ offline cash purchases तक का उपयोग कर सकता है
- platform जिन data points का उपयोग कर सकते हैं, वे कई प्रकार के हैं
- user की current location
- friend relationships और दोस्तों की interests
- user किन लोगों के साथ समय बिताता है, इसकी जानकारी
- कई devices पर tracking
- Android फ़ोन का call/text metadata
- वह tracking संभावना भी, जिसमें typed content भेजने से पहले मिटा दिया गया हो
- जब इस data को algorithms process करते हैं, तो वे यह अनुमान लगा सकते हैं कि user और उसके दोस्त किस बारे में बात कर रहे होंगे, और उस समय की ज़रूरत के हिसाब से ads दिखा सकते हैं
- ad algorithms परफ़ेक्ट नहीं हैं, और अक्सर ऐसी ads भी दिखती हैं जिनका user की रुचियों से कोई लेना-देना नहीं होता
- फिर भी कुछ ads इतनी डरावनी सटीकता से मेल खाती हैं कि users के लिए microphone spying जैसी सरल व्याख्या मान लेना आसान हो जाता है
voice assistants और लगातार recording में अंतर
- voice-controlled smart devices एक अर्थ में लगभग हमेशा user की बात “सुन” रहे होते हैं
- लेकिन उनका काम करने का तरीका लगातार recording से अलग है
- device local स्तर पर “Hey Google” जैसे wake word को detect करता है
- wake word detect होने पर यह थोड़ी देर के लिए सक्रिय होकर अगले कुछ seconds की voice data record करता है
- फिर इस data को cloud पर भेजकर response process किया जाता है और नतीजा वापस device को भेजा जाता है
- इस तरह के data transfer को detect और track किया जा सकता है
- असली समस्या microphone spying से ज़्यादा यह है कि countless personal data points को track करने वाले complex algorithms ads की timing कैसे तय करते हैं, यह इंसानों के लिए समझना मुश्किल है
- smartphone ads की असहजता साधारण जासूसी से नहीं, बल्कि जटिल और अपारदर्शी data tracking से पैदा होती है
1 टिप्पणियां
Hacker News की राय
यह लेख Jonathan Zeller द्वारा McSweeney's में लिखे गए एक बेहतरीन व्यंग्य लेख की याद दिलाता है: Calm Down—Your Phone Isn’t Listening to Your Conversations. It’s Just Tracking Everything You Type, Every App You Use, Every Website You Visit, and Everywhere You Go in the Physical World
https://www.mcsweeneys.net/articles/calm-down-your-phone-isn...
यह Facebook के “हम डेटा कभी नहीं बेचते (बस आपको ट्रैक करते हैं और उस डेटा से विज्ञापन बेचते हैं)” जैसा है। लगता है “हम ऑडियो कभी नहीं सुनते (बस quality assurance सुधारने के लिए उसका विश्लेषण करते हैं)” जैसी कोई बच निकलने वाली बात होगी
मुझे पूरा यकीन है कि मेरा Toshiba Fire TV, voice remote इस्तेमाल न करने पर भी सुनाई देने की रेंज में होने वाली हर बातचीत सुनता है और उसे ad networks को बेचता है। बेशक मूल लेख में बताई गई screen recognition भी करता होगा, लेकिन मैं कमरे में मौजूद लोगों की real-time बातचीत को माइक्रोफोन से इकट्ठा करने की बात कर रहा हूं
पहले मैंने यह उजागर किया था कि Google ने Twitter से बड़े पैमाने पर डेटा इकट्ठा किया था, जिससे Google Maps के search box में सिर्फ Twitter handle डालने पर Twitter इस्तेमाल की गई जगहें दिखने लगती थीं
Twitter में location sharing बंद करने पर भी उन्हें वह location पता थी, इसलिए यह तभी संभव था जब Twitter ने Google को निजी तौर पर जानकारी दी हो। वह “experiment” बाद में बंद हो गया, लेकिन ऐसे खुलासों और कई गतिविधियों की वजह से मैंने अपना Twitter account हमेशा के लिए खो दिया, और जब मैंने कई बार यह कहकर recovery मांगी कि मुझे बिना सही वजह permanent suspend किया गया है, तो X Support ने मेरी हर appeal सीधे digital trash can में भेजने की व्यवस्था कर दी। अब कुछ भी चौंकाता नहीं है
अभी यह लिखते समय page title “Your phone isn’t secretly listening to you, but the truth is more disturbing” है, और फिलहाल इस post का title भी वही है
लेकिन पढ़ने पर यह असल में Facebook पर केंद्रित लेख ही लगता है। “फोन चोरी-छिपे सुन नहीं रहा” कहना भ्रम पैदा कर सकता है। लेख यह साबित नहीं करता कि phone सुन नहीं रहा है; बस इतना कहता है कि कुछ companies शायद ऐसा न कर रही हों। व्यावहारिक रूप से phone सुन सकता है। vulnerabilities का इस्तेमाल करके ऐसा करने वाले malware/spyware काफी हैं, और NSO Group जैसे उदाहरण भी हैं। खुले बाजार में खरीदे जा सकने वाले tools के अलावा, मानना चाहिए कि Mossad, NSA और बड़ी intelligence agencies के पास उनसे भी ज्यादा ताकतवर tools हैं। phone निश्चित रूप से आपकी बातें सुन सकता है, लेकिन शायद ऐसा नहीं हो रहा होगा
https://www.bloomberg.com/news/features/2023-01-24/nso-group...
https://www.britannica.com/topic/Pegasus-spyware
https://citizenlab.ca/2016/08/million-dollar-dissident-iphon...
https://newatlas.com/computers/smartphone-listening-conversa...
https://www.bloomberg.com/news/features/2023-01-24/nso-group...
हालांकि उस स्तर की स्थिति में यह आपकी चिंताओं की सूची में शायद छोटी चीज़ों में होगा
संदर्भ के लिए, “smart” TV भी screenshots भेजते हैं
[0] https://dl.acm.org/doi/10.1145/3646547.3689013
“ऐप ने अपने-आप अपनी स्क्रीन का screenshot लिया और उसे third party को भेज दिया, और एक मामले में स्क्रीन activity का video रिकॉर्ड करके third party को भेजा” जैसी बात कही गई है, और यह भी कि 17,000 से ज़्यादा Android ऐप्स में से 9,000 से अधिक के पास screenshot लेने की संभावित अनुमति थी। वह कौन-सी permission है, और कैसे पता लगाएँ व रोकें कि कौन-से ऐप ऐसा कर रहे हैं?
लगता है लेख उस स्थिति की बात कर रहा है जहाँ ऐप अपनी ही window का screenshot लेता है। यह स्वाभाविक रूप से संभव है और इसके लिए कोई permission बिल्कुल नहीं चाहिए। screen size का bitmap बनाकर
getWindow().getDecorView().draw(new Canvas(bitmap));कर दें। यह काफी plausible है कि कई ऐप्स में भरे हुए third-party ad/marketing/tracking SDK ऐसा कर सकते हैंहालांकि उन्होंने 17,260 ऐप्स में से 9,100 पर static analysis करके यह तय किया कि “media API वास्तविक app code में referenced हैं या नहीं” वगैरह, और बाद में dynamic analysis से confirm किया कि ऐप सच में API call करता है या नहीं। यानी यह उन मामलों से अलग किया गया जहाँ library सिर्फ linked है लेकिन ऐप उसे call नहीं करता। article summary खराब है। “screenshot लेने की संभावित permission थी” नहीं, बल्कि “screenshot लेने की potential capability थी” कहना चाहिए
ज्यादा संभावना है कि यह कई permissions का combination हो, जैसे network connection permission और user को साफ़ दिखे बिना screen capture करने की permission
bugs solve करने में यह बहुत उपयोगी है, लेकिन इसके misuse या users के खिलाफ hostile तरीके से इस्तेमाल होने की संभावना भी बहुत ज्यादा है
लगता है लोग इस दावे पर कि phone 24 घंटे सुन रहा है, cost और accuracy को ignore करते हैं। कम-से-कम मौजूदा constraints में ऐसा होने की संभावना बहुत कम है
audio transcription मुफ्त नहीं है और compute cost बहुत ज्यादा है। ad networks या बड़े services, खासकर unit economics पर ध्यान देने वाले organisations, के लिए इसे justify करना मुश्किल है। accuracy भी खराब होगी। ज्यादातर phones जेब में होते हैं और लगभग कुछ भी capture नहीं कर पाते। ऊपर से सामान्य बातचीत में advertisers के लिए value वाली चीजें कम होती हैं, जबकि Google purchase intent वाली searches की वजह से पैसा छापता है। सामान्य बातचीत का signal-to-noise ratio बहुत कम है, जिससे unit economics और खराब हो जाती है। इसके अलावा अगर ऐसा हो रहा हो तो उसे notice करना मुश्किल नहीं होगा। phone गर्म होगा, battery जल्दी खत्म होगी और data भी ज्यादा use होगा। iOS में microphone usage indicator दिखता है, और background में बहुत ज्यादा resources इस्तेमाल करने पर OS app को kill कर सकता है। जब तक कोई वास्तविक case नहीं मिलता, इसकी चिंता करने लायक बात नहीं है
transcription model local पर चलाकर सिर्फ result text भेजना होगा, और power भी काफी use करना व internet भी arbitrary समय पर use करना जिस device के लिए natural हो—जैसे smart TV
word cloud बनाना trivial है और battery impact भी minimal होगा
अगर सिर्फ “high-value” targets, यानी ज्यादा चीजें खरीदने वाले लोगों का audio record किया जाए तो? सिर्फ उन्हीं के लिए recording worth it हो सकती है, और इसलिए आम तौर पर नए, clean phone से किए जाने वाले random tests में recording event detect नहीं हो पाता होगा
phone नहीं बल्कि TV था, लेकिन कल YouTube कम-से-कम काफी suspicious लगा
पहले तो यह काफी clear था कि watch history बंद होने पर भी वही IP इस्तेमाल करने वाले दूसरे account की history को recommendations में use किया जाता है। history न हो तो home recommendations बंद हो जाती हैं, लेकिन जैसे ही search चलाया, मेरी पत्नी ने दूसरे account से देखे हुए rock climbing channels के पूरी तरह unrelated videos आ गए। मैंने इस account से rock climbing content कभी नहीं देखा। दूसरी बात “सुन रहा है” वाली थी। quarterly pest control के लिए आए exterminator को मैंने पिछले साल के अंत में skateboard से एक ऐसी hill उतरते समय गिरने से बना scar दिखाकर उसके बारे में बताया जिसे मैं handle नहीं कर पाया था। 5 मिनट भी नहीं हुए थे कि TV चालू करके YouTube खोला, और मेरी पत्नी के account की पहली recommendation 50 miles प्रति घंटा की speed से longboard चलाते हुए गिरने का video था। यह कोई secret नहीं कि हम दोनों skate करते हैं और इस account से downhill videos बहुत देखते हैं, लेकिन crash videos मैंने न search किए थे, न देखे थे, न कभी recommend हुए थे—और TV के सामने उस बारे में बात करने के 5 मिनट के अंदर recommend हो गया
बकवास है। एक simple experiment है जो मैंने किया था और आज भी काम करता है
पहले UK YouTube पर ear wax removal ads भयानक रूप से बहुत आते थे। experiment और मजाक के तौर पर, मैंने दो करीबी दोस्तों से कहा कि वह ad कितना disgusting और appetite खराब करने वाला है, फिर जानबूझकर “ear wax removal” कई बार जोर से दोहराया। जैसा सोचा था, एक दिन बाद दोस्त ने “तू सच में खराब है” जैसी message भेजी। दोस्तों के phones Android और iOS थे, और लगता है नुकसान Android user को हुआ था
phone पर चलने वाले ad software के पास profiles link करने और दोस्त तक “infection” फैलाने के लाखों तरीके हैं। default location access सबसे important है, same IP address (friend WiFi?), same Bluetooth beacon के पास होना, same saved SSID, या दोस्त ने कोई broad demographic targeted ad संयोग से देख लिया—ये सब “phone 24 घंटे सुनता है” से कहीं ज्यादा plausible हैं
क्या आपको अपने comment में biases और errors नहीं दिखते?
4 हफ्ते की campaign के पहले week में सबने ignore किया होगा, लेकिन चौथे week तक इतना देख लिया होगा कि वह दिमाग में बैठ गया होगा
सहसंबंध बनाने वाला इंसान भी नहीं है। जैसे Transformer सिर्फ़ token prediction से मानव ज्ञान का बड़ा हिस्सा सीख सकते हैं, वैसे ही विज्ञापन परोसने वाले machine learning systems ने भी लोगों के बारे में करीब-करीब उतनी ही विस्तार से सीख लिया हो, तो हैरानी नहीं होगी
करीब 10 साल पहले state of the art यह था कि user profile, मौजूदा website, keywords जैसे उपलब्ध context से click-through rate को four nines accuracy के साथ predict किया जाए, और इसे मानव व्यवहार के काफ़ी सटीक learned model की ज़रूरत के रूप में समझा गया था। मैं industry छोड़ चुका हूँ, इसलिए मौजूदा ad tech का state of the art नहीं जानता, लेकिन यह बेहतर ही हुआ होगा। मॉडल recent actual click-through rate पर आधारित automatically labeled data (प्रति सेकंड GB के पैमाने पर) से train किए जाते थे, और training data की मात्रा एक छोटे large language model के लगभग बराबर थी। हाल की एक घटना में, तीन लोग अपने phone निकालकर मेज़ पर बैठे और एक दुर्लभ पक्षी से जुड़े topic पर बात की, और जल्द ही वह उनमें से एक के Facebook ad flow में दिखाई दिया। संभावित explanation यह है कि कई apps बहुत-सी third-party data collection और ad libraries link करती हैं, और उनमें से कोई भी पर्याप्त context data collect और resell करके correlation बना सकती है; और यह भी कि दूसरे दोस्तों ने हाल में उस topic पर बात की थी और social network links ने अनुमान लगाया कि हमें इसके बारे में पता होगा। एक दूर की तीसरी संभावना यह है कि जब लोग बोलते समय हाथ हिलाते-जुलाते हैं, तो accelerometer जैसे अजीब side channels से speech infer करने लायक model अच्छे हो गए हों। accelerometer sampling rate 1KHz से कम है, लेकिन 100Hz से ज़्यादा है, तो कोई giant model लगा दें तो शायद काफ़ी हो सकता है
अगर 1,000,000 ad impressions का click-through rate 24.5898% है और machine learning ने 25.1926% predict किया, तो यह कितने nines की accuracy है?
पिछली company में हमने एक काफ़ी popular mobile app SDK बनाया था, जिसे app developers अपनी apps में डालते थे
एक company हमारे पास आई और दावा किया कि उनके पास audio recognition technology है, जो Shazam जैसी है लेकिन कई orders of magnitude ज़्यादा efficient है, शायद MIT में विकसित हुई थी या Bell Labs में। उन्होंने कहा कि इसका use tracking के लिए है—यह पहचानने और record करने के लिए कि user TV या radio ads के संपर्क में आया या नहीं—और उन्होंने revenue share offer किया, बदले में हम उनके SDK को चुपचाप अपने SDK के अंदर bundle कर दें। यह कम-से-कम 10 साल पहले की बात है, जब Apple ने microphone access permission और orange dot indicator enforce नहीं किया था, इसलिए नाम याद नहीं है। ज़ाहिर है हमने मना कर दिया, इसलिए इससे ज़्यादा नहीं जानता और न ही सच-झूठ test किया, लेकिन सच में बहुत गंदी companies मौजूद हैं। आधुनिक smartphones on-device audio processing के लिए पर्याप्त powerful हैं, इसलिए यह दावा टिकता नहीं कि यह network traffic में दिख ही जाएगा
https://www.pcworld.com/article/424417/ad-tracking-tech-uses...