बीमार शिशु के प्रभावित हिस्से की तस्वीर लेने वाले पिता को Google ने अपराधी ठहराया

 (nytimes.com)
11 पॉइंट द्वारा xguru 2022-08-22 | 8 टिप्पणियां | WhatsApp पर शेयर करें
  • फ़रवरी 2021 में यह वीकेंड का समय था और महामारी चल रही थी, इसलिए इमरजेंसी इलाज के लिए नर्स ने कहा कि अगर वीडियो/तस्वीरें लेकर भेज दी जाएँ तो डॉक्टर उन्हें पहले से रिव्यू कर सकते हैं
  • शिशु की तकलीफ़ वाली जगह "संवेदनशील अंग" थी, इसलिए साफ़ दिखाई दे ऐसी तस्वीर लेकर भेजी गई, डॉक्टर ने देखकर तुरंत एंटीबायोटिक लिख दी और मामला जल्दी सुलझ गया
  • लेकिन उसी तस्वीर की वजह से Google के algorithm ने उन्हें CSAM (बाल यौन शोषण सामग्री) का आदान-प्रदान करने वाला व्यक्ति मान लिया और Google account निलंबित कर दिया
    • 10 साल से अधिक समय से इस्तेमाल किया गया Gmail, Google Calendar, फ़ोटो और वीडियो Google cloud में बैकअप थे, और फ़ोन सेवा Google Fi थी
  • दिलचस्प बात यह है कि संबंधित व्यक्ति Mark स्वयं एक tech कंपनी में ऐसा automation tool हटाने वाले software engineer थे, जो users द्वारा flag किए गए वीडियो कंटेंट को डिलीट करता था
  • इसलिए उन्हें लगा कि ऐसे मामलों के पीछे इंसान होते हैं ताकि कंप्यूटर की गलती सुधारी जा सके, और कोई व्यक्ति देखेगा तो समस्या हल हो जाएगी
    • उन्होंने सफ़ाई देते हुए ईमेल भेजा, लेकिन Google ने जवाब दिया कि बिना किसी अतिरिक्त स्पष्टीकरण के account बहाल नहीं किया जाएगा
    • उनके सभी ईमेल रिकॉर्ड, फ़ोटो और contacts चले गए, और फ़ोन नंबर भी बदलना पड़ा
    • Mark को पता नहीं था, लेकिन Google की review टीम ने पहले ही उनके द्वारा बनाई गई इमेज की रिपोर्ट कर दी थी और San Francisco पुलिस ने जाँच शुरू कर दी थी
  • ऐसा ही मामला Texas के Cassio नामक व्यक्ति के साथ भी हुआ
  • 2021 में Google को CSAM से जुड़ी 6 लाख से अधिक रिपोर्टें मिलीं और 2.7 लाख accounts निष्क्रिय किए गए
  • 2009 में Microsoft ने PhotoDNA तकनीक विकसित की, और 2018 में Google ने CSAM इमेज पहचानने वाला AI tool भी बनाया
    • Facebook सहित कई कंपनियाँ इस तकनीक का उपयोग करती हैं
  • दिसंबर 2021 में Mark को San Francisco पुलिस से डाक द्वारा एक पत्र मिला
    • उसमें यह जानकारी थी कि उनकी जाँच की गई थी, और Google को भेजे गए search warrant की प्रति भी शामिल थी
    • Mark के Google account में मौजूद सब कुछ—internet search, location history, messages, documents, photos, videos आदि—की जाँच की गई थी
    • यह तलाशी फ़रवरी में तस्वीर लेने के एक हफ़्ते के भीतर ही की गई थी
    • Mark ने जाँचकर्ता से संपर्क किया तो बताया गया कि मामला पहले ही बिना किसी आरोप के बंद किया जा चुका है
    • जाँचकर्ता Mark से संपर्क करना चाहता था, लेकिन फ़ोन और ईमेल दोनों से संपर्क नहीं हो पा रहा था (क्योंकि वे बंद हो चुके थे)
    • उन्होंने पूछा कि क्या जाँचकर्ता के ज़रिए Google account बहाल कराया जा सकता है, लेकिन जवाब मिला, "Google से बात करनी होगी"
    • यह पुलिस रिपोर्ट Google को जमा करने पर भी कोई फ़ायदा नहीं हुआ
  • Cassio के मामले में भी इसी तरह समस्या सुलझ गई, लेकिन Google account बहाल नहीं किया जा सका
  • क्या AI मेडिकल इमेज और शोषण से जुड़ी इमेज में फ़र्क कर सकता है?

संबंधित पढ़ाई

8 टिप्पणियां

 
kunggom 2022-08-26

आखिरकार इसे घरेलू समाचारों में भी New York Times का हवाला देकर रिपोर्ट किया गया।

"Google ने इलाज के लिए अपने शिशु बेटे के जननांग की तस्वीर लेने वाले पिता को यौन अपराधी ठहराया"
 
laeyoung 2022-08-22

जैसे 70 साल पहले परमाणु बम को देखकर वैज्ञानिकों ने विज्ञान पर आत्म-निगरानी शुरू की थी, वैसे ही शायद अब डेवलपर्स के लिए भी बड़ी tech कंपनियों पर आत्म-निगरानी की ज़रूरत वाले समय की शुरुआत हो गई है।
 
alstjr7375 2022-08-22

क्या यह मामला मुकदमा करने लायक नहीं है..?
 
kunggom 2022-08-22

आर्काइव किए गए मूल लेख के अनुसार, Mark ने भी यह जानने के लिए वकील से सलाह ली कि क्या वह Google पर मुकदमा कर सकता है, लेकिन लगभग 7,000 डॉलर का खर्च पता चलने पर उसने इसे छोड़ दिया।
 
terger24 2022-08-22

लगता है कि सिर्फ़ दंडवत माफ़ी माँगना भी काफ़ी नहीं होगा....
 
ifmkl 2022-08-22

अरे, इसमें तो उल्टा हुए नुकसान के लिए मुआवज़ा मिलना चाहिए लगता है, लेकिन क्या उस बात को दबाने के लिए वे ऐसा कर रहे हैं?
 
devsepnine 2022-08-22

Google की प्रतिक्रिया और हैंडलिंग का स्तर काफ़ी खराब है..