अगस्त 2021 में Apple ने बच्चों की सुरक्षा के लिए अपने प्रोडक्ट्स में 2 नए safety features लाने की घोषणा की थी.
एक feature यह था कि जब उपयोगकर्ता iCloud पर फ़ोटो अपलोड करें, तो image hash के आधार पर यह पता लगाया जाए कि वह फ़ोटो CSAM (बाल यौन शोषण सामग्री) है या नहीं. दूसरा feature यह था कि अगर कोई नाबालिग iMessage के ज़रिए अश्लील फ़ोटो प्राप्त या भेजता है, तो उस फ़ोटो को धुंधला करके warning दिखाने वाला filtering feature जोड़ा जाए.
इस घोषणा ने बड़ा विवाद खड़ा कर दिया. तुरंत Apple के अपने कर्मचारियों ने भी चिंता जताई, और EFF (Electronic Frontier Foundation) सहित कई संगठनों और लोगों ने इसके विरोध में खुले पत्र पर हस्ताक्षर किए. GeekNews पर भी इससे जुड़े कई लेख आए थे.
Apple ने इस पर कहा था कि privacy के उल्लंघन की बात एक गलतफ़हमी है, लेकिन विवाद और चिंताएँ आसानी से शांत नहीं हुईं. बाद में New York Times में यह भी रिपोर्ट हुआ कि Google के CSAM detection algorithm की एकतरफ़ा कार्रवाई से किसी व्यक्ति को नुकसान हुआ, जिससे यह साफ़ हुआ कि ऐसी चिंताएँ बिल्कुल बेबुनियाद नहीं थीं.
- Apple ने बच्चों की सुरक्षा के लिए नए safety features पेश किए
- Apple ने "iPhone scanning" विवाद पर खेद जताया
- Apple ने बच्चों की सुरक्षा के लिए iCloud फ़ोटो स्कैन feature की रिलीज़ टाली
- CSAM: लोग Apple को लेकर किन बातों से चिंतित हैं?
- बीमार शिशु के घाव की तस्वीर लेने वाले पिता को Google ने अपराधी ठहरा दिया
अब Apple ने WIRED को बताया है कि iCloud पर फ़ोटो अपलोड करते समय CSAM की जाँच करने की योजना छोड़ दी गई है.
इसके बजाय, अगर कोई नाबालिग अश्लील फ़ोटो प्राप्त या भेजता है तो warning देने वाले filtering feature को और मज़बूत किया जाएगा.具体 रूप से, कंपनी इस feature को सिर्फ़ फ़ोटो ही नहीं बल्कि वीडियो पर भी उपलब्ध कराने के लिए रिसर्च कर रही है. साथ ही iMessage के अलावा दूसरे apps में भी इस तरह के on-device machine learning आधारित CSAM detection feature को इस्तेमाल करने की योजना है. और शायद विवाद से बचने के लिए, Apple इस बात पर ज़ोर दे रहा है कि यह feature डिफ़ॉल्ट रूप से बंद रहेगा (opt-in) और Apple को इन detections की जानकारी नहीं होगी.
लगता है कि पिछले साल का विवाद इतना तीखा था कि cloud पर अपलोड की गई फ़ोटो को स्कैन करने की योजना पूरी तरह छोड़ दी गई, और उसकी जगह डिवाइस के भीतर ही CSAM को फ़िल्टर करने वाले features को आगे बढ़ाने की दिशा अपनाई गई. लेकिन on-device machine learning के ज़रिए होने वाली censoring भी शुरू से ही विवाद के मुख्य मुद्दों में से एक रही है, इसलिए लगता है कि Apple का यह कदम भी इस पूरे विवाद और चिंताओं को पूरी तरह शांत करने के लिए काफ़ी नहीं होगा.
3 टिप्पणियां
Google वाले मामले को देखकर चिंता हुई थी, लेकिन यह अच्छा है कि Apple ने इसे छोड़ने का फैसला किया।
ऐसे निजी विचार शामिल करने वाले लेख भी बहुत अच्छे लगते हैं।
साफ़-सुथरे सारांश के लिए धन्यवाद!