Meta ने आंतरिक डेटा लीक के बाद कर्मचारी ट्रैकिंग प्रोग्राम रोका

 (wired.com)
1 पॉइंट द्वारा GN⁺ 5 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Meta ने कर्मचारियों के कंप्यूटर इनपुट इकट्ठा करने वाले Model Compatibility Initiative(MCI) डेटा के कंपनी के भीतर जरूरत से ज्यादा उजागर हो जाने के बाद प्रोग्राम को अस्थायी रूप से रोक दिया
  • MCI अप्रैल में अमेरिका स्थित कर्मचारियों के लिए शुरू किया गया था, और यह माउस मूवमेंट, क्लिक लोकेशन, कीस्ट्रोक्स और स्क्रीन कंटेंट जैसी जानकारी इकट्ठा करता था, जिससे कर्मचारियों में विरोध पैदा हुआ
  • प्रबंधन का मानना था कि AI को यह सिखाने के लिए कि इंसान सॉफ्टवेयर कैसे इस्तेमाल करते हैं, कर्मचारी डेटा की जरूरत है, लेकिन प्राइवेसी और सुरक्षा को लेकर चिंताएं वास्तविक आंतरिक एक्सपोज़र समस्या में बदल गईं
  • Stephane Kasriel ने कर्मचारियों को बताया कि 18 जून को मिली सुरक्षा समस्या को 4 घंटे के भीतर संभाल लिया गया था, लेकिन शुरुआती सुधार कायम नहीं रह सका, इसलिए डेटा एक्सेस पर और कड़े प्रतिबंध लगाए गए
  • Meta ने कहा कि वह MCI को तभी फिर से शुरू करेगा जब उसे डेटा प्रोटेक्शन कंट्रोल्स के प्रभावी होने का भरोसा होगा, और दीर्घकालिक मूल्यांकन के लिए जरूरी डेटा वह पहले ही पर्याप्त मात्रा में इकट्ठा कर चुका है

MCI रोकना और आंतरिक डेटा एक्सपोज़र

  • Meta ने कर्मचारी ट्रैकिंग प्रोग्राम MCI को अस्थायी रूप से रोक दिया
  • यह रोक तब लगाई गई जब MCI से इकट्ठा किया गया संभावित रूप से संवेदनशील डेटा कंपनी के भीतर दूसरे कर्मचारियों के सामने उजागर हो गया
  • Meta की प्रवक्ता Tracy Clayton ने कहा कि प्रोग्राम को प्राइवेसी सुरक्षा उपायों के साथ डिज़ाइन किया गया था, और फिलहाल ऐसा कोई संकेत नहीं है कि Meta के किसी कर्मचारी ने डेटा का अनुचित एक्सेस किया हो, लेकिन जांच के दौरान इसे रोका जा रहा है

इकट्ठा किया गया डेटा और कर्मचारियों का विरोध

  • MCI अप्रैल में अमेरिका स्थित कर्मचारियों को दिया गया एक टूल था
  • कर्मचारियों ने विरोध याचिका में जिन डेटा प्रकारों पर आपत्ति जताई, वे ये थे
    • माउस मूवमेंट
    • क्लिक लोकेशन
    • कीस्ट्रोक्स
    • स्क्रीन कंटेंट
  • लॉन्च के समय कर्मचारी MCI से opt out नहीं कर सकते थे, लेकिन विरोध के बाद इसमें सीमित स्तर पर बदलाव किया गया
  • कर्मचारियों को चिंता थी कि MCI प्राइवेसी, सुरक्षा और व्यक्तिगत स्वतंत्रता का उल्लंघन कर सकता है

Meta ने MCI क्यों आगे बढ़ाया

  • Meta प्रबंधन बार-बार यह कहकर MCI के डेटा कलेक्शन का बचाव करता रहा कि यह AI सिस्टम ट्रेनिंग के लिए जरूरी है
  • लक्ष्य यह था कि AI सीखे कि इंसान कंप्यूटर सॉफ्टवेयर को कैसे ऑपरेट करते हैं
  • प्रबंधन का मानना था कि कर्मचारी वे सबसे अच्छे उदाहरण हैं जिनसे AI सीख सकता है

आंतरिक सुरक्षा नोटिस और कर्मचारियों की प्रतिक्रिया

  • सोमवार को Meta के एक इंजीनियर ने आंतरिक सुरक्षा नोटिस में बताया कि MCI से इकट्ठा की गई जानकारी वाला डेटाबेस कंपनी के भीतर किसी के लिए भी खुला था
  • MCI विरोध गतिविधियों में शामिल रहे एक पूर्व कर्मचारी ने इस समस्या को “a mess” कहा और कहा कि कर्मचारियों को इसी तरह की आशंका पहले से थी
  • उस पूर्व कर्मचारी ने आलोचना की कि नेतृत्व ने कर्मचारियों की चिंताओं के बावजूद प्रोग्राम को आगे बढ़ाया और कर्मचारियों व ग्राहकों के डेटा की सुरक्षा और प्राइवेसी जोखिमों को स्वीकार नहीं किया
  • सोमवार को आंतरिक फ़ोरम में सुरक्षा समस्या को लेकर आलोचनात्मक टिप्पणियों की बाढ़ आ गई, और इसके बाद Meta ने MCI को पूरी तरह रोक दिया, जिससे कुछ कर्मचारी भी चौंक गए
  • कुछ कर्मचारियों ने कहा कि रोक की घोषणा से पहले तक यह टूल उनके लैपटॉप पर चलता रहा, जिससे भ्रम की स्थिति बनी

Kasriel की सूचना और दोबारा शुरू करने की शर्तें

  • Meta में AI रिसर्च की देखरेख करने वाले उपाध्यक्ष Stephane Kasriel ने सोमवार देर रात कर्मचारियों को MCI रोके जाने की जानकारी दी
  • Kasriel के अनुसार सुरक्षा समस्या 18 जून को मिली थी और 4 घंटे के भीतर उसका समाधान कर लिया गया था
  • हालांकि शुरुआती सुधार टिक नहीं पाया, इसलिए डेटा एक्सेस को अतिरिक्त रूप से लॉक करना पड़ा
  • इस समस्या के कारण “कुछ MCI derived data” तक इरादे से ज्यादा लोगों की पहुंच बन गई, लेकिन इसका विस्तृत विवरण नहीं दिया गया
  • MCI को तभी फिर से सक्रिय किया जाएगा जब Meta को डेटा प्रोटेक्शन कंट्रोल्स की प्रभावशीलता पर भरोसा होगा
  • Meta ने कहा कि वह MCI के दीर्घकालिक मूल्य का आकलन करने के लिए पर्याप्त डेटा पहले ही इकट्ठा कर चुका है, और आगे MCI के भविष्य पर और जानकारी साझा करेगा

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 5 시간 전
Hacker News की राय

  • Meta अब भी सबसे बेशर्म कंपनियों में से एक है, और वहाँ काम करना भी शर्म की बात के काफ़ी करीब लगता है
    इस कंपनी का ऐसा एक भी प्रोडक्ट याद करना मुश्किल है जिसने दुनिया को साफ़ तौर पर और बदतर न बनाया हो
    हाल की hardware एंट्री भी Ray-Ban के साथ नशे में महिलाओं को रिकॉर्ड करने वाले पुरुषों, surveillance जैसी दिशा में जा रही है, यानी रोज़मर्रा की बातचीत में भरोसा तोड़ने की तरफ़
    ज़्यादा “विचारशील” frontier labs में काम करने वाले मेरे कुछ परिचित तो सिर्फ़ इसी वजह से Meta के applicants को सीधे छाँट देते हैं

    • Facebook ने, उदाहरण के लिए, shareholders को बहुत पैसा कमाकर दिया, और हम जानते हैं कि यही दुनिया को बेहतर जगह बनाने के बराबर है
    • ऐसे प्रोडक्ट की बात करें जिसने दुनिया को साफ़ तौर पर बदतर नहीं बनाया, तो zstd है
      React और PyTorch पर राय बँटी हुई है
    • Meta उन बीसियों के लिए एक सोने का पिंजरा लगता है जो चाहे कुछ भी करें, grow नहीं कर पाते। शर्म की बात है
    • Meta के प्रोडक्ट समाज के लिए बुरे हैं, यह सही है, लेकिन जहाँ काम करना उससे भी ज़्यादा शर्मनाक हो, ऐसी कंपनी Palantir है
    • 2004~2005 का Facebook सच में अच्छा था
      वह जंगल की आग की तरह फैला था, और इस्तेमाल करने में बहुत मज़ा आता था। उस समय वहाँ सिर्फ़ मैं, मेरे कॉलेज के दोस्त, और उनके दोस्त हुआ करते थे

  • अगर वे उन कर्मचारियों के साथ भी ऐसा करते हैं जिन्हें वे पैसे देकर अपने पास रखना चाहते थे, तो user data के साथ क्या करना चाहते होंगे
    और users के systems से जुड़े अपने systems के साथ वे और क्या करने की सोच रहे होंगे
    “Dumb f*cks” दरअसल इस कंपनी की पहले दिन से चली आ रही लाइन थी

  • मुझे लगातार ज़्यादा यक़ीन होता जा रहा है कि इस तरह के leaks ही उस surveillance society के ख़िलाफ़ एकमात्र असरदार प्रतिरोध हैं जिसमें हम प्रवेश कर रहे हैं
    Meta यह करता रहेगा, दूसरे employers शायद इसका पीछा करेंगे, और सरकार “उचित कानूनी प्रक्रिया” के ज़रिए उस data को अपनी फ़ाइलों में जोड़ लेगी
    surveillance cameras का विस्तार, chats पर control, anonymity का ख़ात्मा—यह सब अभी हमारी आँखों के सामने हो रहा है
    जब ऐसा data leak होता है, तो सबको साफ़ दिखता है कि यह कितनी बड़ी liability risk है। Meta executives का data भी उसी ढेर में है, और सैनिकों व सांसदों का data Flock database में है
    कितने senators होंगे जिनके बारे में PornHub के पास उनकी पसंद का बिल्कुल सटीक प्रोफ़ाइल होगा
    बेशक, ऐसे data leaks से नुकसान होता है। लेकिन क्या वह नुकसान सच में उससे बड़ा है कि हर जगह हर कोई सबकी निगरानी करता रहे

    • leak न होने पर नुकसान और भी बड़ा हो सकता है
      क्योंकि इसे ताकतवर लोगों को blackmail करने में इस्तेमाल किया जा सकता है। कोई खास ग़ैरकानूनी काम न किया हो, तब भी बस कोई विवादास्पद बयान या असामान्य sexual preference काफ़ी है
      और हाँ, ग़ैरकानूनी चीज़ें भी हो सकती हैं, लेकिन कुछ भी ग़ैरकानूनी न हो तब भी parallel construction वाली जाँच खड़ी करने लायक सामग्री तो हो ही सकती है

  • लिंक किए गए लेख को पढ़ें तो उसमें कहा गया है कि leaked data में कुछ कर्मचारियों की plain text में दिखती निजी बातचीत वाले screenshots और performance information शामिल थे
    पूरी screen recording करके यह उम्मीद करना कि anonymization ठीक से हो जाएगी, काफ़ी साहसी फ़ैसला था

  • जो लोग कहते हैं “अगर आपने नियम नहीं तोड़े, तो डरने की कोई बात नहीं,” उन्हें यह समझना चाहिए कि ज़्यादातर कंपनियाँ सिर्फ़ नियमों के हिसाब से काम करने को ही एक तरह का विरोध मानती हैं
    सिर्फ़ नियमों का पालन करने पर भी यह surveillance आपको पहचानने और दंडित करने में इस्तेमाल होगा

  • वह system discovery process में एक दुःस्वप्न जैसा होगा

    • बल्कि यह तो एक शानदार idea जैसा लगता है
      सोचता हूँ क्या उन्होंने पहले ही यह मानकर कि “निर्णायक सबूत” पैदा होने की सबसे ज़्यादा संभावना किन roles में है, उन्हें निगरानी से बाहर रखा होगा

  • यह घटिया कंपनी death spiral में जा रही है

    • अफ़सोस की बात है कि अपने cash pile और Facebook नाम की सोने के अंडे देने वाली हंस की वजह से यह कुछ समय तक और चलती रहेगी

  • इसे बस अस्थायी रूप से रोका गया है, और साफ़ है कि इरादा फिर से शुरू करने का है
    समझ नहीं आता कि इसे downvote क्यों मिल रहे हैं। लेख में शब्दशः यही लिखा है
    “We will only re-enable MCI when we are confident in the effectiveness of our data protection controls,” Kasriel said.

  • लगता है Meta सच में बहुत पैसा देती है

  • शायद उस utility को AI से लिखा गया होगा। AI का security ठीक से न संभाल पाना कोई बहुत चौंकाने वाली बात नहीं है