Meta ने AI ट्रेनिंग के लिए कर्मचारियों की mouse movement और keystrokes इकट्ठा करना शुरू किया

• Meta ने अमेरिका में कर्मचारियों के कंप्यूटरों पर mouse movement, clicks, और keystrokes को ट्रैक करने वाला सॉफ़्टवेयर इंस्टॉल किया है, जिसे AI मॉडल ट्रेनिंग डेटा के रूप में इस्तेमाल किया जाएगा, और कामकाजी apps व websites पर screen snapshots भी समय-समय पर कैप्चर किए जाएंगे
• Model Capability Initiative(MCI) नाम का यह टूल dropdown menu selection, keyboard shortcuts के इस्तेमाल जैसे उन क्षेत्रों के लिए ट्रेनिंग डेटा जुटाने के उद्देश्य से बनाया गया है, जहाँ AI अभी मानव व्यवहार की अच्छी तरह नकल नहीं कर पाता
• CTO Andrew Bosworth ने Agent Transformation Accelerator(ATA) के रूप में रीब्रांड किए गए आंतरिक AI transformation प्रोग्राम के ज़रिए यह विज़न पेश किया कि "agents मुख्य रूप से काम करें और इंसान निर्देश दें, समीक्षा करें और सुधार करें"
• Meta 20 मई से दुनियाभर में 10% workforce reduction शुरू कर रही है, और कर्मचारियों को coding जैसे कामों में AI agents के इस्तेमाल के लिए सक्रिय रूप से प्रोत्साहित कर रही है
• क़ानूनी विशेषज्ञों का कहना है कि यह कदम white-collar कर्मचारियों पर भी पहले delivery और gig workers के स्तर की real-time surveillance लागू करता है, और यूरोप के GDPR का उल्लंघन होने की संभावना भी काफ़ी है

---

MCI टूल कैसे काम करता है

• MCI कर्मचारियों के work apps और websites पर चलता है और mouse movements, clicks, और keystrokes कैप्चर करता है
• इसमें कर्मचारियों की स्क्रीन पर मौजूद सामग्री के नियमित snapshots लेने की सुविधा भी शामिल है
• यह जानकारी एक AI research scientist द्वारा Meta SuperIntelligence Labs टीम चैनल में पोस्ट किए गए आंतरिक मेमो से सामने आई
• इसका उद्देश्य dropdown menu selection या keyboard shortcuts के इस्तेमाल जैसे उन क्षेत्रों में सुधार करना है, जहाँ AI मॉडल मानव computer interaction की नकल करने में कठिनाई महसूस करते हैं
• इसमें कहा गया कि "सभी Meta कर्मचारी अपना रोज़मर्रा का काम करने भर से मॉडल सुधार में योगदान दे सकते हैं"

AI कार्य-परिवर्तन रणनीति

• CTO Andrew Bosworth ने एक अलग मेमो में कहा कि आंतरिक डेटा संग्रह को और मज़बूत किया जाएगा, और इस प्रोग्राम को Agent Transformation Accelerator(ATA) के रूप में रीब्रांड किया गया है
• उन्होंने यह विज़न पेश किया कि "agents मुख्य रूप से काम करें और इंसानों की भूमिका निर्देश देना, समीक्षा करना और सुधार में मदद करना हो"
• लक्ष्य यह है कि agent अपने-आप उन बिंदुओं की पहचान कर सके जहाँ उसे लगा कि मानव हस्तक्षेप की ज़रूरत है, ताकि अगली बार वह बेहतर काम कर सके
• Bosworth ने यह स्पष्ट नहीं किया कि agents को कैसे train किया जाएगा, लेकिन कहा कि वे "काम की प्रक्रिया में होने वाले हर प्रकार के interaction पर data और evaluation को जमा करने" में सख़्ती बरतेंगे
• Meta के प्रवक्ता Andy Stone ने स्वीकार किया कि MCI डेटा मॉडल ट्रेनिंग के input values में से एक है

AI-आधारित workforce restructuring

• MCI डेटा का performance evaluation में इस्तेमाल नहीं किया जाएगा और इसे केवल मॉडल ट्रेनिंग के लिए उपयोग किया जाएगा; "sensitive content" की सुरक्षा के लिए safeguards मौजूद हैं, लेकिन कौन-सा डेटा संग्रह से बाहर रखा जाएगा, यह नहीं बताया गया
• AI tools की वह क्षमता, जिसमें वे app creation और बड़े पैमाने पर data organization जैसे जटिल कामों को न्यूनतम मानव निगरानी में संभाल सकें, Silicon Valley को आकर्षित कर रही है, और इसी के साथ पारंपरिक software कंपनियों के शेयरों में गिरावट और बड़े पैमाने पर workforce reduction योजनाएँ भी सामने आ रही हैं
• Meta 20 मई से दुनियाभर में 10% workforce reduction शुरू कर रही है और इस साल अतिरिक्त बड़े कटौती दौर पर भी विचार कर रही है
• Amazon ने हाल के महीनों में लगभग 30,000 white-collar कर्मचारियों (करीब 10%) की कटौती की है, जबकि Block ने फ़रवरी में अपने लगभग आधे कर्मचारियों को निकाल दिया
• Meta कर्मचारियों को कम-से-कम अल्पकाल में गति धीमी पड़ने के बावजूद coding जैसे कामों में AI agents का इस्तेमाल करने के लिए प्रोत्साहित कर रही है
• अलग-अलग भूमिकाओं के बीच भेद हटाकर उन्हें "AI builder" जैसी एक सामान्य job title के तहत समेटने का काम भी चल रहा है
• पिछले महीने Applied AI(AAI) engineering team बनाई गई, जो Meta AI models की coding capabilities मज़बूत करने और भविष्य में product व infrastructure निर्माण का अधिकांश काम करने वाले AI agents के विकास पर केंद्रित है
• इस महीने की शुरुआत से "उत्कृष्ट" software engineers को AAI में स्थानांतरित करना शुरू किया गया है

white-collar surveillance को लेकर चिंता

• Yale University की क़ानून प्रोफेसर Ifeoma Ajunwa के अनुसार, computer logging और screenshot तकनीक का ऐतिहासिक रूप से इस्तेमाल कर्मचारी दुराचार या गैर-कार्य गतिविधियों का पता लगाने के लिए किया जाता रहा है
• keystroke logging डेटा संग्रह को एक कदम आगे ले जाती है और white-collar कर्मचारियों पर भी पहले delivery drivers या gig workers ही झेलते थे, उस स्तर की real-time surveillance लागू करती है
• अमेरिकी संघीय क़ानून में worker surveillance पर कोई पाबंदी नहीं है, और ज़्यादातर राज्य क़ानून भी केवल इतना मांगते हैं कि नियोक्ता निगरानी की जानकारी व्यापक रूप से दे
• York University के क़ानून प्रोफेसर Valerio De Stefano का मानना है कि यूरोपीय क़ानून के तहत ऐसी निगरानी प्रतिबंधित मानी जा सकती है
  • इटली में electronic monitoring के ज़रिए कर्मचारियों की productivity ट्रैक करना स्पष्ट रूप से अवैध है
  • जर्मनी की अदालतों ने यह रुख़ कायम रखा है कि keystroke logging केवल गंभीर आपराधिक संदेह जैसी अपवादात्मक स्थितियों में ही अनुमति योग्य है
• इस तरह की प्रथाएँ यूरोप के GDPR उल्लंघन के दायरे में आ सकती हैं
• नियोक्ता निगरानी के बारे में जागरूकता का असर कार्यस्थल में शक्ति संतुलन को नियोक्ता की ओर झुकाने के रूप में देखा जाता है

[unsure4000]

उस tracking system को कोड करने वाला इंसान आखिर किस सोच के साथ काम कर रहा था?

[t7vonn]

मॉडल सुधार तो बस दिखावा लगता है, असल में यह शायद layoffs को जायज़ ठहराने के लिए डेटा इकट्ठा करना है।

[winkagn]

मुझे तो लगता है कि इसमें और Big Brother में आखिर फ़र्क क्या है।

[GN⁺]

Hacker News की राय

• यह बस ज़हरीले कचरे जैसा लगता है। उम्मीद है कि यह जमकर hack हो, और कोई Meta की लालची data collection pipe में ढेर सारा बेहद बेहूदा fake data ठूँसने वाला countermeasure बना दे
• मुझे लगता है कि इसका कर्मचारियों पर बहुत बड़ा chilling effect पड़ेगा। अब काम के बाहर की बात या हल्की-फुल्की बातचीत भी लगभग बिना किसी privacy expectation के करनी होगी। पहले भी logs देखे जा सकते थे, लेकिन किसी incident के बाद सीमित रूप से देखना और बड़े पैमाने पर लगातार निगरानी करना पूरी तरह अलग बात है
  • व्यंग्य यही है कि शायद इससे ज़्यादा यह किसी और group पर सूट नहीं करता। irony इतनी ज़बरदस्त है कि मानो detector फट जाए
  • मैंने हमेशा यही मानकर चला हूँ कि company device पर मैं जो कुछ भी करता हूँ, उसे IT monitor कर सकता है। इसलिए कंपनी को नापसंद आने वाली कोई भी चीज़ मैं कभी company hardware पर नहीं करता था; उसके बजाय अपना smartphone और personal computer इस्तेमाल करता था। पहले एक startup में engineers और management के बीच टकराव हुआ था, तब engineers ने अपने-अपने personal Signal account से private group बना लिया था और आराम से बात की थी
  • सच कहूँ तो नहीं लगता कि Meta को इस बात की परवाह होगी कि कर्मचारी सहम जाएँगे। वे पहले ही और ज़्यादा value extraction वाले phase में पहुँच चुके हैं, और अब वे ऐसी company भी नहीं लगते जो cutting-edge talent को खींचकर लाती हो
  • मैं यह बात समझ सकता हूँ कि work machine कंपनी की property है, इसलिए उस पर privacy expectation नहीं होनी चाहिए। मैं India की एक tech company में काम करता हूँ, और key-person dependency risk कम करने के लिए हमें सहकर्मियों की विशेषताओं के आधार पर skills.md बनाने के लिए encourage किया जाता है। संगठनात्मक फेरबदल में निकाले गए कुछ engineers के code को वास्तव में उनके AI counterparts maintain कर रहे हैं। लगता है Meta भी उसी दिशा में जा रही है
  • जब से मैंने professional life शुरू की, मैं यही मानता आया हूँ कि company assets और devices पर कंपनी को निगरानी करने, यहाँ तक कि keylogging करने का भी अधिकार है। असलियत में वे अक्सर इतना आगे नहीं जाते, यह देखकर मुझे उलटे हैरानी हुई, लेकिन अधिकार तो है ही। मुझे समझ नहीं आता कि लोग work hours में non-work activity करने का अधिकार क्यों expect करते हैं। जिन कंपनियों में मैंने काम किया, उन सबमें contracts और policies में allowed boundary साफ लिखी होती थी; अगर कंपनी की बुराई करनी है तो Slack या Teams पर नहीं, बल्कि company के बाहर, असली water cooler के पास, या personal number से करो
• मज़ाक यह भी हुआ कि अगली पीढ़ी की AI शायद Hacker News scrolling में बहुत माहिर होगी
• मुझे सच में समझ नहीं आता कि यह legal कैसे है। ऐसा लगता है जैसे US में Facebook पर लगभग कोई compliance requirement ही नहीं है। SRE screen के time-series screenshots में password, encryption key, PII जैसी sensitive जानकारी होना लगभग तय है; ऐसे data vacuum cleaner का उसे store करना कैसे सही हो सकता है? यह भी जानना है कि क्या कर्मचारी इसे मनचाहे ढंग से बंद कर सकते हैं, और अगर कोई गलती से पूरी company की ssh root private key screen पर छोड़ दे और इसे बंद न कर पाए तो क्या होगा। legality से भी पहले, जिस किसी के पास इस training data की access होगी, उसके पास कंपनी के systems पर जरूरत से कहीं ज़्यादा व्यापक access होगा, और इससे बस hacking risk बढ़ेगा
  • US law के तहत, खासकर company devices पर, ज़्यादातर कंपनियों के लिए यह अक्सर legal होता है, और दुख की बात है कि यह बहुत rare भी नहीं है। आम तौर पर ऐसे data की compliance दूसरे sensitive data की तरह handle की जाती है, जैसे screen capture तक केवल specific groups की access सीमित करना। मैं इसका समर्थन नहीं कर रहा, लेकिन बहुत-सी कंपनियाँ security concern को अनदेखा करके यह नहीं करतीं; वे तो उलटे security issue solve करने के नाम पर करती हैं। हाँ, Meta का मामला थोड़ा अलग लगता है, जैसे वे workforce के कुछ हिस्से को replace करने वाला model बनाना चाहते हों
  • मुझे लगता है कि यह data आखिरकार किसी data breach में बाहर निकल ही जाएगा। अदालत में लोगों के खिलाफ इस्तेमाल होगा, training में भी लगेगा, और चाहे कोई कुछ भी कहे, जैसे ही AI काम replace कर सकेगी, यह layoffs के लिए भी इस्तेमाल होगा। और यह सब होने के बाद भी Meta शायद जवाबदेही से बच निकलेगी। इसलिए ऐसी चीज़ों को रोकने वाला कानून और भी ज़रूरी लगता है
  • web से ज़रा-सा भी जुड़ा कोई psychological experiment A/B testing के normal होने के बाद मानो अपने-आप legal मान लिया जाने लगा है। असल में यह ऐसा क्षेत्र है जहाँ broad consent form से काम नहीं चलना चाहिए; इसमें voluntary participation और independent review जैसी प्रक्रियाएँ होनी चाहिए। जिन्न बोतल से बाहर आ चुका है, लेकिन इसका मतलब यह नहीं कि समस्या रही ही नहीं
• यह सच में पागलपन लगता है। पहले engineers को सचमुच professionals की तरह देखा जाता था, लेकिन अब ऐसा लग रहा है कि companies trust की जगह spyware माँग रही हैं। यह वैसा है जैसे कहना कि law firm laptop पर monitoring program डाल दो, कहीं lawyer judge से मिलीभगत न कर ले, या doctor की हर हरकत पर 24 घंटे नज़र रखो। यहाँ तक कि व्यंग्य में यह कहने का मन होता है कि publicly auditable 24/7 surveillance तो कम से कम politicians पर लागू करो
  • politicians तो सबसे पहले security वगैरह का बहाना बनाकर अपने लिए exception बना लेंगे। सिद्धांततः power जितनी बड़ी हो, accountability और scrutiny उतनी ज़्यादा होनी चाहिए, लेकिन असल दुनिया ठीक उलटी चलती है
  • तुम्हारे उदाहरणों में सीधे tax money से paid होकर सिद्धांततः मेरे लिए काम करने वाले सिर्फ politicians हैं। lawyers और doctors न तो मेरे कर्मचारी हैं, न मेरी property पर काम करते हैं। बल्कि यह मामला दिखाता है कि US की employer-employee relationship में नकाब अब लगभग पूरी तरह उतर चुका है, और जब health insurance तक नौकरी से बंधी हो, तब यहाँ तक पहुँच जाने के बाद प्रतिरोध की ताकत बहुत कम बचती है
  • law office laptop पर ऐसी निगरानी डालने का विचार तो उलटे अच्छा idea लगता है, ऐसी प्रतिक्रिया भी थी
  • मैं खुद सच में कुछ lawyers से पीठ में छुरा घोंपा जाना झेल चुका हूँ। ईमेल से भी ज़्यादा चिंता की चीज़ phone call है, ऐसा एक व्यावहारिक comment था
• जो data इकट्ठा किया गया है, उसे performance review या किसी और काम में नहीं, सिर्फ model training के लिए इस्तेमाल किया जाएगा—क्या Meta के कर्मचारी इस बात पर भरोसा करेंगे?
  • ये वही लोग हैं जिन्होंने पहले ही दुनिया के सबसे बड़े surveillance network में से एक को अपनी मर्ज़ी से code किया है, इसलिए हो सकता है वे बहुत कुछ मानने को तैयार हों, ऐसा तंज था
  • अगर लगातार 4 साल से layoffs हो रहे हों और फिर 20% headcount cut की आहट हो, तो अनुमान यही है कि Meta के कर्मचारी, भले संख्या में कम हों, लेकिन काफी शक करेंगे
  • आखिर में मायने compensation का है, और ऊँची salary शायद compliance ले आएगी, ऐसा ठंडा आकलन भी था
  • इस दावे की विश्वसनीयता अतीत के "It's free and always will be" जितनी ही है, ऐसी आलोचना थी
• यह सच में राहत की बात लगती है कि मैंने Meta interview process शुरू ही नहीं किया। तब भी company मुझे काफी हास्यास्पद लगती थी, और अब तो बात ही अलग स्तर पर पहुँच गई है
• सोचने का मन होता है कि Meta की ठीक उलटी company कैसी होगी। शायद छोटी और privacy-focused, और शायद ऐसी जगह जहाँ office में HN blocked हो; या फिर शायद मैं कुछ miss कर रहा हूँ
• मुझे लगता है कि यह system आखिरकार Meta कर्मचारियों के AI के साथ काम करने के दृश्यों का बड़े पैमाने पर संग्रह करेगा। फिर उस data पर trained model deploy किया जाएगा, और अगली बार AI को अच्छी तरह इस्तेमाल करने वाले AI का उपयोग करने वाले कर्मचारियों का data इकट्ठा होगा। इसे कुछ बार दोहराओ, और अंत में ऐसी input भी capture होगी जहाँ लोग निराशा में keyboard पीटते हुए चिल्ला रहे होंगे कि model कुछ कर क्यों नहीं पा रहा—पूरी black comedy जैसी तस्वीर बनती है
  • एक अटकल यह भी है कि AI training तो बस बहाना है; असल मकसद बड़े पैमाने की layoffs को कम दिखाई देने वाला बनाना और severance pay भी घटाना हो सकता है
  • यह data यह भी दिखाएगा कि कौन AI का पर्याप्त इस्तेमाल नहीं कर रहा, इसलिए ऐसे कर्मचारियों को आखिरकार PIP मिल सकता है या उन्हें निकाला जा सकता है
  • यह मज़ेदार failure mode जैसा लगता है, लेकिन तकनीकी रूप से शायद अच्छी बात भी हो सकती है। models के पास पहले ही कुछ हद तक वे skills हैं जो इंसान AI से करवाते रहे हैं; चाहे sub-agent इस्तेमाल करने का तरीका हो या AI द्वारा replace किए गए काम को सीधे model के अंदर समेट देना, इंसानों ने work distribution को AI distribution के करीब कर दिया है, जिससे training आसान हो सकती है
  • breaking news: Meta ने आखिरकार ultimate "cat sitting on keyboard" simulator बना लिया है
• इससे जुड़ी बात के तौर पर Marshall Brain की Manna याद आई, और https://marshallbrain.com/manna1 को मौजूदा स्थिति से काफ़ी मेल खाता हुआ काम माना गया