क्या Microsoft आत्महत्या की कोशिश कर रहा है?

 (antipope.org)
2 पॉइंट द्वारा GN⁺ 2024-06-06 | 1 टिप्पणियां | WhatsApp पर शेयर करें

Microsoft की नई फीचर, CoPilot+ और Recall

मुख्य बिंदुओं का सार

  • AI का विस्तार:

    • हाल की tech news AI (कृत्रिम बुद्धिमत्ता) के प्रसार पर केंद्रित है।
    • कई कंपनियाँ अपने products में AI जोड़ने की दिशा में बढ़ रही हैं।

  • CoPilot+ परिचय:

    • CoPilot+ Microsoft का LLM (large language model) आधारित Windows add-on है।
    • यह पुराने Clippy जैसा है, लेकिन AI का उपयोग करके user के काम में मदद करने वाला फीचर है।
    • हालांकि, LLM की सीमाओं के कारण यह हमेशा सटीक जवाब नहीं दे सकता।

  • Windows ARM प्रोसेसर:

    • Microsoft Intel पर निर्भरता कम करने के लिए ARM-आधारित Windows को आगे बढ़ा रहा है।
    • नए CoPilot+ PC में शक्तिशाली ARM प्रोसेसर दिए गए हैं, जिन्हें AI workloads के लिए डिज़ाइन किया गया है।

  • Recall फीचर:

    • Recall एक ऐसा फीचर है जो user द्वारा कंप्यूटर पर किए गए हर काम को रिकॉर्ड करता है।
    • यह screenshots लेता है, OCR (optical character recognition) और voice recognition के जरिए text निकालकर database में store करता है।
    • store किया गया data encrypted नहीं होता, जिससे security समस्याएँ पैदा हो सकती हैं।

  • Privacy समस्याएँ:

    • Recall फीचर user privacy का गंभीर उल्लंघन कर सकता है।
    • store किए गए data में user credentials, passwords आदि शामिल हो सकते हैं।
    • कानूनी प्रक्रिया में इस database को तलब किया जा सकता है, जिससे कंपनियों और व्यक्तियों दोनों के लिए बड़ा जोखिम पैदा होता है।

  • अन्य समस्याएँ:

    • Recall फीचर GDPR और HIPAA जैसे privacy नियमों का उल्लंघन कर सकता है।
    • Microsoft इस फीचर को Windows 11 update में ज़बरदस्ती शामिल करने की योजना बना रहा है।

GN⁺ की राय

  • Privacy का उल्लंघन:

    • Recall फीचर user privacy को गंभीर रूप से नुकसान पहुँचा सकता है। खासकर संवेदनशील data संभालने वाली कंपनियों और व्यक्तियों के लिए यह बड़ा खतरा है।

  • Security कमजोरियाँ:

    • unencrypted database hackers या malicious users के लिए आसानी से उपलब्ध हो सकता है। इससे security incidents की आशंका बढ़ जाती है।

  • कानूनी समस्याएँ:

    • Recall फीचर के GDPR और HIPAA जैसे privacy कानूनों का उल्लंघन करने की संभावना अधिक है। इससे कानूनी विवाद पैदा हो सकते हैं।

  • User trust:

    • Microsoft द्वारा ऐसे फीचर लाना user trust को गंभीर रूप से नुकसान पहुँचा सकता है। लंबे समय में इसका कंपनी की छवि पर नकारात्मक असर पड़ सकता है।

  • वैकल्पिक तकनीक:

    • user privacy को प्राथमिकता देने वाली कंपनियों को Recall फीचर के बजाय अन्य विकल्पों पर विचार करना चाहिए। उदाहरण के लिए, open source आधारित security solutions अपनाना बेहतर हो सकता है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-06-06
Hacker News की राय

  • सुरक्षा·प्राइवेसी चिंताओं को अलग रख भी दें, तो Recall खास तौर पर AI फीचर जैसा नहीं लगता
    क्या यह बस डिवाइस पर OCR और SQLite database बनाकर उसे search करने वाली संरचना नहीं है? आजकल AI की ढीली-ढाली परिभाषा से भी इसका रिश्ता साफ़ नहीं दिखता। क्या सिर्फ़ इसलिए क्योंकि OCR machine learning आधारित है? अगर Recall में कोई LLM component है जो मुझसे छूट गया हो, तो क्या ऐसा prompt injection attack website भी बनाया जा सकता है जो malicious instructions को SQLite database में index कर दे और बाद में उन्हें LLM को खिला दे?

    • यह बात बहुत पहले से कही जाती रही है कि AI researchers जब भी कुछ संभव बना देते हैं, वह “असंभव SF” से बदलकर “वह असली AI नहीं है” बन जाता है
      सच में ऐसी प्रतिक्रिया देखना अजीब लगता है। OCR को भी कभी अच्छी quality में असंभव माना जाता था, और इसी वजह से forum bots के login रोकने के लिए CAPTCHA इस्तेमाल होता था। शुरुआत में वह text था, फिर इतना distort होने लगा कि इंसानों के लिए भी पढ़ना मुश्किल हो गया, फिर house numbers और “XYZ वाली सभी photos पर click करें” तक पहुँचा, और आखिर में mouse cursor की position और visit की गई sites देखने वाले analysis के कारण लगभग गायब हो गया
    • खुद देखकर लगता है कि इसमें साधारण OCR से आगे कुछ semantic analysis भी शामिल है, इसलिए आज के ढीले इस्तेमाल में इसे AI feature कहना ठीक लगता है
      सुराग इस demo में है: https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s जहाँ “blue pantsuit with sequin lace” search करने पर यह ऐसे item को ढूँढता है जिसे text में “peacock” कहा गया है। यह image embeddings पर embedding search जैसा लगता है
      और Recall जो 3 SQLite databases बनाता है, उनमें से एक का नाम “SemanticImageStore” है, इसलिए लगता है कि यह डिवाइस पर CLIP-style image embedding model चला रहा है। उस database में “diskann” column भी है, जो शायद Microsoft की vector indexing library https://github.com/microsoft/DiskANN की ओर इशारा करता है
    • Demo देखने पर, स्क्रीन पर “Blue bag” शब्द न होने पर भी उसे search किया जा सकता है
      उदाहरण के लिए, अगर PowerPoint slide की photo में नीला bag हो तो यह उसे ढूँढ लेता है
    • लगता है यहाँ AI की परिभाषा “ऐसी समस्या जिसे computer शायद हल न कर पाए” के करीब है
      OCR को हम तरीका जानने से पहले निश्चित रूप से AI माना जाता था। अब हम समझते हैं, तो वह “सिर्फ computing” बन गया है, लेकिन AI की दूसरी परिभाषाओं से भी उसे AI मानना अब भी तर्कसंगत है
    • संभव है कि इसमें RAG शामिल हो

  • अगर Recall अभी तक EU में पूरी तरह illegal नहीं है, तो Microsoft शायद launch से लेकर पूरे EU में ban वाले कानून तक बिना किसी रोक-टोक की speed run कर रहा है
    ऐसा कोई scenario नहीं दिखता जिसमें EU इसे अपने क्षेत्र में allow करे। सिर्फ़ यह बहुत वाजिब चिंता कि इसका दुरुपयोग abusive spouse कर सकता है, राजनीतिक justification के लिए काफ़ी है। ऐसे framing वाले कानून का विरोध करने के लिए European Parliament का एक भी member मिलना मुश्किल लगेगा, और नए चुने गए सदस्य भी जटिल और कठिन मामलों के बीच ऐसी आसान जीत का स्वागत करेंगे

    • Recall को EU में illegal क्यों होना चाहिए?
    • अगर यूरोपीय नागरिक यह feature चाहते हों तो? क्या उनके पास choice भी नहीं होनी चाहिए?

  • पहले से बताई गई कई logical fallacies के अलावा मैं एक और जोड़ना चाहूँगा
    यह बात मानकर चलती है कि Microsoft का भविष्य Windows है। मेरी राय में Satya के बाद से ऐसा नहीं रहा। यह समझ में आते ही, Windows के एक feature की implementation गड़बड़ा जाने के बावजूद भविष्य काफ़ी उजला दिखता है

    • तो फिर Microsoft जो future propose कर रहा है, वह क्या है?
      Xbox नहीं, क्योंकि वह उस war में हार रहा है, और वह भी Windows-आधारित था। Phone भी नहीं, क्योंकि वहाँ भी वह हार चुका है, और वह भी Windows-आधारित था
      Office भी मुश्किल में है। Paid office suite की ज़रूरत घट रही है, और browser वाला MS Office काफ़ी खराब है
      Azure हो सकता है, लेकिन Azure तक जाने का बड़ा रास्ता मुझे यह लगता है कि Microsoft companies को ActiveDirectory और Exchange को cloud पर ले जाने के लिए push करता है। लेकिन Windows का अंत, ActiveDirectory का भी अंत है, और cloud mail·calendar के alternatives मौजूद हैं। अगर Exchange की वजह से लोग पहले से वहाँ न हों, तो क्या Azure बहुत से लोगों के लिए आकर्षक है?
      Future उजला हो सकता है, लेकिन अगर देखने के लिए Windows ही न बचे तो हमें वह future दिखेगा कैसे? ;p
    • सही। Microsoft के पास Office, Azure, XBox, game labels आदि जैसे कई अरबों डॉलर के revenue sources हैं, और computing के “cloud” हिस्से में लगभग हर जगह Linux है, इसलिए Windows में invest करने की motivation कम हो जाती है
      WSL, winget, sudo जैसी चालों को देखें तो साफ़ है कि Windows command-line interface में धीरे-धीरे Linux की नकल करने वाली outer shell की ओर बढ़ रहा है
      2000 का Microsoft, Windows 9x, 2000, Office था। 2004 में websites से Windows-only software download किया जाता था, लेकिन 2024 में Apple-only या Linux-only software भी आम है
      तकनीकी रूप से देखें तो “Linux desktop का साल” दरअसल 10 साल से भी ज़्यादा समय से MacOS ही रहा है। Windows के file paths, Win32 API जैसी friction की तुलना में यह full Linux तक जाने के लिए entry drug जैसा है
    • उस हिसाब से दुनिया के 80% desktop·laptop पर declining operating system चल रहा है
      मैं यह नहीं कह रहा कि यह गलत है; सच तो यह है कि मैं मानता हूँ Windows वास्तव में Microsoft के भीतर पीछे चला गया है, लेकिन यह काफ़ी डरावनी बात है
      नए Exchange Server license को देखकर सुरक्षित रूप से कहा जा सकता है कि Microsoft जितनी जल्दी हो सके on-premise software business से बाहर निकलना चाहता है। बस सवाल यह है कि क्या दुनिया इसके लिए तैयार है, और क्या हम यही चाहते भी हैं
    • सही। Windows अब लगभग loss leader जैसा हो गया है
    • Windows को शानदार बनाने के लिए बस वह सारा कचरा हटाना होगा जो किसी ने माँगा ही नहीं
      संदिग्ध anti-patterns की संख्या हास्यास्पद रूप से बहुत ज़्यादा है

  • अगर Microsoft या कोई दूसरा FAANG हमारी सारी data लीक भी कर दे, तो भी मुझे नहीं पता कि उन्हें वास्तव में कोई बड़ी कीमत चुकानी पड़ेगी या नहीं
    data security समस्या की वजह से कोई कंपनी सच में आख़िरी बार कब “बर्बाद” हुई थी? हाल की data security breaches में Snowflake, AWS / Capital One शामिल हैं

    • लीक होते हैं, यह बात सभी समझते हैं
      यहाँ मुख्य बात यह है कि जो इकट्ठा ही नहीं किया गया, वह लीक भी नहीं हो सकता। Recall, Microsoft द्वारा पहले इकट्ठा किए गए data से कहीं ज़्यादा, और कहीं ज़्यादा संवेदनशील data है
    • Snowflake काफ़ी लगातार यह कहता आया है कि यह core system breach नहीं था, बल्कि customer configuration error था
      इससे 2010 के दशक के मध्य वाला AWS याद आता है, जब कुछ systems default रूप से public थे, और अनगिनत “data leaks” सिर्फ़ इसलिए हुए क्योंकि कंपनियों ने अपने data buckets को private नहीं किया था
    • ज़रूरत है हर data breach पर बड़े और अनिवार्य जुर्माने की
      उदाहरण के लिए, अगर जिन लोगों का address लीक हुआ है उनमें से हर एक को 10,000 डॉलर देना पड़े, तो कंपनियाँ consumer data को कम-लागत asset नहीं बल्कि risk की तरह लेना शुरू करेंगी
    • Equifax को भी नहीं भूलना चाहिए

  • लगता है उधर का web server पहले ही आत्महत्या कर चुका है

    • Web Archive version: https://web.archive.org/web/20240605120547/https://www.antip...
    • antipope.org ब्लॉग साइट पर पुराने पोस्ट से अंदर जाकर फिर सबसे नए पोस्ट पर गया तो लोड हो गया
      या फिर हो सकता है कि अभी-अभी दिक्कत ठीक हुई हो

  • Microsoft की हालिया quarterly earnings report में revenue 17% बढ़ा था, और पिछले 1 साल में stock price लगभग 25% चढ़ा है

    • बढ़िया है। हालांकि अगर customers ऐसी चीज़ों से डरकर सौदे करने से मना करने लगें, तो इसका ज़्यादा मतलब नहीं रहेगा
    • अगर मैं कर पाता, तो Microsoft के operating system business में short position लेता, और उसके cloud provider business तथा OpenAI investment में long position बनाए रखता
    • पिछले 1 साल में stock price लगभग 25% बढ़ने का मतलब क्या बस औसत S&P500 जितना प्रदर्शन नहीं हुआ? मेरी राय में tech giant को इससे बेहतर करना चाहिए

  • यह तो साफ़ है कि Microsoft आत्महत्या नहीं कर रहा। देखो, इस feature ने कितना ध्यान खींचा है
    हर tech media Windows की बात कर रहा है, और Windows को अचानक फिर से relevance मिल गई है। यह आत्महत्या कैसे हुई?
    आत्महत्या तो वे Microsoft customers कर रहे हैं जिन्होंने यह feature चालू रखा है। users को इस feature के ख़तरों और इसे बंद करने के तरीक़े के बारे में सिखाना चाहिए

    • अगर कोई बंदूक तानकर कहे, “5 सेकंड में गोली मार दूँगा,” और तुम छिपने के बजाय वहीं खड़े रहो और गोली खा लो, तो वह आत्महत्या नहीं है
      वह बेवकूफ़ी भरी मौत हो सकती है, लेकिन गोली चलाने वाले ने फिर भी हत्या की है। मुझे लगता है मौजूदा स्थिति के लिए यह काफ़ी ठीक उपमा है
    • हम तो slippery slope से भी आगे निकल चुके हैं, अब तो बालों में हवा भी लग रही है

  • HN में खोजने पर नहीं मिल रहा, लेकिन लगता है मैंने पहले Recall जैसा कुछ देखा था
    एक screenshot tool OCR/detection चलाता था, data को database में डालता था और उसे searchable बनाता था। वह GitHub पर open source था
    जोड़ दूँ कि privacy मुद्दे पर मेरा मन बँटा हुआ है, लेकिन दूसरी तरफ़ Windows में ARM को फिर से लाने जैसा लग रहा है, इसलिए उस हिस्से का मैं समर्थन करता हूँ

  • “हमें कुछ समय से पता था कि language model technology हमारे भविष्य पर राज करने वाली है” — इसमें यह हम उन लोगों के लिए परिभाषित है जिनकी कमाई LLM technology में और ज़्यादा investment आने पर निर्भर करती है
    बाकी लोगों के लिए LLM किसी भी चीज़ का general solution होने के लिहाज़ से निराशाजनक रूप से दोषपूर्ण लगते हैं

  • मैं ज़रूरी नहीं मानता कि Microsoft आत्महत्या कर रहा है
    लेकिन मुझे यह बहुत ज़्यादा reactive और कम proactive लगता है। दूसरे शब्दों में, अपना रास्ता बनाने और मौके पैदा करने के बजाय, यह technology trends का अनुमान लगाने पर ज़रूरत से ज़्यादा केंद्रित होकर ग़लती करता दिखता है
    हाँ, developer tools या शायद Azure जैसे कुछ बाज़ारों में यह अपना रास्ता बना भी रहा है। लेकिन मैं क्या जानूँ, मैं तो बस एक बेवकूफ़ programmer हूँ