विरोध के बाद Zoom ने कहा कि वह ग्राहक डेटा का इस्तेमाल AI मॉडल ट्रेनिंग के लिए नहीं करेगा

 (darkreading.com)
1 पॉइंट द्वारा GN⁺ 2023-08-15 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • जनरेटिव AI फीचर्स शुरू करने के बाद डेटा उपयोग अधिकारों के बहुत व्यापक होने पर विरोध बढ़ा, जिसके बाद Zoom ने अपनी शर्तों और प्रोडक्ट में बदलाव कर ग्राहक सामग्री को AI मॉडल ट्रेनिंग में इस्तेमाल न करने की व्यवस्था की
  • इसके दायरे में ऑडियो, वीडियो, चैट, स्क्रीन शेयरिंग, अटैचमेंट के साथ-साथ सर्वे नतीजे, व्हाइटबोर्ड और रिएक्शन जैसी कम्युनिकेशन-प्रकृति की सामग्री भी शामिल है
  • विवाद की शुरुआत उस पुरानी नीति से हुई थी, जिसमें Zoom IQ Meeting Summary और Zoom IQ Team Chat Compose जैसे फीचर्स के लिए कुछ ग्राहक डेटा को ट्रेनिंग में उपयोग करने की अनुमति दी गई थी
  • ग्राहकों के विरोध के बाद Zoom ने पहले ऑप्ट-आउट जोड़ा, लेकिन बाद में 11 अगस्त को शर्तों में फिर बदलाव करते हुए AI उपयोग से जुड़े अधिकांश वाक्यांश हटा दिए
  • नई शर्तें भी टेलीमेट्री, प्रोडक्ट उपयोग और डायग्नॉस्टिक डेटा जैसे सेवा-जनित डेटा पर अधिकार बनाए रखती हैं, इसलिए AI फीचर्स और यूजर भरोसे के बीच तनाव बना हुआ है

ग्राहक सामग्री को AI ट्रेनिंग से बाहर करने वाली Zoom की बदली शर्तें

  • ग्राहक फीडबैक के बाद Zoom ने अपनी Terms of Service अपडेट कर साफ किया कि वह ग्राहक सामग्री का इस्तेमाल Zoom या किसी थर्ड-पार्टी AI मॉडल ट्रेनिंग में नहीं करेगा
  • AI ट्रेनिंग से बाहर रखी गई चीजें ये हैं
    • ऑडियो
    • वीडियो
    • चैट
    • स्क्रीन शेयरिंग
    • अटैचमेंट
    • सर्वे नतीजे, व्हाइटबोर्ड और रिएक्शन जैसी कम्युनिकेशन-प्रकृति वाली ग्राहक सामग्री
  • विवाद की पृष्ठभूमि में Zoom के जनरेटिव AI फीचर्स हैं
    • Zoom IQ Meeting Summary: AI-आधारित ऑटोमैटिक मीटिंग समरी फीचर
    • Zoom IQ Team Chat Compose: AI-आधारित चैट लिखने का फीचर
  • पिछली नीति ने इन फीचर्स के पीछे कुछ ग्राहक डेटा को AI मॉडल ट्रेनिंग में इस्तेमाल करने का अधिकार Zoom को दिया था, और यह ग्राहक की सहमति के बिना भी संभव था—यही बात विरोध की वजह बनी

व्यापक डेटा उपयोग अधिकार और बढ़ा भरोसे का दबाव

  • पुरानी शर्तें ग्राहक डेटा के उपयोग को लेकर Zoom को बहुत व्यापक अधिकार देती थीं
    • “perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable” अधिकार
    • मशीन लर्निंग, आर्टिफिशियल इंटेलिजेंस, ट्रेनिंग और टेस्टिंग सहित व्यापक उद्देश्य
    • डेटा को “redistribute, publish, import, access, use, store, transmit, disclose” करने जैसी कार्रवाइयां
  • ग्राहकों का विरोध सोशल मीडिया पर फैलने के बाद Zoom ने पहले नीति में बदलाव कर कहा कि वह “ग्राहक की सहमति के बिना ऑडियो, वीडियो और चैट ग्राहक सामग्री का इस्तेमाल AI मॉडल ट्रेनिंग में नहीं करेगा”
  • इसके बाद 11 अगस्त को शर्तों को फिर बदला गया और आर्टिफिशियल इंटेलिजेंस उपयोग से जुड़े अधिकांश वाक्यांश व्यावहारिक रूप से हटा दिए गए
  • हालांकि नई शर्तें भी सेवा-जनित डेटा पर Zoom के अधिकार बनाए रखती हैं
    • टेलीमेट्री डेटा
    • प्रोडक्ट उपयोग डेटा
    • डायग्नॉस्टिक डेटा
  • iterate.ai के मशीन लर्निंग प्रमुख Shomron Jacob का मानना है कि टेक कंपनियां लंबे समय से यूजर अनुभव सुधारने और नए फीचर्स लाने के लिए ग्राहक डेटा का उपयोग करती रही हैं
    • संदर्भ यह है कि Google, Facebook और Amazon यूजर डेटा से सेवाओं को पर्सनलाइज़ करते और AI एल्गोरिद्म सुधारते रहे हैं
  • AI की प्राइवेसी, सुरक्षा और नैतिकता से जुड़े मुद्दों पर निगरानी बढ़ने के साथ पारदर्शिता और यूजर सहमति को लेकर अपेक्षाएं भी बढ़ रही हैं
  • GDPR और California के CCPA जैसे रेगुलेटरी फ्रेमवर्क डेटा संग्रह और उपयोग के मानक तय कर रहे हैं, ऐसे में टेक कंपनियों को AI सुधार के लिए डेटा उपयोग के साथ-साथ रेगुलेटरी अनुपालन और यूजर भरोसे की सुरक्षा को भी संभालना होगा

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-08-15
Hacker News की रायें

  • अगर डेटा ऐसी डेटाबेस में सेव है जिसे कंपनी अपनी मर्जी से पढ़ और एक्सेस कर सकती है, यानी वह end-to-end encryption नहीं है, तो आखिरकार कंपनी शर्तें बदलकर उस डेटा को AI training के लिए इस्तेमाल करने की कोशिश करेगी
    प्रलोभन इतना मजबूत है कि उससे बचना मुश्किल लगता है

    • मुझे नहीं लगता कि यह तर्क ठीक बैठता है
      पेड customers को यह बिल्कुल पसंद नहीं कि उनकी अनुमति के बिना उनका डेटा AI models की training में इस्तेमाल हो, और यह Zoom वाला मामला इसका ताजा उदाहरण है
      ऐसी कोशिश करने वाली कंपनी बुरी तरह जल जाएगी, और Zoom भी पहले ही बुरी तरह जल चुका है। निजी तौर पर मुझे लगता है कि Zoom सच में ऐसा करने वाला नहीं था; उसने बस यह पर्याप्त साफ नहीं किया कि वह ऐसा नहीं करेगा, जिससे PR disaster हो गया
      अगर पेड customers इसे नापसंद करते हैं, तो कंपनी के लिए incentive असल में ऐसा न करने की दिशा में कहीं ज्यादा मजबूत हो जाता है
    • कानून के जरिए दखल देकर यह रोकना चाहिए कि नई या बदली हुई शर्तें उस डेटा पर लागू हों जो user की स्पष्ट स्वीकृति से पहले collect किया गया था
      कंपनियों के लिए यह सिरदर्द होगा कि डेटा के हर टुकड़े को किस terms version के तहत सेव किया गया था, यह track करें; लेकिन इसे इतना झंझट वाला होना चाहिए कि वे डेटा को उसी तरह treat करें जैसे उसे होना चाहिए—एक liability की तरह
    • Jamie Zawinski का software enveloping law याद आता है: “हर program तब तक expand होना चाहता है जब तक वह mail पढ़ न सके। जो program ऐसा expand नहीं कर सकते, उनकी जगह वे program ले लेते हैं जो कर सकते हैं”
    • अगर बड़े enterprise customers ज्यादा हैं, तो यह काफी मजबूत deterrent है। कोई भी समझदार enterprise customer ऐसी बात होने पर कहेगा, “ठीक है, अब MS Teams इस्तेमाल करने का समय है”
    • ज्यादातर user data AI training के लिए पूरी तरह बेकार होने की संभावना है
      न context है, न quality control। मान भी लें कि crowd wisdom के कारण average में सही जवाब के करीब पहुंचेंगे, तब भी आखिरकार AI को औसत दर्जे के जवाब देने के लिए train कर रहे होंगे
      big data hype के दौर में कई कंपनियों ने कहा कि data valuable है और सब कुछ save किया, लेकिन ज्यादातर data की कीमत hard disk cost जितनी भी नहीं थी। value तभी बनती है जब कोई buyer उसके उपयोग की लागत देने को तैयार हो
      दुनिया में data बहुत है, लेकिन सच में valuable चीजें information और knowledge हैं

  • Zoom को बस इस बात से निराशा हुई कि terms में बदलाव फैल गया, और शायद इस बात से भी कि उनकी reputation privacy-friendly मानी जाने लायक होकर भी विवाद का कारण बनी
    अगर Teams की terms में पहले से ऐसी बात शामिल नहीं है, तो सोचता हूं कि क्या उसे भी वैसी ही backlash मिलेगी

    • शायद मिल सकती है, लेकिन Teams backlash को ignore करने में बहुत माहिर है
      कुछ लोगों को अलग महसूस हो सकता है, लेकिन जिन्हें मैं जानता हूं वे सभी पहले से ही Teams से नफरत करते हैं और सिर्फ तब इस्तेमाल करते हैं जब कंपनी मजबूर करती है
    • Teams ग्राहकों द्वारा literally मांगी जा रही feature, AI Copilot, देने के लिए O365 enterprise data का इस्तेमाल करेगा
    • Microsoft culture इस तरह customer data इस्तेमाल करने को लेकर बेहद conservative है
      पहले एक Microsoft executive से बात हुई थी; उन्होंने कहा कि Hotmail में Gmail जैसी contextual advertising डालने का idea आया था, लेकिन उसे जोरदार तरीके से reject कर दिया गया
      customer data, यहां तक कि free users का data भी, उस तरह इस्तेमाल करने का विचार taboo था। Microsoft बड़े enterprise contracts से पैसा कमाता है, और अगर customer data किसी भी तरह competitors को फायदा पहुंचाने में इस्तेमाल हुआ तो वे contracts खतरे में पड़ सकते हैं

  • संबंधित लेख:
    Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - अगस्त 2023 (35 comments)
    How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - अगस्त 2023 (177 comments)
    Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - अगस्त 2023 (16 comments)
    Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - अगस्त 2023 (194 comments)
    Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - अगस्त 2023 (510 comments)

  • Zoom के पास निश्चित रूप से कई AI models हैं, और Teams या Google Chat आदि के साथ भी यही बात है
    meetings के automatic captions/transcription के लिए वे models चाहिए, और automatic background blur/background separation के लिए भी models चाहिए। शायद “meeting summary” product पर भी काम चल रहा होगा
    ये ऐसी features हैं जिन्हें लोग पसंद करते हैं और हमेशा इस्तेमाल करते हैं। समझ नहीं आता कि लोग Zoom से इन features को platform के असली user data collect किए बिना कैसे improve करने की उम्मीद करते हैं

    • असली समस्या यह नहीं है कि customer data को ऐसे purposes के लिए इस्तेमाल किया जा सकता है। समस्या यह है कि पहले consent लिए बिना customer data इस्तेमाल किया जा सकता है

  • बहुत देर हो चुकी है। self-hosted Jitsi instance खड़ा करने में एक घंटा लगा, और वापस जाने की कोई वजह नहीं है

    • यही बात है। वह पोस्ट देखने के बाद 2 घंटे के भीतर मैंने Hetzner के Docker host पर थोड़ा customized Jitsi चला लिया
      Jitsi की performance और stability देखकर हैरानी हुई
    • Jitsi को कहां host किया?
    • अगर कोई insight या सीखी हुई बातें हों तो बहुत मदद मिलेगी
      मुझे मिलाकर कई जान-पहचान वाले जल्द ही इसी रास्ते पर जाने वाले हैं

  • यूज़र डेटा से ट्रेनिंग करने वाली AI कंपनियों की सूची बना रहा/रही हूँ: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
    Zoom वाला हिस्सा अपडेट करूँगा/करूँगी, लेकिन अब भी यह संदिग्ध लगता है

    • “AI” और “machine learning” या application में जाने वाली किसी दूसरी predictive modeling में फर्क किस आधार पर किया जाता है?
      पिछले हफ्ते मैंने customer data के एक हिस्से पर एक regression model fit किया था, तो क्या मैंने customer data से AI को train किया? क्या यह intent का मामला है, public users के लिए है या नहीं इसका मामला है, या फिर यह generative model है या नहीं इसका मामला है?
    • वे अब भी user data पर statistical analysis तो जाहिर तौर पर करेंगे ही, और मेरे हिसाब से वह भी “user data-based AI” की category में आता है
      इसलिए मुझे नहीं लगता कि वह criteria लागू होता है

  • क्या Zoom calls का video या audio data store करता है? यही असली सवाल है
    अगर कुछ भी store होता है, तो भरोसा नहीं किया जा सकता

    • अगर आप video call record करते हैं, तो Zoom उसे आपके लिए store करता है। इसके अलावा कुछ भी store नहीं होना चाहिए
      साथ ही, HLS या MPEG-DASH जैसे video streaming protocols इस्तेमाल करने पर stream video chunks के रूप में store होती है, और बाद में delete कर दी जाती है

  • यह फिर से निराशाजनक है कि बड़ी कंपनियाँ ऐसी policies को चुपचाप आगे बढ़ाने की कोशिश करती हैं
    कौन सोचता है कि यह ठीक है? क्या बस पैसे बटोरने वाला कोई executive? हमें इससे बेहतर होना चाहिए

  • “विरोध के बाद Zoom ने कहा कि वह customer data को AI models की training के लिए इस्तेमाल नहीं करेगा”
    फिलहाल तो

  • अगर शुरू से ही सब कुछ end-to-end encrypted है, तो training कैसे हो सकती है?

    • या तो machine learning इतनी शानदार है कि encrypted stream से details निकाल सकती है, या कंपनी “end-to-end” का मतलब “end-middle-end” ले रही है और बीच में सब कुछ record कर रही है
      दोनों में से कौन-सा ज्यादा plausible है, यह सबके लिए काफी स्पष्ट लगता है, लेकिन अजीब तरह से शायद इस पर राय बँटेगी कि कौन-सा विकल्प absurd है
    • ऐसा नहीं है। E2EE आपको खुद enable करना होता है: https://support.zoom.us/hc/en-us/articles/360048660871-End-t...
    • end-to-end encryption का मतलब क्या है, इस पर comments बहुत हैं, लेकिन असल में यहाँ क्या हो रहा है, इस पर बातें कम दिखती हैं
      Zoom, Meet, Teams, WebEx आदि कई services की तरह जिन्हें मैं जानता/जानती हूँ, “encrypted” है, लेकिन सामान्य अर्थ में “end-to-end encrypted” होना default नहीं है। कुछ में E2EE option होता है, लेकिन वह service settings में गहराई में छिपा होता है और उसे on करना आसान नहीं होता
      इसलिए design के हिसाब से server audio और video देख सकता है, और वास्तव में देखता भी है। अगर infrastructure compromise हो जाए, तो attacker भी देख सकता है। default mode की encryption सिर्फ ISP को call की content देखने से रोकती है
      इसके विपरीत, Signal calls E2EE होती हैं। Signal servers के जरिए relay होने वाली calls में भी Signal decrypted video या audio नहीं देख पाता। हालांकि ऐसे में भी call participants कौन हैं यह पता चल सकता है, लेकिन क्या कहा गया यह नहीं
      अलग बात यह है कि इसी वजह से हमने Booth.video बनाया। यह दिखाने के लिए कि यह कोई fundamental trade-off नहीं है, और browser में भी E2EE और metadata-secure video conferencing संभव है
    • सभी meetings E2E encrypted नहीं होतीं। encryption on करने पर cloud recording, apps जैसी कई features disable हो जाती हैं
    • Zoom के हिसाब से end-to-end की परिभाषा क्या है?