माइक्रोसॉफ्ट अपने AI टूल्स के उपयोगकर्ताओं पर नज़र रख रहा है

 (schneier.com)
1 पॉइंट द्वारा GN⁺ 2024-02-21 | 1 टिप्पणियां | WhatsApp पर शेयर करें

माइक्रोसॉफ्ट अपने AI टूल्स के उपयोगकर्ताओं पर नज़र रख रहा है

  • माइक्रोसॉफ्ट ने घोषित किया कि चीन, रूस और ईरान के हैकर उसकी AI टूल्स का उपयोग करके अपनी हैकिंग क्षमता बढ़ा रहे हैं।
  • इन हैकरों का पता Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon और Salmon Typhoon नामों से चलने के तौर पर चल रहा है, और वे बड़े भाषा मॉडल (LLMs) का इस्तेमाल करके साइबर अभियानों को मजबूत कर रहे हैं।
  • माइक्रोसॉफ्ट या OpenAI के लिए इन गतिविधियों का पता लगाने का एकमात्र तरीका चैटबॉट सेशन की निगरानी करना ही है।
  • टर्म्स में उपयोगकर्ता निगरानी की अनुमति पहले से उल्लेखित होनी चाहिए; माइक्रोसॉफ्ट और OpenAI AI उपयोग पर नज़र रखते हैं, इसमें कुछ नया नहीं, लेकिन इस घोषणा ने इसे स्पष्ट कर दिया।

GN⁺ की राय

  • यह रिपोर्ट बताती है कि माइक्रोसॉफ्ट AI टूल्स के उपयोग पर नज़र रखता है और इसी के जरिए राज्य-समर्थित हैकरों की गतिविधियों का ट्रैक करना संभव हो रहा है।
  • यूज़र मॉनिटरिंग व्यक्तिगत गोपनीयता और सुरक्षा को लेकर चिंता बढ़ा सकती है, लेकिन साथ ही इसे साइबर सुरक्षा मजबूत करने तथा राष्ट्रीय सुरक्षा के लिए एक महत्वपूर्ण कदम के रूप में भी देखा जा सकता है।
  • यह निगरानी गतिविधि AI तकनीक के दोहरे उपयोग की संभावना को दिखाती है और तकनीकी प्रगति से जुड़े नए नैतिक तथा कानूनी सवालों पर चर्चा को गति दे सकती है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-02-21
Hacker News टिप्पणी

  • OpenAI API उपयोगकर्ता डेटा प्रोसेसिंग पर टिप्पणी का सार

    • OpenAI API की Terms of Service (TOS) के अनुसार, OpenAI सेवा प्रदान करने और दुरुपयोग पहचानने के लिए API इनपुट और आउटपुट को अधिकतम 30 दिन तक सेव कर सकता है।
    • जब तक किसी कानूनी आवश्यकता से बाध्य न हो, 30 दिन बाद डेटा सिस्टम से हटा दिया जाता है।
    • किसी विशेष उपयोग मामले के लिए उपयोगकर्ता डेटा रिटेंशन का अनुरोध नहीं कर सकते (ZDR)।
    • डेटा प्रोसेसिंग के बारे में अधिक जानकारी OpenAI के प्लेटफॉर्म डॉक्यूमेंटेशन पेज पर उपलब्ध है।

  • Microsoft AI टूल्स उपयोगकर्ता डेटा प्रोसेसिंग पर टिप्पणी का सार

    • कुछ उपयोगकर्ता का यह कहना है कि "Microsoft AI टूल उपयोगकर्ताओं पर नज़र रखता है", लेकिन वास्तविकता यह है कि Microsoft ने एक अधिनायकवादी देश की शत्रुतापूर्ण सरकार द्वारा AI टूल्स को गैर-कानूनी गतिविधियों में इस्तेमाल किए जाने का पता लगाया था।
    • TOS से सहमति देने पर उपयोगकर्ता यह स्वीकार करता है कि Microsoft को ऐसा डेटा ट्रैकिंग करने की अनुमति है।

  • Google Bard और Gemini पर टिप्पणी का सार

    • Google के Gemini ने अपनी साइट पर स्पष्ट कहा है कि उपयोगकर्ता चैट को human reviewer द्वारा प्रोसेस करके Gemini ऐप के सुधार के लिए इस्तेमाल किया जाता है।
    • उपयोगकर्ताओं को ऐसी जानकारी नहीं डालनी चाहिए जिसे वे reviewer को दिखाना नहीं चाहते और Google के उपयोग के लिए उपलब्ध नहीं कराना चाहते।
    • Google Workspace की सामग्री को Gemini सुधार के लिए reviewer के लिए नहीं भेजा जाता और न ही उपयोग किया जाता है।
    • यदि उपयोगकर्ता Gemini ऐप गतिविधि बंद कर दें, तो भविष्य की बातचीत समीक्षा के लिए नहीं जाएगी और machine learning मॉडल सुधार के लिए उपयोग नहीं होगी।

  • TOS और प्राइवेसी पॉलिसी पर टिप्पणी का सार

    • कई तकनीकी कंपनियों के पास अपनी TOS में लिखी शर्तों के आधार पर उपयोगकर्ताओं की AI गतिविधि की मॉनिटरिंग का अधिकार होता है।
    • यदि TOS में मॉनिटरिंग की अनुमति देने वाली कोई शर्त है, तो यह मानना उचित है कि कंपनी वास्तविकता में ऐसा कर रही होगी।
    • प्राइवेसी पॉलिसी उपयोगकर्ता को कंपनी पर भरोसा करने के लिए प्रेरित करती है, लेकिन यह सत्यापित करने का कोई तरीका नहीं कि कंपनी वास्तव में पॉलिसी का पालन करती है या नहीं।

  • Microsoft के उपयोगकर्ता डेटा मॉनिटरिंग पर टिप्पणी का सार

    • Microsoft का उपयोगकर्ता AI टूल उपयोग की मॉनिटरिंग करना कोई आश्चर्य की बात नहीं है; यह पहले से ही व्यापक रूप से ज्ञात तथ्य है।
    • Microsoft सहित कई टेक कंपनियों को उपयोगकर्ता की बातचीत देखने का अधिकार होता है, और यह केवल उपयोगकर्ता की स्पष्ट तथा वापस लिए जा सकने वाली सहमति के साथ ही होना चाहिए।

  • AI टूल उपयोग और डेटा संग्रह पर टिप्पणी का सार

    • AI टूल का उपयोग करना यानी बड़ी मात्रा में उपयोगकर्ता डेटा का संग्रह होना।
    • यदि उपयोगकर्ता डेटा प्राइवेसी की चिंता रखते हैं, तो केवल लोकल रन होने वाला AI इस्तेमाल करना चाहिए।

  • AI विकास और डेटा संग्रह के बीच संबंध पर टिप्पणी का सार

    • AI डेटा पर आधारित है; जितना अधिक डेटा इकट्ठा होगा, AI को बेहतर train किया जा सकता है, और इससे उपयोगकर्ता और अधिक डेटा देने के लिए प्रेरित होते हैं—एक पॉज़िटिव फीडबैक लूप बनता है।

  • प्लेटफॉर्म डेटा संग्रह और अब्यूज डिटेक्शन पर टिप्पणी का सार

    • यह स्पष्ट है कि सभी प्लेटफॉर्म उपयोगकर्ता इनपुट इकट्ठा करके अगली मॉडल ट्रेनिंग और दुरुपयोग पहचानने के लिए उपयोग करते हैं।