- Kevin Bankston के एक ट्वीट के अनुसार, Google की Gemini AI सेवा उपयोगकर्ता की अनुमति के बिना निजी Drive दस्तावेज़ पढ़ रही है
- यह Google की प्रतिष्ठा के अनुरूप नहीं है, और संवेदनशील निजी जानकारी पर उपयोगकर्ता का लगभग कोई नियंत्रण नहीं दिखता
- AI को जबरन लागू करने से भविष्य में गोपनीयता संबंधी समस्याओं के लिए यह अच्छा संकेत नहीं है
आख़िर हो क्या रहा है?
- Google support team और Gemini AI, दोनों ही ठीक-ठीक नहीं जानते, लेकिन Kevin Bankston ने कुछ थ्योरी पेश की हैं
- यह तकनीकी रूप से सिर्फ़ Google Docs नहीं, बल्कि पूरे Google Drive में हो रहा है
इस समस्या की वजह क्या है?
- Gemini AI के अनुसार, Gemini को बताने वाली privacy settings सार्वजनिक रूप से उपलब्ध होनी चाहिए, लेकिन वे उपलब्ध नहीं हैं
- ऐसा लगता है कि AI या तो "hallucinate (झूठ बोल)" कर रही है, या Google server के किसी आंतरिक सिस्टम में गड़बड़ी है
- भले ही यह निजी डेटा Gemini AI training में इस्तेमाल न हो रहा हो, फिर भी यह अच्छा नहीं दिखता
Bankston द्वारा खोजे गए settings toggle की समस्या
- Gemini summary feature पहले से ही disable था
- Gemini bot ने शुरुआत में जिस web page की ओर इशारा किया, वह पूरी तरह किसी और जगह का था
Bankston के मामले में यह समस्या Google Drive तक सीमित दिखती है
- यह कम-से-कम एक दस्तावेज़ में Gemini button दबाने के बाद ही हुआ
- मिलते-जुलते document type (इस मामले में PDF) के लिए, Google Drive में आगे खोली जाने वाली उसी प्रकार की सभी फ़ाइलों पर यह अपने-आप Google Gemini trigger कर देता है
- 2023 में Google Workspace Labs को enable करना इसकी वजह हो सकता है। यह इच्छित Gemini AI settings को नज़रअंदाज़ कर सकता है
भले ही यह समस्या सिर्फ़ Google Workspace Labs उपयोगकर्ताओं तक सीमित हो, फिर भी यह एक गंभीर कमी है
- नवीनतम तकनीक की testing में मदद करने की यह एक क़ीमत बन जाती है
- संभावित रूप से संवेदनशील जानकारी के मामले में, बारीक स्तर पर भी उपयोगकर्ता की सहमति अब भी महत्वपूर्ण है
- इस सिद्धांत का पालन न करके Google कम-से-कम अपने user base के एक हिस्से के लिए पूरी तरह विफल रहा है
GN⁺ की राय
- उपयोगकर्ता की सहमति के बिना निजी जानकारी एकत्र करना और उसका विश्लेषण करना गोपनीयता का गंभीर उल्लंघन है। खासकर जब मामला tax refund जैसी संवेदनशील जानकारी का हो
- AI तकनीक के आगे बढ़ने के साथ ऐसे मुद्दे और गंभीर हो सकते हैं। कंपनियों को उपयोगकर्ता गोपनीयता की सुरक्षा को सर्वोच्च प्राथमिकता देनी चाहिए
- Google Workspace Labs जैसे beta testing program में भाग लेने वाले उपयोगकर्ताओं के लिए बेहतर सुरक्षा उपाय और पारदर्शिता की ज़रूरत है
- AI तकनीक अपनाते समय उपयोगकर्ता की सहमति और पसंद का सम्मान करना महत्वपूर्ण है। जबरन तरीक़ा अपनाने से उपयोगकर्ताओं का भरोसा टूटता है
- Google को इस घटना को आधार बनाकर Gemini AI सहित अपनी सेवाओं की privacy policy की समीक्षा करनी चाहिए और उपयोगकर्ताओं के साथ संवाद मज़बूत करना चाहिए
अभी कोई टिप्पणी नहीं है.