ChatGPT से फ़ोटो में 'रिवर्स लोकेशन सर्च' करना ट्रेंड बन रहा है
(techcrunch.com)- ChatGPT का इस्तेमाल करके इमेज-आधारित लोकेशन ट्रैकिंग वायरल ट्रेंड के रूप में फैल रही है
- OpenAI के नवीनतम मॉडल o3 और o4-mini इमेज विश्लेषण और वेब सर्च फीचर्स को जोड़कर उच्च सटीकता के साथ लोकेशन का अनुमान लगा सकते हैं
- यूज़र o3 में रेस्तरां के मेन्यू, सड़क के दृश्य, लोगों की तस्वीरें आदि इनपुट करके "GeoGuessr" गेम की तरह लोकेशन का अंदाज़ा लगाने की कोशिश कर रहे हैं
- प्राइवेसी के उल्लंघन की चिंता बढ़ रही है, और OpenAI के पास सुरक्षा उपाय होने के बावजूद स्पष्ट रोकथाम की कमी दिखती है
- OpenAI ने दुरुपयोग पहचान और प्रतिक्रिया सिस्टम मौजूद होने की बात कही है, लेकिन यह भी कहा जा रहा है कि वास्तविक सीमाएँ अब भी अपर्याप्त हैं
ChatGPT का इस्तेमाल कर इमेज-आधारित रिवर्स ट्रैकिंग का ट्रेंड
- हाल के दिनों में यूज़र्स के बीच ChatGPT के ज़रिए इमेज में दिख रही लोकेशन को ट्रैक करने का ट्रेंड तेज़ी से फैल रहा है
- OpenAI द्वारा जारी नए मॉडल o3 और o4-mini में इमेज के विज़ुअल संकेतों से तर्क करने की क्षमता जोड़ी गई है
- धुंधली या विकृत तस्वीरों का भी crop, rotate, zoom जैसी preprocessing के बाद विश्लेषण किया जा सकता है
- यह फीचर वेब सर्च के साथ मिलकर शहर, landmark, रेस्तरां, बार आदि की लोकेशन का अनुमान लगाने में बेहतरीन प्रदर्शन दिखाता है
GeoGuessr की तरह इस्तेमाल हो रहा ChatGPT
- यूज़र o3 से "GeoGuessr की तरह व्यवहार करो" कहकर Instagram Story के स्क्रीनशॉट, सड़क की तस्वीरें, मेन्यू बोर्ड आदि से लोकेशन का अनुमान लगाने की कोशिश कर रहे हैं
- GeoGuessr एक ऑनलाइन गेम है जिसमें फ़ोटो अपलोड करके लोकेशन खोजी जाती है
- ChatGPT पिछले बातचीत रिकॉर्ड या EXIF metadata के बिना भी सिर्फ विज़ुअल संकेतों से लोकेशन का अनुमान लगा लेता है
- खासकर o3 ने कुछ स्थितियों में GPT-4o से बेहतर प्रदर्शन दिखाया
उदाहरण: एक अंधेरे बार में लगी बैंगनी गैंडे की सजावट वाली तस्वीर देखकर
- GPT-4o ने गलत जवाब देते हुए "UK pub" कहा
- o3 ने सही अनुमान लगाते हुए "Williamsburg का speakeasy bar" बताया
GPT-4o ने भी चौंकाने वाली सटीकता दिखाई
- TechCrunch द्वारा किए गए टेस्ट में GPT-4o ने भी काफ़ी ऊँची सटीकता दिखाई, और उसकी प्रोसेसिंग स्पीड ज़्यादा तेज़ थी
- हालांकि, कुछ इमेज में सिर्फ o3 ही सही लोकेशन पहचान पाया
- फिर भी o3 पूरी तरह परफेक्ट नहीं है, और कभी जवाब नहीं दे पाता या बिल्कुल गलत जगह बता देता है
संभावित प्राइवेसी उल्लंघन की चिंता
- बिना किसी खास रोक-टोक के कोई भी किसी और की तस्वीर का इस्तेमाल कर उसकी लोकेशन ट्रैक कर सकता है, यह एक बड़ा मुद्दा है
- उदाहरण के लिए, Instagram Story का स्क्रीनशॉट लेकर doxxing का जोखिम पैदा हो सकता है
- फिलहाल o3 और o4-mini मॉडल के बारे में OpenAI ने आधिकारिक safety report में इस समस्या का ज़िक्र नहीं किया है
OpenAI का आधिकारिक रुख
- लेख प्रकाशित होने के कुछ घंटों बाद OpenAI ने TechCrunch को यह बयान दिया:
“o3 और o4-mini ChatGPT में visual reasoning क्षमता जोड़ते हैं,
और accessibility, research, तथा emergency response जैसी परिस्थितियों में उपयोगी हो सकते हैं।
हमने इन्हें संवेदनशील जानकारी से जुड़े अनुरोध ठुकराने के लिए train किया है,
व्यक्तिगत पहचान को रोकने और दुरुपयोग की निगरानी के लिए mechanisms लागू किए हैं,
और policy violation होने पर सक्रिय रूप से कार्रवाई कर रहे हैं।” - लेकिन इसके बावजूद लोकेशन रिवर्स-ट्रैकिंग फीचर के लिए ठोस ब्लॉकिंग mechanisms या technical controls अब भी अपर्याप्त हैं
6 टिप्पणियां
असल में यह सिर्फ़ वही झंझट वाला हिस्सा है जो कंप्यूटर हमारी जगह कर देता है, तरीका तो पहले से मौजूद था, है न?
AI तो आखिरकार वही है जो इंसान कर सकता है। (रोबोट वैक्यूम क्लीनर की तरह)
इसमें लगने वाला समय और लागत दर्जनों गुना सस्ती हो गई है। यह साफ तौर पर खतरे के बढ़ने का संकेत है।
जैसा कि मूल लेख में आया है, यह पहले से ही एक ऐसी चीज़ थी जिसे लोग 'गेम' की तरह एंजॉय कर रहे थे, इसलिए पहले भी यह आम लोगों की पहुंच से बाहर के स्तर की नहीं थी।
खतरा तब पैदा होता है जब कोई ऐसी फोटो अपलोड करता है जिससे ऐसी स्थिति में भी लोकेशन आसानी से पता लगाई जा सके, जहाँ लोकेशन की पहचान नहीं होनी चाहिए।
उससे पहले, जैसा कि Hacker News की टिप्पणियों में भी कहा गया है, सार्वजनिक इंटरनेट पर कुछ भी पोस्ट करना अपने आप में ऐसी बात है जिसमें पहले से ही जानकारी के उजागर होने की संभावना मानकर चलना चाहिए।
मैं कुल मिलाकर सहमत हूँ। लेकिन यह बात कि अब ‘कोई भी’ ‘पलभर में’ यह कर सकता है, उससे काफ़ी डरावने side effects भी याद आते हैं।
Hacker News राय