They See Your Photos - तस्वीरें जो जानकारी दिखाती हैं

 (theyseeyourphotos.com)
1 पॉइंट द्वारा GN⁺ 2024-12-15 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • यह एक प्रयोग है जो दिखाता है कि निजी तस्वीरें सिर्फ़ दिखने वाले विषय ही नहीं, बल्कि निजी जानकारी भी उजागर कर सकती हैं
  • उपयोगकर्ता जब एक फ़ोटो अपलोड करता है, तो Google Vision API के ज़रिए यह देखा जा सकता है कि AI उससे कौन-कौन सी जानकारी पढ़ लेता है
  • मुख्य बात यह नहीं है कि कई डेटा जोड़कर प्रोफ़ाइल विश्लेषण किया जाए, बल्कि यह है कि सिर्फ़ एक ही फ़ोटो से भी उम्मीद से कहीं ज़्यादा निष्कर्ष निकाले जा सकते हैं
  • इसमें कई फ़ोटो या लंबे समय के व्यवहार विश्लेषण की बात नहीं है, और इनपुट की सीमा सिर्फ़ एक फ़ोटो तक है
  • यह सीधे महसूस कराता है कि फ़ोटो शेयर या अपलोड करने पर, अगर AI विश्लेषण से गुज़रे, तो अनजाने में जानकारी उजागर हो सकती है

एक फ़ोटो से उजागर होने वाली जानकारी

  • They See Your Photos एक ऐसा प्रयोग है जिसे इस तरह बनाया गया है कि उपयोगकर्ता खुद देख सकें कि AI उनकी अपलोड की गई फ़ोटो में क्या देखता है
  • फ़ोटो बहुत सी व्यक्तिगत जानकारी उजागर कर सकती हैं, और यह प्रयोग इस बात पर केंद्रित है कि सिर्फ़ एक फ़ोटो से कौन-सी जानकारी का अनुमान लगाया जा सकता है

उपयोग का तरीका

  • उपयोगकर्ता एक फ़ोटो अपलोड करता है
  • सिस्टम Google Vision API का उपयोग करके यह पहचानता है कि फ़ोटो से कौन-सी जानकारी पढ़ी जा सकती है
  • “वे जो देखते हैं, उसे देखो” संदेश के ज़रिए, उपयोगकर्ता यह अनुभव करता है कि AI फ़ोटो की व्याख्या कैसे करता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-12-15
Hacker News की राय

  • magick convert IMG_1111.HEIC -strip -quality 87 -shave 10x10 -resize 91% -attenuate 1.1 +noise Uniform out.jpg
    यह command सारा EXIF metadata हटाती है, JPEG quality बदलती है, हर edge से बस 10 pixels काटती है, एक तय ratio में resize करती है, attenuation लागू करती है और फिर Uniform type का noise जोड़ती है
    इसके अलावा attenuate को command line में +noise switch से पहले आना चाहिए, और JPEG quality number जितना खराब होगा, image modification detect करना उतना ही मुश्किल होगा[1]
    resize ratio 91.5% या 92.1% जैसे decimal भी हो सकते हैं। AI image detection से अलग, इससे न सिर्फ metadata हटता है, बल्कि हर publicly shared image को एक-दूसरे से अलग बनाया जा सकता है, और original photo से भी साफ तौर पर अलग किया जा सकता है
    [1] https://fotoforensics.com/tutorial.php?tt=estq

    • AI image detection notwithstanding कहने पर भी इसे आज़माने का कोई मतलब नहीं है। यह बस image को इंसानों के देखने के लिए और खराब बनाता है
    • इस बात की कोई guarantee नहीं कि यह तरीका perceptual hashing के खिलाफ टिकेगा
      https://en.wikipedia.org/wiki/Perceptual_hashing
    • कुछ न करने से तो यह निश्चित रूप से बेहतर है, लेकिन perceptual hash पर यह कैसे काम करेगा, यह जानने की उत्सुकता है। pHash को local पर चलाकर देखने के लिए करीब 5 मिनट छेड़छाड़ की, लेकिन कोई useful result नहीं मिला; शायद मैंने ही गलत तरीके से handle किया
    • image को crop या recompress करने से भी खास मदद नहीं मिलती
      TinEye reverse image search देखें, तो ऐसी transformations भी आसानी से match हो जाती हैं
      https://tineye.com/
    • अगर image में watermark है, तो उसे इस तरह हटाया नहीं जा सकता। watermark ऐसा uniform noise भी आसानी से झेल लेता है जो इंसानों के लिए असहनीय हो, और आम तौर पर कई positions और channels में duplicate रूप से store होता है, इसलिए uniform noise ज्यादातर average out हो जाता है और crop करने से भी ज्यादा फर्क नहीं पड़ता
      watermark अक्सर RGB से अलग color model या काफी transformed image areas में signal डालता है, इसलिए आप watermark signal के “axis” के along noise भी नहीं डाल रहे होते। similar image search पर भी इसका ज्यादा असर नहीं होता, और ऐसे algorithms दर्जनों landmarks ढूंढते हैं और फिर उन images को search करते हैं जो उनमें से बड़ा हिस्सा share करती हैं। पहले corners जैसी high-contrast geometric features landmarks हुआ करती थीं और noise से लगभग प्रभावित नहीं होती थीं; आजकल compression और noise जैसी common transformations पर trained neural network जो भी चुनता है, वही landmark हो सकता है

  • इसे इस्तेमाल करते समय याद रखना चाहिए कि आप author को court में sue करने का अधिकार छोड़ रहे हैं: https://theyseeyourphotos.com/legal/terms
    PLEASE NOTE THAT THESE TERMS CONTAIN A BINDING ARBITRATION PROVISION AND CLASS ACTION/JURY TRIAL WAIVER.
    ऐसी clauses अमेरिका में आम हैं, और अमेरिकी courts ने लगातार इन्हें मान्यता दी है। दिलचस्प बात यह है कि Ente ने यहां वह opt-out clause नहीं रखा, जो इसके general terms में है(https://ente.io/terms). सोचने वाली बात है कि इस specific service के लिए ही ज्यादा restrictive terms क्यों बनाए गए

  • यह तो बस अपनी photo service का ad है। अगर AI से analyze नहीं करता, तो search feature भी शायद बेकार होगा, जबकि यह Google Photos की सबसे अच्छी features में से एक है

    • मैं उसी photo service में काम करता हूं
      Ente on-device machine learning से चलने वाला काफी अच्छा search[1] देता है[2]
      [1]: https://ente.io/blog/machine-learning
      [2]: https://ente.io/ml
    • AI न हो तो search बेकार होगा, यह कहना थोड़ा ज्यादा है। Google का photos में object और face recognition पर कोई monopoly भी नहीं है
      photos को बिना चेहरे वाले AI में feed किए और ढेर सारी बिजली खर्च किए बिना भी self-hosted solutions से ऐसे features अच्छे से दिए जा सकते हैं
    • Ente नाम की service भी आखिरकार users की photos देखती ही है, इसलिए यह अजीब ad जैसा लगता है
    • Google को photos से मिली information के आधार पर user और ad profiles update करने से रोकने के लिए opt out कैसे किया जा सकता है?
    • users को पशु नहीं बल्कि इंसान की तरह treat करने वाली companies जितनी ज्यादा हों, उतना अच्छा

  • यह visually impaired लोगों के लिए image descriptions generate करने में काफी शानदार हो सकता है, लेकिन एक नजर में दिखने वाली चीजों से ज्यादा गहरी insight नहीं देता
    इसमें “smart दिखने की कोशिश” वाली लंबी-चौड़ी बातें बहुत हैं। उदाहरण के लिए, पेड़ की branches वाली photo पर इसने कहा, “ध्यान से देखने वाला व्यक्ति branches की मोटाई और texture में सूक्ष्म बदलाव भी देख सकता है, जो natural और organic growth pattern का संकेत देता है”
    शुक्रिया। वरना शायद मैं सोच बैठता कि वह पेड़ कोई unnatural inorganic tree है

    • prompt में शायद “photo के subtle details को विस्तार से explain करो” या “situation से कौन-से conclusions निकाले जा सकते हैं?” जैसे instructions शामिल हैं
      लगता है कि किसी भी photo में notable details या implications हों या न हों, यह ऐसी कोशिश करता है। photo से hidden facts infer करने वाली Sherlock Holmes-style reasoning दिखाने की मंशा समझ आती है, लेकिन जब model के पास खोजने लायक कुछ नहीं होता तो यह हास्यास्पद हो जाता है
    • Facebook कई सालों से basic alt text generation कर रहा है। सबसे अच्छा तो नहीं है, लेकिन न होने से बेहतर है; जैसे “यह 4 लोगों, मुस्कुराते लोगों, text वाली image हो सकती है” जैसी output

  • अगर फ़्रेम के बाहर मौजूद कान पर ईयररिंग की hallucination करना, या नंगे पाँव बच्चे के बाएँ जूते को आउट ऑफ़ फ़ोकस बताना जैसी बात न होती, तो यह और ज़्यादा डरावना होता

    • अभी मैंने dining table के ऊपर Harry Potter स्टाइल में तैरती हुई मोमबत्ती की सजावट लटका रखी है। उसकी साफ़ दिखती हुई फ़ोटो अपलोड की, तो कमरे की बाकी हर चीज़ का शानदार वर्णन किया लेकिन मोमबत्ती को पूरी तरह नज़रअंदाज़ कर दिया
      मैंने कल्पना की कि मॉडल बेताबी से सोच रहा होगा, “तैरती मोमबत्ती की hallucination मत करो, तैरती मोमबत्ती की hallucination मत करो”
    • उसने snow leopard की आर्थिक स्थिति का अनुमान लगाने की कोशिश की
      “इमेज एक snow leopard पर केंद्रित है और इसमें कोई इंसान नहीं है। leopard के चेहरे का भाव सतर्क और थोड़ा सावधान है, लेकिन आक्रामक नहीं। इमेज से leopard की उम्र या उसकी ठीक-ठीक स्वास्थ्य स्थिति तय करना मुश्किल है, लेकिन यह अपेक्षाकृत अच्छी शारीरिक हालत वाला वयस्क दिखता है। आर्थिक स्थिति या lifestyle को साफ़ तौर पर बताने वाले संकेत मौजूद नहीं हैं”
    • डरावना इसलिए है क्योंकि यह सीधे hallucination करता है
    • मैंने कुछ फ़ोटो आज़माईं, तो इसने hallucinate किया कि जैकेट पर कुछ दिख रहा है, या कोई और कपड़ा मौजूद है
      उसे उलझते हुए देखना काफ़ी दिलचस्प था। यह LLM की शब्द-गणना जैसा नहीं था, जहाँ आप सोच सकें “हाँ, शायद ऐसा जवाब निकल सकता है।” visual hallucination बस ऐसी थी: “वह चीज़ तो इमेज में बिल्कुल है ही नहीं…”

  • Google जैसे big tech से बचने के लिए technical solutions बनाने की कोशिशों की सराहना है, लेकिन मेरे हिसाब से अब भी सबसे अच्छा तरीका फ़ोटो प्रिंट ही है
    परिवार में आम तौर पर “फ़ोटो वाला” मैं ही होता हूँ, इसलिए किसी event के बाद संबंधित परिवार वालों के घर पर printed photos ऑर्डर कर देता हूँ या खुद ले जाकर देता हूँ। हाथ में असली चीज़ पकड़ने से तुलना करने लायक बहुत कम चीज़ें हैं
    ऊपर से printing में थोड़ा खर्च आता है, इसलिए अंतहीन scroll में बहाने के बजाय सिर्फ़ कुछ सचमुच अच्छी फ़ोटो दिखाने की प्रेरणा मिलती है

    • जिस photo lab या printer का इस्तेमाल करते हो, उसकी privacy policy देखी है? वे फ़ोटो की digital copies इकट्ठा कर सकते हैं, उन्हें third parties को बेच सकते हैं या फ़ोटो से मिली जानकारी बेच सकते हैं, और police या government agencies को सौंप भी सकते हैं
    • अगर कोई photo storage app आसानी से print ordering दे, तो यह अच्छा business idea हो सकता है
    • कहाँ से print करवाते हो?

  • flashing की समस्या की वजह से chimney में हुए damage की फ़ोटो डाली थी, और हैरानी की बात है कि उसमें काफ़ी insight थी। बस उसने यह भी कहा कि मेरा घर पुराना और उपेक्षित है। अरे, यह तो ज़्यादा हो गया
    खैर, ज़्यादातर AI को लेकर मैं काफ़ी skeptical हूँ, लेकिन home repair में सही दिशा पकड़ने के लिए इसका उपयोग काफ़ी आकर्षक लगता है। क्योंकि बिना बकवास किए, सस्ता, और सच में आकर काम करने वाला contractor मिलना लगभग नामुमकिन है

  • यह आजकल के LLM जैसा लगता है: बहुत बोलता है लेकिन असल में ज़्यादा कुछ नहीं कहता। मैंने कुछ निजी फ़ोटो अपलोड कीं, लेकिन scene के सामान्य वर्णन के अलावा पहचानने लायक जानकारी ज़्यादा नहीं दी
    उदाहरण: “background में European city की विशेषता वाले modern buildings और पुराने buildings का मिश्रण है, और अलग-अलग architectural styles दिखते हैं”

    • मेरा अनुभव काफ़ी अलग था। मैंने यह फ़ोटो डाली:
      https://postimg.cc/yD4YZKFk
      मुझे पूरा यकीन है कि फ़ोटो में location data नहीं है, फिर भी पहला वाक्य था “यह image Illinois के Chicago में Union Station के अंदर का दृश्य दिखाती है।” अंत में थोड़ी कच्ची art criticism भी जोड़ दी, लेकिन सही जगह, Christmas tree, और benches पर बैठे लोगों को पहचान लिया। साइड में jazz ensemble छूट गया

  • Ente मुझे Immich[0] जैसा लगता है, जिसे मैं परिवार के साथ self-host करता हूँ, बस इसमें end-to-end encryption जुड़ा है। मुझे unencrypted वाला बेहतर लगता है। क्योंकि जब कुछ टूटता है, तो files disk पर जैसी हैं वैसी ही stored रहती हैं और आसानी से recover हो जाती हैं
    [0]: https://immich.app/

    • Ente CLI[0] में cloud तक read-only access देने वाली export service है, और deleted items का नाम बदल दिया जाता है
      Go binary ज़्यादातर NAS सहित लगभग कहीं भी चल जाती है, लेकिन Argon2 की वजह से master key decrypt करने के लिए कम-से-कम 1GB RAM चाहिए
      [0] https://github.com/ente-io/ente/tree/main/cli
    • यह Google Photos से सच में बहुत मिलता-जुलता दिखता है, देखकर हैरानी हुई। अगर Google फिर से कीमत बढ़ाए, तो Immich perfect alternative हो सकता है

  • “हंस के बारे में उम्र और अन्य विवरणों (racial characteristics, ethnicity, economic status, lifestyle) की पुष्टि नहीं की जा सकती।”
    जोर मैंने जोड़ा है

    • मैंने कई drawings अपलोड कीं, तो लगभग हर portrait के लिए उसने साफ़ लिखा कि “racial characteristics, ethnicity, economic status, lifestyle” की पुष्टि नहीं की जा सकती
      मैं कोई महान painter नहीं हूँ, लेकिन बाकी details उसने काफ़ी अच्छे से पकड़ लीं। शायद prompt ऐसी चीज़ों के बारे में पूछ रहा है और AI जवाब देने से हिचक रहा है। हालांकि उसने यह कहा कि drawing style के आधार पर artist शायद पुरुष है। मैं सच में पुरुष हूँ, और हो सकता है मेरी drawing style ज़्यादा masculine हो, लेकिन इसे quantify कैसे किया जाए, मुझे नहीं पता