AI चेहरे की पहचान की गलती से टेनेसी की महिला को नॉर्थ डकोटा के अपराध के आरोप में गलत तरीके से गिरफ्तार किया गया

 (cnn.com)
1 पॉइंट द्वारा GN⁺ 2026-03-30 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • टेनेसी की Angela Lipps(50 वर्ष) को उस नॉर्थ डकोटा बैंक धोखाधड़ी मामले में संदिग्ध मानकर AI चेहरे की पहचान तकनीक के आधार पर गिरफ्तार किया गया, जहाँ वह कभी गई ही नहीं थीं, और उन्हें 5 महीने से अधिक समय तक हिरासत में रखा गया
  • Clearview AI सिस्टम ने किसी मिलते-जुलते व्यक्ति को गलती से Lipps के रूप में पहचान लिया, और Fargo पुलिस ने इसी आधार पर गिरफ्तारी वारंट जारी कराया
  • बाद में बैंक रिकॉर्ड से यह पुष्टि हुई कि घटना के समय Lipps टेनेसी में थीं, जिसके बाद आरोप बिना दोष के खारिज कर दिए गए और उन्हें रिहा कर दिया गया
  • Fargo पुलिस ने AI सूचना संप्रेषण में त्रुटि और निगरानी वीडियो जमा न करने की बात स्वीकार की और AI डेटा के उपयोग की प्रक्रिया को सख्त करने का फैसला किया
  • इस मामले को AI जांच तकनीक की विश्वसनीयता और मानव सत्यापन प्रक्रिया की आवश्यकता को उजागर करने वाले उदाहरण के रूप में देखा जा रहा है

AI चेहरे की पहचान की गलती से टेनेसी की महिला की गलत गिरफ्तारी का मामला

  • टेनेसी निवासी Angela Lipps(50 वर्ष) को उस नॉर्थ डकोटा बैंक धोखाधड़ी मामले में संदिग्ध मानकर AI चेहरे की पहचान तकनीक के आधार पर गिरफ्तार किया गया, जहाँ वह कभी गई भी नहीं थीं, और उन्हें 5 महीने से अधिक समय तक हिरासत में रखा गया
    • Fargo पुलिस ने माना कि मामले की प्रक्रिया में “कुछ त्रुटियाँ” हुईं, लेकिन कोई औपचारिक माफ़ी नहीं दी
    • गिरफ्तारी 14 जुलाई को टेनेसी स्थित Lipps के घर से हुई, जबकि Fargo में कुछ हफ्ते पहले ही गिरफ्तारी वारंट जारी किया जा चुका था

  • घटना का क्रम

    • Fargo क्षेत्र में हुई बैंक धोखाधड़ी की घटना की जांच के दौरान पुलिस ने “सहयोगी एजेंसी की facial recognition तकनीक” का इस्तेमाल कर संदिग्ध की पहचान की
    • West Fargo पुलिस ने Clearview AI सिस्टम का उपयोग किया, और इस सिस्टम ने एक ऐसे व्यक्ति को रिपोर्ट में शामिल किया जिसे Lipps से मिलता-जुलता बताया गया
    • Fargo पुलिस ने इसी जानकारी के आधार पर Lipps को संदिग्ध माना और Cass County अभियोजन पक्ष को रिपोर्ट सौंप दी
    • बाद में Fargo पुलिस ने घोषणा की कि West Fargo द्वारा AI सिस्टम के उपयोग की सूचना उच्च विभाग को नहीं दी गई थी और अब इसका उपयोग प्रतिबंधित कर दिया गया है

  • हिरासत और रिहाई की प्रक्रिया

    • 1 जुलाई को नॉर्थ डकोटा के एक न्यायाधीश ने ऐसा गिरफ्तारी वारंट जारी किया, जिसके तहत देशभर से प्रत्यर्पण संभव था
    • Lipps को 14 जुलाई को गिरफ्तार किया गया और टेनेसी की जेल में 3 महीने से अधिक समय तक रखने के बाद नॉर्थ डकोटा भेजा गया
    • प्रत्यर्पण के बाद उनके वकील ने बैंक रिकॉर्ड हासिल किए जिनसे साबित हुआ कि अपराध के समय Lipps टेनेसी में थीं
    • 23 दिसंबर को Fargo पुलिस, राज्य अभियोजन पक्ष और न्यायाधीश ने मिलकर आरोपों को ‘बिना दोष के खारिज’ करने का फैसला किया, और Lipps को 24 दिसंबर को रिहा कर दिया गया
    • वकीलों ने आलोचना की कि “स्पष्ट रूप से मुक्तिदायक सबूत मौजूद होने के बावजूद लंबी हिरासत अनावश्यक रूप से जारी रही”

  • Fargo पुलिस की जांच और प्रतिक्रिया

    • पुलिस ने AI सिस्टम की जानकारी पहुंचाने की प्रक्रिया में गलती और निगरानी वीडियो जमा न करने को प्रमुख त्रुटियाँ बताया
    • Fargo पुलिस ने कहा कि आगे से वह West Fargo के AI डेटा का उपयोग नहीं करेगी और राज्य व संघीय सूचना केंद्रों के साथ सहयोग करेगी
    • सभी चेहरे की पहचान के परिणाम अब हर महीने जांच ब्यूरो प्रमुख को रिपोर्ट किए जाएंगे, इसके लिए प्रक्रिया सख्त की गई है
    • Cass County और राज्य अभियोजन पक्ष के साथ गिरफ्तार व्यक्ति की सूचना प्रणाली की कमी को भी समस्या बताया गया, और सुधार उपायों की समीक्षा की जा रही है
    • पुलिस संबंधित जांच अधिकारियों पर अनुशासनात्मक कार्रवाई होनी चाहिए या नहीं, इसकी समीक्षा कर रही है, और कहा कि “कोई भी अनावश्यक गिरफ्तारी नहीं चाहता”

  • पीड़िता और कानूनी प्रतिक्रिया

    • Lipps, जिनके तीन बच्चे और पाँच पोते-पोतियाँ हैं, ने कहा कि वह कभी नॉर्थ डकोटा गई ही नहीं थीं
    • हिरासत के दौरान उन्होंने GoFundMe पेज पर लिखा कि उन्होंने “डर, थकान और शर्म” झेली
    • वकीलों ने आलोचना की कि “AI चेहरे की पहचान को बुनियादी जांच की जगह शॉर्टकट की तरह इस्तेमाल किया गया” और नागरिक अधिकारों से जुड़े मुकदमे की संभावना पर विचार कर रहे हैं

  • AI जांच तकनीक पर आलोचना

    • अमेरिका भर की पुलिस AI तकनीक को तेज़ी से अपना रही है, लेकिन इसके प्रभाव के समर्थन में पर्याप्त सबूत नहीं हैं, ऐसा कहा जा रहा है
    • साउथ कैरोलाइना विश्वविद्यालय के प्रोफेसर Ian Adams ने विश्लेषण किया कि “AI से जुड़ी ज़्यादातर त्रुटियाँ तकनीक और इंसान, दोनों की संयुक्त समस्या होती हैं”
    • उन्होंने ज़ोर देकर कहा कि “जासूसों को algorithm के नतीजों पर आँख मूंदकर भरोसा नहीं करना चाहिए और ज़रूर मानव सत्यापन प्रक्रिया से गुजरना चाहिए”
    • पहले भी ऐसे मामले सामने आए हैं जहाँ AI सुरक्षा सिस्टम ने खाली स्नैक पैकेट को बंदूक समझकर एक छात्र को गिरफ्तार करवा दिया, जिससे AI की गलत पहचान के मामले बार-बार सामने आते रहे हैं

  • मामले की वर्तमान स्थिति

    • Fargo पुलिस ने कहा कि मामला “अब भी जारी है और आगे की जांच के नतीजों के आधार पर आरोप फिर से लगाए जा सकते हैं”
    • वकीलों ने पुलिस के भविष्य में सुधार के वादे का स्वागत किया, लेकिन कहा कि “बुनियादी जांच प्रक्रिया की कमी अब भी गंभीर समस्या है”

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2026-03-30
Hacker News की राय

  • AI हो या न हो, मैं सिर्फ़ एक बात पूछना चाहता हूँ — असल में जाँच किसने की
    उसके IP, गवाहों, या AI फ़्लैग की पुष्टि किसी ने नहीं की। बस डेटा देखा और मान लिया, “पकड़ लिया”
    इससे भी ज़्यादा भयावह बात यह है कि उसने कहा, “मैं फिर कभी North Dakota वापस नहीं जाऊँगी।” सबक यह नहीं होना चाहिए कि ‘उस राज्य में मत जाओ’, बल्कि पूरे सिस्टम पर सवाल उठना चाहिए
    पहले भी Apple की गलत गिरफ्तारी का मामला और परिवार के सामने घसीटकर ले जाए गए व्यक्ति का मामला जैसे उदाहरण रहे हैं। अगर हम इसके खिलाफ नहीं लड़ेंगे, तो हम सब ऐसे संसार में पहुँचेंगे जहाँ ‘पहले दोषी मान लिया जाएगा, फिर तुम्हें अपनी बेगुनाही साबित करनी होगी’

    • कानूनी सिस्टम की समस्या यह है कि सच खोजने की कोई प्रोत्साहन-व्यवस्था नहीं है
      मैंने भी पहले 911 पर कॉल किया था और उल्टा मुझ पर झूठी शिकायत करने का आरोप लगा दिया गया। बॉडीकैम वीडियो ने साफ़ तौर पर इसका खंडन किया, लेकिन संबंधित लोग सिर्फ़ ‘मुकदमा चलाने’ में दिलचस्पी रखते थे। शुक्र है, ज्यूरी ने सही फ़ैसला दिया
    • जाँच तो बेशक ज़रूरी थी। लेकिन बड़ी समस्या यह है कि लोग AI के त्रुटिहीन होने के भ्रम पर भरोसा करते हैं
      जब आप कहते हैं, “नतीजों की पुष्टि करनी चाहिए,” तब भी, HN पर भी कुछ लोग कहते हैं, “उसकी ज़रूरत नहीं”
    • DNA और फ़िंगरप्रिंट से भी हमने यही सबक पहले ही सीख लिया है। सिर्फ़ इसलिए किसी को बंद कर देना कि ‘कंप्यूटर ने मैच दिखाया’ खतरनाक है
      ऐसे सिस्टम सिर्फ़ सुराग देने के लिए इस्तेमाल होने चाहिए। लेकिन अभी इन्हें ऐसे इस्तेमाल किया जा रहा है जैसे किसी ड्रामा में ‘AI सच बोलता है’
      लोग बस इतना आसान सबक लेना चाहते हैं कि “अब North Dakota कभी नहीं जाना।” लेकिन असली समस्या false positive rate और कानूनी सिस्टम की संरचनात्मक सीमाएँ हैं
    • तुम एक बात छोड़ रहे हो। वकीलों ने कहा था, “ट्रॉमा, आज़ादी का खोना, और प्रतिष्ठा को हुआ नुकसान आसानी से ठीक नहीं होता”
      यह साफ़ तौर पर हर्जाने के मुकदमे की तैयारी वाला बयान है। शायद वह बस अपनी सामान्य ज़िंदगी में वापस लौटना चाहती हो। “सिस्टम से लड़ो” कहना व्यवहारिक रूप से बहुत मुश्किल है
    • मैं क़ानून का विशेषज्ञ नहीं हूँ, लेकिन अमेरिका में हिरासत में पूछताछ पर Miranda अधिकार लागू होते हैं
      शायद Musk या Altman के सॉफ़्टवेयर से इस मुसीबत से बचना ही बेहतर हो

  • इस्तेमाल किया गया vendor Clearview AI था। आधिकारिक नीति के मुताबिक, कुछ उन राज्यों को छोड़कर जहाँ क़ानून मजबूर करता है, डेटा deletion request करना संभव नहीं है
    इसलिए अचानक मेरी दिलचस्पी New York के S1422 Biometric Privacy Act में बढ़ गई

    • Illinois के निवासियों के मामले में, नीति के अनुसार biometric data का collection और retention अनिवार्य है। हालाँकि, law enforcement को administrative warrant वगैरह के ज़रिए अपवाद मिलने की संभावना काफ़ी है
    • इस संदर्भ में noyb की facial recognition पर आपराधिक शिकायत का मामला भी है
    • deletion माँगने के लिए अपनी ही फ़ोटो जमा करनी पड़ती है, लेकिन Peter Thiel से जुड़ी किसी कंपनी पर भरोसा करने का मन नहीं है
    • फ़िलहाल अंत में बार-बार deletion request भेजने के अलावा कोई रास्ता नहीं दिखता। delete होने के बाद भी संभव है कि डेटा कभी फिर से database में आ जाए

  • सिर्फ़ इस महीने ही मैंने facial recognition की वजह से हुई गलत गिरफ्तारियों के कई मामले देखे हैं। अब यह काफ़ी बार होने लगा है
    अमेरिका की 35 करोड़ की आबादी में हमशक्ल बहुत होंगे, इसलिए जैसे ही AI से पूछा जाता है, “इस वीडियो वाले व्यक्ति जैसा कौन दिखता है,” सिर्फ़ ‘मिलता-जुलता दिखने’ के आधार पर गिरफ्तारी की संरचना बन जाती है
    ‘मिलता-जुलता दिखना’ reasonable suspicion के स्तर तक तो जा सकता है, लेकिन गिरफ्तारी के आधार (Probable Cause) के लिए काफ़ी नहीं है। इसे दूसरे सबूतों के साथ जोड़ा जाना चाहिए
    समस्या AI खुद नहीं है, बल्कि सिर्फ़ समानता के आधार पर किसी को वही व्यक्ति मान लेने की सोच है

  • सबसे चौंकाने वाली बात यह है कि जज ने सिर्फ़ Clearview match result के आधार पर warrant मंज़ूर कर दिया
    जज और warrant की प्रक्रिया तो मूल रूप से पुलिस के दुरुपयोग को रोकने के लिए होती है, लेकिन वह भी काम नहीं कर रही

  • पिछली चर्चा यहाँ है

  • यह मामला AI को लेकर बढ़ा-चढ़ाकर की गई रिपोर्टिंग है
    इस्तेमाल किया गया सिस्टम FaceSketchID था, जो 2014 से मौजूद है, और यह नवीनतम AI से अलग है। सिस्टम सिर्फ़ संभावित उम्मीदवार सुझाता है, जाँच और अभियोजन इंसानों का काम है
    असली सवाल यह है कि उसे 4 महीने तक हिरासत में क्यों रखा गया। आम तौर पर 30 दिनों के भीतर प्रत्यर्पण/ट्रांसफ़र का सिद्धांत होता है; क्या ऐसा इसलिए था कि वह parole पर थी?

    • अमेरिका में अगर सत्ता वाले लोग प्रक्रिया तोड़ भी दें, तो व्यावहारिक सज़ा लगभग नहीं होती। बाद में टैक्स के पैसों से मुआवज़ा दे देना ही सब कुछ होता है
    • अगर प्रत्यर्पण प्रक्रिया को चुनौती दी जाए, तो हिरासत की अवधि 30 दिनों से बढ़कर अधिकतम 90 दिन तक हो सकती है। ऊपर से, गलत पहचान का मुद्दा प्रत्यर्पण सुनवाई में उठाया भी नहीं जा सकता
    • शायद उसे parole violation के लिए अलग से हिरासत में रखा गया था
    • जाँच इंसानों को ही करनी चाहिए, लेकिन समस्या यह है कि AI की ‘आत्मविश्वास से भरी गलती’ इंसानी निर्णय को सुन्न कर देती है। लोग यक़ीन के जाल में आसानी से फँस जाते हैं

  • लेख में दिया गया उद्धरण, “यह सिर्फ़ तकनीक की समस्या नहीं, तकनीक और इंसानों दोनों की समस्या है,” काफ़ी असरदार लगा

    • आजकल “It’s not just X, it’s X and Y” जैसी अभिव्यक्ति AI द्वारा लिखे गए वाक्य-पैटर्न जैसी लगती है। अगर लेख AI ने लिखा हो, तो वह वाक्य भी शायद hallucinated quote हो सकता है

  • मुझे नहीं पता था कि गिरफ्तारी वारंट जारी करने की दहलीज़ इतनी कम होती है, खासकर किसी दूसरे राज्य से किसी को खींच लाने तक

    • यह base rate fallacy का एक क्लासिक मामला है
      99.999% accuracy वाला सिस्टम भी अगर 30 करोड़ लोगों को स्कैन करे, तो 3,000 false positive पैदा होंगे। उनमें से ज़्यादातर बेगुनाह लोग होंगे
      इसलिए बड़े पैमाने की automated surveillance ख़तरनाक है

  • सच में डरावनी बात AI की गलती नहीं, बल्कि यह है कि किसी ने उसके नतीजों की जाँच ही नहीं की
    गुमनाम टिप-ऑफ़ की जाँच होती है, लेकिन AI match पर सीधे भरोसा कर लिया जाता है। आख़िरकार उन्होंने जाँच को छोड़ देने वाला एक औज़ार बना लिया है