डिज़ाइन से ही अवैध: जनरेटिव AI की मानवाधिकार लागत को उजागर करना

 (amnesty.org)
1 पॉइंट द्वारा GN⁺ 9 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • स्टैंडअलोन जनरेटिव AI सिस्टम अवैध वेब स्क्रैपिंग पर आधारित होने पर डिज़ाइन, विकास और परिनियोजन की पूरी प्रक्रिया में अंतरराष्ट्रीय मानवाधिकार कानून (IHRL) और मानकों से टकराते हैं
  • यह तकनीक परिष्कृत automation और efficiency का वादा करती है, लेकिन data collection और model training practices ऐसी संरचना पर निर्भर हैं जो privacy के अधिकार का दुरुपयोग करती है
  • यही practices भेदभाव को संभव बनाती हैं और अभिव्यक्ति की स्वतंत्रता तथा विचार की स्वतंत्रता के लिए मानवाधिकार लागत पैदा करती हैं
  • Amnesty International ने निष्कर्ष निकाला कि अवैध वेब स्क्रैपिंग-आधारित सिस्टम डिज़ाइन से ही बड़े पैमाने पर privacy उल्लंघन पर निर्भर करते हैं
  • ऐसे सिस्टम अंतरराष्ट्रीय मानवाधिकार कानून के साथ मूल रूप से असंगत हैं, और Amnesty International ने इन सिस्टमों पर प्रतिबंध की मांग की है

मुख्य निष्कर्ष

  • अवैध वेब स्क्रैपिंग पर आधारित स्टैंडअलोन जनरेटिव AI सिस्टम डिज़ाइन, विकास और परिनियोजन के चरणों में अंतरराष्ट्रीय मानवाधिकार कानून (IHRL) और संबंधित मानकों से टकराते हैं
  • Amnesty International का मानना है कि ऐसे सिस्टम डिज़ाइन से ही बड़े पैमाने पर privacy उल्लंघन पर निर्भर करते हैं और अंतरराष्ट्रीय मानवाधिकार कानून के साथ मूल रूप से असंगत हैं

मानवाधिकार उल्लंघन की कार्यप्रणाली

  • जनरेटिव AI तकनीक परिष्कृत automation और efficiency का वादा करती है
  • लेकिन data collection और model training practices privacy के अधिकार के दुरुपयोग पर निर्भर हैं
  • ये practices भेदभाव को संभव बनाती हैं और अभिव्यक्ति की स्वतंत्रता तथा विचार की स्वतंत्रता को खतरे में डालती हैं

निष्कर्ष और मांग

  • Amnesty International ने अवैध वेब स्क्रैपिंग-आधारित स्टैंडअलोन जनरेटिव AI सिस्टमों पर प्रतिबंध की मांग की है
  • अंग्रेज़ी रिपोर्ट Download PDF से डाउनलोड की जा सकती है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 9 시간 전
Lobste.rs की टिप्पणियाँ

  • उम्मीद है कि गैरकानूनी web scraping जैसी अभिव्यक्ति की वजह से एक और दुष्प्रभाव के रूप में web scraping पर ही प्रतिबंध लगाने की दिशा नहीं बन जाएगी

    • ऐसा नहीं लगता कि वे scraping ban को आगे बढ़ा रहे हैं; उस हिस्से को पढ़ें तो चिंता काफ़ी ठोस और तर्कसंगत है
      मुद्दा यह है कि कंपनियाँ बिना सहमति के व्यक्तिगत डेटा का बड़े पैमाने पर संग्रह कर रही हैं, और फिर उस डेटा का ऐसे तरीक़े से व्यावसायीकरण कर रही हैं जिसमें उसके उजागर होने का जोखिम है
    • अफ़सोस है कि Amnesty मानो publishers की दलीलों से प्रभावित हो रही है

  • Amnesty International ऐसे सिस्टमों पर प्रतिबंध की माँग कर रहा है, यानी वह काफ़ी सख़्त रुख़ अपना रहा है

    • बेहतर होता अगर इसे इस तरह न कहा गया होता। कुछ पाठक इसे “क्या अब पहले से खुल चुका Pandora’s box फिर से बंद करने की बात हो रही है?” जैसे अव्यावहारिक आदर्शवाद के रूप में ख़ारिज कर सकते हैं
      फिर भी, AI-आधारित decision-making में उपाय/निवारण के साधन की ज़रूरत, मॉडलों में दिखने वाले bias, और consent·attribution·compensation के बिना scraping जैसी समस्याएँ वाजिब ढंग से उठाई गई हैं

  • अभी पूरा नहीं पढ़ा, लेकिन 5.6 अनुभाग के निष्कर्ष p.35 में एक बात ध्यान खींचने वाली थी
    Amnesty International ने DeepSeek, Google, OpenAI, Meta, Stability AI, Intel, VMware, Midjourney, Microsoft, Amazon से standalone generative AI systems और मानवाधिकार जोखिमों पर जाँच निष्कर्षों व चिंताओं के जवाब माँगे, लेकिन Anthropic इसमें साफ़ तौर पर ग़ायब है
    रिपोर्ट में Anthropic का उल्लेख खोजने पर बस यह मिला कि फ़रवरी 2026 में जब अमेरिकी सेना ने इज़राइल के साथ मिलकर ईरान पर हमला किया, तब Anthropic के Claude का इस्तेमाल हुआ था; और यह भी कि अमेरिकी सरकार ने Anthropic की “बड़े पैमाने की घरेलू निगरानी” और “बिना निगरानी के पूरी तरह स्वायत्त हथियारों” के उपयोग को सीमित करने वाली संविदात्मक शर्तों की अनदेखी की
    यह भी कहा गया है कि Anthropic के उत्पाद 2024 से अमेरिकी सरकार और सेना में उपयोग हो रहे थे, और इसे पहली “advanced AI company” के रूप में जाना गया जिसके उत्पाद गोपनीय काम करने वाली सरकारी एजेंसियों में व्यापक रूप से तैनात किए गए; साथ ही, जब Anthropic ने उन सीमाओं में संशोधन नहीं किया, तो 6 मार्च 2026 को Pentagon ने इसे “Supply Chain Risk” के रूप में वर्गीकृत किया
    मैं यह नहीं कहना चाहता कि Amnesty, Anthropic-समर्थक पक्षपात रखता है, लेकिन समझ नहीं आता कि उसे उस सूची में क्यों शामिल नहीं किया गया। हो सकता है वह सूची इसलिए बनी हो क्योंकि रिपोर्ट में OpenAI, Google, Meta आदि का कई बार ठोस नुकसान के मामलों के स्रोतों के साथ उल्लेख था, और Anthropic के लिए ऐसे समान स्रोत नहीं थे, लेकिन फिर भी यह अजीब लगता है

  • लगता है Amnesty अब पहले वाला Amnesty नहीं रहा

  • इस briefing में कहा गया है कि यह generative AI product supply chain में data pipeline पर फ़ोकस करती है, और खास तौर पर data collection·analysis·processing चरणों पर ध्यान देती है
    साथ ही Amnesty International standalone generative AI tools को उन उत्पादों के रूप में परिभाषित करता है जिन्हें सिर्फ generative AI functions के लिए विकसित·तैनात·market किया जाता है, जैसे AI chatbots, image·video·audio·text generators; और word processor की वैकल्पिक generative AI feature जैसी, बड़े product suite में जोड़ी गई सुविधाओं को इसमें शामिल नहीं करता