Google ने AI को हथियारों और निगरानी में इस्तेमाल न करने का अपना वादा वापस लिया

 (washingtonpost.com)
3 पॉइंट द्वारा GN⁺ 2025-02-05 | 1 टिप्पणियां | WhatsApp पर शेयर करें

  • Google के AI सिद्धांतों में बदलाव की पृष्ठभूमि

    • पहले के AI सिद्धांतों में यह स्पष्ट कहा गया था कि AI का उपयोग हथियारों या निगरानी के लिए नहीं किया जाएगा, लेकिन अब वह वादा हटा दिया गया है
    • Google के Demis Hassabis और James Manyika ने AI के प्रसार और राष्ट्रीय सुरक्षा की मांग का हवाला देते हुए नीति परिवर्तन की घोषणा की
    • उन्होंने इस बात पर जोर दिया कि “लोकतांत्रिक देशों को AI विकास का नेतृत्व करना चाहिए और सरकारों तथा सुरक्षा क्षेत्र के साथ सहयोग करना चाहिए”

  • नई AI नीति के मुख्य बिंदु

    • यह पंक्ति बरकरार रखी गई है कि तकनीक का उपयोग अंतरराष्ट्रीय कानून और मानवाधिकार सिद्धांतों के अनुरूप किया जाएगा
    • “अप्रत्याशित नुकसान को कम करने के लिए परीक्षण किए जाते हैं” वाला बिंदु जोड़ा गया है
    • खास तौर पर हथियारों या निगरानी में उपयोग को बाहर रखने वाला प्रावधान हटा दिया गया है
    • Google के प्रवक्ता ने हथियार और निगरानी नीति में बदलाव से जुड़े विशिष्ट सवालों का जवाब देने से इनकार किया

  • Google के भीतर पुराना विरोध और Maven कॉन्ट्रैक्ट

    • 2018 में, अमेरिकी रक्षा विभाग के साथ ड्रोन वीडियो विश्लेषण प्रोजेक्ट (Maven) पर काम करते समय कर्मचारियों की ओर से कड़ा विरोध हुआ था
    • कर्मचारियों ने कहा था कि “Google को युद्ध के कारोबार में शामिल नहीं होना चाहिए”
    • कंपनी ने Maven कॉन्ट्रैक्ट का नवीनीकरण नहीं किया, और उसके बाद AI सिद्धांत जारी करते हुए हथियार और निगरानी में उपयोग पर रोक का वादा शामिल किया
    • इस बार नीति अपडेट में वह स्पष्ट वादा हटाए जाने के बाद, कर्मचारियों के पुराने विरोध पर फिर से ध्यान गया है

  • उद्योग पर प्रभाव

    • Silicon Valley में सैन्य और रक्षा क्षेत्र के साथ सहयोग तेजी से बढ़ रहा है
    • ऐसा माना जाता है कि Maven के खिलाफ Google कर्मचारियों का विरोध उद्योग के लिए एक बड़ा turning point था
    • इस नीति बदलाव के बाद यह संभावना बढ़ गई है कि Google का AI फिर से सैन्य और निगरानी क्षेत्रों में लागू हो सकता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-02-05
Hacker News राय

  • ड्रोन और AI हथियारों के खतरों पर चर्चा की गई। रिमोट हत्या, राजनीतिक अस्थिरता, तानाशाहों द्वारा चुनिंदा टार्गेटिंग जैसी कई दुरुपयोग की संभावनाएँ हैं

    • कई देशों के पास ऐसी तकनीक होगी, और कई AI मॉडल पहले से ही सार्वजनिक हैं
    • टेक्नोलॉजी कम्युनिटी को इस समस्या के समाधान के तरीकों पर विचार करना चाहिए
    • बचाव के उपाय, निगरानी के तरीके, और सरकार द्वारा हथियारों के उपयोग का नागरिकों द्वारा ऑडिट कैसे किया जाए जैसे महत्वपूर्ण सवाल उठाए गए

  • Google जैसी बड़ी कंपनियाँ स्वभावतः न तो भली होती हैं और न ही नैतिक; ऐसी छवि सिर्फ एक मार्केटिंग रणनीति है

  • इस वास्तविकता को स्वीकार किया गया कि दुनिया आत्म-विनाश की ओर बढ़ रही है, और पर्दे के पीछे डरावने विकास चल रहे हैं

  • ज़्यादातर निजी कंपनियाँ मुनाफ़े के लिए तकनीक का उपयोग करेंगी और अपने पुराने वादे तोड़ देंगी

  • यह दिलचस्प बताया गया कि कंपनियाँ राजनीतिक परिस्थितियों के अनुसार बदलती हैं

    • Google AI घोषणाओं पर आई प्रतिक्रिया के जवाब में अपनी इमेज मैनेजमेंट को लेकर सतर्क है

  • OpenAI के DoD कॉन्ट्रैक्ट और Google के व्यवहार की तुलना करते हुए कहा गया कि खुला रवैया अधिक ईमानदार है

  • यह तर्क दिया गया कि कुछ देशों को भीड़ नियंत्रण के लिए हथियारों की आवश्यकता होती है

    • यह आलोचना की गई कि अंतरराष्ट्रीय संकट मुख्यतः अमेरिका और रूस द्वारा शुरू किए गए हैं

  • दुनिया की अराजक स्थिति में Google, OpenAI, Microsoft जैसी कंपनियों का रक्षा परियोजनाओं में भाग लेना सकारात्मक माना गया

  • इस चिंता को व्यक्त किया गया कि LLMs खुफिया एजेंसियों में टेक्स्ट विश्लेषण की क्षमता को बहुत बढ़ा सकते हैं