OpenAI ने "सैन्य और युद्ध" उद्देश्यों के लिए ChatGPT के उपयोग पर प्रतिबंध हटाया

 (theintercept.com)
3 पॉइंट द्वारा GN⁺ 2024-01-14 | 1 टिप्पणियां | WhatsApp पर शेयर करें

OpenAI ने सैन्य और युद्ध उद्देश्यों के उपयोग-प्रतिबंध वाला प्रावधान हटाया

  • OpenAI ने इस सप्ताह चुपचाप अपनी उपयोग नीति से वह भाषा हटा दी, जो उसकी तकनीक के सैन्य उद्देश्यों के लिए उपयोग को स्पष्ट रूप से प्रतिबंधित करती थी।
  • 10 जनवरी तक OpenAI की उपयोग नीति पेज पर उन गतिविधियों पर प्रतिबंध स्पष्ट रूप से लिखा था जो शारीरिक हानि बढ़ा सकती हैं, जिनमें 'हथियार विकास' और 'सैन्य और युद्ध' शामिल थे।
  • नई नीति में यह निर्देश बरकरार है कि सेवाओं का उपयोग स्वयं या दूसरों को नुकसान पहुँचाने के लिए न किया जाए, लेकिन 'सैन्य और युद्ध' उपयोग पर पूर्ण प्रतिबंध गायब हो गया है।

नीति परिवर्तन की पृष्ठभूमि

  • OpenAI ने नीति पेज को "और अधिक स्पष्ट और पढ़ने में आसान" बनाने के लिए बड़े पैमाने पर संशोधित किया।
  • OpenAI के प्रवक्ता ने समझाया कि नई नीति कानूनी अनुपालन पर ज़ोर देती है, और "दूसरों को नुकसान न पहुँचाने" का सिद्धांत व्यापक रूप से लागू किया जा सकता है।
  • विशेषज्ञों का कहना है कि नई नीति सैन्य कॉन्ट्रैक्ट्स और युद्ध अभियानों से जुड़े सवालों से बचती है और विशेष रूप से हथियारों पर ध्यान केंद्रित करती है।

सैन्य और युद्ध उपयोग को लेकर चिंताएँ

  • विशेषज्ञों ने बताया कि बड़े भाषा मॉडल (Large Language Models, LLMs) में पक्षपात और सटीकता की कमी के कारण युद्ध में उनका उपयोग गलत और पक्षपाती अभियानों की ओर ले जा सकता है।
  • OpenAI के टूल्स का सैन्य बल की प्रत्यक्ष हत्या-क्षमता में इस्तेमाल होने की संभावना कम है, लेकिन उनका उपयोग सैन्य बल का समर्थन करने वाले कई तरह के कार्यों में किया जा सकता है।
  • चूँकि सैन्य संस्थाओं का मुख्य उद्देश्य घातक क्षमता बनाए रखना होता है, इसलिए भले ही वह सीधे हिंसक न हो, सैन्य संस्थाओं की मदद करना फिर भी समस्याग्रस्त हो सकता है।
  • OpenAI और Microsoft की करीबी साझेदारी OpenAI के लिए सैन्य उद्देश्यों में अपने व्यवसाय के विस्तार की संभावना खुली छोड़ती है।

नीति परिवर्तन का वास्तविक प्रभाव

  • इस नीति परिवर्तन के वास्तविक दुनिया के परिणाम स्पष्ट नहीं हैं।
  • OpenAI ने यह स्पष्ट रुख नहीं बताया कि वह सैन्य और युद्ध उपयोग पर प्रतिबंध को कैसे लागू करेगा।
  • विशेषज्ञों का आकलन है कि OpenAI सैन्य संस्थाओं के साथ कारोबार को लेकर अपने रुख को कमजोर कर रहा है।

सैन्य संस्थाओं द्वारा AI तकनीक का उपयोग

  • दुनिया भर की सेनाएँ machine learning तकनीक का उपयोग कर बढ़त हासिल करने की कोशिश कर रही हैं, और Pentagon अब भी ChatGPT या अन्य LLMs के उपयोग की संभावनाएँ तलाश रहा है।
  • बड़े भाषा मॉडल विशाल मात्रा में किताबें, लेख, वेब डेटा आदि पर प्रशिक्षण लेकर उपयोगकर्ता prompts के प्रति मानवीय प्रतिक्रियाओं की नकल करते हैं।

GN⁺ की राय:

  • OpenAI की यह नीति-परिवर्तन AI तकनीक के सैन्य उपयोग की संभावना बढ़ाता है, और यह तकनीकी नैतिकता व सुरक्षा पर महत्वपूर्ण बहस को जन्म दे सकता है।
  • यह बदलाव दिखाता है कि tech कंपनियाँ defense contracts के संदर्भ में अपने सिद्धांतों और बाज़ार के अवसरों के बीच संतुलन बनाने की कैसे कोशिश करती हैं।
  • AI के सैन्य और युद्ध उद्देश्यों के उपयोग पर स्पष्ट प्रतिबंध हटाया जाना तकनीक की सुरक्षा और नैतिक उपयोग पर व्यापक सामाजिक चर्चा को आगे बढ़ाने का कारण बन सकता है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-01-14
Hacker News राय

  • OpenAI की वृद्धि और सिद्धांतों में बदलाव

    • यह प्रभावशाली है कि OpenAI ने अपने संस्थापक सिद्धांतों को छोड़कर Google की रणनीति अपनाई।
    • Google को "Don't be Evil" हटाने में 17 साल लगे, लेकिन OpenAI तेज़ी से बढ़ा और अचानक बदल गया।
    • लगता है OpenAI वही कंपनी या तकनीक बनेगा जो Google ने Microsoft को पीछे छोड़ते हुए बनाई थी। यह विडंबनापूर्ण है।

  • GPT मॉडल के सैन्य उपयोग की संभावना

    • GPT मॉडल के लिए सैन्य डेटाबेस और रिसर्च कार्य में सामान्य रूप से इस्तेमाल होने का बड़ा अवसर है।
    • सैन्य उपयोग पर प्रतिबंध का मतलब यह भी हो सकता है कि आपदा-तैयारी बेहतर करने के लिए सेना द्वारा इसका उपयोग भी प्रतिबंधित हो जाए।
    • ज़्यादातर बड़ी कंपनियाँ अंततः ऐसे समझौते कर ही लेती हैं, क्योंकि Pentagon के पास बहुत बड़ा बजट होता है।

  • औद्योगिक कंपनियों द्वारा सैन्य उत्पाद विकास

    • संभव है कि कई औद्योगिक कंपनियाँ सैन्य उत्पाद भी विकसित करती हों।
    • उदाहरण के लिए, कोई CAD टूल जो ऐसे जहाज़ों के इंजन डिज़ाइन करने में इस्तेमाल होता हो जिन्हें सैन्य उपयोग में लाया जा सकता है, उसमें LLM सहायक चाहिए हो सकता है।
    • इन्फ्रास्ट्रक्चर और सॉफ़्टवेयर अक्सर साझा होते हैं या पूरे संगठन में लागू किए जा सकें, इस तरह विकसित किए जाते हैं।

  • नई नीति की समझ

    • यह जानने की जिज्ञासा है कि क्या किसी ने वास्तव में नई नीति पढ़ी है।
    • इसमें हथियारों और नुकसान पहुँचाने वाली चीज़ों पर अधिक व्यापक नीति है।

  • AI और सैन्य शक्ति

    • उन्नत AI, उन्नत सैन्य शक्ति के लिए आवश्यक है।
    • ये मुद्दे तकनीकी नहीं बल्कि मानवीय समस्याएँ हैं।
    • इंसान पदानुक्रम बनाने वाले प्राइमेट हैं जो क्षेत्र और संसाधनों के लिए प्रतिस्पर्धा करते हैं।

  • हथियार विकास और सैन्य गतिविधियों पर नीतिगत अंतर

    • दोनों नीतियों के बीच स्पष्ट अंतर है; पहली हथियार विकास और सैन्य गतिविधियों पर रोक लगाती है, जबकि दूसरी कानून के अनुपालन और लचीलापन पर ज़ोर देती है।
    • AI safety पर इसके संभावित प्रभाव महत्वपूर्ण हैं।

  • LLM की सीमाएँ

    • यह एक भयानक विचार है कि ChatGPT बुनियादी कामों में लगातार hallucination करना बंद नहीं कर पाता और वास्तव में समझता भी नहीं है।
    • AI/ML क्षेत्र खुद समय की बर्बादी नहीं है, लेकिन LLM ज़्यादातर दिखावटी हैं और उनका वास्तविक मूल्य बहुत कम है।

  • OpenAI के निर्णय की अनिवार्यता

    • यह लगभग तय था कि OpenAI इतने बड़े पैसे को छोड़ने वाला नहीं था।
    • यह अजीब लगता है कि लोग इस बात को लेकर चिंतित हों कि उत्पाद का उपयोग किसी दूसरे तरीके से भी हो सकता है।

  • Silicon Valley और military-industrial complex

    • Silicon Valley, military-industrial complex की ही उपज है।

  • नागरिक और सैन्य दृष्टिकोण में हथियार विकास का अंतर

    • नागरिकों के लिए ज़्यादातर मामलों में हथियार विकसित करना जोखिमपूर्ण है, लेकिन सैन्य के लिए दुश्मन से पहले बेहतर हथियार विकसित न कर पाना ही जोखिम है।