Google ने AI को हथियारों और निगरानी में इस्तेमाल न करने का वादा वापस लिया

 (washingtonpost.com)
3 पॉइंट द्वारा GN⁺ 2025-02-05 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Google ने मंगलवार को अपनी AI ethical guidelines बदलते हुए हथियारों और निगरानी के क्षेत्र में AI लागू न करने का सार्वजनिक वादा हटा दिया
  • 2018 के AI principles में ऐसा प्रतिबंधात्मक प्रावधान था, जो “कुल मिलाकर नुकसान पहुंचाने वाले या पहुंचाने की आशंका वाले” तरीकों में AI के उपयोग को बाहर रखता था
  • पुराने दस्तावेज़ के “Applications we will not pursue” सेक्शन में हथियार, निगरानी, नुकसान की उच्च संभावना वाली तकनीकें, और अंतरराष्ट्रीय क़ानून व मानवाधिकार सिद्धांतों के खिलाफ उपयोग मामलों को निषिद्ध श्रेणी में रखा गया था
  • Internet Archive में सुरक्षित गुरुवार तक की कॉपी में यह निषिद्ध सेक्शन और उसकी 4 श्रेणियां मौजूद थीं
  • इस बदलाव के बाद Google के सार्वजनिक AI principles से वे पंक्तियां हट गईं जो खास high-risk उपयोगों को स्पष्ट रूप से बाहर करती थीं

AI principles से गायब हुआ निषेध का वादा

  • Google ने मंगलवार को AI ethical guidelines अपडेट कीं
  • नई guidelines में AI तकनीक को हथियारों या निगरानी में लागू न करने वाली पुरानी पंक्ति हटा दी गई

2018 नीति का प्रतिबंधात्मक प्रावधान

  • Google ने 2018 में AI के उपयोग दायरे को सीमित करने वाली नीति लागू की थी
  • उस समय की नीति में यह शामिल था कि AI को ऐसे तरीकों में लागू नहीं किया जाएगा जो “कुल मिलाकर नुकसान पहुंचाते हों या पहुंचाने की आशंका रखते हों”

हटाया गया “Applications we will not pursue” सेक्शन

  • पुराने AI principles में “Applications we will not pursue” नाम का एक सेक्शन था
  • Internet Archive में सुरक्षित गुरुवार तक की कॉपी में यह सेक्शन मौजूद था
  • इस सेक्शन में 4 श्रेणियां थीं, जिन्हें Google ने न अपनाने की बात कही थी
    • हथियार
    • निगरानी
    • ऐसी तकनीकें जो “कुल मिलाकर नुकसान पहुंचाती हों या पहुंचाने की आशंका रखती हों”
    • अंतरराष्ट्रीय क़ानून और मानवाधिकार सिद्धांतों के खिलाफ उपयोग मामले

सार्वजनिक principles में क्या बदला

  • बदलाव से पहले AI principles कुछ खास उपयोगों को स्पष्ट रूप से बाहर रखते थे
  • बदलाव के बाद सार्वजनिक principles से यह पंक्ति हट गई कि Google हथियार, निगरानी, समग्र नुकसान, और अंतरराष्ट्रीय क़ानून व मानवाधिकार सिद्धांतों के उल्लंघन वाले उपयोग मामलों का पीछा नहीं करेगा

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-02-05
Hacker News की रायें

  • https://archive.ph/hfrKY

  • पहले मुझे लगा कि यह कोई नई प्रतिज्ञा की घोषणा है और सोचा, “सुविधा होते ही इसे तुरंत भूल जाएंगे,” लेकिन लेख पढ़ने के बाद लगा, “अच्छा, अब हालात पहले ही सुविधाजनक हो चुके हैं”
    Google एक विशाल कंपनी है, और विशाल कंपनियां स्वभाव से “बुरी” न भी हों, लेकिन अच्छाई या नैतिकता में उनकी बुनियादी दिलचस्पी नहीं होती
    अगर कभी ऐसा दिखता है, तो वह पूरी तरह marketing activity होती है

    • मुझे लगता है कि विशाल कंपनियों का बुरा होना आम बात है
      भ्रष्ट पुलिस वाले किस्म की बुराई और serial killer किस्म की बुराई में फर्क हो सकता है, लेकिन पैसे के लिए कुछ भी कर गुजरने वाला रवैया ऐतिहासिक रूप से बुरे व्यवहार में गिना गया है
      हालांकि विशाल कंपनियों के बिना समाज बेहतर होगा या बदतर, यह अलग सवाल है, लेकिन ऐसी दुनिया दिलचस्प होगी जहां कंपनी जितनी बड़ी हो, उसे उतना ही ज्यादा tax देना पड़े
    • कुछ साल पहले हमारे राज्य में single-use plastic bags पर प्रतिबंध लगा, तो स्थानीय Walmart स्टोर्स ने तुरंत उन्हें मोटे plastic bags से बदल दिया, जो तकनीकी रूप से single-use नहीं थे
      वे भी पहले की तरह मुफ्त में दिए गए, और quality भी ठीक-ठाक थी
      बाद में राज्य ने उन पर भी प्रतिबंध लगाया, तो Walmart ने घड़ी की तरह paper bags मुफ्त में देना शुरू कर दिया, और वे भी काफी ठीक थे
      यह देखकर मुझे एहसास हुआ कि कंपनियां जब तक मजबूर न की जाएं, environment के लिए जरा भी बेहतर काम नहीं करतीं
      बुरे कामों समेत कंपनी की हर कार्रवाई बस पैसे के पीछे चलती है, और ethics देना सरकार का काम है, ऐसा मुझे लगता है
    • Google पैसे को यूं ही छोड़कर जाने वाला तो है नहीं
      अगर Google नहीं करेगा तो कोई और करेगा, इसलिए shareholders के लिए Google का पैसा कमाना ही बेहतर है—तर्क यही बनता है
      तकनीकी रूप से activist shareholders इकट्ठा होकर कह सकते हैं कि “अगर management इस बाजार को target नहीं करता, तो उसे बदल देना चाहिए”
      आखिर में stock price ही एकमात्र महत्वपूर्ण metric बन जाता है
    • विशाल कंपनियां मूल रूप से totalitarian होती हैं
      आदेश ऊपर से आते हैं, और नीचे उन्हें स्वीकार किया जाता है
      इसलिए वे स्वभाव से बुरी लगती हैं
    • विशाल कंपनियां लोगों से बनी होती हैं, तो आखिरकार मूल रूप से बुरे लोग ही हैं
      मेरा मानना है कि मुख्य बात संख्या और जटिलता से पैदा होने वाली anonymity है
      हजारों लोग अपने-अपने numbers ऊपर जाते देखना चाहते हैं, और वही इच्छा आखिरकार ऐसे फैसलों को चलाती है
      अगर इस वजह से Google का stock price गिरा होता, तो Google ऐसा नहीं करता
      लेकिन सामूहिक मानवीय व्यवहार stock price को सहारा दे रहा है
      विशाल कंपनियां सिर्फ scapegoat हैं, और असल में यह democratic rules की एक श्रृंखला जैसी है
      कंपनी मानव स्वभाव का असली चेहरा दिखाने वाली खिड़की है

  • इस बात पर “हम सब मिल-जुलकर क्यों नहीं रह सकते” जैसी थोड़ी भोली झुंझलाहट के साथ गुस्सा होना चाहता हूं
    मैं जानता हूं कि मुझे कैसी दुनिया चाहिए, लेकिन एक प्रजाति के रूप में हम—मुझे खुद शामिल करते हुए—लगभग तय self-destruction के सामने लगातार उम्मीदों पर खरे नहीं उतरते
    गुस्सा होना चाहता हूं, लेकिन साथ ही यह देखकर दुख के साथ वास्तविकता माननी पड़ती है कि कोई हैरान क्यों नहीं है
    उस क्षेत्र में पहले से ही ऐसे competitors हैं जो ऐसा करेंगे, और उससे भी आगे जाएंगे
    हमने उस तरफ पहले ही काफी भयावह progress देखी है, और सोचें तो वे वही चीजें हैं जिन्हें सार्वजनिक रूप से दिखाना ठीक समझा गया
    सच में दिलचस्प चीजें social media से बाहर, बंद दरवाजों के पीछे हो रही हैं

    • सिर्फ इस अस्पष्ट वजह से कि “बंद दरवाजों के पीछे कुछ हो रहा है”, AI weapons बनाने का पर्याप्त आधार नहीं बनता
      अगर कोई ऐसा specific weapon सामने रखा जाए जिसका जवाब सिर्फ AI weapons से दिया जा सकता हो, तो शायद मेरी सोच बदल सकती है, लेकिन अभी मैं कोई वजह नहीं सोच सकता कि robots को यह तय करना चाहिए कि किसे मारना है
      जब लोग कहते हैं कि AI खतरनाक है या दुनिया का अंत ला सकता है, तो मैं आम तौर पर सहमत नहीं होता, लेकिन AI weapons स्पष्ट रूप से खतरनाक हैं और आसानी से नियंत्रण से बाहर जा सकते हैं
      क्योंकि शुरुआत से ही उनका उद्देश्य उन्हें control के बाहर बनाना है
      समस्या यह नहीं है कि AI weapons “बुरे” हैं, बल्कि यह है कि value alignment कोई हल हो चुकी समस्या नहीं है, और AI weapons उन लोगों को मार सकते हैं जिन्हें हम मरवाना नहीं चाहते
    • कल्पना कर सकता हूं कि अगर पूरी दुनिया एक साल तक truth serum ले ले, तो दुनिया कितनी बदल जाएगी
      झूठ दुनिया को चला रहा है, और यह घिनौना है
    • जिस रास्ते पर हम चल रहे हैं, वह इंसान के आग खोजने के पल से ही अपरिहार्य था
      किसी भी तरह देखें, हम सीमित संसाधनों वाले ग्रह पर रहते हैं, और इसका मतलब है competition; competition weapons innovation को जन्म देता है
      फिर भी, हमारे पास दशकों से nuclear weapons हैं और हमने सामूहिक रूप से उनका इस्तेमाल न करने का फैसला किया है, इसलिए थोड़ी आशा की गुंजाइश है
    • गुस्सा हो सकते हो, और होना चाहिए
      complacent होने की कोई वजह नहीं है, और वह रास्ता सिर्फ विनाश को तेज करेगा
    • World War II में भी किसी पक्ष ने poison gas का इस्तेमाल नहीं किया
      यह जरूरी नहीं कि ऐसा ही हो

  • OpenAI ने “ऐसा कभी नहीं होगा” कहने के एक साल से भी कम समय में battlefield में models deploy करने वाला DoD contract हासिल किया—उसकी तुलना में यह ज्यादा ethical है या कम ethical
    बहाना कुछ ऐसा था कि “हमने तो सिर्फ किसी खास तरह के war या military purpose की बात की थी”
    आखिर सवाल यह है कि क्या Google की तरह खुलकर अपना रुख पलटना ज्यादा ईमानदार नहीं है, बजाय इसके कि अभी भी सही काम करने की कोशिश करने वाला fiction बनाए रखा जाए

    • OpenAI अपने ही principles का कितना पालन करता है, इसे किसी और की सफलता का standard बनाना मुझे unfair लगता है
      यह पूछने जैसा है, “ठीक है, यह foreign tyrant के सामने झुकने जैसा दिखता है, लेकिन क्या यह Vidkun Quisling के Norway चलाने के समय से ज्यादा ethical है या कम ethical?”
    • फिर भी Google कर्मचारी petitions पर sign करेंगे और moral norms का पालन करने जैसा व्यवहार करेंगे
      OpenAI मुझे छिपा हुआ, चिकना-चुपड़ा लगता है, और इसे एक पागल narcissist चलाता है
      Pichai तक संत जैसा दिखने लगता है
      नैतिक रूप से वे समान हो सकते हैं, लेकिन अगर कोई बंदूक ताने, तो मैं उस कंपनी के मानवीकरण जैसे व्यक्ति के बजाय, जिसके senior executives एक-एक कर निकल रहे हों, trigger के पीछे थोड़ा empathy रखने वाला व्यक्ति चाहूंगा

  • खुफिया एजेंसियों के लिए बड़े भाषा मॉडल को लेकर सबसे बड़ी चिंताओं में से एक यह है कि वे text analysis को बड़े पैमाने पर बढ़ा सकते हैं।
    पहले कम से कम किसी एजेंट को मुझमें दिलचस्पी लेनी पड़ती थी, लेकिन अब सिद्धांत रूप में कोई LLM मेरे संपर्क में आए हर text को पढ़कर कानून तोड़ने से लेकर राजनीतिक झुकाव तक किसी भी चीज़ को flag कर सकता है।

    • https://en.m.wikipedia.org/wiki/AI-assisted_targeting_in_the...
    • इस तरह की चीज़ LLM आने से बहुत पहले से संभव थी।
      अरबों messages को छांटने के scale पर लागत बहुत तेज़ी से बढ़ती है, इसलिए यह भी संदिग्ध है कि LLM उस काम के लिए सबसे अच्छा tool है या नहीं।
    • उससे पहले भी speech-to-text conversion का इस्तेमाल करके किसी देश की सारी बातचीत पर निगरानी रखी जा सकती थी।

  • अभी ऐसा लगता है जैसे Downton Abbey में वह दौर हो, जब सब प्रथम विश्व युद्ध शुरू होने का इंतज़ार कर रहे थे।
    सभी को महसूस हो रहा है कि वह आ रहा है, लेकिन कोई उसे रोक नहीं सकता।
    वास्तविक रूप से, पश्चिम बनाम Russia/Iran/North Korea/China, या आखिरकार हम जिनसे भी लड़ेंगे, उस युद्ध में Western civilization और सैनिकों के बचने और जीतने के लिए हर संभव काम किया जाएगा।
    आखिर Google एक पश्चिमी कंपनी है, और युद्ध छिड़ने पर हमारी सभ्यता और सेना का समर्थन न करने वाला रुख बेहद अलोकप्रिय होगा और Google को अलग-थलग कर देगा।
    इसके उलट होना शुरू से ही मुश्किल था।

    • युद्ध आ सकने की वजह यह है कि पश्चिम टूट रहा है।
      America खुद को अलग-थलग कर रहा है और अपने allies को परेशान कर रहा है।
      विस्तार चाहने वाली वैकल्पिक शक्तियों के लिए इससे बेहतर समय कभी नहीं रहा।
      एकजुट पश्चिम और अन्य महाशक्तियों के बीच कोई युद्ध पास नहीं आ रहा था।
      युद्ध इसलिए आ रहा है क्योंकि अब पश्चिम बचा ही नहीं है।
    • “हमारी सभ्यता” जैसी कोई चीज़ नहीं है।
      “हमारी” सभ्यता और “उनकी” सभ्यता का कोई विभाजन नहीं है; सभ्यता सिर्फ एक है।
      कुछ सदियों पहले ऐसी अवधारणा का कुछ आधार रहा होगा, लेकिन आज “हम” “उनसे” बहुत अलग हैं—यह विचार ज्यादातर लोगों के लिए एक खतरनाक भ्रम है।

  • अब अगर कोई देश Greenland को मिलाने की धमकी देता है और दावा करता है कि सभी Palestinians को पूरी तरह Jordan और Egypt में बसाया जाना चाहिए, तो उसे crowd control weapons की निश्चित रूप से ज़रूरत पड़ेगी।
    जब लोगों को पता चलेगा कि दोनों पार्टियां हमेशा उनका शोषण करती हैं, तो ऐसे weapons घरेलू स्तर पर भी उपयोगी हो सकते हैं।
    समझ नहीं आता कि China आर्थिक पहलू के अलावा खतरा क्यों है।
    क्या China ने कभी America पर हमला करने की कोशिश की है? क्या Russia ने कभी EU पर हमला करने की कोशिश की है? जवाब है नहीं।
    फिलहाल EU के लिए एकमात्र खतरा उस नारंगी आदमी से आता है।
    उसी व्यक्ति ने INF treaty भी खत्म की थी।
    America अब Europe में intermediate-range nuclear missiles लगाएगा, और Russia उन्हें Belarus में लगाएगा।
    इस तरह दोनों महाशक्तियों के पास पहले परमाणु हमला झेलने के लिए सुविधाजनक बलि का बकरा होगा, और उसके बाद ही वे दोबारा सोचेंगी।
    पिछले 40 सालों की हर international crisis इन्हीं दोनों में से किसी एक से शुरू हुई है, फिर भी America और Russia का लगातार यह दावा करना कि वे खतरे में हैं, वाकई बेतुका है।

    • “Russia ने कभी EU पर हमला करने की कोशिश नहीं की” कहना काफी चालाकी भरी wording है।
      Russia ने साफ तौर पर Europe के देशों, खासकर Ukraine, पर हमला किया है।
      EU पर सीधे हमला न करने की एकमात्र वजह यह है कि ऐसा करने से NATO alliance के कारण भारी जनहानि वाला और अंततः हारने वाला युद्ध शुरू हो जाएगा।
      EU को सुरक्षित रखने वाली चीज़ सैन्य ताकत है, और जिन देशों के पास पर्याप्त सैन्य ताकत नहीं है वे सत्ता-लोलुपता के सामने बार-बार पिटते रहते हैं।
      Ukraine ने 1990s में Russia से हमला न करने का वादा लेकर भोलेपन में अपने nuclear weapons छोड़ दिए थे, और फिर उसके साथ यही हुआ।
    • क्या China एक बड़ी और आधुनिक navy नहीं बना रहा और कई allies पर सैन्य दबाव नहीं बढ़ा रहा?
      इसे काल्पनिक खतरा कहना मुश्किल है।
      उसकी economic policy भी बहुत predatory है; वह दूसरे देशों को support करने के बजाय उनसे ऐसी चीज़ें लेता है जिन्हें वापस नहीं किया जा सकता।
      जब ज़रूरी चीज़ें सीधे ली जा सकती हैं तो हमला क्यों करना?
      नारंगी आदमी दोनों मोर्चों पर पूरी तरह बेअसर है।
      वह military पर पैसा खर्च नहीं करेगा, और इतना सक्षम भी नहीं है कि लंबे समय में घाटा न कराने वाली deal कर सके।

  • यह दिलचस्प है कि ये कंपनियां राजनीतिक हवा के हिसाब से कैसे चलती हैं।
    जैसे Meta ने शपथग्रहण के आसपास कुछ बदलावों की घोषणा की थी, वैसे ही Google executives ने भी AI से जुड़ी announcements पर ध्यान दिया होगा, और वे नहीं चाहेंगे कि मौजूदा administration उन्हें किसी खास तरीके से देखे।
    मुझे लगता है सच्चाई बीच में कहीं है।
    कंपनी के अंदर भारी असहमति होगी, लेकिन सत्ता में बैठे लोग उन्हें कैसे देखते हैं, इसकी चिंता वे स्वाभाविक रूप से करते हैं।

    • सैद्धांतिक रूप से, मुझे लगता है कि कंपनी का राजनीतिक हवा के अनुसार चलना अच्छी बात है।
      कंपनियों के पास तकनीकी रूप से असंतुलित शक्ति होती है।
      इसलिए बेहतर है कि वे जनता की इच्छा के अनुसार चलें।
      उसका विकल्प—यानी कंपनियों का अपनी मर्जी से काम करना—कहीं ज्यादा बुरा हो सकता है।
    • मुझे यह स्वाभाविक लगता है।
      कंपनी का एकमात्र incentive मुनाफा कमाना है, न कि वह अटपटा corporate नाटक जिसे वे “दुनिया को बेहतर जगह बनाना” कहते हैं।
      कंपनियां इसी उद्देश्य से बनाई जाती हैं, और हमेशा उसी का पालन करती हैं।

  • Google ने Don’t be evil नारा हटाने के बाद हम क्या उम्मीद कर रहे थे, समझ नहीं आता।

    • क्या यह सच में बुरा काम है?
      अच्छी तरह बनाए गए autonomous systems target accuracy बढ़ाने और civilian casualties घटाने में काफी मदद कर सकते हैं।
      अगर आप weapons के अस्तित्व से ही नाराज़ हैं, तो prisoner’s dilemma को फिर से देखना चाहिए।
      मान लें कि छोटे पैमाने के betrayal को सरकारों के जरिए manage किया जाता है, लेकिन प्रमुख global powers किसी single world government के jurisdiction को स्वीकार नहीं करेंगी जो जबरन betrayal को रोक सके।
      खासकर हमारे जैसी मजबूत और समृद्ध शक्तियां ऐसे system में आम तौर पर खोने के लिए ज्यादा रखती हैं, इसलिए वे इसे और भी कम स्वीकार करेंगी।

  • Google के पूर्व CEO Schmidt Estonia में Ukraine के लिए AI drones विकसित कर रहे हैं।
    अगर उन्हें अच्छे foundation AI supplier की ज़रूरत है, तो यह उम्मीद की जा सकती है कि Google पसंदीदा suppliers में से एक हो सकता है।
    जाहिर है Ukraine तो बस शुरुआत है, और खासकर battlefield-tested चीज़ों—वह भी Russia और अप्रत्यक्ष रूप से Chinese technology के खिलाफ सिद्ध हुई चीज़ों—का target market बहुत बड़ा होगा।
    वास्तविक battlefield में अभी केवल कुछ ही systems deploy हुए हैं, लेकिन remote-controlled और autonomous ground platforms में भी भारी दिलचस्पी है।
    Google civilian autonomous platforms में अग्रणी है, और उस technology को military systems में transfer करने का रास्ता अपेक्षाकृत आसान दिखता है।