Yann LeCun: AI के 1% मालिकों का हमेशा के लिए सत्ता पर कब्ज़ा कर लेना ही असली अंत-परिदृश्य है

 (businessinsider.com)
1 पॉइंट द्वारा GN⁺ 2023-11-03 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Meta के मुख्य AI वैज्ञानिक Yann LeCun ने AI जोखिमों पर AI नेताओं के निराशावादी बयानों की आलोचना करते हुए कहा कि वे इससे और ज़्यादा नुकसान पहुँचा सकते हैं.
  • LeCun ने OpenAI के Sam Altman, Google DeepMind के Demis Hassabis और Anthropic के Dario Amodei जैसे AI निर्माताओं पर आरोप लगाया कि वे अपने हितों के लिए "डर फैलाने" और "बड़े पैमाने पर कॉरपोरेट लॉबिंग" का इस्तेमाल कर रहे हैं.
  • उनका कहना है कि अगर ये कोशिशें सफल होती हैं, तो कुछ गिनी-चुनी कंपनियाँ AI को नियंत्रित करेंगी, और वे इसे "विनाशकारी" मानते हैं.
  • LeCun की यह टिप्पणी भौतिक विज्ञानी Max Tegmark की एक पोस्ट के जवाब में आई, जिसमें संकेत दिया गया था कि LeCun AI प्रलयवाद को पर्याप्त गंभीरता से नहीं ले रहे थे.
  • LeCun का तर्क है कि AI के वास्तविक और निकट भविष्य के खतरे वे काल्पनिक जोखिम नहीं हैं जिन पर अक्सर ज़ोर दिया जाता है, बल्कि मज़दूरों का शोषण और डेटा की चोरी है, जिससे कुछ चुनिंदा पक्षों को लाभ मिलता है.
  • उन्होंने इस विचार को खारिज किया कि जैसे ही सुपर-इंटेलिजेंट सिस्टम सक्रिय होंगे, मानवता का विनाश हो जाएगा; इसे उन्होंने "hard takeoff" की धारणा के रूप में देखा.
  • LeCun ने इस बात पर ज़ोर दिया कि ध्यान इस पर होना चाहिए कि AI का विकास अभी कैसे हो रहा है, और चेतावनी दी कि AI विकास मुनाफ़े के लिए काम करने वाली निजी कंपनियों के एकाधिकार में जा सकता है.
  • उन्होंने open source डेवलपर्स का बचाव किया और खास तौर पर बड़ी tech कंपनियों द्वारा AI विकास में पारदर्शिता की कमी की आलोचना की.
  • LeCun ने चिंता जताई कि नियामक AI पर सनसनीखेज बहसों से आसानी से प्रभावित हो सकते हैं, जिससे वास्तविक विकास प्रक्रिया की निगरानी कमज़ोर पड़ सकती है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-03
Hacker News की राय
  • Yann LeCun के AI तकनीक के गलत उपयोग पर विचारों को लेकर लेख पर चर्चा
  • "X-Risk" और मानवता के अचानक विलुप्त होने के दावों का उपयोग करके सत्ता में बैठे लोगों द्वारा regulatory capture की कोशिशों पर चिंता व्यक्त की गई
  • licensing और reporting requirements के ज़रिए AI को बंद करने की कोशिशों की आलोचना
  • AI research को नियंत्रित करने के उपायों के समर्थन में राय, और इस क्षेत्र में सावधानी की आवश्यकता का उल्लेख
  • नई तकनीकों के development और deployment पर चर्चा, यह तर्क कि तकनीक के जोखिम तब तक छिपे रह सकते हैं जब तक उसे व्यापक रूप से deploy न किया जाए
  • प्रमुख AI researchers को "AI Godfather" कहकर लेबल करने की आलोचना, यह तर्क कि यह भ्रामक है और अनावश्यक भी
  • AI के गलत उपयोग की संभावना पर चर्चा, यह तर्क कि open source models पर प्रतिबंध लगाने से ऐसे दुरुपयोग से निपटने के तरीके समझना मुश्किल हो सकता है
  • Yann LeCun के विचारों से असहमति जताने वाली राय, यह तर्क कि वे AI के जोखिमों को गंभीरता से नहीं ले रहे
  • stock picking और prediction में AI के इस्तेमाल की संभावना पर चर्चा, यह तर्क कि ऐसे AI समाज पर लगभग मालिकाना स्तर तक धन समेट सकते हैं
  • यह तर्क कि large language models पर एकाधिकार करने में अब बहुत देर हो चुकी है, और यह कि तकनीक अब जानी-पहचानी है तथा लागत घट रही है
  • समृद्धि के युग में business के भविष्य पर अटकलें, यह तर्क कि इसके और अधिक monopolized होने की संभावना है