Meta ने Responsible AI टीम भंग की

 (theverge.com)
3 पॉइंट द्वारा GN⁺ 2023-11-20 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Meta ने Responsible AI (RAI) टीम को भंग कर दिया है और टीम के सदस्यों को अन्य generative AI product teams तथा AI infrastructure की ओर पुनः तैनात किया है
  • RAI टीम 2019 से AI training methods की समस्याओं की पहचान करने का काम कर रही थी, और models को विविध जानकारी से train करने की निगरानी करती थी।
  • इस टीम ने इसी साल की शुरुआत में पहले ही restructuring झेली थी, और उस समय Business Insider में एक रिपोर्ट आई थी कि टीम का सिर्फ़ "खोल" ही छोड़ दिया गया था और बाकी लोगों को हटा दिया गया था।
  • Meta के automated systems ने Facebook translation errors की वजह से ग़लत गिरफ़्तारी, WhatsApp AI sticker generation के दौरान पक्षपाती images बनना, और Instagram algorithm का child sexual abuse material खोजने में मदद करने जैसे मुद्दे पैदा किए।

वैश्विक AI regulation रुझान

  • Meta का यह कदम ऐसे समय आया है जब अमेरिकी सरकार AI safety rules तैयार करने के निर्देश दे रही है और AI कंपनियों के साथ समझौते कर रही है, जबकि दुनिया भर की सरकारें artificial intelligence development के लिए regulations बनाने की कोशिश कर रही हैं।
  • European Union (EU) ने AI principles जारी किए हैं और अभी भी AI legislation पारित कराने की कोशिश में है।

GN⁺ की राय

  • इस लेख की सबसे महत्वपूर्ण बात यह है कि Meta ने responsible AI development के लिए बनी टीम को भंग कर दिया और उसके सदस्यों को दूसरे विभागों में पुनः तैनात कर दिया।
  • AI technology के तेज़ विकास के साथ responsible AI use के महत्व के बढ़ने के बीच, यह बदलाव इस बात का दिलचस्प उदाहरण देता है कि कंपनियाँ AI ethics और safety को कैसे manage करती हैं।
  • साथ ही, यह लेख दुनिया भर में AI regulation पर तेज़ होती चर्चा को भी दर्शाता है, इसलिए technology और law के intersection में रुचि रखने वालों के लिए यह आकर्षक सामग्री पेश करता है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-20
Hacker News राय
  • Meta को अपने AI models ओपन करने के कारण सबसे नैतिक बड़े AI कंपनियों में से एक माना जाता है.
    • यह राय है कि AI models को 'नैतिकता' के नाम पर बंद रखना अनैतिक है, क्योंकि इससे लोग बड़ी कंपनियों के मनमाने फैसलों पर और अधिक निर्भर हो जाते हैं.
  • सभी AI teams को नैतिक जिम्मेदारी पर विचार करना चाहिए, और इसे एक ही team में केंद्रित करना अप्रभावी है.
    • 'Responsible AI team' सभी AI काम की समीक्षा करने में bottleneck पैदा कर सकती है, या फिर दूसरी teams को गैर-जिम्मेदार AI development के लिए खुली छूट दे सकती है.
  • AI safety ऐसे समूह की तरह है जो दूसरों के काम पर निर्भर रहता है, इसलिए Meta का इसे हटाना बेहतर है.
  • tech ethics teams शुरुआती चरण में वास्तविकता से अधिक छवि पर ध्यान देती हैं.
    • तकनीक की मुख्य दिशा तय करने वाले कुछ लोग ही नैतिक जिम्मेदारी उठाते हैं, और अगर वे गैर-जिम्मेदारी से काम करें तो बड़ा नुकसान हो सकता है.
  • Meta की ethics team ने सकारात्मक रूप से योगदान दिया हो, ऐसा कोई ठोस उदाहरण नहीं है.
    • पिछले कुछ वर्षों में Meta के प्रदर्शन की समीक्षा कर यह आकलन करने की जरूरत है कि वह सच्चाई को बनाए रखने में कितना प्रभावी रहा.
  • जब फंडिंग कम हो और संकट आ जाए (जैसे OpenAI में), तब सिर्फ छवि के लिए बने विभागों को बंद करना सबसे अच्छा है.
  • AI model training की लागत बहुत अधिक है, इसलिए जैसे-जैसे तकनीक आगे बढ़ेगी, इसे नियंत्रित करने की कोशिश करने वाले लोग लाभ कमाना चाहेंगे, लेकिन यह लंबे समय में उल्टा असर डाल सकता है.
  • AI safety की तुलना legal या security teams से करना उचित नहीं है.
    • क्योंकि सुरक्षित AI बनाना वास्तव में क्या मतलब रखता है, यह कोई नहीं जानता, इसलिए ऐसी teams सिर्फ प्रगति को धीमा करने का काम कर सकती हैं.
  • AI को जिम्मेदार बनाने का सबसे अच्छा तरीका उसे open source करना है.
    • इससे किसी एक कंपनी का पूरा नियंत्रण नहीं रहता, और researchers दुरुपयोग की संभावनाओं तथा अच्छे उपयोग के तरीकों को बेहतर समझ सकते हैं.
  • AI की जिम्मेदारी users पर होनी चाहिए, लेकिन अभी कोई भी कंपनी users को यह शक्ति नहीं देती कि वे product को जिम्मेदारी से आकार दे सकें.
    • कानूनी ढांचा पहले से ही इन बाहरी प्रभावों को संभालता है, और कंपनियों की जिम्मेदारी से बचने की कोशिशें अधिक अक्षम और बेकार systems पैदा करती हैं.