SB-1047 के कारण open source AI पर ठंडे पड़ने और सुरक्षा घटने की चिंता

 (answer.ai)
1 पॉइंट द्वारा GN⁺ 2024-04-30 | 1 टिप्पणियां | WhatsApp पर शेयर करें

open source विकास को लेकर चिंताएँ

  • अत्यधिक व्यापक परिभाषा: विधेयक में "लागू मॉडल" की परिभाषा बहुत व्यापक है, इसलिए इसमें ऐसे कई open source मॉडल भी आ सकते हैं जिनमें केवल न्यूनतम जोखिम है। इससे अनजाने में उपयोगी AI प्रोजेक्ट्स पर काम कर रहे सद्भावनापूर्ण डेवलपर्स की गतिविधियाँ अपराध की श्रेणी में आ सकती हैं.
  • द्वि-उपयोग: AI मॉडल सामान्य सॉफ़्टवेयर हैं जो कंप्यूटर पर चलने वाले word processor, calculator और web browser जैसे टूल्स की तरह हैं। मॉडल बनाने वाला यह सुनिश्चित नहीं कर सकता कि मॉडल का उपयोग हानिकारक कामों में न हो। यही बात web browser, calculator और word processor के डेवलपर्स पर भी लागू होती है। ऐसे सामान्य-उपयोग टूल्स के निर्माताओं को जिम्मेदार ठहराने का अर्थ यह होगा कि व्यवहार में बड़ी कंपनियों की legal teams को छोड़कर कोई भी ऐसे टूल्स बना नहीं सकेगा.
  • सीमितकारी आवश्यकताएँ: यह विधेयक डेवलपर्स पर बड़ा बोझ डालता है, जैसे अनिवार्य shutdown, व्यापक reporting, और संभावित रूप से अस्पष्ट "लागू निर्देशों" का पालन। ये आवश्यकताएँ उन open source डेवलपर्स को असंगत रूप से अधिक प्रभावित कर सकती हैं जिनके पास जटिल regulatory process को संभालने के लिए पर्याप्त संसाधन नहीं हैं.
  • खुलापन कमज़ोर पड़ना: कानूनी दंड और नौकरशाही बाधाओं की चिंता के कारण open source विकास ठंडा पड़ सकता है, जिससे वह सहयोगी भावना कमजोर होगी जो AI प्रगति की प्रमुख शक्ति रही है। पारदर्शिता में यह कमी संभावित सुरक्षा समस्याओं की पहचान और समाधान को और कठिन बना सकती है.

छोटे व्यवसायों और innovation पर प्रभाव

  • प्रवेश बाधाएँ: compliance से जुड़े बड़े खर्चे, जैसे fees, audit और legal advice, छोटे व्यवसायों और startups के लिए गंभीर entry barrier बन सकते हैं। इससे प्रतिस्पर्धा सीमित होगी, मौजूदा बड़ी कंपनियों के हाथों में शक्ति और केंद्रित होगी, और अंततः innovation बाधित होगा.
  • research पर ठंडा प्रभाव: अनजाने में विधेयक के प्रावधानों का उल्लंघन हो जाने के डर से शोधकर्ता और डेवलपर्स self-censorship कर सकते हैं या promising AI research क्षेत्रों की खोज से बच सकते हैं। इससे वैज्ञानिक प्रगति धीमी पड़ेगी और सामाजिक समस्याओं को हल करने में AI की संभावनाएँ सीमित होंगी.
  • प्रतिभा पलायन: इस विधेयक से बना सीमितकारी माहौल सक्षम AI researchers और developers को California से बाहर धकेल सकता है, जिससे राज्य की अर्थव्यवस्था को नुकसान हो सकता है और AI innovation का नेतृत्व करने की उसकी स्थिति कमजोर पड़ सकती है.

वैकल्पिक दृष्टिकोण

  • open source विकास का समर्थन: सहयोग, पारदर्शिता, और अधिक विविध व resilient AI ecosystem के निर्माण के लिए AI मॉडलों के open source विकास को प्रोत्साहित और बढ़ावा देना चाहिए.
  • विकास नहीं, उपयोग पर फोकस: AI मॉडल विकास को नियंत्रित करने के बजाय, विशेष रूप से उन applications पर ध्यान देना चाहिए जो सार्वजनिक सुरक्षा और security के लिए उच्च जोखिम पैदा करते हैं। healthcare, criminal justice, और critical infrastructure जैसे high-risk क्षेत्रों में AI उपयोग को regulate करके हानिकारक उपयोग के लिए जवाबदेही तय की जानी चाहिए, जबकि AI तकनीक की निरंतर प्रगति जारी रहने दी जानी चाहिए.
  • पारदर्शिता और सहयोग को बढ़ावा: उद्योग, academia, और सरकार के बीच सहयोग के माध्यम से जिम्मेदार AI विकास के लिए best practices के निर्माण और अपनाने को प्रोत्साहित करना चाहिए। इसमें industry standards स्थापित करना, open source विकास को बढ़ावा देना, और AI safety research में निवेश शामिल हो सकता है.
  • AI विशेषज्ञता में निवेश: सरकारी एजेंसियों को ऐसे संसाधन दिए जाने चाहिए ताकि वे AI में विशेषज्ञता विकसित कर सकें और संभावित जोखिमों की प्रभावी निगरानी व समाधान की क्षमता बना सकें। इससे सुरक्षा और innovation के बीच संतुलन रखने वाला अधिक सूचित और सूक्ष्म AI regulatory approach संभव होगा.

GN⁺ की राय

  • open source मॉडलों के विकास को regulate करने के बजाय, regulators को open source विकास को प्रोत्साहित और उसकी निगरानी करने की भूमिका निभानी चाहिए। open source न केवल पारदर्शिता और सहयोग बढ़ाता है, बल्कि विविध दृष्टिकोण भी उपलब्ध कराता है, इसलिए यह सुरक्षा बढ़ाने में भी मदद कर सकता है.
  • AI मॉडल स्वयं को regulate करने की तुलना में high-risk क्षेत्रों में AI के उपयोग की निगरानी और regulation अधिक प्रभावी होगा। स्वास्थ्य, न्याय और सार्वजनिक सुरक्षा जैसे उच्च-जोखिम क्षेत्रों में AI उपयोग के लिए कड़े guidelines और regulation की आवश्यकता है, लेकिन low-risk क्षेत्रों में ऐसा regulation होना चाहिए जो AI तकनीकी प्रगति को बाधित न करे.
  • यह विधेयक AI विकास पर अत्यधिक बोझ डालकर California के AI क्षेत्र में अग्रणी स्थान खोने का जोखिम पैदा कर सकता है। innovation को बाधित किए बिना हानिकारक उपयोग के लिए जवाबदेही तय करने वाले वैकल्पिक दृष्टिकोण तलाशने चाहिए.
  • सरकार को AI के बारे में विशेषज्ञता बढ़ाने और AI ecosystem की समझ गहरी करने की ज़रूरत है ताकि वह अधिक समझदारीपूर्ण regulatory policies लागू कर सके। केवल regulation सख्त करने के बजाय उद्योग-अकादमिक-शोध सहयोग के जरिए वांछित दिशा में आगे बढ़ाने का प्रयास आवश्यक लगता है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-04-30
Hacker News राय

  • मॉडल डेवलपर, वेब ब्राउज़र, calculator, और word processor डेवलपर्स की तरह, यह पूरी तरह सुनिश्चित नहीं कर सकते कि मॉडल का उपयोग हानिकारक उद्देश्यों के लिए नहीं होगा। ऐसे general-purpose tools बनाने वालों पर जिम्मेदारी डालना व्यवहार में केवल बड़ी कंपनियों की legal teams के लिए ही संभव बनाता है.

  • राजनेता open source AI के खिलाफ कड़ा रुख अपना रहे हैं। Soros ने कहा कि corporate और government AI projects की synergy शीत युद्ध काल के तानाशाहों से भी बड़ा खतरा बन सकती है। उनका कहना है, "तानाशाही शासन और IT monopoly कंपनियों का गठजोड़ open society के लिए संरचनात्मक बढ़त देता है और घातक खतरा है।"

  • ब्लॉग में इसका उल्लेख नहीं था, लेकिन 7 फ़रवरी 2024 को California State Assembly में SB-1047 बिल पेश किया गया। इसका उद्देश्य उन्नत AI models के development और use को regulate करना है, और यह डेवलपर्स पर safety evaluation, safety requirements compliance, accident reporting जैसी बाध्यताएँ लगाता है, साथ ही technology agency के तहत एक supervisory body भी बनाता है.

  • चिंता है कि ऐसे regulation से मौजूदा leading AI कंपनियों को फायदा होगा और नए entrants के लिए आना लगभग असंभव हो जाएगा। Scott Wiener की housing policy अच्छी थी, लेकिन यह bill सरकार का अत्यधिक हस्तक्षेप है.

  • सरकार केवल उन्हीं चीज़ों पर training की अनुमति देगी जिन्हें वह मंज़ूर करे, एक नया विभाग बनेगा, fees लगाने की शक्ति मिलेगी, और स्वाभाविक रूप से consultants को hire करना भी अनिवार्य हो जाएगा.

  • लंबी अवधि में AI startups के लिए कौन-सा राज्य अनुकूल होगा? शायद California नहीं। Washington या Texas में अभी regulatory push नहीं दिखता और उनके कुछ फायदे भी नज़र आते हैं.

  • 'covered model' की परिभाषा अस्पष्ट है। Int और float operations की computational cost में बड़ा अंतर होता है, इसलिए अदालत में wording की व्याख्या को लेकर काफी गुंजाइश है। मौजूदा benchmarks के आधार पर नियमों को भविष्य तक स्थिर कर देने की कोशिश की जा रही है, मानो algorithmic progress का कोई महत्व न हो.

  • यह लेख ऐसे low-quality content जैसा है मानो किसी LLM ने बनाया हो। अगर bill को ठीक से समझना है, तो Zvi का analysis पढ़ना बेहतर होगा.

  • पूरा लेख ऐसा लगता है जैसे ChatGPT ने लिखा हो। इसमें बस vague तरीके से open source की value की बात की गई है, लेकिन मूल bill को quote तक नहीं किया गया.

  • एक राय यह भी है कि "AI model development की बजाय उसके उपयोग, खासकर public safety के लिए खतरनाक क्षेत्रों में, regulate किया जाना चाहिए।" विचार यह है कि healthcare, criminal justice, critical infrastructure जैसे high-risk क्षेत्रों में AI use को regulate करके हानिकारक उपयोग के लिए जवाबदेही तय की जाए, जबकि AI technology के विकास की अनुमति बनी रहे। क्या इसके खिलाफ कोई ठोस तर्क है?