- California के गवर्नर Gavin Newsom ने AI सुरक्षा विधेयक SB 1047 को वीटो कर दिया, जिससे AI regulation के दायरे को लेकर बहस जारी है
- वीटो का मुख्य कारण यह है कि विधेयक केवल सबसे बड़े और सबसे महंगे AI models पर लागू होता है, इसलिए इसका दायरा संकीर्ण है
- Newsom का मानना है कि विधेयक यह नहीं देखता कि model को high-risk स्थितियों में deploy किया जा रहा है या नहीं
- OpenAI और Meta ने विधेयक का विरोध किया, जबकि AI technology विकसित करने वाले प्रमुख research scientists ने इसका समर्थन किया
- Newsom SB 1047 की तुलना में अधिक व्यापक AI rules आगे बढ़ाने के पक्ष में हैं
वीटो निर्णय और हितधारक
- California के गवर्नर Gavin Newsom ने विवादित AI सुरक्षा विधेयक SB 1047 को वीटो कर दिया
- यह विधेयक बड़े technology companies और AI technology विकसित करने वाले प्रमुख research scientists को आमने-सामने लाने वाला मुद्दा था
- OpenAI और Meta ने विधेयक का विरोध किया, जबकि research scientists ने समर्थन किया
विधेयक का दायरा और वीटो का कारण
- Newsom ने अपने veto message में माना कि विधेयक का लागू होने वाला दायरा सीमित है
- विधेयक केवल सबसे बड़े और सबसे महंगे AI models पर लागू होता है
- यह इस बात पर विचार नहीं करता कि AI model को high-risk स्थितियों में deploy किया जा रहा है या नहीं
- Newsom इस विधेयक से अधिक व्यापक AI rules चाहते हैं
1 टिप्पणियां
Hacker News की रायें
https://www.wsj.com/tech/ai/californias-gavin-newsom-vetoes-...
Newsom का फैसला शानदार था। California legislature बहुत सक्रिय है, लेकिन पिछले कुछ वर्षों में trend के पीछे भागकर कानून बनाने की प्रवृत्ति बहुत ज़्यादा हो गई है। Wiener के agenda में, खासकर housing policy का मैं समर्थन करता हूं, लेकिन यह bill पूरी तरह भटका हुआ था।
असल में यह open models को निशाना बनाने वाली torpedo थी, और OpenAI या Anthropic जैसे अग्रणी खिलाड़ियों को इस bill या open models को लेकर आम तौर पर कोई खास चिंता नहीं थी। समर्थक या तो Musk जैसे बाद में आए खिलाड़ी थे, जो नीचे की प्रतिस्पर्धा साफ करना चाहते थे, या फिर पश्चिमी देशों की विरोधी ताकतों और सतर्क copyright holders जैसे लोग, जो उस AI का विरोध करते हैं जिसे वे control नहीं कर सकते: https://techcrunch.com/2024/08/26/elon-musk-unexpectedly-off...
साथ ही OpenAI ने Google और Meta के साथ मिलकर इस bill के खिलाफ संगठित विरोध का नेतृत्व किया, जबकि Anthropic तो इसके प्रमुख समर्थकों में था।
मुझे लगता है LLMs का भविष्य उज्ज्वल है, खासकर जैसे-जैसे dedicated hardware और बनता जाएगा। ज़्यादातर समस्याएं market हल कर सकता है, और सरकार को तब दखल देना चाहिए जब चीजें गलत दिशा में जा रही हों या monopoly और abuse साफ दिखने लगें; दोनों extremes की व्यापक अटकलों के आधार पर कदम नहीं उठाने चाहिए।
https://legiscan.com/CA/text/SB1047/id/3019694
यह bill ऐसा लगता है कि एक तय आकार से बड़े models के लिए open weights उपलब्ध कराना illegal बनाता है, ऐसे models को train करने लायक compute resources बेचने से पहले customer की जांच कराने को मजबूर करता है कि वे कानून की अनदेखी करके model train तो नहीं करेंगे, और audit requirements लागू करता है जिनसे यह साबित करना होगा कि model किसी catastrophe में मदद नहीं करेगा और उसे बंद किया जा सकता है।
और “बंद किया जा सके” वाला हिस्सा देखकर लगता है कि lawmakers Star Trek episode में नहीं, बल्कि reality में काम करें तो बेहतर होगा।
इस व्यक्ति पर power भरोसे से सौंपना मुश्किल है, और यह पहली बार नहीं है कि उसने ऐसा हास्यास्पद law push किया है। खास तौर पर, वह साफ तौर पर unconstitutional AB2098 के पीछे था, जिसे court में टूटने से पहले California legislature ने चुपचाप repeal कर दिया था: https://finance.yahoo.com/news/ncla-victory-gov-newsom-repea...
https://www.sfchronicle.com/opinion/openforum/article/COVID-...
यह partisan मामला नहीं है। आपकी political leaning या “AI safety” पर stance चाहे जो भी हो, आपको ऐसे भयानक judgement और legislation के जरिए self-promotion से ज्यादा सावधान representative चाहिए।
संबंधित लेख। और भी हैं क्या?
OpenAI, Anthropic, Google employees support California AI bill - https://news.ycombinator.com/item?id=41540771 - सितंबर 2024, 26 टिप्पणियां
Y Combinator, AI startups oppose California AI safety bill - https://news.ycombinator.com/item?id=40780036 - जून 2024, 8 टिप्पणियां
California AI bill becomes a lightning rod–for safety advocates and devs alike - https://news.ycombinator.com/item?id=40767627 - जून 2024, 2 टिप्पणियां
California Senate Passes SB 1047 - https://news.ycombinator.com/item?id=40515465 - मई 2024, 42 टिप्पणियां
California residents: call your legislators about AI bill SB 1047 - https://news.ycombinator.com/item?id=40421986 - मई 2024, 11 टिप्पणियां
Misconceptions about SB 1047 - https://news.ycombinator.com/item?id=40291577 - मई 2024, 35 टिप्पणियां
California Senate bill to crush OpenAI competitors fast tracked for a vote - https://news.ycombinator.com/item?id=40200971 - अप्रैल 2024, 16 टिप्पणियां
SB-1047 will stifle open-source AI and decrease safety - https://news.ycombinator.com/item?id=40198766 - अप्रैल 2024, 190 टिप्पणियां
Call-to-Action on SB 1047 – Frontier Artificial Intelligence Models Act - https://news.ycombinator.com/item?id=40192204 - अप्रैल 2024, 103 टिप्पणियां
On the Proposed California SB 1047 - https://news.ycombinator.com/item?id=39347961 - फरवरी 2024, 115 टिप्पणियां
बड़े AI models का तात्कालिक खतरा पृथ्वी को paperclip में बदल देना नहीं है, बल्कि fraud को service बना देना और ऐसा समाज बनाना है जहां किसी चीज़ पर भरोसा न किया जा सके
मैं किसी थोड़े भद्दे कानून का भी समर्थन कर सकता हूं, जिसमें X से ज़्यादा parameters वाले model द्वारा बनाई गई image, audio, video में AI-generated होने का metadata लगाना अनिवार्य हो। यानी ऐसे models बनाने पर रोक जो ऐसे tag नहीं लगाते
हालांकि साफ़ समस्या यह है कि AI image का screenshot लेकर metadata के बिना दोबारा upload करने को भी गैरकानूनी बनाना पड़ेगा, और खासकर images के मामले में enforcement पूरी तरह गड़बड़ हो सकती है। सबसे बढ़कर, इस क्षेत्र में हर उपाय इस धारणा पर बनना चाहिए कि “bad actors” क्या करते हैं, इस पर हमारा असल में लगभग कोई नियंत्रण नहीं है। जिम्मेदारी से काम करने का मतलब पैसा छोड़ना है, और वह पैसा कम जिम्मेदार देश ले जाएंगे
बाद में अगर कोई image सामने आए, तो Meta या किसी और से पूछा जा सके, “क्या यह तुम्हारी बनाई हुई लगती है?” YouTube के Content ID या CSAM detection जैसी मिलती-जुलती technology पहले से मौजूद है। यह perfect नहीं है, लेकिन सारी image generation को lock down करने की कोशिशों के भारी side effects के बिना मदद कर सकती है
लेख में बिल जिन जोखिमों को संबोधित करता है, क्या उन्हें बढ़ा-चढ़ाकर बताया गया है—यह जानने के लिए मैंने मूल पाठ पढ़ा
“गंभीर नुकसान” से मतलब उस नुकसान से है जिसे लागू मॉडल या उसके derivative मॉडल ने पैदा किया हो या वास्तविक रूप से संभव बनाया हो, और इसमें रासायनिक, जैविक, रेडियोलॉजिकल या परमाणु हथियारों के निर्माण या उपयोग से बड़े पैमाने पर हताहत होना, महत्वपूर्ण infrastructure पर cyberattack से बड़े पैमाने पर हताहत या 500 मिलियन डॉलर से अधिक का नुकसान होना, सीमित मानवीय निगरानी में मॉडल द्वारा अपराध की श्रेणी में आने वाले कृत्य से मौत, गंभीर चोट या संपत्ति का नुकसान होना, और इसके समकक्ष public safety/security से जुड़े गंभीर नुकसान शामिल हैं
लेकिन अगर मॉडल द्वारा output की गई जानकारी ऐसी है जिसे आम जनता अन्य स्रोतों से तार्किक रूप से सार्वजनिक रूप से access कर सकती है, तो उसे बाहर रखा गया है; अगर यह दूसरे software के साथ मिलकर इस्तेमाल हुआ हो और मॉडल ने नुकसान की संभावना में वास्तविक योगदान न दिया हो, तो उसे बाहर रखा गया है; और अगर नुकसान developer द्वारा मॉडल के निर्माण, storage, उपयोग या release से पैदा या संभव नहीं हुआ हो, तो उसे बाहर रखा गया है
अगर इंसान AI से नुकसान पहुंचा सकते हैं, तो वे AI के बिना भी ऐसा कर सकते होंगे; असली मुद्दा यह है कि AI विनाशकारी लक्ष्यों की संभावना को कितना बढ़ाता है। चिंता यह है कि AI इसे अधिक सुलभ और प्रभावी बना देता है, या असल राक्षस क्या है—यह साफ नहीं है। मुझे नहीं लगता कि इन मॉडलों के पास दुरुपयोग योग्य infrastructure और systems की गैर-सार्वजनिक जानकारी है
इसलिए यह कानून legislative show जैसा दिखता है। यह ध्यान और donations खींचकर राजनीतिक franchise बनाने के लिए design किया गया हो सकता है। केवल सबसे बड़े models को target करके सिर्फ सबसे बड़े players को प्रभावित करना भी इसलिए हो सकता है कि इनके पास प्रति फैसला donation देने की क्षमता सबसे अधिक है और विरोध करने पर goodwill का नुकसान सबसे कम है
AI regulation नए tax code जितना जटिल legislative और administrative काम होगा, और अगर इसे political franchise की तरह संभाला गया तो यह असंभव हो जाएगा। OpenAI के for-profit company में बदलने की स्थिति देखें तो केवल non-profit रूप public-interest focus बनाए रखने के लिए पर्याप्त नहीं है। ऐसे conversion की अनुमति 1990s के बाद non-profit hospital systems के for-profit conversion जैसी ही बड़ी बात है
AI की क्षमता हमारी governance vulnerabilities को साफ उजागर करती है। कमजोर governance ज्यादा मौके भी देती है, लेकिन उसकी विफलताओं से होने वाले exploitation से बाहर निकलने की प्रेरणा dictatorship को बढ़ाती है, और dictatorship दूसरे अधिकारों के साथ property rights को भी निगल जाती है
क्या समस्याओं में से एक यह चिंता है कि अनियंत्रित AI compute बस California के बाहर होने लगेगा?
Sonoma के CAFO से जुड़े county election में भी कुछ ऐसा ही है: स्थानीय स्तर पर environmental progress मिल भी जाए, तो नतीजा यह हो सकता है कि समस्या को कम regulation वाले दूसरे states में export कर दिया जाए: https://www.kqed.org/news/12006460/the-sonoma-ballot-measure...
EU और California अक्सर technology और privacy में ऐसी leading position लेते दिखते हैं। ऊपर से यह बेकार मेहनत लग सकती है, लेकिन यह रास्ता बनाना है, और अच्छे कानून को global स्तर पर foothold पाने के लिए यह जरूरी कदम है
यह बेवकूफी भरा कानून था, तो मानना पड़ेगा कि किसी politician ने कभी-कभार सही काम कर दिया
अगर इस विधेयक के पक्ष-विपक्ष के तर्कों का कोई सारांश हो तो जानना चाहूंगा। लेख पढ़कर मेरा पहला विचार यह था कि “उचित सावधानी” और “अनुचित जोखिम” जैसे वाक्यांश अंतहीन मुकदमों में बदल सकते हैं, इसलिए कानून के रूप में ये लगभग असंभव रूप से अस्पष्ट लगते हैं
साथ ही Geoffrey Hinton और Yoshua Bengio जैसे कंप्यूटर वैज्ञानिकों ने, जिन्होंने मौजूदा generative AI लहर की बुनियादी तकनीक का बड़ा हिस्सा बनाया, इसका सार्वजनिक समर्थन किया, और प्रमुख AI कंपनियों के 119 पूर्व और मौजूदा कर्मचारियों ने भी इसे पारित करने की मांग वाले पत्र पर हस्ताक्षर किए। बेशक किसी एक क्षेत्र की बुद्धिमत्ता का मतलब यह नहीं कि उनकी कानूनी सलाह पर भरोसा कर लिया जाए, लेकिन मैं जानना चाहूंगा कि Hinton और Bengio ने इस कानून का इतना मजबूत समर्थन क्यों किया
बेशक मामला अदालत तक जा सकता है, लेकिन मुख्य बात यह है कि अगर कोई gray area है तो कंपनी को स्पष्ट रूप से सुरक्षित दायरे के भीतर काम करना चाहिए, और अगर वह सीमा को धकेलती है तो उसे पता होना चाहिए कि वह कानूनी दांव खेल रही है। सामान्य समझ वाली प्रक्रियाएं, साफ दस्तावेजी रिकॉर्ड और वकील द्वारा अनुमोदित फैसले बना लिए जाएं तो आम तौर पर safe zone में रहना आसान होता है। यह विधेयक किसी और वजह से खराब हो सकता है, लेकिन ये दो वाक्यांश अपने-आप में समस्या नहीं हैं
बड़ी frontier AI कंपनियों के कई लोग मानते हैं कि दुनिया बदल देने वाला AGI 5 साल के भीतर आ सकता है; उदाहरण के तौर पर Aschbrenner की Situational Awareness देखी जा सकती है। यह समानांतर चिंता भी है कि AI आतंकवाद को आसान बना सकता है: https://www.theregister.com/2023/07/28/ai_senate_bioweapon/
Yoshua Bengio ने हाल ही में AI safety पर अपने विचार विस्तार से लिखे हैं; वे human-level AI के बहुत जल्द आने की संभावना को थोड़ा कम वजन देते हैं, लेकिन 5–20 साल में superhuman intelligence को संभव मानते हैं। वे कहते हैं, “उस अनिश्चितता, आपदा या extinction-level जोखिम के पैमाने, और हालिया AI क्षमताओं की तेज प्रगति का अनुमान न लगा पाने के तथ्य को देखते हुए, agnostic सावधानी कहीं ज्यादा समझदार रास्ता है”
Hinton भी हाल में नियंत्रण खोने के जोखिम पर विस्तृत व्याख्यान दे रहे हैं। समर्थक आम तौर पर इस विधेयक को नियंत्रण खोने और दुरुपयोग के सबसे खराब परिदृश्यों को कुछ हद तक संबोधित करने वाला, संकीर्ण रूप से तैयार किया गया कानून मानते हैं: https://yoshuabengio.org/2023/05/22/how-rogue-ais-may-arise/
https://yoshuabengio.org/2023/06/24/faq-on-catastrophic-ai-r...
https://yoshuabengio.org/2024/07/09/reasoning-through-argume...
इसमें पिछले explainer पोस्टों के लिंक हैं, और पक्ष-विपक्ष के तर्कों तथा टिप्पणियों में अतिरिक्त चर्चा भी है
यह उद्योग के नजरिये से पक्ष-विपक्ष की सूची नहीं है, लेकिन यह विधेयक क्या करता है, इस पर संभवतः सबसे तटस्थ व्याख्या है
यह भयानक कानून-निर्माण था, और अच्छा हुआ कि गवर्नर ने इसे रोक दिया
regulatory capture ऐसा ही दिखता है। अगर कोई आपके product को commodity बना दे, तो उसे लगातार मुफ्त में बनाने से रोकने के लिए उसे अवैध कर दिया जाता है
यह Linux को अवैध बनाकर सबको Microsoft और Apple इस्तेमाल करने पर मजबूर करने से अलग नहीं है
मुझे लगता है कि AI startup शुरू करने का सपना देखने वाले कई लोगों के लिए AI landscape और उसके pros-cons का तर्कसंगत, निष्पक्ष मूल्यांकन करना मुश्किल है
California में तकनीक और विश्वविद्यालयों का एक दुर्लभ zeitgeist है, लेकिन पर्याप्त पैसा और वादे हों तो इसे कहीं और दोहराना असंभव नहीं है