कई AI safety संगठन मौजूदा open source AI को अपराध घोषित करने की कोशिश कर रहे हैं

• LLM उपयोगकर्ताओं के बीच यह शिकायत उठी कि AI safety संगठन उनके इस्तेमाल किए जा रहे open source LLM पर प्रतिबंध लगाना चाहते हैं, लेकिन यह कहा गया कि यह गलत तरीके से फैली अफवाह है
• लेकिन यह दावा सही नहीं है। वास्तव में कई AI safety संगठनों ने "मौजूदा मॉडलों के open sourcing को अपराध घोषित करने वाले कानून" का समर्थन किया था
• इन संगठनों में से कुछ के पास पर्याप्त फंडिंग है और वे नीति-निर्माताओं से लगातार अधिक जुड़े हुए हैं

AI safety संगठनों के विधायी प्रस्ताव

• Center for AI Safety: AI safety research और advocacy पर केंद्रित अच्छी फंडिंग वाला संगठन, जिसने NTIA को दिए गए नियामक प्रस्ताव में "शक्तिशाली AI systems" को परिभाषित किया और ऐसे systems के open sourcing को व्यावहारिक रूप से प्रतिबंधित करने वाली आवश्यकताएँ पेश कीं।
• Center for AI Policy: Washington D.C. स्थित lobbying संगठन, जिसके शुरुआती प्रस्तावित नियमों के अनुसार पहले से जारी Llama-2 को एक नई एजेंसी के नियमन के अधीन आना पड़ता।
• Palisade Research: एक non-profit संगठन, जिसका लक्ष्य नीति-निर्माताओं और आम जनता को AI risk के बारे में सलाह देने के लिए खतरनाक क्षमताओं का ठोस प्रदर्शन करना है, और जिसने सरकार से Llama 2 की रिलीज़ रुकवाने की अपील की।
• The Future Society: बेहतर governance के साथ AI को संरेखित करने का लक्ष्य रखने वाला think tank, जिसने "Type 2" GPAI के लिए कड़ी आवश्यकताएँ प्रस्तावित कीं और स्पष्ट किया कि open source मॉडल इन्हें पूरा नहीं कर सकते।

AI safety संगठनों का प्रभाव

• ये संगठन केवल उन कुछ संगठनों का हिस्सा हैं जिन्होंने अपनी नीतियों या लक्ष्यों को काफी स्पष्ट रूप से बताया है।
• ऐसे अन्य संगठन भी मौजूद हैं जिनकी नीतियाँ कम स्पष्ट हैं, लेकिन अंततः उनका रुख open sourcing के विरोध में है।
• अगर AI safety संगठन अतीत में अपनी इच्छानुसार कानून पारित करा लेते, तो आज व्यापक रूप से इस्तेमाल हो रहे मॉडलों पर प्रतिबंध लग चुका होता।
• ये संगठन अब भी ऐसे ही कदम पारित कराने की उम्मीद रखते हैं, और open source AI आंदोलन की तुलना में विधायी स्तर पर उनसे पीछे है।

GN⁺ की राय

• AI safety संगठनों के प्रस्ताव open source AI के विकास को सीमित करने और कॉरपोरेट एकाधिकार को मजबूत करने का जोखिम रखते हैं।
• open source AI शोध और innovation के लिए आवश्यक है, और इसे सीमित करना तकनीकी प्रगति पर नकारात्मक प्रभाव डाल सकता है।
• यह लेख दिखाता है कि open source AI पर कानूनी प्रतिबंध अभी भी सक्रिय रूप से आगे बढ़ाए जा रहे हैं, और यह AI तकनीक के लोकतंत्रीकरण और उपलब्धता पर महत्वपूर्ण असर डालने वाला विषय हो सकता है।

[kuroneko]

लगता है हर बार जब कोई नई तकनीक आती है, तो ऐसा ही होता है।

[GN⁺]

Hacker News की राय

• AI safety विशेषज्ञों पर पाखंडी होने की आलोचना होती है। अगर वे सच में वही लागू करें जो वे कहते हैं, तो उन्हें सभी AI पर प्रतिबंध लगाने की मांग करनी चाहिए। AI के हानिकारक प्रभाव, weights सार्वजनिक हों या न हों, पहले से ही हो रहे हैं, और खास तौर पर चोरी किए गए लेखन को छिपाना तथा इंटरनेट पर तकनीकी रूप से अलग शब्दों में दोबारा गढ़े गए वही टेक्स्ट को spam करना AI के सबसे लाभदायक उपयोगों में से एक बताया जाता है.
• Open source AI के अंत के करीब होने का एक और कारण यह हो सकता है कि जैसे ही training data को license के तहत लाया गया, खेल खत्म हो जाएगा। बहुत से लोग OpenAI और Midjourney पर इसलिए नाराज़ हैं क्योंकि open source AI के जीवित रहने के लिए जो चीज़ें ज़रूरी हैं—जैसे fine-tuning या शुरू से training करना—वे उन्हीं पर निर्भर हैं। जिस क्षण कोई राजनेता इसे platform मुद्दा बना देगा, ऐसा लगता है कि कानून फिर से लिखे जाएंगे ताकि कंपनियाँ training data का मनमाना उपयोग न कर सकें.
• safety के कई प्रकार होते हैं। उदाहरण के लिए, मुनाफे की रक्षा भी safety का एक रूप है। बहुत-सी संस्थाएँ ऐसी दिखती हैं मानो वे AI क्षेत्र की मौजूदा कंपनियों के लिए lobbyist हों। याद पड़ता है कि Microsoft के license enforcement प्रयासों ने भी ऐसी रणनीति का उपयोग किया था.
• AI safety शब्द के तहत कई अलग-अलग विचारों को एक साथ रख दिया जाता है, और यह मददगार नहीं है। उदाहरण के लिए, "सुरक्षित" politically correct output, porn नहीं, बड़े पैमाने पर सामाजिक/चुनावी manipulation, शक्तिशाली AI द्वारा मानवता का विनाश—इनमें लगभग कोई समानता नहीं है, इसलिए सारी चर्चा अक्षम हो जाती है.
• सरकार जानती है कि "AI" को आम लोग उनकी निगरानी और नियंत्रण के बिना इस्तेमाल कर सकें, तो उनकी सत्ता-विस्तार की क्षमता घट जाती है। जैसा लेख में दिखता है, ये "think tank" पहले ही Llama 2 जैसी पुनरावृत्ति को रोकने की नींव रख रहे हैं। हमें AI के लिए एक Stallman की ज़रूरत है, और FOSS AI models को वैसा ही आंदोलन बनना चाहिए जैसा 80 और 90 के दशक में FOSS UNIX के लिए हुआ था। लेकिन जब इस विषय पर Stallman को लिखा गया, तो उन्होंने या तो रुचि नहीं दिखाई या पराजयवादी रवैया अपनाया और model weights पर GPL के विचार को ज़्यादातर नज़रअंदाज़ किया.
• ज़्यादातर AI safety विशेषज्ञ सचमुच वही मानते हुए दिखते हैं जो वे प्रचार करते हैं। वे सही हैं या नहीं, यह बिल्कुल अलग बहस है। लेकिन AI safety के लिए funding स्पष्ट रूप से आंशिक रूप से regulatory capture या किसी प्रकार के protectionism से प्रेरित है.
• मौजूदा नियंत्रण या सत्ता-प्रणालियों की खुद को दोहराने की इच्छा को कम मत आँकिए.
• बहुत से AI safety शोधकर्ता नेक इरादों वाले हैं, लेकिन ऐसा safety पाखंड भी दिखता है जो "AI मेरे लिए, तुम्हारे लिए नहीं" वाला दोहरा मापदंड उजागर करता है.
• data licensing एक बड़ा bottleneck बनेगा.
• uncensored outputs का इस्तेमाल open source models के खिलाफ अंधेरे या gray-area वाले मामलों में प्रतिकूल रूप से किया जाएगा.
• open source और closed source models के बीच compute क्षमता और model size का अंतर बड़ा है। 7B open source के दायरे में आता है, जबकि closed source उससे कहीं बड़े होंगे.
• इन संगठनों का FLOP threshold नामित करना और MMLU को प्रासंगिक evaluation metric बनाना कुछ हद तक हास्यास्पद है। ऐसा लगता है जैसे कई संगठनों ने मिलते-जुलते threshold बस copy-paste कर दिए हों। जैसे-जैसे compute cost सस्ती होगी, ये threshold भी लगातार सस्ते होते जाएंगे। हो सकता है बाद में पीछे मुड़कर हम इसे संकीर्ण और अल्पदृष्टि वाला मानें.