सरकारों, कंपनियों और गैर-लाभकारी संस्थाओं को free और open-source AI में निवेश क्यों करना चाहिए
(siegelendowment.org)- Software एक commercial asset होने के साथ-साथ एक knowledge system भी है, जो साझा करने पर और विकसित होता है; GCC और GNU/Linux ने दिखाया है कि open source आधुनिक internet और technology industry को सहारा देने वाली बुनियाद बन चुका है
- Code सार्वजनिक करने से दुनिया भर के developers खामियां ढूंढकर सुधार सकते हैं, और अगली पीढ़ी के engineers cutting-edge systems बनाने का तरीका सीख सकती है; इस तरह transparency security और talent development, दोनों में योगदान देती है
- अगर cutting-edge AI कुछ कंपनियों के closed models में केंद्रित हो जाए, तो researchers के लिए build process और training data की जांच करना मुश्किल हो जाएगा, और AI पर निर्भर science, medicine, engineering और judicial decisions का पूरी तरह audit करना भी कठिन होगा
- AI software खुद ही capability है, इसलिए उसे सार्वजनिक करने से जुड़े risks मौजूद हैं; लेकिन closed models भी leaks और jailbreaks के प्रति vulnerable हैं, और यह power concentration भी पैदा करते हैं जिसमें कुछ कंपनियां तय करती हैं कि कौन-सी technology allowed होगी
- हर open-source AI को cutting-edge models के scale की बराबरी करने की जरूरत नहीं है; governments, companies और nonprofits को public computing support, universities और nonprofit research के funding support, और public funds से बने AI को default रूप से public करने के सिद्धांत में निवेश करना चाहिए
Free software को लेकर बहस
- 1980 के दशक में MIT AI Lab में Richard Stallman के साथ करीब दो साल तक बहस करते समय, उस समय की यह धारणा मानी जाती थी कि software advancement के लिए कंपनियों का code पर exclusive control जरूरी है
- Stallman का मानना था कि software knowledge को रखने वाला medium है, इसलिए कोई भी उसे use, study और improve कर सके; companies के भीतर code छिपाना, knowledge को ही छिपाने जैसा है
- दोनों पक्ष इस बात पर सहमत थे कि computers human progress को तेज करने का key tool बनेंगे, लेकिन उस goal तक पहुंचने के तरीके पर मतभेद था
- इस बहस के दौरान यह विचार ज्यादा convincing हुआ कि software सिर्फ commercial asset नहीं, बल्कि ऐसा knowledge system है जो share किए जाने पर मजबूत होता है
- Users को software study, modify, improve और share करने की freedom मिलनी चाहिए—Stallman का यह principle free software movement और बाद में open source की नींव बना
GCC और GNU/Linux ने public development को साबित किया
- Stallman द्वारा बनाया गया GCC दुनिया के code को ऐसे machine language में बदलता है जिसे computers execute कर सकें, और आज तक इस्तेमाल होने वाला core program बन गया है
- यह success सिर्फ एक व्यक्ति के काम से नहीं, बल्कि हजारों contributors की मदद से संभव हुई
- उसी public development spirit से निकला GNU/Linux आज internet के बड़े हिस्से को चलाता है
- आधुनिक tech environment public development principles और open source पर काफी निर्भर है
Openness ने security और learning पर क्या असर डाला
- शुरुआती दौर में मुख्य counterargument यह था कि computers को सुरक्षित रखने के लिए software छिपाना चाहिए—यानी security through obscurity
- Transparent software में दुनिया भर की developer community problems खोजकर fix कर सकती है, जबकि closed software में यह उम्मीद करनी पड़ती है कि कोई भी उसके अंदर काफी गहराई से नहीं देखेगा
- Open-source community build करने के तरीकों से जुड़ा knowledge व्यापक रूप से फैलाती है, और engineers की एक पीढ़ी के लिए de facto textbook की भूमिका भी निभाती है
- अगर सभी cutting-edge systems छिपा दिए जाएं, तो locked systems से सीखने को बहुत कम बचेगा और next-generation innovators को train करना मुश्किल होगा
Technology industry को संभालने वाला open-source ecosystem
- दशकों की technology progress एक delicate ecosystem से आई है, जिसमें private companies, universities और हजारों volunteers ने shared software foundation में योगदान दिया
- विश्व स्तर पर सफल कई companies ने public core technologies के ऊपर services बनाकर revenue कमाया
- Proprietary software की भी भूमिका है, लेकिन open source आधुनिक tech industry का load संभालने वाली foundation रहा है, इसलिए इसे कमजोर नहीं होने देना चाहिए
शुरुआती stage से ही बंद होता AI
- AI भी software है, लेकिन सबसे advanced cutting-edge models पूरी तरह closed हैं, और closing की रफ्तार भी बढ़ रही है
- व्यावहारिक रूप से इस्तेमाल किए जा सकने वाले public alternatives कम हैं; मौजूदा models impressive हैं, लेकिन अभी अधूरे हैं और उन्हें build करने के तरीके भी fully established नहीं हैं
- जिस early scientific field में सबसे गहरे breakthroughs अभी आगे आने बाकी हैं, उसे अभी बंद कर देने से progress के लिए जरूरी shared knowledge गायब हो सकता है
- University science research results को public करके और पूरी दुनिया को follow-up research करने देकर आगे बढ़ी है
- अगर future science का बड़ा हिस्सा AI पर निर्भर होगा, तो AI को कुछ कंपनियों के भीतर बंद कर देना scientific progress तक को सीमित कर सकता है
भविष्य की library को कौन control करेगा
- Library एक shared resource है, जहां कोई भी मानवता द्वारा जमा किए गए knowledge को free में access कर सकता है
- अगर कुछ companies सारी libraries खरीद लें, तय करें कि कौन-सी किताबें पढ़ी जा सकती हैं, और content को चुपचाप बदल दें, तो यह स्वीकार करना मुश्किल होगा
- Closed AI भी ऐसी future library जैसा है, जिसे केवल owner द्वारा तय शर्तों पर access किया जा सकता है
- अगर कुछ companies models की allowed boundaries तय करें या answers निकालने के तरीके adjust करें, तो उन models पर निर्भर लोग results को पूरी तरह समझ नहीं पाएंगे
- Diagnosis में model इस्तेमाल करने वाले doctors
- Design सौंपने वाले engineers
- Decisions में reference लेने वाले judges
- और क्या मानना चाहिए, यह पूछने वाले आम users—सभी इसी समस्या में होंगे
Model की explanation audit record नहीं होती
- Model reasons बता सके, तब भी explanation और audit एक चीज नहीं हैं
- Model द्वारा दिए गए reasons, answer बनाने वाली actual computation का faithful record नहीं होते, बल्कि result आने के बाद assemble की गई plausible story होते हैं
- अगले साल वही सवाल पूछने पर जवाब बदल जाए, तो यह पता लगाने का तरीका नहीं हो सकता कि reality बदली है या provider ने model बदला है
- ऐसे systems पर निर्भर users, समझ में आने वाले tools इस्तेमाल करने के बजाय, ऐसे trust-like system पर भरोसा करने लगते हैं जिसके अंदर जांच नहीं की जा सकती
Public AI और closed AI से बनने वाले risks
- यह objection कि AI को public करना बहुत खतरनाक है, गंभीरता से जांचने लायक है
- Research papers capabilities का वर्णन करते हैं, लेकिन underlying AI software खुद ही capability है; इसलिए normal research disclosure और AI disclosure के बीच वास्तविक asymmetry मौजूद है
- फिर भी closure कोई inevitable answer नहीं है
- Scientific discoveries का misuse हो सकता है, लेकिन पूरी physics को classified करने के बजाय monitoring और rules लागू करते हुए foundational knowledge public रखा जाता है
- Closed models भी leak या jailbreak हो सकते हैं, इसलिए सिर्फ closed होने से वे safe नहीं हो जाते
- कुछ companies का यह तय करना कि बाकी society क्या build कर सकती है, अलग तरह का power concentration risk भी पैदा करता है
- निर्णय का criterion यह नहीं है कि public models में कोई risk है या नहीं, बल्कि यह है कि क्या वे पहले से available capabilities की तुलना में meaningful additional risk पैदा करते हैं
Execution code और build code का फर्क
- Model के पीछे दो तरह के code होते हैं: model चलाने वाला code और model बनाने वाला code
- Model को सीधे run कर पाना उपयोगी है, लेकिन transparency के लिए ज्यादा अहम build code और training data हैं, जो दिखाते हैं कि model कैसे बनाया गया
- चीन के प्रमुख labs और कुछ अमेरिकी companies के वे models जिन्हें आज public models कहा जाता है, execution code देते हैं, लेकिन build code और training data public नहीं करते
- User को एक विशाल set of numbers मिलता है जो intelligence पैदा करता है, लेकिन उसके formation process का पता नहीं चलता; run किया जा सकता है, पर explain नहीं किया जा सकता—यह magic numbers जैसा है
- Execution code public करना भी कोई continuing promise नहीं, बल्कि company की discretion पर दिया गया favor है; future के सबसे powerful models भी public रहेंगे, इसकी कोई guarantee नहीं
- Openness जिसे कभी भी बंद किया जा सके, foundation नहीं बन सकती; इसलिए दोनों चीजें जरूरी हैं
- Public models जिन्हें कोई भी use और extend कर सके
- Public source और training data जिनसे कोई भी production process देख सके
Public good के रूप में open-source AI में निवेश
- AI companies या private AI के अस्तित्व का विरोध नहीं है; बात यह है कि closed private AI ही अकेला option नहीं होना चाहिए
- अमेरिका में private AI को पर्याप्त support मिल रहा है, लेकिन open-source AI का advocacy base कमजोर है, इसलिए वह policy और investment से आसानी से बाहर रह सकता है
- Cutting-edge models लगातार बड़े होते जा सकते हैं और उनकी cost भी बढ़ सकती है, इसलिए उस scale की competition big companies के क्षेत्र में रह सकती है
- Open-source AI को useful होने के लिए cutting-edge models जितने scale का होना जरूरी नहीं; दुनिया को जिन कई tasks की जरूरत है, उनमें absolute cutting-edge performance जरूरी नहीं हो सकती
- अगर भरोसेमंद public alternatives बनाए रखने के लिए large-scale computing resources चाहिए, तो यह ऐसा public good है जिसकी cost चुकाना worthwhile है
- Governments, private sector और nonprofits को free और open-source AI में सक्रिय रूप से निवेश करना चाहिए
- Public research के लिए public computing grants देना
- संबंधित research करने वाली universities और nonprofits को corporate और philanthropic funding support देना
- Public funds से बने AI को default रूप से public करने का principle अपनाना
- Open-source software में निवेश करके technology progress को आगे बढ़ाने का तरीका AI में भी जारी रखना चाहिए
1 टिप्पणियां
Hacker News की राय
निजी AI कंपनियां लगभग सभी से छीने गए डेटा पर मॉडल ट्रेन करती हैं और बड़े जोखिम भी पैदा करती हैं, इसलिए उन्हें गैर-व्यावसायिक लाइसेंस वाले open weights के साथ मॉडल वितरित करने के लिए मजबूर किया जाना चाहिए
Dario जिस regulatory capture को आगे बढ़ा रहा है, उसकी जगह यही दिशा safety policy का मूल होना चाहिए
अगर बिना मुआवज़े के सभी उपलब्ध डेटा पर training किए जाने से आपको सच में गुस्सा है, तो बस जैसी करनी वैसी भरनी ही कहा जा सकता है
open models के लिए लक्षित प्रोत्साहन पुरस्कार Nobel विजेता Michael Kremer के तरीके की तरह मिलकर प्रायोजित करने की ज़रूरत है
हर 6~12 महीने में 16GB·32GB·64GB·128GB VRAM और कम-से-कम 200K context length के साथ 5~10 कठिन benchmarks और एक private benchmark में पहली बार सीमा पार करने वाले मॉडल को 200,000 डॉलर दिए जाएं, और अगले दौर में सीमा और ऊंची कर दी जाए। quantization की विधि स्वतंत्र हो सकती है, लेकिन मानक हार्डवेयर पर ठीक उतना ही VRAM इस्तेमाल होना चाहिए; RAM या disk पर offload नहीं करना चाहिए
फंडिंग crowdfunding से जुटाई जा सकती है, और PDF processing जैसे enterprise demand वाले क्षेत्रों के लिए अलग पुरस्कार जोड़कर cross-subsidy भी की जा सकती है। जैसे enterprise पुरस्कार का 25% सामान्य पुरस्कार pool में भेजा जाए। open model कंपनियों के लिए पैसा उपयोगी है, लेकिन उससे भी ज्यादा मूल्यवान स्पष्ट मान्यता हो सकती है, जो मॉडल को उभारती है और उपयोग बढ़ाती है
साफ hardware tiers एक अच्छा differentiator है, लेकिन benchmarks ज़रूर private होने चाहिए। हर चरण के लिए अच्छा evaluation set बनाना और संभालना, ईमानदार research lab की internal evaluation में भी कठिन होता है; भरोसे के लिए हर दौर के बाद इन्हें सार्वजनिक करना होगा और अगली evaluation नई बनानी होगी। यह संभव तो है, लेकिन evaluation management cost कुल prize money से भी ज्यादा हो सकती है, और यह काम बार-बार करना पड़ेगा
FOSS एक गलत analogy है। state-of-the-art large language models बनाना मुख्यतः engineering से ज़्यादा scientific research program जैसा है
विश्वविद्यालयों और CERN जैसे बड़े प्रोजेक्ट्स सहित, व्यवहार में open-source शैली के research programs मौजूद हैं। AI भी विश्वविद्यालयों में विकसित हुआ, लेकिन अब यह सामने आ गया है कि आवश्यक पूंजी केवल private sector से जुटाई जा सकती है
एक सही public AI research program भी संभव है, लेकिन यह केवल विश्वविद्यालय research funding थोड़ा बढ़ाने जैसा नहीं होगा; यह उन Manhattan Project या Apollo Project के ज़्यादा करीब होगा जिन्हें आज के अग्रणी labs पहले से उदाहरण मानते हैं
Cold War के चरम पर Apollo Project की कुल लागत आज के मूल्य में लगभग 300 अरब डॉलर थी, जो OpenAI और Anthropic ने अब तक मिलाकर जितना जुटाया है, उसके आसपास है। मौजूदा राजनीतिक-आर्थिक माहौल में सरकार AI पर इतना पैसा लगाएगी या नहीं, इस पर संदेह है। तुलना करें तो LHC ने बहुत लंबी अवधि में भी 10 अरब डॉलर से कम खर्च किए
यह बात मिलती-जुलती लग सकती है, लेकिन नज़रिया अलग है। अगर यह एक अकादमिक research program होता, तो आम जनता को AI मुफ़्त देने के लिए data centers पर अरबों डॉलर खर्च नहीं किए जाते
open source AI में पहले से निवेश हो रहा है, लेकिन सचमुच मुफ्त कुछ भी नहीं होता। जिन developers का यही मुख्य काम है और जिन्हें भुगतान मिलता है, ऐसे व्यावसायिक AI का आगे रहना लगभग तय है; सिर्फ सद्भावना और part-time contributions से रोज़ी-रोटी और profit motive को लगातार हराना मुश्किल है
अगर लगभग पूर्ण रूप से closed cutting-edge models को नियंत्रित करने वाले Altman, Amodei, Zuckerberg और Musk निवेशकों को बेवकूफ नहीं बना रहे, बल्कि सच में AGI बना लेते हैं, तो closed models जो विकल्प छोड़ते हैं वे या तो शक्तिशाली सरकार होंगे या शक्तिशाली oligopoly/monarchy
Musk और Zuckerberg के पास संरचनात्मक रूप से command authority है। Altman ने प्रतिद्वंद्वियों को हटाने और privatization के बाद वास्तविक command authority और संगठन की loyalty लगभग हासिल कर ली है, और Amodei का प्रभाव इतना बड़ा है कि वह मौजूदा governance structure को उलट सकता है
software closed source हो तो भी इसका मतलब यह नहीं कि ज्ञान साझा नहीं किया जा सकता। मूल code देखे बिना भी architecture patterns या best practices समझाए जा सकते हैं
library analogy तभी सटीक होगी जब large language model providers reinforcement learning या Transformer से जुड़े सवालों का जवाब देने से इनकार करें
मैं open source·open weights models का मज़बूत समर्थक हूं, लेकिन मुख्य कारण यह है कि मुझे लगता है यह बेहतर product है। training और operation cost बहुत कम हैं, और ज्यादातर कामों के लिए cutting-edge intelligence की ज़रूरत नहीं होती। अगर इसे market पर छोड़ा जाए, तो large language models शायद programming languages जैसे बन जाएंगे, और बड़े labs विशेष उपयोग के लिए fine-tuning या customer deployment से कमाई करेंगे
AI को आगे बढ़ाने वाली तर्क-रेखा के मुताबिक, कुछ सावधानी से चुने गए large language model prompts से open source developers का काम दोहराया जा सकता है, तो फिर हमें उन्हें फंड क्यों करना चाहिए? क्या AI कंपनियों को FOSS को फंड नहीं करना चाहिए, ताकि वे और ज़्यादा समाधान याद कर सकें?
शीर्षक से बस “AI” हटा दीजिए। सरकारों·कंपनियों·गैर-लाभकारी संस्थाओं को free·open source में निवेश करना चाहिए
library analogy अपने-आप में सही है, लेकिन असहज करने वाली बात यह है कि ज़्यादातर open models library पाने से ज़्यादा compiled binary पाने के करीब हैं
अगर जनता को थोड़ा-बहुत भी नियंत्रण बनाए रखना है, तो सदस्य-स्वामित्व वाली सहकारी संस्था आगे का रास्ता हो सकती है
David Siegel ने लगभग 2 साल पहले https://youtu.be/0z60xUDo-NI?si=PTDe11-sn2P53qo5&t=420 वाले व्याख्यान में कहा था कि AI data center expansion समय से पहले है
उनका कहना था कि भले मौजूदा तरीका scale होता रहे, यह वैसा ही है जैसे computing के शुरुआती दौर में किसी ने संख्याएं sort करने के लिए bubble sort जैसा O(n²) algorithm खोज लिया हो और tech कंपनियां O(n log n) तरीका ढूंढने के बजाय numbers sorting के लिए पहले विशाल data centers बनाने निकल पड़ें। यह बात पूरी तरह सही है, और open source AI पर भी लागू होती है