- Anthropic की Mythos घोषणा के बाद, इंटरनेट अब ऐसा बिना अनुमति वाला रचनात्मक स्पेस नहीं रहा जहाँ कोई भी स्वतंत्र रूप से खोजबीन कर सके
- श्रम और बुद्धिमत्ता को पूंजी से प्रतिस्थापित किया जा रहा है, और इससे कुछ कंपनियों की AI युग में स्थायी बढ़त वाली संरचना मजबूत हो रही है
- क्लोज्ड मॉडल नीतियाँ और API access सीमाएँ सुरक्षा के नाम पर लाई जाती हैं, लेकिन नतीजतन innovation और safety research दोनों दबते हैं
- बुद्धिमत्ता तक पहुँच का बुनियादी सिद्धांत ‘access first’ होना चाहिए, और कंपनियों को पारदर्शी प्रक्रियाएँ और auditability सुनिश्चित करनी चाहिए
- पूरी मानवता के डेटा पर प्रशिक्षित मॉडलों पर कुछ लोगों का कब्ज़ा औपनिवेशिक value extraction संरचना जैसा है; इंटरनेट की openness और creativity की रक्षा की जानी चाहिए
फ्रंटियर का अंत
- Anthropic की Mythos घोषणा के बाद, इंटरनेट अब ऐसा बिना अनुमति वाला स्पेस नहीं रहा जहाँ कोई भी स्वतंत्र रूप से खोज और सृजन कर सके
- पहले पूंजी या नेटवर्क के बिना भी कोई भी इंटरनेट और उसी तकनीकी इन्फ्रास्ट्रक्चर तक पहुँच सकता था, लेकिन अब ओपन मॉडल और क्लोज्ड मॉडल के बीच का अंतर बढ़ता जा रहा है
- इसे अमेरिका के frontier युग के अंत की तरह अवसरों के अंत के रूप में देखा गया है
- श्रम और बुद्धिमत्ता को पूंजी से प्रतिस्थापित करने वाली संरचना गहरी होती जा रही है, जिससे पूंजी रखने वाले समूह AI युग में स्थायी बढ़त हासिल कर सकते हैं
- Rudolf Laine ने इसे “ऐसा युग जिसमें पूंजी अतिमानवीय श्रम में बदल जाती है” कहा, और George Hotz ने इसे ‘neofeudalism’ नाम दिया
- चेतावनी यह है कि यदि बेहद कम कंपनियाँ बुद्धिमत्ता पर ही एकाधिकार जमा लें, तो बाकी लोग स्थायी निचले वर्ग में धकेले जा सकते हैं
- Anthropic की Mythos को क्लोज्ड रखने की नीति को केवल सुरक्षा उपाय नहीं, बल्कि निजी कंपनियों द्वारा राज्य-स्तरीय क्षमताओं पर कब्ज़ा करने वाली संरचना के रूप में आलोचना मिली है
- Anthropic ने AWS, Apple, Google आदि के साथ Project Glasswing की घोषणा की, लेकिन सार्वजनिक रिलीज़ के बिना केवल कॉर्पोरेट पार्टनर्स को access दिया
- इससे security incidents या information leaks की स्थिति में जोखिम बढ़ता है, और राज्य-स्तरीय क्षमताएँ निजी कंपनियों में सिमटने जैसी अलोकतांत्रिक स्थिति बनती है
- API access सीमाएँ दुरुपयोग रोकने में मदद कर सकती हैं, लेकिन साथ ही innovation और safety research को दबाती भी हैं
- खुली पहुँच मॉडल की संभावित क्षमताओं को सामने लाती है और वास्तविक वातावरण में ‘जल्दी विफल होना और सुधार करना’ संभव बनाती है
- जैसे पहले fuzzer tool (American Fuzzy Lop) के उपयोग ने security को मजबूत किया था, वैसे ही frontier मॉडलों की पहुँच बढ़ाना security capabilities को बेहतर बना सकता है
- लेकिन अभी AI safety researchers बड़े मॉडलों तक पहुँच न होने के कारण अधिकतर चीनी open source models का उपयोग कर रहे हैं
- बुद्धिमत्ता तक पहुँच का मूल सिद्धांत ‘access first’ होना चाहिए, और सुरक्षा उपाय उसके ऊपर जोड़े जाने चाहिए
- जिन कंपनियों के पास सरकार-स्तर की क्षमताएँ हैं, उन्हें निष्पक्ष प्रक्रियाएँ और पारदर्शी मानदंड बनाने चाहिए, और access सीमित करने पर स्पष्ट कारण सार्वजनिक करने चाहिए
- frontier मॉडल access छिन जाना सामाजिक बहिष्करण के उस रूप जैसा है जिसे ‘unbanked’ स्थिति कहा जाता है
- FOIA स्तर की audit बाध्यता आवश्यक है
- पूरी मानवता के डेटा पर प्रशिक्षित मॉडलों पर कुछ कंपनियों का एकाधिकार औपनिवेशिक value extraction संरचना जैसा है
- जिन लोगों ने डेटा दिया, उनसे सहमति के बिना value निकाली जाती है, और लाभ आंतरिक नेटवर्कों में केंद्रित हो जाता है
- बाद में UBI या philanthropic donations के ज़रिये नैतिक वैधता बनाने का पैटर्न दोहराया जाता है
- इरादा दुष्ट न भी हो, सत्ता के केंद्रीकरण की संरचनात्मक समस्या वही रहती है
- AI के personalization की संभावना को लेकर आशा भी जताई गई है
- मौजूदा बंद AI युग शायद सिर्फ mainframe era हो, और personal computing (Apple II) जैसे दौर में बदलाव की संभावना मौजूद है
- open source models पहले ही 3~12 महीनों के अंतर तक frontier की बराबरी की दिशा में बढ़ रहे हैं, और यदि chips तथा energy supply का विस्तार होता है, तो ‘इतनी सस्ती बुद्धिमत्ता कि उसका मापन कठिन हो’ वाला युग आ सकता है
-
‘Wired’ की आज़ादी नहीं खोनी चाहिए
- जैसे शहर सुरक्षा के नाम पर पुराने पेड़ काट देते हैं, वैसे ही अत्यधिक सुरक्षा तर्क के कारण इंटरनेट की openness और creativity खोने का खतरा है
- इंटरनेट अब भी व्यक्ति-नेतृत्व वाली रचना और खोज का आख़िरी स्पेस है, और इसकी रक्षा करना महत्वपूर्ण है
अभी कोई टिप्पणी नहीं है.