- Paris AI Action Summit में करीब 60 देशों ने AI सुरक्षा पर साझा घोषणा पर सहमति जताई, लेकिन अमेरिका और UK ने हस्ताक्षर नहीं किए, जिससे AI regulation और industry leadership को लेकर दरार सामने आई
- घोषणा में यह सिद्धांत शामिल था कि AI खुला, समावेशी, पारदर्शी, नैतिक, सुरक्षित, secure और भरोसेमंद होना चाहिए, हालांकि यह कानूनी रूप से बाध्यकारी नहीं थी
- अमेरिकी उपराष्ट्रपति JD Vance ने जोर दिया कि AI regulation को तकनीकी विकास को “दबाना” नहीं चाहिए, और सबसे शक्तिशाली AI systems को अमेरिका में, अमेरिकी chips के साथ बनाने का रुख रखा
- UK सरकार के करीबी एक व्यक्ति ने घोषणा की भाषा को “बहुत restrictive” माना, और हस्ताक्षर करने वाले देशों के एक अधिकारी ने बताया कि अमेरिका multilateralism और international cooperation वाली अभिव्यक्तियों से सहमत नहीं था
- यूरोप अमेरिका और चीन पर निर्भरता घटाने के लिए अपनी AI industry base बढ़ा रहा है, और summit में datacenters और computing clusters में करीब 200 अरब यूरो के investment plan सार्वजनिक किए गए
Paris AI Summit में सामने आई हस्ताक्षर की दरार
- अमेरिका और UK ने Paris में हुए AI Action Summit की संयुक्त घोषणा पर हस्ताक्षर नहीं किए
- संयुक्त घोषणा पर करीब 60 देशों ने सहमति जताई, और इसमें AI technology को “safe, secure और भरोसेमंद” बनाने का लक्ष्य शामिल था
- घोषणा में यह सिद्धांत भी शामिल था कि AI खुला, समावेशी, पारदर्शी और नैतिक होना चाहिए
- इसमें सभी के लिए international framework पर विचार करने की भाषा शामिल थी
- प्रतिबद्धताएं non-binding हैं, लेकिन अमेरिका और UK पहले के AI summits की समान घोषणाओं पर हस्ताक्षर कर चुके हैं
अमेरिका का फोकस regulation से ज्यादा AI leadership पर
- अमेरिकी उपराष्ट्रपति JD Vance ने यूरोप को चेतावनी दी कि वह AI पर “बहुत ज्यादा precautionary” regulation न अपनाए
- Vance ने कहा कि Trump administration सबसे शक्तिशाली AI systems को अमेरिका में build करवाना चाहता है
- उसका रुख है कि इन systems में अमेरिका द्वारा design और manufacture किए गए chips इस्तेमाल होने चाहिए
- इसे AI technology में अमेरिका की dominant position बनाए रखने के संदेश के रूप में देखा जा रहा है
- उन्होंने तर्क दिया कि international regulatory regime को AI technology के creation को बढ़ावा देना चाहिए, उसे दबाना नहीं चाहिए
- Oxford Internet Institute के Keegan McBride ने Vance के भाषण को Biden administration के समय की तुलना में “180-degree turn” बताया
घोषणा की भाषा पर अमेरिका और UK की असहमति
- अमेरिका का कड़ा रुख Trump administration के “America First” झुकाव से जुड़ा है
- UK सरकार के करीबी एक व्यक्ति ने घोषणा की भाषा को “बहुत restrictive” माना
- हस्ताक्षर करने वाले देशों में से एक के अधिकारी ने बताया कि अमेरिका multilateralism और international cooperation से जुड़ी अभिव्यक्तियों से सहमत नहीं था
- संयुक्त घोषणा में international governance coordination को बढ़ावा देने के लिए international cooperation को मजबूत करना प्राथमिकता के रूप में शामिल था
- उसी अधिकारी ने कहा कि अमेरिका को France द्वारा summit में launch किए गए Current AI को लेकर भी चिंता थी
- चिंता यह थी कि Current AI का इस्तेमाल French-speaking देशों में funding भेजने के लिए किया जा सकता है
चीन से competition, और DeepSeek से बना तनाव
- अमेरिका का कड़ा रुख AI को लेकर चीन के साथ बढ़ती competition के बीच आया
- competition का दायरा chip manufacturing, foundation models, AI chatbots और supercomputers को power देने के लिए जरूरी energy तक फैल गया है
- चीन की कम-प्रसिद्ध research lab DeepSeek ने low-cost AI model जारी किया, जिससे Silicon Valley companies को झटका लगा
- OpenAI जैसी companies मान रही थीं कि उनके पास मजबूत बढ़त है
- Vance ने AI deals में “authoritarian regimes” के साथ सहयोग न करने की चेतावनी दी, जिससे परोक्ष रूप से चीन को निशाना बनाया गया
- उन्होंने CCTV और 5G को पिछले उदाहरण बताते हुए कहा कि authoritarian regimes ने भारी subsidy वाली सस्ती technology export की थी
- उनके मुताबिक ऐसा सहयोग देशों को उन authoritarian actors से बांध देता है जो information infrastructure में घुसपैठ कर उस पर control करना चाहते हैं
यूरोप की प्रतिक्रिया: अपनी AI industry base बढ़ाना
- यूरोप AI industry में foothold बनाकर अमेरिका या चीन पर निर्भरता घटाना चाहता है
- French राष्ट्रपति Emmanuel Macron द्वारा host किए गए दो दिन के summit में European leaders और companies ने करीब 200 अरब यूरो के investment plans सार्वजनिक किए
- investment का लक्ष्य यूरोप के AI efforts को support करने वाले datacenters और computing clusters हैं
- AI Now Institute की Frederike Kaltheuner ने कहा कि DeepSeek के मजबूत open model launch के बाद Europeans को AI में compete करने का छोटा-सा मौका महसूस हुआ
- McBride ने आकलन किया कि Macron summit का रुझान US-led AI development के alternative को आगे बढ़ाने की ओर था, लेकिन Vance की टिप्पणी ने उस माहौल पर ठंडा पानी डाल दिया
1 टिप्पणियां
Hacker News की राय
आने वाले दशकों में तकनीकी तेजी से संचालित जीवन का एक हिस्सा शायद ऐसा लगेगा जैसे होश में रहते हुए आपका frontal lobotomy किया जा रहा हो और आप पूरी प्रक्रिया देख रहे हों
पूर्ण AGI से कमतर तकनीक भी विनाशकारी ढंग से पटरी से उतर सकती है—ऐसे हजारों काल्पनिक रास्ते हम सोच सकते हैं और उन पर अंतहीन बहस कर सकते हैं, लेकिन उस दिशा में प्रगति न धीमी होती है, न रुकती है
पर्याप्त सामूहिक बुद्धिमत्ता और breakthroughs वाला सिर्फ एक समूह काफी है; फिर अगला AI हमारे दरवाजे तक पहुँचाया जा सकता है, चाहे हमने चाहा हो या नहीं
यह वैसा ही है जैसे बचपन में पढ़ी किताबें जीवन का कोई अहम संदेश दे रही थीं, पर उसका अर्थ 20 साल बाद समझ आया। संदेश वहीं था, लेकिन उस समय उसे ग्रहण करने के लिए भावनात्मक और perceptual intelligence कम थी
printing press के आविष्कार के समय भी इसी मिजाज के लोग थे, और अंततः वे गलत साबित हुए। अगर उनके “सबक” माने जाते, तो मानव समाज कहीं ज्यादा खराब होता
आज की AI/AGI आलोचना वैध है या नहीं, यह आखिरकार बाद में ही पता चलेगा
खासकर tech industry में ऐसे लोग बहुत ज्यादा हैं जिन्हें बस खुद पैसा कमाना हो तो दूसरों के साथ क्या होता है, इससे खास फर्क नहीं पड़ता। वे दूसरों की बलि देने को तैयार रहते हैं, और अपने ही समुदाय में कल्याण बाँटना भी नहीं चाहते
यह low-trust society के high-trust society में घुस जाने का अपरिहार्य परिणाम है। और जैसे-जैसे समाज के लिए खतरनाक निहितार्थ वाली तकनीकें और फैलेंगी, समाज के पतन के लिए काम करने वाले लोग पर्याप्त संख्या में हो जाएंगे, इसलिए इस ट्रेन के रुकने की कोई वास्तविक उम्मीद नहीं है
अभी AI training के लिए बहुत hardware चाहिए, लेकिन laptop और internet भर से architecture और algorithms के मोर्चे पर cutting-edge research और innovation संभव है
अगर “AI development illegal है” जैसा कानून पास भी हो जाए, तो उसे enforce कैसे किया जाएगा, यह सवाल है
कल्पित डर असली डर नहीं होता। मैं मौजूदा प्रशासन के approach से सहमत नहीं हूँ, सतर्क रहना चाहिए, और यह भी अच्छा नहीं लगता कि उस तकनीक से भारी लाभ कमाने वाले लोग चर्चा की मेज पर हैं
लेकिन इसके अलावा, अभी तक मैंने इंतजार करते हुए सतर्क रहने से ज्यादा कुछ करने की कोई वास्तविक वजह नहीं देखी
कोई भी ऐसे देश में फँसना नहीं चाहेगा जिसने AI, खासकर दूसरे देशों के AI, पर प्रतिबंध लगा दिया हो और उभरती दुनिया में competitiveness खो दी हो
भविष्य मुश्किल होगा, तो खुद ही अपना एक हाथ क्यों बाँधें। सावधानी और डर अलग चीजें हैं
AI nuclear fission जैसा नहीं है। कोई AI train कर रहा है या नहीं, इसे दूर से detect नहीं किया जा सकता, और uranium enrichment की तरह AI से जुड़ी जानकारी को अलग-थलग करने के लिए अब बहुत देर हो चुकी है
AI training के लिए जरूरी equipment सस्ता और आम है। ऐसे “safety declarations” दाँत-विहीन घोषणाएँ हैं और इन्हें enforce करना भी असंभव है
AI को रोका नहीं जा सकता, हमें adapt करना होगा। videos और photos की evidentiary value जल्द ही खत्म हो जाएगी, और online relationships से ज्यादा वास्तविक human relationships को महत्व देना होगा, क्योंकि वहाँ पता चल सकता है कि सामने वाला सचमुच इंसान है
यह दुर्भाग्यपूर्ण है, लेकिन AI जिन चीजों को “नष्ट” कर रहा है उनमें से कुछ भी 200 साल पहले मौजूद नहीं था, और लोग हमेशा की तरह adapt कर लेंगे। comic-book villain Toyo Harada के शब्दों में: “तुममें से कोई भी मुझे रोक नहीं सकता। न अकेले, न मिलकर”
जापान ने digital camera shutter sound अनिवार्य किया था, कुछ वैसी ही वजहों और तरीके से इसे कानूनी तौर पर अनिवार्य किया जा सकता है
200 साल पहले पृथ्वी की आबादी करीब 1 अरब थी, अब करीब 8 अरब है। anarcho-primitivists या degrowth advocates भी पिछले 200 साल की प्रगति को इसी तरह हाथ हिलाकर टाल देते हैं, लेकिन वह प्रगति बहुत से लोगों को जीवित रखने वाली systems को संभाले रखने में अहम है
फिर भी chemical weapons के non-use पर अंतरराष्ट्रीय समझौते आश्चर्यजनक रूप से अच्छी तरह टिके रहे हैं
जहाँ अराजकता होगी, वह public sphere है। मोटे तौर पर 1975 से पहले से लेकर अब तक के बीच पैदा हुई पीढ़ियाँ जब अपनी पसंद की छवि देखेंगी तो critical thinking नहीं कर पाएँगी, और करीब एक पीढ़ी तक भ्रम रहेगा
ChatGPT जैसी AI-based services पर प्रतिबंध लगाने से ऐसी training में पैसा लगाने की आर्थिक प्रेरणा भी कम की जा सकती है
हाल की पहलों में https://c2pa.org/ भी है
यह सारी AI safety की चर्चा OpenAI जैसी कंपनियों द्वारा DeepSeek जैसे नए competitors को रोकने के लिए moat बनाने से ज़्यादा कुछ नहीं है
LLM, AGI तक नहीं ले जाएगा। उसके आसपास भी नहीं पहुँचता। Altman का ऐसे जोखिमों की बात करना, Musk के self-driving taxi की बात करने जैसा है
बेशक यह impressive technology है। लगता है LLM किसी दिन उन jobs में लोगों की productivity 10x बढ़ा सकता है जहाँ वे दिन भर computer से interact करते हैं
उन्होंने OpenAI का moat बनाने के लिए ये बातें बिल्कुल नहीं की थीं। शुरुआत में तो उस समय OpenAI था ही नहीं, AI आज के स्तर के करीब भी नहीं था, और लगभग सब लोग उनकी दलीलों को बेतुका मानते थे
असहमत हुआ जा सकता है, लेकिन इसे सिर्फ मौजूदा AI कंपनियों को सहारा देने वाली दलील कहकर खारिज कर देना गलत और बेईमानी है
जिन चीज़ों को LLM senses के रूप में ग्रहण कर सकता है, उनके मामले में वह हर तरह से औसत इंसान से कहीं ज़्यादा smart है
अगर कोई देश दुनिया की dominant superpower है, तो वह दूसरे देशों को अपनी strategy तय नहीं करने देता। बात इतनी सीधी है
AI को रोकने की कोशिशें competition में हारने वाले पक्ष से आएँगी। Edward Teller द्वारा याद किए गए interview की तरह, Soviet Union ने nuclear test moratorium का इस्तेमाल करके hydrogen bomb में अमेरिका की बराबरी कर ली थी, और Teller वही व्यक्ति थे जिन्होंने idealist scientists से कहा था कि ऐसा होगा
यह well known है कि चीन लगभग हर मामले में अमेरिका की बराबरी कर चुका है, और बाकी में भी जल्द आगे निकलने की स्थिति में है। DeepSeek को ही देखिए: यह OpenAI जितना efficient है, लेकिन लागत बहुत कम है। Baidu, Alibaba AI वगैरह भी हैं
चीन की economy 5 साल में अमेरिका को पार करने की trajectory पर है, फिर भी उसने उस agreement पर sign किया। सच तो यह है कि ज़्यादातर देशों ने sign किया, भारत ने भी
यह losers द्वारा नए नियम बनाने वाली स्थिति नहीं है; बड़े देश चर्चा कर रहे हैं कि इस स्थिति को कैसे handle किया जाए, और जो देश खुद को बहुत महान समझते हैं वे पीछे छूटते दिख रहे हैं
हालांकि ऐसी कोशिशें भी symbolic हैं, और पक्षकारों को भी यह पता है। यह सिर्फ naive information consumers, यानी useful idiots, को यह दिखाने की कोशिश है कि कुछ किया जा रहा है
मैंने 80s miss कर दिए, लेकिन 90s और 00s से गुज़रे एक “hacker” के तौर पर AI के इर्द-गिर्द बातचीत का रुख बहुत दुखद और uncomfortable लगता है
कल्पना कीजिए कि पुराने दौर के hackers को कहा जाए कि “hacker news” नाम की site पर लोग यह debate करेंगे कि सरकार को अपने computer पर code चलाना अपराध बना देना चाहिए
यह उन हर चीज़ों से नैतिक और दार्शनिक रूप से बिल्कुल टकराता है जिन्होंने मुझे computers की ओर खींचा था। मुझे आश्चर्य है कि लोग सचमुच ऐसा मानते हैं, या यह कुछ कंपनियों और politicians के लिए सुविधाजनक कोई carefully crafted narrative है
EU AI regulation या मैंने जो discussions देखी हैं, उनमें भी AI hacking को खुद restrict करने वाली बात नहीं है
Regulation कंपनियों/सरकारों में application और real use cases को address करता है। जैसे बिना accountability वाला AI final hiring decisions न ले सके, public places में broad face recognition पर रोक हो, healthcare/education/justice जैसे high-risk areas में AI use के लिए transparency मांगी जाए, और armed AI पर ban हो
आपने ethics की बात की, तो पूछूँ: AI पर कौन-सी ethics लागू होनी चाहिए? कुछ भी नहीं, कुछ हिस्सों में, या इंसानों जैसी ethics? अगर AI decision-making में इंसानों की जगह लेता है, तो उसे इंसानों की तरह accountable होना चाहिए
असीमित AGI रखने वाले देशों के तकनीकी रूप से बहुत आगे निकल जाने की संभावना बड़ी है
इसके उलट, जो देश इस पर पाबंदियां लगाएंगे वे उस क्षेत्र में “पाषाण युग” में ही रह जाएंगे
आम तौर पर जिन देशों में elite की आय जनता के श्रम पर निर्भर करती है, वे उन देशों की तुलना में बहुसंख्यकों के लिए बेहतर नतीजे देते हैं जहां ऐसा नहीं होता। भरपूर तेल भंडार वाले विकासशील देशों को देखिए
AGI किस ओर ले जाएगा? जैसे manufacturing labour बदला गया, वैसे ही अधिकांश knowledge work भी बदला जाएगा, और मौजूदा elite AGI को नियंत्रित करेगा। इसका इस्तेमाल पूरी तरह automated और सर्वव्यापी surveillance से विद्रोह को हमेशा के लिए दबाने में किया जा सकता है
यह सच में कोई लक्ष्य बनाने लायक चीज नहीं है
[1]: https://en.wikipedia.org/wiki/Resource_curse
किसी दिन यह मौजूद हो सकती है। लेकिन मौजूदा “AI” AGI नहीं बन सकती, और आगे बढ़ने का कोई रास्ता भी नहीं है
उस narrative को ज्यों का त्यों नहीं मानना चाहिए। EU regulation AGI को ban करने की कोशिश नहीं है, बल्कि जब technology मौजूद हो तो कम-से-कम बुनियादी गरिमा बनाए रखने की कोशिश है। Americans को ऐसी चीजों से लगभग जानलेवा allergy लगती है
अब कुछ साल बाद, असल में हम गंभीरता से सोच रहे हैं कि दुनिया का एक हिस्सा AI को अपना रहा है और दूसरा नहीं
ऐसी partial adoption का अनुमान लगाया जा सकता था, लेकिन यह नहीं सोचा था कि हम इतनी जल्दी इस debate तक पहुंच जाएंगे
क्या यह समझना ठीक है कि यह “declaration” किसी ठोस action commitment जैसा नहीं है? अगर ऐसा है, तो कौन sign करता है और कौन नहीं, यह इतना मायने क्यों रखता है, समझ नहीं आता
specificity भी उससे ज्यादा बेहतर नहीं लगती। लंबाई करीब डेढ़ page है, देशों की list declaration जितनी ही लंबी है, और मूल बात इतनी है कि “हमने कहा कि हम बुरा काम नहीं करेंगे”
वे सही हैं। वह declaration बेकार है और बस व्यर्थ मेहनत है
Europe को declarations और चिंता जताने वाले letters पर sign करना सच में बहुत पसंद है। sign कर भी देते तो कोई फर्क नहीं पड़ता
इस तरह के “बुरे न बनें” declarations आम तौर पर meaningless gesture होते हैं
जो fringe actors वैसे भी participate नहीं करेंगे, वे moral superiority दिखाते हैं, लेकिन actual trend पर उनका कोई असर नहीं पड़ता
Ottawa Treaty भी ऐसा ही है। non-signatories में US, China, Russia, Pakistan, India, Egypt, Israel, Iran, Cuba, North और South Korea वगैरह हैं। यानी वे सारे देश बाहर हैं जिनसे शुरू से landmines इस्तेमाल करने की उम्मीद हो सकती है
जब असली हालात सामने आते हैं, तो Ukraine जैसे signatory भी landmines इस्तेमाल करेंगे। क्योंकि कागज के एक टुकड़े को निभाते हुए moral superiority महसूस करने से national defence ज्यादा जरूरी है