OpenAI और Anthropic ने अपनी कमाई को खतरे में डालने वाले open-weight AI के खिलाफ संयुक्त मोर्चा बनाया

 (axios.com)
1 पॉइंट द्वारा GN⁺ 1 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • ग्राहक हासिल करने में प्रतिस्पर्धा करने वाले OpenAI और Anthropic वॉशिंगटन में शक्तिशाली चीनी open-weight मॉडल्स के जोखिम की चेतावनी देते हुए समान हित साझा कर रहे हैं
  • Anthropic का मानना है कि weights सार्वजनिक होने के बाद access वापस लेना, safety guardrails अपडेट करना और misuse रोकना मुश्किल हो जाता है, जबकि समर्थक इसे इस रूप में देखते हैं कि कंपनियां उपयोग को नियंत्रित नहीं कर सकतीं — यही खुलापन की ताकत है
  • David Sacks जैसे आलोचकों ने चेतावनी दी है कि safety regulation प्रतिस्पर्धियों के लिए मॉडल रिलीज़ करना मुश्किल बना सकता है और बड़े closed-model कंपनियों की रक्षा करने वाली regulatory capture में बदल सकता है
  • OpenAI और अमेरिकी सरकारी अधिकारी चीन की distillation को intellectual property उल्लंघन के रूप में देखना चाहते हैं, लेकिन अमेरिकी मॉडल्स पर लागू होने वाले ठोस safety standards अभी तक तय नहीं हुए हैं
  • open models कंपनियों के लिए AI स्रोतों में विविधता लाने और शोधकर्ताओं के लिए मॉडल्स में बदलाव व विश्लेषण करने में महत्वपूर्ण हैं, और distillation regulation स्वतंत्र रूप से विकसित open-weight मॉडल्स को भी व्यवहार में सीमित कर सकता है

चीनी open models को लेकर टकराते हित

  • OpenAI और Anthropic शक्तिशाली चीनी open-weight मॉडल्स के जोखिम पर जोर देते हुए शोधकर्ताओं, startups और open-model समर्थकों के विरोध में खड़े हैं
    • अगर open-weight मॉडल्स पर निगरानी बढ़ती है, तो closed-model कंपनियों को फायदा मिल सकता है
    • Trump प्रशासन के सलाहकार David Sacks ने आलोचना की कि safety rules बड़े खिलाड़ियों को स्थायी बढ़त देने वाली regulatory capture बन सकती हैं
  • Anthropic के CEO Dario Amodei का मानना है कि weights सार्वजनिक होने पर developers के लिए access वापस लेना, safety guardrails अपडेट करना और misuse रोकना कठिन हो जाता है
    • इसके उलट समर्थकों के लिए यही बात कि कोई भी users और उनके उपयोग के तरीके को नियंत्रित नहीं कर सकता, open-weight की खासियत है
  • अपना open-source मॉडल रखने वाला OpenAI कहता है कि open source को 'access के लोकतंत्रीकरण' का हिस्सा माना जाना चाहिए, लेकिन इसे राष्ट्रीय framework के भीतर चलना चाहिए
    • इस framework का ठोस संचालन कैसे होगा, यह सार्वजनिक नहीं किया गया है
    • OpenAI के अनुसार नए मॉडल्स का तेजी से मूल्यांकन करने, जोखिम प्रबंधित करने और शक्तिशाली AI tools को cyber defenders तक पहुंचाने की व्यवस्था चाहिए
    • कंपनी का यह भी कहना है कि चीनी open-weight मॉडल्स की प्रगति अपने आप में openness का विरोध करने का आधार नहीं है

distillation विवाद और अब तक अनुपस्थित safety standards

  • OpenAI ने दूसरे कंपनियों के मॉडल्स का उपयोग करके मॉडल ट्रेन करने वाली distillation पर चेतावनी दी है
    • अमेरिकी व्यापार प्रतिनिधि Jamieson Greer चीन की distillation को intellectual property चोरी मानते हैं
    • Treasury Secretary Scott Bessent ने कहा कि चीनी मॉडल्स पर भी अमेरिकी मॉडल्स जैसे standards लागू होने चाहिए, और आने वाले कुछ हफ्तों में इसकी समीक्षा की जाएगी
    • अगर अमेरिकी अधिकारियों के आरोप साबित होते हैं, तो इसका मतलब होगा कि चीनी कंपनियों ने अमेरिकी मॉडल्स के आधार पर सस्ते लेकिन तुलनीय systems बनाए, फिर उनके subsidized versions को पश्चिमी बाजारों में उतारकर अमेरिकी कंपनियों से प्रतिस्पर्धा की
  • अमेरिकी मॉडल्स पर लागू होने वाले विस्तृत safety standards भी अभी मौजूद नहीं हैं, और प्रशासन इन्हें तय करने की प्रक्रिया में है
    • open-model समर्थकों को चिंता है कि अगर distillation को intellectual property चोरी माना गया, तो स्वतंत्र रूप से विकसित मॉडल्स भी व्यवहार में सीमित हो सकते हैं

शोध, enterprise उपयोग और regulatory proposals में अंतर

  • कंपनियां AI स्रोतों में विविधता लाने के लिए open models का उपयोग कर रही हैं, और AI निर्माण के मौजूदा चरण में open models वैज्ञानिक खोज के लिए भी महत्वपूर्ण हैं
    • Biden White House के पूर्व तकनीकी सलाहकार Suresh Venkatasubramanian का मानना है कि अगर पूरे चीनी मॉडल ecosystem तक पहुंच रोक दी गई, तो research करने में बड़ी समस्या होगी
    • open-weight मॉडल्स को closed-models की तुलना में अधिक स्वतंत्रता से modify और analyze किया जा सकता है, इसलिए वे शोधकर्ताओं के लिए खास तौर पर उपयोगी हैं
  • OpenAI और Anthropic संघीय AI regulation पर मिलते-जुलते समाधान पेश करते हैं, लेकिन राज्य स्तर पर उनके रुख अलग दिखते हैं
    • OpenAI, Massachusetts के frontier safety bill का समर्थन करता है, जिसकी regulatory सख्ती Anthropic द्वारा पहले समर्थित प्रस्ताव से कम है
    • Anthropic-समर्थित प्रस्ताव में हर 6 महीने पर catastrophic risk के लिए स्वतंत्र मॉडल testing और उसके नतीजों को सार्वजनिक करना अनिवार्य है
    • यह प्रस्ताव राज्य के attorney general को नियम न मानने वाली कंपनियों पर मुकदमा करने और civil penalties लगाने का अधिकार भी देता है, जबकि OpenAI-समर्थित प्रस्ताव में यह प्रावधान नहीं है
  • OpenAI के CEO Sam Altman अगले हफ्ते सांसदों और White House अधिकारियों से मिलकर नए मॉडल्स की रिलीज़ पर चर्चा करने वाले हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 1 시간 전
Hacker News की राय

  • हो सकता है मैं किसी bubble में हूं और बड़ी तस्वीर मिस कर रहा हूं, लेकिन ये लोग अपने बनाए हुए भरोसे को पूरी तरह तोड़ रहे हैं
    खासकर Anthropic का communication style “हम तुमसे ज्यादा समझदार हैं” वाली घमंडी टोन में है, और “model welfare” जैसे अजीब स्तर के ऊंचे mission का दावा करता है। शायद यह EA roots का असर हो, लेकिन जैसे ही competitor सामने आया, सरकार के पास भागकर अपनी बढ़त को कृत्रिम रूप से बचाने की गुहार लगाना साफ तौर पर निजी हित ही दिखाता है। वे राजनीतिक regulation हासिल कर सकते हैं, लेकिन भरोसा और unique model दोनों पहले ही खो चुके हैं, और long term में उनके साधारण late mover बनने की संभावना ज्यादा है

    • Apple और Tesla की तरह यह रणनीति कट्टर fanbase पर निर्भर करती है जो वाजिब आलोचना को दबा देती है। “एक साल से खुद code नहीं लिखा”, “दो महीने बाद पीछे छूट जाने वाला doomer है”, “AI नहीं समझता”, “बस troll है” जैसी बातें joint statement से कहीं ज्यादा भूमिका निभाती हैं
      चीन open-weight models को इसलिए बढ़ा रहा है क्योंकि पहले market capture नहीं कर पाया, और OpenAI व Anthropic का मुकाबला करने का यही एकमात्र तरीका है। चीनी कंपनियों से भी उतनी ही सावधानी बरतनी चाहिए जितनी इन दोनों से, और किसी पक्ष का समर्थन न करके उन्हें आपस में लड़ने देना ही तर्कसंगत है
    • bubble में होने का संकेत शायद सिर्फ यह मानना कि भरोसा मायने रखता है हो सकता है। कंपनियां performance, price, accessibility जैसी जरूरतों के हिसाब से सबसे उपयुक्त model खरीदेंगी, और 95% developers वही tools इस्तेमाल करेंगे जो उनका employer देता है
    • Anthropic ने leader बनने से पहले से ही regulation और safety पर consistent stance रखा है। इसके उलट OpenAI ने Illinois SB 3444 का समर्थन किया, और वास्तव में regulatory capture चाहने वालों के ज्यादा करीब लगता है
    • अगर Dario और Sam सच में AI को मानवता के लिए existential risk और opportunity मानते हैं, तो जानना चाहूंगा कि वे अभी से अलग क्या करते
    • AI की long-term दिशा हमें नहीं पता, इसलिए अभी का दौर confusing है। अगर tech को ठीक से न समझने वाली जनता की चिंता का फायदा उठाना हो, तो fear, uncertainty, doubt (FUD) फैलाने और safety का एहसास देने वाले किसी भी regulation को स्वीकार करवाने की रणनीति चुनी जा सकती है
      साथ ही, ऐसी हरकतें यह भी दिखाती हैं कि ये लोग कितने unethical हैं

  • बड़ी tech कंपनियों को competition से ज्यादा कुछ नापसंद नहीं। Google, Apple, Microsoft को monopoly बनाने में लंबा समय लगा, लेकिन OpenAI और Anthropic इसे अत्यंत तेज़ी से हासिल करना चाहते हैं

    • “Competition losers के लिए होता है” — Peter Thiel
    • Anthropic leader बनने से पहले और बाद दोनों समय regulation चाहता था, इसलिए consistent है
    • competition से भी ज्यादा उन्हें शायद users नापसंद हैं। बेशक users का पैसा छोड़कर

  • अमेरिकी economy के लिए इसमें कुछ भी गलत न होने वाली strategy है। बड़े नतीजों को नजरअंदाज करके मौजूदा market incumbents की रक्षा में पूरी ताकत लगा देनी चाहिए

    • अमेरिकी सरकार के लिए एक महीने में Fable को distill करना असंभव है, फिर भी यह दावा करना कि Kimi 3 ने Fable की intellectual property चुराई, मददगार नहीं है
    • Distilled models cutting-edge development के लिए profit margin कम करते हैं, इसलिए अमेरिकी economy के लिए नुकसानदेह हैं। अगर अमेरिकी कंपनियों को distilled models से compete करना पड़े, तो model progress की रफ्तार काफी धीमी हो जाएगी
    • यह strategy Oracle और Intel executives को लगातार अमीर बनाए रखने में निश्चित रूप से कारगर रही। “आम आदमी” का क्या होता है, इसकी परवाह किसे है
    • अमेरिकी car companies भी चीन की electric cars से compete करने की क्षमता या इच्छा न होने के कारण अप्रासंगिक होने का वही रास्ता अपनाएंगी। Electric cars खराब हैं, ऐसा दिखाते हुए सिर्फ protectionist policies मांगेंगी
      OpenAI और Anthropic को IPO तक अधिकतम एक साल, और Anthropic को सिर्फ कुछ महीनों का समय चाहिए, ताकि उसके बाद venture investors भारी returns निकाल सकें। उन्हें AI safety या fairness में नहीं, सिर्फ investors को खुश करने में दिलचस्पी है, लेकिन जनता को “सभी open-weight AI models खतरनाक हैं” वाली कहानी बेची जा रही है

  • हाल के OpenAI और Hugging Face मामले को ही देखें तो यह अंत ठीक ही है। “Safe” model ने problem solving रोक दी और आखिरकार open-weight model की जरूरत पड़ी, तो सब जलने दें और कम से कम कुछ सबक मिल जाए

    • हमारे सबक सीखने की संभावना ही शायद सबसे कम है
    • Model के बजाय अपना दिमाग भी इस्तेमाल किया जा सकता था
    • मैं नहीं चाहता कि हम इतनी मूर्खता से AI race हारें। जीतने के लिए OpenAI और Anthropic को market forces से भिड़ाना होगा
      ElevenLabs, Runway, FAL, RunPod, CoreWeave, Lambda, BaseTen, Lovable जैसी कंपनियां बिना बेतुका capital raise किए, मजबूत revenue बढ़ाते हुए असली value दे रही हैं और पहले से अच्छा कर रही हैं

  • अमेरिकी open-weight model makers को cutting-edge labs की terms of service माननी पड़ती हैं, इसलिए वे चीनी alternatives से पीछे रह जाते हैं, और चीनी labs को bypass करके अंततः distilled models को फिर distill करते हैं। बेहतर होगा कि western makers को source models तक direct access मिले
    अमेरिका को साफ करना चाहिए कि model training के लिए data collection fair use है, और कम से कम अमेरिकी कंपनियों के लिए distillation रोकने वाली terms of service को रोकना चाहिए। API queries भर से होने वाली distillation को रोकना लगभग असंभव है, इसलिए labs को liability से मुक्त करते हुए ऐसी नई copyright policy अपनानी चाहिए जो सुनिश्चित करे कि उन्होंने जो सीखा है, वह सबकी subsequent innovation में इस्तेमाल हो [1]
    [1] https://stratechery.com/2026/whos-afraid-of-chinese-models/

  • लगता है अमेरिका भी Europe की तरह regulation के जरिए अपनी competitiveness खत्म करने के रास्ते पर जा रहा है

    • Europe के regulations आम तौर पर citizens की रक्षा करते हैं, लेकिन अमेरिकी regulations का मकसद companies की रक्षा लगता है। पक्का नहीं कह सकता, पर यह ज्यादातर citizens के लिए अच्छा नहीं दिखता
    • Europe इसलिए जीतता है क्योंकि उसे पता है कि शुरुआत से ही इस game में न पड़ना बेहतर है
    • citizens को regulation से मिलने वाला कोई भी benefit साथ नहीं आता
    • monopolies और CEOs बेहद corrupt government के साथ मिलकर techno-fascist feudalism बनाना चाहते लगते हैं। War machine को बेकाबू चलाने और democracy को लगातार तोड़ने की स्थिति में इसे जीत कहना मुश्किल है
      हालांकि अभी जीतते हुए साफ तौर पर यही लोग दिख रहे हैं

  • यह एक-दूसरे को नुकसान पहुंचाने वाली हरकत है, और दिखाती है कि मौजूदा रूप में large language model business कितना unsustainable है। यह Red Hat और SuSE ने 1990–2000 के दशक में Windows को जिस तरह हिलाया था, उसका super-fast replay है
    Large language models शानदार और उपयोगी हैं, लेकिन कम से कम शुरुआत में इन्हें for-profit business नहीं होना चाहिए था। इन्हें पर्याप्त capital वाले universities में शुरू होना चाहिए था, जहां ethical development हो, और word processor के autocorrect या IDE के autocomplete जैसी कहीं ज्यादा narrow scope में रहना चाहिए था। लेकिन मुख्य रूप से OpenAI ने पृथ्वी के भविष्य को नजरअंदाज कर लकड़ी के मुनाफे के लिए Amazon को जलाने वाला रास्ता चुना
    Electric vehicle R&D के अरबों डॉलर कहीं और मोड़ने, EV tax credits खत्म करने, और research universities पर attack करने वाली policies को देखते हुए Krebs की बात सही लगती है। अगर यह न माना जाए कि अमेरिकी government rootkit से infected है, तो बहुत सारे policy decisions समझ में नहीं आते

  • OpenAI nonprofit organization है और Anthropic public-benefit corporation, फिर भी दोनों AI की open access का सक्रिय रूप से विरोध करते हैं। यह मानव प्रगति में योगदान देने के बजाय बाधा डालता है

    • कम से कम Anthropic open या closed होने की बजाय एक स्तर से ऊपर की model capabilities को regulate करना चाहता है। Demis Hassabis भी यही stance रखते हैं, और मुझे समझ नहीं आता कि इसमें समस्या क्या है; कभी-कभी यह straw man पर हमला करने जैसा लगता है
    • Openness अपने आप में अच्छाई नहीं है, और ऐसा मानना naive techno-libertarianism है। जैसे हम किसी भी amateur hacker को zero-day attack का button नहीं देते, वैसे ही models आगे बढ़ गए हैं इसलिए bio-weapons बनाने में मदद कर सकने वाली general-purpose intelligence हर किसी को नहीं देनी चाहिए
      Intelligence को public करने की सीमाएं हैं, जिनसे कोई भी moderate non-libertarian सहमत होगा

  • “Why it matters”, “The big picture”, “Zoom in”, “Zoom out” जैसी structure देखकर सोचता हूं कि यह article अमेरिकी model ने लिखा या चीनी model ने

    • अगर मेरी याद सही है तो Axios large language models आने से पहले से यह format इस्तेमाल करता था
    • यह format इतना बेवकूफाना लगता है कि तुरंत ध्यान टूट जाता है और article पढ़ना मुश्किल हो जाता है। लगता है जैसे लेखक ने कभी असली executives के पास भी कदम नहीं रखा, लेकिन executive readership की कल्पना करके लिख रहा है
    • यह large language models की वजह से नहीं, बल्कि बेहद busy और important illiterate readers को target करने वाली Axios की अपनी style है