- Anthropic के CEO Dario Amodei ने एक कर्मचारी मेमो के जरिए OpenAI के अमेरिकी रक्षा विभाग के कॉन्ट्रैक्ट को "दिखावटी सुरक्षा उपाय (safety theater)" बताते हुए तीखी आलोचना की
- Anthropic के पास पहले 200 million dollar का एक सैन्य कॉन्ट्रैक्ट था, लेकिन रक्षा विभाग द्वारा तकनीक तक असीमित पहुंच की मांग किए जाने पर समझौता नहीं हो सका
- इसके बाद OpenAI ने रक्षा विभाग के साथ कॉन्ट्रैक्ट किया, और Sam Altman ने कहा कि इसमें Anthropic द्वारा मांगी गई उसी तरह की red-line सुरक्षा शर्तें शामिल हैं
- Amodei ने कर्मचारियों से कहा कि Altman खुद को "शांति मध्यस्थ और dealmaker" के रूप में पेश कर रहे हैं, और OpenAI का संदेश "सीधा झूठ" है
- इस कॉन्ट्रैक्ट के बाद ChatGPT deletion की घटनाएं 295% बढ़ गईं, जिससे दिखता है कि जनमत Anthropic के पक्ष में अधिक सहानुभूतिपूर्ण रहा
Dario Amodei के कर्मचारी मेमो की बातें
- The Information की रिपोर्ट के अनुसार, Amodei ने कर्मचारी मेमो में OpenAI की रक्षा विभाग डील को "safety theater" कहा
- उन्होंने लिखा, "OpenAI ने यह कॉन्ट्रैक्ट स्वीकार किया और हमने इसे ठुकराया, इसका मुख्य कारण यह है कि वे कर्मचारियों को शांत रखने की चिंता कर रहे थे, जबकि हम वास्तव में दुरुपयोग रोकने की चिंता कर रहे थे"
- उन्होंने Altman पर खुद को "शांति मध्यस्थ और dealmaker" के रूप में पेश करने का आरोप लगाया और OpenAI के संदेश को सीधे "straight up lies" यानी "सीधा झूठ" कहा
Anthropic और रक्षा विभाग के बीच बातचीत क्यों टूटी
- अमेरिकी रक्षा विभाग के साथ बातचीत में Anthropic ने AI तकनीक तक असीमित पहुंच की मांग को ठुकरा दिया
- कंपनी चाहती थी कि DoD यह गारंटी दे कि उसकी AI का इस्तेमाल घरेलू स्तर पर बड़े पैमाने की निगरानी या autonomous weapons development के लिए नहीं होगा
- यह शर्त स्वीकार न होने पर 200 million dollar का कॉन्ट्रैक्ट रद्द हो गया
- इसके बाद DoD ने OpenAI के साथ नया कॉन्ट्रैक्ट कर लिया
- Trump प्रशासन के दौरान "Department of War" के नाम से भी संदर्भित रक्षा विभाग ने Anthropic के बजाय OpenAI के साथ कॉन्ट्रैक्ट किया
- Sam Altman ने कहा कि नए defense कॉन्ट्रैक्ट में Anthropic द्वारा मांगी गई उसी red-line protections को शामिल किया गया है
- OpenAI ने एक blog post में कहा कि उसके AI systems का इस्तेमाल "all lawful purposes" के लिए किया जा सकता है
- OpenAI ब्लॉग के अनुसार, "रक्षा विभाग ने बातचीत में साफ किया कि घरेलू स्तर पर बड़े पैमाने की निगरानी अवैध मानी जाती है और उसका इस उद्देश्य से उपयोग करने की योजना नहीं है"
- कंपनी ने कहा कि जो चीजें lawful use की सीमा में नहीं आतीं, उन्हें कॉन्ट्रैक्ट में स्पष्ट रूप से शामिल किया गया है
Anthropic की ठोस आपत्तियां
- Anthropic ने खास तौर पर इस बात पर आपत्ति जताई कि रक्षा विभाग उसकी AI का इस्तेमाल "any lawful use" के लिए कर सके
- आलोचकों का कहना है कि कानून बदल सकते हैं, और जो आज अवैध है वह भविष्य में अनुमति योग्य हो सकता है
सार्वजनिक प्रतिक्रिया और बाजार पर असर
- OpenAI के रक्षा विभाग कॉन्ट्रैक्ट की घोषणा के बाद ChatGPT deletion 295% बढ़ गया
- इससे संकेत मिलता है कि जनता OpenAI के सैन्य कॉन्ट्रैक्ट को संदिग्ध या अपारदर्शी मान रही है
- Amodei ने मेमो में लिखा कि "यह spin/gaslighting की कोशिश जनता या मीडिया में खास काम नहीं कर रही, और ज्यादातर लोग OpenAI के कॉन्ट्रैक्ट को संदेह से देख रहे हैं और हमें नायक की तरह देख रहे हैं"
Anthropic के भीतर का माहौल
- Amodei ने कर्मचारियों से जोर देकर कहा कि OpenAI का "विकृत संदेश" आंतरिक कर्मचारियों को प्रभावित नहीं करना चाहिए
- उन्होंने कहा कि OpenAI की PR strategy सिर्फ कुछ online users पर ही असर डाल रही है, लेकिन व्यापक जन-समर्थन हासिल करने में विफल रही है
3 टिप्पणियां
लेकिन फिर opencode को क्यों ब्लॉक किया... हुहुक..
Hacker News की राय
जब @sama ने कुछ ही घंटों में घोषणा की कि Anthropic की जगह OpenAI वही कॉन्ट्रैक्ट उन्हीं शर्तों पर कर रहा है, तो मुझे साफ लगा कि DoW या OAI में से कोई न कोई तथ्यों को तोड़-मरोड़ रहा है
अगर DoW ने Anthropic की शर्तें ठुकराईं, तो OpenAI की शर्तें व्यवहार में लागू ही न की जा सकने वाली रही होंगी
ध्यान से पढ़ने पर वे कुछ ऐसी लगीं जैसे, “DoW अपने ही बनाए नियम नहीं तोड़ेगा”
Sam Altman ने कहा कि DoD के लिए मॉडल में नियम एम्बेड किए जाएंगे ताकि दुरुपयोग रोका जा सके, लेकिन वह लगभग यह कहने जैसा है कि alignment की समस्या को कम समय में हल कर लिया जाएगा। इस पर भरोसा करना मुश्किल है
पहले मुझे उनके essays पसंद थे, लेकिन समय के साथ वे आत्म-चिंतन से दूर और इस सोच के करीब लगने लगे कि startup ही जीवन का सब कुछ है
इस बार भी Altman का बचाव करते देखना बहुत निराशाजनक है। उनका ट्वीट देखें, वे वास्तविकता से आंखें मूंद रहे हैं
शायद Altman को दुनिया के सामने लाने की अपनी जिम्मेदारी की भावना के कारण वे उनकी आलोचना नहीं कर पा रहे हैं
ज़्यादातर तकनीकी लोग political philosophy नहीं पढ़ते, और प्राचीन “Gyges की अंगूठी” की कहानी आज भी उतनी ही प्रासंगिक है
इसे सिर्फ नैतिकता का मुद्दा मानना ठीक नहीं होगा। यहां भारी पूंजी दांव पर लगी है
frontier models को train करने में खगोलीय स्तर की लागत आती है, और उसे सिर्फ DoD जैसी संस्थाएं ही उठा सकती हैं
Anthropic का safety concerns के कारण रक्षा विभाग का कॉन्ट्रैक्ट ठुकराना एक बड़ा दांव है। बदले में वह उम्मीद कर रही है कि उसका “Constitutional AI” approach बाज़ार में पुरस्कृत होगा
OpenAI रक्षा विभाग की फंडिंग भी चाहती है और consumer-friendly छवि भी बनाए रखना चाहती है। लेकिन दोनों चीजें साथ नहीं चल सकतीं
इस पूरे मामले से शायद Anthropic ने उल्टा और ज़्यादा revenue कमा लिया हो
असली जोखिम तब है जब सरकार Anthropic को supply-chain risk घोषित कर दे
Anthropic का Palantir के साथ काम करते हुए DoD surveillance का विरोध करना विरोधाभासी लग सकता है
यह देखते हुए कि DoD ने Anthropic से कॉन्ट्रैक्ट तोड़कर OpenAI से नया समझौता किया, साफ है कि दोनों कंपनियों की शर्तों में वास्तविक अंतर था
सरकारी कॉन्ट्रैक्ट्स के तहत वह जांच और सुरक्षा सहित कई तरह के data को integrate करती है, लेकिन उसे सीधे collect नहीं करती
Wired लेख देखें
TechCrunch लेख देखें
Dario का पूरा memo यहां सार्वजनिक किया गया है
यह सिर्फ competition नहीं, बल्कि वैचारिक टकराव जैसा दिखता है
और OpenAI कर्मचारियों को “आसानी से बहकने वाले Twitter के मूर्ख” कहना talent hiring के लिहाज़ से भी अच्छा फैसला नहीं है
उदाहरण ट्वीट देखें
@pg ने @sama को “ऐसा इंसान बताया था जिसे अगर नरभक्षियों के द्वीप पर भी छोड़ दिया जाए, तो 5 साल बाद वह वहां का राजा बन चुका होगा”, और अब यह सत्ता-लालसा का प्रतीकात्मक उद्धरण लगता है
Dario इस दौर में दुर्लभ ईमानदारी वाला व्यक्ति लगता है। उम्मीद है वह डगमगाएगा नहीं
आखिरकार ये सब for-profit कंपनियां हैं, और एक पक्ष के गलत होने से दूसरा अपने-आप सही नहीं हो जाता
आधिकारिक घोषणा लिंक देखें
यह मानना पड़ेगा कि Altman ने SCR clause में Anthropic का समर्थन किया, लेकिन वह तो न्यूनतम अपेक्षित स्तर की बात थी
वह उद्धरण शुरू से ही नकारात्मक अर्थ वाला लगा था। इस community को भी पदानुक्रम के प्रति स्वाभाविक संदेह रखना चाहिए
सच कहें तो दोनों labs ‘safety theater’ ही कर रही हैं
alignment की समस्या सुलझाए बिना, वे बाज़ार के दबाव में खतरनाक capability race में लगी हैं
यह OpenAI subscription रद्द करने और अकाउंट डिलीट करने की कार्रवाई की अपील है
कुछ भी न करना मूक समर्थन जैसा है
Sam Altman झूठ बोलता है? अब यह चौंकाने वाली बात नहीं रही
वह लोगों को धीरे-धीरे खुद पर इतना निर्भर बना देता है कि बाद में कोई भी उसे हटा न सके
OpenAI की हालत ऐसी है कि वह सरकार की फंडिंग पर निर्भर रहकर जीवित रहना चाहती है
Sam और management को पहले ही संकट का एहसास हो चुका है, और उन्हें सरकारी पैसे की जरूरत है
चुनाव से पहले बाज़ार को टिकाए रखने का राजनीतिक हिसाब भी इसमें शामिल है
Nvidia, Micron, Oracle, Microsoft — सब इस प्रवाह में उलझे हुए हैं
मैंने Anthropic, OpenAI और अमेरिकी सरकार के बीच हाल की घटनाओं को संक्षेप में दिखाने वाली एक timeline website बनाई है
HN पोस्ट लिंक
DoD: Department of Defense
..W: ..War