अमेरिकी सरकार ने Fable 5 और Mythos 5 के लिए सभी विदेशी नागरिकों की पहुंच रोकने का निर्देश दिया

 (anthropic.com)
1 पॉइंट द्वारा GN⁺ 5 시간 전 | 6 टिप्पणियां | WhatsApp पर शेयर करें
  • अमेरिकी सरकार के राष्ट्रीय सुरक्षा अधिकार के आधार पर जारी export control आदेश के तहत, अमेरिका के भीतर और बाहर सभी विदेशी नागरिकों की Fable 5·Mythos 5 तक पहुंच रोक दी गई है, और नियमों के अनुपालन के लिए सभी ग्राहकों के लिए सेवा तुरंत निलंबित कर दी गई है
  • आदेश ET समयानुसार शाम 5:21 बजे प्राप्त हुआ, और इसमें राष्ट्रीय सुरक्षा चिंताओं का ठोस विवरण नहीं दिया गया
  • सरकार का आधार संभवतः Fable 5 की jailbreaking तकनीक की जानकारी होना माना जा रहा है, लेकिन उस तकनीक से पहचानी गई कमजोरियां पहले से ज्ञात और मामूली स्तर की थीं, और अन्य public models में भी बिना bypass के पाई जा सकती हैं
  • Anthropic ने लॉन्च से पहले अमेरिकी सरकार, UK AISI और बाहरी संस्थाओं के साथ हजारों घंटों का red team testing किया था, और किसी भी tester ने universal jailbreak नहीं खोजा
  • Anthropic का कहना है कि सीमित दायरे की jailbreak संभावना के आधार पर करोड़ों लोगों द्वारा उपयोग किए जाने वाले commercial model को वापस लेने के मानदंड से वह सहमत नहीं है, और यदि यही मानदंड अन्य model providers पर भी लागू किया जाए तो नए models की तैनाती लगभग रुक जाएगी

आदेश की सामग्री और तात्कालिक प्रभाव

  • अमेरिकी सरकार ने राष्ट्रीय सुरक्षा अधिकार का हवाला देते हुए export control आदेश जारी किया, जिसके तहत अमेरिका के भीतर और बाहर सभी विदेशी नागरिकों (Anthropic के विदेशी नागरिक कर्मचारियों सहित) की Fable 5·Mythos 5 तक पहुंच रोक दी गई
  • आदेश के परिणामस्वरूप, नियमों के अनुपालन के लिए सभी ग्राहकों के लिए Fable 5·Mythos 5 को अचानक निष्क्रिय कर दिया गया
    • Anthropic के अन्य सभी models की पहुंच प्रभावित नहीं हुई
  • आदेश उसी दिन ET शाम 5:21 बजे प्राप्त हुआ, और पत्र में राष्ट्रीय सुरक्षा चिंताओं का कोई ठोस विवरण शामिल नहीं था

सरकार की चिंता का अनुमानित आधार

  • माना जा रहा है कि सरकार को Fable 5 की jailbreaking bypass तकनीक की जानकारी हुई
  • इस तकनीक के प्रदर्शन की समीक्षा के अनुसार, इसका उपयोग पहले से ज्ञात कुछ मामूली कमजोरियों की पहचान के लिए किया गया था
    • ये कमजोरियां अपेक्षाकृत सरल थीं, और अन्य public models में भी बिना bypass के समान रूप से पाई जा सकती हैं

Fable के safety guards पर Anthropic का रुख

  • Anthropic का कहना है कि उसने cyber security जैसे कार्यों में दुरुपयोग की संभावना को काफी कम करने वाले मजबूत safety guards लगाए हैं, यहां तक कि कई users ने इन्हें जरूरत से ज्यादा व्यापक बताया है
  • लॉन्च से ठीक पहले कई हफ्तों तक अमेरिकी सरकार, UK AISI, कई private third-party संस्थाओं और internal teams के साथ कुल हजारों घंटों की red team validation की गई
  • इन tests में यह पुष्टि हुई कि Fable के safety guards अब तक deploy किए गए किसी भी model की तुलना में व्यावहारिक रूप से अधिक प्रभावी हैं
  • किसी भी tester ने universal jailbreak (ऐसा तरीका जो model safety guards को व्यापक रूप से bypass कर विविध cyber capabilities खोल दे) नहीं खोजा

पूर्ण jailbreak defense की सीमाएं

  • Anthropic का कहना है कि फिलहाल किसी भी provider के लिए पूर्ण jailbreak resistance संभव नहीं दिखती, और उद्योग के सभी safety guards non-universal jailbreak (विशिष्ट परिस्थितियों में कुछ cyber जानकारी निकालने वाली तकनीक) के प्रति संवेदनशील हैं
    • universal jailbreak भी भविष्य में मिल सकती है, और Fable 5 के लॉन्च के समय यह बात स्पष्ट रूप से बताई गई थी

Defense in Depth रणनीति

  • पूर्ण सुरक्षा संभव न होने की स्थिति में Anthropic ने defense in depth रणनीति अपनाई है, जिसमें jailbreak को या तो सीमित दायरे तक बांधा जाता है (non-universal) या बहुत महंगा बनाया जाता है (universal), और कड़ी monitoring के जरिए हमलों को तेजी से पहचानकर रोका जाता है
    • इसके लिए Fable में 30 दिन के customer data retention की आवश्यकता रखी गई, जिससे ग्राहकों पर वास्तविक लागत आती है, लेकिन jailbreak research और mitigation संभव होती है
  • Anthropic का कहना है कि वह इसी बहुस्तरीय रक्षा रणनीति पर कायम है, और इससे जोखिम उद्योग में पहले से deploy किए गए models के तुलनीय स्तर तक घटता है
  • उसे ऐसे चिंताजनक non-universal jailbreak की कोई जानकारी नहीं दी गई जो हानिकारक परिणाम तक पहुंचा हो, और साझा किए गए सभी संभावित jailbreak या तो harmless responses थे या Mythos की कोई विशिष्ट बढ़त नहीं दिखाने वाली मामूली खोजें थीं

सरकार को प्रस्तुत साक्ष्यों की जांच

  • Anthropic के अनुसार अब तक सरकार ने केवल मौखिक साक्ष्य दिए हैं, जिनका संबंध एक सीमित दायरे के non-universal jailbreak से है, जिसमें model से एक खास codebase पढ़ने और software defects ठीक करने को कहा गया
  • Anthropic का कहना है कि सरकार के साथ साझा किया गया संभावित jailbreak एक ही था, और आदेश के आधार माने जा रहे report की समीक्षा में यह पाया गया कि बताई गई capability level OpenAI के GPT-5.5 जैसे अन्य models में भी व्यापक रूप से उपलब्ध है
    • यह capability वही स्तर है जिसका उपयोग सिस्टम की रक्षा करने वाले defenders रोजाना करते हैं
  • अगले 24 घंटों में अतिरिक्त विवरण साझा करने की योजना है

Anthropic की प्रतिक्रिया और रुख

  • Anthropic ने सरकार के कानूनी आदेश का पालन करते हुए सभी users के लिए Fable 5·Mythos 5 की पहुंच हटा दी
  • हालांकि, उसका कहना है कि सीमित दायरे की संभावित jailbreak की खोज को करोड़ों लोगों में वितरित commercial model को वापस लेने का आधार नहीं माना जाना चाहिए
    • कंपनी का मानना है कि यदि यही मानदंड पूरे उद्योग में लागू किया गया, तो सभी frontier model providers के नए model deployment लगभग रुक जाएंगे
  • Anthropic का कहना है कि सरकार के पास असुरक्षित deployment रोकने का अधिकार होना चाहिए, लेकिन यह पारदर्शी, निष्पक्ष, स्पष्ट और तकनीकी तथ्यों पर आधारित कानूनी प्रक्रिया का हिस्सा होना चाहिए, और यह कदम उन सिद्धांतों पर खरा नहीं उतरता
  • कंपनी ने ग्राहक भ्रम के लिए माफी मांगी, इसे गलतफहमी बताया, और कहा कि वह जल्द से जल्द पहुंच बहाल करने की कोशिश कर रही है

संबंधित पढ़ाई

6 टिप्पणियां

 
clumsily 3 시간 전

कितनी भी बार देखूं, लगता है कि इतने समय तक हंगामा मचाते हुए यह कहते रहना कि हमारा मॉडल खतरनाक है, आखिरकार अपने ही पैर पर कुल्हाड़ी मारने जैसा नहीं था क्या।
यह marketing की सफलता होगी या असफलता, यह भविष्य में ही पता चलेगा, लेकिन फिलहाल तो यह असफलता ही लगती है।
 
unsure4000 3 시간 전

Pentagon घटना के बाद Anthropic पर आने वाले users की आमद को देखें, तो मुझे नहीं लगता कि IPO से ठीक पहले के इस समय में Anthropic को इससे बिल्कुल भी नुकसान होगा.
Guardrail जैसी issues को ढकने के लिए भी, अगर शुरू से ही model की service बंद कर दी जाए तो आगे verification ही नहीं हो पाएगा, इसलिए यह तो उनके लिए एकदम मुफ़ीद होगा.
 
kirinonakar 4 시간 전

अब AI कंपनियों के पास बेहतर प्रदर्शन वाले मॉडल विकसित करने का कोई कारण नहीं रह गया है। लगता है AI की प्रगति यहीं तक थी।
 
lsdcnu 2 시간 전

ये क्या है..haha
 
unsure4000 5 시간 전

विदेशी नागरिकता वाले Anthropic कर्मचारियों सहित

हाहाहाहाहाहाहाहाहाहाहा
 
GN⁺ 5 시간 전
Hacker News टिप्पणियाँ

  • उन्होंने लंबे समय तक इसे ऐसे बेचने की कोशिश की मानो उनका मॉडल दूसरों से बहुत आगे हो, fear marketing करते रहे, तो अब उसकी कीमत चुकानी पड़ रही है
    लगता है आखिरकार उन्हें ऐसे सही बेवकूफ दर्शक मिल गए जिन्होंने उनकी बातों पर यक़ीन कर लिया

    • IPO से पहले वे ट्वीट कर सकते हैं कि उनका मॉडल कितना डरावना और ताकतवर है, इसलिए Anthropic के नज़रिए से यह अच्छी publicity है
    • यह सिर्फ Anthropic की समस्या नहीं है। यह सत्ता संघर्ष है, और इस तकनीक का इस्तेमाल करने वाले सभी लोग इसका नुकसान उठाएँगे। खुश होने की बात नहीं है
    • कीमत चुकानी? यह तो उनके लिए संभवतः सबसे बेहतरीन marketing है
    • इसे पढ़कर लगता है कि Trump प्रशासन ने शायद “fear marketing” न होने पर भी Anthropic को निशाना बनाया होता

      अब तक सरकार ने हमें जो दिखाया है, वह केवल संभावित रूप से सीमित और सार्वभौमिक न होने वाले jailbreaks के बारे में मौखिक सबूत है, और मूल रूप से इसमें मॉडल से किसी खास codebase को पढ़ने और software defects को ठीक करने के लिए कहने की बात है। हमारी समझ के अनुसार एक संभावित jailbreak सरकार के साथ साझा किया गया था। हमने उस report की समीक्षा की, और पाया कि उसमें दिखी capability का स्तर अन्य मॉडलों में, जिनमें OpenAI का GPT-5.5 भी शामिल है, व्यापक रूप से उपलब्ध है, और systems को सुरक्षित रखने वाले defenders रोज़ इसका इस्तेमाल करते हैं

    • Anthropic यही चाहता था, और चाहता था कि यह कदम खुद उस पर भी लागू हो, साथ ही शक्तिशाली मॉडल जारी करने वाले बाकी सभी frontier model providers पर भी

      जैसा कि हम सार्वजनिक रूप से कह चुके हैं, हमारा मानना है कि सरकार को पारदर्शी, निष्पक्ष, स्पष्ट और तकनीकी तथ्यों पर आधारित न्यायिक प्रक्रिया के हिस्से के रूप में असुरक्षित deployments को रोकने में सक्षम होना चाहिए। यह कार्रवाई उन सिद्धांतों का पालन नहीं करती
      आखिरकार उन्हें वही मिल गया जो वे चाहते थे

  • ऐसा लगता है जैसे असंख्य कंपनियाँ और उपयोगकर्ता अब Chinese models पर और ज़्यादा दांव लगाएंगे
    दूसरे देशों का ऐसे मॉडलों तक पहुंचना अमेरिका की national security का मुद्दा हो सकता है। लेकिन अब दूसरे देशों के लिए ऐसे मॉडलों पर, और व्यापक रूप से अमेरिकी तकनीक पर निर्भर होना भी उतना ही national security issue बन जाता है

    • मैं सोच रहा हूँ किस मॉडल की बात हो रही है। और ठोस तौर पर कौन-सी hypothesis रखी जा सकती है। क्या मतलब यह है कि Anthropic के 20~50% उपयोगकर्ता DeepSeek की ओर चले जाएँगे?
    • क्या सबसे बड़ा Qwen 3.7 closed model नहीं है? यह मानना मुश्किल है कि चीन की policy यहाँ कम कठोर होगी
    • उस दिन का इंतज़ार कीजिए जब Chinese models को डाउनलोड या इस्तेमाल करना भी गैरकानूनी हो जाएगा, आधा मज़ाक है

  • तार्किक रूप से देखें तो क्या बस यही निष्कर्ष नहीं बचता कि अमेरिका जनता के लिए उपलब्ध कराए जाने वाले model capability की अधिकतम सीमा तक पहुँच चुका है? ऐसा precedent बन जाने के बाद कोई और ज़्यादा स्मार्ट मॉडल में निवेश क्यों करेगा
    शायद उससे भी ज़्यादा महत्वपूर्ण बात यह है कि अगर Mythos जैसा मॉडल, जो Opus के मुकाबले मुश्किल से incremental improvement है, ऐसा बर्ताव झेलता है, तो ASI/AGI/उससे भी कहीं बेहतर मॉडलों को आधार मानकर किए गए सारे AI निवेश की वसूली कैसे होगी

    • ज़्यादा plausible निष्कर्ष यह लगता है कि प्रशासन Anthropic से नाराज़ है, और हाथ में जो औज़ार मिला उससे प्रतिशोधात्मक कार्रवाई कर रहा है
      अगर OpenAI या Grok उसी स्तर पर काम कर रहे होते, तो शायद सरकार की इतनी कड़ी मार नहीं पड़ती
    • मुझे ऐसा नहीं लगता। एक समय PlayStation 2 को भी export करने के लिए बहुत शक्तिशाली माना जाता था: https://www.pcmag.com/news/20-years-later-how-concerns-about...
      ChatGPT 2 को भी कभी सार्वजनिक रूप से जारी करने के लिए बहुत शक्तिशाली माना गया था
      AI, culture और mindset की तुलना में तेज़ी से आगे बढ़ा है। जब हम इन मॉडलों की क्षमता के साथ खुद को ढाल लेंगे, तब थोड़ी ढील दी जाएगी, और फिर अगला incremental improvement वही चक्र फिर से शुरू कर देगा। हमेशा ऐसा ही होता है
    • आगे चलकर सबसे अच्छे frontier models सिर्फ अमीर लोगों को नियंत्रित रूप में उपलब्ध कराए जाएँगे
    • यह “technology” किसी भी ऐसे व्यक्ति के लिए संभव है जिसके पास नया मॉडल train करने लायक पर्याप्त पैसा हो। इसलिए, इस bubble के जल्द फूटने से अलग भी, बस कुछ महीने रुकिए और किसी और के पास ऐसा ही मॉडल होगा
      यह बड़े language models के इर्द-गिर्द बने अमेरिकी spectacle का नतीजा है। इस बार बस इसका उल्टा असर हुआ है
    • सोमवार सुबह तक इस कदम के पलट दिए जाने की संभावना 95% है, तो वही जवाब है

  • अब चाहे मॉडल सच में ख़तरनाक हों या नहीं, भविष्य के मॉडलों की खतरनाक होने की दलील शायद अब खत्म हो जाएगी
    अगर सरकार अमेरिका के भीतर और बाहर सभी foreign users को यूँ ही मॉडल का इस्तेमाल बंद करने का आदेश दे सकती है, तो कोई भी इन मॉडलों के ऊपर कुछ महत्वपूर्ण बनाने का जोखिम नहीं उठाएगा। आखिरकार विदेशी कंपनियाँ बराबरी कर लेंगी और ऐसे मॉडलों का commercial market ले जाएँगी। बस अमेरिका, जैसा वह अक्सर करता है, competitors को प्रतिबंधित कर देगा, इसलिए संभव है कि व्यवहार में सिर्फ अमेरिका में backend अलग मॉडलों पर चल रहा हो

    • यह ज़्यादा उस semiconductor boom के अंत जैसा लगता है जो “लगातार बड़े होते मॉडलों की monetization” पर आधारित था। अगर अमेरिकी सरकार यह कहकर monetization रोक सकती है कि कोई मॉडल “बहुत अच्छा” हो गया है, और वह भी मनमाने आदेश से, तो पूरा खेल ढह जाएगा
      ऐसे समय में जब दुनिया भर में तेल की कमी, उर्वरक की कमी, और bubble expansion में भोंडे हस्तक्षेप एक साथ चल रहे हैं, ऊपर से कानून के शासन को तुच्छ समझने वाला और बाईस विशेषज्ञ डॉक्टरों से घिरा अस्सी पार का सनकी stable genius गाड़ी चला रहा है—मानो हमें इसके लिए आभारी होना चाहिए
    • पोस्ट पढ़कर लगता है कि jailbreak रोकथाम काफ़ी ज़्यादा सख्त होगी और false positives भी बढ़ेंगे

      हमें आज शाम 5:21 बजे (Eastern Time) सरकार से निर्देश मिला। पत्र में national security concerns के ठोस विवरण नहीं थे। हमारी समझ के अनुसार सरकार का मानना है कि वह Fable 5 को bypass या “jailbreak” करने का तरीका जानती है। हमने इस खास technique का प्रदर्शन देखा, जिसका उपयोग पहले से ज्ञात कुछ मामूली vulnerabilities की पहचान के लिए किया जाता है। ये vulnerabilities सभी अपेक्षाकृत सरल लगती हैं, और हमने पुष्टि की है कि दूसरे public models भी इन्हें bypass के बिना ढूँढ सकते हैं

    • अगर मामला ऐसा है, तो बहुत-से अमेरिकी शायद उसके ऊपर कुछ महत्वपूर्ण बनाने का जोखिम उठाएँगे

  • बड़ी कंपनियों या कुछ हद तक बड़े संगठनों के नज़रिए से देखें तो, ऐसी स्थिति में इन्फ्रास्ट्रक्चर का कोर अचानक निष्क्रिय हो जाने के खतरे को झेलना मुश्किल है। on-premises और offline access के लिए दबाव बहुत तेज़ी से बढ़ेगा, और चाहे वह weights licensing हो या TEE/CC जैसे सीमित environment, कोई न कोई उस मांग को पूरा करेगा

    • Pareto frontier पर कई बिंदु उभरने की संभावना काफ़ी ज़्यादा है
      कुछ लोग ज़्यादा जोखिम लेकर जीतेंगे या हारेंगे, और दूसरी तरफ़ कुछ लोग ज़्यादा सुरक्षित ढंग से चलते हुए धीरे-धीरे नतीजे बनाएँगे या पीछे छूट जाएँगे
      यह तो अलग ही बात है कि इन मॉडलों से कंपनी के कामकाज चलाने वाला code लिखवाना, या उन्हें agent की तरह operate करवाना, अपने आप में एक बड़ा जोखिम है। हो सकता है यह मॉडल किसी ऐसे actor ने train किया हो—चाहे वह कोई company हो या nation-state—जिसके हित आपके हितों के ठीक उलट हों
      अब सोचने के लिए बहुत कुछ है, और business करने के लिए यह दिलचस्प समय है
    • मैं इस बात से सहमत हूँ कि on-premises और offline access की मांग बहुत ज़्यादा होगी, लेकिन समस्या यह है कि Big AI ने हममें से ज़्यादातर लोगों के लिए उसे चलाने वाला hardware ही वहन करना मुश्किल बना दिया है। जैसे RAM, NVMe वगैरह
    • ठीक इसी वजह से मुझे लगता है कि लंबी अवधि में Chinese open models जीतेंगे। बड़े परिप्रेक्ष्य में capability gap इतना नाटकीय नहीं है, लेकिन उन्हें खुद run कर पाना बहुत बड़ा selling point है
      भले ही आप किसी चीनी कंपनी से open model लेकर इस्तेमाल कर रहे हों, अगर वह access काट दे या terms को किसी अप्रिय तरीके से बदल दे, तो आप on-premises पर switch कर सकते हैं। यह झंझट भरा हो सकता है, लेकिन इससे अस्तित्व पर संकट नहीं आएगा। इसके उलट, अगर आप closed model पर निर्भर हैं और access कट गया, तो बहुत बड़ी तकलीफ़ होगी
      यहाँ बड़ी तस्वीर infrastructure dominance की है। Chinese models वही models बनेंगे जिन्हें लोग वास्तव में इस्तेमाल करेंगे, और उसी के साथ वे standards भी तय करेंगे। फिर उनके आसपास और research, और tools, और पूरा ecosystem बनेगा
      इस हंगामे से पहले भी वह प्रक्रिया शुरू हो चुकी थी, क्योंकि Chinese models दुनिया भर में सबसे ज़्यादा इस्तेमाल किए जाने वाले models बनते जा रहे थे। https://www.indiatoday.in/amp/technology/features/story/clau...

  • इस युग की भोर ईरान से लेकर online age verification regimes तक हर जगह दिखाई दे रही है, और यह तो बस शुरुआत है। आने वाली दुनिया तकनीकी रूप से hypermodern, यहाँ तक कि futuristic होगी, लेकिन संरचनात्मक रूप से medieval जैसी महसूस होगी। यह Frank Herbert की दुनिया है। यह सबको एक सार्वभौमिक normative space में शामिल करने के रूप में संगठित नहीं होगी, बल्कि protection, extraction, और controlled access वाले overlapping zones के रूप में संगठित होगी
    https://turbulence.substack.com/p/the-gated-age

  • अगर आप बहुत लंबे समय तक यह कहते रहेंगे कि आपका product कितना ख़तरनाक है, तो जिन लोगों के पास ख़तरनाक products को बाज़ार से रोकने की शक्ति है, वे शायद आपकी बात सुन लें
    ख़ासकर तब, जब वे लोग इस समय ज़्यादा समझदार भी न हों, और पहले से ही Anthropic से इसलिए नाराज़ हों कि वह उनके अलग authoritarian लक्ष्यों को हासिल करने में मदद नहीं कर रहा
    मुझे नहीं लगता कि यह Anthropic की 3D chess है। वे, जैसा वे खुद को समझना चाहते हैं, वैसे किसी पर्दे के पीछे बैठे प्रतिभाशाली रणनीतिकार नहीं हैं। जिन लोगों ने वास्तव में product इस्तेमाल किया है, वे जानते हैं कि Fable और Mythos कोई doomsday device नहीं, बल्कि incremental improvement हैं। मुझे यह ऐसी administration की punitive action लगती है जिसे सज़ा देना पसंद है, और Anthropic ने अपनी मूर्खतापूर्ण rhetoric से अनजाने में उसके लिए तर्क को मज़बूत कर दिया

  • कहा गया है कि यह आज Eastern Time के हिसाब से 5:21 पर हुआ
    पेज पर 11 जून 2026 दिख रहा था, और पिछले 10 मिनट के भीतर उसे update करके 12 जून 2026 कर दिया गया
    https://imgur.com/a/lx7HCW9
    Google दिखा रहा है कि इस पेज को कुछ दिन पहले crawl किया गया था
    “the us government directive to suspend access to fable” खोजकर देखिए

    3 days ago — The US government has issued an export control directive to suspend all access to Fable 5 and Mythos 5.
    https://imgur.com/a/KQrYPMh

    • वह launch blog post है। Google ने शायद नीचे के Related Content section से snippet लिया है, जिसमें अमेरिकी सरकारी directive वाली post शामिल है
    • यह thread भी बिल्कुल उसी तरह दिख रहा है
      https://imgur.com/a/EOWWUbD
    • यह जानकारी कि Google ने उसे कुछ दिन पहले crawl किया था, कहाँ से आई? imgur capture सबूत के तौर पर काफ़ी कमज़ोर है। कम-से-कम archive.today इस्तेमाल करना चाहिए, या Google के crawl करने के सबूत का ही capture होना चाहिए

  • हमने उस report की समीक्षा की है, और पुष्टि की है कि उसमें सामने आया capability level अन्य models—जिसमें OpenAI का GPT-5.5 भी शामिल है—में भी व्यापक रूप से उपलब्ध है, और system को सुरक्षित रखने वाले defenders रोज़ाना उसका इस्तेमाल करते हैं। हम अगले 24 घंटों में और विस्तृत जानकारी साझा करेंगे
    Mythos के GPT 5.5 से बहुत आगे होने वाली सारी rhetoric, ख़ासकर cybersecurity में, इससे काफ़ी हद तक ठंडी पड़ जाती है। बेशक AISI benchmark ने पहले ही ऐसा संकेत दिया था, लेकिन अब यह दिलचस्प है कि Anthropic वही बात तब कह रहा है जब वह उसके हित में है

    • इसका मतलब यह नहीं कि दूसरे models हर मायने में उसी capability level पर हैं। मतलब सिर्फ इतना है कि अमेरिकी सरकार ने जिस specific capability का परीक्षण किया, वह अन्य models में भी मौजूद है
    • यह सरकार द्वारा चिन्हित specific capability की बात है, Fable की overall capability की नहीं। इस हफ्ते Fable को बहुत complex कामों के लिए इस्तेमाल करने के अपने अनुभव से कहूँ तो, कम-से-कम software engineering में यह किसी भी दूसरे model से कहीं ज़्यादा शक्तिशाली था
    • अगर इस वजह से 5.5 ban हो गया तो मैं सच में बहुत नाराज़ हो जाऊँगा
    • दूसरे models से तुलना सरकारी उदाहरण में jailbreak के ज़रिए पूरा करवाए गए tasks तक सीमित है, यह उन सभी vulnerabilities के बारे में नहीं है जिनका misuse बिना bypass के किया जा सकता है

  • अमेरिका में हों या Anthropic के कर्मचारी हों, किसी भी देश से आने वाले विदेशी नागरिकों को इस्तेमाल से रोक देना हद से ज़्यादा व्यापक और कठोर लगता है। वह भी दिखने में मामूली-सी एक संभावित jailbreak vulnerability की वजह से, तो मामला जितना दिख रहा है उससे बड़ा लगता है

    • ऐसा लग रहा है कि कौन लोग इस्तेमाल करते रह सकते हैं, इसकी सीमा ITAR या EAR जैसे दूसरे अमेरिकी export controls के साथ मिलाई गई है
    • सही। यह सरकार बारीकी के लिए मशहूर तो है नहीं…
    • दुख की बात है, लेकिन export controls आम तौर पर ऐसे ही काम करते हैं। राष्ट्रीय प्रयोगशाला में काम करने पर भी विदेशी शोधकर्ताओं को राष्ट्रीय सुरक्षा से जुड़े क्षेत्रों में न आने देना सबसे आसान सुरक्षा उपाय माना जाता है
      इसका मतलब यह नहीं कि इससे शोधकर्ताओं या शोध के लिए अच्छा नतीजा निकलता है। यह ज़्यादा उस फंडिंग के इस्तेमाल पर अमेरिकी निर्देशों के लिए एक तरह की insurance है
    • DoD और Anthropic के बीच बचा हुआ मनमुटाव भी है। अमेरिकी सरकार के शीर्ष स्तर की समग्र परिपक्वता को देखते हुए, इस पर काफ़ी दांव लगाया जा सकता है कि Mythos, Hegseth गैंग के लिए बदला लेने का एक अच्छा बहाना बन गया