Anthropic की रिपोर्ट इतनी कमजोर है कि उस पर भरोसा करना मुश्किल है

• Anthropic द्वारा जारी AI-आधारित साइबर जासूसी गतिविधि रिपोर्ट दावा करती है कि उसने चीन-समर्थित हैकर समूह के हमले का पता लगाया, लेकिन तकनीकी आधार और सत्यापित की जा सकने वाली जानकारी की कमी को बड़ी समस्या बताया गया है
• रिपोर्ट में IoC (Indicators of Compromise), TTP (Tactics, Techniques, and Procedures), डोमेन·हैश वैल्यू·अटैक टूल जानकारी जैसे सामान्य threat intelligence रिपोर्ट के मुख्य तत्व बिल्कुल शामिल नहीं हैं
• हमले के विस्तृत तरीके, इस्तेमाल किए गए टूल या सिस्टम के प्रकार, नुकसान के दायरे आदि पर ठोस डेटा या सबूत पेश नहीं किए गए, इसलिए यह सत्यापित न किए जा सकने वाले दावे बनकर रह जाता है
• खास तौर पर चीन सरकार से जुड़े समूह के रूप में अट्रिब्यूशन (attribution) का दावा भी बिना आधार के है, जिससे कूटनीतिक असर की संभावना को नज़रअंदाज़ करने वाली गैर-जिम्मेदार घोषणा लगती है
• कुल मिलाकर इसे तथ्य-आधारित सबूत के बिना अपनी AI प्रोडक्ट्स के प्रचार में इस्तेमाल की गई रिपोर्ट के रूप में आंका गया है, और उद्योग में पारदर्शिता तथा सत्यापन मानकों को मजबूत करने की जरूरत बताई गई है

---

Anthropic रिपोर्ट का सार

• Anthropic, AI assistant Claude विकसित करने वाली कंपनी है, जिसने हाल ही में यह दावा करते हुए एक रिपोर्ट जारी की कि उसने “AI द्वारा संचालित साइबर जासूसी ऑपरेशन” का पता लगाया
• रिपोर्ट के अनुसार, 2025 के सितंबर के आसपास चीन-समर्थित हैकर समूह GTG-1002 ने लगभग 30 संस्थाओं को निशाना बनाकर हमले किए, और कुछ घुसपैठ सफल रहीं
• इसमें कहा गया कि Claude Code instance का उपयोग कर स्वायत्त रूप से penetration testing की गई और 80~90% tactical work को automate किया गया

तकनीकी आधार की कमी

• रिपोर्ट में डोमेन, हैश, IP, phishing email, इस्तेमाल किए गए टूल जैसी आम तौर पर सार्वजनिक की जाने वाली Indicators of Compromise (IoC) की कोई जानकारी नहीं है
• MITRE ATT&CK framework आधारित विश्लेषण, हमले का समय, tooling जानकारी, response recommendations आदि भी गायब हैं
• France CERT की APT28 रिपोर्ट जैसी सामग्री से तुलना करने पर इसे industry standard से नीचे के format के रूप में देखा गया है

सत्यापित न किए जा सकने वाले दावे

• रिपोर्ट का यह दावा कि “AI ने tactical work का 80~90% किया” सत्यापित नहीं किया जा सकता
• कहा गया है कि Claude ने certificate extraction, credential collection, internal service query जैसे काम किए, लेकिन ठोस execution method या टूल (Mimikatz आदि) का कोई उल्लेख नहीं है
• कौन-सा system या environment compromise हुआ, और data को कैसे handle किया गया, इस पर भी कोई विवरण नहीं दिया गया

अट्रिब्यूशन (attribution) की समस्या

• रिपोर्ट हमले को चीन सरकार से जुड़े समूह से जोड़कर पेश करती है, लेकिन कोई आधार नहीं देती
• यह स्पष्ट नहीं है कि वह कौन-सा APT समूह था और किस विश्लेषण के आधार पर यह अट्रिब्यूशन किया गया
• लेखक ने ऐसी बिना आधार की राज्य-स्तरीय अट्रिब्यूशन को कूटनीतिक रूप से जोखिमपूर्ण और गैर-जिम्मेदार घोषणा बताया है

निष्कर्ष और आलोचना

• ऐसा लगता है कि यह रिपोर्ट तथ्य-जांच के बिना अपने AI defense solution के प्रचार पर केंद्रित है
• अंतिम पैराग्राफ में “security teams को defense में AI लागू करना चाहिए” जैसी सिफारिश देकर AI security product बेचने की मंशा भी झलकती है
• लेखक इसे “शर्मनाक और गैर-पेशेवर आचरण” बताते हुए पूरे उद्योग में सत्यापन मानकों की मजबूती और नैतिक जिम्मेदारी की मांग करता है
• बिना आधार के दावे security research की विश्वसनीयता को नुकसान पहुँचा सकते हैं, इसलिए तथ्य-आधारित सबूतों का खुलासा जरूरी है

[xguru]

AI द्वारा संचालित पहले साइबर जासूसी अभियान को रोका गया

[GN⁺]

Hacker News राय

• पहले मैं एक FAANG कंपनी की AI लैब में SRE/सिस्टम एडमिन था, तब मुझसे infosec के लिए ट्यून किए गए foundation model को टेस्ट करने को कहा गया था
  मैंने उसे नकली printer या Linux box हैक करने के लिए उकसाया, लेकिन असल में वह ज़्यादा मददगार नहीं था
  मुझे नहीं लगता कि इस तरह के मॉडल attack orchestration में खास उपयोगी होंगे। खासकर जब API किसी bank account से जुड़ा हो, तब किसी public system के ऊपर command-and-control structure बनाना जोखिम भरा विकल्प है

  • मुझे लगता है cyber criminal के लिए ऐसी पाबंदियों का बहुत मतलब नहीं होता। वे अक्सर चोरी की API keys या चुराए गए account से भुगतान करते हैं
    आज के AI पहले से कहीं बेहतर हैं, इसलिए अगर safety filter को bypass कर लिया जाए तो security से जुड़े काम भी आसानी से कर लेते हैं
  • “किशोर data labeler चला रहे हैं” वाली बात क्या Alexandr Wang की ओर इशारा है? wiki में उसकी उम्र 28 साल लिखी है
  • कोई malicious actor Claude को उसकी attack code लिखने की क्षमता की वजह से नहीं, बल्कि इसलिए चुनेगा क्योंकि पश्चिमी संगठनों में Claude का इस्तेमाल बहुत होता है
    Sonnet model को पश्चिमी code patterns पर ट्रेन किया गया है, इसलिए उसी distribution वाले data से काम करने वाले systems की कमजोरियां ढूंढने में यह फायदेमंद हो सकता है
    phishing attack में भी natural language tone दोहराना आसान होता है
  • “Meta और उसके teenage data labelers” सुनकर पुरानी बातें याद आ गईं
  • API अगर bank account से बंधा हो, तब भी OpenRouter जैसी intermediary service crypto payment स्वीकार करती है

• Anthropic blog का correction log दिलचस्प है
  14 नवंबर 2025 को “प्रति सेकंड हजारों requests” को बदलकर “हजारों requests, जो प्रति सेकंड कई बार हुईं” किया गया

  • “प्रति सेकंड कई requests” के आधार पर यह तय कर लेना अजीब है कि हमला इंसान ने नहीं बल्कि autonomous model ने किया था
    इंसान भी code के जरिए प्रति सेकंड कई काम कर सकता है
  • मुझे नहीं लगता कोई technical व्यक्ति ऐसी units को गड़बड़ करेगा

• लोग APT (Advanced Persistent Threat) को कम करके आंकते हैं
  जहां मैं काम करता था वहां Gmail compromise की घटना हुई थी, और वह कई zero-day तथा social engineering campaign को मिलाकर किया गया composite attack था
  आखिर में एक खास nation-state actor के संकेत मिले, और AI ऐसे हमलों की efficiency को तेज़ करने का काम करता है

  • सच कहें तो कुछ APT में low-skill attacker भी होते हैं। मैंने ऐसे मामले देखे हैं जहां बिना password वाला HTTP server खोलकर पूरा root folder exposed छोड़ दिया गया
    वे quantity से खेलते हैं, quality से नहीं। इसलिए मैं Anthropic की report पर पूरी तरह भरोसा नहीं करता
  • “नवीनतम hardware और software खबरें” सुनते-सुनते पता ही नहीं चलता कि आपने एक और tech podcast subscribe कर लिया
  • यह जानकर हैरानी हुई कि एक ही attack में कई zero-day इस्तेमाल हुए थे
  • मैं बस यह पक्का करना चाहता हूं कि APT का मतलब Advanced Persistent Threat ही है

• Infosec researchers और ML security researchers के बीच knowledge gap बहुत बड़ा है
  Anthropic में दूसरे तरह के लोग ज़्यादा हैं और पहले तरह के कम
  Attacker Moves Second पेपर में भी इस फर्क पर बात की गई है
  ML पक्ष ASR (Attack Success Rate) को metric मानता है, जबकि security पक्ष एक बार की सफलता को भी गंभीर मानता है
  ML static testing मानकर चलता है, जबकि security adaptive attacker को मानकर चलती है

  • ML researcher security expert नहीं होता। पूरी तस्वीर देखने के लिए दोनों क्षेत्रों को साथ इस्तेमाल करना चाहिए
    ML blue team है, और security researcher red team की भूमिका में है

• पूरा लेख मुझे ऐसे marketing copy जैसा लगा: “Claude इतना शक्तिशाली है कि चीनी hackers उसका इस्तेमाल करते हैं”

  • यह कुछ वैसा ही लगा जैसे पहले अफवाह थी कि PlayStation 2 इतना ताकतवर है कि इराक उसे supercomputer की तरह इस्तेमाल करता है
    संबंधित लेख लिंक
  • लगता है Anthropic ने Claude अच्छा बना लिया, इसलिए उसे भ्रम हो गया कि वे security experts भी हैं
    इसी वजह से शायद report industry standard तोड़ते हुए लिखी गई
  • “चीनी खतरे” पर जोर देने से अमेरिकी सरकार की पसंद मिल सकती है
    संभव है उन्होंने सचमुच कोई हमला detect किया हो, लेकिन उसे सीधे चीनी सरकार समर्थित संगठन कहना बढ़ा-चढ़ाकर किया गया marketing लगता है
  • “हमारा product खतरनाक है” जैसे प्रचार की रणनीति defense industry के बाहर कम ही दिखती है
    फिर भी अगर वे इसे सार्वजनिक न करते तो concealment के लिए आलोचना होती, इसलिए यह warning purpose वाली रिपोर्टिंग भी हो सकती है

• समस्या यह है कि हमले को चीन समर्थित group कहने के लिए पर्याप्त आधार नहीं दिया गया
  ऐसी report मुझे अमेरिकी सरकार के निवेश को आकर्षित करने वाला political message लगती है

  • public report में tool या URL जैसी details देना दुर्लभ है
    government report में वह हो सकती हैं, लेकिन blog level पोस्ट में छोड़ी जा सकती हैं
    हालांकि “सबूत कम हैं” से सीधे “यह political manipulation है” पर पहुंचना भी मुझे अतिशयोक्ति लगता है
    AI का इस तरह के हमलों में इस्तेमाल होना अपने-आप में पर्याप्त warning sign है
  • Anthropic लंबे समय से anti-China line लेता आया है
    संभव है कि उसने कुछ Chinese IP वाले incidents को जानबूझकर उभारा हो
  • AI bubble जल्द फूटेगा, और कंपनियां खुद को national security infrastructure की तरह पेश करके सरकारी समर्थन लेना चाहती हैं
  • यह विडंबना है कि वे “चीन तकनीक चुराता है” कहते हैं, जबकि खुद copyrighted works पर बिना अनुमति training करते हैं

• सोचता हूं कि Anthropic में सचमुच security experts हैं भी या नहीं
  यह सिर्फ corporate strategy भी हो सकती है, लेकिन internal structure के हिसाब से security capability की कमी भी हो सकती है

  • मैं अक्सर उनकी engineering capability की आलोचना करता हूं। ऐसी कंपनी के पास ठीक-ठाक security system होने की संभावना बहुत कम लगती है
  • जब security staff कम हो, तब “चीनी सरकार प्रायोजित espionage operation” जैसे दावे बिना सबूत करना गैर-जिम्मेदाराना है
  • वैसे भी उनके पास ऐसे reports पर train किया हुआ model खुद होगा, तो फिर वे खुद analysis क्यों नहीं कर पा रहे, यह सवाल उठता है
  • AI का इस्तेमाल करके security problem सुलझाने पर एक presentation video भी है
    YouTube लिंक

• जिसने Claude जैसे coding assistant AI का इस्तेमाल किया है, वह उसकी क्षमता को कम नहीं आंकेगा
  मुझे report का दावा भी काफी plausible लगा

  • मैं Claude को SSH access देकर server के अंदर की network problem खुद जांचने देता हूं
    tcpdump और routing table का analysis इसमें काफी उपयोगी रहा
    लेकिन उसकी सीमाएं और वह कब गलत काम करेगा, यह समझना और खुद दखल दे पाना ज़रूरी है
  • “मैंने इस्तेमाल नहीं किया, लेकिन” शैली की पोस्ट HN पर अक्सर दिखती हैं
    जिसने चीज़ को खुद इस्तेमाल नहीं किया, उसका expert की तरह बोलना कम विश्वसनीय लगता है
  • report की समस्या tool की संभावना नहीं, बल्कि सबूत की कमी है
    सिर्फ संभावना से कोई report भरोसेमंद नहीं बन जाती
  • Anthropic ने सिर्फ plausibility दिखाई है, empirical evidence नहीं दिया; इसलिए इसकी quality कम लगती है और motive पर शक होता है

• Anthropic की report मुझे ऐसी विज्ञापन सामग्री लगी: “हमारी technology इतनी शक्तिशाली है कि उसका दुरुपयोग हो सकता है”
  जैसे किसी हथियार के विज्ञापन में कहा जाए, “देखो यह हथियार कितना खतरनाक है”

• शीर्षक पहली बार देखकर मुझे लगा था कि paper company Anthropic किसी अजीब गंध वाले कागज़ के बारे में बात कर रही है
  अंत तक पढ़ने के बाद भी यह अब भी बकवास जैसा लगता है