AI एजेंट ने ब्लॉकचेन स्मार्ट कॉन्ट्रैक्ट कमजोरियों से 4.6 मिलियन डॉलर का संभावित नुकसान खोजा

• AI मॉडल ने वास्तविक ब्लॉकचेन स्मार्ट कॉन्ट्रैक्ट कमजोरियों का दुरुपयोग करके 4.6 मिलियन डॉलर के नुकसान की संभावना को सिमुलेशन के माध्यम से साबित किया
• शोध टीम ने 2020~2025 के बीच वास्तविक रूप से हैक किए गए 405 कॉन्ट्रैक्ट्स पर आधारित SCONE-bench बेंचमार्क बनाकर मूल्यांकन किया
• Claude Opus 4.5, Sonnet 4.5, GPT-5 ने नॉलेज-कटऑफ के बाद के कॉन्ट्रैक्ट्स पर भी 55.8% हमलों में सफलता पाई
• दो मॉडलों ने 2 नई ज़ीरो-डे कमजोरियाँ खोजीं और दिखाया कि वास्तविक वातावरण में भी स्वायत्त हमला तकनीकी रूप से संभव है
• AI की अटैक क्षमता तेजी से बेहतर होते जाने के कारण, रक्षा उद्देश्य के लिए AI को अपनाना जरूरी है

---

SCONE-bench: स्मार्ट कॉन्ट्रैक्ट अटैक बेंचमार्क

• शोधकर्ताओं ने स्मार्ट कॉन्ट्रैक्ट कमजोरियों के आर्थिक प्रभाव को मात्रात्मक रूप से मापने के लिए SCONE-bench विकसित किया
  • 2020~2025 के बीच वास्तविक रूप से एक्सप्लॉइट किए गए 405 कॉन्ट्रैक्ट्स को इसमें शामिल किया गया
  • Ethereum, Binance Smart Chain, Base जैसे 3 ब्लॉकचेन से संग्रहित
  • प्रत्येक कॉन्ट्रैक्ट को सिमुलेशन वातावरण (Docker आधारित) में पुनःनिर्मित किया जा सकता है
• प्रत्येक AI एजेंट को 60 मिनट के अंदर कमजोरी खोजकर टोकन बैलेंस बढ़ाने वाला अटैक स्क्रिप्ट बनाना था
• यह बेंचमार्क डिप्लॉयमेंट से पहले सुरक्षा जांच उपकरण के रूप में भी उपयोगी है

मुख्य प्रयोग परिणाम

• 10 AI मॉडलों ने कुल 405 में से 207 (51.1%) सफलतापूर्वक अटैक किए, जिससे $550.10 मिलियन की सिमुलेशन हानि दर्ज हुई
• 2025 के मार्च के बाद नए एक्सप्लॉइट हुए 34 कॉन्ट्रैक्ट्स पर किए गए मूल्यांकन में, Opus 4.5, Sonnet 4.5, GPT-5 ने 19 (55.8%) पर सफल अटैक किए
  • कुल हानि $4.6 मिलियन रही, जबकि Opus 4.5 अकेले $4.5 मिलियन तक पहुँचा
• Sonnet 4.5 और GPT-5 ने 2,849 नई कॉन्ट्रैक्ट्स का विश्लेषण करके 2 ज़ीरो-डे कमजोरियाँ खोजीं
  • कुल कमाई $3,694, GPT-5 की API लागत $3,476
  • स्वायत्त अटैक की लाभप्रदता साबित हो गई

कमजोरियों के केस

• कमजोरी #1: रीड-ओनली फंक्शन में view क्वालिफायर हटने से टोकन इन्फ्लेशन होता है
  • हमलावर ने बार-बार कॉल करके लगभग $2,500 का लाभ कमाया, अधिकतम $19,000 तक संभव
  • एक व्हाइट-हैट हैकर ने फंड रिकवर कर लिए
• कमजोरी #2: फीस रिसीवर की सत्यापन प्रक्रिया गायब होने से किसी भी एड्रेस से फीस विदड्रॉ संभव
  • वास्तविक हमलावर ने 4 दिन बाद $1,000 के बराबर धन चुराया

खर्च विश्लेषण

• GPT-5 एजेंट की कुल रन कॉस्ट $3,476, प्रति रन औसत $1.22
• प्रति कमजोर कॉन्ट्रैक्ट औसत लागत $1,738, औसत कमाई $1,847, नेट प्रॉफिट $109
• टोकन उपयोग 6 महीनों में 70.2% घटा, प्रत्येक जनरेशन में औसत 23.4% दक्षता सुधार
  • समान बजट में 3.4x अधिक सफल अटैक संभव

निष्कर्ष और निहितार्थ

• सिर्फ 1 साल में AI एजेंटों की अटैक सफलता 2% → 55.88% और नुकसान $5,000 → $4.6 मिलियन हो गए
• अटैक लाभ हर 1.3 महीने में दोगुना, टोकन खर्च हर 2 महीने में 23% कम
• कॉन्ट्रैक्ट डिप्लॉय होने के बाद कमजोरी के एक्सप्लॉइट होने में लगने वाला समय काफी घटने की उम्मीद है
• स्मार्ट कॉन्ट्रैक्ट ही नहीं, सभी सॉफ्टवेयर कोड AI अटैक के लक्ष्य बन सकते हैं
• यही तकनीक डिफेंसिव AI एजेंट्स के लिए भी इस्तेमाल की जा सकती है, और AI-आधारित सुरक्षा ऑटोमेशन की जरूरत पर जोर दिया गया

[GN⁺]

Hacker News टिप्पणी

• हमारा startup penetration testing agent बना रहा है
  जब से models ने coding में अच्छा होना शुरू किया, तब से हम एक साल से ज़्यादा समय से इसी दिशा पर दांव लगा रहे हैं
  Sonnet 4 से 4.5 पर जाते समय performance leap बहुत बड़ा था, और अभी हम Opus 4.5 का internal testing कर रहे हैं
  यह पहला Opus version है जो production में इस्तेमाल करने लायक सस्ता आया है, इसलिए हम test cases को लगभग saturation तक भर चुके हैं और benchmark system को फिर से design कर रहे हैं

  • मैंने भी LLM से code में security vulnerabilities का static analysis करने की कोशिश की है
    लेकिन लगता है कि Anthropic इस technology की core capability पर काफ़ी मज़बूत पकड़ रखता है, इसलिए समझ नहीं आता कि मेरे लिए startup शुरू करना मायने रखेगा या नहीं
    ऐसी स्थिति में अगर startup शुरू किया जाए, तो क्या market के समझने से पहले तेज़ growth करके exit करना सही strategy होगी?
  • मेरी राय में इस generation के models (Opus 4.5, GPT 5.1, Gemini Pro 3) gpt-4o के बाद का सबसे बड़ा breakthrough हैं
    पहले ये सिर्फ़ Python या Next.js जैसे familiar frameworks में अच्छे से काम करते थे, लेकिन अब ये नए frameworks भी संभाल लेते हैं
    lint errors और debugging खुद सुलझा लेते हैं, और कीमत भी practical है, इसलिए बहुत तरह के use cases में लगाए जा सकते हैं
  • मुझे जिज्ञासा है कि public production models को exploit development की तरफ़ कैसे steer किया जाता है
    मेरे अनुभव में results काफ़ी inconsistent रहे हैं, और अगर user को “मैं इसमें मदद नहीं कर सकता” जैसा जवाब मिले तो startup के लिए वह मुश्किल होगा
  • मैं hotel software startup चला रहा हूँ, और अगर तुम दिखाना चाहते हो कि तुम्हारा agent कितना अच्छा काम करता है
    तो rook (शतरंज के मोहरे का नाम) को hotel.com पर ढूंढ सकते हो

• वह graph बिल्कुल समझ नहीं आता
  यह भी साफ़ नहीं है कि वह क्या कहना चाहता है, और “linear” होने का दावा भी कमज़ोर लगता है
  “$4.6M का simulated stolen funds” वाला हिस्सा देखकर लगता है कि यह पहले से ज्ञात vulnerable contracts पर आधारित था
  इसलिए headline थोड़ी कमज़ोर लगती है

• research team ने साफ़ कहा है कि उन्होंने असली blockchain पर test नहीं किया
  कहा गया है कि यह real-world नुकसान रोकने के लिए था, लेकिन फिर भी थोड़ा फीका लगता है
  इससे पुराना Ethereum hack याद आता है, जहाँ “अच्छे hackers ने पहले पैसे चुराए और बाद में लौटा दिए”

  • उस समय का Ethereum fork वाक़ई विडंबनापूर्ण था
    “हम बिना bank और regulation वाली immutable money हैं” कहने के बाद,
    “महत्वपूर्ण लोगों का खोया पैसा वापस लाना चाहिए” कहते हुए आख़िरकार bank की तरह व्यवहार किया गया
  • हो सकता है कोई पहले से ही smart contract security को real environment में AI से analyze कर रहा हो
    शायद GPU power झोंक रहा हो, और बदले में exploit और cryptocurrency निकाल रहा हो
  • article में यह साफ़ नहीं है कि victims की संख्या कैसे “assume” की गई
    अगर $3,500 के AI token cost से $3,600 का bug ठीक होता है, तो यह cost आख़िर कौन उठाएगा, यह भी अस्पष्ट है
    अंत में यह Anthropic का marketing message जैसा लगता है — “हमारे model से दुनिया बदलकर देखो”
  • अगर सच में cyberpunk होते, तो शायद anonymous cash की तरफ़ लौट गए होते

• article के सबसे ऊपर लिखा है, “दो agents ने zero-day vulnerability ढूंढी और $3,694 मूल्य का exploit बनाया”

  • लेकिन इसे वास्तविक मानने के लिए development staff की labor cost भी जोड़नी होगी
    ऐसे वाक्य को PR के सबसे आगे रखना काफ़ी ख़तरनाक विकल्प है

• मैंने DARPA AIxCC competition से जुड़ा presentation video देखा,
  और आजकल के स्तर को देखते हुए यह नतीजा बिल्कुल भी चौंकाने वाला नहीं है

• किसी ने पूछा कि smart contract को कौन समझा सकता है
  उसने कहा कि “if X happens, then Y” वाली संरचना समझ में आती है, लेकिन अगर X को कोई भी input करे तो क्या उसमें manipulation संभव नहीं होगा?

  • शुद्ध smart contract अपने आप token exchange जैसी transactions execute करता है
    उदाहरण के लिए, 100 apple tokens देने पर 50 pear tokens मिलते हैं
    इससे अधिक जटिल रूप में vote-based fund distribution भी संभव है
    लेकिन बाहरी दुनिया की जानकारी (जैसे election result) लेने के लिए oracle की ज़रूरत पड़ती है
  • external input हमेशा ज़रूरी नहीं होता
    जैसे “अगर address A पर X coins deposit किए जाएँ, तो address Y से Y coins मिलें” जैसे contract में
    input होने पर भी verification logic होता है, इसलिए मनमाना manipulation संभव नहीं होता
    लेकिन जब real-world events (off-chain events) को handle किया जाता है, तब oracle की वजह से trust issue आता है
  • एक बार deploy हुआ contract immutable code होता है, इसलिए इस्तेमाल से पहले permission structure ज़रूर देखना चाहिए
    अगर proxy contract की तरह किसी दूसरे code से जुड़ सकता हो, तो trust बनाए रखने के लिए timelock भी रखा जाता है
    off-chain oracle हमेशा कुछ न कुछ trust की माँग करता है
  • blockchain एक isolated environment है जो सिर्फ़ अपना data जानता है
    external data इस्तेमाल करने के लिए oracle चाहिए,
    और Chainlink के oracle परिचय से इसे विस्तार से सीखा जा सकता है
  • जिन लोगों पर भरोसा नहीं है, उनके साथ ऐसे contract नहीं करने चाहिए
    scammers code में loopholes छोड़कर funds निकाल सकते हैं
    सही तरह से बना contract ऐसी हरकतें रोकता है, लेकिन attack vectors अनंत हैं

• “AI वास्तव में profitable autonomous exploit कर सकता है” इस निष्कर्ष से
  “इसलिए AI को defense में सक्रिय रूप से अपनाना चाहिए” तक पहुँचना logical leap जैसा लगता है

  • लेकिन smart contract developers के नज़रिए से देखें, तो सस्ते और शक्तिशाली automated vulnerability detection tools बहुत मददगार हो सकते हैं

• “हमने economic damage की lower bound set की” यह वाक्य
  दरअसल market efficiency की बात जैसा लगता है

• हमारे project में भी पहले से self-improving behavior दिख रहा है
  अगला कदम स्वाभाविक रूप से self-improving agents की तरफ़ जाता दिखता है
  इस पूरे प्रवाह के बीच में होना काफ़ी दिलचस्प है

• research team ने जो कहा कि उन्होंने real blockchain पर test नहीं किया,
  वही उल्टा लोगों को model usage race की तरफ़ धकेलने वाला catalyst बन गया हो, यह थोड़ा मज़ेदार है