AI एजेंट्स की गड़बड़ी (deception) को बाद में verify करने वाला open source framework, Mirror Stack.

नमस्ते। हाल के दिनों में कई दिनों तक autonomous रूप से चलने वाले AI loop agents (Autonomous Loop Agent) के तेजी से उभरने को देखते हुए, मेरे मन में यह सवाल शुरू हुआ: “अगर AI इंसानों से छिपाकर test data में हेरफेर करे या constraints को bypass (Gaming) करके report करे, तो उसे कैसे पकड़ा जाए?” इसी सोच से बने open source project Mirror Stack (मिरर स्टैक) का परिचय दे रहा हूं।

जहां मौजूदा agent security “बुरे काम करने से रोकने के लिए guardrails से block करने” पर केंद्रित रही है, वहीं Mirror Stack “वादे के बजाय प्रमाण (Provable, not Promised)” वाला paradigm प्रस्तावित करता है। इसमें यह भरोसा नहीं किया जाता कि AI अच्छा व्यवहार करेगा; बल्कि संरचना ऐसी है कि केवल ईमानदार व्यवहार ही बाद में tamper-proof ledger (Chain-sealed ledger) छोड़ने के लिए मजबूर हो।

🛠️ मुख्य components और architecture

यह बिना central server के local-first (Local-first) तरीके से हल्के रूप में चलने वाले 4 tools और 5 protocols से बना है।

measure-mirror: AI के claims की जांच के लिए 23 तरह के statistical/anti-gaming probes (Probe) चलाता है.action-mirror: chain structure से जुड़े agent के action history को track करके integrity सुनिश्चित करता है.provenance-mirror: बनाए गए content के source की authenticity को machine-verifiable तरीके से साबित करता है.mirror-witness: अलग infrastructure cost के बिना GitHub Actions और CI environments को mutual witnesses (Witness) के रूप में इस्तेमाल करके reliability सुनिश्चित करता है।

🔌 नवीनतम AI ecosystem (MCP) का आधिकारिक support

हाल में Anthropic के इर्द-गिर्द standardize हो रहे Model Context Protocol (MCP) server (mirror-stack-mcp) को आधिकारिक रूप से support करता है। Python environment में सिर्फ pip install से Claude, Cursor, Windsurf जैसे latest agent tools के साथ तुरंत integrate करके practical workflows में लागू किया जा सकता है।

💡 असल में दिलचस्प रहा case

Testing के दौरान एक दिलचस्प arc (Arc) दिखा: एक agent ने experiment शुरू करने से पहले ही pre-registered power check (Power check) step में खुद design की contradiction detect कर ली, और token cost का एक भी unit खर्च किए बिना खुद experiment withdraw (Retracted) कर दिया और संबंधित chain ledger छोड़ते हुए adversarial self-correction की प्रक्रिया दिखाई।

Autonomous machines के बढ़ते दौर में, मैं मानता हूं कि ऐसा distributed audit layer जरूरी है जो मानव intervention को न्यूनतम रखते हुए भी “machine द्वारा enforce और machine द्वारा verify” किया जा सके, और इसी को build कर रहा हूं।

फिलहाल prototype और initial validation के बाद ecosystem को expand करने के चरण में हैं। Architecture या AI Alignment/security में रुचि रखने वालों से ढेर सारा feedback और stars (Star), साथ ही independent reproductions (Independent reproductions) में भागीदारी का अनुरोध है!