Tiger Data टीम ने 6 हफ्तों में Slack AI एजेंट 'Eon' बनाया, जिसे कंपनी के 50% कर्मचारी हर दिन इस्तेमाल करते हैं, और पूरी प्रक्रिया को open source के रूप में सार्वजनिक किया। फोकस demo-स्तर पर नहीं बल्कि वास्तविक production स्थिरता पर था, और खास बात यह रही कि उन्होंने सिर्फ LLM कॉल्स नहीं, बल्कि असली समस्याएं—जैसे context बनाए रखना, API डाउन होना, समवर्ती requests आदि—हल कीं.
1. समय को समझने वाली मेमोरी (Time-Based Memory)
- Slack एक बार में केवल एक message भेजता है, इसलिए पिछली बातचीत का context नहीं होता। "उसका क्या हुआ?" जैसे सवालों को संभालना मुश्किल होता है।
- समाधान: सभी Slack messages को timestamp के साथ real time में TimescaleDB में स्टोर किया गया। SQL queries से context समझा जाता है → API limits के बिना तेज और स्थिर.
2. सामान्य MCP सर्वर के जाल से बचना (Custom MCP Servers)
- MCP(Model Context Protocol): एक मानक जिससे एजेंट GitHub, Linear जैसे external tools तक पहुंचते हैं।
- समस्या: आधिकारिक servers में अनावश्यक tools बहुत होते हैं, जिससे tokens बर्बाद होते हैं, और API calls भी जटिल हो जाती हैं (कई बार करनी पड़ती हैं)।
- समाधान: खुद optimized MCP servers बनाए गए (e.g.,
tiger-linear-mcp-server)। एक ही tool से सारी जानकारी एक बार में लाई जाती है → context engineering के जरिए efficiency बढ़ती है।
3. प्रोडक्शन को विफलता मानकर डिज़ाइन करना (Failure-Resilient Design)
- crash, API डाउन, और traffic surge जैसी स्थितियों के लिए तैयारी जरूरी है।
- समाधान:
tiger-agents-for-workframework विकसित किया गया।- events को पहले PostgreSQL में रिकॉर्ड किया जाता है → loss से बचाव।
- automatic retry (अधिकतम 3 बार, 10 मिनट के अंतराल पर)।
- fixed worker pool → concurrency limits, queue processing।
- asynchronous signaling → millisecond response.
open source और getting started guide
- पूरा code
tiger-eonके रूप में जारी किया गया। 10 मिनट में install script के जरिए Slack एजेंट deploy किया जा सकता है। - modular: Slack memory, MCP server, framework को स्वतंत्र रूप से इस्तेमाल किया जा सकता है (e.g.,
tiger-docs-mcp-serverसे docs search)। - मुख्य संदेश: AI एजेंट के लिए कोई विशेष infra जरूरी नहीं; durable event processing + structured memory + focused tools के साथ PostgreSQL-आधारित निर्माण संभव है.
अभी कोई टिप्पणी नहीं है.