> # TL;DR
>
> - LLM/AI एजेंट बनाते समय
> - हमेशा सादगी को मूल सिद्धांत रखें, और केवल ज़रूरत पड़ने पर ही जटिलता जोड़ें"
> - "framework को गहराई से समझकर अपनाएँ", "workflow·agent pattern (chaining, routing, parallelization, evaluator-optimizer आदि) को वास्तविक वातावरण और उद्देश्य के अनुसार संयोजित और टेस्ट करें, तथा tool (API) डिज़ाइन, documentation और testing को बारीकी से करें".
1. सफल LLM एजेंट के डिज़ाइन सिद्धांत
- सादगी पर फोकस: सफल implementations जटिल framework पर निर्भर रहने की बजाय, सरल और compoundable pattern का उपयोग करने की ओर अधिक झुकती हैं।
- केवल आवश्यकता होने पर जटिलता जोड़ें: मूल संरचना को यथासंभव सरल डिज़ाइन करें, और केवल तब जटिलता लाएँ जब वह अनिवार्य हो।
- (मूल: "सबसे सफल implementations किसी विशेष library या जटिल framework पर निर्भर नहीं थीं... वे सरल लेकिन modular रूप से जोड़े जा सकने वाले pattern पर आधारित थीं।")
2. Workflow VS Agent की अवधारणा में अंतर
- Workflow: LLM और tool पहले से परिभाषित route (code path) के अनुसार प्रोसेस करते हैं।
- Agent: LLM स्वयं काम और tool उपयोग को dynamic रूप से manage करता है (निर्णय लेने वाली इकाई LLM होती है)।
- (मूल: "workflow में LLM और tool पहले से परिभाषित code path के अनुसार coordinated होते हैं... agent में LLM अपने process और tool उपयोग के तरीके को dynamic रूप से निर्देशित करता है")
3. Agent अपनाने के निर्णय के मानदंड
- सरल तरीके से शुरू करें → ज़रूरत पर धीरे-धीरे जटिलता बढ़ाएँ: शुरुआत में साधारण LLM call, search आदि से शुरू करें, और यदि वह पर्याप्त न हो तो धीरे-धीरे Workflows/Agents अपनाएँ।
- Predictability/consistency महत्वपूर्ण हो → workflow अधिक उपयुक्त
- बड़े पैमाने पर flexibility·model-driven decision-making चाहिए → agent अधिक उपयुक्त
4. Framework अपनाने के सिद्धांत
- LangGraph, Bedrock, Rivet, Vellum जैसे विभिन्न tool/framework मौजूद हैं,
- लेकिन सीधे LLM API के उपयोग से शुरुआत करें, और केवल ज़रूरत पर framework अपनाने की सिफारिश है।
- framework का उपयोग करते समय उसके आंतरिक कामकाज की गहरी समझ अनिवार्य है (abstraction के कारण troubleshooting कठिन हो सकती है)।
- (मूल: "developers को पहले LLM API को सीधे उपयोग करने के तरीके से शुरू करने की सिफारिश की जाती है")
5. व्यावहारिक pattern-आधारित workflow और उदाहरण
- Augmented LLM: search, tool connection, memory जैसी built-in extension capabilities जोड़ना (स्पष्ट interface डिज़ाइन और documentation महत्वपूर्ण)
- Prompt Chaining: एक कार्य को कई LLM call (steps) में बाँटकर स्पष्टता और accuracy सुनिश्चित करना।
- उदाहरण: marketing copy generation → translation, document draft → review → writing
- Routing: input को classify करके उसके अनुसार processing·tool में branch करना
- उदाहरण: customer inquiry type के अनुसार routing, केवल कठिन प्रश्नों को high-performance model को भेजना
- Parallelization:
- Sectioning: काम को कई subtask में बाँटकर एक साथ प्रोसेस करना
- Voting: एक ही काम को कई बार आज़माकर सबसे अच्छा परिणाम चुनना
- उदाहरण: code vulnerability review, LLM evaluation automation
- Orchestrator-Workers: master agent subtask बाँटता और उन्हें integrate करता है।
- उदाहरण: जटिल coding task में केवल आवश्यक हिस्सों को real-time में बाँटना, कई data sources को collect/integrate करना
- Evaluator-Optimizer: एक LLM उत्तर बनाता है, दूसरा LLM उस उत्तर का evaluation·feedback देकर उसे बार-बार बेहतर बनाता है
- उदाहरण: translation result का iterative improvement, complex information gathering
6. वास्तविक उद्योग उपयोग के उदाहरण
- Customer support: chatbot + tool integration, customer data/order/refund कार्यों का automation; सफलता को 'समस्या समाधान' के आधार पर स्पष्ट रूप से मापा जा सकता है। Usage-based pricing जैसे enterprise references भी मौजूद हैं।
- Coding agent: automated testing feedback के आधार पर iteration·improvement, SWE-bench आदि में इसका प्रमाण मिला है। समस्या क्षेत्र और output quality को स्पष्ट रूप से मापा जा सकता है। हालांकि, अंतिम review में हमेशा human intervention आवश्यक है।
7. Tool prompt engineering (Appendix 2) टिप्स
- LLM के लिए आसान format और पर्याप्त token allocation की सिफारिश
- Tool description (usage, examples, edge cases, boundary setting आदि) को स्पष्ट रखें
- वास्तविक model usage pattern को test ⇒ improve करें (workbench आदि का उपयोग)
- छोटी गलतियों को भी रोकने वाली poka-yoke शैली की डिज़ाइन
- (मूल: "अच्छी tool definition में usage examples, edge cases, input format requirements, और अन्य tools के साथ स्पष्ट boundary शामिल होना अच्छा है।")
8. मुख्य सिद्धांत
- सादगी बनाए रखें (Keep it simple)
- Agent planning process की transparency अनिवार्य
- Tool·interface की स्पष्ट documentation और testing
- framework शुरुआती गति के लिए अच्छा हो सकता है, लेकिन abstraction को न्यूनतम रखें और direct control को प्राथमिकता दें
4 टिप्पणियां
पूर्वानुमेयता/सुसंगतता महत्वपूर्ण → workflow का उपयोग उपयुक्त
बड़े पैमाने पर लचीलापन·model-नेतृत्वित निर्णय-निर्धारण की आवश्यकता → agent अधिक उपयुक्त
आपने लेख को विस्तार से देखा और मुख्य बिंदुओं को बिल्कुल सही पकड़ा..!
अच्छा है, बहुत अच्छा है, उहाहा
अच्छा लगा कि आपको यह लेख पसंद आया धन्यवाद :)