प्रभावी "Agents" बनाने का तरीका

एजेंट क्या है?

• एजेंट की परिभाषा अलग-अलग हो सकती है, लेकिन इसे दो भागों में बाँटा जा सकता है:
  • Workflows: पहले से परिभाषित code path के जरिए LLM और tools को समन्वित किया जाता है
  • Agents: LLM काम के निष्पादन और tool usage को dynamic तरीके से नियंत्रित करता है
• Anthropic इन दोनों को Agentic Systems की श्रेणी में रखता है, लेकिन flexibility और autonomy में महत्वपूर्ण अंतर मानता है

एजेंट का उपयोग कब करना चाहिए?

• अगर सरल solution संभव हो, तो complexity को न्यूनतम रखना महत्वपूर्ण है
• Workflows: predictable tasks को संभालने में उपयोगी, और consistency व stability देते हैं
• Agents: बड़े scale पर flexibility और model-driven decision-making की जरूरत हो तो उपयुक्त
• ज़्यादातर मामलों में, सिर्फ LLM call को optimize करना या context examples का उपयोग करना ही पर्याप्त होता है

framework उपयोग गाइड

• प्रमुख frameworks:
  • LangGraph, Amazon Bedrock AI Agent, Rivet, Vellum
• framework के फायदे:
  • LLM calls, tool definition, और call chain को सरल बनाना
• नुकसान:
  • ये अतिरिक्त complexity ला सकते हैं या debugging को कठिन बना सकते हैं
• सिफारिश: सीधे LLM API से शुरू करें, और framework का उपयोग करें तब भी underlying code को समझना चाहिए

एजेंट सिस्टम के components

Augmented LLM

• विशेषताएँ: retrieval, tool usage, और memory capabilities अतिरिक्त रूप से शामिल
• इम्प्लीमेंटेशन तरीके:
  • Model Context Protocol का उपयोग करके third-party tools के साथ integration संभव
  • सरल और documented interface प्रदान करता है

प्रमुख workflow patterns

• Prompt Chaining
  • काम को fixed sub-steps में बाँटकर क्रमवार process करना
  • use cases:
    • marketing copy बनाकर फिर उसका translation
    • document draft लिखकर फिर उसकी review
• Routing
  • input data को classify करके उपयुक्त task तक भेजना
  • use cases:
    • customer support queries का वर्गीकरण (सामान्य प्रश्न, refund request, technical support)
    • सरल प्रश्नों को छोटे model की ओर, और जटिल प्रश्नों को अधिक शक्तिशाली model की ओर route करना
• Parallelization
  • tasks को अलग करना या एक ही task को कई बार चलाना
  • use cases:
    • code vulnerability review में कई prompts का उपयोग
    • user input को अलग करके filtering और response
• Orchestrator-Workers
  • एक central LLM काम को तोड़कर worker LLMs को assign करता है और परिणामों को समेकित करता है
  • use cases:
    • जटिल coding tasks में file modification
    • multi-information retrieval tasks
• Evaluator-Optimizer
  • LLM responses का मूल्यांकन करके feedback देना और उन्हें दोहराव के साथ सुधारना
  • use cases:
    • साहित्यिक translation में translation quality सुधारना
    • multi-search और analysis tasks

Agents

• Agents काम की योजना बनाते हैं और स्वतंत्र रूप से उसे execute करते हैं, ज़रूरत पड़ने पर इंसानों के साथ interact भी करते हैं
• विशेषताएँ:
  • tool usage के माध्यम से environment से "सत्य" प्राप्त करके प्रगति का मूल्यांकन
  • काम के दौरान inspection और interruption conditions सेट की जा सकती हैं
• use cases:
  • जटिल coding agents
  • Claude द्वारा computer पर tasks execute करने वाली implementation

patterns का संयोजन और customization

• ऊपर दिए गए patterns को खास परिस्थितियों के अनुसार adjust और combine किया जा सकता है
• complexity केवल तभी जोड़नी चाहिए जब उससे परिणामों में सुधार साबित हो

सारांश

• LLM क्षेत्र में सफलता का मतलब सबसे जटिल system बनाना नहीं, बल्कि ज़रूरत के अनुरूप सही system बनाना है
• सरल prompts से शुरुआत करें, evaluation के जरिए optimize करें, और केवल तब multi-step agent system जोड़ने पर विचार करें जब simple solution पर्याप्त न हो
• agent implementation के मुख्य सिद्धांत
  1. सरलता बनाए रखें: agent का design सरल रखें
  2. पारदर्शिता को प्राथमिकता दें: agent के planning steps को स्पष्ट रूप से सामने लाएँ
  3. Agent-Computer Interface (ACI) की गुणवत्ता सुधारें: tools की documentation और testing अच्छी तरह करें
• framework उपयोग और implementation strategy
  • framework शुरुआती implementation में उपयोगी हो सकते हैं, लेकिन abstraction layer को कम करके और base components से system बनाना भी विचार करने योग्य है
  • इन सिद्धांतों का पालन करने पर शक्तिशाली, भरोसेमंद और maintainable agents बनाए जा सकते हैं

ग्राहक उदाहरण: व्यावहारिक काम में agents का उपयोग

• A. customer support
  • प्राकृतिक संवाद प्रवाह और external data integration के जरिए प्रभावी समाधान प्रदान करना
  • फायदे:
    • सफल समाधान दर से मापा जा सकता है
    • usage-based pricing model लागू किया जा सकता है
• B. coding agents
  • code solutions को automated tests के जरिए verify किया जा सकता है
  • फायदे:
    • test results को feedback के रूप में उपयोग करना
    • problem space स्पष्ट और संरचित होता है
• C. tool design और optimization
  • LLM के tool usage तरीके को ध्यान में रखकर design करना
  • सिफारिशें:
    • intuitive और concise parameter names का उपयोग
    • testing और iterative improvement
    • tool definitions में examples और edge cases शामिल करना

[savvykang]

लगता है कि low-code पर "low barrier to entry" लागू किया गया है, लेकिन data schema और version management के बिना बदलावों को ट्रैक करना संभव नहीं होगा।

[curiousotter]

मेरे सीमित अनुभव में, ऊपर-ऊपर से यह functional programming में functions को जोड़ने जैसा लगा, लेकिन ऐसा अराजक programming भी, जहाँ function का I/O (parameters, return type) क्या होगा यह पता ही नहीं होता..
इसे करते हुए मन में लगातार यही सवाल आता रहा कि क्या यह सच में करना ज़रूरी है..? क्या इसे इतना सपोर्ट करना चाहिए..?
अभी तक तो मुझे यह ठोस तौर पर महसूस नहीं हुआ कि ऐसी कौन-सी domains हैं जहाँ agentic systems सचमुच ज़रूरी हैं।