छोटी टीम में कई AI एजेंट्स को प्रोडक्शन सर्विस से जोड़कर चलाते हुए,
हम लगातार एक समस्या से टकरा रहे हैं।
जब कोई एजेंट गलत फैसला लेता है — गलत code deploy कर देता है,
गलत जवाब देता है, या गलत file edit कर देता है —
तो उसकी जिम्मेदारी को आप कैसे ट्रैक और मैनेज करते हैं?
हम हर एजेंट के लिए role, permissions और limits स्पष्ट करके, हर काम पर
"किसने बनाया और किसने approve किया" वाला badge लगाने का तरीका आजमा रहे हैं।
लेकिन पता नहीं कि यही सही तरीका है या नहीं।
मैं उन लोगों से पूछना चाहता हूँ जिन्होंने प्रोडक्शन सर्विस में AI एजेंट्स लगाए हैं।
1. क्या आपके पास गलतियों को बाद में ट्रैक करने का कोई तरीका है?
Logs? Badges? Audit Trail? या अंत में इंसान ही सब कुछ check करते हैं?
2. क्या आप सच में "AI सुझाव दे, इंसान अंतिम फैसला ले" वाले सिद्धांत का पालन कर रहे हैं?
क्या speed के लिए AI के फैसलों को बस pass-through कर देने की स्थिति नहीं बनती?
जानना चाहता हूँ कि आपने समझौते की रेखा कहाँ तय की है।
3. जब कई एजेंट्स मिलकर काम करते हैं, तो intermediate results की जिम्मेदारी कैसे बाँटते हैं?
अगर क्रम Agent A → Agent B → deployment का हो, तो bug आने पर सीमा कहाँ खींचनी चाहिए?
मैं कोई एक सही जवाब नहीं चाहता, बल्कि यह सुनना चाहता हूँ कि आप लोग अपने-अपने field में इसे कैसे solve कर रहे हैं।
हम भी अभी experiment ही कर रहे हैं।
अभी कोई टिप्पणी नहीं है.