SongRyeon Core - LLM द्वारा लिखी बातों और code द्वारा सत्यापित जानकारी को अलग करने वाला local agent runtime प्रयोग
(github.com/Junghoo-developer)नमस्ते। मैं जंगहू हूँ, और coding सीखते हुए खुद AI agent runtime पर प्रयोग कर रहा हूँ.
SongRyeon Core एक छोटा local-first (agent runtime) प्रयोग है, जो “LLM ने जो निष्कर्ष बताया” और “code ने वास्तव में सत्यापित किया हुआ तथ्य” को अलग करके संभालता है.
आजकल LLM-आधारित agents बनाते समय मुझे लगा कि नीचे जैसी समस्याएँ अक्सर सामने आती हैं.
- LLM की अटकलों को system facts की तरह दिखाना
- code द्वारा बनाए गए fallback या heuristic का LLM के निष्कर्षों के साथ मिल जाना
- कितने documents पढ़े गए, और कौन-सा execution वास्तव में हुआ, यह हर screen पर अलग दिखना
- अंतिम उत्तर का internal runtime state से मेल न खाना
इसलिए इस project में information को बड़े तौर पर तीन हिस्सों में बाँटकर संभाला जाता है.
- Absolute information: code/trace/schema/tool result से सत्यापित किए जा सकने वाले मान
- Relative information: किसी एक absolute information के अनुरूप LLM का निष्कर्ष
- Mixed information: कई source bundle पर आधारित LLM का निष्कर्ष
अभी यह एक छोटा practice version है, लेकिन इसमें नीचे जैसी संरचना पर प्रयोग किया जा रहा है.
- node_0 memory supplier
- node_1 router
- L loop
- node_3 reporter
- node_4 verifier
- smoke-test आधारित regression verification
- runtime terminal/final renderer honesty check
लक्ष्य “शानदार demo” बनाना नहीं, बल्कि ऐसा छोटा runtime बनाना है जो AI agent ने किस आधार पर क्या कहा, इसे जितना संभव हो उतना छिपाए बिना दिखाए.
मैं अभी coding सीख ही रहा हूँ, इसलिए इसमें कई हिस्से अभी कच्चे हैं.
अगर आप structure, README, tests, terminology definitions, और agent runtime design पर feedback दें, तो मैं वास्तव में आभारी रहूँगा.
1 टिप्पणियां
पूरक जानकारी।
फ़िलहाल SongRyeon Core वेब सेवा के रूप से ज़्यादा local CLI / smoke-test केंद्रित runtime प्रयोग है।
जिसे आप तुरंत देख सकते हैं, वह README में दिए गए चलाने के तरीके हैं:
यही है।
खास तौर पर जिन बिंदुओं पर फ़ीडबैक पाना चाहता हूँ, वे ये हैं।
यह अभी भी सीखने की प्रक्रिया में चल रहा प्रोजेक्ट है, इसलिए इसमें कई खुरदरे हिस्से हैं। बेझिझक आलोचना करें, आभारी रहूँगा।