AI एजेंट मेमोरी प्रयोग: संक्षिप्त किया गया ज्ञान उल्टा प्रदर्शन घटाता है

यह AI एजेंट को मेमोरी कैसे दी जाए, इस पर एक वास्तविक प्रयोग के नतीजे हैं.

एक ही AI एजेंट (Claude) को 4 तरह की मेमोरी कॉन्फ़िगरेशन दी गईं, और एक वास्तविक सॉफ़्टवेयर प्रोजेक्ट के बारे में वही 20 सवाल पूछे गए.

नतीजे (5 में से):

• हाइब्रिड (अनुभव+संश्लेषण): 4.95
• अनुभवजन्य मेमोरी (कच्चे लॉग): 4.55
• बेसलाइन (कोई मेमोरी नहीं): 3.30
• संश्लेषित मेमोरी (संगठित सार): 2.65
सबसे चौंकाने वाली खोज: ध्यान से व्यवस्थित की गई संश्लेषित मेमोरी का स्कोर बिल्कुल बिना मेमोरी वाली स्थिति से भी कम था.

इसे "ओवरकॉन्फिडेंस इफ़ेक्ट" नाम दिया गया — साफ़-सुथरे ढंग से संक्षेपित ज्ञान एजेंट को बिना आधार का आत्मविश्वास देता है, और यह स्वीकार करने की उसकी क्षमता घटा देता है कि वह क्या नहीं जानता. इसके उलट, कच्चे अनुभवजन्य रिकॉर्ड अनिश्चितता के निशान सुरक्षित रखते हैं, इसलिए एजेंट अधिक ईमानदार तर्क करता है.

शोधपत्र (प्रीप्रिंट): https://doi.org/10.5281/zenodo.18802214
प्रयोग डेटा (सार्वजनिक): https://github.com/clawsouls/experiential-memory-dataset

[shw00]

अनुभव के आधार पर मुझे इसका कुछ-कुछ एहसास था, लेकिन synthetic memory मेरी सोच से भी कहीं ज़्यादा बुरी निकली।

[tomlee]

सही बात है। मैंने भी शुरुआत में सोचा था कि synthetic memory कम से कम baseline से तो बेहतर होगी, लेकिन नतीजे देखकर मैं भी हैरान रह गया।

विश्लेषण करने पर लगा कि असली मुद्दा "अनिश्चितता को सुरक्षित रखना" था। raw logs में "यह करके देखा, लेकिन काम नहीं किया", "कारण पता नहीं" जैसी निशानियां बची रहती हैं, इसलिए agent जिसे नहीं जानता, उसके बारे में नहीं जानता कहकर जवाब देता है। लेकिन summary में वह सारा संदर्भ मिट जाता है, और उल्टा वह गलत जवाब भी पूरे भरोसे के साथ देने लगता है।

[mssmss]

तो क्या अगर हम synthetic memory को इस तरह संरचित करें कि उसमें उन कार्यों की प्रक्रिया, विफलताएं और सफलताएं शामिल हों, तो कुछ फर्क पड़ेगा?

[tomlee]

अच्छा सवाल है। दरअसल, हमारे प्रयोग में "हाइब्रिड" शर्त ठीक इसी दिशा में थी — यानी व्यवस्थित summary के साथ raw अनुभव logs भी दिए गए थे।

नतीजे में हाइब्रिड 4.95/5.0 के साथ सबसे ऊपर था। सिर्फ summary देने पर यह 2.65 था, लेकिन उसमें "असफल हुआ", "कारण अज्ञात" जैसे process records जोड़ने पर summary की कमज़ोरियाँ उलटे काफी हद तक पूरी हो गईं।

इसलिए निष्कर्ष यह है कि "summary अपने-आप में खराब नहीं है, लेकिन उसमें process और uncertainty को साथ में शामिल करना चाहिए।"

हालाँकि N=1 होने की वजह से यह अलग-अलग user groups पर सामान्य रूप से लागू होगा या नहीं, इसके लिए आगे और research की ज़रूरत है.