AI एजेंटों के 180 इंस्टेंसेज़ से एक दिन में iOS ऐप के 55 बग पकड़ने वाली वैलिडेशन पाइपलाइन
(velog.io/@soungjunban)21 भाषाओं में चल रहे iOS SNS ऐप (लगभग 1.3 लाख lines) को LLM एजेंटों से audit करने के लिए बनाई गई पाइपलाइन को एक दिन तक चलाने का रिकॉर्ड है.
- बग खोजने वाले finder और validator की भूमिकाएँ अलग रखीं, और निर्णय का मानदंड बहुमत नहीं बल्कि "खंडन में विफलता" रखा, जिससे 0 false positive बने
- खोज रिपोर्ट JSON schema के अनिवार्य output में ली गईं, जिससे hallucinated रिपोर्टों को संरचनात्मक रूप से रोका गया
- पहले से ज्ञात बगों की सूची prompt में inject करके दोहराव वाली खोज को रोका गया, और नए bug 0 आने तक rounds दोहराने वाली termination condition इस्तेमाल की गई
- परिणाम: 6 rounds, लगभग 180 agents, 55 confirmed bugs की मरम्मत, और validation चरण ने 3 आधे-अधूरे fixes भी पकड़े
किस lens से fan-out किया गया, ठीक किए गए code पर फिर से खंडन क्यों कराया गया, जैसी design decisions के साथ-साथ static audit जिन चीज़ों को नहीं देख पाता (सीमाएँ), उन्हें भी साथ में समेटा गया है.
अभी कोई टिप्पणी नहीं है.