LangChain, CrewAI, AutoGen, OpenAI SDK आदि प्रमुख 9 AI एजेंट फ्रेमवर्क्स पर समान prompt injection हमला चलाने के परिणामों का विश्लेषण। इनपुट जांच, जोखिमपूर्ण व्यवहार को ब्लॉक करना, और audit log में से कोई भी सुविधा किसी फ्रेमवर्क में डिफ़ॉल्ट रूप से उपलब्ध नहीं थी। वेब फ्रेमवर्क्स में 10 साल पहले हल हो चुके middleware/request logging जैसे उपाय AI एजेंट क्षेत्र में अभी भी अनुपस्थित हैं.
अभी कोई टिप्पणी नहीं है.