AI को नियंत्रण अपने हाथ से मत लेने दें — automation की दो विफलताओं से सीखे गए सबक

यह लेख Claude Code के साथ automated trading system और blog auto-publishing को खुद चलाते समय हुई दो विफलताओं से शुरू होता है.

• automated trading: trading domain knowledge की कमी के कारण AI द्वारा लिखे गए code को verify नहीं कर पाए, और नतीजा रहा 0 जीत, 8 हार और assets में 3% नुकसान
• blog auto-publishing: बिना review के प्रकाशित की गई गलत पोस्टों पर पाठकों से feedback मिला

लेखक इन दोनों घटनाओं का साझा कारण "AI को नियंत्रण सौंप देना" मानते हैं, और इसे रोकने के लिए दो क्षमताएँ बताते हैं: (1) गहराई से पूछने और जवाब को समझने की literacy, (2) output की accuracy को परखने की evaluation क्षमता. व्यावहारिक उपाय के रूप में वे personal data पर train किया गया LLM Wiki और AI के व्यवहार को सीमित करने वाला harness पेश करते हैं.

सारांश की शुरुआत 2 विफलताओं की कहानियों से करने का कारण यह है कि GeekNews में comments abstract theory पर नहीं, बल्कि "0 जीत, 8 हार" जैसी ठोस अनुभूतियों पर आते हैं जिनसे लोग असहमत भी हो सकते हैं और सहमत भी.