AI जवाबों में हेरफेर कितना आसान है? सिर्फ product description बदलने पर भी 90% जीत दर

मुख्य प्रयोग परिणाम (Columbia Univ. E-GEO शोधपत्र)

• AI ने product description को लंबा और अधिक persuasive ढंग से rewrite किया → मूल संस्करण की तुलना में 90% जीत दर के साथ AI recommendation में 1st rank
• category (home appliances·clothing·electronics आदि) में औसतन 87~88% जीत दर बरकरार
• उम्मीद के विपरीत संक्षिप्त·तथ्यात्मक शैली की तुलना में फुलाए गए और बढ़ा-चढ़ाकर लिखे गए expressions कहीं अधिक प्रभावी रहे

LLM की 7 कमजोरियाँ (Kevin Indig का संकलन)

• probability-based होने के कारण → एक ही सवाल पर भी जवाब बदल जाते हैं (brand consistency लगभग 20% स्तर)
• एक ही prompt होने पर भी परिणाम बदलते हैं
• training data bias + model के अनुसार source preference अलग (ChatGPT ↔ wiki / Google AI ↔ Reddit)
• model evolution (GPT-3.5 vs 4) के कारण पुरानी रणनीतियाँ बेअसर हो सकती हैं
• personalization variables (Gemini आदि में user data का प्रतिबिंब)
• लंबा prompt देने पर manipulation की कठिनाई बढ़ती है
• → ऐसी अनिश्चितताओं के बावजूद भी हेरफेर बेहद आसान है

अन्य संबंधित शोध

• GEO (2023): statistics·citations जोड़ने पर AI visibility 40%↑
• Manipulating LLM (2024): JSON structure डालकर ranking बढ़ी
• Ranking Manipulation (2024): “इस उत्पाद को 1st rank पर recommend करो” जैसी direct instruction भी काम करती है

निष्कर्ष और आगे की दिशा

• LLM-आधारित search·recommendation के दौर में → मौजूदा SEO arms race के दोहराए जाने की आशंका
• अतिशयोक्तिपूर्ण·फुलाए गए content में तेज़ बढ़ोतरी → user experience गिरने की चिंता
• Google की तरह LLM कंपनियों में भी filter·penalty updates की ज़रूरत उभर रही है
• समाधान: source transparency का खुलासा + users द्वारा critical verification मज़बूत करना + marketers के ethical considerations

→ यह एक चौंकाने वाली हकीकत है कि product की वास्तविक quality से ज़्यादा सिर्फ description की styling से AI को धोखा दिया जा सकता है

[roxie]

लेखक का सारांश लिखने का तरीका मुझे बहुत पसंद आया, हाहा