AI लेखन बासी और उबाऊ क्यों लगता है: Semantic ablation

• Semantic ablation वह algorithmic erosion phenomenon है जिसमें AI टेक्स्ट की विशिष्ट अर्थ-घनत्व को धीरे-धीरे हटाता जाता है
• यह greedy decoding और RLHF (human feedback reinforcement learning) का एक संरचनात्मक उप-उत्पाद है, जो दुर्लभ और सटीक अभिव्यक्तियों को छोड़कर औसत भाषा की ओर सिमटता है
• AI की ‘safety’ और ‘helpfulness’ tuning इस प्रवृत्ति को और मजबूत करती है, जिससे असामान्य भाषाई friction को जानबूझकर दबाया जाता है और इरादे तथा व्यक्तित्व का कटाव होता है
• टेक्स्ट को बार-बार AI से refine करने पर शब्दावली विविधता (type-token ratio) तेज़ी से घटती है, और रूपक, तकनीकी शब्दावली तथा तार्किक संरचना चरणबद्ध तरीके से समतल हो जाती है
• नतीजतन, मानवीय सोच की जटिलता ‘smoothness’ नामक algorithmic aesthetics की बलि चढ़ जाती है, और पूरा समाज ‘race to the middle’ में फँसता जा रहा है

---

Semantic ablation की अवधारणा

• Semantic ablation का अर्थ है high-entropy जानकारी का algorithmic erosion
  • इसे गलती नहीं, बल्कि greedy decoding और RLHF प्रक्रिया का संरचनात्मक परिणाम माना जाता है
  • मॉडल संभावना को अधिकतम करने के लिए Gaussian distribution के केंद्र की ओर सिमटता है, और दुर्लभ, सटीक तथा जटिल tokens को छोड़ देता है
• जब डेवलपर्स ‘safety’ और ‘helpfulness’ tuning को और मजबूत करते हैं, तो यह घटना और गंभीर हो जाती है
  • असामान्य भाषाई friction को ‘जोखिम’ मानकर अनधिकृत अर्थ-कटाव होने लगता है
  • नतीजतन, low perplexity पाने की प्रक्रिया में विशिष्ट signal का विनाश होता है

AI लेखन में erosion की प्रक्रिया

• AI द्वारा ड्राफ्ट को ‘पॉलिश’ करने की प्रक्रिया को वास्तव में Semantic ablation के क्रियान्वयन के रूप में समझा जा सकता है
  • AI high-entropy हिस्सों, यानी वे भाग जिनमें मौलिक अंतर्दृष्टि होती है, को पहचानकर उनकी जगह सबसे अधिक संभावित सामान्य tokens रख देता है
  • मूल टेक्स्ट की खुरदरी सटीकता गायब हो जाती है और उसकी जगह चिकनी लेकिन खोखली सतह रह जाती है
• इस घटना को Entropy Decay के रूप में मापा जा सकता है
  • टेक्स्ट को बार-बार AI से refine करने पर शब्दावली विविधता (type-token ratio) ढह जाती है
  • नतीजतन, Semantic ablation की 3-चरणीय प्रक्रिया सामने आती है

Semantic ablation के 3 चरण

• चरण 1: Metaphoric cleansing
  • AI असामान्य रूपकों या संवेदनात्मक इमेजरी को ‘noise’ मानकर सुरक्षित, घिसी-पिटी अभिव्यक्तियों से बदल देता है
  • भावनात्मक और संवेदनात्मक friction हट जाती है
• चरण 2: Lexical flattening
  • विशेषज्ञ शब्दावली और सटीक तकनीकी शब्द ‘accessibility’ के नाम पर बलि चढ़ जाते हैं
  • दुर्लभ token (1/10,000) को आम synonym (1/100) से बदलते हुए अर्थ-घनत्व और तार्किक गुरुत्व को पतला कर दिया जाता है
• चरण 3: Structural collapse
  • जटिल non-linear logic को पूर्वानुमेय low-perplexity संरचना में मजबूर किया जाता है
  • निहितार्थ और बारीकियाँ हटा दी जाती हैं, और अंत में व्याकरण की दृष्टि से परिपूर्ण लेकिन बौद्धिक रूप से खोखला खोल ही बचता है

परिणाम और रूपक

• ऐसे परिणाम को ‘सोच का JPEG’ कहा गया है
  • ऊपर से यह सुसंगत और smooth दिखता है, लेकिन मूल data density और अर्थ खो चुके होते हैं
• यदि ‘hallucination’ वह त्रुटि है जो मौजूद न होने वाली चीज़ गढ़ती है, तो Semantic ablation वह प्रक्रिया है जो मौजूद चीज़ को नष्ट करती है
  • मानवीय सोच की जटिलता algorithmic smoothness की वेदी पर बलिदान हो जाती है
  • समाज धीरे-धीरे ‘race to the middle’ में फँसकर एक खोखली व्याकरणिक दुनिया बना रहा है

चेतावनी और निष्कर्ष

• अगर Semantic ablation को पहचाने बिना AI आउटपुट स्वीकार किए जाएँ, तो हम अर्थ के क्षरण को सामान्य बना देंगे
• अगर यह erosion जारी रहा, तो यह जोखिम है कि हम ‘substance’ क्या है, यह तक भूल जाएँ
• इसलिए Semantic ablation जैसी अवधारणा को नाम देना और उसके प्रति सजग होना महत्वपूर्ण है