Generative AI की uncanny valley पर एक विचार

• Generative AI में दूसरी technologies से अलग चौंकाने की ताकत है
  • कभी-कभी यह अच्छी बात होती है, लेकिन कभी-कभी नहीं भी
  • इस तरह के technology experience के केंद्र में कुछ अपेक्षित सवाल होते हैं
    • "क्या यह सच में वही है जिसकी मैंने उम्मीद की थी? क्या output पर्याप्त अच्छा है? या यह मुझे धोखा दे रहा है?"
• सिद्धांततः Generative AI के आगे बढ़ने के साथ यह समस्या कम महत्वपूर्ण होनी चाहिए, लेकिन वास्तविकता में यह जितना अधिक 'मानवीय' होता जाता है, उतना ही अधिक अशुभ और असहज लग सकता है
  • यह हमें उस स्थिति में ले जाता है जिसे robotics में लंबे समय से "uncanny valley" कहा जाता रहा है
• इसे यह कहकर नज़रअंदाज़ करने का मन हो सकता है कि बड़े datasets या बेहतर training से इसे ठीक किया जा सकता है, लेकिन जब तक यह technology के प्रति हमारे mental model की उलझन की बात है, तब तक यह "मानकर हल किया जाना चाहिए" ऐसा मुद्दा है

Mental model और anti-pattern

• Mental model UX और product design में एक महत्वपूर्ण concept है, लेकिन AI community को भी इसे और सक्रिय रूप से अपनाना चाहिए
  • रोज़मर्रा की ज़िंदगी में यह अक्सर साफ़ नहीं दिखता: क्योंकि AI systems के बारे में धारणाएँ बनाना अब एक सामान्य pattern बन चुका है
• AI coding assistant की लोकप्रियता बढ़ने के साथ, "AI-generated code के प्रति लापरवाही" और "Generative AI से pair programming को replace करना" दो ऐसी practices बताई गई हैं जिनसे बचना चाहिए
  • दोनों इस technology के "असल में कैसे काम करने" और "उसकी सीमाओं को न मानने वाले गलत mental model" से पैदा होते हैं
  • ये tools जितने अधिक convincing और 'मानवीय' होते जाते हैं, उतना ही यह स्वीकार करना कठिन हो जाता है कि technology वास्तव में कैसे काम करती है और उसके दिए गए 'solutions' की सीमाएँ क्या हैं
• Generative AI को दुनिया में deploy करने वालों के लिए भी जोखिम समान, या उससे भी अधिक स्पष्ट हो सकते हैं
  • आमतौर पर इरादा कुछ convincing और usable बनाने का होता है, लेकिन अगर वह users को गुमराह करे, धोखा दे, या असहज बनाए, तो उसका मूल्य खत्म हो जाता है
  • यही वजह है कि EU AI Act जैसे कानून, जो deepfake बनाने वालों से AI-generated content पर label लगाने की मांग करते हैं, चौंकाने वाले नहीं हैं
• सिर्फ AI और robotics में ही नहीं, cross-platform mobile apps बनाने में भी ऐसा ही एक समान मुद्दा है
  • अलग-अलग platforms का इस्तेमाल अलग तरीकों से होता है, इसलिए पूरे experience design को बदलना पड़ता है
  • उसी तरह Generative AI में भी अलग contexts और use cases के हिसाब से अलग धारणाएँ और mental models होते हैं, और users किस बिंदु पर uncanny valley में गिरते हैं यह भी अलग होता है
  • यही सूक्ष्म अंतर LLM outputs के प्रति अनुभव और धारणा को बदल देते हैं
• किसी pharmaceutical researcher के लिए, जिसे बहुत बड़ी मात्रा में synthetic data चाहिए, micro-level accuracy उतनी महत्वपूर्ण नहीं हो सकती; लेकिन legal documents समझने की कोशिश कर रहे किसी lawyer के लिए accuracy बेहद महत्वपूर्ण है
  • uncanny valley में गिरना एक संकेत हो सकता है कि अब एक कदम पीछे हटकर expectations का फिर से आकलन किया जाए

"मौजूदा Generative AI के प्रति mental models और concepts कोई नज़रअंदाज़ किए जा सकने वाले गौण मुद्दे नहीं हैं, बल्कि एक बुनियादी design problem हैं"
Ken Mugrage & Srinivasan Raguraman

नज़रिए का बदलाव

• Generative AI की uncanny valley एक समस्या हो सकती है, लेकिन यह technology की सीमाओं की याद दिलाने वाला एक tool भी है
• इसे सुलझाने के लिए industry भर में कुछ दिलचस्प प्रयास हुए हैं
  • University of Pennsylvania के Professor Ethan Mollick का तर्क है कि AI को अच्छे software के रूप में नहीं, बल्कि "काफ़ी अच्छे इंसानों" के रूप में समझना चाहिए
    • AI में इंसानों जैसी अजीब strengths और weaknesses होती हैं, इसलिए यह समझना मुश्किल है कि उससे कौन-सा काम कराया जा सकता है
    • कोई manual नहीं है, इसलिए AI किस चीज़ में अच्छा है यह जानने का एकमात्र तरीका है उसके साथ काम करते हुए सीखना
  • यानी Generative AI क्या कर सकता है और कहाँ प्रभावी है, इस बारे में expectations अस्थायी और लचीली होनी चाहिए
  • कुछ हद तक अपनी धारणाओं और अपेक्षाओं पर विचार करना uncanny valley को पार करने का एक तरीका हो सकता है

Black box को खोलना

• सिर्फ mindset बदलने की मांग करना पर्याप्त नहीं है
  • यह पहला कदम है, लेकिन ऐसे practices और tools भी हैं जो Generative AI के बारे में अलग ढंग से सोचने और mental model से पैदा होने वाली चुनौतियों को हल करने में मदद करते हैं
• एक उदाहरण है हालिया Technology Radar में पहचानी गई "LLM से structured output प्राप्त करना" technique
  • इसे prompt देते समय किसी खास format में जवाब देने के निर्देश देकर, या fine-tuning के ज़रिए हासिल किया जा सकता है
  • Instructor जैसे tools की वजह से यह पहले की तुलना में अधिक आसान हो गया है
  • इसका फ़ायदा यह है कि expectations और LLM outputs के बीच अधिक alignment मिलता है
    • अभी भी कुछ unexpected या पूरी तरह मेल न खाने वाली चीज़ें हो सकती हैं, लेकिन यह technique उस समस्या को कुछ हद तक कम करती है
• इसके अलावा भी दूसरी techniques हैं
  • Retrieval-augmented generation आम तौर पर उस मुश्किल 'context window' नियंत्रण कार्य को बेहतर ढंग से संभालने का तरीका है
  • यह देखकर खुशी होती है कि इन techniques की सफलता का मूल्यांकन और मापन करने वाले frameworks और tools भी सामने आ रहे हैं
    • Ragas एक उपयोगी library है जो AI developers को faithfulness और relevance जैसी चीज़ों के metrics देती है
    • DeepEval भी Radar में पेश किया गया है
• Measurement महत्वपूर्ण है, लेकिन LLM से जुड़े उपयुक्त guidelines और policies के बारे में सोचना भी उतना ही ज़रूरी है
  • इसी कारण LLM Guardrails को explore करने की सिफारिश की जाती है
  • साथ ही, इन models के भीतर वास्तव में क्या हो रहा है इसे बेहतर समझने के लिए कदम उठाना भी चाहिए
    • इन black boxes को पूरी तरह खोल पाना शायद संभव न हो, लेकिन Langfuse जैसे tools की बदौलत teams और organizations को इनके काम करने के तरीके पर अधिक स्पष्ट नज़रिया मिल सकता है
    • यह इस technology के साथ हमारे संबंध को फिर से परिभाषित करने, mental model बदलने, और uncanny valley में फँसने की संभावना को हटाने में बहुत मददगार हो सकता है

दोष नहीं, अवसर

• जिन tools को "Generative AI tools का Cambrian explosion" कहा गया है, वे industry के केंद्र में मौजूद लोगों को Generative AI पर फिर से सोचने और बेहतर products बनाने में मदद कर सकते हैं
• लेकिन व्यापक दुनिया के लिए यह काम दिखाई नहीं देगा
  • इसलिए, toolchain को आगे बढ़ाकर Generative AI को बेहतर नियंत्रित और समझने के तरीक़े खोजने के अलावा, यह मानना भी महत्वपूर्ण है कि मौजूदा mental models और Generative AI की अवधारणा स्वयं एक बुनियादी design problem है
  • आगे बढ़ते हुए इसे नज़रअंदाज़ किए जा सकने वाला गौण मुद्दा नहीं माना जा सकता

"Generative AI की uncanny valley कोई ऐसी समस्या नहीं है जिसे सिर्फ ठीक कर दिया जाए, बल्कि यह फिर से आकलन करने का अवसर है कि हम इस technology से वास्तव में क्या चाहते हैं और क्या उम्मीद करते हैं"