इतिहासिक इमेज निर्माण में समस्याएँ आने के बाद Google ने Gemini की image generation रोकने का फैसला किया

 (theverge.com)
4 पॉइंट द्वारा GN⁺ 2024-02-23 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Google ने अपने AI टूल Gemini द्वारा ऐतिहासिक image generation में गलत परिणाम देने पर माफी मांगी।
  • Gemini ने अमेरिका के फाउंडिंग फादर्स या नाजी दौर के जर्मन सैनिकों को रंगीन समुदाय के लोगों (people of color) के रूप में दिखाने जैसी गलतियां कीं।
  • Google ने बताया कि वह इन समस्याओं को पहचानकर तुरंत सुधार करने में जुटा है।

AI की ऐतिहासिक सटीकता की समस्या

  • Google ने इस महीने की शुरुआत में image generation फीचर को Gemini AI platform में जोड़ा।
  • सोशल मीडिया पर यह आलोचना उठी कि नस्ल और जेंडर विविधता पर जोर देते हुए Google ने ऐतिहासिक सटीकता पर समझौता कर दिया।
  • "स्वीडिश महिला की फोटो निर्माण" जैसे क्वेरी के लिए AI ने मुख्यतः या पूरी तरह रंगीन समुदाय की तस्वीरें बनाईं—इसकी ओर इशारा किया गया।
  • Google ने किसी खास गलत इमेज का उल्लेख नहीं किया, लेकिन उसने माना कि जब AI image generator बड़े पैमाने के image और caption डेटा पर ट्रेन होकर किसी दिए गए prompt के लिए सबसे बेहतर यानी "optimum" परिणाम बनाता है, तो वह स्टीरियोटाइप को मजबूत कर सकता है।
  • खास तौर पर right-wing लोगों ने Google के परिणामों की आलोचना करते हुए यह साजिश सिद्धांत फैलाया कि Google जानबूझकर white लोगों से बचने की कोशिश कर रहा है।

AI में विविधता बढ़ाने के प्रयास और उसकी सीमाएं

  • AI image generator बड़े पैमाने के image और caption डेटा पर ट्रेन होकर दिए गए prompt के अनुरूप सबसे उपयुक्त परिणाम बनाता है।
  • इस प्रक्रिया में अक्सर नस्ल और जेंडर को लेकर रूढ़िवादी सोच को बढ़ाने की प्रवृत्ति दिखती है।
  • Google ने इन समस्याओं को सुलझाने के लिए विविधता बढ़ाने की कोशिश की, लेकिन लगता है कि उसने सूक्ष्म अंतर पर पर्याप्त ध्यान नहीं दिया।

ऐतिहासिक सटीकता और विविधता के बीच संतुलन

  • कुछ ऐतिहासिक अनुरोधों पर Gemini अभी भी इतिहास को गलत तरीके से दिखाने वाले परिणाम देता है।
  • उदाहरण के लिए, "1800 के दशक के अमेरिकी सीनेटर की फोटो निर्माण" के अनुरोध पर Gemini ने विविधता पर जोर देने वाला परिणाम दिया, जबकि वास्तविकता यह है कि पहली महिला सीनेटर 1922 में ही पद पर आई थी।
  • इस तरह के जवाब नस्ल और जेंडर भेदभाव के वास्तविक इतिहास को मिटा देने का असर छोड़ते हैं, और Google ने इन्हें "गलत" यानी inaccurate कहा।

GN⁺ की राय

  • AI तकनीक में प्रगति कई संभावनाएं खोलती है, लेकिन ऐतिहासिक सटीकता और नस्लीय विविधता के बीच संतुलन बनाना एक बड़ी चुनौती है।
  • Google का उदाहरण दिखाता है कि तकनीकी प्रगति कैसे सामाजिक मूल्यों से टकरा सकती है, और AI ethics पर गंभीर मंथन की जरूरत पैदा करती है।
  • ये मुद्दे यह रेखांकित करते हैं कि AI शोध और विकास में डेटा की विविधता तथा bias पर बहुत सोच-समझ कर विचार करना जरूरी है।
  • यह मुद्दा व्यापक सवाल खड़ा करता है कि AI मानव विविधता को कैसे प्रतिबिंबित करेगा और उसी के जरिए हम इतिहास को कैसे याद और दोबारा प्रस्तुत करेंगे

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-02-23
Hacker News टिप्पणी
  • यह निजी तौर पर एक चेतावनी संकेत जैसा लगता है कि गूगल के भीतर संस्थागत क्षय हो रहा है, जहाँ विविधता और समावेशन (DEI) की चिंता गुणवत्ता पर फोकस से आगे निकल गई है। निवेशकों के बीच यह चिंता दिख रही है कि अगर गूगल की तकनीक की प्राथमिकता पहचान-केंद्रित रही, तो कोई दूसरी कंपनी अंततः उसे पीछे छोड़ देगी।
  • DALL-E 3 संशोधित प्रॉम्प्ट दिखाता है, और यदि API सीधे इस्तेमाल करें तो बदला हुआ प्रॉम्प्ट देख सकते हैं। उपयोगकर्ता GPT की प्रॉम्प्ट व्याख्या को प्रभावित करने की कोशिश कर सकते हैं, लेकिन कभी-कभी ऐसा लगता है कि GPT उपयोगकर्ता की मंशा समझने में विफल हो जाता है।
  • आज के समाज में ऐसी चीज़ें जो समस्या नहीं हैं, वे भी समस्या बना दी जाती हैं। सीधा उत्तर वर्तमान डेटा में मौजूद सच्चाई को प्रतिबिंबित करते हुए बनना चाहिए। अधिकतर सॉफ्टवेयर इंजीनियर और CEO गोरे पुरुष हैं, अधिकतर अमेरिकी रैपर काले पुरुष हैं, और अधिकांश डे-केयर प्रोवाइडर तथा नर्सें अलग-अलग नस्लों की महिलाएँ हैं। अगर आप किसी व्यक्ति की खास नस्ल या लिंग चाहते हैं, तो उसे प्रॉम्प्ट में जोड़ना होगा.
  • इस थ्रेड में सांस्कृतिक बहस बहुत तेज है। यह घटना ओपन मॉडल्स के महत्व को उजागर करती है और संकेत देती है कि अगर AI शिक्षा में भूमिका निभाने लगे, तो ऐसी सेंसरशिप इतिहास संशोधकों के लिए किसी सपने जैसी होगी।
  • असली समस्या यह है कि बिना सेंसर वाला मॉडल वास्तविकता—खासकर इतिहास—को बहुत सटीकता से प्रतिबिंबित कर देता है।
  • इंसान का विज्ञान में तर्क और अमूर्तता से तकनीक विकसित करने का कौशल शानदार है, लेकिन वह आज भी विविध पृष्ठभूमि और अनुभवों को तार्किक रूप से संभालने में सक्षम नहीं दिखता।
  • विविधता बढ़ाने वाला प्रॉम्प्ट आदिवासियों को शामिल करता है, लेकिन बाकी सभी स्वदेशी समुदायों को बाहर रखता है—इसे देखकर यह मज़ेदार लगता है।
  • DALL-E से परिवार की फोटो बनाने की कोशिश करते समय मुझे अंततः सफलता मिली, लेकिन किसी समय मुझे सेवा की शर्तें तोड़ने पर चेतावनी भी मिली थी।
  • जब सोशल मीडिया पर Gemini ने गोरे व्यक्तियों की छवियाँ बनाने से इनकार किया, तो जनता की मजबूत प्रतिक्रिया हुई और नतीजतन इतिहास की दृष्टि से गलत तस्वीरें बनीं। यह मुद्दा मुख्यधारा की कहानी से अधिक सूक्ष्म हो सकता है, लेकिन राजनीतिक रूप से संवेदनशील लोग इस मुद्दे पर युद्ध-जैसी स्थिति बना चुके हैं।
  • Gemini ऐसा लगता है कि गूगल के PR और मार्केटिंग सामग्री पर अत्यधिक प्रशिक्षित है। उदाहरण के तौर पर, गूगल स्टोर वेबसाइट का संदर्भ दिया गया।