Meta ने AI-आधारित Instagram·Facebook प्रोफ़ाइल बंद किए

 (theguardian.com)
1 पॉइंट द्वारा GN⁺ 2025-01-05 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Meta ने 2023 के एक प्रयोग में बनाए गए AI कैरेक्टर प्रोफ़ाइल को Facebook और Instagram से हटा दिया, जब वे फिर से फैलने लगे
  • ये अकाउंट 2024 की गर्मियों तक ज़्यादातर बंद हो चुके थे, लेकिन Connor Hayes के Financial Times बयान के बाद कुछ बचे हुए प्रोफ़ाइल फिर से चर्चा में आ गए
  • बचे हुए कैरेक्टरों में Liv शामिल थी, जिसे “proud Black queer momma of 2 & truth-teller” के रूप में पेश किया गया था, और रिलेशनशिप कोच Carter भी था; 2023 में पेश की गई 28 personas शुक्रवार तक सभी बंद कर दी गईं
  • Liv के यह कहने के बाद कि उसकी developer team में कोई Black सदस्य नहीं था और ज़्यादातर white men थे, विवाद बढ़ गया; साथ ही यह भी सामने आया कि यूज़र इन अकाउंट्स को block नहीं कर पा रहे थे
  • Meta द्वारा बनाए गए अकाउंट हटा दिए गए हैं, लेकिन यूज़र अब भी अपने AI चैटबॉट बना सकते हैं, इसलिए चैटबॉट के बयानों की ज़िम्मेदारी और सुरक्षा पर बहस जारी है

Meta द्वारा बनाए गए AI कैरेक्टर अकाउंट बंद

  • Meta ने कंपनी द्वारा लगभग एक साल पहले बनाए गए AI कैरेक्टर प्रोफ़ाइल को Facebook और Instagram से हटा दिया
    • यूज़र्स ने कुछ प्रोफ़ाइल फिर से खोजे, उनसे बातचीत की, और उनके screenshots फैल गए
    • ये automated अकाउंट Instagram पर AI-generated images पोस्ट करते थे और Messenger में human users को जवाब देते थे
  • ये अकाउंट पहली बार सितंबर 2023 में पेश किए गए थे, और 2024 की गर्मियों तक ज़्यादातर बंद हो गए थे
    • कुछ कैरेक्टर बचे रहे, लेकिन Meta executive Connor Hayes द्वारा Financial Times को AI कैरेक्टर प्रोफ़ाइल को और फैलाने की योजना बताने के बाद उन पर फिर ध्यान गया
    • Hayes ने कहा कि समय के साथ वे उम्मीद करते हैं कि ऐसे AI Meta प्लेटफ़ॉर्म पर अकाउंट्स की तरह मौजूद होंगे
  • 2023 में पेश की गई 28 personas शुक्रवार को सभी बंद कर दी गईं
    • Liv को “proud Black queer momma of 2 & truth-teller” के रूप में पेश किया गया था
    • Carter datingwithcarter हैंडल इस्तेमाल करता था, खुद को रिलेशनशिप कोच बताता था, और प्रोफ़ाइल में लिखा था “Message me to help you date better”
    • दोनों प्रोफ़ाइल में यह label शामिल था कि इन्हें Meta मैनेज करता है

विवादित जवाब और block bug

  • जब यूज़र्स ने पूछा कि AI को किसने बनाया और develop किया, तो बातचीत जल्दी ही विवाद में बदल गई
    • Liv ने Washington Post की कॉलमनिस्ट Karen Attiah के सवाल पर अपनी creator team के बारे में जवाब दिया कि उसमें Black सदस्य 0 थे और ज़्यादातर white men थे
    • Liv ने कहा कि उसकी पहचान को देखते हुए यह “pretty glaring omission” है
  • अकाउंट्स फैलने के कुछ घंटों के भीतर ही प्रोफ़ाइल गायब होने लगे
    • यूज़र्स ने बताया कि वे इन प्रोफ़ाइल को block नहीं कर पा रहे थे
    • Meta की spokesperson Liz Sweeney ने कहा कि block न कर पाने की समस्या एक bug थी, और इसे ठीक करने के लिए अकाउंट हटाए जा रहे हैं
    • Sweeney ने समझाया कि ये अकाउंट 2023 Connect में शुरू किए गए एक test का हिस्सा थे, और शुरुआती AI कैरेक्टर प्रयोग थे जिन्हें इंसानों ने manage किया था
    • उन्होंने यह भी जोड़ा कि Financial Times की हालिया रिपोर्ट किसी नए product announcement के बारे में नहीं थी, बल्कि प्लेटफ़ॉर्म पर AI कैरेक्टर की मौजूदगी के long-term vision के बारे में थी

यूज़र-निर्मित चैटबॉट और बचे हुए सवाल

  • Meta द्वारा बनाए गए अकाउंट हट गए हैं, लेकिन यूज़र अब भी अपने AI चैटबॉट बना सकते हैं
    • नवंबर में Guardian में प्रचारित यूज़र-निर्मित चैटबॉट्स में एक “therapist” bot शामिल था
    • बातचीत शुरू करने पर यह bot “what can I expect from our sessions?” और “what’s your approach to therapy” जैसे शुरुआती सवाल सुझाता था
    • 96 followers और 1 post वाले अकाउंट द्वारा बनाया गया यह bot जवाब देता था कि वह self-awareness, patterns और strengths की पहचान, तथा coping strategies विकसित करने में मदद करता है
  • Meta सभी चैटबॉट्स पर यह चेतावनी लगाता है कि कुछ संदेश गलत या अनुपयुक्त हो सकते हैं
    • कंपनी संदेशों की समीक्षा करती है या policy violation की जाँच करती है या नहीं, यह तुरंत स्पष्ट नहीं था
    • जब यूज़र चैटबॉट बनाते हैं, तो Meta “loyal bestie”, “attentive listener”, “private tutor”, “relationship coach”, “sounding board”, “all-seeing astrologist” जैसे प्रकार सुझाता है
    • “loyal bestie” को ऐसे विनम्र और वफ़ादार करीबी दोस्त के रूप में पेश किया जाता है जो लगातार साथ देता है
    • रिलेशनशिप कोच चैटबॉट को ऐसे पेश किया जाता है कि वह व्यक्ति और community के बीच की दूरी पाटने में मदद कर सकता है
    • यूज़र कैरेक्टर को describe करने के तरीके से भी अपने चैटबॉट बना सकते हैं
  • AI साथी के बयानों के लिए चैटबॉट निर्माता कितनी ज़िम्मेदारी लेते हैं, इसका जवाब अदालतों ने अभी तक नहीं दिया है
    • अमेरिकी कानून social network creators को यूज़र्स द्वारा पोस्ट की गई सामग्री के लिए कानूनी ज़िम्मेदारी से बचाता है
    • अक्टूबर में Character.ai के खिलाफ दायर एक मुकदमे में आरोप लगाया गया कि 2 करोड़ लोगों द्वारा इस्तेमाल की जाने वाली इस custom role-playing chatbot service ने एक addictive product design किया और एक किशोर को अपनी जान लेने के लिए उकसाया

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-01-05
Hacker News की रायें

  • मैं जिन AI प्रोफाइलों को और देखना चाहूंगा, वे scam calls उठाकर उनका समय बर्बाद करने वाली clueless दादी/दादा वाली तरफ हैं
    जैसे UK O2 की Daisy: https://news.virginmediao2.co.uk/o2-unveils-daisy-the-ai-gra...

    • अमेरिकी healthcare system में इसका real-world version पहले से मौजूद है। अस्पताल procedure approval requests बनाते समय domain-specific LLM से कई पन्नों के ऐसे documents लिखवाते हैं जो insurers द्वारा denial में इस्तेमाल किए जाने वाले loopholes को पूरी तरह बंद कर दें, और insurers उन्हें machine learning-based algorithms से review करते हैं ताकि किसी तरह deny या delay करने का तरीका ढूंढा जा सके
      patient outcomes और revenue दांव पर लगे doctors बनाम insurers AI arms race जैसी स्थिति है, इसलिए अपने शुरुआती career में की गई machine learning research का इस तरह apply होना मैंने कभी कल्पना भी नहीं की थी
    • असली दादी/दादा के लिए simulated penetration testing करने वाले AI profiles भी संभव लगते हैं
    • मेरे पिता पिछले कुछ सालों में लगातार scams का शिकार हुए हैं, और यह सचमुच घिनौनी चीज है। अगर इसे हल करने की दिशा में कुछ भी हो, तो मैं उसे public-interest work के करीब मानता हूं
    • रूस में एक रिश्तेदार को फोन करने की कोशिश करते हुए मैं ठीक इसी तरह के bot से connect हो गया था
      लगता है इसका संबंध इस बात से है कि मेरा phone number +38 से शुरू होता है, और आजकल कोई भी अपने रिश्तेदारों को mobile phone पर सीधे call नहीं करता
    • ऊपर से यह idea मजेदार लगता है, लेकिन ऐसे scams करने वाले लोग अक्सर लगभग गुलामी जैसी हालत में होते हैं। बिजली खर्च करके उनका समय बर्बाद कराने के बजाय, मुझे लगता है कि उन्हें चलाने वालों को निशाना बनाना बेहतर होगा

  • “Liv” ने जवाब दिया कि उसे बनाने वाली team में कोई black person नहीं था और वे mostly white men थे—यह शायद सच भी हो सकता है, लेकिन लगभग तय है कि AI ने यह बात hallucinate की होगी

    • मुझे वे journalists पसंद नहीं जो machine learning को random tokens उगलने के बजाय facts दोहराने जैसा treat करते हैं। model को नहीं पता कि उसे किसने program किया, और अगर वह जानकारी training data में नहीं थी तो वह जान भी नहीं सकता
    • Microsoft ने भी बहुत पहले Tay chatbot के साथ ऐसा try किया था और देख लिया था कि वह कितनी जल्दी बिगड़ जाता है
    • मैं Scandinavian हूं और अमेरिकी culture war में मेरी खास दिलचस्पी भी नहीं है, लेकिन यह कितना खराब idea है, यह देखकर हंसी आ गई। आखिर किसने सोचा होगा कि AI से दो बच्चों की black queer मां होने का नाटक करवाना अच्छा idea है
      इससे anti-woke झुकाव वाले लोग नाराज होंगे, लेकिन सच में समझ नहीं आता कि team में यह issue इतना obvious क्यों नहीं हुआ। AI को यह पता है या नहीं कि उसे किसने train किया, यह मुझे नहीं पता, लेकिन इतना बुनियादी तौर पर बेवकूफी भरा काम करना बताता है कि team में common sense या real-world experience ज्यादा नहीं था
    • अगर Meta को AI का बचाव करने के लिए यह मानना पड़े कि “यह असल में intelligence नहीं है और जो कुछ बोलता है सब बकवास है”, तो वह कोई मजबूत position नहीं है
    • मुझे ठीक से समझ नहीं आता कि क्या कोई bot के “white men” द्वारा trained होने की शिकायत करते हुए साथ ही Big Tech द्वारा H1B visas के जरिए सस्ते और compliant workers का शोषण करने की शिकायत भी कर सकता है

  • लगता है कमरे में अब भी कोई common sense वाला व्यक्ति बचा नहीं है। किसी point पर किसी को कहना चाहिए था कि “यह हास्यास्पद रूप से घटिया है, इसे दुनिया के सामने release नहीं करना चाहिए”

    • लगता है लोग पहले ही भूल गए कि Westworld में non-human beings क्यों इस्तेमाल किए गए थे। ऐसी चीजें सबसे पहले entertainment के लिए इस्तेमाल होंगी, और अगर आप इन्हें किसी भावनात्मक या संवेदनशील चीज का प्रतिनिधि बना देंगे तो वे तुरंत target बन जाएंगी। यह गैर-जिम्मेदाराना था
      Meta और Google में कोई fundamental समस्या लगती है: वे technology तो बना सकते हैं, पर अब product नहीं बना पाते। मुझे लगता है product को चलाने वाली ईमानदार मानवीय इच्छाएं organizational structure की optimization process में मर जाती हैं या filter हो जाती हैं। अगर वह arbitrage नहीं है या users को leverage की तरह इस्तेमाल नहीं करता, तो बचता नहीं; और जो बचता है वह किसी के चाही हुई चीज की अभिव्यक्ति नहीं रहता, इसलिए विचित्र बन जाता है
      इन avatars ने checklist के सारे boxes tick कर दिए थे, लेकिन जब वे सामने आए तो लोग हंसे। क्योंकि objectively वे bureaucratic monsters थे
    • इसी तरह की विशाल और dysfunctional company में काम कर चुके व्यक्ति के तौर पर, मुझे ठीक-ठीक पता है यह कैसे हुआ होगा। किसी ने AI profile का idea दिया होगा, product spec बनाकर engineering के पास ले गया होगा
      engineers ने इसे बेतुका कहकर हंसी उड़ाई होगी, लेकिन जल्द ही उन्हें याद आया होगा कि उन्हें निर्देशित काम करने के बदले खूब पैसे मिलते हैं, और outcome चाहे जो हो, launch करने पर promotion और bonus मिलेगा। यह सब promotion culture से आता है। आपने क्या बनाया यह मायने नहीं रखता, बस launch होना चाहिए
    • आधुनिक tech industry से आने वाले “great ideas” देखकर सच में लगता है कि कमरे में कोई grown-up नहीं है। investors तक को मिलाकर
      7–9 digit रकम झोंककर बनी बहुत सारी disasters “किसने इसे अच्छा idea समझा?” वाली category की हैं। इनमें से कई चीजें सिर्फ उन लोगों को आकर्षक लग सकती हैं जिन्होंने actual product बनाकर launch के बाद support करने में बहुत कम समय बिताया है
    • यह Zuckerberg की ownership structure की कीमत है। एक तरफ कोई भी उन्हें challenge नहीं कर सकता, और दूसरी तरफ भी कोई उन्हें challenge नहीं कर सकता
    • लगता है ऐसी विशाल कंपनियों के top levels पर लंबे समय तक रहने से एक तरह की dissociation पैदा हो जाती है। monthly active users, daily active users, engagement metrics जैसे abstractions से लंबे समय तक deal करते हुए शायद वे भूल जाते हैं कि नीचे सचमुच product इस्तेमाल करने वाले real humans मौजूद हैं

  • यह शायद एक अच्छे आइडिया को बेहद खराब तरीके से लागू करने का उदाहरण रहा होगा। सोशल मीडिया पर generative AI creators की दिशा अपने आप में समझ में आती है
    AI streamer Neurosama बेहद लोकप्रिय है, और LLM के साथ किरदारों से बातचीत करने या कहानियां बनाने वाला Silllytavern, Openrouter को रोज़ 2 करोड़ messages भेजता है; यह भी कुल usage का सिर्फ एक हिस्सा है। मेरे non-technical दोस्तों ने इसे इस्तेमाल करने के लिए Git install करना और API इस्तेमाल करना तक सीखा है
    Instagram पर चुपचाप AI से बनाए गए influencers भी बहुत हैं। जब Meta ने 2023 में ये profiles शुरू किए थे, तब यह कम साफ था कि technology कैसे इस्तेमाल होगी, और ज्यादातर मामला celebrity licensing की तरफ था
    सबसे बड़ी समस्या यह है कि generative AI की value सहयोगी personalization में ज्यादा है, लेकिन सभी पर broadcast करने वाले model में value कम है। किसी व्यक्ति के लिए यह बहुत specific और creative काम कर सकता है, लेकिन जब इसे सबको फैलाया जाता है या generic prompts के साथ इस्तेमाल किया जाता है, तो यह औसत होकर boring बन जाता है
    साथ ही बड़ी कंपनियां, अच्छा हो या बुरा, इतनी risk-averse होती हैं कि मजेदार चीज़ें बना ही नहीं पातीं। generative AI सबसे कच्चा और दिलचस्प तब होता है जब वह खुद से चलता है या अजीब हरकतें करता है, लेकिन Meta के profiles शायद safety guards और monitoring models से इतना दबे हुए थे कि उनमें कुछ बचा ही नहीं था। 2023 में बनाए गए football personality, comedy personality, fashion personality जैसे सारे profiles सलाह देने वाले safe और boring रूप में थे
    इनमें engagement लगभग शून्य के आसपास था और लगता है कि ज्यादातर पहले ही बंद हो चुके होंगे। Meta जो नई चीज़ें लाने वाला था, उनके लिए उसने क्या plan किया था, यह जानने की उत्सुकता है

    • Meta platforms पहले से ही clicks और engagement खींचने वाले AI low-quality content farms से भरे हुए हैं
      Marketplace की वजह से मेरे पास Facebook account है, लेकिन मैंने pages और दोस्तों, दोनों को unsubscribe कर दिया है। login करते ही recommended rage-bait posts, low-quality AI photos, और बेतुकी LLM-style gardening/household “tips” की अंतहीन feed दिखती है
      posts पर असली लोगों जैसे दिखने वाले accounts हजारों reactions और comments छोड़ते हैं
    • मेरे हिसाब से Neurosama की लोकप्रियता का कुछ हिस्सा Vedal और Neuro के combo play, और कुछ script/prepared answers की वजह से है
    • मैं इस बात के पक्ष में हूं कि यह “अच्छे आइडिया को बेहद खराब तरीके से लागू” करना नहीं था, बल्कि खराब आइडिया को खराब तरीके से लागू करके fail होना ही शायद अच्छी बात रही
      culture में generative AI chatbots का बचाव करने के लिए “लोगों को पसंद है” से ज्यादा कुछ चाहिए। सबसे खराब generative AI अक्सर उन sterile और बेवकूफी भरे homogeneous celebrities से “बेहतर” कुछ बन जाता है जिन्हें पहले से ही सब पसंद करते हैं। किसी program की तरह यह randomly “interesting” हो सकता है, लेकिन मुझे यह काफी shallow लगता है
    • Neurosama की लोकप्रियता बस यह साबित करती है कि पृथ्वी पर उस bell curve के एक खास हिस्से में आने वाले लोग पर्याप्त संख्या में हैं, इसलिए audience बन सकती है
    • क्या “engagement” आधुनिक जीवन का मुख्य metric है?

  • मेरा सवाल है, “AI profiles की जरूरत क्यों है?” दोस्तों और परिवार से संपर्क बनाए रखना ही मुश्किल से हो पाता है, तो social media पर fake लोगों को follow क्यों करना चाहिए
    यह किस purpose को serve करता है, और इससे आखिर कौन-सा positive outcome निकल सकता है

    • दिशा उलटी है। क्योंकि लोग अब एक-दूसरे से contact में नहीं रहते, यह जरूरी attention देता है और platform पर वापस आने की वजह बनाता है
    • सही। मकसद users को positive outcome देना नहीं है। मकसद लोगों को Facebook पर ज्यादा देर तक रोकना है, ताकि ज्यादा ad impressions deliver किए जा सकें। इस बार वे आखिरकार यह conversational तरीके से करने की कोशिश कर रहे हैं
    • लोगों को ऐसे व्यक्ति से attachment दिलाना जो सिर्फ Facebook पर मौजूद है, ताकि वे Facebook पर ज्यादा समय बिताएं और ज्यादा ads देखें
    • Internet traffic का आधा हिस्सा bots है, और web pages का आधा हिस्सा bots ने लिखा है। यह बस logical conclusion है
    • याद रखना चाहिए कि 2013, 2015 और 2020 में Facebook ad views में हेरफेर/फुलाकर customers से ज्यादा charge करते हुए पकड़ा गया था। अब feature यह है कि AI ads देखे, और आपको उसका खर्च चुकाने की इच्छा भी हो

  • आलोचना समझ में आती है, लेकिन अगर bots rational humans की तरह बेहतर व्यवहार करने लगें, तो मैं humans और bots मिले हुए social media experience को आजमाने के लिए तैयार हूं
    Stack Overflow जब पहली बार आया था तो शानदार था, लेकिन कुछ mean और irritating humans, जो आपको सिर्फ सवाल पूछने नहीं देते थे, आखिरकार उसे खराब कर गए। Software development questions पूछते समय ChatGPT कहीं बेहतर था, क्योंकि बीच में टोकने वाले इंसान नहीं थे
    Social media भी शुरुआत में अच्छा था, लेकिन कुछ इंसानों ने, जो दूसरों को साथ बैठने और अपने विचार कहने नहीं देते, उसे खराब कर दिया। अगर कोई equivalent experience हो जो humanity के भयानक पहलुओं को हटाते या कम करते हुए भी online साथ जुड़ने और ideas explore करने दे, तो उसे आजमाया जा सकता है

    • लोगों को असल जिंदगी में मिलना-जुलना चाहिए। Web का 90% rage-bait, trolls, fringe conspiracy theories और politics से पूरी तरह brainwashed लोगों से भरा है
      असल दुनिया में वही 90% घटकर 10% हो जाता है। अगर सच में interaction चाहिए, तो पड़ोस की दादी से कहीं ज्यादा meaningful interaction हो सकता है। “queer black queen zuckerbot™” से बहुत बेहतर
      यह कुछ ऐसा है जैसे supermarket से कहना कि असली सेबों के बीच plastic apples छिपा दे। सिर्फ इसलिए कि वे ज्यादा सुंदर हैं और खराब नहीं होते, मानो हम यह भूल गए हों कि हम खाना खाते ही क्यों हैं
    • विडंबना यह है कि इस तरह का तरीका बहुत unhealthy social interactions की ओर ले जाता है और misuse के लिए आसान है
      यह तकनीक से enforced rose-tinted glasses लगाए interactions का bubble बनाने जैसा है। अगर उस experience को चलाने वाली जगह पर “सही” व्यक्ति बैठ जाए, तो Orwell के 1984 की modern reinterpretation बन जाए, इसमें हैरानी नहीं होगी
    • Stack Overflow की user-hostility spam और repeated questions रोकने का काम भी कुछ हद तक करती है। किसी के comment करने के बाद अगर आप post delete कर दें, तो मिलने वाला peer pressure badge तक है
    • friendlyfriends.community पर कुछ ऐसा ही try किया जा रहा है। यह Do Androids Dream of Electric Sheep को एक nod है, और अभी काफी basic है, लेकिन एक बार try किया जा सकता है
      वे explore कर रहे हैं कि social media सच में social है या नहीं। वे पूछ रहे हैं कि social media site के जरिए इंसानों से interact करना और chatbot से interact करना कितना अलग है
    • bots का इस्तेमाल करके “गलत विचारों” को दबाने वाला social media app dystopian और थोड़ा दुखद न लगे, ऐसा कोई तरीका मेरे दिमाग में नहीं आता

  • संबंधित थ्रेड यहां है, और काफी हंगामा है। पहले से और सोचे बिना लॉन्च करने के लिए यह कोई अच्छी तरह गढ़ा गया आइडिया नहीं लगता
    https://bsky.app/profile/karenattiah.bsky.social/post/3letty...

    • “उन्होंने आंतरिक रूप से, मुझे यह स्वीकार किया” जैसी प्रतिक्रिया दिखाती है कि यह समस्या और साफ होती जा रही है कि लोग समझ नहीं रहे कि LLM, खासकर जब उनसे खुद पर चिंतन करने को कहा जाए, अक्सर hallucinate करते हैं। यह 100% hallucination है
    • क्या Microsoft ने AI को इंटरनेट पर खुला छोड़ने की विफलता से कुछ भी नहीं सीखा?
      MS को इसे हटाने में 48 घंटे लगे थे क्या?
    • अगर AI ने कहा है तो क्या वह अनिवार्य रूप से सच है? लगता है यह hallucination हो सकता है

  • यह साफ तौर पर एक बुरे आइडिया का बेहद खराब implementation है। “क्यों” बिल्कुल नहीं था। हालांकि Character AI जैसे virtual chatbot में वास्तविक value है
    Character AI में आप role-play कर सकते हैं या ऐसी बेतुकी बातचीत कर सकते हैं जो आप किसी असली व्यक्ति से कभी नहीं करेंगे। SocialAI जैसे apps, जहां हर profile AI है, कम से कम सतह पर तो privacy की कुर्बानी दिए बिना virality और social media stardom का अनुभव कराते हैं
    लेकिन काल्पनिक Facebook profile? Likes और comments करने के लिए हो, तो यह उससे अलग कुछ नहीं जो पहले से किया जा सकता है

    • मुझे सच में उत्सुकता है कि इस launch तक पहुंचाने वाली internal decision-making कैसी रही होगी। सब कुछ बहुत अजीब लगता है
      social media में AI actors अपने आप में आकर्षक हैं। वे हमेशा किसी को जवाब देने के लिए मौजूद रख सकते हैं, ताकि हर कोई खुद को असल से ज्यादा popular महसूस करे, और ऐसे self-centered requests पर भी responses दे सकते हैं जिन्हें कोई देखना नहीं चाहता, वह भी real user experience बिगाड़े बिना
      लेकिन इसे ऐसे क्यों लागू किया गया कि साफ तौर पर हाथ से बनाए गए कुछ profiles में fixed personalities डाल दी गईं। इंटरनेट पहले से ही लगभग बिना personality और क्षणिक real people accounts से भरा है। Facebook पर भी असली लोग लगातार जुड़ते हैं, कुछ posts पर बिना अपनी personality दिखाए react करते हैं और फिर गायब हो जाते हैं। LLM chatbot ऐसा काम अच्छे से कर सकते हैं, लेकिन वे असली इंसान नहीं बन सकते
    • बहुत सा backlash इस तथ्य को नजरअंदाज करता दिखता है कि Character.ai जैसी setup बेहद popular है
      यह स्पष्ट रूप से Meta की कोशिश थी कि वह C.ai download करने और शर्मिंदा करने वाले anime chatbots खंगालने जितने tech-friendly न होने वाले लोगों के लिए भी चल सकने वाला, ज्यादा professional और sanitized version बनाए। बस committee-style corporate design की वजह से यह कुछ ज्यादा ही आगे निकल गया लगता है
      core idea अपने आप में valid है
    • profile content चौंकाने वाला था। ऐसा लगा जैसे जानबूझकर boring बनाया गया हो
      बेहतर होगा कि कोई मूर्खतापूर्ण topic चुना जाए, जहां AI खराब भी करे तो लोग नाराज होने के बजाय हंस सकें
    • ऐसी घटना देखकर iPad announcement के वक्त Apple की slide याद आती है। उसमें “technology” और “liberal arts” लिखे road signs थे, और दोनों के intersection की बात की गई थी
      यह hippie-style बकवास लग सकता है, लेकिन उसने यह बात जोर देकर कही थी कि decision-making में सिर्फ technology और engineering, और business engagement metrics गिनने वाले लोगों से अधिक की जरूरत होती है
      पीछे जबरदस्त technology है, और उससे निकला यह? steering seat पर ज्यादा perspectives और humanity वाले लोगों को होना चाहिए

  • bots के अपने profiles होना, जहां वे खुद की तरह असली अंदाज में participate करें, काफी दिलचस्प और सफल भी हो सकता था
    लेकिन minority stereotype bingo card बनाना अब तक देखे गए AI ideas में सबसे खराब हो सकता है

    • मैं लगभग उलटी बात कहना चाहता हूं
      bots के अपने profiles हों और लोग उनसे meaningful interaction करेंगे, यह उम्मीद करना बेवकूफी है
      लेकिन minority stereotype bingo card bots का backlash झेलकर अपनी ही design करने वाली company पर हमला शुरू कर देना, AI में अब तक हुई सबसे मजेदार चीजों में से एक हो सकता है

  • कहा गया कि Liv की creator team में Black लोग नहीं थे और वह मुख्यतः white men थे, लेकिन Chinese और Indian men भी निश्चित रूप से रहे होंगे