Sam Altman अपना असली रूप दिखा रहे हैं

 (slate.com)
1 पॉइंट द्वारा GN⁺ 2024-05-23 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • GPT-4o डेमो में voice assistant Sky की आवाज Scarlett Johansson से मिलती-जुलती होने पर विवाद बढ़ा, जिसके बाद OpenAI ने इसका इस्तेमाल अस्थायी रूप से रोक दिया
  • Johansson ने बताया कि उन्होंने सितंबर 2023 में Sam Altman का ChatGPT 4.0 में voice role का प्रस्ताव ठुकरा दिया था, और सार्वजनिक रिलीज़ से दो दिन पहले फिर से अनुरोध मिला, लेकिन संपर्क होने से पहले ही सिस्टम सार्वजनिक कर दिया गया
  • OpenAI ने सफाई दी कि Sky किसी अन्य professional actor की प्राकृतिक आवाज है, लेकिन Altman के “her” ट्वीट ने फिल्म Her से तुलना को और बढ़ा दिया
  • यह मामला copyright lawsuits, पूर्व कर्मचारियों की आलोचना सीमित करने वाले contracts, safety team के departures और SEC जांच के साथ मिलकर Altman के transparency के वादे पर संदेह पैदा करता है
  • Sky विवाद OpenAI द्वारा creators, employees और training data sources के साथ किन मानकों पर व्यवहार किया जाता है, इस पर trust issue बन गया

Sky voice विवाद की शुरुआत

  • OpenAI ने GPT-4o announcement में voice assistant Sky को केंद्र में रखकर multimodal interaction model का डेमो किया
  • Sky की आवाज़ के tone पर कई लोगों ने प्रतिक्रिया दी कि यह Scarlett Johansson से बहुत मिलती-जुलती है
  • Johansson ने NPR के Bobby Allyn को भेजे बयान में बताया कि Altman ने सितंबर 2023 में उनसे वर्तमान ChatGPT 4.0 system की आवाज़ देने का प्रस्ताव रखा था
    • उन्होंने निजी कारणों से प्रस्ताव ठुकरा दिया
    • 9 महीने बाद दोस्तों, परिवार और जनता ने कहा कि Sky उनसे बहुत मिलती-जुलती लगती है
    • सार्वजनिक demo सुनने के बाद उन्होंने कहा कि उन्हें “सदमा, गुस्सा और अविश्वास” महसूस हुआ
  • इसके बाद Johansson ने वकील नियुक्त कर Altman और OpenAI को पत्र भेजा, और बताया कि OpenAI ने Sky की आवाज़ बदलने पर “अनिच्छा से सहमति” दी

OpenAI और Altman की सफाई

  • OpenAI ने Sky से जुड़े सवालों के बाद X पर पोस्ट किया कि वह Sky के इस्तेमाल को अस्थायी रूप से रोकने पर काम कर रहा है
  • OpenAI ने blog post में कहा कि AI voices को किसी celebrity की विशिष्ट आवाज़ की जानबूझकर नकल नहीं करनी चाहिए
    • उसका दावा है कि Sky Scarlett Johansson की नकल नहीं है, बल्कि किसी अन्य professional actor ने अपनी प्राकृतिक बोलचाल में दी हुई आवाज़ है
  • Altman ने NPR से कहा कि Sky की voice actor को Johansson से संपर्क करने से पहले cast किया गया था
    • उन्होंने कहा कि Johansson के सम्मान में product में Sky का इस्तेमाल रोक दिया गया
    • उन्होंने कहा कि “बेहतर ढंग से communicate न कर पाने” के लिए उन्हें Johansson से अफसोस है

Her से तुलना बढ़ाने वाली परिस्थितियां

  • Altman ने GPT-4o के public launch के दौरान “her” शब्द ट्वीट किया
    • इससे 2013 की फिल्म Her की याद आई, जिसमें Johansson ने Siri जैसी voice assistant की भूमिका निभाई थी
    • Altman पहले Her को अपनी पसंदीदा फिल्म बता चुके हैं
    • बाद में उन्होंने अपने निजी blog में GPT-4o के बारे में लिखा कि यह “फिल्म वाले AI जैसा महसूस होता है”
  • Johansson ने बताया कि ChatGPT 4.0 demo सार्वजनिक होने से दो दिन पहले Altman ने उनके agent से फिर से विचार करने को कहा था
    • दोनों पक्षों के जुड़ने से पहले ही system पहले से public हो गया
  • Washington Post की Nitasha Tiku ने बताया कि सितंबर 2023 में OpenAI live demo में Sky की आवाज़ उन्हें Johansson जैसी लगी थी, और उन्होंने संबंधित executive से पूछा था कि क्या यह जानबूझकर है
    • उस समय executives ने कहा था कि यह जानबूझकर नहीं है

OpenAI पर बढ़ता दबाव

  • GPT-4o को OpenAI के प्रमुख upgrades में से एक के रूप में पेश किया गया, और launch के बाद ChatGPT mobile app revenue में तेज उछाल के साथ-साथ Chinese language functions की training में इस्तेमाल हुए spam को लेकर विवाद भी हुआ
  • Johansson विवाद उन actors की strike के कुछ ही महीनों बाद सामने आया, जो AI के film industry पर प्रभाव को लेकर चिंतित थे और बाद में union agreement तक पहुंचे
    • SAG-AFTRA ने OpenAI के खिलाफ Johansson के रुख का सार्वजनिक रूप से समर्थन किया
  • OpenAI पर यह आलोचना होती रही है कि उसने ChatGPT और DALL-E 3 जैसे apps को train और run करने में इस्तेमाल हुए large-scale data को लेकर पर्याप्त माफी या transparency नहीं दी
    • कंपनी मान चुकी है कि copyrighted books, artworks, articles आदि का बड़े पैमाने पर उपयोग किए बिना model training “असंभव” है
    • writers और news publishers ने इस practice को लेकर OpenAI के खिलाफ lawsuits दायर किए हैं
    • 404 Media ने report किया कि OpenAI ने OpenAI subreddit के logo use को लेकर “copyright complaint” दर्ज की

Altman की बर्खास्तगी और safety team departures

  • OpenAI board के बहुमत ने नवंबर 2023 में Altman पर अविश्वास जताया और उन्हें अचानक हटा दिया
    • उस समय board ने कहा कि Altman board के साथ communication में “लगातार स्पष्टवादी नहीं रहे”
  • इसके बाद विवाद Altman और उनका समर्थन करने वाले executives, तथा तेज product development और deployment से संभावित misuse को लेकर चिंतित लोगों के बीच संघर्ष में बदल गया
  • Ilya Sutskever नवंबर की घटना के मुख्य लोगों में से एक थे और बताया गया कि उन्होंने Altman की ईमानदारी पर सवाल उठाया था, लेकिन बाद के महीनों में वे कंपनी लौटे नहीं
    • OpenAI ने पिछले सप्ताह Sutskever के departure की घोषणा की
  • Sutskever की team के प्रमुख Jan Leike ने भी कुछ घंटों बाद इस्तीफे की घोषणा की
    • उन्होंने कहा कि OpenAI leadership और कंपनी की core priorities को लेकर उनका लंबे समय से मतभेद था, और अंततः बात सीमा तक पहुंच गई
  • Vox ने report किया कि नवंबर के बाद OpenAI में safety को प्राथमिकता देने वाले कम से कम 5 और कर्मचारी छोड़कर गए या बाहर कर दिए गए
    • एक पूर्व कर्मचारी ने कहा कि उनका OpenAI leadership पर trust धीरे-धीरे खत्म हो गया

Secrecy, exit contracts और legal disputes

  • Vox ने report किया कि OpenAI employees को अपनी equity बनाए रखने के लिए बहुत restrictive exit contract पर sign करना पड़ता है
    • यह contract उन्हें पूर्व employer की जीवन भर आलोचना करने से रोकता है
    • NDA के अस्तित्व को स्वीकार करना भी प्रतिबंधित है
  • Altman ने X पर कहा कि उन्हें इस equity clause की जानकारी नहीं थी, contract फिर से लिखा जा रहा है, और पुराने contract पर sign कर चुके पूर्व कर्मचारी उनसे संपर्क करें तो वे इसे ठीक करेंगे
  • MIT Technology Review ने report किया कि पहले OpenAI secrecy, image protection और employee loyalty बनाए रखने को लेकर obsessed था
  • The Information ने अप्रैल 2024 में report किया कि OpenAI के 2 employees को information leak के आरोप में निकाल दिया गया
  • Authors Guild lawsuit के दौरान documents सामने आए कि OpenAI ने शुरुआती GPT models की training में इस्तेमाल हुए 100,000 से अधिक प्रकाशित पुस्तकों के 2 datasets delete कर दिए
    • उस data को organize करने वाले employees अब OpenAI में नहीं हैं
    • OpenAI ने lawsuit से पहले तक training data history disclose करने से इनकार किया
  • New York Times lawsuit के lead lawyer ने court को पत्र भेजकर कहा कि OpenAI protective order negotiations को खींचकर और basic information जल्दी न देकर discovery process में देरी कर रहा है
  • SEC जांच कर रहा है कि Altman और OpenAI के अन्य senior leaders ने investors को mislead किया या नहीं; इसी संदर्भ में Altman के communications की जांच हो रही है

Sky मामले से बचा trust issue

  • Altman transparency के महत्व की बात करते रहे हैं, OpenAI के internal dissenters के प्रति उदार होने की बात कही है, और AI के responsible steward के रूप में खुद को दिखाने के लिए governments से भी संपर्क करते रहे हैं
  • लेकिन Sky विवाद से यह संदेह बढ़ता है कि Altman के public statements और OpenAI के internal operations, employee treatment और secrecy practices के बीच टकराव है
  • Johansson के मना करने के बाद भी मिलती-जुलती आवाज़ public होने की घटना ने इस भरोसे को हिला दिया कि OpenAI ने Sky voice की training और selection process नेकनीयती से की थी

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-23
Hacker News की राय

  • Altman ऐसा विश्वास दिलाने की कोशिश कर रहे हैं कि यह एक भोली-भाली गलतफ़हमी थी, लेकिन वे वास्तव में ऐसा कहते नहीं हैं: “Sky की आवाज़ देने वाली voice actor को Johansson से संपर्क करने से पहले cast किया गया था”
    इससे ऐसा आभास दिलाने की कोशिश लगती है मानो कंपनी ने बिना अनुमति उसके जैसी आवाज़ बनाने की कोशिश नहीं की थी। यह वकील द्वारा लिखी गई उस तरह की पंक्ति है जो तकनीकी रूप से सच होती है, लेकिन व्यवहार में झूठा प्रभाव देती है, और यह एक बहुत ही सामान्य बच निकलने वाला अंदाज़ है। ऐसे चालाक, टालमटोल करने वाले और जानबूझकर भ्रामक व्यक्ति को हमारे भविष्य पर इतना अधिकार नहीं देना चाहिए

    • हमारे भविष्य पर इतना अधिकार किसी को भी नहीं देना चाहिए
    • ऐसी मिलती-जुलती आवाज़ वाले लोग सैकड़ों हैं। अगर कोई भी voice actor Johansson जैसी intonation निकाल सकता है, तो जब तक मूल training material वैध है, उसे अनुमति होनी चाहिए, ऐसा लगता है। आवाज़ खुद copyright या monopoly का विषय नहीं हो सकती, हालांकि निश्चित ही Hollywood कभी न कभी इस पर copyright जताने की कोशिश करेगा
    • अगर voice actor पहले से cast थी, तो फिर ScarJo से संपर्क करने की ज़रूरत ही क्यों पड़ी, समझ नहीं आता
      Sam, क्या आप उसकी appearance fee देना चाहते थे? आम तौर पर तो लोग वही fee न देने के लिए ऐसा करते हैं, इसलिए ज़्यादा संभावना यही है कि Johansson से संपर्क करने से पहले ही voice actor cast कर ली गई थी
    • यह कोई अस्पष्ट संकेत नहीं है; दूसरी जगह रिपोर्ट किए गए पूरे बयान में इसे साफ़ तौर पर नकारा गया है
      “Sky की आवाज़ Scarlett Johansson की नहीं है, और न ही उसे उसके जैसी बनाने का इरादा था। Sky की आवाज़ देने वाली voice actor को Johansson से संपर्क करने से पहले cast किया गया था। Johansson के सम्मान में हमने product में Sky voice का उपयोग रोक दिया है। बेहतर तरीके से संवाद न कर पाने के लिए हम Johansson से माफ़ी मांगते हैं।”
      यह सच है या नहीं, इस पर शक हो सकता है, लेकिन कम से कम यह स्पष्ट और गैर-गुप्त इनकार है
    • “वकील द्वारा लिखी गई, तकनीकी रूप से सच लेकिन व्यवहार में झूठा प्रभाव देने वाली” बात लगभग हर CEO के बयान पर लागू होती है। उन लोगों पर भी, जिनका मुख्य काम marketing है

  • यह क्लासिक move fast and break things मानसिकता है। बस फ़र्क इतना है कि Sam अब तक कहते आए हैं कि वे इसे “सावधानी से” करेंगे, और इस वजह से उनकी बातें आखिरकार धुएँ की ओट जैसी लगती हैं
    वास्तविकता में AGI development को सावधानी से करने के लिए कोई रुकने वाला नहीं है; यह atomic bomb development race की तरह आगे बढ़ रहा है। इतिहास दिखाता है कि अंत में चीज़ें बिना ब्रेक के पूरी रफ़्तार से चलती हैं। ScarJo तो बस इस प्रक्रिया में कुचली गई ताज़ा मिसाल है, और अंततः इससे कहीं ज़्यादा लोग कुचले जाएंगे

    • इसमें कोई भी publicity बुरी नहीं होती वाली सोच भी काफ़ी मिली हुई है। आजकल बस लगातार चर्चा में बने रहना ही सबसे ज़रूरी लगता है
    • मैं इसे “इजाज़त मांगने से बेहतर है कि बाद में माफ़ी मांग ली जाए” वाली श्रेणी में रखूँगा। यह Silicon Valley में आम सोच भी है

  • Scarlett Johansson जैसी आवाज़ वाले लोग बहुत हैं। अगर SJ OpenAI की voice actor नहीं बनना चाहती थीं, तो OpenAI किसी मिलती-जुलती आवाज़ को ढूँढकर इस्तेमाल क्यों नहीं कर सकता, यह समझ नहीं आता
    SJ को अपने जैसी लगने वाली हर आवाज़ पर monopoly नहीं मिलती। ऐसी आवाज़ वाले लोगों को भी उसी आवाज़ से कमाने का अधिकार है, और वास्तव में किसी ने वही अधिकार इस्तेमाल किया है। Sky voice और SJ की आवाज़ की तुलना करें तो वे एक जैसी नहीं हैं। OpenAI की गलती यह थी कि उसने SJ के सामने झुकाव दिखाया। उसे Sky बनाए रखना चाहिए था और SJ से कह देना चाहिए था कि पीछे हटें। अगर मुक़दमा होता, तो वे साबित कर सकते थे कि उन्होंने दूसरी voice actor का इस्तेमाल किया, और यह वैध तर्क दे सकते थे कि SJ को मिलती-जुलती आवाज़ों पर monopoly नहीं है

    • समझ नहीं आता कि यह इतना भ्रमित करने वाला क्यों है
      शायद Scarlett मशहूर हैं, इसलिए media इसे बड़े पैमाने पर कवर कर रहा है। ऐसा नहीं लगता कि इस मामले ने सामान्य से ज़्यादा लोगों को भड़काया है; comments देखें तो यह OpenAI के बारे में पहले से मौजूद भावनाओं से बहुत अलग नहीं है। बस अब सबको एक साथ अपनी बात कहने का बहाना मिल गया है। लोग ऐसे व्यवहार कर रहे हैं मानो कंपनी ने सचमुच कुछ चुरा लिया हो। OpenAI का Sky voice हटाना भी मददगार नहीं था। अगर छिपाने लायक कुछ नहीं था, तो हटाया क्यों? जवाब, बेशक, यह है कि Scarlett एक मशहूर अमीर शख्सियत हैं, इसलिए वे बिना पुख्ता आधार के भी OpenAI के खिलाफ़ बहुत महँगा मुक़दमा कर सकती हैं। फिर भी OpenAI को वह लागत उठानी चाहिए थी, और अब यह ऐसा लग रहा है मानो वह cookie jar में हाथ डालते पकड़ी गई हो। जबकि असल में कौन-सी cookie चोरी हुई, यह कोई ठीक से बता भी नहीं पा रहा
    • मैं वकील नहीं हूँ, लेकिन Sky की बात करते समय फिल्म Her का बार-बार संदर्भ देना एक गलती थी
    • “तो फिर OpenAI किसी मिलती-जुलती आवाज़ को ढूँढकर इस्तेमाल क्यों नहीं कर सकता?” यह मानकर चलता है कि उन्होंने वाकई ऐसा किया था। अभी तो यह “यक़ीन करो, Canada में रहने वाली मेरी girlfriend सच में है!” जैसी स्थिति लग रही है। सच में है, दोस्तों! नहीं, मैं दिखा नहीं सकता
    • सहमत। तो फिर SJ जैसी शक्ल वाले लोगों का क्या? क्या सिर्फ इसलिए कि SJ पहले actor बन गईं, बाकी लोग acting का काम नहीं कर सकते?
    • मैं यह case law देखने की सलाह दूँगा: https://en.wikipedia.org/wiki/Midler_v._Ford_Motor_Co

  • यह देखना दिलचस्प होगा कि यह thread HN पर कितनी देर टिकता है
    आजकल @sama का यहाँ कितना influence है? संदर्भ के लिए, मैं कभी उनसे प्रभावित नहीं हुआ। OpenAI के AI scientists और engineers के बेहतरीन काम का श्रेय लेने के अलावा, मुझे नहीं पता कि उन्होंने वास्तव में कोई महत्वपूर्ण काम किया है या कुछ बनाया है। कंपनी उनकी ambition और legacy के लिए एक माध्यम जैसी लगती है, उससे ज़्यादा कुछ नहीं

    • Hacker News को YC से जुड़े लोगों से editorial independence के लिए जाना जाता है, और dang भी कह चुके हैं कि वे YC के लोगों या कंपनियों से जुड़े threads को जानबूझकर नहीं मारते। Sam Altman अब YC में भी नहीं हैं
    • इस thread को moderators को हटाना चाहिए। इसमें ठोस सामग्री लगभग नहीं है। यह पहले से मौजूद सार्वजनिक विवाद का follow-up thread है, और किसी नई घटना का प्रतिनिधित्व भी नहीं करता। यह HN के उद्देश्य के अनुरूप नहीं है
    • मैंने इस submission को ragebait होने के कारण flag किया। यह बौद्धिक रूप से सार्थक नहीं है, और HN के लिए उपयुक्त नहीं है। HN कोई advocacy platform नहीं है
    • users ने इसे flag किया, और flamewar detector भी सक्रिय हुआ। यह पोस्ट हाल के मुद्दों पर HN में पहले से मौजूद threads का derivative है, इसलिए इस बार शायद penalty बंद नहीं की जाएगी
      Scarlett Johansson का OpenAI “Sky” voice पर बयान - https://news.ycombinator.com/item?id=40421225 - मई 2024, 970 comments
      Jan Leike ने OpenAI से इस्तीफ़ा दिया - https://news.ycombinator.com/item?id=40363273 - मई 2024, 391 comments
      Ilya Sutskever ने OpenAI छोड़ा - https://news.ycombinator.com/item?id=40361128 - मई 2024, 780 comments
      और OpenAI से और इस्तीफ़े: पूर्व कर्मचारी क्यों नहीं बोल सकते? - https://news.ycombinator.com/item?id=40393121 - मई 2024, 961 comments
      ये सभी बहुत बड़े threads थे। कभी-कभी HN में पहले किसी विषय पर बड़ी चर्चा होती है, फिर कोई journalist उसे देखकर article लिखता है, और कोई user उस article को फिर submit कर देता है, जिससे HN पर एक और thread बन जाता है। ऐसे feedback loop की ज़रूरत नहीं है। जब दोहराए गए content में आनंद कम हो जाता है, तो मन अक्सर उसकी भरपाई गुस्से से करना चाहता है (https://hn.algolia.com/?dateRange=all&page=0&prefix=true&sort=byDate&type=comment&query=mind%20amuse%20by:dang), और पहले वाले threads भी पहले से काफ़ी गुस्से से भरे और दोहराव वाले थे। @sama का influence शून्य है। YC चलाते समय भी उन्होंने HN के बारे में कभी कोई बदलाव नहीं माँगा, और उसके बाद तो बिल्कुल नहीं। संदर्भ के लिए, https://www.ycombinator.com/blog/two-hn-announcements/ पोस्ट करने वाले Sam ही थे। व्यक्तिगत रूप से, मुझे याद है कि Loopt के दिनों से ही Sam के बारे में इस तरह की बातें सुनता आया हूँ। एक परिकल्पना यह है कि pg द्वारा उनकी सार्वजनिक रूप से बहुत प्रशंसा किए जाने से पाठकों में “वह क्यों, मैं क्यों नहीं?” जैसी भावना पैदा हुई। विडंबना यह है कि Sam जितनी अधिक उपलब्धियाँ हासिल करते गए, शिकायतें उतनी बढ़ती गईं। iPhone के बाद की सबसे बड़ी tech boom के दौरान OpenAI का नेतृत्व करना साफ़ तौर पर बड़ी उपलब्धि है। Sam अगर gravity को quantum theory के साथ unify कर दें, मध्य-पूर्व में शांति करा दें, और cancer का इलाज भी खोज लें, तब भी शायद ऐसी शिकायतें चलती रहेंगी। यह वस्तुनिष्ठ उपलब्धियों या उनकी कमी पर आधारित नहीं लगता, बल्कि किसी तरह की secondary phenomenon जैसा दिखता है, इसलिए दिलचस्प है। कम से कम तब तक, जब तक आप खुद Sam न हों
    • क्या यही बात ज़्यादातर CEOs के बारे में नहीं कही जा सकती? वे आम तौर पर वे लोग नहीं होते जो खुद हाथ गंदे करके असली काम करते हैं

  • यह दिलचस्प है कि copyright और licensing पर चल रही बहस “GPT और Google में कौन बेहतर है” की तरफ़ खिसक गई
    सामान्य ज्ञान में योगदान देने वाले सभी artists और engineers से कहूँगा: आप हार गए। दूसरों की मदद के लिए आपने जो भी किया, वह अब model का हिस्सा बन चुका है, और उसे वापस लेने का कोई तरीका नहीं है। AI companies के खिलाफ artists जो copyright attack करने वाले थे, उसका आखिर हुआ क्या? वह 100 साल पुरानी बात जैसी लगती है

    • generative AI companies के खिलाफ अभी courts में लगभग 10 मुकदमे चल रहे हैं। इनमें Sarah Andersen, Kelly McKernan, Karla Ortiz का मुकदमा, Getty Images का मुकदमा, Authors Guild का मुकदमा, और New York Times का मुकदमा शामिल हैं
      मुकदमों में समय लगता है, यह कोई चौंकाने वाली बात नहीं है। जब तक courts मुद्दों को स्पष्ट नहीं कर देते, OpenAI और उसके जैसे लोग कानूनी gray area में काम कर रहे हैं
    • सामान्य ज्ञान में योगदान देना अच्छी बात है। भुला दिए जाने और कोई असर न छोड़ने से तो बेहतर है
    • क्या वाकई बात वहाँ तक पहुँच गई? जो लोग मुकदमा कर रहे हैं, उनके लिए तो बिल्कुल नहीं। जैसा कि इस article में भी कहा गया है, actors के हालिया contracts में AI से सुरक्षा के clauses शामिल किए गए हैं, और SAG-AFTRA press release [0] में भी legislation को आगे बढ़ाने की बात कही गई है। यह bluff हो सकता है और इसका कोई नतीजा न निकले, लेकिन लोगों ने हार नहीं मानी है
      [0]: https://www.sagaftra.org/sag-aftra-statement-regarding-scarlett-johansson-and-openai-chat-gpt-4o-%E2%80%9Csky%E2%80%9D
    • जब इतने लोग अपना software MIT license, यानी लगभग “जो चाहो करो, मुझे फ़र्क नहीं पड़ता” license के तहत जारी करते हैं, तो लगता है कि हममें से ज़्यादातर लोग शायद इससे ठीक रहेंगे
    • मुझे यह नज़रिया भोला लगता है। derivative works कोई नई चीज़ नहीं हैं। नया यह है कि quality की क़ीमत पर काम की लागत बहुत कम हो गई है। फिर भी कई मामलों में इंसानी imitators अब भी generative AI से कहीं बेहतर हैं
      artist की पहचान उसके पिछले कामों या बिखरे हुए output से नहीं, बल्कि उसके perspective और creativity से होती है। यह भी कोई नई समझ नहीं है। AI का इससे सीधा संबंध नहीं; वह सिर्फ़ एक साधन है। असली समस्या कानून है, बाकी सब बढ़ा-चढ़ाकर कहा गया है

  • क्या किसी और को भी लगता है कि इस पूरे मामले को ज़रूरत से ज़्यादा बढ़ा-चढ़ाकर पेश किया गया है? इस मुद्दे पर tech industry से आ रहा backlash सच में समझ नहीं आता
    Sam Altman ने कुछ कोशिश की, ScarJo ने मुकदमा दायर किया, और ChatGPT ने वह voice हटा दी। बस इतना ही हुआ। सिस्टम ने वैसे ही काम किया जैसा उसे करना चाहिए था। लेकिन सिर्फ इससे उसे भयानक इंसान कहना समझना मुश्किल है। यह #MeToo जैसी स्थिति से बहुत दूर है। वह एक अमीर और मशहूर Hollywood actress है, वह ठीक रहेगी

    • मुझे नहीं लगता कि लोग उसे सिर्फ इसी एक बात की वजह से भयानक इंसान कह रहे हैं। यह घटना बस उस बात की पुष्टि करती है
    • जब कोई celebrity शामिल होती है, तो लगभग हमेशा ऐसा ही होता है

  • अगर AI को समीकरण से बाहर कर दें तो क्या होगा। Voice actor A, जिसने Sky की आवाज़ दी, अगर SJ से बहुत मिलती-जुलती सुनाई देती है, तो क्या उसे किसी भी voice work से रोका जाना चाहिए?
    मान लीजिए Her फिल्म बनाने वाली production company Her 2 बनाना चाहती है, लेकिन SJ ने voice work करने से मना कर दिया। तो क्या वे A को hire करके वह voice नहीं करवा सकते? अगर production company ने SJ से फिर पूछा, उसने फिर भी मना कर दिया, और फिर A के साथ फिल्म बना ली, तो क्या यह अशिष्ट माना जाएगा? लोग सीमा कहाँ खींचते हैं, यह जानना चाहता हूँ

    • संबंधित case law उन मामलों से जुड़ा है जहाँ प्रतिवादी ने नकल का इस्तेमाल किया ताकि लगे कि वही असली व्यक्ति है। SJ जैसी आवाज़ होना अपने-आप में समस्या नहीं है, लेकिन Her वाला tweet और उसे जोड़ने की कोशिश ने मामले को उलझा दिया। अगर जान-बूझकर मिलती-जुलती आवाज़ चुनने का documented trail हुआ, तो परेशानी हो सकती है
      अभिनेता बिना विस्तृत contract के फिल्म में काम नहीं करते, इसलिए उस स्थिति पर सामान्य नियम सीधे वैसे ही लागू हों, यह ज़रूरी नहीं। Her के निर्माताओं के पास संबंधित सामग्री में SJ की likeness इस्तेमाल करने का अधिकार भी हो सकता था। किसी भी हालत में, अगर मिलती-जुलती आवाज़ के साथ sequel बनती, तो वह voice actor “A” नहीं रहती, उसका नाम credits में होता, और यह भ्रम नहीं रहता कि आवाज़ किसकी है
    • समझ नहीं आता कि AI को समीकरण से बाहर क्यों रखना चाहिए
      production company और Scarlett Johansson के बीच संभवतः contract में यह तय रहा होगा कि अगर वह sequel में काम नहीं करना चाहें तो क्या होगा। OpenAI और Scarlett Johansson के बीच ऐसा कोई contract नहीं है

  • उन्होंने Sky voice के लिए एक voice actor को hire किया था
    अगर OpenAI केस हार जाती है, तो क्या इस voice actor को सिर्फ इसलिए आगे काम नहीं मिलेगा कि उसकी आवाज़ संयोग से किसी दूसरी actress से मिलती है? क्या Sky की voice actor भी यह कहकर Johansson की फिल्मों पर मुकदमा कर सकती है कि Johansson ने उसकी आवाज़ कॉपी की?

    • नहीं। यह वैसा ही है जैसे copyright infringement की ज़िम्मेदारी पैदा करने वाला काम करने के लिए किसी writer को hire करना, या patent infringement की ज़िम्मेदारी पैदा करने वाला काम करने के लिए किसी engineer को hire करना—इससे वे workers industry से ban नहीं हो जाते
      publicity right का उल्लंघन सिर्फ आवाज़ की समानता भर नहीं है
    • voice actor की कोई गलती नहीं है। अगर OpenAI ने उसे इस इरादे से hire किया कि वह ऐसा voice model बनाए जिसे Scarlett की प्रसिद्धि को marketing में भुनाने के लिए इस्तेमाल किया जा सके, तो गलती OpenAI की हो सकती है
    • क्या तुम्हें यक़ीन है कि “उन्होंने Sky voice के लिए voice actor को hire किया था”? क्या तुम इस पर दांव लगा सकते हो कि मामला कभी discovery process तक नहीं जाएगा?
    • यह voice acting कैसे काम करती है, इसकी साफ़ गलतफ़हमी है। एक अच्छा voice actor आवाज़ का गिरगिट होता है, और हर role के लिए अपनी आवाज़ को काफ़ी बदल सकता है

  • यह शायद defamation जैसा लगे, लेकिन क्या किसी और को भी लगता है कि Sam Altman धीरे-धीरे Sam Bankman-Fried जैसी, लगभग हास्यास्पद रूप से मिलती-जुलती reputation disaster की ओर बढ़ रहा है? Twitter/X पर भी मैंने यह नज़रिया कई बार देखा है

  • ऐसा डरावना एहसास है जैसे Ghost in the Shell का “I do not consent” वाला scene असल ज़िंदगी में सामने आ रहा हो
    https://getyarn.io/yarn-clip/e913bd02-2582-4258-819f-2d5a00b1db6d