Sarah Silverman ने OpenAI और Meta पर कॉपीराइट उल्लंघन का मुकदमा दायर किया

 (theverge.com)
1 पॉइंट द्वारा GN⁺ 2023-07-10 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कॉमेडियन और लेखिका Sarah Silverman ने Christopher Golden और Richard Kadrey के साथ मिलकर OpenAI और Meta के खिलाफ अलग-अलग अमेरिकी जिला अदालतों में मुकदमा दायर किया
  • मुख्य सवाल यह है कि क्या ChatGPT और LLaMA को लेखकों की अनुमति के बिना किताबों सहित डेटासेट पर ट्रेन किया गया
  • वादियों का कहना है कि Bibliotik, Library Genesis और Z-Library जैसी shadow library से अवैध रूप से हासिल की गई किताबें torrent के जरिए बड़े पैमाने पर वितरित की गईं
  • OpenAI के खिलाफ मुकदमे में ChatGPT द्वारा Bedwetter, Ararat, Sandman Slim का सारांश देने के उदाहरण को ट्रेनिंग डेटा के उपयोग के संकेत के रूप में पेश किया गया
  • Meta के खिलाफ मुकदमा ThePile और EleutherAI को LLaMA के ट्रेनिंग डेटा स्रोत से जोड़ते हुए यह सवाल उठाता है कि क्या वादियों की किताबें इस्तेमाल किए गए डेटासेट में शामिल थीं

मुकदमे के पक्ष और मुख्य मुद्दा

  • Sarah Silverman, Christopher Golden और Richard Kadrey ने OpenAI और Meta के खिलाफ अलग-अलग अमेरिकी जिला अदालतों में मुकदमे दायर किए
  • दोनों मुकदमों का केंद्र कॉपीराइट उल्लंघन का सवाल है
  • वादियों का आरोप है कि OpenAI के ChatGPT और Meta के LLaMA को ऐसे डेटासेट पर ट्रेन किया गया जिनमें उनकी रचनाएँ शामिल थीं
  • मुख्य विवाद यह है कि क्या ये डेटासेट लेखकों की अनुमति के बिना हासिल किए गए थे

ट्रेनिंग डेटा के स्रोत पर विवाद

  • मुकदमों में दावा किया गया है कि ChatGPT और LLaMA की ट्रेनिंग में इस्तेमाल किए गए डेटासेट अवैध तरीके से हासिल किए गए थे
  • वादियों द्वारा चिन्हित shadow library साइटें ये हैं
    • Bibliotik
    • Library Genesis
    • Z-Library
    • अन्य समान साइटें
  • यह भी आरोप है कि इन किताबों को torrent system के जरिए बड़े पैमाने पर उपलब्ध कराया गया

OpenAI के खिलाफ मुकदमे में पेश उदाहरण

  • वादियों ने इस बात को सबूत के तौर पर पेश किया कि ChatGPT ने prompts के आधार पर उनकी किताबों का सारांश दिया
  • सबूत में शामिल किताबें ये हैं
    • Sarah Silverman की Bedwetter
    • Christopher Golden की Ararat
    • Richard Kadrey की Sandman Slim
  • मुकदमे में यह भी कहा गया है कि ChatGPT ने वादियों की प्रकाशित रचनाओं में शामिल copyright management information को पुन: प्रस्तुत नहीं किया

Meta के खिलाफ मुकदमे का फोकस

  • Meta के खिलाफ अलग मुकदमे में कहा गया है कि वादियों की किताबें LLaMA ट्रेनिंग डेटासेट में उपलब्ध रही होंगी
  • LLaMA को Meta द्वारा फरवरी में जारी किए गए 4 open source AI models के रूप में बताया गया है
  • शिकायत में Meta के LLaMA पेपर में दिए गए ट्रेनिंग डेटासेट स्रोतों में से ThePile पर सवाल उठाया गया है
  • ThePile का उल्लेख EleutherAI द्वारा बनाए गए डेटासेट के रूप में किया गया है

पक्षों की प्रतिक्रिया

  • Christopher Golden और Richard Kadrey ने मुकदमे पर टिप्पणी करने से इनकार किया
  • Sarah Silverman की ओर से रिपोर्ट प्रकाशित होने तक कोई जवाब नहीं आया

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-07-10
Hacker News की राय

  • AI बनाने वालों ने मानो साफ़-साफ़ कह दिया है कि उन्होंने book piracy sites से लाई गई copyright वाली रचनाओं का वास्तव में इस्तेमाल किया
    उस साइट से अगर आप सिर्फ़ एक किताब भी डाउनलोड करें, तो आप पर मुकदमा हो सकता है और infringement का फ़ैसला आ सकता है, और अगर सब कुछ डाउनलोड किया हो तो अरबों डॉलर के हर्जाने की ज़िम्मेदारी बन सकती है
    लेकिन Google या Facebook जैसी कंपनियाँ मानो अलग नियमों पर चलती हैं। जैसे एक आदमी को मारो तो क़ातिल कहलाओ, लेकिन दस लाख को मारो तो उस पर सवाल पूछना ही “loaded question” बन जाए और ग़ुस्से से जवाब दिया जा सके

    • ज़रा यह भी सोचना चाहिए कि copyright की वजह से लगभग हर बच्चा अब तक लिखी गई लगभग हर किताब तक पहुँच नहीं बना सकता
      copyright को एक ही दिन में ख़त्म कर देना शायद बहुत बड़ा झटका होगा, लेकिन copyright का असर जितना कम होगा, दुनिया उतनी बेहतर होगी और उतनी तेज़ी से आगे बढ़ेगी
      2023 में दुनिया की आधी से ज़्यादा आबादी के पास smartphone है। ऐसी दुनिया की कल्पना की जा सकती है जहाँ आधे से ज़्यादा लोग सभी digitized किताबों तक पहुँच रखते हों और अपने बच्चों को उन्हीं किताबों के साथ बड़ा कर सकें
    • machine learning models बहुत पहले से copyright वाले data पर train होते आए हैं
      ImageNet copyright वाली images से भरा है, Clearview ने तो सचमुच पूरे internet से चेहरे scrape किए, और शायद इससे भी पुराने उदाहरण होंगे
      मुझे नहीं पता कि अमेरिकी अदालतों ने इसे कभी fair use माना है या नहीं, लेकिन अगर अब तक नहीं माना, तो आख़िरकार ऐसा होने की संभावना काफ़ी ज़्यादा लगती है
    • तकनीकी रूप से देखें तो मुकदमा uploading पर होता है, downloading पर नहीं
      जब तक आप दोबारा share नहीं करते, तब तक Z-Library या BitTorrent से जितना चाहें डाउनलोड कर सकते हैं
      copyright सामग्री को search के लिए index करना भी सुरक्षित हो सकता है, या कम से कम काफ़ी धुंधला क्षेत्र है
    • यह जानने की जिज्ञासा है कि “उस साइट से किताब डाउनलोड करने पर मुकदमा होगा और infringement का फ़ैसला आएगा” वाली बात असल में कितनी बार होती है
      infringement notice मिल सकता है, और अगर बहुत ज़्यादा किया जाए तो internet provider सेवा बंद कर सकता है, लेकिन सिर्फ़ कुछ डाउनलोड करने की वजह से किसी पर सचमुच मुकदमा हुआ हो, ऐसा मैंने नहीं सुना
    • मुझे काफ़ी हद तक यह अच्छा लगता है कि AI वाले लोग व्यवहार में ऐसे पेश आ रहे हैं मानो copyright है ही नहीं
      मैं सच में चाहता हूँ कि अदालतें LLM weights और datasets को “fair use” या किसी और मज़ाकिया कानूनी तर्क के तहत मान्यता दे दें
      Aaron Swartz एक सचमुच बड़े इंसान थे

  • यह काफ़ी संभव है कि Silverman की किताब Books2 dataset में रही हो, लेकिन याचिका का यह वाक्य साफ़ तौर पर ग़लत लगता है
    पहली बात, भले ही model ने training के दौरान उस किताब का एक शब्द भी न देखा हो, फिर भी वह Wikipedia page जैसे सार्वजनिक summaries को पढ़कर summary करना सीख सकता था
    दूसरी बात, यह भी साफ़ नहीं है कि कोई model जिसने सिर्फ़ किताब का मूल पाठ देखा हो, लेकिन उस किताब के बारे में कोई description या summary न देखी हो, वह सच में उसका अच्छा summary बना पाएगा या नहीं
    इसे परखने के लिए Project Gutenberg पर मौजूद कोई ऐसी किताब चुनी जा सकती है जो याचिका के अनुसार Books1 में थी और इसलिए ChatGPT के training data में शामिल रही होगी, लेकिन जिस पर online चर्चा लगभग नहीं है। अगर summary करने की क्षमता का स्रोत किताब को ही train करना है, तो दुर्लभ किताबों का summary भी Silverman की किताब जितना अच्छा होना चाहिए
    मैंने यूँ ही The Ruby of Kishmoor चुनी, जो 2003 में Project Gutenberg में जोड़ी गई एक किताब है। GPT-3.5 आधारित ChatGPT ने summary में मुख्य पात्रों तक के बारे में hallucination कर दिया, और GPT-4 ने यह कहकर कोशिश ही नहीं की कि वह कहानी को नहीं जानता
    अगर ChatGPT Silverman की किताब का summary इसलिए बना सकता है कि वही किताब उसके training data में थी, तो फिर दूसरी किताबों के साथ ऐसा क्यों नहीं कर पाता, यह सवाल बनता है

    • GPT-4 के playground ने The Ruby of Kishmoor का summary इस तरह दिया
      prompt: Project Gutenberg की अगली किताब का summary दें — The Ruby of Kishmoor
      जवाब में कहा गया कि यह Howard Pyle की एक छोटी adventure कहानी है, जिसमें Jonathan Rugg एक रहस्यमय अजनबी के बहकावे में Caribbean जाता है ताकि Ruby of Kishmoor नाम का कीमती relic हासिल कर सके
      Caribbean पहुँचने के बाद उसे पता चलता है कि ruby पर एक भयानक curse है, लेकिन जिज्ञासा और बहुत धन पाने की संभावना के कारण वह जोखिम लेकर उस रत्न का पीछा जारी रखता है। कई चुनौतियों के बाद वह किसी व्यवस्थित खोज से नहीं बल्कि महज़ किस्मत से ruby पा लेता है
      आगे कहा गया कि यह यात्रा इंसानी लालच और भौतिक लाभ के लिए लोग कितनी दूर जा सकते हैं, इसकी पड़ताल करती है, और adventure, supernatural elements, courage और नैतिक चिंतन के मेल से पाठक को भौतिक खोज की असली क़ीमत पर दोबारा सोचने पर मजबूर करती है
      आख़िर में कहा गया कि Jonathan ruby लेकर बच निकलता है, लेकिन इसकी भारी निजी क़ीमत चुकाता है, और जीवन व भौतिक खोज की सच्ची क़ीमत पर सवाल छोड़ जाता है
    • मुकदमा शुरू करते समय discovery की सीमा तय कराने के लिए आम तौर पर तथ्य इसी तरह बयान किए जाते हैं
      मतलब यह दावा किया जाता है कि इन्हें सच मानने की वजह है, और अब मुकदमे की प्रक्रिया से इसकी सीधे जाँच की जा सकती है
    • आपने कहा कि “याचिका का यह वाक्य साफ़ तौर पर झूठा है”, लेकिन उसके बाद की दलील सिर्फ़ इतना दिखाती है कि वह ज़रूरी नहीं कि सच ही हो
      मैंने भी दूसरी पोस्ट देखकर GPT-4 से The Ruby of Kishmoor का summary माँगा, और दो बार पूछने पर उसने summary दे दिया। किताब न जानने की वजह से मैं उसकी सटीकता नहीं परख सकता, लेकिन कम से कम वह test तो टूट गया
      यह मान लेना काफ़ी भोला लगेगा कि ChatGPT ने copyright का स्वाभाविक रूप से सम्मान किया होगा और बिना अनुमति copyright सामग्री scan नहीं की होगी। discovery शायद इसका निष्कर्ष दे सकती है। किस चीज़ को scan किया गया, इसके logs होने चाहिए
      मुझे बेहतर तर्क यह लगता है कि यह fair use है
    • यह accessibility का फ़र्क हो सकता है। Silverman के बारे में सुना है, लेकिन Ruby of Kishmoor के बारे में कभी नहीं सुना
      उस पर ज़्यादा लोगों ने चर्चा की होगी, और personal sites या दूसरी जगहों पर summaries भी ज़्यादा डाली गई होंगी
    • plausibility वही मानक है जिसके आधार पर dismissal motion से आगे बढ़ा जाता है
      अगर बात plausible है, तो discovery तक पहुँचा जा सकता है, और discovery असली तथ्यों के और क़रीब ले जाती है

  • यह मामला काफ़ी दिलचस्प है, क्योंकि इसमें ऐसे training material के बीच फ़र्क किया जा रहा है जिसे कोई भी सिर्फ़ web browser से access कर सकता है, जैसे personal blog, और ऐसे training material के बीच जो “ग़ैरक़ानूनी तरीके से हासिल किया गया और torrent system के ज़रिए बड़े पैमाने पर उपलब्ध कराया गया” हो
    LLM deployment के संदर्भ में यह फ़र्क क़ानूनी रूप से क्यों महत्वपूर्ण होना चाहिए, यह मुझे ठीक से समझ नहीं आता। क्योंकि blog लिखने वालों ने भी सहमति नहीं दी थी
    फिर भी यह ज़रूर जानने लायक है कि training में pirated torrent का इस्तेमाल करने पर क़ानूनी समस्या है या नहीं। अगर copyrighted material पर train किए गए LLM का distribution fair use के तहत मान्य हो सकता है, तो क्या यह कहने का कोई क़ानूनी आधार होगा कि इसे वैध बनाने के लिए पहले बिकने वाले content को ख़रीदना ज़रूरी है? जैसे, blog post मुफ़्त में उपलब्ध है इसलिए ठीक है, लेकिन Sarah Silverman की किताब कभी मुफ़्त में सार्वजनिक नहीं हुई और उसके लिए पैसे भी नहीं दिए गए, इसलिए नहीं
    या फिर अदालत इस बात की बिल्कुल परवाह नहीं करेगी कि कोई चीज़ बनाई कैसे गई? अगर कोई freelancer किसी किताब की एक पंक्ति quote करे, तो उससे यह नहीं पूछा जाता कि उसने किताब खरीदी थी, library या दोस्त से उधार ली थी, या digital copy ग़ैरक़ानूनी रूप से download की थी

    • आख़िरकार शायद music के sync rights जैसी कोई नई licensing concept आएगी। शायद इसे “training rights” कहा जा सके
      यह मायने नहीं रखेगा कि text खरीदा गया था या pirated था। जैसे अभी भी किसी film soundtrack में audio track mix करते समय यह मुख्य सवाल नहीं होता कि वह track खरीदा गया था या pirated
      talent agencies लोकप्रिय creators के training rights fees पर bulk negotiation करेंगी, और creators को एक छोटी revenue stream मिलेगी जो LLM providers API cost line item में जोड़कर देंगे
      independent creators के training rights की आज की तरह लगातार अनदेखी होती रहेगी, और जिन बड़े commercial LLM पर training rights violation का शक होगा या जो साबित होंगे, वे बदनामी झेलेंगे या मुक़दमे का सामना करेंगे। independent LLM शायद radar के नीचे ही रहेंगे
    • fair use तय करने वाले factors में से एक, और कुछ समय पहले तक लगातार सबसे महत्वपूर्ण माना जाने वाला factor, मूल कृति के commercial market पर प्रभाव है
      इसलिए अगर मूल कृति का व्यावहारिक रूप से कोई commercial market नहीं है, तो अदालत के fair use मान लेने की संभावना ज़्यादा होगी। लेकिन सिर्फ़ यह तथ्य कि कोई चीज़ सक्रिय रूप से बिक नहीं रही, अपने-आप में अंतिम निष्कर्ष नहीं है
      open source licenses भी मुफ़्त में उपलब्ध हैं, फिर भी वे appellate court में टिके रहे
    • copyrighted work की private copying की अनुमति है, लेकिन redistribution की नहीं
      यह किस हद तक redistribution बन जाता है, यह स्पष्ट नहीं है। button दबाने पर मूल रचना को फिर से बना देने वाली VCR जैसी मशीन और इस model के बीच वास्तव में बड़ा अंतर है या नहीं, यह भी अस्पष्ट है
    • AI वाला नज़रिया बढ़ा-चढ़ाकर पेश किए गए trend का फ़ायदा उठाने जैसा लगता है
      अगर “pirated” copyrighted material download करना ग़ैरक़ानूनी है, तो वही अपराध है, बाक़ी बातें लगभग असंबंधित हैं। pirated फ़िल्म देखने के बाद किसी को उसकी कहानी बता देना ग़ैरक़ानूनी नहीं है
    • मेरी समझ यह है कि fair use का दावा करने के लिए उस कृति का क़ानूनी रूप से स्वामित्व होना चाहिए। मैं वकील नहीं हूँ
      अगर किसी कृति को क़ानूनी रूप से केवल बिक्री के ज़रिए ही हासिल किया जा सकता है, तो या तो आपने उसे ख़ुद वैध रूप से खरीदा हो, या उसकी copy आपको किसी ऐसे व्यक्ति से मिली हो जिसने उसे वैध रूप से खरीदा हो। उदाहरण के लिए, अगर वह आपको उपहार में मिली हो

  • पता नहीं हम सच में वही complaint पढ़ रहे हैं या नहीं
    Meta के paper https://arxiv.org/pdf/2302.13971.pdf में कहा गया है कि training dataset में दो book corpora शामिल थे। एक Gutenberg Project है, जिसमें public domain किताबें हैं, और दूसरा The Pile का Books3 section है
    The Pile paper https://arxiv.org/abs/2101.00027 Books3 को Bibliotik private tracker की सामग्री की copy से निकला हुआ book dataset बताता है
    Shawn Presser का link https://twitter.com/theshawwn/status/1320282149329784833 है, और वह Books3 को “all of bibliotik”, यानी 196,640 किताबों को साधारण .txt में बदला हुआ, बताता है
    मेरे पास 37GB file download करने का न समय है, न storage, लेकिन अगर उसमें Silverman की किताब है, तो क्या यह पक्का जीतने वाला मामला नहीं है?
    Meta का LLaMA, जैसा कि वे मानते हुए दिखते हैं, pirated किताबों पर train किया गया था

    • Silverman की किताब उसमें है
      $ grep -i "Sarah Silverman" books3.list.txt का result 325196 books3/the-eye.eu/public/Books/Bibliotik/T/The Bedwetter - Sarah Silverman.epub.txt आता है
      जो लोग सिर्फ़ file list देखना चाहते हैं, उनके लिए link भी है। list ख़ुद भी बड़ी file है: https://gist.githubusercontent.com/Q726kbXuN/e4e9919a2f5d81f...
    • हाँ भी, और नहीं भी
      अगर initial training के लिए tracker द्वारा परिभाषित corpus की copy बनाने की प्रक्रिया ज़रूरी थी, तो उस प्रक्रिया में copyright infringement हुआ था, यह लगभग स्पष्ट मामला है
      लेकिन Silverman किताब की क़ीमत, या शायद तीन गुना हर्जाने से आगे कोई राहत पा सकती हैं या नहीं, यह आख़िरकार उसी सवाल पर निर्भर करता है कि model training और copyright के बीच संबंध को कैसे देखा जाता है
      इसके साथ यह अतिरिक्त सवाल भी जुड़ता है कि training से पहले source material की ग़ैरक़ानूनी स्थिति उस निर्णय को बदलती है या नहीं
    • नहीं लगता कि हम वही चीज़ पढ़ रहे हैं। आप अचानक कहीं से Google को बीच में ले आए हैं

  • यह मुद्दा कुछ लोगों के सोचने से भी बड़ा हो सकता है।
    शायद ऐसे clean training data का बाज़ार बने जिसमें संभावित copyright दावे न हों। यानी सिर्फ public domain works का इस्तेमाल किया जाए।
    तब क्या हमें AI होने का पता इस बात से चलेगा कि वह 19वीं सदी के आखिर या 20वीं सदी की शुरुआत के लेखकों की तरह बोलता है?

    • यह पूरी तरह नया मुद्दा नहीं है; search engines में भी ऐसा ही सवाल था, और इसे transformative use माना जा सकता है।
      लेकिन जो models पूरे copyright text को खुशी-खुशी दोहरा देते हैं, उनके लिए समस्या हो सकती है, और मानहानिकारक सामग्री की hallucination करने वाले models जैसी नई दिक्कतें भी हैं।
      फिर भी इस जिन्न को वापस बोतल में डालना मुश्किल लगता है। आगे बहुत से मुकदमे, alignment का काम, और नए तरह के misuse साथ-साथ उभर सकते हैं
    • उम्मीद है ऐसा बाज़ार बने। बौद्धिक संपदा के लिए training licenses बेचने वाला बाज़ार होना अच्छा होगा।
      जो कलाकार, लेखक और कवि अपनी intellectual property को training sets में इस्तेमाल होने देने से नहीं हिचकते, उनके लिए यह छोटा लेकिन वास्तविक passive income source बन सकता है।
      हर creator से अलग-अलग बातचीत करना अव्यावहारिक है, लेकिन publishers, galleries, guilds, unions जैसे बड़े समूह, जो अपने सदस्यों की गुणवत्ता की गारंटी दे सकें, उनके साथ यह संभव लगता है। वे license दे सकते हैं और आय सभी सदस्यों में बाँट सकते हैं।
      LLM का बिना consent या contract के, यहाँ तक कि torrent sites से भी, यह सारा data खींच लेना साफ़ तौर पर अनैतिक है। ऐसे models सबके लिए फ़ायदेमंद हो सकते हैं
    • जब तक यह मुद्दा सुलझ नहीं जाता, clean training data risk mitigation के तौर पर मूल्यवान रहेगा।
      उसके बाद या तो यह पूरी तरह समस्या नहीं रहेगा, या फिर यह कहीं ज़्यादा समझने योग्य cost-benefit tradeoff बन जाएगा।
      यह public domain works और US government publications का मिश्रण भी हो सकता है। अमेरिकी सरकारी प्रकाशन श्रेणीगत रूप से copyright के दायरे में नहीं आते
    • clean jurisdiction का भी बाज़ार है। यानी ऐसे jurisdictions जो neural network training को copyright infringement नहीं मानते।
      जापान पहले ही खुद को ऐसा jurisdiction घोषित कर चुका है
    • शायद 18वीं-19वीं सदी नहीं, बल्कि 19वीं-20वीं सदी कहना चाहते थे, लेकिन तब भी काफ़ी मज़ेदार होगा

  • मैं वकील नहीं हूँ, लेकिन यह infringement साबित करने के लिए बहुत अच्छा उदाहरण नहीं लगता।
    किताब का विस्तृत सारांश एक सामान्य transformative use जैसा लगता है। खासकर Silverman के मामले में, जितना आप गद्य के कलात्मक तत्वों को हटाकर किताब को “facts” में समेटते हैं, उतना ही वह मूल रचना का सीधा विकल्प बनना मुश्किल हो जाता है

    • शिकायत में काफ़ी ठीक-ठाक तर्क है। training data के स्रोत का पीछा करने पर बात illegal acquisition तक पहुँचती है।
      यह कि अवैध रूप से हासिल की गई सामग्री किसी commercial venture में इस्तेमाल हुई, और वह venture एक AI model था, शायद गौण बात हो। व्यापार करते समय आप अवैध रूप से हासिल सामग्री का इस्तेमाल नहीं कर सकते
    • जितना ज़्यादा सोचता हूँ, उतना लगता है कि नतीजा इस बात पर निर्भर करेगा और करना भी चाहिए कि “कानून” AI को इंसान-जैसी इकाई मानेगा या “मशीन-जैसी इकाई”।
      इंसान पढ़-लिखकर, रिसर्च करके, फिर कोई अलग परिणाम दे सकता है।
      लेकिन “machine को data खिलाना” साफ़ तौर पर infringement जैसा लगता है, भले ही दूसरी तरफ़ से बिल्कुल वही चीज़ बाहर न आए
    • हो सकता है नहीं, लेकिन दावों में से एक दिलचस्प है। दावा यह है कि dataset का कुछ हिस्सा illegal acquisition से आया था।
      उसका हर्जाना कितना होगा? क्या hardcover की retail price जितना?
    • क्या सही prompt देने पर LLM पूरी किताब को verbatim दोहरा सकता है?
    • मैंने शिकायत नहीं पढ़ी, लेकिन यह तर्क हो सकता है कि OpenAI ने चोरी किए गए कार्यों पर data train किया, इसलिए fair use लागू नहीं होता

  • यह सवाल अलग भी रख दें कि LLM अपने पूरे training corpus का derivative work है या नहीं, तब भी यह दावा बहुत कमज़ोर लगता है।
    भले ही वह रचना training set में बिल्कुल न रही हो, उस रचना के कई सारांशों पर trained LLM खुद ऐसे सारांश बना सकता है।
    आम तौर पर सिर्फ किसी चीज़ के बारे में ज्ञान होना इस बात का सबूत नहीं है कि उसी पर training हुई थी

    • यह निर्णायक सबूत नहीं है, लेकिन अदालतें मुक़दमा शुरू करने और नए तथ्य खोजने के लिए निर्णायक सबूत की माँग नहीं करतीं।
      LLM experts और OpenAI से पूछा जा सकता है कि क्या उस output के विवादित copyright work से निकले होने की संभावना ज़्यादा है।
      वैसे भी, अगर तर्क यह है कि “नहीं, यह किताब से नहीं बल्कि किसी और के copyright वाले सारांश से आया”, तो क्या इसका मतलब यह नहीं कि उस सारांश को लिखने वाले को copyright infringement का मुक़दमा करना चाहिए? जब तक OpenAI यह न कहे कि “असल में वह सारांश नहीं बल्कि पूरी किताब थी”, तब तक हाँ
    • LLM की जगह इंसान को रखें तो एक दिलचस्प बारीकी सामने आती है।
      हमने हज़ारों रचनाएँ पढ़ी हैं; तो क्या इसका मतलब है कि हम जो कुछ भी लिखते हैं वह सब derivative है?

  • ज़्यादा ठोस सबूत यह होता कि ChatGPT से सारांश नहीं बल्कि टेक्स्ट के कुछ हिस्से ज्यों-का-त्यों output करवाए जाते।
    जब मैंने खुद कोशिश की, तो उसने कहा कि वह सितंबर 2021 knowledge cutoff के बाद के किसी specific external database या किताब तक पहुँच नहीं रखता, और Sarah Silverman की The Bedwetter या किसी अन्य specific text से verbatim quotations नहीं दे सकता।
    हालाँकि उसने यह भी कहा कि वह उस समय तक की training और knowledge के आधार पर टेक्स्ट जनरेट कर सकता है, इसलिए Sarah Silverman या संबंधित विषयों के बारे में पूछें

    • शायद यह चर्चा छूट गई हो: https://news.ycombinator.com/item?id=36400053
      लगता है OpenAI को पता है कि उसका software copyright सामग्री output करता है, इसलिए उसने जल्दीबाज़ी में filter लगा दिया।
      इसलिए अब यह तथ्य कि अनुरोध करने पर वह किताब output नहीं करता, इस बात का सबूत नहीं है कि AI ने उस बड़े हिस्से को याद नहीं किया। हो सकता है सिर्फ safety filter लगा हो, और बस एक आसान workaround की ज़रूरत हो
    • मैंने पहले ChatGPT से The Lord of the Rings का पहला पैराग्राफ़ output करवाने की कोशिश की थी, और वह शुरुआती कुछ शब्दों के बाद रुक गया।
      लगता है developers filtering कर रहे हैं
    • GPT पूरे इंटरनेट का lossy compressed JPEG है। neural networks के काम करने के तरीके के कारण वहाँ से verbatim text निकालना असंभव है।
      आपको क्या लगता है, exabytes के text data को gigabytes आकार के neural network में कैसे डाला जाता है? सही, lossy compression से

  • क्या यह कहीं ज़्यादा संभव नहीं है कि ट्रेनिंग सेट में reviews और summaries बहुत थीं, और वहीं से इसने खुद ही उन्हें synthesize किया हो?

    • इस बात के documented traces हैं कि training में अवैध book repositories का इस्तेमाल हुआ था
    • असल में ज़्यादा संभव यही लगता है कि training folder में ढेर सारी books की PDF डालकर वैसे ही चला दिया गया हो
      यह मानना लगभग मुश्किल है कि ये AI कंपनियाँ training के लिए निगले जाने वाले data के बारे में ज़रा भी सावधानी बरतती होंगी
    • वे summaries आई कहाँ से होंगी? मुझे तो यह कहीं ज़्यादा संभव लगता है कि उन्हें shadow libraries से scrape किया गया हो। बेशक, इसे साबित करना भी लगभग असंभव लगता है
      शायद shadow libraries में ही उपलब्ध books या texts की summaries माँगकर कुछ हद तक इसकी जाँच की जा सकती है
    • अगर reviews और summaries training set में थीं, तो क्या OpenAI का LLM, prompt के हिसाब से input text generate करने के लिहाज़ से, search engine के ज़्यादा क़रीब नहीं है?

  • यह भी थोड़ा मज़ेदार है कि Getty Images ने Stability AI के खिलाफ AI मुकदमा किया है। कर्मों का फल?
    Getty का दूसरों से चोरी करना ठीक है, लेकिन दूसरों का Getty से चोरी करना ठीक नहीं? इस लड़ाई में मेरा कोई हित नहीं है, लेकिन ऐसी कंपनियों की पाखंडिता सच में बहुत ज़्यादा है

    • Getty किससे चोरी करता है?