Nightshade: AI art generators का मुकाबला करने वाले कलाकारों के लिए एक आक्रामक टूल

 (nightshade.cs.uchicago.edu)
4 पॉइंट द्वारा GN⁺ 2024-01-21 | 1 टिप्पणियां | WhatsApp पर शेयर करें

Nightshade क्या है

  • Generative AI मॉडल और trainers ने यह दिखाया है कि वे online content को model training के लिए इस्तेमाल कर सकते हैं.
  • Content owners और creators के पास लगभग कोई ऐसे tools नहीं हैं, जिनसे वे अपनी इच्छा के विरुद्ध अपने content को generative AI models के training data के रूप में इस्तेमाल होने से रोक सकें.
  • Nightshade एक ऐसा टूल है जो images को model training के लिए अनुपयुक्त data samples में बदल देता है, जिससे copyright की अनदेखी करके बिना अनुमति data scrape करने वाले model trainers को हतोत्साहित करने में मदद मिलती है.

Nightshade कैसे काम करता है और इसकी सीमाएँ

  • Nightshade images को 'poison' samples में बदल देता है, ताकि बिना सहमति train किए गए models अप्रत्याशित व्यवहार सीखें.
  • इस टूल का उद्देश्य model को नष्ट करना नहीं है, बल्कि unlicensed data पर training की लागत बढ़ाना है, ताकि creators से images को license करना एक व्यवहार्य विकल्प बन सके.
  • Nightshade style imitation से बचाव के लिए Glaze की तरह काम करता है, लेकिन जहाँ Glaze एक defensive tool है, वहीं Nightshade को एक offensive tool के रूप में डिज़ाइन किया गया है जो AI image models के अंदर feature representations को विकृत करता है.

Nightshade बनाम Glaze

  • Glaze एक defensive tool है जिसका उपयोग individual artists style imitation attacks से खुद को बचाने के लिए करते हैं.
  • Nightshade एक offensive tool है जिसका उपयोग artists समूह के रूप में करके उन models को बाधित करने के लिए करते हैं जो बिना सहमति images scrape करते हैं.
  • जब कलाकार अपनी कृतियाँ online पोस्ट करें, तो आदर्श रूप से उन पर Glaze और Nightshade दोनों लागू करें.

जोखिम और सीमाएँ

  • Nightshade द्वारा किए गए बदलाव flat colors और smooth backgrounds वाली artworks में अधिक स्पष्ट दिखते हैं.
  • किसी भी security attack या defense की तरह, यह संभावना कम है कि Nightshade बहुत लंबे समय तक भविष्य-प्रमाणित बना रहेगा.
  • Nightshade को network के बिना चलने के लिए डिज़ाइन किया गया है, इसलिए data या artwork हमारे या किसी और के पास भेजे नहीं जाते.

Nightshade और WebGlaze

  • Nightshade v1.0 को एक standalone tool के रूप में डिज़ाइन किया गया है, और यह Glaze जैसी imitation defense functionality प्रदान नहीं करता.
  • हम यह परीक्षण कर रहे हैं कि Nightshade और Glaze साथ में कैसे काम करते हैं, और जब यह तैयार होगा तो WebGlaze में Nightshade को एक अतिरिक्त feature के रूप में जारी करने की योजना है.

GN⁺ की राय

  • Nightshade एक अभिनव टूल है जो creators को अपने copyright की रक्षा करने और बिना अनुमति images का उपयोग करने वाले AI model trainers को चेतावनी भेजने में सक्षम बनाता है.
  • यह टूल रचनात्मक कार्यों के अनधिकृत उपयोग को हतोत्साहित करके और copyright holders के साथ licensing agreements को बढ़ावा देकर digital art ecosystem पर सकारात्मक प्रभाव डाल सकता है.
  • Nightshade और Glaze का संयोजन कलाकारों को अपनी कृतियों को online अधिक सुरक्षित तरीके से साझा करने का एक नया तरीका देता है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-01-21
Hacker News राय
  • पेपर लिंक: arXiv:2310.13828
    • यह पेपर ऐसे artifacts जोड़ता हुआ लगता है जिन्हें कई कलाकार स्वीकार करना मुश्किल पाएंगे.
  • यह तकनीक
    • a) पिछली पीढ़ी की training process में बस मुश्किल से काम करती है,
    • b) नवीनतम training process (GPT-4V, LLaVA, BLIP2 labeling आदि) में बिल्कुल काम नहीं करती.
    • c) अगर यह प्रभावी और लोकप्रिय भी हो जाए, तब भी इससे आसानी से निपटा जा सकेगा.
    • लेखकों का पिछला काम Glaze भी प्रभावी नहीं लगता, और उसके नतीजे वास्तविकता से बढ़ा-चढ़ाकर दिखाए गए हो सकते हैं.
  • ऐसे tools के बाज़ार में सफल होने की संभावना नहीं है, और ऐसे तरीके मौजूद हैं जिनसे मानव perception को प्रभावित किए बिना इन्हें तुरंत bypass किया जा सकता है.
    • अगर कलाकार या दूसरे लोग मानव-निर्मित outputs को training में इस्तेमाल होने से रोकना चाहते हैं, तो यह कानूनी कार्रवाई के ज़रिए करना होगा.
    • यह भी कोई परफेक्ट समाधान नहीं है, और उल्टा distributed training network के विकास को बढ़ावा दे सकता है.
  • यह एक निरर्थक "arms race" या "cat-and-mouse game" जैसा लगता है.
    • जो लोग कलाकारों की राय की परवाह नहीं करते, वे image post-processing के ज़रिए Nightshade algorithm के सूक्ष्म बदलावों को नष्ट कर सकते हैं.
    • भविष्य में, सामाजिक दबाव के कारण अदालतें कलाकारों के पक्ष में जा सकती हैं, और कलाकार उन generated images को चुनौती दे सकेंगे जो उनके style से "बहुत ज़्यादा मिलती-जुलती" हों.
    • या फिर कलाकार images से कमाई करना छोड़कर सिर्फ physical works बनाने पर ध्यान दे सकते हैं.
  • खराब/असंगत images के साथ Stable Diffusion XL को fine-tune करने के एक प्रयोग से दिखाया गया कि अगर ऐसी images को negative prompt के रूप में इस्तेमाल किया जाए, तो model बेहतर images आउटपुट कर सकता है.
    • ऐसे datasets बनाना विडंबना से generative AI art models को बेहतर बनाने में मदद कर सकता है.
  • copyright/intellectual property/patent के उपयोग पर धीरे-धीरे बढ़ने वाली fees लगाने की इच्छा जताई गई.
    • उदाहरण के लिए, revenue से जुड़ी दर पर license fee लागू करने की बात की गई.
    • अगर किसी व्यक्ति के पास स्वामित्व हो तो मृत्यु के बाद 0 वर्ष, और अगर किसी कंपनी के पास हो तो अधिकतम 20-30 वर्ष की copyright अवधि चाही गई.
    • उपयोग की रिपोर्ट न करने/fees न चुकाने पर कंपनियों के लिए बहुत भारी जुर्माना रखा जाए ताकि चोरी रोकी जा सके.
  • यह विरोधाभास बताया गया कि कलाकार दूसरे कलाकारों के काम देखकर अलग-अलग styles सीखते हैं, लेकिन AI द्वारा उनके काम से style सीखने का विरोध करते हैं.
  • यह 'जानकारी की सटीकता' की अवधारणा को कमजोर करता है, और लगातार हमले तथा बचाव के खेल को स्वीकार करता है.
  • जल्द ही बहुत से लोग आसानी से उच्च-गुणवत्ता वाले art works बना सकेंगे, और यह एक बेहद रोचक संभावना है.