YouTube ने AI की मदद से बनाए गए यथार्थवादी वीडियो के लिए लेबलिंग अनिवार्य की

 (blog.google)
2 पॉइंट द्वारा GN⁺ 2024-03-19 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • YouTube ने एक नया टूल पेश किया है, जिसके तहत creators को ऐसे artificial intelligence (AI) से बने content के बारे में viewers को बताना होगा जिन्हें वास्तविक समझा जा सकता है
  • यह टूल Creator Studio में जोड़ा जाएगा, और creators को दर्शकों को बताना होगा कि अगर कोई content बदला गया है या कृत्रिम रूप से बनाया गया है और उसे आसानी से वास्तविक व्यक्ति, स्थान या घटना समझा जा सकता है
  • यह खुलासा video description को expand करने पर या video player के सामने label के रूप में दिखाया जाएगा

अनिवार्य खुलासे वाले content के उदाहरण

  • वास्तविक व्यक्ति की छवि का उपयोग: जैसे किसी दूसरे व्यक्ति के चेहरे से बदल देना या कृत्रिम रूप से बनाई गई आवाज़ से वीडियो का narration करना जैसे digital manipulation content
  • वास्तविक घटना या स्थान के वीडियो में बदलाव: जैसे किसी वास्तविक इमारत में आग लगी हुई दिखाना या किसी वास्तविक शहर के दृश्य को वास्तविकता से अलग दिखाना
  • यथार्थवादी दृश्य बनाना: जैसे किसी काल्पनिक बड़ी घटना को वास्तविक रूप में दिखाना, उदाहरण के लिए किसी असली कस्बे की ओर बढ़ते tornado को दिखाना

जिन content के लिए खुलासा ज़रूरी नहीं

  • साफ़ तौर पर अवास्तविक content, color adjustment या lighting filter, special effects, beauty filters जैसी visual enhancements
  • रचनात्मक प्रक्रिया में productivity के लिए इस्तेमाल की गई AI, जैसे script generation, content ideas देना, auto captions बनाना आदि, खुलासा करने की श्रेणी में शामिल नहीं हैं

लेबल कैसे दिखाया जाएगा

  • ज़्यादातर videos में label description expand करने पर दिखेगा, लेकिन health, news, election, finance जैसे sensitive topics वाले videos में video पर ही अधिक स्पष्ट label दिखाया जाएगा
  • label की शुरुआत mobile के YouTube app से होगी, और जल्द ही desktop और TV पर भी दिखाई देगा
  • YouTube ने कहा है कि यदि creators लगातार इस जानकारी का खुलासा नहीं करते हैं, तो भविष्य में enforcement action पर विचार किया जाएगा

YouTube और industry collaboration

  • YouTube digital content के आसपास transparency बढ़ाने के लिए पूरे industry ecosystem के साथ सहयोग जारी रखे हुए है और C2PA का leading member है.
  • साथ ही, वह एक updated privacy process भी विकसित कर रहा है, जिसके तहत यदि AI से बनाए गए या बदले गए content के कारण किसी identifiable individual (चेहरा या आवाज़ सहित) की privacy का उल्लंघन होता है, तो उस content को हटाने का अनुरोध किया जा सकेगा.

GN⁺ की राय

  • YouTube की नई policy digital content में transparency बढ़ाने और viewers व creators के बीच trust बनाने में मददगार हो सकती है.
  • जैसे-जैसे AI creative process में अधिक महत्वपूर्ण भूमिका निभा रहा है, ऐसे tools users को AI-generated content को पहचानने और समझने में मदद कर सकते हैं.
  • हालांकि, यह चिंता भी हो सकती है कि ऐसी policies creators पर अतिरिक्त बोझ डालें या creative freedom को सीमित करें.
  • इस तकनीक की शुरुआत content की प्रामाणिकता पहचानने की क्षमता को बेहतर बनाती है, लेकिन साथ ही creators पर अतिरिक्त ज़िम्मेदारी भी डालती है, इसलिए इसके फायदे और नुकसान दोनों हैं.
  • इसी तरह की functionality देने वाले अन्य platform या tools में Adobe की Content Authenticity Initiative शामिल है, जो digital content के source और authenticity को track करने पर केंद्रित है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-03-19
Hacker News की राय

  • पहली टिप्पणी का सारांश:

    • बिज़नेस और learning के नज़रिए से देखें तो, Google का यह approach सही दिशा में एक शुरुआती कदम है, क्योंकि यह इस बारे में नियम तय कर रहा है कि AI को कैसे define और label किया जाए.
    • इन नियमों में ऐसी चीज़ें शामिल हैं जो किसी असली व्यक्ति को ऐसी बात कहते या ऐसा काम करते हुए दिखाएँ जो उसने वास्तव में नहीं किया, असली घटनाओं या जगहों के footage को बदलें, या ऐसे यथार्थवादी दृश्य बनाएँ जो वास्तव में कभी हुए ही नहीं.
    • इन परिकल्पनाओं को test करने और इस बात को लेकर जिज्ञासा जताई गई है कि कानूनी विवाद कहाँ-कहाँ पैदा हो सकते हैं. उदाहरण के लिए, color correction, beauty filters, या अलग-अलग video angles से AI की मदद से अतिरिक्त scenes बनाना जैसी बातें चर्चा में आ सकती हैं.

  • दूसरी टिप्पणी का सारांश:

    • Google support page के अनुसार, वहाँ ऐसे उदाहरण साफ़ तौर पर दिए गए हैं जिन्हें content creators को disclose करने की ज़रूरत नहीं है, और ऐसे भी जिन्हें disclose करना ज़रूरी है.
    • जिन उदाहरणों को disclose करने की ज़रूरत नहीं है, उनमें unicorn पर सवारी करता व्यक्ति, green screen के ज़रिए अंतरिक्ष में तैरते व्यक्ति को दिखाना, color adjustment या lighting filters, background blur या vintage effect जैसे special effects filters, AI tools से video outline, script, thumbnail, title और infographic बनाना या बेहतर करना, captions generate करना, video clarity बढ़ाना, upscaling या repair, voice या audio repair, और idea generation शामिल हैं.
    • जिन उदाहरणों को disclose करना ज़रूरी है, उनमें artificially generated music, किसी दूसरे व्यक्ति की आवाज़ clone करके उसे voiceover narration में इस्तेमाल करना, किसी असली जगह का अतिरिक्त footage कृत्रिम रूप से बनाना, असली pro tennis players के बीच मैच को यथार्थवादी दिखाने वाला video, किसी व्यक्ति को ऐसा दिखाना जैसे उसने ऐसी सलाह दी हो जो उसने वास्तव में नहीं दी, किसी लोकप्रिय singer की live performance में सुर बिगड़ने जैसा audio को digitally बदलना, ऐसा दिखाना जैसे कोई tornado या दूसरी weather phenomenon किसी असली शहर की ओर बढ़ रही हो जबकि ऐसा हुआ न हो, ऐसा दिखाना जैसे hospital staff ने बीमार या घायल मरीज़ों को वापस लौटा दिया हो, किसी public figure को चोरी करते हुए या चोरी कबूल करते हुए दिखाना, या ऐसा दिखाना जैसे उसे सचमुच arrest किया गया हो या जेल भेजा गया हो, शामिल हैं.

  • तीसरी टिप्पणी का सारांश:

    • ये नियम नए EU AI law का पालन करने के लिए हैं.
    • AI-generated content की पहचान संभव होनी चाहिए, और public interest से जुड़ी जानकारी देने के लिए प्रकाशित AI-generated text पर यह label होना चाहिए कि वह कृत्रिम रूप से बनाया गया है. यह deepfake वाले audio और video content पर भी लागू होता है.

  • चौथी टिप्पणी का सारांश:

    • किसी singer की live performance में सुर बिगड़ने जैसा audio को digitally बदलने वाला उदाहरण दिलचस्प बताया गया.
    • इसे हाल के Super Bowl में Alicia Keys की performance के दौरान हुई घटना के उलट स्थिति के रूप में देखा गया, जहाँ NFL ने कथित तौर पर उनकी 'फटी हुई आवाज़' वाले हिस्से को चुपचाप edit करके ठीक कर दिया था.

  • पाँचवीं टिप्पणी का सारांश:

    • किसी बड़ी घटना का यथार्थवादी चित्रण जो वास्तव में हुई ही नहीं, जैसे किसी असली कस्बे की ओर बढ़ते tornado को दिखाना, ऐसे content का उदाहरण है जिसके लिए disclosure ज़रूरी है.
    • यह मौजूदा YouTube thumbnails की आम स्थिति जैसा है, और सिर्फ AI तक सीमित नहीं है, लेकिन इससे यह भी संकेत मिलता है कि इसकी निगरानी करना मुश्किल होगा.

  • छठी टिप्पणी का सारांश:

    • यह उस स्थिति जैसा है जहाँ bank औपचारिक कागज़ी कार्रवाई इसलिए करवाता है क्योंकि उसे उम्मीद होती है कि अपराधी झूठ बोलेंगे; Google से झूठ बोलने का शायद कोई साफ़ नतीजा न हो, लेकिन इसे ऐसे signal की तरह इस्तेमाल किया जा सकता है जो किसी account को और ज़्यादा संदिग्ध बना दे.

  • सातवीं टिप्पणी का सारांश:

    • असली घटनाओं या जगहों के footage को बदलना, जैसे किसी असली building को जलता हुआ दिखाना या किसी असली cityscape को वास्तविकता से अलग दिखाना, ऐसा content है जिसके लिए disclosure ज़रूरी है.
    • video की असली सामग्री पर लेख में हुई चर्चा से अलग, clickbait के लिए बढ़ा-चढ़ाकर बनाई गई preview images पर भी सवाल उठाया गया.

  • आठवीं टिप्पणी का सारांश:

    • यह सवाल उठाया गया कि क्या YouTube को पता है कि Google Photos team सक्रिय रूप से video और photos को बदलने के लिए प्रोत्साहित कर रही है ताकि ऐसे scenes दिखाए जा सकें जो वास्तव में हुए ही नहीं.

  • नौवीं टिप्पणी का सारांश:

    • अतीत में Google शायद advanced search में 'AI नहीं' वाला filter देता, लेकिन अब Google Wall Street की शिकायतें शांत करने के लिए AI tools बेचने में व्यस्त है, और यह नहीं सोच रहा कि AI videos search को पहले से भी ज़्यादा 'घास के ढेर में सुई' जैसी समस्या कैसे बना देंगे.

  • दसवीं टिप्पणी का सारांश:

    • यह इशारा किया गया कि YouTube policy टीमों के सामने आने वाले वर्षों में अस्पष्ट मामलों की व्याख्या करने का लगभग असंभव काम होगा.