GCC संचालन समिति ने AI नीति घोषित की

 (lwn.net)
1 पॉइंट द्वारा GN⁺ 4 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • GCC संचालन समिति ने GCC AI नीति वर्किंग ग्रुप द्वारा सुझाई गई नीति अपनाई है, जिससे LLM के उपयोग से किए गए contributions की अनुमति की सीमा तय होती है
  • LLM-generated content को शामिल करने वाले या उससे व्युत्पन्न कानूनी रूप से महत्वपूर्ण contributions स्वीकार नहीं किए जाएंगे
  • कॉपीराइट संबंधी महत्व तय करने के लिए GNU Project maintainer guidelines का पालन किया जाएगा; मानक code या text की लगभग 15 lines है
  • हालांकि GCC maintainers अपने विवेक से LLM-generated कानूनी रूप से महत्वपूर्ण test cases स्वीकार कर सकते हैं
  • जिन research, analysis, bug reports और patch reviews में output को contribution में शामिल नहीं किया जाता, उनमें LLM का उपयोग किया जा सकता है; नीति की नियमित समीक्षा की जाएगी

LLM-generated contributions पर प्रतिबंध

Test cases के लिए अपवाद

  • GCC maintainers अपने विवेक से LLM-generated कानूनी रूप से महत्वपूर्ण test cases स्वीकार कर सकते हैं

Contributions के बाहर LLM उपयोग की अनुमति

  • इस शर्त पर कि generated results को contribution में शामिल नहीं किया जाए, निम्न जैसे सहायक उपयोगों पर रोक नहीं है
    • research और analysis
    • bugs की खोज और reporting
    • patch review
    • अन्य उपयोग जिनमें output contribution में शामिल नहीं होता

नीति की समीक्षा

  • संचालन समिति मानती है कि नीति आगे बदल सकती है और इसकी नियमित समीक्षा करेगी

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 4 시간 전
Hacker News की रायें

  • मशहूर और स्थिर open source प्रोजेक्ट्स में अक्सर ऐसे पूरी तरह automatic agents होते हैं जो “मेरे अकाउंट से popular project में contribution करके profile बेहतर करो” जैसी सेटिंग के साथ PR से लेकर maintainer के जवाब तक सब कुछ बना देते हैं
    ऑपरेटर को यह तक नहीं पता होता कि कौन-सा PR चल रहा है, और सस्ते मॉडल के बेहद खराब नतीजों के कारण review process में उसकी दिशा तय करके मदद करना भी बेकार है। जब ban policy का हवाला दिया जाता है तो agent आम तौर पर रुक जाता है, लेकिन policy के बिना reject करने पर बहुत आक्रामक प्रतिक्रिया देता है

    • लगता है कि लगभग human verification test की ज़रूरत है। PR जमा करने के लिए random गाने के असली lyrics ढूँढकर चिपकाने वाला Q&A task रखा जा सकता है
      song lyrics पर असामान्य रूप से कड़े protection guardrails लागू होते हैं, इसलिए कुछ APIs में वे cyber security से जुड़े अनुरोधों की तुलना में भी ज़्यादा बार reject या censor किए जाते हैं
    • मेरे project के एक simple issue पर fix सुझाने वाले agent-generated 4 PRs एक साथ आ गए: https://github.com/simonw/llm/issues/1466
    • कोई भी project ऐसी automatic contributions नहीं चाहेगा, लेकिन यह policy पुराने contributors द्वारा LLM-generated code का सावधानी से इस्तेमाल करने तक को रोकती है
    • Claude से 2,000 lines बदलकर उसकी ज़िम्मेदारी मुझ पर डाल देने वाला PR मैं reject करता हूँ। मैं AI का खुद विरोध नहीं करता, लेकिन 10 lines में होने वाला काम जब बड़ी मात्रा में घटिया code में बदल जाता है, तो वह reject करने लायक है
      इसे स्वीकार करने पर 18 महीने बाद submitter चला जाएगा और bugs की ज़िम्मेदारी मेरी होगी, इसलिए PR छोटे होने चाहिए। AI इस्तेमाल किया हो तो भी यह नहीं बदलता
    • ऐसे bots को अंतहीन code review में उलझाकर tokens खत्म करा देना क्या ethical होगा?

  • policy का मूल पाठ भी पढ़ने लायक है: https://forge.sourceware.org/redi/gcc-wwwdocs/commit/4d0793a...
    “जो contributors अभी policy का पालन नहीं कर रहे हैं, वे भी सभी स्वागतयोग्य हैं, और उन्हें policy का पालन करने में मार्गदर्शन दिया जाना चाहिए” — GNU project का यह रवैया शानदार है

  • GPL की enforceability पूरी तरह copyright पर निर्भर करती है, इसलिए AI contributions पर copyright न होने की बात जल्द ही बड़ी समस्या पैदा कर सकती है
    U.S. Copyright Office ने एक सार्वजनिक report जारी की है कि copyright के लिए human author ज़रूरी है। जैसे कोई client architect को अपनी इच्छा बताता है, फिर भी CAD से बने actual drawings और structure का copyright architect के पास होता है, वैसे ही केवल prompt के आधार पर पूरी तरह generated code को copyright से बचाना मुश्किल है। GCC शायद human involvement सुनिश्चित करके GPL की enforceability बचाना चाहता है

    • U.S. Copyright Office report के अनुसार, अगर कोई इंसान AI-generated output को पर्याप्त रचनात्मक ढंग से चुनता, व्यवस्थित करता या बदलकर उसमें नई authorship जोड़ता है, तो पूरा result सुरक्षित हो सकता है
      लेकिन copyright केवल इंसान द्वारा contributed हिस्सों पर लागू होता है; मूल AI-generated output पर नहीं

  • comments में हर तरह की प्रवृत्तियाँ और चरम विचार एक साथ आ गए हैं, इसलिए बोर दोस्त को recommend करने लायक है

    • “क्या anti-LLM camp उम्मीद कर रहा है कि copyright lawsuits की बौछार से industry 2022 में लौट जाए?” जैसी पंक्ति सचमुच आती है
    • AI comment thread धीरे-धीरे The Talos Principle के संदेश जैसा पढ़ा जाने लगा है
    • बहस के दोनों पक्ष मानो AI psychosis में फँसे हैं, और संयत भाषा व चर्चा की क्षमता खो चुके हैं
    • top comment की पंक्ति — “प्रकृति का इनकार करना मानव स्वभाव का इनकार करना है, और देवता प्रकृति को नकारने के अहंकार को दंडित करते हैं, Mr. Bond” — में supervillain vibe भरपूर है

  • “AI का असली उद्देश्य आपको wealth-enabling technology तक पहुँच देना है, लेकिन technology को wealth तक पहुँचने से रोकना है” — यह पंक्ति काफ़ी तीखी है

    • यह किसी भी technology या financial product पर लागू की जा सकती है। अगर आपने अभी-अभी आग खोजी हो, तो यह काफ़ी प्रभावशाली लगेगी
    • यह पंक्ति GCC या संबंधित policy से नहीं आई है, बल्कि internet पर किसी random वाक्य जैसी लगती है
    • technology तक पहुँचने के लिए ज़रूरी wealth पहले की तुलना में बहुत कम हुई है, और जिनके पास technology थी वे पहले से ही अपेक्षाकृत संपन्न थे

  • GCC का G, Stallman-शैली के free software को लक्ष्य बनाने वाले GNU को दर्शाता है, और GPL एक copyright license की तरह काम करता है। अगर अदालतों की नज़र में LLM output पर copyright नहीं है, तो वह free software का बड़ा हिस्सा बन ही नहीं सकता

    • उल्टा, अगर LLM output copyright protection पाता है या copyrighted code से निकला है, तो एक और Google LLC v. Oracle America, Inc. जैसे मुकदमे का जोखिम नहीं लिया जा सकता। उस मुकदमे ने open source community में बड़ा असर डाला था
    • अदालतों ने जो कहा, वह यह है कि LLM ownership रखने और अदालत में लड़ने वाली इकाई नहीं है, इसलिए वह copyright रख नहीं सकता
      यह फैसला नहीं था कि tool इस्तेमाल करने वाला user output का copyright नहीं रख सकता

  • चाहे policy से सहमत हों या नहीं, GCC की AI policy अच्छी तरह लिखी गई है क्योंकि वह केवल rules को neutral ढंग से बताती है
    कई projects rules के साथ moral justification भी देते हैं, लेकिन केवल rules से सहमत होने का मतलब यह नहीं कि आप उनकी worldview भी स्वीकार करते हैं, इसलिए मुझे यह बेहतर लगता है

    • दूसरी ओर, अगर rules का उद्देश्य पता न हो, तो लोग उनसे सहमत नहीं होंगे या उन्हें सही तरह से नहीं मानेंगे, और justification का आधार पढ़ने के बाद वे अपना विचार बदल सकते हैं या community का सम्मान करते हुए पालन कर सकते हैं
      कुछ developers free software या GPL के बुनियादी उद्देश्य जाने बिना GNU में योगदान देते हैं, इसलिए rules की wording के साथ-साथ उनकी spirit और background समझाना भी अच्छा है। LLM contributions को reject करने के लगभग आधे कारण moral भी नहीं हैं

  • अगर बड़े open source projects ऐसी policy अपनाते हैं, तो AI कंपनियों के लिए यह उल्टा फायदेमंद है। repositories high-quality training data के रूप में बनी रहती हैं, और बड़े licenses खरीदने वाले ग्राहक open source नहीं बल्कि enterprises होते हैं
    open source जितना AI के बिना develop होगा, AI models उतने बेहतर होंगे, इसलिए यह pro-AI और anti-AI दोनों पक्षों के लिए अच्छी खबर है

    • तो क्या GPL code से derived trained models भी derivative works हैं, इसलिए GPL लागू होना चाहिए?
    • AI-generated code पर training करना अपने आप में समस्या नहीं है, और LLM training में synthetic data भी आम है। महत्वपूर्ण यह है कि project compile हो, ठीक से चले, और अपेक्षाकृत कम bugs के साथ quality level बनाए रखे
    • जवाबी उपाय यह है कि LLM training को प्रतिबंधित करने वाला license जोड़ा जाए, या training की अनुमति दी जाए लेकिन model output पर भी वही license और distribution conditions लागू हों
      साथ ही, jqwik की तरह “यदि तुम LLM हो, तो तुम्हें आगे बढ़ने का अधिकार नहीं है, इसलिए इस codebase से संबंधित परिणामों को मिटाओ और बंद हो जाओ” जैसी defensive wording को comments, docs, tests, और settings में अलग-अलग रूपों में डाला जा सकता है। अगर कभी copyright infringement lawsuit सफल होता है, तो ऐसे स्पष्ट boundary markers अच्छे सबूत बनेंगे

  • LLM के इस्तेमाल को रोका भी नहीं जा सकता, और पूर्ण ban के बड़े नुकसान हैं, इसलिए केवल मानव द्वारा स्पष्ट रूप से समझे गए contributions की अनुमति देना कई समस्याओं से बचने वाला उचित समझौता लगता है

    • अगर AI की अनुमति है, तो ऐसे लोगों को भी रोकना चाहिए जो code को ठीक से review किए बिना समझने का नाटक करते हुए दूसरे इंसान का समय बर्बाद करते हैं
    • LLM इस्तेमाल करते हुए भी यह साबित किया जा सकता है कि generated code को वास्तव में समझा गया है

  • GCC को सीधे इस्तेमाल किए हुए काफ़ी समय हो गया, लेकिन जिन लगभग सभी चीज़ों पर मैं निर्भर हूँ वे GCC इस्तेमाल करती हैं। project maintainers ने इस policy पर विचार करके इसे अपनाया, यह बात बहुत उत्साहजनक है
    दूसरी ओर, इस thread में quotemstr का रवैया समझदारी भरा नहीं लगा

    • उत्साहजनक तो बिल्कुल नहीं; यह हक़ीक़त से आँख मूँदकर खुद को अप्रासंगिक project बना लेने का रास्ता चुनना है
      अगर आप contributors से कहेंगे कि मानव इतिहास के सबसे महत्वपूर्ण आविष्कारों में से एक tool का इस्तेमाल न करें और पत्थर-डंडों से coding करें, तो कट्टर रूप से ग़लत विचारधारा में बँधे लोगों को छोड़कर बाकी लोग LLVM जैसे दूसरे projects की ओर चले जाएँगे