- सुरक्षा समस्याएँ
- अमेरिकी साइबर सुरक्षा कंपनी Snyk ने software engineering और security टीमों के 537 सदस्यों और लीडरों पर सर्वे किया
- 91.6% उत्तरदाताओं ने कहा, “AI coding tools ने कभी-कभी असुरक्षित code suggestions जनरेट किए”
- 80% उत्तरदाताओं ने कहा, “संगठन के भीतर developers AI security policies को bypass करते हैं”
- 25% उत्तरदाताओं ने कहा, “AI coding suggestions में शामिल open source components की सुरक्षा जांचने के लिए automated scanning tools का उपयोग करते हैं”
- open source libraries सुरक्षित हैं, यह सुनिश्चित करने के लिए उचित कदम उठाने वाले लोग कम हैं
- Snyk के अनुसार, GitHub का Copilot मौजूदा code repositories से patterns और structure सीखकर code snippets जनरेट करता है
- इस दौरान code, पास की files में मौजूद मौजूदा security vulnerabilities या गलत practices की नकल कर सकता है
- automated security checks और code audits के जरिए security risk वाले code को ढूंढना, और code generation AI tools की सुरक्षा की समीक्षा करना ज़रूरी है
- code quality की समस्याएँ
- अमेरिकी observability कंपनी Dynatrace के संस्थापक और CTO Bernd Greifeneder ने संकेत किया
- AI अब तक Stack Overflow जैसी sites पर इंसानों द्वारा curate किए गए अच्छे sources से सीखा है
- आगे यदि developers AI से जनरेट किया गया code अधिक इस्तेमाल करेंगे, तो ऐसी sites को अपडेट करने की प्रेरणा कमजोर हो सकती है
- developers द्वारा code snippets को copy-paste करके deployment की गति बढ़ाना एक खराब practice माना जाता है
- इससे maintainability घटती है, और errors या vulnerabilities के दोहराए जाने या नज़रअंदाज़ होने का जोखिम बढ़ता है
- code generation AI tools copy/paste process को बहुत तेज़ गति से automate कर देते हैं
- संगठनों को AI द्वारा जनरेट किए गए code का बारीकी से analysis और testing करनी चाहिए, और quality तथा security standards का पालन करने वाली development practices को मजबूत करना चाहिए
- AI-generated code पर ‘clean code’ principles लागू करने चाहिए
- यह सुनिश्चित करने के लिए कि AI से जनरेट किए गए code में clean code अंतिम implementation तक बना रहे, testing और analysis करके code quality सुनिश्चित करनी होगी
- copyright समस्याएँ
- Copilot जैसे tools input code को refactor करके code बनाते हैं
- ऐसे tools को AI model training में इस्तेमाल किए गए training data और trained model द्वारा जनरेट किए गए output code से जुड़े copyright और open source license मुद्दों का सामना करना पड़ सकता है
- global law firm Finnegan का analysis:
- code generation AI tools उस code की copies सुझा सकते हैं जिसका उपयोग underlying AI model की training में हुआ था
- GitHub ने भी माना है कि “कभी-कभी Copilot द्वारा जनरेट किया गया code, उस publicly available open source code को quote करता है जिस पर उसे train किया गया है”
- GitHub की internal investigation के अनुसार, संभावना बहुत कम, लगभग 1% है, लेकिन Copilot ऐसा code जनरेट कर सकता है जिसमें कुछ code blocks training code से बिल्कुल मेल खाते हों
- open source code के licenses, Copilot का उपयोग करके विकसित किए गए code पर भी लागू हो सकते हैं
- यदि open source license वाले code का बार-बार उपयोग code generation AI tools से बने code में किया जाता है, तो उस code का उपयोग copyright infringement हो सकता है जब वह attribution, distribution जैसी open source license conditions का पालन न करे
- code generation AI tools द्वारा सुझाए गए code में traceability की कमी होने से, यह तुरंत जानने का कोई तरीका नहीं है कि “जनरेट किए गए code में ऐसा दोहराया गया code शामिल है या नहीं जो मूल open source license conditions का उल्लंघन कर सकता है”
- AI से जनरेट किए गए code की manually review करके ज्ञात लोकप्रिय code की पहचान करनी चाहिए
- code scanning tools का उपयोग करके open source license वाले code की जांच करनी चाहिए
अभी कोई टिप्पणी नहीं है.