क्या AI डिटेक्टर असरदार हैं? छात्रों पर अनुचित cheating के आरोप

AI डिटेक्टर जो छात्रों पर गलत cheating के आरोप लगाते हैं — इसके बड़े परिणाम

• लगभग दो-तिहाई शिक्षकों ने बताया कि वे AI-जनित कंटेंट पहचानने वाले टूल्स का नियमित उपयोग करते हैं। इस पैमाने पर छोटी error rate भी जल्दी जमा हो सकती है।

Moira Olmsted का मामला

• महामारी की शुरुआत में कॉलेज से कुछ समय का विराम लेकर परिवार शुरू करने के लिए पढ़ाई छोड़ी थी Moira Olmsted ने, और वह स्कूल लौटने के लिए बेहद उत्सुक थीं।
• 2023 में उन्होंने Central Methodist University के एक online course में दाखिला लिया, लेकिन उनकी जमा की गई असाइनमेंट को AI detection tool ने संभवतः AI-जनित माना और उन्हें 0 अंक दे दिए गए।
• Olmsted ने कहा कि वह autism spectrum disorder के साथ रहती हैं, इसलिए उनका लेखन अधिक औपचारिक होता है और इसी वजह से उसे AI-जनित समझा जा सकता है।
• अंततः उनके ग्रेड में बदलाव किया गया, लेकिन उन्हें कड़ी चेतावनी दी गई कि दोबारा ऐसा होने पर इसे plagiarism के बराबर माना जाएगा।

AI writing detector की accuracy समस्या

• सबसे अच्छे AI writing detector भी बहुत accurate हैं, लेकिन perfect नहीं।
• Businessweek ने GPTZero और Copyleaks का परीक्षण 500 college application essay samples पर किया, जो ChatGPT के लॉन्च से ठीक पहले जमा किए गए थे।
• इन सेवाओं ने गलत तरीके से 1–2% essays को संभवतः AI द्वारा लिखा गया बताया।
• जिन छात्रों को गलत तरीके से flag किया गया, उनमें neurodivergent छात्र, English को second language के रूप में इस्तेमाल करने वाले, और वे लोग अधिक होने की संभावना थी जिन्हें सरल vocabulary और mechanical style में लिखना सिखाया गया था।
• AI detection services को कभी-कभी ऐसे automated tools भी धोखा दे सकते हैं जो AI writing को इंसानी लेखन जैसा दिखाने के लिए बनाए गए हैं।

Ken Sahib का मामला

• इटली में अपने बचपन का अधिकांश समय बिताने वाले multilingual छात्र Ken Sahib ने कहा कि Berkeley College में networking course की reading summary assignment पर 0 अंक मिलने पर वह “अभिभूत” हो गए थे।
• प्रोफेसर ने कहा कि सभी tools का नतीजा एक जैसा था, इसलिए यह AI-जनित था।
• Sahib आखिरकार course पास कर गए, लेकिन इस घटना ने प्रोफेसर के साथ उनके संबंध खराब कर दिए।

AI detector के उपयोग से जुड़ी समस्याएँ

• कुछ शिक्षक AI detector से पीछे हट रहे हैं और AI को curriculum में शामिल करने की कोशिश कर रहे हैं, लेकिन अब भी कई colleges और high schools में ये tools इस्तेमाल हो रहे हैं।
• इसके कारण classrooms में झूठे आरोपों को लेकर anxiety और paranoia फैल गई है।
• Undergraduates कहते हैं कि उन्हें अपने काम की सत्यनिष्ठा साबित करने में बहुत समय और मेहनत लगानी पड़ती है, जिससे सीखने का अनुभव खराब होता है।
• वे छात्रों के लिए खास तौर पर market की जाने वाली आम AI writing assistance services और grammar checker के इस्तेमाल से भी डरने लगे हैं।

AI detection startups

• AI writing detector आम तौर पर submissions में शब्दों की जटिलता मापने वाले perplexity को देखते हैं।
• AI detection कंपनियाँ ज़ोर देती हैं कि उनकी services को judge, jury और executioner की तरह नहीं देखा जाना चाहिए, बल्कि teachers को मार्गदर्शन और जानकारी देने वाले data point की तरह इस्तेमाल किया जाना चाहिए।
• Copyleaks छात्रों को अपनी service का access दे रही है ताकि वे अपना AI score देख सकें।
• Turnitin अपनी AI product portfolio का विस्तार ऐसे services के साथ कर रही है जो छात्रों को यह दिखाने में मदद करें कि उन्होंने writing assignment कैसे तैयार की।

छात्र क्या कर रहे हैं

• आरोप लगने के बाद Olmsted इस बात को लेकर जुनूनी हो गईं कि उन पर फिर से आरोप न लगे। उन्होंने laptop पर अपनी writing assignments करते समय screen recording की, Google Docs में काम किया ताकि changes track हों, और एक digital paper trail तैयार किया।
• UC San Diego में chemical engineering के third-year छात्र Nathan Mendoza अपने काम को पहले से जांचने के लिए GPTZero का इस्तेमाल करते हैं। उनका कहना है कि उनका अधिकांश समय phrasing बदलने में चला जाता है ताकि AI detector उन्हें गलत तरीके से flag न कर दें।
• अन्य छात्रों ने इस process को तेज़ करने के लिए “AI humanization” services का उपयोग किया, जो AI detector से बचने के लिए submissions को अपने आप फिर से लिख सकती हैं।

“AI humanization” services

• Bloomberg के Hix Bypass test के अनुसार, एक इंसान द्वारा लिखे गए essay को GPTZero ने गलत तरीके से 98.1% AI बताया था, लेकिन इस service द्वारा बदले जाने के बाद उसका AI प्रतिशत तेज़ी से घटकर 5.3% रह गया।

Grammarly जैसे writing assistance tools के उपयोग की समस्या

• छात्रों ने Grammarly जैसे लोकप्रिय online writing assistance tools के इस्तेमाल पर फिर से विचार करना शुरू कर दिया है।
• Bloomberg ने पाया कि यदि Grammarly का उपयोग essay को “improve” करने या “academic sounding” बनाने के लिए किया जाए, तो जो काम पहले 100% human-written माना गया था, वह 100% AI-written के रूप में बदल सकता है।
• Florida SouthWestern State College की Kaitlyn Abellar ने कहा कि उन्होंने Grammarly जैसे programs के plugins अपने कंप्यूटर से हटा दिए।

मौजूदा system टिकाऊ नहीं है

• कुछ शिक्षकों और छात्रों को लगता है कि मौजूदा system शिक्षकों और छात्रों दोनों पर पड़ने वाले बोझ के कारण टिकाऊ नहीं है, खासकर जब AI आगे भी बना रहेगा।
• University of Maryland के English professor Adam Lloyd ने कहा, “Artificial intelligence भविष्य का हिस्सा होगा, चाहे हमें पसंद हो या नहीं,” और “AI को classroom से अलग रखना या छात्रों को इसका उपयोग न करने देना गलत सोच है।”

GN⁺ की राय

• AI detection tools में false positive की समस्या खासकर neurodivergent छात्रों, English learners, और सरल writing style इस्तेमाल करने वाले छात्रों पर गंभीर असर डाल सकती है। शैक्षणिक संस्थानों को ऐसे छात्र समूहों को ध्यान में रखते हुए AI detection results की सावधानी से व्याख्या करनी चाहिए।
• AI detector और AI humanization services के बीच arms race शिक्षकों और छात्रों के बीच भरोसा कमजोर करती है और इसका शैक्षणिक लाभ बहुत कम है। AI को curriculum में एकीकृत करने के तरीकों की तलाश करना लंबी अवधि में बेहतर approach हो सकता है।
• छात्रों की writing skills बेहतर बनाने के लिए Grammarly जैसे tools पर रोक लगाने के बजाय, उनके शैक्षणिक उपयोग के तरीकों पर विचार किया जाना चाहिए। उदाहरण के लिए, शिक्षक खुद recommended tools की सूची दे सकते हैं या उपयुक्त उपयोग के तरीके बता सकते हैं।
• Copyleaks, Turnitin जैसी AI detection कंपनियों का छात्र-अनुकूल services विकसित करने की कोशिश करना एक सकारात्मक बदलाव है। लेकिन इन tools पर अत्यधिक निर्भर होने के बजाय, छात्रों के साथ खुला संवाद करके संदिग्ध मामलों को संभालना अधिक उचित है।
• AI और इंसानों के सह-अस्तित्व वाले अनिवार्य भविष्य की तैयारी के लिए यह ज़रूरी है कि छात्रों को AI tools के ethical use की शिक्षा दी जाए और उनमें creative तथा critical thinking skills विकसित की जाएँ। इसके लिए curriculum और assessment methods में नवाचारी बदलाव की ज़रूरत है।

[GN⁺]

Hacker News राय

• उच्च शिक्षा में 30 साल तक गणित पढ़ाने के अनुभव के आधार पर, दूरस्थ परीक्षाओं में नकल व्यापक है। तकनीक के इस्तेमाल पर रोक लगाकर आमने-सामने परीक्षा अनिवार्य करना समाधान है, लेकिन तब छात्र कक्षाओं में दाखिला नहीं लेंगे। मेरा मानना है कि उच्च शिक्षा परिषद को सभी कक्षाओं के लिए इसे अनिवार्य करना चाहिए। लेकिन केवल आमने-सामने परीक्षा पर्याप्त नहीं है। छात्र सीखने के बजाय केवल पास होने के लिए काम करने के आदी हो गए हैं, और नकल बढ़ रही है। K-12 शिक्षा में भी बदलाव की ज़रूरत है.

• AI बना रहने वाला है, इसलिए छात्र प्रदर्शन का मूल्यांकन करने के नए तरीके चाहिए। पहले calculators को परीक्षा में इसीलिए प्रतिबंधित किया जाता था क्योंकि उनका उपयोग नहीं किया जा सकता था, लेकिन अब हम 24/7 calculator उपलब्ध होने के युग में हैं। हमें बदलाव के अनुसार ढलना होगा और समाज को मिलकर तय करना होगा कि इसका सामना कैसे किया जाए.

• समस्या यह है कि छात्र को यह नहीं बताया जाता कि AI ने उसके काम को क्यों flag किया। algorithm को ठीक-ठीक यह समझा पाना चाहिए कि उसने किसी विशेष काम को क्यों flag किया। मौजूदा AI-आधारित solutions यह समझा नहीं सकते, इसलिए वे उपयुक्त नहीं हैं.

• एक छात्र के शिक्षक ने चेतावनी दी कि सभी essays को AI detection software से जांचा जाएगा, लेकिन वह चेतावनी-पत्र खुद AI-जनित निकला.

• एक बड़े university hospital में काम करने वाले consultant के रूप में, मैं ChatGPT का उपयोग अंग्रेज़ी को अधिक संक्षिप्त और business-जैसा बनाने के लिए करता हूँ। AI detector काम कर सकता है, लेकिन spell checker जितना उपयोगी नहीं है। AI सिर्फ एक large language model है, और वास्तव में यह कोई model भी नहीं है। शिक्षक को अच्छा झूठ-पहचानने वाला होना चाहिए.

• यदि AI detection 100% सटीक नहीं है, तो मेरा मानना है कि यह लाखों छात्रों और युवाओं के भविष्य का फैसला करने के लिए उपयुक्त नहीं है। हमें तकनीक या essay format से आगे बढ़ना होगा। विषय पर mastery के मानदंड बदलने होंगे.

• AI-जनित काम की पहचान इंसानों के लिए आसान हो सकती है, लेकिन उसे कंप्यूटर में program करना कठिन है। पिछली नौकरी में plagiarism detector के साथ काम करते हुए मुझे एहसास हुआ कि उन्हें कितनी आसानी से धोखा दिया जा सकता है.

• किसी शिक्षक का LLM detector का उपयोग करके छात्र को fail कर देना विरोधाभासी है। शिक्षक छात्र पर आरोप लगाता है कि उसने असाइनमेंट नहीं समझा, लेकिन शिक्षक खुद भी tool के निर्णय को नहीं समझता और ज़िम्मेदारी से बचता है.

• बच्चों के स्कूल में AI-संचालित weapons scanner लगाया गया, लेकिन उसने स्कूल द्वारा दिए गए Lenovo laptop को हथियार मान लिया। लोग AI products खरीदते हैं और उन पर भरोसा करते हैं, लेकिन वे ठीक से काम नहीं करते.

• यह हैरानी की बात है कि लोग algorithms पर भरोसा करने लगे हैं। वे नहीं जानते कि वे कैसे काम करते हैं, न ही समझा सकते हैं, फिर भी मान लेते हैं कि वे बस काम करते हैं। अगर किसी को cheating का दोषी ठहरा दिया जाए, तो वह कुछ नहीं कर सकता। बहुत से लोग ज़िम्मेदारी नहीं लेते। पहले भी नकल का शक होता था, लेकिन अगर साबित न हो तो बात वहीं खत्म हो जाती थी। अब साबित करने की ज़रूरत नहीं रही; लोग मान लेते हैं कि system है, इसलिए वह सही होगा.