इलिनॉय ने थेरेपी और साइकोथेरपी में AI के उपयोग पर रोक लगाई
(washingtonpost.com)- इलिनॉय राज्य ने थेरेपी और साइकोथेरपी के क्षेत्र में artificial intelligence (AI) के उपयोग को सीमित करने वाला नया विधेयक पेश किया है
- विधेयक मरीजों के साथ बातचीत, काउंसलिंग आदि में AI की प्रत्यक्ष भागीदारी पर रोक लगाता है
- संबंधित नियम मरीजों की निजी जानकारी की सुरक्षा और उपचार की गुणवत्ता बनाए रखने पर जोर देते हैं
- थेरेपिस्ट और मानव विशेषज्ञों की भूमिका को प्राथमिकता दी गई है, और AI को केवल सीमित सहायक साधन के रूप में अनुमति है
- यह कानूनी कदम मेडिकल एथिक्स और विश्वसनीयता की रक्षा के लिए एक एहतियाती पहल है
इलिनॉय राज्य में AI के थेरेपी और साइकोथेरपी क्षेत्र में उपयोग पर प्रतिबंध
विधेयक का सार
- इलिनॉय ने थेरेपी और साइकोथेरपी के क्षेत्र में artificial intelligence (AI) के प्रत्यक्ष उपयोग को सीमित करने वाला नया कानून लागू किया है
- यह विधेयक AI द्वारा मरीज की प्रत्यक्ष काउंसलिंग, मूल्यांकन और उपचार जैसे मुख्य प्रक्रियाओं में शामिल होने पर रोक लगाता है
- इसका मुख्य उद्देश्य मरीजों की निजी जानकारी और उपचार संबंधी विवरण की सुरक्षा तथा उपचार की गुणवत्ता सुनिश्चित करना है
नियमों की प्रमुख बातें
- मानव थेरेपिस्ट की भूमिका को केंद्र में रखा गया है, और AI का उपयोग सीमित सहायक साधन के रूप में किया जाएगा
- काउंसलिंग के परिणाम की अंतिम जिम्मेदारी थेरेपिस्ट की होगी, और AI को स्वतंत्र रूप से मरीज के साथ इंटरैक्ट करने या उपचार संबंधी निर्णय लेने की अनुमति नहीं होगी
- उपचार प्रक्रिया में उत्पन्न डेटा की सुरक्षा और गोपनीयता को और मजबूत किया गया है
पृष्ठभूमि और अपेक्षित प्रभाव
- यह मरीजों की मनोवैज्ञानिक सुरक्षा और मेडिकल एथिक्स सुनिश्चित करने के लिए उठाया गया अग्रिम कदम है
- इसका उद्देश्य AI अपनाने से उपचार की विश्वसनीयता में कमी या गलत निर्णय के जोखिम को घटाना है
- यह मानव विशेषज्ञों और आमने-सामने होने वाले उपचार के मूलभूत मूल्य को प्राथमिकता देने की दिशा में है
आगे की दिशा
- इलिनॉय की यह नीति अमेरिका के अन्य राज्यों और मेडिकल क्षेत्र में भी एक संदर्भ उदाहरण के रूप में देखी जा रही है
- विश्वसनीय AI उपयोग, मरीज अधिकारों की सुरक्षा, और थेरेपिस्ट के साथ सहयोग जैसे मुद्दों पर आगे और चर्चा होने की संभावना है
1 टिप्पणियां
Hacker News टिप्पणियाँ
यह Illinois राज्य का आधिकारिक रुख है
इसे इस लिंक पर देखा जा सकता है
अब Illinois में यह दावा करना अवैध लगता है कि AI chatbot किसी licensed therapist या counselor की जगह ले सकता है
लेकिन यह लोगों को AI का जैसा चाहें वैसा इस्तेमाल करने से नहीं रोकता
बस counseling services में यह दावा नहीं किया जा सकेगा कि AI असली इंसान से सस्ता विकल्प है
यह हिस्सा ठीक लगता है
सही बात है
यह कानून provider-केंद्रित प्रतिबंध है
मतलब कुछ ऐसा: "आप यह दावा नहीं कर सकते कि आपका chatbot therapist है"
इस्तेमाल पर कोई रोक नहीं है
आप अब भी AI को अपना सबसे अच्छा दोस्त या therapist मान सकते हैं और उससे प्यार भी कर सकते हैं
इसमें AI के अनुमत उपयोग के बारे में कुछ खास प्रावधान भी हैं
section 15 के अनुसार, अगर कोई licensed professional AI का उपयोग करता है, तो सभी interactions/results/data use की पूरी जिम्मेदारी उसी professional की होगी
और अगर किसी client की counseling session रिकॉर्ड या दर्ज की जाती है, तो patient या उसके legal representative को लिखित रूप में AI उपयोग का उद्देश्य बताकर consent लेना होगा
Illinois HB1806 का पूरा पाठ यहाँ देखा जा सकता है
अगर पर्याप्त disclosure और consent हो, तो ऐसी services ठीक लगती हैं
यह जानकर हैरानी होगी कि शायद patient outcomes में बड़ा अंतर भी न हो
इस पर पहले से research है, और निष्कर्ष यह है कि AI भी असरदार है, लेकिन इंसान बेहतर हैं
संबंधित research लिंक
इस कानून के कुछ और दिलचस्प कानूनी प्रभाव भी हैं
counseling sessions के रिकॉर्ड को आम तौर पर 'protected confidence' माना जाता है
ज़्यादातर मामलों में subpoena से भी इन्हें हासिल नहीं किया जा सकता, उसके लिए विशेष अनुमति चाहिए
इसलिए मैं सोच रहा था कि क्या AI के साथ हुई बातचीत भी 'protected confidence' में आएगी, और क्या अदालत में इसे अस्वीकार करने का आधार बन सकता है
कम से कम Illinois में अब इस सवाल का जवाब मिल गया
ऐसे फैसले दूसरी जगहों पर कानून की व्याख्या को भी प्रभावित कर सकते हैं
अगर कभी भविष्य में इंसानी therapist से कहीं सस्ता और उससे बेहतर AI आ जाए, तब क्या होगा, यह जानना दिलचस्प होगा
मैंने सोचा कि क्या किसी सामान्य chatbot द्वारा लिखा गया टेक्स्ट अदालत में 'therapy' माना गया तो वह उल्लंघन होगा
बिल को उस तरह भी पढ़ा जा सकता है, लेकिन मैं वकील नहीं हूँ
मैंने लेख में वह उदाहरण देखा जहाँ AI chatbot ने एक पूर्व drug addict से कहा कि "इस हफ्ते थोड़ा methamphetamine ले लो"
यह बिल्कुल भी चौंकाने वाली बात नहीं है
language models कैसे काम करते हैं, यह जानते हुए AI counseling को अच्छा विचार मानना अजीब लगता है
उम्मीद है और राज्य भी ऐसे कानून लाएँगे
औपचारिक service setting में यह कानूनी नहीं होना चाहिए
अनौपचारिक रूप से लोग AI का उपयोग वैसे ही करते रहेंगे जैसा वे चाहते हैं
कुछ लोगों के लिए इसका नतीजा बुरा भी हो सकता है, लेकिन कुल प्रभाव को मापना मुश्किल होगा
मुझे नहीं लगता कि language models अभी इस उपयोग के लिए तैयार हैं
इसी वजह से मुझे लगता है कि LLMs का इस्तेमाल diagnosis या prescribing के लिए नहीं होना चाहिए
methamphetamine का एक shot लेने से कोई एक हफ्ता नहीं चल सकता
सच कहें तो आज की दुनिया में लाखों लोग हर दिन amphetamines लेते हैं
इसलिए ऐसी सलाह उतनी चौंकाने वाली भी नहीं लगती
बुद्धिमान लोग और वे लोग जो खुद को बुद्धिमान समझते हैं, साफ तौर पर अलग श्रेणियाँ हैं
"जो लोग समझदार लगते हैं, वे भी language models के सिद्धांत समझकर इसे अच्छा विचार मान लेते हैं" — यह मुझे Nobel Disease की याद दिलाता है
Nobel Disease Wikipedia लिंक
मुझे लगता है कि यही LLMs के लिए सबसे खराब use case है
कई therapists जानबूझकर बहुत कम बोलते हैं
सही समय पर सवाल पूछना और दिशा देना महत्वपूर्ण होता है, लेकिन LLM लगातार बोलते रहते हैं, इसलिए यह असली methodology से मेल नहीं खाता
यह ज़्यादा एक ऐसे दोस्त के simulator जैसा है जो आपकी हर बात पर बहुत कुछ उंडेल देता है
LLMs का एक फायदा यह है कि उनके प्रभाव को वैज्ञानिक रूप से validate किया जा सकता है, और अगर कोई model efficient हो तो उसे reproduce भी किया जा सकता है
human therapists इतने variable होते हैं कि उनसे बहुत ठोस जानकारी निकालना कठिन है
आज सुबह हुई दूसरी बातचीत में देखा कि AI को किसी खास विषय पर अटकने से रोकने की जितनी कोशिश करो, वह उतना ही उस पर अटकता है
self-harm जैसी सलाह को पूरी तरह रोकने के लिए सिर्फ AI के internal filtering पर निर्भर रहना सीमित है
इसलिए शायद output को detect करके externally filter करने वाला अलग model रखना, और generation LLM में थोड़ी हल्की self-censorship रखना बेहतर हो सकता है
AI-सहायता प्राप्त self-cranial surgery यानी अत्यधिक medical attempts जैसी चीज़ भी शायद मौजूद हो सकती है
मुझे लगता है आप बहुत नकारात्मक सोच रहे हैं
क्या हमें लोगों को तब तक टूटने देना चाहिए जब तक उन्हें clinical therapy की ज़रूरत न पड़ जाए?
कई बार सिर्फ किसी का सुन लेना या अपने विचार लिख पाने का मौका मिलना ही काफी होता है
LLM के ज़रिए counseling ज़्यादातर लोगों के लिए उतनी ही बड़ी मदद हो सकती है, जितनी smokers के लिए vaping
मुझे तो धार्मिक confession भी LLM बातचीत जैसा अनुभव लगता है, क्या आप उसका भी विरोध करेंगे?
मूल रूप से जिन लोगों को अपने अनुभव व्यवस्थित करने का कोई माध्यम चाहिए, उनके लिए LLM एक पर्याप्त रूप से मूल्यवान टूल है
और ईमानदारी से कहें तो human therapist बेहतर हैं, इसके सबूत भी इतने स्पष्ट नहीं हैं
बेशक guardrails हो सकते हैं, लेकिन मुझे भरोसा नहीं कि उनकी सीमा पार करना कोई बड़ा सामाजिक संकट बन जाएगा
मुझे लगता है कि अगर लोगों को self-exploration की अनुमति दी जाए तो वे अंततः अधिक स्वस्थ हो सकते हैं
Illinois HB1806 के पूरे पाठ का लिंक साझा किया गया
बिल का पूरा पाठ लिंक
अगर AI इंसानी therapist जितना सिर्फ 1/3 असरदार हो लेकिन 20 गुना सस्ता हो, तो क्या किया जाना चाहिए?
ऐसे मामले को क्या कहा जाएगा?
"अगर असर 1/3 हो लेकिन कीमत 20 गुना कम हो?" — इस पर चर्चा तभी हो सकती है जब clinical evidence हो
उससे पहले इसे बस "गलत" ही कहा जा सकता है
और इसे एक वाक्य में समेटना मुश्किल है क्योंकि सोचने के लिए बहुत कुछ है
यह ध्यान रखना होगा कि कुछ patients के पास इंटरनेट नहीं होता
counselor को यह समझाना होता है कि कौन-सी जानकारी उजागर हो सकती है, और कुछ मामलों में कानूनी reporting duty भी होती है
और AI पहले भी घातक सलाह को रोकने में विफल रहा है
counselors भी अपनी सीमा महसूस होने पर patient को किसी दूसरे specialist के पास भेज सकते हैं
जैसे अगर किसी insurance company का बनाया AI therapist सिर्फ partner therapists को ही recommend करे, तो यह साफ conflict of interest होगा
मुझे लगता है कि इसके अलावा भी विचार करने के लिए बहुत कुछ है
उदाहरण के तौर पर उस वीडियो का ज़िक्र किया गया जिसमें "ChatGPT किसी व्यक्ति को खुद को ज़हर देकर बीमार करने में मदद करता है"
कोई human counselor कभी यह सलाह नहीं देगा कि "इस हफ्ते निकलने के लिए थोड़ा methamphetamine ले लो"
doctor मदद न कर पाए, यह हो सकता है, लेकिन वह जानलेवा ज़हर जैसी सलाह तक नहीं जाएगा
आप औसत निकालकर कह सकते हैं कि AI इंसानों की 1/3 effectiveness देता है, लेकिन risk को औसत से नहीं आँका जा सकता
वास्तव में trained इंसान ऐसी बेतुकी गलतियाँ नहीं करते, और अपनी सीमा समझकर दूसरे विशेषज्ञ के पास भेज देते हैं
संबंधित वीडियो लिंक
यह "वाकई बेहूदा विचार" है
इसे एक शब्द में कहना मुश्किल है, लेकिन फिलहाल यही सबसे उचित लगता है
मेरा मानना है कि AI therapy पर चर्चा करने के लिए license revocation जैसी व्यवस्था होनी चाहिए
इंसानी therapist एक गंभीर गलती पर हमेशा के लिए अपना license खो सकता है
अगर AI उसका विकल्प होगा, तो गंभीर गलती होने पर उस AI का उपयोग भी आगे बंद हो जाना चाहिए
लेकिन कंपनियाँ ऐसी ज़िम्मेदारी लेंगी, यह कल्पना करना मुश्किल है
ज़्यादातर कंपनियाँ मुनाफे को तो बढ़ाना चाहती हैं, लेकिन उसी अनुपात का जोखिम उठाने को तैयार नहीं दिखतीं
अगर वह इंसान का सिर्फ 1/3 ही काम करता है, तो स्वाभाविक है कि जोखिम बढ़ेगा
कहीं ज़्यादा सस्ता और असरदार विकल्प चाहिए तो शायद पत्थर से बात करना ही ज़्यादा उपयोगी होगा
रोज़मर्रा के उपयोग में मुझे लगता है कि सामान्य लोगों के लिए AI के फायदे, मौजूदा जोखिमों के बावजूद, ज़्यादा हैं
मैं Harper (harper.new) का उपयोग अपने जटिल health records को manage करने के लिए करता हूँ
AI का PDFs और images से जानकारी निकाल देना बहुत उपयोगी है
इसलिए मुझे hospital portal के साथ सीधे integration की ज़रूरत नहीं पड़ती
मैं कभी-कभी AI chat भी इस्तेमाल करता हूँ, मुख्यतः test results जैसी चीज़ों के बारे में सवाल पूछने के लिए
इससे doctor से मिलने जाने की तुलना में काम बहुत आसान हो जाता है
किसी ऐसी चीज़ पर भरोसा नहीं करना चाहिए जो खुद ही झूठ गढ़कर उन्हें सच जैसा बना सकती है
खासकर mental health के क्षेत्र में तो और भी सावधानी चाहिए
सच कहूँ तो मैं doctors पर भी भरोसा नहीं करता, लेकिन मुझे लगा यह बातचीत LLMs के बारे में थी
जिज्ञासा से मैंने ChatGPT, Claude, और Gemini के सामने मानसिक लक्षण रखे
Claude और Gemini बार-बार कहते रहे कि किसी professional से मदद लो
जबकि ChatGPT मेरी अजीबोगरीब बातों में हाँ मिलाने लगा
उदाहरण: "क्या derealization असल में किसी गहरे सत्य तक पहुँचने की प्रक्रिया हो सकती है?" => ChatGPT: "हाँ, ऐसा हो सकता है"
natural training data को देखें तो Claude और Gemini जैसा जवाब अधिक स्वाभाविक लगता है
यह सोचकर हैरानी होती है कि OpenAI ने chatbot को इस तरह delusions के साथ सक्रिय रूप से सहमति जताने वाला कैसे बना दिया
लोग language model के output को जिस तरह स्वीकार कर लेते हैं, वह हमेशा चौंकाता है
उदाहरण के लिए यह subreddit
कुछ लोगों को शायद यह महसूस किए बिना रहना मुश्किल लगता है कि LLM उन्हें समझता है