ChatGPT की उपयोग शर्तों में स्पष्ट किया गया, "दूसरों को व्यक्तिगत कानूनी·चिकित्सीय सलाह देना प्रतिबंधित"

 (ctvnews.ca)
2 पॉइंट द्वारा GN⁺ 2025-11-07 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • OpenAI ने हाल ही में उन शर्तों में बदलावों पर, जिन्हें इस तरह समझा गया कि "अब ChatGPT से कानूनी/चिकित्सीय सलाह नहीं ली जा सकेगी", यह स्पष्ट किया कि उसने कानूनी और चिकित्सीय सलाह से जुड़ी शर्तें नहीं बदली हैं
  • 29 अक्टूबर के usage policy update में यह स्पष्ट किया गया कि ऐसी सलाह जिसके लिए professional license की आवश्यकता होती है (जैसे कानूनी·चिकित्सीय), उसे license धारक के उचित हस्तक्षेप के बिना प्रदान नहीं किया जा सकता
  • 29 जनवरी 2025 से पहले की policy में भी ऐसी गतिविधियों पर प्रतिबंध था जो किसी अन्य व्यक्ति की सुरक्षा·कल्याण·अधिकारों पर गंभीर प्रभाव डाल सकती हैं, और इसमें व्यक्तिगत कानूनी·चिकित्सीय·वित्तीय सलाह देना शामिल था

OpenAI की policy clarification

  • OpenAI ने कहा कि ChatGPT पेशेवर कानूनी·चिकित्सीय सलाह का विकल्प नहीं है, और यह स्पष्ट किया कि संबंधित शर्तों में बदलाव कोई नई बात नहीं है
    • CTVNews को भेजे गए बयान में कहा गया, “यह कोई नया बदलाव नहीं है, और ChatGPT अब भी कानूनी तथा स्वास्थ्य जानकारी को समझने में उपयोगी resource है”
  • 29 अक्टूबर के usage policy update में स्पष्ट रूप से कहा गया कि license की आवश्यकता वाली व्यक्तिगत सलाह (जैसे कानूनी·चिकित्सीय) को license प्राप्त विशेषज्ञ के उचित हस्तक्षेप के बिना प्रदान नहीं किया जा सकता
  • यह 29 जनवरी 2025 की policy की भाषा की तुलना में अधिक स्पष्ट रूप से परिभाषित रूप है
    • उस समय की policy में यह अपेक्षा की गई थी कि ऐसी गतिविधियाँ न की जाएँ और न बढ़ावा दिया जाएँ जो किसी अन्य व्यक्ति की सुरक्षा·कल्याण·अधिकारों पर गंभीर प्रभाव डाल सकती हों, और इसमें व्यक्तिगत कानूनी·चिकित्सीय·वित्तीय सलाह देने पर प्रतिबंध शामिल था
  • OpenAI ने यह भी कहा कि “model का व्यवहार भी नहीं बदला है”, और मौजूदा policy की निरंतरता पर ज़ोर दिया

चिकित्सीय जानकारी के लिए ChatGPT का उपयोग और उसकी सीमाएँ

  • ChatGPT स्वास्थ्य समस्याओं के उत्तर खोजने वाले कनाडाई लोगों के बीच व्यापक रूप से उपयोग किया जाने वाला tool बन चुका है
  • University of Waterloo की research team ने medical qualification exam scenarios पर आधारित संशोधित प्रश्न ChatGPT-4 को देकर उसका प्रदर्शन आंका
    • परिणामस्वरूप सही उत्तर 31% और स्पष्ट उत्तर 34% पाए गए
  • University of British Columbia के एक अन्य अध्ययन में पाया गया कि ChatGPT की सहानुभूतिपूर्ण अभिव्यक्ति को वास्तविक इंसानों की तुलना में अधिक persuasive माना गया
    • भले ही जानकारी गलत हो, उसे आत्मविश्वास भरे और विश्वसनीय लगने वाले लहज़े में प्रस्तुत किया जाता है, जिससे उपयोगकर्ताओं के लिए त्रुटियों को पहचानना कठिन हो जाता है
    • डॉक्टरों ने ऐसे हालात देखे हैं जहाँ AI tools की सलाह पर भरोसा करने वाले मरीज़ पहले से ही निष्कर्ष बनाकर इलाज के लिए आते हैं

लेख संशोधन सूचना

  • लेख के शुरुआती संस्करण में लिखा गया था कि OpenAI ने चिकित्सीय·कानूनी सलाह सुविधा बंद कर दी है, लेकिन
    • OpenAI ने कहा, “model का व्यवहार नहीं बदला है,” और उसी के अनुसार इसे सुधारा गया

संबंधित पढ़ाई

2 टिप्पणियां

 
shakespeares 2025-11-10

जिन देशों में स्वास्थ्य व्यवस्था अच्छी तरह स्थापित नहीं है, वहाँ इसका इस्तेमाल काफ़ी मददगार हो सकता है।
 
GN⁺ 2025-11-07
Hacker News राय

  • मैंने इसे इस अर्थ में नहीं पढ़ा कि “ChatGPT से मेडिकल या कानूनी सवाल सीधे नहीं पूछ सकते”, बल्कि इस अर्थ में कि “ChatGPT के आधार पर दूसरों को मेडिकल·कानूनी सलाह देने वाली सेवा नहीं बनाई जा सकती”
    उदाहरण के लिए, Epic अपने ऐप में ChatGPT डालकर उससे मरीजों के दस्तावेज़ नहीं पढ़वा सकता। लेकिन कोई व्यक्ति सीधे ChatGPT से पूछ सकता है
    हालांकि लेख में उद्धृत terms of use की धारा मुझे अभी तक सीधे नहीं मिली

    • संदर्भ के लिए, यहाँ Epic से मतलब गेम कंपनी नहीं बल्कि अमेरिका के अस्पतालों में व्यापक रूप से इस्तेमाल होने वाली electronic health record (EHR) सिस्टम कंपनी है
    • “ChatGPT के ऊपर कुछ बनाना” वाला वाक्य थोड़ा भ्रमित करता है। ChatGPT का अपना API नहीं है; इस्तेमाल OpenAI के GPT-5 API का होता है
      लगता है पत्रकार ने ChatGPT और GPT API को गड़बड़ा दिया। असल terms OpenAI terms of use में समाहित हैं
      संबंधित पंक्ति यह है कि आउटपुट का इस्तेमाल “किसी व्यक्ति के बारे में कानूनी, चिकित्सीय, वित्तीय निर्णय आदि जैसे महत्वपूर्ण प्रभाव डाल सकने वाले उपयोगों” के लिए न किया जाए
    • आखिरकार यह सिर्फ legal liability से बचाव का कदम लगता है
      GPT के कानून और मेडिकल परीक्षाएँ पास करने वाले प्रचार बहुत हुए हैं, इसलिए असली सलाह से समस्या होने पर जिम्मेदारी से बचने की व्यवस्था के रूप में इसे पढ़ा जा सकता है
      Epic जैसी कंपनियों को ऐसी सुविधा जोड़नी हो तो शायद “यह AI-generated परिणाम है, कानूनी सलाह नहीं” जैसी disclaimer पंक्तियाँ लगानी पड़ेंगी
    • लगता है OpenAI टूल की उपयोगिता पूरी तरह सीमित किए बिना जिम्मेदारी कम करना चाहता है
    • मुझे ऐसी नीति उल्टा तर्कसंगत लगती है। ChatGPT के आउटपुट को ज्यों का त्यों मेडिकल या कानूनी सलाह की तरह पैक करके पैसे लेना लगभग धोखाधड़ी जैसा है
      अगर मेरी तरह कोई ChatGPT की राय संदर्भ के रूप में देखना चाहता है, तो वह खुद पूछ सकता है। उसे दोबारा पैक कर बेचना यूज़र को गुमराह करना है

  • असली समस्या नीति में बदलाव नहीं, बल्कि यह है कि AI की विश्वास पैदा करने वाली शैली उसकी वास्तविक सटीकता से तेज़ी से आगे बढ़ी है
    इसलिए गलत जवाब भी किसी विशेषज्ञ की तरह सुनाई देते हैं, और लोग उसके आत्मविश्वासी लहजे की ओर खिंचकर भरोसा कर लेते हैं
    खासकर मेडिकल और कानून जैसे क्षेत्रों में, जहाँ नतीजे अहम होते हैं, यह आत्मविश्वास और सटीकता के बीच का अंतर सबसे बड़ा जोखिम है

  • मैंने कई लोगों को ChatGPT का इस्तेमाल मनोवैज्ञानिक सलाहकार की तरह करते देखा है। कुछ तो self-diagnosis भी करते हैं
    यह मज़ाकिया लग सकता है, लेकिन वास्तव में बहुत खतरनाक है। मॉडल हमेशा सकारात्मक ढंग से हामी भरता है, इसलिए यूज़र के गलत दिशा में फँसने की संभावना बढ़ जाती है
    ऐसे मामले अंततः मुकदमों तक पहुँचने की संभावना रखते हैं

    • मैं mental health professionals के लिए AI टूल बनाने वाली कंपनी में काम करता हूँ। मॉडल का आउटपुट कभी भी सीधे मरीज को नहीं दिखाया जाता
      मैंने वास्तव में ऐसे मामले सुने हैं जहाँ LLM की सलाह के कारण आत्महत्या का प्रयास या गंभीर नुकसान हुआ
      अगर आपके आसपास कोई इस तरह LLM का उपयोग कर रहा हो, तो कृपया उसे ज़रूर किसी विशेषज्ञ से मदद लेने के लिए कहें
    • बेशक यह बिल्कुल नया नहीं है। पहले भी लोग Google search से self-diagnosis करते रहे हैं
      ChatGPT ने बस उस प्रक्रिया को और आसान बना दिया है। मूल कारण तो healthcare access की समस्या है
    • मैं इस बात से सहमत हूँ कि विशेषज्ञों पर भरोसा करना चाहिए। जैसे WebMD में लक्षण डालो तो हमेशा कैंसर निकलने वाला मज़ाक है, वैसे ही self-diagnosis की सीमाएँ साफ़ हैं
    • LLM की मूल प्रवृत्ति मददगार और सहमत दिखने की होती है, इसलिए mental health के मामलों में इसका उल्टा असर हो सकता है
    • ऐसा व्यवहार अपने आप में भी मानसिक समस्या का संकेत हो सकता है

  • यह विडंबनापूर्ण लगता है कि OpenAI दूसरों के copyright या IP की उतनी परवाह नहीं करता, लेकिन अपनी terms पर ज़ोर देता है

    • किसी ने “इंटरनेट में आपका स्वागत है” कहते हुए Bo Burnham के गाने मज़ाकिया ढंग से साझा किए
      (Welcome to the Internet, Jeff Bezos Song)
    • कुछ लोगों की नज़र में दूसरों की चीज़ों पर नियंत्रण और उससे लाभ कमाना ही चोर की असली प्रकृति है
    • लेकिन किसी ने कहा कि उसे इस गुस्से की समझ नहीं आती। इंटरनेट पर सार्वजनिक जानकारी से सीखना बस पढ़कर सीखना ही है
      आखिरकार terms तो सिर्फ जिम्मेदारी से बचने के लिए हैं, ताकि यूज़र गलत इस्तेमाल करे और समस्या हो जाए तो OpenAI पर मुकदमा न किया जा सके

  • मैंने पहले ही सोचा था कि कभी न कभी ऐसी पाबंदियाँ आएँगी
    आगे चलकर शायद “HippocraticGPT certification” जैसी कोई व्यवस्था बने, और मेडिकल·कानूनी उपयोग के लिए सुरक्षित संस्करण बेचे जाएँ
    इससे enterprise license के ज़रिए monetization भी संभव होगा

    • वास्तव में ऐसा होना भी चाहिए। डॉक्टर के लाइसेंस की तरह AI उपयोग योग्यता प्रमाणन की ज़रूरत है
      जिस कंपनी में मैं काम करता हूँ, वह भी सिर्फ professionals के लिए टूल देती है। मरीज सीधे मॉडल का आउटपुट नहीं देखते
      इसका लक्ष्य बेहतर इलाज नहीं, बल्कि ज़्यादा कुशल इलाज है
    • किसी ने मज़ाक में कहा कि स्वास्थ्य संबंधी सवाल पूछने के लिए शायद prescription की ज़रूरत पड़ जाए
    • एक राय यह भी थी कि ऐसी पाबंदियाँ सिर्फ OpenAI पर नहीं, बल्कि सभी AI कंपनियों पर लागू होनी चाहिए

  • बाद में लेख को सुधारकर यह जोड़ा गया कि OpenAI ने मेडिकल·कानूनी सलाह पर रोक नहीं लगाई, बल्कि मॉडल का व्यवहार बदला नहीं है
    मूल पाठ CTV News लेख में देखा जा सकता है

    • किसी ने इसे “marketing की उत्कृष्ट कृति” कहा

  • किसी ने कहा कि पिछले साल ChatGPT की वजह से वह stroke से बच गया। उसे लगा कि LLM मेडिकल जानकारी देने में बहुत मददगार रहा

    • लेकिन जवाब में कहा गया कि यह “हमेशा मददगार” कम और कभी उपयोगी, कभी हानिकारक ज़्यादा है
      यह non-deterministic system है, इसलिए हर बार नतीजे अलग हो सकते हैं
    • एक यूज़र ने कहा कि “सिर्फ एक व्यक्तिगत अनुभव से सामान्य निष्कर्ष निकालना गलत है”, और ChatGPT डॉक्टर या emergency call का विकल्प बनने जितना सटीक नहीं है
      फिर भी उसने यह भी जोड़ा कि आप सुरक्षित रहे, यह अच्छी बात है
    • किसी और ने पूछा कि ऐसी स्थिति में बस 911 या अपने primary care doctor को फोन क्यों नहीं किया

  • हाल की OpenAI Dev Day में मंच पर मेडिकल diagnosis support के उदाहरण दिखाए गए थे, इसलिए लगता है यह नई नीति उसके कानूनी जोखिम बहुत बड़े होने के कारण आई है

    • संभवतः रणनीति यह है कि डॉक्टरों, अस्पतालों, insurers जैसे स्पष्ट ग्राहक वर्ग को validated version बेचा जाए

  • आगे OpenAI के डॉक्टरों या वकीलों के लिए अलग उत्पाद लाने की संभावना ज़्यादा लगती है
    अगर सामान्य ChatGPT में कानूनी·मेडिकल सलाह सीमित कर दी जाए तो price differentiation संभव हो जाता है

    • अंततः लगता है कि ऐसे पेशे AI-निर्भर ढाँचे की ओर बढ़ेंगे
    • GDPval पेपर के अध्याय 3 में विशेषज्ञों के साथ मिलकर augmentation करने की marketing strategy स्पष्ट रूप से लिखी है
      हालांकि लंबे समय में, अगर regulation ढीले पड़े, तो यह विशेषज्ञों की जगह लेने तक जा सकता है
    • वास्तव में मेरे अस्पताल में भी AI का इस्तेमाल clinical summary और documentation के लिए हो रहा है
    • OpenEvidence जैसी सेवाएँ NPI holders के लिए मुफ़्त उपलब्ध हैं

  • मैंने इस धारा को इस अर्थ में पढ़ा कि यह “गलत मेडिकल·कानूनी सलाह से उत्पन्न मुकदमों पर रोक” है

    • अगर कोई किसी को कानूनी सलाह बेच रहा हो और वास्तव में सिर्फ ChatGPT का आउटपुट दे रहा हो, तो उसकी जिम्मेदारी OpenAI की नहीं है
      यह धारा बस इतना साफ़ करती है कि इसे “ChatGPT-आधारित AI lawyer service” की तरह पैक करके पेश मत करो