Kaiser की नर्सें: “AI निगरानी काम और मरीजों की देखभाल को बदतर बना रही है”

• Kaiser Permanente की कंसल्टेशन और ट्रायाज नर्सों का कहना है कि 15 मिनट से ज्यादा की कॉल, कॉल के बीच का अंतराल और दिशानिर्देशों का पालन ट्रैक करने वाला performance management उनके पेशेवर फैसले और मरीजों की देखभाल को सीमित कर रहा है
• 2024 में टेस्ट किए गए AI ने नर्सों की सहानुभूति और आवाज़ के टोन तक का मूल्यांकन किया, और नर्सों ने आलोचना की कि इसने काम के संदर्भ को समझे बिना गलत स्कोर दिए
• आत्महत्या के जोखिम वाले मरीज, जटिल लक्षणों वाले मरीज, या interpreter की जरूरत वाले मरीजों के साथ लंबी कंसल्टेशन अपरिहार्य होने पर भी उन्हें मासिक स्कोर और मूल्यांकन बैठकों का ध्यान रखना पड़ता है; व्यस्त समय में कॉल के बाद रिकॉर्डिंग और recovery का समय 30 सेकंड से कम रह जाता है
• Kaiser ने जवाब दिया कि वह average handle time से performance का मूल्यांकन नहीं करता और सभी tools में मानवीय review और supervision है, लेकिन internal systems की ठोस सूची और संचालन का तरीका सार्वजनिक नहीं किया
• यूनियन 25,000 लोगों के contract negotiations में AI को मुख्य मुद्दा बना रही है, और California legislature भी automation recommendations को खारिज करने वाले healthcare workers की सुरक्षा और emotion-prediction AI पर प्रतिबंध जैसे प्रावधानों वाले bills पर विचार कर रही है

---

15 मिनट की कॉल सीमा से बनने वाला performance pressure

• Kaiser की 7 कंसल्टेशन और ट्रायाज नर्सों ने कहा कि मरीज के साथ 15 मिनट से ज्यादा कॉल करने पर management की आलोचना झेलनी पड़ती है या performance evaluation meetings में बुलाया जाता है
  • कॉल duration नर्सों को हर महीने मिलने वाले performance score में शामिल होता है
  • software रोज़ यह predict करने की कोशिश करता है कि कोई नर्स non-productive है या फोन पर्याप्त तेजी से नहीं उठा रही
• Vallejo में 2010 से काम कर रहीं Raquel Alvarez Sanchez ने आत्महत्या के जोखिम वाले मरीज के साथ पुलिस के पहुंचने तक 1 घंटे से ज्यादा कॉल पर बात की
  • वे यह जानते हुए भी फोन नहीं काटतीं कि लंबी कॉल कई हफ्तों तक average call time खराब कर सकती है और management के सवालों की वजह बन सकती है
  • union officer के रूप में सहकर्मियों के साथ evaluation meetings में शामिल होने पर, उन्होंने ऐसे मामले देखे जहां call handling पूरी तरह उचित था, लेकिन सिर्फ 15 मिनट से ज्यादा होने के कारण मुद्दा बना
  • उन्होंने इस वजह से किसी नर्स को निकाले जाते नहीं देखा, लेकिन चिंता जताई कि लगातार दबाव resignation या early retirement तक ले जा सकता है
• नर्सों को कॉल के दौरान तय दिशानिर्देशों का पालन करने और सलाह को 2–3 बातों से ज्यादा नहीं रखने का निर्देश मिलता है
  • ऐसी स्थिति बन सकती है जहां उन्हें जरूरी सलाह रोकने या performance evaluation का जोखिम उठाने में से चुनना पड़े

मरीजों की देखभाल पर अनिश्चित असर

• algorithm-based management और call time limits का वास्तविक patient outcomes पर असर स्पष्ट नहीं है
  • कंसल्टेशन नर्सें कॉल समाप्त होने के बाद मरीजों को follow up नहीं करतीं, इसलिए यह जानना मुश्किल है कि कोई negative outcome हुआ या नहीं
  • CalMatters ने 2024 में California Department of Managed Health Care से public records मांगे, लेकिन Kaiser के call time से जुड़ी मरीज शिकायतें नहीं मिलीं
• नर्सों का कहना है कि निम्नलिखित consultations में 15 मिनट से ज्यादा समय चाहिए होता है
  • जिन मरीजों में कई लक्षणों या chronic diseases का साथ-साथ आकलन करना हो
  • नए माता-पिता जिन्हें सलाह और आश्वासन चाहिए
  • अतिरिक्त health education चाहने वाले मरीज
  • जीवन बदल देने वाले diagnosis के बाद सदमे या चिंता में डूबे मरीज
  • interpreter की जरूरत वाली calls, जिनमें आम तौर पर 30 मिनट से ज्यादा लग सकता है
• California के लगभग 10 में से 4 निवासी अंग्रेजी के अलावा कोई भाषा बोलते हैं, और उनमें से आधे अंग्रेजी में दक्ष नहीं हैं
• एक नर्स ने बताया कि terminal cancer diagnosis वाले एक बुजुर्ग मरीज को पहले उन्होंने suicide risk वाला समझा, लेकिन असल में पाया कि सदमे में उन्हें बात करने के लिए किसी की जरूरत थी
  • वे ज्यादा सहानुभूति और सांत्वना देना चाहती थीं, लेकिन monthly score गिरने और manager की फटकार के डर से अपनी बात कम कर दी
  • उन्हें खुद तौलना पड़ा कि तय guidelines से बाहर जाने या जरूरत से ज्यादा बोलने पर क्या disciplinary action होगा
• Consumer Watchdog की Michele Ramos मानती हैं कि कई Kaiser मरीज consultation call से care शुरू करते हैं, इसलिए call stage की बंदिशें आगे की समस्याओं का शुरुआती बिंदु बन सकती हैं
  • Kaiser ने mental health appointments को कानूनी deadlines से देर करने और individual therapy के बजाय group therapy का अत्यधिक उपयोग करने की जांच के बाद 5 करोड़ डॉलर के record fine सहित settlement किया था
  • 2002 में non-nurse call center staff को छोटी calls के बदले bonus देने पर आलोचना हुई थी, लेकिन मौजूदा नर्सों का कहना है कि उन्होंने वही practice अनुभव नहीं की

सहानुभूति और आवाज़ के टोन को score करने वाला AI

• Kaiser ने 2024 की गर्मियों में नर्सों और मरीजों की आवाज़ से सहानुभूति और टोन का मूल्यांकन करने वाले AI tool का trial किया
  • नर्सों ने patient privacy, transparency, professional judgment और technology rollout में nurses की भागीदारी की मांग वाली petition पर sign किया
  • उसी साल अस्पताल के बाहर protest में इस्तेमाल हुए “Trust nurses, not AI” नारे को campaign में भी इस्तेमाल किया गया
  • trial नवंबर 2024 में खत्म हुआ, लेकिन union officials ने सुना कि management भविष्य में program फिर ला सकता है
• Sanchez ने कहा कि मौजूदा monitoring ही नर्सों को harassment जैसा महसूस कराती थी, और AI से calls को evaluate और score करने की योजना ने इसे और बढ़ा दिया
• एक anonymous nurse के अनुसार AI नर्सों का काम नहीं समझता था और लगातार गलत scoring करता था
• Kaiser ने इस tool, nurse performance evaluation में इस्तेमाल automation systems, और मरीजों को empathy/tone evaluation के बारे में बताया गया या नहीं—इन सवालों का जवाब नहीं दिया

कॉलों के बीच 30 सेकंड और emotional exhaustion

• पहले नर्सों को call के बाद patient records整理 करने या कठिन consultation से संभलने के लिए लगभग 10 मिनट मिलते थे
• अब call volume ज्यादा होने पर अगली call तक आम तौर पर 30 सेकंड से कम समय मिलता है
  • देर रात जैसे शांत समय में यह ज्यादा हो सकता है
  • खासकर कठिन consultation के बाद manager की अनुमति से अतिरिक्त समय मिल सकता है
• suicide risk, mental health crisis या end-of-life के करीब मरीज से बात करने के बाद भी लगभग समय नहीं मिलता, और चिंता है कि ऐसी pace मरीज की स्थिति के अहम संकेत छूट जाने जैसी गलतियों तक ले जा सकती है
• 4 विकसित देशों के call centers पर किए गए 2023 के अध्ययन ने पाया कि AI-based management और monitoring का इस्तेमाल करने वाले कर्मचारियों को calls के बीच कम समय और ज्यादा emotional exhaustion होता है
  • करीब आधे respondents ने कहा कि AI tools ने work stress बढ़ाया
  • उसी research team के पहले अध्ययन ने performance monitoring और high emotional exhaustion rates के बीच संबंध पाया
• Cornell University की Virginia Dolleghast के मुताबिक Kaiser का मामला उन industries की व्यापक प्रवृत्ति का हिस्सा है जहां जटिल और भावनात्मक समस्याएं हल करने वाले workers की लगातार निगरानी की जा रही है
  • healthcare में stress और burnout से हुई गलतियां सीधे लोगों की जान और स्वास्थ्य से जुड़ती हैं, इसलिए जोखिम ज्यादा है
  • जिन workers को काम की गति और timing तय करने की अधिक autonomy होती है, उनकी job satisfaction ज्यादा और absenteeism कम होता है

algorithms और healthcare workers का professional judgment

• National Nurses United ने 2024 में 2,000 से ज्यादा nurses पर survey किया, जिसमें आधे ने कहा कि उनके employers health records का विश्लेषण करने वाले algorithmic systems का उपयोग करते हैं
  • ऐसे systems मरीज की vulnerability या care time की जरूरत predict कर सकते हैं
  • दो-तिहाई respondents ने कहा कि उनका judgment कभी न कभी computer prediction से अलग रहा है
  • 10 में से 6 nurses को भरोसा नहीं कि employer AI इस्तेमाल करते समय patient safety को प्राथमिकता देगा
• Kaiser nurse Pa Vue call efficiency को लेकर managers से नियमित बातचीत करती हैं और हर महीने evaluation score पाती हैं
  • unusual symptoms और possible heart problem की चिंता में patient को बार-बार advice देने पर उनका score कम हुआ था
  • उन्होंने ऐसे cases भी देखे जहां software recommendation को professional judgment से reject करने या doctor से consult किए बिना patient appointment book करने पर score कम हुआ
• Vue मरीज के हित वाले AI के खिलाफ नहीं हैं, लेकिन मानती हैं कि empathy/tone monitoring productivity बढ़ाने और cost reduction पर केंद्रित है
• देशभर में AI adoption बढ़ने के साथ unions employers से मांग कर रही हैं कि नए contract negotiations में AI से पैदा मुद्दों को शामिल किया जाए
• Kaiser के Northern California mental health workers में से 2,400 भी contract negotiations में हैं
  • वे therapy session recordings को AI model training में इस्तेमाल करने और AI द्वारा jobs replace करने की संभावना को लेकर चिंतित हैं

Kaiser ने healthcare process में जो AI अपनाया

• Kaiser consultation center के अलावा healthcare process के कई क्षेत्रों में AI इस्तेमाल या test कर रहा है
  • electronic health records का विश्लेषण कर hospital patients में adverse event risk पहचानना
  • Preventus से patient discharge timing तय करना
  • doctors और therapists Abridge से in-person visits record कर audio को text में बदलते हैं
  • Bay Area facilities में अतिरिक्त care की जरूरत वाले patients के लिए AI remote monitoring test किया जा रहा है
• National Nurses United और CNA की Cathy Kennedy empathy-detection AI को nurses की autonomy सीमित करने और efficiency बढ़ाने की लगातार चल रही कोशिश मानती हैं
  • उनका कहना है कि AI nursing work को automate और fragment कर सकता है, इसलिए इसे develop और deploy करने वाली companies को deployment से पहले system की effectiveness और equity साबित करनी चाहिए
• Kaiser और nurses union के contract में new technology adoption की notice शामिल है, लेकिन CNA के मुताबिक कभी-कभी notice छूट जाती है
  • union leadership members से कहती है कि नई technology दिखे तो बताएं, और Kaiser में इस्तेमाल AI models की संख्या track कर रही है
  • इसी तरीके से empathy/tone AI का जवाब दिया गया और confused patients के bedside nurse को camera से replace करने वाला trial भी रुकवाया गया
• Coalition of Kaiser Permanente Unions भी workplace workers द्वारा AI adoption report करने के लिए “see something, say something” campaign चलाता है
  • union का कहना है कि management बहुत बार worker notification या input के बिना AI को workflow में डाल देता है
  • radiologic technologist Debru Carthan ने चिंता जताई कि voice tone detectors अलग cultural backgrounds वाली nurses के साथ discrimination कर सकते हैं

Kaiser का जवाब और labor negotiations

• Kaiser ने जवाब दिया कि वह Average Handle Time से consultation staff का performance evaluate नहीं करता और call time standards enforce नहीं करता
• उसने कहा कि call center tools quality assurance को support करते हैं और human review तथा supervision से गुजरते हैं
• AI use में patient safety, privacy और equity को प्राथमिकता दी जाती है, लेकिन security और operational reasons से internal technology systems की specific information सार्वजनिक नहीं की जाती
• Kaiser California का सबसे बड़ा private employer है, जो state के 90 लाख लोगों और अन्य क्षेत्रों के 30 लाख Americans को healthcare services देता है
• California Nurses Association जुलाई 2026 में Kaiser के साथ नए contract negotiations शुरू कर रही है, जिसमें call center nurses 1,000 सहित 25,000 लोग शामिल हैं
  • nurses ने March में AI के विरोध में एक दिन की strike की
  • पिछले साल autumn में भी AI use के खिलाफ picket protest किया
  • CNA ने negotiations से पहले AI-related detailed demands सार्वजनिक नहीं कीं

California में workplace AI regulation

• CNA समर्थित AB 1018 और SB 7 में employers को promotion, discipline, performance evaluation आदि में automated systems इस्तेमाल करने से पहले workers को सूचित करने की मांग थी
  • Governor Gavin Newsom ने SB 7 पर veto कर दिया
  • Kaiser सहित कंपनियों के मजबूत विरोध के बीच AB 1018 लगातार 3 साल पास होने में विफल रहा
• lawmakers ने SB 7 के नए version SB 947 को फिर पेश किया
• अलग bills निम्न regulations आगे बढ़ा रहे हैं
  • employer द्वारा AI से employee की emotional state predict करने पर प्रतिबंध
  • doctors और nurses को automated system की recommendation न मानने पर retaliation से सुरक्षा
  • healthcare providers को हर साल employees को automated systems की list देने की requirement
• CNA और California Labor Federation workplace AI use regulate करने वाले लगभग 6 bills का समर्थन करते हैं
• nurses चिंतित हैं कि monitoring और scoring, लोगों की देखभाल करने वाली nurses को checkbox भरने वाली automated machines में बदल देती है
  • calls record होती हैं, इसलिए patients से humor या personal empathy व्यक्त करना कठिन हो जाता है
  • तय guidelines में न आने वाले human interactions घटने से nursing work का essence और patients द्वारा अपेक्षित care प्रभावित होती है

[GN⁺]

Hacker News की राय

• पोस्ट पढ़कर लगता है कि ज़्यादातर असंतोष call center performance metrics और इलाज सीमित करने के दबाव को लेकर है; यह metrics के गलत इस्तेमाल की समस्या है, AI की नहीं। AI से empathy का आकलन 2024 का pilot project था और वह पहले ही बंद हो चुका है
  मेरी पत्नी Kaiser में medical LLM इस्तेमाल करती है, और real-time interpretation, clinical note summary, तथा comprehensive answer search की वजह से समय बचता है और बेहतर care देना संभव होता है। बुज़ुर्ग मरीज़ अक्सर Apple Watch के heart anomaly alerts लेकर आते हैं
  असर और जोखिम में बहुत अलग technologies को एक साथ एक नाम देने के बजाय, हर उपयोग के हिसाब से अलग मूल्यांकन करना चाहिए

  • इस तरह की समस्याएँ automation और computerization में बहुत पहले से आम रही हैं, और Ellen Ullman के उपन्यास Close to the Machine में इन्हें बहुत जीवंत ढंग से दिखाया गया है
    management और analysts “AI” लहर का इस्तेमाल करके सामान्य automation·computerization और layoffs तक आगे बढ़ा रहे हैं, इसलिए इसका विरोध करने वाले लोग भी उसी नाम का इस्तेमाल करें तो यह स्वाभाविक है
    ऐसी गलत भाषा चर्चा को धुंधला करती है, और मानवीय जवाबदेही छिपाने, autonomy के क्षरण, organizational flexibility में कमी, और deprofessionalization जैसे मुख्य मुद्दों पर गुस्सा और ऊर्जा केंद्रित करना कठिन बना देती है, लेकिन इसकी जिम्मेदारी AI आलोचकों से शुरू नहीं हुई
  • Apple Watch के heart anomaly alerts LLM नहीं हैं, बल्कि पारंपरिक statistical learning के ज्यादा करीब हैं। medical LLM नए tools हैं, लेकिन Apple Watch alerts को उसी category में नहीं रखना चाहिए
  • Apple Watch की heart anomaly detection को AI कहना मुश्किल है

• अगर कोई मशीन से यह आकलन कराना अच्छा विचार मानता है कि इंसान कितना empathetic है, तो उसे सत्ता नहीं मिलनी चाहिए

  • हफ्ते में 40 घंटे से ज्यादा के काम के प्रदर्शन को एक score में समेटना ही अजीब है, खासकर healthcare में तो और भी
    rewards और evaluation ज़रूरी हैं, लेकिन algorithm से निकले metrics के आधार पर प्रबंधन करना क्या सबसे अच्छा तरीका है, इस पर संदेह है; इस प्रक्रिया में empathy और common sense गायब होते जा रहे हैं
  • सत्ता क्षमता से नहीं बल्कि wealth extraction के आधार पर बनती है
  • healthcare के corporatization और hospitals के बड़े medical systems में अधिग्रहण के साथ ऐसी चीजें बढ़ रही हैं। नाममात्र में यह बड़े insurers का सामना करने के लिए किया जाता है, लेकिन नतीजा यह होता है कि विशाल organizations अपनी ताकत का दुरुपयोग करने लगते हैं
  • empathy evaluation project रद्द हो चुका है, और मूल मुद्दा ज़्यादातर workplace surveillance है

• मेरे primary care doctor ने कहा कि AI documentation tool से उन्हें बहुत राहत मिली। पहले उन्हें मरीज़ की बात सुनते हुए सब कुछ टाइप करना पड़ता था, लेकिन अब वे मरीज़ पर ध्यान देकर सुन सकते हैं और सिर्फ ज़रूरी बातें विस्तार से दर्ज कर सकते हैं, इसलिए stress काफी कम हो गया है

  • ऐसे tools से सहमत होने के लिए यह भरोसा होना चाहिए कि underlying software वास्तव में privacy की रक्षा करता है। बहुत सारे AI tools जल्दबाज़ी में बनाए जाते हैं, इसलिए पहले से ही खराब दिखने वाले hospital software पर भरोसा करना कठिन है
  • New Zealand में AI dictation इस्तेमाल हो रही है, और जिन doctors को शुरुआत में चिंता थी वे भी अब इसे पसंद करते हैं क्योंकि record करने का समय घटता है और वे मरीज़ की बात अधिक देर तक सुन पाते हैं
  • nursing और primary care की भूमिकाएँ काफी अलग हैं। AI cognitive burden घटा सकता है, लेकिन जिन लोगों को plans को वास्तव में लागू करना होता है, उनके लिए यह उल्टा stress बढ़ा सकता है
  • अगर repetitive और simple tasks का बोझ घटे तो clinicians सचमुच कठिन हिस्सों पर ध्यान दे सकते हैं
    लेकिन जैसे ही operational rules के जरिए care delivery को मजबूर किया जाता है और मरीज़ का इलाज कैसे करना है यह बताया जाता है, तीखा विरोध पैदा होता है; clinical judgment को AI से बदलने का विचार मूर्खतापूर्ण है

• workplace metrics और surveillance आसानी से दुष्प्रभाव पैदा करते हैं, लेकिन nursing work में भी दूसरे पेशों की तरह कुछ सुरक्षा-आधारित oversight की ज़रूरत होती है
  कई महिला doctors से यह सलाह सुनी है कि भर्ती के दौरान nurses के साथ interactions को लेकर सावधान रहें; सभी nurses समर्पित नहीं होतीं, और कुछ लापरवाही या बहानेबाज़ी से मरीज़ को नुकसान भी पहुँचा सकती हैं
  healthcare भी सिर्फ पवित्र सेवा नहीं बल्कि एक नौकरी है, इसलिए oversight ज़रूरी है, लेकिन अगर metrics corporate रूप से थोपे जाएँ तो Goodhart's law के अनुसार उनके गंभीर रूप से विकृत होने की संभावना बहुत अधिक है

  • यह भी ज़रूरी नहीं कि nurse Mother Teresa जैसी ही हो: https://allthatsinteresting.com/mother-teresa-saint

• यह अध्ययन nurses union contract negotiations से पहले आया है, इसलिए यह motivated reasoning जैसा लगता है। वास्तविक समस्याएँ बहुत हैं, लेकिन अध्ययन उन्हें ठीक से नहीं पकड़ता; अधिक प्रभावी आलोचना की ज़रूरत है
  AI का उपयोग चुनिंदा तौर पर healthcare services का अत्यधिक उपयोग करने वाले patients की पहचान करने और मूल कारणों को सुलझाकर उपयोग घटाने में किया जा सकता है। इससे patient care quality और medical staff की quality of life बेहतर हो सकती है, और preventive care की ज़रूरत वाले under-users तक पहुँचने के लिए समय भी मिल सकता है

• यह सोचकर हैरानी होती है कि Marshall Brain की Manna अब भी भविष्य की कहानी जैसी लगती है
  https://marshallbrain.com/manna

• nurses के patient के प्रति medical duty निभाने में workplace AI का हस्तक्षेप सिर्फ Kaiser तक सीमित नहीं है; UHC भी इसी तरह के AI surveillance tools लागू कर रहा है और इस्तेमाल कर रहा है

  • अधिनायकवादी व्यवस्थाओं की एक बड़ी कमजोरी यह थी कि तथ्य और गढ़ी हुई कथा में फर्क करने के लिए ज़रूरी surveillance cost scale के साथ बढ़ती जाती है
    ज़्यादातर nurses उन लोगों की देखभाल कर रही होती हैं जो अपनी ज़िंदगी के सबसे बुरे दिन से गुजर रहे होते हैं

• लेख में AI के उपयोग का ज़िक्र है, लेकिन AI से हुए ठोस नुकसान लगभग नहीं दिखाए गए। इसके उलट, Kaiser द्वारा care quality से ज्यादा cost cutting के लिए calls को optimize करने के उदाहरण ठोस हैं
  लंबी calls को समस्या मानना, या तीन से ज्यादा सलाह देने वाली nurses को दंडित करने वाली policies, care quality को गिरा सकती हैं

  • workplace surveillance और empathy का आकलन करने की कोशिश करने वाले machine learning tools सामने आ रहे हैं, लेकिन तकनीकी रूप से AI कहे जा सकने के बावजूद लेख में यह शब्द मुख्यतः buzzword की तरह इस्तेमाल हुआ है

• एक स्थानीय rural hospital में nurses पर tracking devices लगाए जाते हैं जो hospital के भीतर उनकी हर movement दर्ज करते हैं, और वे किसी एक जगह कितनी देर रहीं यह भी evaluation में जोड़ा जाता है
  कुछ साल पहले वे हर कमरे में 15~20 मिनट रुकती थीं, लेकिन अब बहुत तेजी से अंदर-बाहर होती हैं। patients की संख्या नहीं बढ़ी, बल्कि nurses की संख्या बढ़ी है, इसलिए मेरा मानना है कि गलत evaluation metrics ने care level को गिरा दिया है

  • healthcare utilization, unique patient count, और per-patient care volume — तीनों बढ़े हैं
    अमेरिका में भारी healthcare overuse लागत बढ़ा रहा है, लेकिन इसे ईमानदारी से स्वीकार करने की इच्छा नहीं दिखती

• Kaiser की service पहले से ही काफी खराब मानी जाती है, इसलिए यह बदलाव और भी चिंताजनक है