JanitorAI ने UK यूज़र्स के लिए सेवा ब्लॉक करने की घोषणा की - UK के Online Safety Act के नियमों की वजह से

 (blog.janitorai.com)
2 पॉइंट द्वारा GN⁺ 2025-07-22 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • व्यक्तिगत AI कैरेक्टर बनाकर उनसे बातचीत करने वाला chatbot प्लेटफ़ॉर्म JanitorAI ने आधिकारिक रूप से घोषणा की है कि वह 24 जुलाई से UK (England, Scotland, Wales, Northern Ireland) में अपनी सेवा ब्लॉक करेगा
  • इसकी वजह UK का Online Safety Act के तहत अत्यधिक regulation और ऊँचा कानूनी व वित्तीय बोझ है (अधिकतम 18 million pound का जुर्माना, और ऑपरेशन टीम पर आपराधिक दंड की संभावना)
  • कानूनी risk assessment, biometric verification system बनाना, लगातार legal review जैसी बड़े enterprise-स्तर की जिम्मेदारियाँ छोटे service providers पर भी लागू की जा रही हैं, जिससे छोटे प्लेटफ़ॉर्म के लिए वास्तविक entry barrier बन रहा है
  • JanitorAI ने UK कम्युनिटी से अलग होने को "टीम की सुरक्षा के लिए अनिवार्य निर्णय" बताया और कहा कि वह आगे नियमों का पालन करने के अलग-अलग तरीके (जैसे minor verification) तलाश रहा है
  • यूज़र्स को access block के अलावा कोई अलग नुकसान नहीं होगा; account delete नहीं किए जाएंगे, सिर्फ UK IP से access restricted होगा

सेवा ब्लॉक की घोषणा और पृष्ठभूमि

  • JanitorAI ने घोषणा की कि वह 24 जुलाई 2025, 23:59 (UTC) से UK के भीतर access block करेगा
  • केवल 4 दिन पहले की गई इस अचानक घोषणा के लिए उसने UK यूज़र्स से माफ़ी भी मांगी

UK Online Safety Act का प्रभाव

  • service team ने पहले Online Safety Act को गलत समझा था, लेकिन बाद में उसे पता चला कि यह सिर्फ content moderation का मामला नहीं है, बल्कि हर प्लेटफ़ॉर्म पर बड़े enterprise-स्तर के नियम लागू होते हैं
  • कानूनी risk assessment, biometric verification (उदाहरण: Reddit द्वारा अपनाया गया Persona - प्रति व्यक्ति 1.5 dollar), और लगातार legal review जैसी जिम्मेदारियाँ छोटे operators के लिए वहन करना लगभग असंभव हैं
  • नियमों का उल्लंघन होने पर अधिकतम 18 million pound का जुर्माना और ऑपरेशन टीम की आपराधिक जिम्मेदारी (जेल तक की संभावना) हो सकती है

पालन असंभवता और नीति की आलोचना

  • लगभग 250 पन्नों के कानून, Ofcom की लगभग 3,000 पन्नों की guidelines, और छोटे प्लेटफ़ॉर्म के लिए किसी exception clause की अनुपस्थिति के कारण वास्तविक रूप से compliance असंभव बताया गया है
  • आलोचना यह भी है कि UK सरकार innovation hub होने का दावा करती है, लेकिन व्यवहार में उसने ऐसी व्यवस्था बनाई है जिसमें Google जैसी बड़ी कंपनियाँ ही टिक सकती हैं

यूज़र्स पर प्रभाव और मार्गदर्शन

  • 24 जुलाई से UK IP से JanitorAI access करने पर block page दिखाई देगा
  • UK residents के accounts delete नहीं होंगे, सिर्फ access restriction लागू होगा
  • यदि यूज़र किसी workaround के ज़रिए access करते हैं, तो कानूनी जिम्मेदारी सिर्फ service provider (platform) पर लागू होगी, यूज़र पर कोई कानूनी सज़ा नहीं होगी

भविष्य की योजना और रुख

  • JanitorAI ने कहा कि उसने UK market को पूरी तरह नहीं छोड़ा है, और वह minor verification जैसे अतिरिक्त compliance तरीकों पर सक्रिय रूप से विचार कर रहा है
  • "कई innovative platforms भी यही निर्णय लेंगे" और "UK खुद को global innovation से अलग-थलग कर रहा है" जैसी चिंता जताते हुए, उसने यूज़र्स और सरकार से regulation की पुनर्समीक्षा के लिए petition में भाग लेने की अपील की
  • JanitorAI team ने इसे अस्थायी block उपाय बताया और कहा कि भविष्य में शर्तें पूरी होने पर सेवा फिर शुरू हो सकती है

गलतफ़हमियाँ दूर करना (FAQ)

  • UK यूज़र्स को JanitorAI इस्तेमाल करने पर दंड नहीं मिलेगा; आपराधिक सज़ा या जुर्माना सिर्फ platform operators पर लागू होता है
  • यह account deletion नहीं है, सिर्फ UK IP access block लागू होगा
  • यदि यूज़र किसी अन्य तरीके से access करते हैं, तो यह उनका व्यक्तिगत निर्णय होगा, और कानूनी नुकसान नहीं होगा — यह बात फिर दोहराई गई है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-07-22
Hacker News राय

  • मुझे यूरोप और UK के corporate environment की अच्छी समझ है। यह सिर्फ सरकार में नहीं, बल्कि बड़े बैंकों जैसी जगहों पर भी ऐसा ही है। वे दो तरह के कर्मचारियों को रखते हैं: एक वे जो असली काम करते हैं, और दूसरे वे जो risk management, compliance, security, regulation आदि (RCSR) के नाम पर जितनी हो सके उतनी बाधाएँ खड़ी करते हैं। RCSR से जुड़े लोगों की भर्ती tech कर्मचारियों से तीन गुना ज़्यादा होती है। ये लोग हज़ारों पन्नों की guidelines जारी करते हैं, जिससे काम आगे बढ़ाना लगभग असंभव हो जाता है। हमारी tech team भी database upgrade को test करने के लिए 4 महीने से approval का इंतज़ार कर रही है। senior management भी मध्ययुगीन चर्च के पुजारियों जैसी शक्ति रखने वाले RCSR के खिलाफ नहीं जा सकता। ये लोग हर उस चीज़ को risk मानते हैं जो चल रही हो, जबकि उनका कोई लक्ष्य वास्तविक परिणामों से जुड़ा नहीं होता। managers को लगता है कि RCSR control में मदद करता है, लेकिन असल में यह सिर्फ बेकार का काम बढ़ाता है और कंपनी अपने ही बनाए हुए दीवारों में फँस जाती है

    • RCSR निगरानी जितनी बढ़ती है, वास्तविक security उतनी ही खराब होती जाती है। policy teams को tech की सही समझ नहीं होती, इसलिए वे गैर-ज़रूरी चीज़ों पर अटक जाती हैं और development energy वहीं खर्च हो जाती है। उदाहरण के लिए, k8s में “environment variables में secrets store मत करो” वाली CIS guideline को follow करने के लिए हमारी team को 2 हफ्ते तक Helm charts बदलने पड़े। यह आगे भी maintenance का बोझ बना रहेगा, लेकिन इससे वास्तविक security benefit लगभग नहीं के बराबर है। इसी समय में हम network policies या CSP जैसे बुनियादी और सच में उपयोगी security measures implement कर सकते थे। process के ऊपरी स्तर पर सिर्फ risk और impact देखने वाले matrices हैं, लेकिन actual effort और outcome का कोई मूल्यांकन नहीं है। अंत में engineering नहीं, सिर्फ बेकार का काम बचता है

    • शायद ऐसा ही महसूस होता होगा। वास्तव में engineers अक्सर data के प्रति सुन्न हो जाते हैं। legal frameworks आमतौर पर वे लोग बनाते हैं जिन्हें ground reality की समझ नहीं होती, इसलिए कई कानून बहुत खराब होते हैं। लेकिन असली दुनिया में अगर आप कानून तोड़ते हैं, तो कोई भी कभी भी मुकदमा कर सकता है, इसलिए हमेशा सावधान रहना पड़ता है। खासकर US में, व्यक्ति ऐसे कानूनों के आधार पर सीधे lawsuit कर सकते हैं। बेशक, अधिकांश compliance requirements सिद्धांत रूप में बहुत जटिल नहीं होतीं, लेकिन वे उस software development culture से टकराती हैं जहाँ free data use डिफ़ॉल्ट माना जाता है, इसलिए वे और ज़्यादा झुंझलाहट पैदा करती हैं। पहले public blogs के समय यह कम गंभीर था, लेकिन अब किसी की medical information, financial information वगैरह भी इसमें शामिल हो सकती है, और गलती होने पर Cambridge Analytica जैसे मामले सामने आ सकते हैं, इसलिए ज़िम्मेदारी का भार कहीं ज़्यादा है। मुश्किल है, लेकिन engineers के रूप में हमें यह समझना चाहिए कि हम जो बनाते हैं उसके परिणाम और ज़िम्मेदारी क्या हैं। इसी समझ की कमी से industry में बड़े हादसे होते हैं

    • US में भी ऐसा ही है, बस थोड़ा कम गंभीर रूप में। कोई भी compliance विभाग से टकरा नहीं सकता। अगर lawsuit हो जाए, तो सवाल यही उठता है कि “compliance team की सलाह को नज़रअंदाज़ क्यों किया?” और इससे कंपनी की legal protection भी टूट सकती है। compliance team को business आगे बढ़ाने में दिलचस्पी नहीं होती, और दूसरी तरफ़ business teams को compliance से कोई खास incentive नहीं मिलता। अंत में lawsuit का risk हमेशा compliance को प्राथमिकता देने वाला बहुत सतर्क approach ही छोड़ता है

    • यह सिर्फ यूरोप की समस्या नहीं है। मैंने US में भी ऐसी ही कंपनियों में काम किया है। असली समस्या incentive structure है: हल्की-सी regulatory violation से भी कंपनी बंद हो सकती है, ऐसा डर होता है (management ऐसा मानता है), जबकि असली मिशन पूरा न करने पर कोई सज़ा नहीं होती। इसलिए कुछ भी न करना ही rational choice बन जाता है

    • आपने कहा कि database upgrade testing approval के लिए 4 महीने से इंतज़ार है, लेकिन मैं तो change के बाद production में deploy होने में एक दिन लगने पर भी शिकायत करता था। मेरी पिछली कंपनी में यह 4 घंटे में हो जाता था। अगर automation systems और processes सही बनाए जाएँ, तो ज़्यादातर changes को fast approval मिल सकता है। हर बार कोई issue या regulatory change आते ही “NO” कहने वाले लोगों की संख्या बढ़ा देना बहुत निराशाजनक organizational response है

  • online safety को लेकर UK का approach अवास्तविक है और मुझे पसंद नहीं है। कानून ऐसे लगते हैं जैसे उन्हें ऐसे लोगों ने लिखा हो जो ईमेल print करके पढ़ते हों। लेकिन यह भी ज़रूरी नहीं कि “small platform = exemption” अपने आप में तर्कसंगत हो। अगर उद्देश्य बच्चों की सुरक्षा है, तो platform के size से अलग, harmful content (जैसे suicide encouragement) समस्या है। बल्कि छोटे और कम-ज्ञात प्लेटफ़ॉर्म (जैसे किसी खास chan site) और भी खतरनाक हो सकते हैं

    • छोटे businesses पूरी छूट नहीं चाहते, वे सिर्फ इतना चाहते हैं कि regulation को बड़े enterprise हुए बिना भी लागू किया जा सके। उदाहरण के लिए plastic packaging tax में Amazon जैसी कंपनियाँ team बनाकर इसका सामना कर लेती हैं, लेकिन छोटे self-employed sellers सिर्फ administrative burden से ही नुकसान उठा सकते हैं। अगर एक निश्चित revenue से कम वाले businesses पर कम administrative burden वाला flat-fee structure लगाया जाए, तो कानून का मूल उद्देश्य भी बना रहेगा और वास्तविक नुकसान भी टाला जा सकेगा

    • समस्या कानून की efficiency है। अगर asteroid impact रोकने के लिए हर building पर 1 मीटर मोटी concrete roof अनिवार्य कर दी जाए, तो छोटे buildings पर भारी बोझ पड़ेगा और बड़े buildings पर शायद ही कोई असर होगा। चाहे यह अव्यावहारिक लगे, ऐसी regulation आखिरकार छोटे businesses को market से बाहर धकेलती है और capital वाले बड़े players को बचाए रखती है। जैसे-जैसे समाज का risk tolerance कम होता है, बड़े corporates के पक्ष में regulatory capture भी स्वाभाविक रूप से बढ़ता है

    • UK tech regulation व्यावहारिक रूप से कैसे काम करती है, इसका एक प्रतिनिधि उदाहरण है। हाल में Hacker News पर regulation की मांग करने वाली टिप्पणियाँ बढ़ती दिखी हैं। खासकर LLM में errors, copyright-जैसे output आदि पर लोगों की प्रतिक्रिया अक्सर “regulate करो”, “penalty दो” जैसी होती है। बहुत से लोग सोचते हैं कि regulation आने पर सिर्फ बड़ी कंपनियाँ punished होंगी और consumers को perfect products मिलेंगे। लेकिन वास्तविकता में कठोर regulation कंपनियों को उस देश से निकलने पर मजबूर करती है, और users VPN तक इस्तेमाल करके सेवा लेते रहते हैं। कंपनियाँ regulated देशों से बचती हैं या business बंद कर देती हैं। जब regulation के side effects की बात करो, तो लोग आसानी से कह देते हैं “छोटी कंपनियों को exemption दे देते।” tech regulation को जितना करीब से देखते हैं, उतना ही उससे नफ़रत होने लगती है

    • UK में online regulation का अंतिम लक्ष्य अक्सर ‘surveillance’ पर आकर खत्म होता है। data का उपयोग कैसे होगा, इस पर कोई खास सोच नहीं होती, लेकिन surveillance के लिए कानूनों को लेकर अजीब-सी जुनूनी कोशिश होती है

  • इस मामले की तरह https://www.thehamsterforum.com/threads/big-sad-forum-news-online-safety-act.2091/ जैसी घटनाएँ बार-बार हो रही हैं (संदर्भ के लिए, UK में सचमुच hamster lovers का forum भी अवैध हो गया)

    • thehamsterforum तक यह सुझाव दे रहा है कि सब लोग Instagram पर migrate हो जाएँ, इससे समझ आता है कि बड़ी कंपनियाँ ऐसे कानूनों का स्वागत क्यों करती हैं। जितनी regulation बढ़ती है, entry barrier उतना ऊँचा होता है, और in-house legal teams रखने वाली बड़ी कंपनियाँ ही service चलाने की पात्रता रखती हैं

    • मुझे जिज्ञासा है कि forum ने कौन-सी “नई चीज़” करने के बाद संचालन फिर शुरू किया। वे कहते हैं कि terms of service बदलकर और नए moderation tools लाकर compliance हासिल किया गया, लेकिन आख़िर उन्होंने किस निष्कर्ष पर पहुँचकर यह माना कि risk अब नहीं है, और क्या वे tools सच में पर्याप्त हैं, यह जानना दिलचस्प होगा

    • forum अभी भी चल रहा है, इसलिए यह सवाल उठता है कि क्या मूल पोस्ट ही गलत थी

    • शायद इसी वजह से Fleabag series का cafe ज़्यादा सामान्य महसूस होता है (हालाँकि guinea pig और hamster अलग हैं)

  • मुझे ठीक से पता नहीं यह कैसी service है, लेकिन site पर जाकर देखा तो यह 18+ service है, और वहाँ “child pornography, minors की sexual depiction, excessive gore, bestiality, sexual violence” जैसी चीज़ें prohibited बताई गई हैं। मैं Online Safety Act से 100% सहमत नहीं हूँ, लेकिन इस तरह की service के लिए अलग risk assessment की ज़रूरत ज़रूर लगती है

    • सिर्फ article पढ़कर लगा था कि मामला संदिग्ध है, लेकिन site को खुद देखने पर लगा कि description अधूरा है और कुछ risks हैं, इसलिए कुछ regulation की ज़रूरत हो सकती है। लेकिन मुझे यह जानना है कि क्या इसी तरह कम जोखिम वाली services भी ठीक वैसे ही प्रभावित हो रही हैं

    • मेरी समझ में, इस service का मुख्य feature users को minimally censored AI models देना है। illegal content (और यहाँ law का मतलब सिर्फ सरकारी कानून नहीं, बल्कि Visa/Mastercard जैसी payment companies के rules भी है) prohibited है, बाकी कुछ भी संभव है। adult market demand की वजह से sexual content ज़्यादा होगा, लेकिन यह service की प्रकृति नहीं बल्कि market demand की वजह से है

    • इनकी शिकायत risk assessment से नहीं, बल्कि उसके scope और अत्यधिक cost से है

  • वहाँ एक पंक्ति है: “site तक पहुँचने का तरीका ढूँढना आखिरकार user की ज़िम्मेदारी है, और user को सज़ा नहीं मिलेगी।” अगर operator सच में legal liability को लेकर चिंतित है, तो उसे यह नहीं लिखना चाहिए था; यह उस post और उनकी compliance efforts की विश्वसनीयता कम करता है

    • VPN इस्तेमाल करने वालों को रोकना व्यावहारिक रूप से लगभग असंभव है। जब तक सरकार सभी ISPs को control न करे, और UK के लिए भी यह इतना आसान नहीं होगा। किसी सामान्य देश में site operator को इसके लिए ज़िम्मेदार नहीं ठहराया जा सकता

    • operator ने साफ़ कहा है कि उनका लक्ष्य UK market में दोबारा प्रवेश करना और पूरी compliance हासिल करना है। उन्होंने सिर्फ regulation के scope का गलत आकलन करके UK में service block की है; यह एक अस्थायी कदम है

  • यह बहुत निराशाजनक है कि कानून और rules provider के size को ध्यान में नहीं रखते। वे हमेशा बड़े businesses को villain की तरह दिखाते हैं और “बच्चों की रक्षा करनी है” जैसे नारे लगाकर लोकप्रियता बटोरते हैं, लेकिन असल में फायदा बड़ी कंपनियों को होता है। वही legal advice और बाकी सारे compliance costs उठा सकती हैं, इसलिए पूरा market उन्हीं के हाथ में चला जाता है। AI Act भी ऐसा ही है, और इससे SMEs तथा consumers दोनों को नुकसान होने की संभावना है

    • व्यवहार में यह कानून provider size को ध्यान में रखता है, लेकिन समस्या यह है कि baseline ही बड़े businesses के हिसाब से तय है। यह संरचना लंबे समय से बड़ी कंपनियों की lobbying के तहत बनी है। UK आधिकारिक तौर पर कम भ्रष्ट माना जाता है, लेकिन जब देखते हैं कि फैसले वास्तव में कैसे होते हैं, तो corruption काफ़ी आम लगती है। इस कानून को जनता का खास समर्थन भी नहीं है। हमेशा media campaigns के ज़रिए बच्चों का नाम लिया जाता है, लेकिन कानून का वास्तविक content अपने घोषित उद्देश्य से काफ़ी दूर है। चुनाव होते हैं, लेकिन policies नहीं बदलतीं

    • यह regulatory capture है। छोटे businesses पर इसका प्रभाव भी एक intended outcome है

  • संबंधित कानून की व्याख्या यहाँ है: https://www.gov.uk/government/publications/online-safety-act-explainer/online-safety-act-explainer#who-the-act-applies-to. मेरी reading के अनुसार Amazon को अपनी कुल book inventory के 80% से अधिक हिस्से पर age verification लगानी होगी, और बाकी 20% के लिए भी “children के लिए age-appropriate online experience” जैसी बहुत व्यापक परिभाषा के कारण liability होगी। janitorai ने जैसा कहा, यह कानून उन पर लागू होता है और वे जो content बनाते हैं वह भी इसके दायरे में आता है। UK market access बंद करना शायद सबसे अच्छा response है। वैसे, लगता है कि यह कानून primary websites पर लागू नहीं होता अगर visitors के बीच interaction न हो। उदाहरण के लिए, बिना comments वाला blog ठीक है

  • मैंने कानून को मोटे तौर पर समझते हुए सोचा था कि यह तभी लागू होगा जब कुछ million UK users हों https://www.onlinesafetyact.net/analysis/categorisation-of-services-in-the-online-safety-act. मुझे समझ नहीं आ रहा कि यह site वास्तव में इसके दायरे में आती है या मैंने पूरी तरह गलत समझा है (मैं वकील नहीं हूँ)

    • वह threshold अतिरिक्त requirements के लिए है। सभी पर (जब तक वे किसी विशेष exemption में न आते हों) “user protection duties” लागू होती हैं। सुनने में ही जटिल और महँगी administrative requirements का अंबार लगता है। और यह तय करने के लिए कि आप exempt हैं या नहीं, lawyer की फीस भी देनी पड़ सकती है। कानून खुद अस्पष्ट है और उसमें unexpected grey areas बहुत हैं। यह कोई “ruling” नहीं, बल्कि कानून और उसके implementation regulations हैं। संबंधित PDF: https://www.ofcom.org.uk/siteassets/resources/documents/consultations/category-1-10-weeks/263963-categorisation-research-and-advice/categorisation-research-and-advice.pdf

    • Ofcom की service applicability checklist ऐसे thresholds का उपयोग नहीं करती; अगर एक भी paying UK customer है तो यह लागू हो सकता है https://ofcomlive.my.salesforce-sites.com/formentry/RegulationChecker

    • सिर्फ इसलिए कि “हमारे देश के लोग आपकी site पर आए”, कोई देश यह मान ले कि वह उस server (विदेश में hosted), और operator (विदेश में रहने वाला) पर भी jurisdiction का दावा कर सकता है और criminal punishment तक दे सकता है — यह विचार ही भारी लगता है

    • आपका source यह नहीं बताता कि कानून वास्तव में कैसे लागू होता है, बल्कि यह 2024 तक के proposed matters के बारे में है

    • सैकड़ों पन्नों वाले विशाल कानूनों में हमेशा बहुत सारे loopholes और blind spots होते हैं। हाल के वर्षों में UK ऐसा देश बन गया है जहाँ online “crime” के लिए लोगों को वास्तव में गिरफ्तार किया जाता है, इसलिए इस स्तर के मूर्खतापूर्ण कानून निकल आना अब आश्चर्यजनक नहीं रहा

  • ऐसी चीज़ों की वजह से कभी-कभी लगता है कि पूरा internet Kessler Syndrome (space debris domino effect) जैसी स्थिति की ओर बढ़ रहा है। US में भी 50 states अलग-अलग तरीके से AI regulate करना चाहती हैं; OBBB ने मूल रूप से 10 साल तक इसे control करने की कोशिश की थी, लेकिन वह विफल रहा। अब हर state अपने नियम बना सकती है। दुनिया भर की इतनी अलग-अलग regulations के अनुरूप रहना अब लगभग असंभव हो रहा है

    • अगर operating cost बहुत बढ़ गई, तो अंत में दुनिया भर में सिर्फ कुछ बहुत बड़ी sites बचेंगी, और region-locked छोटे local sites सैकड़ों की संख्या में किसी तरह जीवित रहेंगी। cyberspace भी अंततः स्वतंत्र नहीं रह सकता, क्योंकि वह पैसा कमाता है और real-world systems जैसे identity verification पर निर्भर करता है https://www.eff.org/cyberspace-independence

    • internet की Balkanization आखिरकार एक अनिवार्य निष्कर्ष है। उसका विकल्प यह होगा कि nation-states आज की essential infrastructure sovereignty विदेशों को सौंप दें, और सरकारें ऐसा नहीं करेंगी। जब internet सिर्फ एक hobby था तब यह चल सकता था, लेकिन अब यह जीवन का बुनियादी ढाँचा है, इसलिए foreign governments और big tech को infrastructure sovereignty सौंपना अब स्वीकार्य नहीं है

    • जब भी “internet balkanization” जैसी बात mainstream discussion में आती है, मैं उल्टा इस प्रवृत्ति के पक्ष में हो जाता हूँ। मुझे लगता है कि इस तरह की instant global communication की ज़िम्मेदारी उठाने के लिए मानवता अभी तैयार नहीं है; इसे तभी स्वीकार करना चाहिए जब हम इसके लिए सक्षम हों

  • मुझे भी शायद Marginalia Search इस्तेमाल करते समय UK visitors को block करना पड़ेगा। एक solo developer के रूप में मैं ये सारे legal requirements नहीं संभाल सकता :-/

    • वैसे status page पर जाओ तो service healthy दिखती है, लेकिन “unavailable” दिखाया जाता है। इस तरह का outage तो ठीक है! https://status.marginalia.nu