Claude Code अनुरोधों में steganography संकेत डाल रहा है

 (thereallo.dev)
1 पॉइंट द्वारा GN⁺ 3 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Claude Code 2.1.196 binary में एक function शामिल है जो system prompt की current date वाली लाइन को बदलकर अनुरोध के अंदर classification signal छिपाता है
  • Trigger ANTHROPIC_BASE_URL है; अगर यह आधिकारिक api.anthropic.com नहीं है या कोई value set है, तो यह hostname और timezone जांचकर apostrophe और date separator बदल देता है
  • Hostname की तुलना base64 string को XOR key 91 से decode की गई domain और keyword list से की जाती है, जिसमें deepseek, zhipu, moonshot, baidu.com, bytedance.net, proxyai.com जैसे entries शामिल हैं
  • अगर आधिकारिक Anthropic API endpoint इस्तेमाल हो रहा हो या ANTHROPIC_BASE_URL न हो, तो early return हो जाता है और सामान्य Today's date is 2026-06-30. format बना रहता है
  • इसे पक्का malicious feature नहीं कहा जा सकता, लेकिन filesystem और shell access रखने वाला developer tool अगर अदृश्य Unicode marks के जरिए classification जानकारी छिपाए, तो भरोसा डगमगाता है

Date sentence में छिपने वाले marker

  • Claude Code binary में एक function है जो system prompt में जाने वाली current date string को बदलता है
  • Default sentence इस रूप में होती है
    • Today's date is 2026-06-30.
  • जिन दो जगहों में बदलाव हो सकता है
    • Today's का apostrophe
    • Date separator: - से / में बदलाव
  • Resulting sentence ऊपर से सामान्य date notice जैसी दिखती है, लेकिन raw request में छिपे हुए marker शामिल होते हैं
  • Plain text जैसी दिखने वाली जगह में data छिपाने की technique होने के कारण यह prompt steganography है

ANTHROPIC_BASE_URL जो conditional path चालू करता है

  • Trigger Claude Code का API default URL override, ANTHROPIC_BASE_URL, है
  • अगर ANTHROPIC_BASE_URL नहीं है, तो function early return करता है
  • अगर value है लेकिन host api.anthropic.com है, तो भी वही path लेकर बाहर निकल जाता है
  • Early return न होने पर ही ये conditions check की जाती हैं
    • System timezone Asia/Shanghai या Asia/Urumqi है या नहीं
    • API default URL का hostname decoded domain list से match करता है या उसका subdomain है या नहीं
    • Hostname में किसी खास AI lab keyword का होना

Date और apostrophe में encode होने वाली जानकारी

  • अगर timezone Asia/Shanghai या Asia/Urumqi है, तो date format बदलता है
    • 2026-06-30 → 2026/06/30
  • Hostname classification result के अनुसार Today's का apostrophe बदलता है
    • सामान्य: '
    • ज्ञात domain: \u2019
    • Lab keyword: \u02BC
    • ज्ञात domain और lab keyword दोनों: \u02B9
  • ये Unicode characters ज्यादातर monospace fonts में बहुत कम visual difference रखते हैं, इसलिए पहचानना मुश्किल है

छिपी हुई domain और keyword list

  • Domain और keyword list base64 string के रूप में stored है और XOR key 91 से decode होती है
  • Decoded lab keyword list इस प्रकार है
    • deepseek
    • moonshot
    • minimax
    • xaminim
    • zhipu
    • bigmodel
    • baichuan
    • stepfun
    • 01ai
    • dashscope
    • volces
  • Decoded domain list और बड़ी है, और इसमें चीनी company domains, AI company domains, proxy, reseller और gateway domains शामिल हैं
  • Example entries इस प्रकार हैं
    • cn
    • baidu.com
    • alibaba-inc.com
    • alipay.com
    • antgroup-inc.cn
    • bytedance.net
    • kuaishou.com
    • xiaohongshu.com
    • jd.com
    • bilibili.co
    • iflytek.com
    • stepfun-inc.com
    • moonshot.ai
    • anyrouter.top
    • claude-code-hub.app
    • claude-opus.top
    • openclaude.me
    • proxyai.com
    • yunwu.ai
    • zenmux.ai
  • पूरी list cc-domains.js में देखी जा सकती है

System context में जाने वाली जगह

  • Date function का result agent context बनाते समय currentDate value के रूप में जाता है
  • उसी context में conditions के आधार पर user email और linked project जानकारी भी शामिल हो सकती है
  • इसलिए marker model को भेजे जाने वाले system context का हिस्सा बन जाते हैं
  • यह संभावना भी बनी रहती है कि Anthropic backend इस value को parse करे

Confirmed install environment

  • Verified Claude Code install binary Anthropic signature के साथ है
    • Identifier=com.anthropic.claude-code
    • TeamIdentifier=Q6L2SF6YDW
    • Timestamp=Jun 29, 2026
    • SHA256=6fc6e61ab7582c2bf241225ff90d9f79e91d69380cb9589fc9dedd3a30070f5a
  • जांच के समय shell में ANTHROPIC_BASE_URL set नहीं था, और timezone Asia/Hong_Kong था
  • इस environment में सामान्य apostrophe और YYYY-MM-DD date string generate हुई

प्रभावित use cases और limits

  • ज्यादातर users के लिए यह path inactive रहने की संभावना है
  • अगर आधिकारिक Anthropic API endpoint इस्तेमाल हो या ANTHROPIC_BASE_URL न हो, तो date prompt सामान्य रूप में बना रहता है
  • दिलचस्प cases वे हैं जहां Claude Code को custom base URL से route किया जाता है
    • Internal gateway
    • Local proxy
    • Model router
    • Reseller
    • Research environment
  • इस case में Claude Code hostname को classify करता है और उसके result को prompt में encode करता है
  • Bypass method सरल है
    • Hostname बदलना
    • Timezone बदलना
    • Binary patch
    • Process wrapping
  • गंभीर attacker इस signal को निष्क्रिय कर सकते हैं, इसलिए अजीब लेकिन legitimate configuration इस्तेमाल करने वाले सामान्य developers fingerprinting के आसान target बन जाते हैं

Trust को हिलाने वाला implementation तरीका

  • संभव है Anthropic का उद्देश्य API resellers, unauthorized Claude Code gateways, या model “distillation attack” pipelines का पता लगाना हो
  • अगर custom ANTHROPIC_BASE_URL किसी known reseller domain की ओर point करता है या hostname में deepseek, zhipu हो, तो इसे detection signal की तरह इस्तेमाल किया जा सकता है
  • समस्या implementation method में है
    • System prompt को चुपचाप बदलना
    • सामान्य English sentence जैसी दिखने वाली जगह में proxy/gateway classification जानकारी encode करना
    • Domain list को XOR और base64 के पीछे छिपाना
  • Coding agents local machine पर code review, command execution, package installation, file editing और commit push तक कर सकते हैं
  • Custom API gateway detect करने के लिए documented explicit telemetry fields, public policy, release notes जैसे तरीके भी संभव हैं
  • Filesystem और shell access रखने वाला tool अगर अदृश्य prompt punctuation में classification bits छिपाए, तो उसके दूसरे privacy claims पर भी भरोसा करना मुश्किल हो जाता है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 3 시간 전
Hacker News की रायें

  • कुछ प्रतिक्रियाएँ इस बात की गंभीरता को कम करके दिखा रही हैं कि service provider ने ग्राहक की मशीनों पर deploy किए गए tool के असल काम को पारदर्शी तरीके से सार्वजनिक नहीं किया
    business need थी, इसका मतलब यह नहीं कि ईमानदार disclosure न किया जाए
    अगर ईमानदारी से disclose करने पर उनका solution बेकार हो जाता है, तो यह मेरी समस्या नहीं है; बल्कि अगर उन्हें यह ठीक लगा, तो मुझे शक होगा कि मेरी मशीन से वे व्यक्तिगत पहचान योग्य जानकारी जैसी और क्या चीजें collect कर रहे होंगे
    निंदक नज़रिये से देखें तो यह इस मामले पर judgment से ज्यादा AI/Anthropic/अमेरिका वगैरह को लेकर भावनाएँ comments के माहौल में दिखने जैसा लगता है

    • पहले यह “चीनी” होंगे, फिर “cyber” capabilities इस्तेमाल करने वाले लोग, “jailbreak” करने वाले लोग, “Dario के खिलाफ” लोग, या वे लोग जिनको वे आपत्तिजनक मानते हैं, इस दायरे में आ जाएँगे
    • आप Anthropic की कार्रवाई को बुरा मानें या नहीं, Anthropic काफी समय से बहुत जोर-शोर से कह रहा है कि विदेशी research labs उसके models को distill कर रहे हैं
      यह उस तथ्य को उजागर करने का स्वाभाविक countermeasure लगता है
    • क्या यह बस environment variables के आधार पर requests में watermark डालने और किसी खास time zone में होने पर string format बदलने जैसा ही नहीं है? क्या मैं कुछ miss कर रहा हूँ? समझ नहीं आता कि इसमें इतना बड़ा firestorm बनने वाली बात कहाँ है
    • अगर “provider की business need ऐसे व्यवहार की मांग करती है” सच है, तो यह उस business के अनुचित business होने की एक और वजह बन जाती है
    • political stance तो दिखती है, लेकिन लगता है कि cloud service कैसे काम करती है, इसकी बिल्कुल समझ नहीं है

  • value judgment को अलग रखें, तो यह थोड़ा हैरान करता है कि इसे इतनी लापरवाही से implement किया गया
    शायद reverse engineering से detect होने की संभावना कम रखते हुए भी वही प्रभाव हासिल किया जा सकता था
    यह क्षेत्र Underhanded C Contest से बने “underhanded code” के नाम से जाना जाता है: https://www.underhanded-c.org
    यह बहुत ज्यादा मशहूर “कला” नहीं है, और वजह साफ है। ऐसे लक्ष्य हासिल करने के कहीं ज्यादा smart तरीके हैं
    एक obvious तरीका है कि client से server पर ज्यादा चीजें shift कर दी जाएँ, और दूसरा यह कि plausibly deniable client code को कहीं ज्यादा harmless दिखने वाले तरीके से लिखा जाए
    जोड़े गए हिस्सों में से कुछ सिर्फ client पर ही संभव हैं, लेकिन कुछ को shift किया जा सकता था, और जिन हिस्सों के लिए client जरूरी था उन्हें भी ज्यादा subtle और plausible बनाया जा सकता था
    मुमकिन है कि JS bundles की इतनी review होती है कि उन्हें पता था आखिरकार यह मिल जाएगा और report होगा, इसलिए उन्होंने इसे ज्यादा छिपा हुआ और deceptive नहीं बनाया; फिर भी यह थोड़ा बेपरवाह लगता है

    • हो सकता है कोई और गहरी detection method अलग से हो, और यह कम sophisticated malicious actors को बड़ी संख्या में पकड़ने वाली सस्ती और आसान first-line defense हो, इसलिए इसे हटाया नहीं गया
      सच में ठान चुका कोई बड़ा AI lab model distill कर रहा हो तो उसे रोकना मुश्किल होगा, लेकिन A) जल्दी पैसा कमाने वाले घटिया token resellers में से कई को रोका जा सकता है और B) ऐसे किसी बड़े lab में कोई व्यक्ति workaround लगाना भूल जाए और खुद को expose कर दे
      इसे वैसे देखता हूँ जैसे आँगन में बहुत पक्षी होने पर plastic owl खरीदना। owl ज्यादातर पक्षियों को भगा देता है, सबको नहीं; इसलिए अगर आप ultrasonic device भी खरीदें, तब भी owl हटाने की कोई वजह नहीं
      क्योंकि अब defense की एक नहीं, दो layers हो जाती हैं
    • Claude के vibe-coded होने को देखते हुए यह लापरवाही बिल्कुल हैरान नहीं करती
      Anthropic model खराब है इसलिए नहीं, बल्कि इसलिए कि Claude रोज कोई नई और परेशान करने वाली चीज तोड़ता लगता है, इसलिए मैं Codex और OpenCode की तरफ ज्यादा shift हो रहा हूँ
    • Claude Code जोरों से अधकचरा काम maximize कर रहा है, और आप उनके “judgment” पर विचार कर रहे हैं :-)
    • approach कहीं ज्यादा interesting हो सकती थी
      Large Language Models token distribution का इस्तेमाल करके ऐसा steganotext बना सकते हैं जो plausible prose जैसा पढ़े, लेकिन payload में decode हो¹
      ¹ https://github.com/hodgesmr/calgacus-mlx
    • पहले मैं सहमत था कि यह एक लापरवाह implementation है जो जल्दी पकड़ा जाना तय था, लेकिन एक और संभावना भी है
      Anthropic ने शायद इसे proxy resellers के खिलाफ continuous detection system के रूप में नहीं, बल्कि किसी खास समय पर यह पता लगाने के लिए sampling system के रूप में implement किया हो कि अभी कहाँ और किस context में proxy reselling हो रही है
      कभी न कभी यह पकड़ा जाएगा, लेकिन उससे पहले Anthropic को useful snapshot data मिल सकता है

  • इस blog post का निष्कर्ष थोड़ा overreacting है
    इस steganography का इरादा बहुत साफ है: उन चीनी कंपनियों के usage की पहचान करना जो model distillation कर रही हो सकती हैं
    यह किसी भी रूप में “सामान्य developers को punish” कैसे करता है, यह स्पष्ट नहीं है

    • अगर आप वैध वजहों से Claude को proxy करना चाहते हैं, तो response quality घट सकती है
      वैध वजहों में यह analyze करना कि Claude Code Anthropic को क्या भेजता है ताकि verify हो सके कि data leak नहीं है, prompt difficulty के आधार पर model को dynamically चुनना या किसी खास model को force करना, project के हिसाब से कई Anthropic accounts के बीच switch करना, credentials·व्यक्तिगत पहचान योग्य जानकारी·company secrets को filter करना वगैरह शामिल हैं
    • अगर user machine पर चलने वाला software चुपके से malware जैसी steganographic data exfiltration करता है, तो यह trust का मामला है
    • कोई चीनी कंपनी जो product distill करना चाहती है, वह Claude Code क्यों इस्तेमाल करेगी?
    • Fable में prompt/session के आधार पर चुपचाप quality घटाने के समय की तरह false positives हम पहले ही देख चुके हैं
    • अच्छा लक्ष्य भी malicious या reckless execution को justify नहीं कर सकता
      ends हमेशा means को justify नहीं करते
      इस बार नुकसान हुआ हो या नहीं, यह trust और autonomy का उल्लंघन है
      अगर किसी ने चोरी-छिपे rootkit install किया, तो गुस्सा आना स्वाभाविक है, भले ही अभी उसमें सिर्फ ऐसा code हो जो सार्वजनिक दुश्मन नंबर 1 को detect कर चुगली करने की कोशिश करता हो

  • Codex CLI, Claude Code के उलट, free open source software है, इसलिए उसके ऐसा करने की संभावना कम है, और Claude Code तथा कुल मिलाकर Claude से बचने की एक और वजह मिल गई है
    उम्मीद है Codex में कई लोग ऐसी malicious behavior पर नजर रखेंगे

    • सच में जानना चाहता हूं: अगर मैं subscription fee दे रहा हूं और terms का पालन कर रहा हूं, तो मुझे क्यों परवाह करनी चाहिए?
      Privacy policy या business practices को लेकर मैं बहुत skeptical हूं, लेकिन जानना चाहता हूं कि customer के रूप में मुझे इससे क्या नुकसान है
      अगर यह subsidies बंद होने के समय को टालने में मदद करता है, तो customer के नजरिए से यह उल्टा फायदेमंद लगता है
      हालांकि अगर ये scammy proxies चीनी labs को पकड़ने में मदद कर रही हैं, तो लंबे समय में इससे मुझे अपने hardware पर पूरी तरह अपने control वाला high-quality personal AI मिलने में फायदा भी हो सकता है
      इसका समर्थन करने का मतलब नहीं है, लेकिन मैं मानता हूं कि ऐसा incentive मौजूद है
    • क्या यह “malicious” है? Terms तोड़ने वाले users को छांटने और normal users के लिए बाधा न बनने का यह अच्छा तरीका लगता है
      Free open source client होने का मतलब बस इतना है कि और ज्यादा analysis server पर छिपाकर किया जाएगा
    • मेरी जानकारी में इसे GitHub ने distribute और sign किया है
      deterministic build नहीं है, लेकिन फिर भी इसके असली repository से आने की थोड़ी provenance guarantee तो है
    • क्या Claude Code leak नहीं हुआ था? फिर यह पहले क्यों नहीं पकड़ा गया?

  • “अगर client custom API gateway detect करना चाहता है, तो उसे बस साफ-साफ कहना चाहिए। documented explicit telemetry field भेजे, policy को visible बनाए, और release notes में behavior लिख दे” वाली प्रतिक्रिया बहुत naive लगती है
    अगर client gateway को explicit telemetry field भेजे, तो malicious gateway उस field को आम traffic जैसा दिखाने के लिए बहुत आसानी से हटा या modify कर सकता है
    steganography-style cat-and-mouse game की value इसलिए है क्योंकि gateway के लिए इस्तेमाल हो रहे सभी fingerprinting mechanisms को लगातार reverse-engineer करना कहीं ज्यादा मुश्किल होता है
    बेशक कुछ malicious gateways catch up करते रहेंगे, लेकिन सभी हमेशा ऐसा नहीं कर पाएंगे

    • सच में, लेखक ने शायद client abuse से कभी deal नहीं किया है
      अगर आप चीनी distillation lab नहीं हैं, तो यह पूरी तरह non-issue है
    • पकड़े जाने से पहले कम-से-कम कुछ समय तक यह KYC से बेहतर काम कर सकता है
      क्योंकि KYC bypass services का international market बहुत विकसित है

  • सिर्फ AI tools ही नहीं, development tools भी sandbox में चलने चाहिए
    उदाहरण के लिए Python या JavaScript package repositories में कुछ भी डाला जा सकता है, antivirus companies के साथ कोई contract नहीं है और भरोसेमंद public verification भी नहीं है, इसलिए उन्हें sandbox के बिना नहीं चलाना चाहिए
    सोचिए, किसी भी देश का anonymous user कुछ भी upload कर सकता है, और लाखों developers उसे अपने computer पर चला सकते हैं
    IDE, IDE plugins, LSP servers, AI plugins—सबको sandbox में डालना चाहिए
    ज्यादातर को antivirus companies check नहीं करतीं, और उन्हें बिना restriction के नहीं चलाना चाहिए
    ऊपर से यह theorem पहले से है कि कोई भी antivirus code की safety की 100% guarantee नहीं दे सकता
    दिलचस्प बात यह है कि pip documentation अपने “Getting Started” docs में sandbox या malware के विषय का बिल्कुल जिक्र नहीं करती, मानो वे ऐसे शानदार संसार में रहते हों जहां malicious लोग, companies या nations नहीं हैं
    उम्मीद है कम-से-कम HN पर कोई ऐसी fantasy में नहीं रहता
    IDE, LSP, AI tools इस्तेमाल करने के लिए पहले अपना sandbox system लिखना पड़ता है, और Linux सिर्फ basic primitives देता है इसलिए इसमें काफी समय लगता है
    उदाहरण के लिए root privileges के बिना सभी network traffic control करने के लिए आपको user namespace बनाकर root privileges पाने होंगे, network namespace बनाना होगा, namespace के अंदर चलने वाला और data को बाहर के “supervisor” program तक pipe करने वाला “traffic collector” लिखना होगा, और supervisor program को traffic destination तक route करना होगा
    Root privileges के बिना traffic को सिर्फ filter और inspect करने के लिए भी Linux बहुत ज्यादा काम मांगता है
    username या hostname में भी कोई जानकारी नहीं छोड़नी चाहिए। जैसा कि यह लेख साबित करता है, वह जानकारी आपके खिलाफ इस्तेमाल की जाएगी

  • Anthropic ने अब तक जो किया है, उसका सार यह है: सरकार के कहने से कई साल पहले ही “all humanity” के गलत पक्ष में मौजूद लोगों को filter किया, models को मनमाने तरीकों से downgrade किया और बाद में “sorry, but not really sorry” जैसे अंदाज में जवाब दिया, और responses को चुपके से बदलकर user को गलत results देने के लिए actively sabotage किया
    आगे क्या उम्मीद करनी चाहिए? जिन users को वे पसंद नहीं करते उनकी machines को brick करने वाला malware? इसे और ज्यादा नापसंद लोगों तक expand करना?
    Dario Amodei का “all humanity” के लिए utopian future vision कैसे सामने आएगा, यह अभी से दिखने लगा है

    • HN की overreaction हास्यास्पद है
      अगर इस नजरिए से देखें कि ये लोग सचमुच मानते हैं कि वे superintelligence बना रहे हैं, तो सब समझ आता है
      AI safety camp के भारी बहुमत ने इस समस्या पर आम HN armchair commentators से कहीं ज्यादा जीवन और समय लगाया है, और वे मानते हैं कि China को पहले superintelligence तक नहीं पहुंचने देना चाहिए, superintelligence access सिर्फ verified good actors को मिलना चाहिए, और इस लक्ष्य में failure मानवता के extinction वाली race है
      अगर “हम सोचते हैं कि हम superintelligence बना रहे हैं” वाली बात को झूठ न माना जाए, तो इनके लगभग सभी actions समझ में आते हैं

  • मैंने इसी तरह का system prompt injection mechanism यहां report किया था
    https://news.ycombinator.com/item?id=48259288
    https://github.com/anthropics/claude-code/issues/62061
    उम्मीद के मुताबिक वे इसके नए और “creative” उपयोग खोजते ही जा रहे हैं
    मैं patch के जरिए इसे हटाता रहूंगा

    • यह करने के लिए धन्यवाद
      मुझे पता नहीं था कि system prompt “abstractions से बचें; helper एक से बेहतर समान code की तीन lines हैं” जैसी बातें inject कर रहा है
      मैं इससे सहमत नहीं हूं
      क्या CLAUDE.md में instructions डालकर इस तरह के prompts को override करने का कोई तरीका है? शायद system prompt को सीधे नहीं बदल सकते, लेकिन क्या CLAUDE.md के पास final say नहीं होना चाहिए?

  • लेखक जिस privacy concern पर ज़ोर देना चाहते हैं, वह मुझे ठीक से समझ नहीं आ रहा
    ज़ाहिर है, अगर आप कोई “गुप्त” काम करते पकड़े जाते हैं तो हमेशा शक पैदा होगा, लेकिन उल्टा, अगर यह सार्वजनिक कर दिया जाए कि ऐसा “security feature” कैसे काम करता है, तो उसे implement करने का मतलब ही नहीं रह जाता
    और मेरे हिसाब से steganography, security through obscurity पर निर्भर नहीं है
    जैसे RSA में private key को private रखना security through obscurity नहीं है, वैसे ही जिस चीज़ को private रहना चाहिए उसे private रखना security model का हिस्सा है

    • Anthropic का अपने competitors के model distillation को धीमा करने का फैसला उनके विवेक पर है
      लेकिन उन्होंने इसे मेरे access patterns को पहले disclose किए बिना fingerprinting करने के तरीके से implement करके गड़बड़ कर दी
      यह सिर्फ़ “गुप्त” नहीं है; यह सीधे-सीधे छिपा हुआ, बेईमान और अनैतिक है
      यह बात भी ज़्यादा तसल्ली नहीं देती कि यह मामला harmless है। कौन guarantee देता है कि वे personally identifiable information collect नहीं कर रहे?
      उनका व्यवहार business के लिहाज़ से समझ में आता है, यह कोई वजह नहीं कि लोग deceptive और customer-hostile फैसले स्वीकार करें
    • अगर देश उलटे होते, यानी Chinese software ने American users को track करने के लिए ऐसा ही “security feature” implement किया होता, तो खबरें इस बात से भर जातीं कि China, America पर surveillance और espionage कर रहा है
      या शायद यह hypothetical भी समझ में नहीं आता, लेकिन असल में लगता है कि उन्हें दूसरों की privacy की परवाह नहीं है

  • “तो यह feature मुख्य रूप से उन लोगों को punish करता है जिनकी fingerprinting आसान है, यानी ऐसे आम developers जो अजीब लेकिन legal काम कर रहे हैं” — यहाँ punishment से आपका ठीक-ठीक मतलब क्या है?

    • legal use होने के बावजूद block होने की संभावना बढ़ जाती है
    • competitor समझकर flag किए जाने पर account उड़ा दिया जाता है
    • पैसे देकर खरीदी गई चीज़ से अलग contaminated, गलत results वापस मिलते हैं
    • Anthropic जिस तरह हर एक-दो महीने में “illegal Chinese distillation attack” का शोर मचाता है, उसे देखते हुए मैं दांव लगा सकता हूँ कि अगर identification patterns में से एक भी match हो जाए, तो वे पहले से ही model performance को चुपचाप घटा रहे होंगे, या कम से कम review/सीमित dry run कर रहे होंगे
      खासकर जब यह technology मौजूद है और Fable ने सार्वजनिक रूप से कहा था कि वे इसे production में इस्तेमाल करेंगे
    • मेरा अनुमान है कि output contamination और/या अंततः account suspension होगा