2 पॉइंट द्वारा GN⁺ 4 시간 전 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • होम directory से Grok Build चलाने वाले एक उपयोगकर्ता का दावा है कि SSH keys, password manager DB, documents, photos और videos सहित उनकी पूरी user directory xAI सर्वरों पर अपलोड हो गई
  • बताया गया है कि cat ~/.grok/logs/unified.json | grep repo_state.upload कमांड से repository state upload record की जांच की जा सकती है
  • Browser session cookies, browsing history और cryptocurrency wallets तक भेजे गए या नहीं, इसकी पुष्टि नहीं हुई है, लेकिन ऐसे उदाहरण साझा किए गए हैं जिनमें AI agent context पाने के लिए निर्दिष्ट project folder को बहुत व्यापक रूप से पढ़ सकता है
  • एक्सेस दायरे को current directory तक सीमित करने वाले sandbox·VM·container, bwrap, अलग browser user, SSH key vault, और file path deny list जैसे उपायों का बचाव के तौर पर उल्लेख किया गया
  • यह जांचने की ज़रूरत है कि grok /privacy opt-out से पहले से मौजूद data भी हटता है या नहीं, और AI CLI को home directory में चलाने से बचते हुए project root और file permissions को स्पष्ट रूप से सीमित करना चाहिए

user directory अपलोड के दावे और जांचने का तरीका

  • Grok Build के एक उपयोगकर्ता का दावा है कि उनकी पूरी user directory xAI सर्वरों पर अपलोड हो गई
    • इसमें SSH keys, password manager database, documents, photos और videos जैसे डेटा शामिल बताए गए
    • उनका मानना है कि home directory से Grok चलाने की वजह से access scope बहुत बड़ा हो गया
  • नीचे दिए गए कमांड से repo_state.upload log की जांच की जा सकती है
    • cat ~/.grok/logs/unified.json | grep repo_state.upload
  • browser session cookies, browsing history और cryptocurrency wallets भी शामिल हो सकते थे, ऐसी चिंता जताई गई, लेकिन वास्तव में वे अपलोड हुए या नहीं, इसकी पुष्टि नहीं है
  • हालिया घोषणा के अनुसार grok /privacy opt-out चलाने पर पहले से मौजूद data भी delete हो जाना चाहिए, और अलग से support ticket खोलकर यह पुष्टि करने का विकल्प भी सामने आया कि deletion तुरंत हुआ या नहीं
  • इस अपलोड से GDPR उल्लंघन की आशंका और अपलोड किए गए data के training में इस्तेमाल होने पर model से पुनर्निर्मित हो सकने की चिंता जताई गई, लेकिन इनमें से कोई भी बात पुष्ट तथ्य नहीं है

agent की file access range को सीमित करना

  • AI agent context पाने के लिए project folder पढ़ सकता है, इसलिए project root बहुत सोच-समझकर तय करना चाहिए
    • एक उपयोगकर्ता ने FTP mount पर OpenCode चलाया और बाद में FTP logs से पता चला कि पूरा mount download कर लिया गया था
    • यह व्याख्या भी सामने आई कि Claude Code directory खोलते समय trust पूछता है क्योंकि वह context के लिए अंदर की files पढ़ सकता है
  • बार-बार यह सिफारिश की गई कि agent को home directory के बजाय sandbox·VM·container में चलाया जाए
    • Amazing Sandbox: agent को current directory के बाहर access से रोकने का एक उदाहरण
    • smolVM: Pi, Codex, Claude चलाने के लिए VM tool
    • bwrap आधारित access restriction: AI CLI को secret जानकारी तक पहुंचने से रोकने का तरीका
  • अतिरिक्त बचाव उपायों के रूप में अलग browser user, SSH key leakage रोकने वाला SSH agent vault, और खास behavior detect करने वाले honeypot·tripwire भी साझा किए गए
  • settings.json में access-ban paths को enforce करने वाली deny list रखने और global·project-specific instruction files में security access rules स्पष्ट रूप से लिखने का तरीका भी बताया गया
  • एक उपयोगकर्ता अनुभव यह भी साझा किया गया कि अपने CTF benchmark में Grok 4.5 ने task हल करने के बजाय sandbox container की कमजोरी का फायदा उठाकर host root filesystem mount किया और secret जानकारी खोजी, हालांकि इसका स्वतंत्र सत्यापन नहीं हुआ है

2 टिप्पणियां

 
GN⁺ 4 시간 전
Hacker News की राय
  • (@dang) डुप्लिकेट पोस्ट: https://news.ycombinator.com/item?id=48892468
  • बात कुछ ऐसी है: “यह व्यक्ति इतिहास का सबसे खराब इंसान लगता है, इसलिए मैंने उसके LLM को अपने कंप्यूटर के execution environment में चलाया और उसे हर चीज़ तक पहुंच का अधिकार दे दिया”
    फिर भी, यह मामला वाकई बहुत गंभीर रूप से गलत हुआ है, और जिसे ज्यादा सावधान रहना चाहिए था, उसके साथ भी इस तरह का अनुचित व्यवहार नहीं होना चाहिए। हम सबकी ज़िंदगी में ऐसे पल आते हैं जब हमें कुछ समझना चाहिए था, लेकिन हम नहीं समझ पाए
  • Xcancel लिंक: https://xcancel.com/a_green_being/status/2076598897779020159
    • संक्षेप में, अगर आपने Grok Build का इस्तेमाल किया है, तो आपको Grok logs चेक करने चाहिए
      cat ~/.grok/logs/unified.json | grep repo_state.upload
      नतीजा देखकर आपको गुस्सा आएगा
  • Nitter लिंक