a16z-समर्थित startup का AI TikTok अकाउंट विज्ञापन अभियान हैक से उजागर

 (404media.co)
2 पॉइंट द्वारा GN⁺ 2025-12-19 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • 1,100 स्मार्टफोनों का इस्तेमाल करने वाला एक ‘phone farm’ हैक हो गया, जिससे TikTok पर चल रहे AI-जनित विज्ञापन अकाउंट्स की गतिविधियां सामने आ गईं
  • इस सिस्टम को a16z से निवेश प्राप्त startup Doublespeed चलाता है, और यह सैकड़ों AI-आधारित social media अकाउंट्स को मैनेज करके उत्पादों के प्रचार में इस्तेमाल करता है
  • हैकर ने access हासिल कर अकाउंट असाइनमेंट, proxy जानकारी और कार्य इतिहास की जांच की
  • जनरेटिव AI से बनाए गए लोगों की इमेज और वीडियो का इस्तेमाल supplement, app, massage device जैसे कई उत्पादों के प्रचार में किया गया, और विज्ञापन लेबल के बिना उत्पादों का प्रचार किए जाने के कई संकेत मिले
  • हैकर ने कहा कि उसने 31 अक्टूबर को कंपनी को vulnerability report की थी, लेकिन अभी भी backend और phone farm तक पहुंच संभव है

Doublespeed हैक घटना का सार

  • हैकर ने 1,100 मोबाइल फोनों से बने phone farm पर नियंत्रण हासिल कर TikTok पर चल रहे AI-जनित विज्ञापन अकाउंट्स की गतिविधियों को उजागर किया
    • इस phone farm को Doublespeed मैनेज करता है और AI से बनाए गए सैकड़ों social media अकाउंट्स के जरिए उत्पादों का प्रचार करता है
  • हैक से यह भी सामने आया कि ऐसे कई promotional content मौजूद थे जिन्हें विज्ञापन के रूप में चिह्नित नहीं किया गया था
    • ये अकाउंट्स AI influencer के रूप में उत्पादों का प्रचार कर रहे थे
  • हैकर ने कंपनी के backend तक पहुंच बनाकर यह देखा कि कौन-सा PC manager किस फोन और TikTok अकाउंट को नियंत्रित कर रहा है
    • proxy server, password और हर अकाउंट की task queue तक सब कुछ उजागर था
    • हैकर के अनुसार वह लगभग 1,100 स्मार्टफोनों को स्वतंत्र रूप से नियंत्रित कर सकता था, और उनका इस्तेमाल compute resource या spam के लिए भी किया जा सकता था

TikTok पर AI influencer प्रचार का तरीका

  • Doublespeed द्वारा चलाए गए 400 से अधिक TikTok अकाउंट्स में से लगभग 200 का वास्तविक रूप से उत्पाद प्रचार में इस्तेमाल हुआ
  • कई पोस्ट विज्ञापन लेबल के बिना अपलोड किए गए
  • कुछ अकाउंट्स ने असली यूजर जैसे दिखने के लिए पहले से गतिविधि जमा करने वाली ‘warming up’ प्रक्रिया अपनाई थी
  • TikTok की inauthentic behavior detection से बचने के लिए वास्तविक smartphone usage pattern की नकल की गई

प्रचार के ठोस उदाहरण

  • AI से बनाए गए मध्यम आयु की महिला character ने शारीरिक दर्द की बात करते हुए Vibit massage device को बार-बार दिखाया
  • UCLA छात्र के रूप में सेट किए गए AI व्यक्ति ने pharma industry की आलोचना करते हुए Rosabella moringa supplement का प्रचार किया
    • उत्पाद की बोतल के label पर लिखा टेक्स्ट अर्थहीन रूप में बना था, जिससे यह AI image होने का संकेत मिला
  • कुछ अकाउंट्स ने AI-जनित वीडियो का भी इस्तेमाल कर Playkit जैसी TikTok content agency का प्रचार किया

हैकर की पहुंच और कंपनी की प्रतिक्रिया

  • हैकर ने बदले की आशंका के कारण गुमनाम रहने का अनुरोध किया और कहा कि उसने 31 अक्टूबर को Doublespeed को vulnerability report दी थी
  • लेख लिखे जाने के समय भी हैकर ने कहा कि उसके पास अभी भी कंपनी के backend और phone farm system तक पहुंच है
  • Doublespeed ने मीडिया की टिप्पणी-प्रार्थना का जवाब नहीं दिया

प्लेटफॉर्म और निवेशक की प्रतिक्रिया

  • Doublespeed, Andreessen Horowitz(a16z) से निवेश प्राप्त startup है
  • TikTok ने AI-जनित content के लिए label अनिवार्यता निर्धारित की हुई है, और सूचना मिलने के बाद संबंधित अकाउंट्स पर label जोड़ दिया
  • a16z और Doublespeed ने इस घटना पर कोई आधिकारिक रुख जारी नहीं किया
  • Reddit के प्रवक्ता ने कहा कि Doublespeed की service उसके terms का उल्लंघन करती है
  • Meta ने कोई आधिकारिक जवाब नहीं दिया, लेकिन यह business मॉडल authentic identity representation policy का उल्लंघन करने वाली संरचना है

संबंधित पढ़ाई

2 टिप्पणियां

 
roxie 2025-12-19

वाह, ऐसा बिज़नेस भी होता है,,,
 
GN⁺ 2025-12-19
Hacker News की राय

  • archive लिंक

  • AI लंबे समय में सोशल मीडिया को बर्बाद कर रहा है
    AI से पहले भी बहुत-सी पोस्ट और टिप्पणियाँ बॉट या paid accounts की होती थीं
    अब Reddit, ChatGPT से भी कम भरोसेमंद जगह बन गया है
    फिर भी अभी The Onion-verse जैसी व्यंग्यात्मक जगहें बची हुई हैं

    • ऐसा लगता है कि ‘Dead Internet Theory’ मज़ाक से हक़ीक़त बन गई है
    • मुझे नहीं लगता कि पूरी दुनिया का इस तरह तुरंत-फुरंत बातचीत करना कोई सकारात्मक नतीजा ला सकता है
      इंसान anonymity और बिना निगरानी वाले माहौल में कमज़ोर पड़ते हैं, और ऐसे फ़ोरम उसी कमज़ोरी को चरम पर ले जाते हैं
      मौजूदा पैमाने पर यह शुरू से ही अच्छा विचार नहीं था
    • शायद यह अच्छी बात भी हो सकती है
      अगर ज़्यादा से ज़्यादा लोग इन प्लेटफ़ॉर्म्स को छोड़कर फिर से mainstream media की ओर लौटें, तो वे शायद ज़्यादा तर्कसंगत बनें
    • Reddit मेरे लिए तो उसी गर्मियों में मर चुका प्लेटफ़ॉर्म बन गया था, जब उसने private profiles की अनुमति दी थी
    • मैं भी कुछ हद तक ऐसा ही सोचता हूँ, लेकिन यह बात चिंताजनक है कि लोगों को ऐसा निम्न-गुणवत्ता वाला content (sloppy content) पसंद आता है
      क्या यह सिर्फ़ नया लगने की वजह से है, या लोग सच में यही चाहते हैं, यह सोचता रहता हूँ

  • यह बहुत अजीब है कि अब हम ऐसे दौर में जी रहे हैं जहाँ bot farm आम बात हो गई है
    पहले मैं इसे रूस या चीन जैसे authoritarian regimes से जोड़ता था, लेकिन अब क्या हम भी उसी दिशा में जा रहे हैं?
    और ऊपर से VC इसका निवेश कर रहे हैं, यह और भी चौंकाने वाला है
    अब जब भी a16z podcast सुनता हूँ, bot farm का ख़याल आ जाता है, इसलिए सुनना मुश्किल हो जाता है
    इससे यह संदेह होता है कि क्या लोग सच में morality और ethics के बारे में सोचते भी हैं

    • फिर भी मैं अब भी मानता हूँ कि web of trust जैसे भरोसा-आधारित web का भविष्य संभव है
      बस यह नहीं पता कि उसे कैसे समझाया जाए

  • यह बात याद आती है: “मानव मन जैसी मशीनें मत बनाओ”
    जैसे Butlerian Jihad तय समय से पहले ही आ गया हो
    दमन या हिंसा से नहीं, बल्कि viral marketing और fake accounts से बगावत पैदा हो रही है

    • लेकिन हिंसा तो मानो शुरू हो ही चुकी है
      OpenAI कई मुकदमों का सामना कर रहा है, क्योंकि chatbot users के आत्महत्या करने के मामले सामने आए हैं

  • मज़ेदार है। मैं अभी किसी से कह रहा था कि Vibit ads बहुत ज़्यादा हैं, और सारे comments नकली लगते हैं

  • अगर hacking से सामने आई बात बस इतनी है कि वह startup वही कर रहा है जो उसने कहा था कि वह करेगा, तो यह मुझे बस advertisement जैसा लगता है

  • Zuhair का Twitter और official site देखकर सच में घिन आती है
    उसकी phone farm की तस्वीरें इस tweet में हैं
    “dead internet को तेज़ करना” — समझ नहीं आता कि हम इस तरह public spaces के enshitification को क्यों बढ़ावा दे रहे हैं

    • शायद वह सिर्फ़ ragebait कंटेंट बनाना चाहता है, लेकिन समस्या यह है कि यह product सच में मौजूद है
      Cory शुरू से ही सही था
    • वह बुरा इंसान कम, और गलत दिशा में चला गया एक किशोर ज़्यादा लगता है
      उसे शायद बेहतर role models की ज़रूरत है
      मुझे लगता है कि अगर कोई ऐसा कुछ न करे जिस पर बाद में शर्म आए, तो आत्मचिंतन का मौका भी नहीं मिलता
    • सुलभ लिंक है xcancel.com/rareZuhair
    • ऐसे tools बनाना ख़तरनाक है
      कभी न कभी यह अपने creator के ख़िलाफ़ लौटने वाला हथियार बन सकता है
    • यह अजीब नहीं है, बस लालच और control की भूख का नतीजा है

  • यह तो बस एक ऐसी रिपोर्ट लगती है जो दिखाती है कि वह कंपनी अपना business कैसे चलाती है
    doublespeed.ai

    • “never pay a human again”, “** spawn variation**” जैसी पंक्तियों को वे सीधे सामने रख रहे हैं, यह अपने-आप में अलग तरह से ताज़गीभरा है
      पसंद तो नहीं है, लेकिन marketing के नाम पर धोखा देने वाली दूसरी कंपनियों से यह कम से कम ज़्यादा ईमानदार लगता है
    • मुझे लगा था कि ऐसा business ग़ैरक़ानूनी होगा या कम से कम gray zone में होगा, लेकिन अब लगता है VC ने नैतिकता पूरी तरह छोड़ दी है
      जुआ? ठीक है। spam? निवेश करेंगे। ad fraud? कोई समस्या नहीं
    • सोचता हूँ कि ऐसे AI content farm से TikTok पर आख़िर कमाई कैसे होती है
    • आख़िर में ऐसी controversy ही उनके लिए मुफ़्त प्रचार बन रही है
    • सचमुच ऐसा लगता है जैसे “villain ad copy” को वास्तविक दुनिया में देख रहे हों

  • समझ नहीं आता कि ऐसी कंपनी पर Computer Fraud and Abuse Act (CFAA) के तहत मुकदमा क्यों नहीं किया जाता

    • CFAA का इस्तेमाल नापसंद लोगों पर हथियार की तरह चलाना ख़तरनाक है
      इस तरह के deceptive marketing को कवर करने वाले क़ानून पहले से मौजूद हैं
      उदाहरण: U.S. Code of Federal Regulations 16 CFR Part 255
    • लेकिन जिन कंपनियों के पास पैसा और patronage network होता है, वे क़ानून के लागू होने से बच निकलती हैं
      सबसे बुरे हाल में भी, सुना है आजकल pardon इतना महँगा नहीं पड़ता