- 1,100 स्मार्टफोनों का इस्तेमाल करने वाला एक ‘phone farm’ हैक हो गया, जिससे TikTok पर चल रहे AI-जनित विज्ञापन अकाउंट्स की गतिविधियां सामने आ गईं
- इस सिस्टम को a16z से निवेश प्राप्त startup Doublespeed चलाता है, और यह सैकड़ों AI-आधारित social media अकाउंट्स को मैनेज करके उत्पादों के प्रचार में इस्तेमाल करता है
- हैकर ने access हासिल कर अकाउंट असाइनमेंट, proxy जानकारी और कार्य इतिहास की जांच की
- जनरेटिव AI से बनाए गए लोगों की इमेज और वीडियो का इस्तेमाल supplement, app, massage device जैसे कई उत्पादों के प्रचार में किया गया, और विज्ञापन लेबल के बिना उत्पादों का प्रचार किए जाने के कई संकेत मिले
- हैकर ने कहा कि उसने 31 अक्टूबर को कंपनी को vulnerability report की थी, लेकिन अभी भी backend और phone farm तक पहुंच संभव है
Doublespeed हैक घटना का सार
- हैकर ने 1,100 मोबाइल फोनों से बने phone farm पर नियंत्रण हासिल कर TikTok पर चल रहे AI-जनित विज्ञापन अकाउंट्स की गतिविधियों को उजागर किया
- इस phone farm को Doublespeed मैनेज करता है और AI से बनाए गए सैकड़ों social media अकाउंट्स के जरिए उत्पादों का प्रचार करता है
- हैक से यह भी सामने आया कि ऐसे कई promotional content मौजूद थे जिन्हें विज्ञापन के रूप में चिह्नित नहीं किया गया था
- ये अकाउंट्स AI influencer के रूप में उत्पादों का प्रचार कर रहे थे
- हैकर ने कंपनी के backend तक पहुंच बनाकर यह देखा कि कौन-सा PC manager किस फोन और TikTok अकाउंट को नियंत्रित कर रहा है
- proxy server, password और हर अकाउंट की task queue तक सब कुछ उजागर था
- हैकर के अनुसार वह लगभग 1,100 स्मार्टफोनों को स्वतंत्र रूप से नियंत्रित कर सकता था, और उनका इस्तेमाल compute resource या spam के लिए भी किया जा सकता था
TikTok पर AI influencer प्रचार का तरीका
- Doublespeed द्वारा चलाए गए 400 से अधिक TikTok अकाउंट्स में से लगभग 200 का वास्तविक रूप से उत्पाद प्रचार में इस्तेमाल हुआ
- कई पोस्ट विज्ञापन लेबल के बिना अपलोड किए गए
- कुछ अकाउंट्स ने असली यूजर जैसे दिखने के लिए पहले से गतिविधि जमा करने वाली ‘warming up’ प्रक्रिया अपनाई थी
- TikTok की inauthentic behavior detection से बचने के लिए वास्तविक smartphone usage pattern की नकल की गई
प्रचार के ठोस उदाहरण
- AI से बनाए गए मध्यम आयु की महिला character ने शारीरिक दर्द की बात करते हुए Vibit massage device को बार-बार दिखाया
- UCLA छात्र के रूप में सेट किए गए AI व्यक्ति ने pharma industry की आलोचना करते हुए Rosabella moringa supplement का प्रचार किया
- उत्पाद की बोतल के label पर लिखा टेक्स्ट अर्थहीन रूप में बना था, जिससे यह AI image होने का संकेत मिला
- कुछ अकाउंट्स ने AI-जनित वीडियो का भी इस्तेमाल कर Playkit जैसी TikTok content agency का प्रचार किया
हैकर की पहुंच और कंपनी की प्रतिक्रिया
- हैकर ने बदले की आशंका के कारण गुमनाम रहने का अनुरोध किया और कहा कि उसने 31 अक्टूबर को Doublespeed को vulnerability report दी थी
- लेख लिखे जाने के समय भी हैकर ने कहा कि उसके पास अभी भी कंपनी के backend और phone farm system तक पहुंच है
- Doublespeed ने मीडिया की टिप्पणी-प्रार्थना का जवाब नहीं दिया
प्लेटफॉर्म और निवेशक की प्रतिक्रिया
- Doublespeed, Andreessen Horowitz(a16z) से निवेश प्राप्त startup है
- TikTok ने AI-जनित content के लिए label अनिवार्यता निर्धारित की हुई है, और सूचना मिलने के बाद संबंधित अकाउंट्स पर label जोड़ दिया
- a16z और Doublespeed ने इस घटना पर कोई आधिकारिक रुख जारी नहीं किया
- Reddit के प्रवक्ता ने कहा कि Doublespeed की service उसके terms का उल्लंघन करती है
- Meta ने कोई आधिकारिक जवाब नहीं दिया, लेकिन यह business मॉडल authentic identity representation policy का उल्लंघन करने वाली संरचना है
अभी कोई टिप्पणी नहीं है.