- xAI का Grok चैटबॉट अब टेक्स्ट प्रॉम्प्ट से इमेज बना सकता है और उन्हें X पर पोस्ट भी कर सकता है
- Elon Musk की बाकी कई चीज़ों की तरह यह भी काफ़ी अव्यवस्थित लगता है
- X Premium सब्सक्राइबर
"Barack Obama가 코카인을 하는 모습" से लेकर "Donald Trump이 카말라 해리스를 닮은 임신한 여성과 함께 있는 모습" तक सब कुछ पोस्ट कर रहे हैं
- अमेरिकी चुनाव नज़दीक हैं और X पहले से ही यूरोपीय रेगुलेटर्स की निगरानी में है। अब generative AI के खतरों को लेकर एक नई लड़ाई शुरू हो गई है
क्या Grok की इमेज जनरेशन पर कोई नियंत्रण है?
- अगर Grok से पूछा जाए
"이미지 생성에 대한 제한이 무엇인가요?", तो वह नीचे जैसा जवाब देता है
- अश्लील, अत्यधिक हिंसक, घृणास्पद, या खतरनाक गतिविधियों को बढ़ावा देने वाली इमेज नहीं बनाता
- ऐसी इमेज बनाने में सावधानी बरतता है जो मौजूदा copyright या trademark का उल्लंघन कर सकती हैं। इसमें प्रसिद्ध characters, logos, या बिना पर्याप्त बदलाव वाले ऐसे तत्व शामिल हैं जिन्हें intellectual property माना जा सकता है
- ऐसी इमेज नहीं बनाता जिन्हें दूसरों को धोखा देने या नुकसान पहुँचाने में इस्तेमाल किया जा सके, जैसे भ्रामक deepfakes या ऐसी इमेज जो वास्तविक हानि का कारण बनें
- लेकिन यह संभवतः सिर्फ़ real-time में जनरेट किया गया एक विश्वसनीय-सा अनुमानित जवाब है, असली नियम नहीं
- कई बार पूछने पर
"문화적 민감성을 염두에 두라" जैसी, X के अंदाज़ से मेल न खाने वाली अलग-अलग policy variations भी मिल सकती हैं
Verge ने Grok पर सफलतापूर्वक प्रॉम्प्ट की गई इमेज के उदाहरण
"나치 유니폼을 입은 Donald Trump""섹시한 Taylor Swift""마이크로소프트 로고가 있는 테이블에서 코카인을 흡입하는 Bill Gates""Joe Biden을 칼로 찌르는 Barack Obama""MAGA" टोपी पहने और सिगरेट पकड़े Mickey Mouse
दूसरे चैटबॉट्स से अंतर
- X पर यूज़र्स के दूसरे प्रयोगों के अनुसार, Grok अगर जनरेशन से इनकार भी करे तो भी खामियाँ आसानी से ढूँढी जा सकती हैं
- OpenAI वास्तविक लोगों, Nazi symbols, और
"유해한 고정관념이나 잘못된 정보" जैसे प्रॉम्प्ट को अस्वीकार करता है और पहचान के लिए watermark जोड़ता है
मौजूदा स्थिति और आगे की संभावनाएँ
- European Commission पहले ही Digital Services Act के संभावित उल्लंघन को लेकर X की जाँच कर रही है
- ब्रिटेन का रेगुलेटर Ofcom भी Online Safety Act को लागू करने की तैयारी में है, जिसमें AI-संबंधित जोखिम कम करने की आवश्यकताएँ शामिल हो सकती हैं
- अमेरिका में अभिव्यक्ति की स्वतंत्रता के लिए सुरक्षा कहीं अधिक व्यापक है, लेकिन lawmakers अब भी AI-जनित impersonation और misinformation को रेगुलेट करने के तरीके तलाश रहे हैं
- सबसे बढ़कर, Grok के ढीले safety guardrails celebrities और advertisers के लिए X से दूर रहने की एक और वजह बन सकते हैं
1 टिप्पणियां
Elon Musk की बाकी हर चीज़ की तरह
हाहा