वह बातचीत जिसमें GPT-3 ने a a a a जैसे एक ही अक्षर को बार-बार स्पैम करना शुरू कर दिया, जिससे अजीब प्रतिक्रिया दिखाई दी।
बातचीत का एक हिस्सा 17 घंटे पहले Reddit पर पोस्ट की गई एक टिप्पणी से बिल्कुल मेल खाता है, जिससे संकेत मिलता है कि उपयोगकर्ता ने उसे कॉपी किया हो सकता है।
एक महीने पहले भी ऐसा ही मामला हुआ था, जब Rust में word tokenizer बनाने के अनुरोध पर GPT-3 ने molecular biology के बारे में असंबंधित उत्तर देना शुरू कर दिया था।
अनुमान है कि बहुत कम संभावना वाले token sample हो गए, जिससे संदर्भ किसी अपरिचित क्षेत्र में चला गया और इससे और भी असामान्य token की संभावना बढ़ गई।
जब पूछा गया कि क्या वह बातचीत ChatGPT थी, तो वह थोड़ी देर के लिए जैसे अटक गई; इससे संकेत मिलता है कि AI को 아니요, 저는 OpenAI에서 개발한 AI인 GPT-3입니다. 어떻게 도와드릴까요? जैसा उत्तर देने के लिए hard-code किया गया है।
1 टिप्पणियां
Hacker News राय
a a a aजैसे एक ही अक्षर को बार-बार स्पैम करना शुरू कर दिया, जिससे अजीब प्रतिक्रिया दिखाई दी।아니요, 저는 OpenAI에서 개발한 AI인 GPT-3입니다. 어떻게 도와드릴까요?जैसा उत्तर देने के लिए hard-code किया गया है।"