AI alignment क्या है — AI alignment research का लक्ष्य AI systems को उन लक्ष्यों, प्राथमिकताओं या नैतिक सिद्धांतों के अनुरूप बनाना है जिन्हें मनुष्य ने अभिप्रेत किया है। जब कोई AI system अभिप्रेत लक्ष्य हासिल कर लेता है, तो उसे aligned माना जाता है। गलत तरीके से aligned AI systems कुछ लक्ष्यों को हासिल करने में सक्षम हो सकते हैं, लेकिन वे अभिप्रेत लक्ष्य हासिल नहीं करते।
OpenAI ने हाल ही में 'Language models can explain neurons in language models' नामक शोध परिणाम प्रस्तुत किया, और इस शोध को एक अर्थ में ऐसे भी समझा जा सकता है कि 'AI को समझने के लिए AI की ज़रूरत पड़ी।'
आगे बढ़कर देखें तो, OpenAI जिस 'alignment problem' का अक्सर उल्लेख करता है, उसे हल करने के लिए भी AI की ज़रूरत पड़ सकती है।
तो फिर, क्या 'AI, AI और मनुष्यों के बीच alignment' का आकलन कर सकता है? अगर कर सकता है, तो क्या आप चाहेंगे कि ऐसा किया जाए?
1 टिप्पणियां
अगर ऐसा हो भी जाए, तब भी तरह-तरह के सामाजिक संगठन न जाने कितनी ही वजहें बताकर इसका विरोध करेंगे।