- OpenAI की alignment team lead Jan Leike ने ब्लॉग पर पोस्ट किया गया लेख DeepL से अनुवादित किया है
- Alignment का अर्थ है "एक AI system को एक इंसान के साथ align करना"
- इसे "व्यक्तिगत प्राथमिकताओं (हर कोई अपने अनुरूप align किया गया AI चाहता है)" और "सामूहिक प्राथमिकताओं (AI का उपयोग किन उद्देश्यों के लिए किया जा सकता है और उसका डिफ़ॉल्ट व्यवहार क्या होना चाहिए)" के अनुसार align करने की दो श्रेणियाँ हैं
- यह लेख दूसरी श्रेणी के बारे में है
प्रस्ताव: simulated deliberative democracy
- मुख्य विचार यह है कि बड़े language model को "deliberative democracy" की नकल करने के लिए प्रशिक्षित करने में इस्तेमाल किया जाए
- deliberative democracy एक निर्णय-निर्माण या नीति-निर्माण प्रक्रिया है जिसमें यादृच्छिक रूप से चुने गए आम लोगों के छोटे समूह ('mini-public') स्पष्ट रूप से विचार-विमर्श करते हैं
- simulated deliberative democracy बनाने का तरीका
- value question dataset एकत्र करना
- इंसानी विचार-विमर्श के रिकॉर्ड
- background-conditional imitation learning
- simulation: नए मूल्यों से जुड़े प्रश्न
1 टिप्पणियां
कृपया Choi Seung-jun की "इस लेख के संदर्भ पर अतिरिक्त स्पष्टीकरण" भी साथ में पढ़ें। (दस्तावेज़ के शुरुआती हिस्से में भी लिंक है)
https://facebook.com/seungjoon.choi/posts/…