-
OpenAI द्वारा हाल ही में प्रकाशित नया शोधपत्र
-
AI मॉडल लागू करने के लिए यह जांचना ज़रूरी है कि machine learning मॉडल इंसानों की मंशा के अनुसार काम करता है या नहीं
→ Alignment समस्या
-
Alignment को हल करना मनुष्यों के लिए मूल्यांकन करना कठिन है और इसमें बहुत समय लगता है
-
Scalable Alignment तकनीक का परीक्षण करने के लिए पूरी किताब का सार बनाने वाला मॉडल प्रशिक्षित किया गया
→ किताब को पहले section इकाइयों में summarize किया गया, फिर उन सारों को दोबारा higher level पर summarize किया गया, और इस तरह अंतिम सार बनने तक यह प्रक्रिया जारी रही
→ 26449 शब्दों वाली "Alice in Wonderland" को 136 शब्दों में summarize किया गया
→ GPT-3 को fine-tune करके, मानव द्वारा लिखे गए सार की औसत गुणवत्ता के समान स्तर का उत्कृष्ट सार तैयार किया गया
अभी कोई टिप्पणी नहीं है.