Data2Vec - speech, vision और text पर काम करने वाला पहला हाई-परफॉर्मेंस self-supervised learning algorithm
(ai.facebook.com)<p>- Meta AI द्वारा ओपन सोर्स के रूप में जारी किया गया कोड, pre-trained models और पेपर <br />
- मौजूदा self-supervised learning ने हाल के AI के महत्वपूर्ण विकासों को समर्थन दिया है, लेकिन यह अभी भी उस तरीके से काफी अलग है जिससे इंसान विभिन्न जानकारियों को जोड़कर जटिल रूप से सीखते हैं <br />
→ इमेज के लिए डिज़ाइन किया गया single-purpose algorithm text पर लागू करना मुश्किल है <br />
- data2vec पहली बार speech/vision/text जैसी विभिन्न modalities पर काम करता है<br />
→ नया paradigm : holistic self-supervised learning<br />
→ vision/speech में यह single-purpose algorithms से बेहतर प्रदर्शन दिखाता है और NLP में भी प्रतिस्पर्धी है<br />
</p>
2 टिप्पणियां