- OpenAI के CEO Sam Altman ने कहा कि ChatGPT को जन्म देने वाली research strategy अब प्रभावी नहीं रही, और artificial intelligence के भविष्य के विकास के लिए नए ideas की ज़रूरत है
- OpenAI ने मौजूदा machine learning algorithms को scale करके GPT-4 जैसे language models बनाए, लेकिन आगे केवल model का size बढ़ाने भर से प्रगति करना मुश्किल होगा
- GPT-4 के विकास पर 100 million dollar से अधिक खर्च हुआ, और physical limitations के कारण data center विस्तार पर भी सीमाएँ हैं
- GPT-4 के बाद AI research की दिशा
- Cohere के सह-संस्थापक Nick Frosst ने भी इस बात से सहमति जताई कि केवल model size scaling की अपनी सीमाएँ हैं
- नए AI model designs (architecture) और human feedback के ज़रिए fine-tuning जैसी विधियाँ promising research directions हो सकती हैं
- GPT series models के विकास की प्रक्रिया
- 2019 में जारी GPT-2, 1.5 billion parameters वाला एक बड़ा model था
- 2020 में GPT-3 का आकार बढ़कर 175 billion parameters हो गया, और इसने दूसरी कंपनियों व research institutions को भी इसी तरह के बड़े models विकसित करने के लिए प्रेरित किया
- GPT-4 का सटीक आकार सार्वजनिक नहीं किया गया, लेकिन यह अनुमान है कि केवल scale बढ़ाने के अलावा human feedback से reinforcement learning जैसी techniques भी इस्तेमाल की गई होंगी
- GPT-4 के आने से सामाजिक प्रभाव और विवाद
- GPT-4 की चौंकाने वाली क्षमताओं ने experts को हैरान कर दिया, और इससे यह चिंता बढ़ी कि AI अर्थव्यवस्था को बदल सकता है और नौकरियाँ खत्म कर सकता है
- Elon Musk समेत कुछ experts और entrepreneurs ने GPT-4 से अधिक शक्तिशाली AI के विकास को 6 महीने के लिए रोकने की मांग करते हुए एक open letter जारी किया
- Altman ने कहा कि फिलहाल OpenAI GPT-5 विकसित नहीं कर रहा है, और कुछ समय तक ऐसा करने की योजना भी नहीं है
GN⁺ की राय
- GPT-4 जैसे बड़े language models के विकास में भारी लागत और computing resources लगते हैं, इसलिए इन्हें लगातार scale करना व्यावहारिक रूप से कठिन है. इसलिए Altman के बयान की तरह नई research directions तलाशना ज़रूरी लगता है
- Human feedback से reinforcement learning सहित model performance बेहतर करने की कई विधियों पर research हो रही है, इसलिए केवल model size बढ़ाने के बजाय algorithmic innovation के ज़रिए AI का विकास होने की संभावना है
- GPT-4 जैसे शक्तिशाली AI models के आने से पूरे समाज में बड़े बदलाव की आशंका है, इसलिए technology development के साथ-साथ उससे जुड़े ethical और legal issues पर सामाजिक सहमति बनाने की कोशिश भी ज़रूरी होगी
- AI technology के तेज़ी से आगे बढ़ने के साथ job displacement जैसे दुष्प्रभावों को लेकर चिंता उठ रही है, लेकिन साथ ही नए jobs पैदा होने और productivity बढ़ने के अवसर भी हैं, इसलिए long-term perspective से प्रतिक्रिया रणनीति खोजनी होगी
- बड़े AI models के विकास में छोटे और मध्यम startups के लिए प्रतिस्पर्धी बने रहना आसान नहीं दिखता, इसलिए specialized sectors में innovation या development platforms देने जैसे नए business models तलाशने की ज़रूरत लगती है
2 टिप्पणियां
यह पिछले साल अप्रैल का इंटरव्यू लेख है। यह पूरे एक साल पुराना है, इसलिए इसमें काफ़ी बातें अब मेल नहीं खातीं।
सारांश पढ़ते समय लगा कि यह कब की बात हो रही है, लेकिन फिर पता चला कि यह एक साल पुराना लेख था हाहा