21 पॉइंट द्वारा GN⁺ 2024-03-15 | 2 टिप्पणियां | WhatsApp पर शेयर करें

Excel से AI सीखें

  • Excel में इम्प्लीमेंट किए गए वास्तविक LLM के जरिए सीखें कि AI कैसे काम करता है
  • बाहरी API कॉल के बिना, केवल Excel functions से GPT-2 का forward pass इम्प्लीमेंट किया गया है
  • लक्ष्य यह दिखाना है कि अगर आप spreadsheets को समझ सकते हैं, तो AI को भी समझ सकते हैं
  • Lesson 1: Excel से GPT को समझना
  • Lesson 2: Byte Pair Encoding और Tokenization
  • अतिरिक्त: Excel इम्प्लीमेंटेशन को विस्तार से देखना (उन लोगों के लिए जो Transformers को समझते हैं)
  • यह XLSB (Excel Binary) फ़ॉर्मेट में है, इसलिए इसे डाउनलोड करके चलाया जा सकता है (Mac/Windows दोनों पर संभव, लेकिन Windows की सिफारिश की जाती है)
  • इम्प्लीमेंटेशन की सीमाएँ
    • BPE, multi-head attention, और multi-layer perceptron stages सहित पूरा छोटा GPT-2 (124M parameters) मॉडल
    • केवल inference/forward pass संभव है (training नहीं)
    • context 10 tokens की लंबाई तक सीमित है
    • प्रति शब्द 10 अक्षरों की सीमा
    • केवल Zero Temperature output संभव है

FAQ

  • Google Sheets के बारे में: यह प्रोजेक्ट Google Sheets में शुरू हुआ था, लेकिन पूरा मॉडल बहुत बड़ा होने के कारण इसे Excel में शिफ्ट किया गया। Google Sheets में इसे चलाने का तरीका अभी भी खोजा जा रहा है, लेकिन संभव है कि यह Excel की तरह एक single file में फिट न हो।
  • ChatGPT की तरह बातचीत क्यों नहीं कर सकता: बहुत छोटी context length के अलावा, इसमें conversational chatbot बनाने के लिए instruction tuning और human feedback से reinforcement learning (RLHF) की कमी है।
  • नाम की उत्पत्ति: "Spreadsheets-are-all-you-need" नाम, Transformer machine learning architecture को पहली बार समझाने वाले प्रसिद्ध पेपर "Attention Is All You Need" के शीर्षक पर आधारित एक शब्द-खेल है।

GN⁺ की राय

  • यह प्रोजेक्ट AI और machine learning की पहुँच बढ़ाने में योगदान देता है। Excel जैसे परिचित टूल का उपयोग करके जटिल तकनीक को समझने योग्य बनाकर, यह गैर-विशेषज्ञों को भी AI के मूल सिद्धांत सीखने का अवसर देता है।
  • Excel के जरिए किया गया इम्प्लीमेंटेशन वास्तविक AI मॉडल कैसे काम करते हैं, इसे visual रूप से समझने में उपयोगी है, लेकिन इसका उपयोग वास्तविक AI development में नहीं किया जाता। इसलिए इस तरीके से AI सीख लेने भर से कोई पेशेवर AI developer नहीं बन जाता।
  • ऐसे educational tools आम लोगों में AI के प्रति रुचि बढ़ा सकते हैं और AI तकनीक के लोकतंत्रीकरण में योगदान दे सकते हैं। लेकिन वास्तविक AI systems बनाते समय अधिक पेशेवर tools और frameworks की आवश्यकता होती है।
  • इसी तरह के शैक्षिक उद्देश्य वाले प्रोजेक्ट्स में Google का Machine Learning Crash Course या Coursera पर Professor Andrew Ng का Machine Learning कोर्स शामिल हैं। ये कोर्स theory और practice को मिलाकर अधिक गहन सीखने का अवसर देते हैं।
  • इस तकनीक को अपनाते समय यह समझना चाहिए कि यह वास्तविक AI model development से अलग एक approach है। यह प्रोजेक्ट शैक्षिक उद्देश्य पर केंद्रित है, और वास्तविक AI development projects में आमतौर पर TensorFlow, PyTorch जैसे पेशेवर AI frameworks का उपयोग किया जाता है।

2 टिप्पणियां

 
GN⁺ 2024-03-15
Hacker News की राय
  • क्रिएटर का अभिवादन और धन्यवाद

    • प्रोजेक्ट निर्माता: पोस्ट साझा करने के लिए धन्यवाद, वे सवालों या सुझावों का जवाब देना चाहते हैं, और आशा करते हैं कि इससे लोगों को LLM(Large Language Models) को बेहतर समझने में मदद मिलेगी। अगला वीडियो embeddings पर है और जल्द पूरा होने वाला है.
  • स्प्रेडशीट का उपयोग करके neural network की शिक्षा

    • Jeremy Howard: वे वर्षों से स्प्रेडशीट का उपयोग करके neural network (NNs) सिखाते आ रहे हैं, और यह तरीका शिक्षाप्रद और सहज है.
  • स्प्रेडशीट से neural network समझाना

    • अब "यह बस curve fitting है" कहने के बजाय, दोस्तों से "यह बस एक स्प्रेडशीट है" कहा जा सकता है.
  • स्प्रेडशीट लिंक साझा करना

  • RLHF की आवश्यकता पर सवाल

    • यह सवाल उठाया गया कि क्या बड़े language model को chatbot में बदलने के लिए instruction tuning और RLHF (reinforcement learning from human feedback) के बिना भी काम चल सकता है.
  • GPT-2 को स्प्रेडशीट में लागू करने के तरीके पर प्रशंसा

    • GPT-2 को स्प्रेडशीट में कैसे लागू किया गया, यह प्रभावशाली है, और लेखक से पूछा गया कि क्या यह प्रोजेक्ट open source बनेगा.
  • स्प्रेडशीट में GPT-3 या GPT-4 लागू करने की संभावना

    • यह जिज्ञासा जताई गई कि स्प्रेडशीट GPT-3 या GPT-4 को लागू क्यों नहीं कर सकती.
  • LLM को समझने में मदद करने वाला शानदार प्रोजेक्ट

    • यह प्रोजेक्ट शानदार है, और LLM(Large Language Models) को समझने में मदद के लिए इसे 7 लोगों को भेजा गया.
  • Excel में PDE हल करने के उदाहरण साझा करना

    • यह साझा किया गया कि Excel में PDEs (partial differential equations) हल करने के उदाहरण मौजूद हैं। FFT(Fast Fourier Transform) और special functions के बारे में पहले से पता था, लेकिन यह दिलचस्प और मज़ेदार लगा.
  • investment bank को ग्राहक बनाने वाली AI कंपनी

    • investment bank को ग्राहक बनाने वाली AI कंपनी का विचार बहुत समझदारी भरा है.