Llama-3.3-70B-Instruct

 (huggingface.co)
2 पॉइंट द्वारा GN⁺ 2024-12-07 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Llama 3.3 कलेक्शन
    • इस कलेक्शन में Llama 3.3 के weights और मूल repository शामिल हैं
    • हाल ही में 8 घंटे पहले अपडेट किया गया
    • कुल 1 आइटम शामिल है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-12-07
Hacker News राय

  • Llama 3.2 405B की तुलना में प्रदर्शन समान या थोड़ा बेहतर लगता है

    • Zuck के अनुसार, यह Llama 3 series की आख़िरी रिलीज़ है, और Llama 4 के 2025 में आने की उम्मीद है
    • Steve Jobs का Dropbox के बारे में दिया गया मशहूर बयान याद आता है: 'यह एक feature है, product नहीं'
    • Meta एक शक्तिशाली मॉडल को open source के रूप में देकर AI को commoditize कर रहा है, और इससे Facebook तथा Instagram की सेवाओं को मज़बूत कर सकता है
    • यह AI बेचने का मामला नहीं है, बल्कि AI का उपयोग करके core business को मज़बूत करने का है
    • इसे open source करने से व्यापक adoption और development का लाभ मिल सकता है

  • हमारे benchmark में इसने उम्मीद से बेहतर प्रदर्शन किया

    • और गहराई से देखने वाले हैं, लेकिन यह प्रभावशाली है

  • इस समय एक अच्छे "general" Mac desktop client पर चर्चा जारी है

    • Ollama, ChatGPT, Claude, Perplexity आदि का उपयोग करना चाहते हैं
    • अलग-अलग apps में AI chat का उपयोग करना चाहते हैं, और इसके लिए desktop app होना ज़रूरी नहीं है
    • MacMind अच्छा है, लेकिन दूसरे API के frontend के रूप में यह काफ़ी महँगा पड़ता है
    • "कंजूस मत बनो" वाला जवाब भी कुछ हद तक उचित लगता है

  • कई benchmark में यह GPT-4o के समान प्रदर्शन दिखाता है

  • Hugging Face पर 4bit bitsandbytes, GGUFs और मूल 16bit weights अपलोड किए गए हैं

    • Llama 3.3 70B को 48GB VRAM से कम पर 2x तेज़ fine-tune किया जा सकता है, और memory usage को 70% तक घटाया जा सकता है

  • OpenRouter पर 1M token की कीमत ट्रैक की जा रही है, और हर refresh पर कीमत कम होती दिख रही है

  • Llama का open sourcing, "Commoditize Your Complement" strategy का शानदार उदाहरण है

    • जिन्होंने इस strategy के बारे में नहीं सुना है, उनके लिए Gwern का "Laws of Tech: Commoditize Your Complement" लिंक दिया गया है

  • Hugging Face model को लेकर सवाल

    • क्या इसे laptop पर JupyterLab के ज़रिए चलाया जा सकता है
    • इसके क्या फ़ायदे हैं
    • क्या इसे नियमित रूप से अपडेट किया जा सकता है
    • क्या इसे किसी खास उपयोग के लिए fine-tune किया जा सकता है
    • model को fine-tune करने में कितना समय और मेहनत लगती है
    • क्या Hugging Face इन सवालों के जवाब देता है, इस बारे में URL की मांग

  • Meta, OpenAI/Anthropic को लक्ष्य बनाकर शक्तिशाली open model जारी करते हुए लगातार उम्मीद से बेहतर दे रहा है

    • इसका सबसे बड़ा लाभ developers को मिल रहा है