Tabby: self-hosted AI coding assistant

 (github.com/TabbyML)
4 पॉइंट द्वारा GN⁺ 2025-01-13 | 1 टिप्पणियां | WhatsApp पर शेयर करें

  • Tabby का परिचय

    • Tabby, GitHub Copilot का एक विकल्प है, जो self-hosted AI coding assistant है.
    • इसका standalone architecture है, जिसके लिए DBMS या cloud service की आवश्यकता नहीं होती.
    • OpenAPI interface के माध्यम से इसे मौजूदा infrastructure के साथ आसानी से integrate किया जा सकता है.
    • यह consumer-grade GPU को support करता है.

  • नई सुविधाएँ

    • 6 दिसंबर 2024: Llamafile deployment integration और बेहतर Answer Engine user experience, Tabby v0.21.0 में जोड़े जाने वाले हैं.
    • 10 नवंबर 2024: Answer Engine में अलग-अलग backend chat models के बीच switching को Tabby v0.20.0 में support किया गया.
    • 30 अक्टूबर 2024: Tabby v0.19.0 ने main page पर shared recent threads जोड़े, जिससे visibility बढ़ी.
    • 9 जुलाई 2024: Codestral integration की घोषणा.
    • 5 जुलाई 2024: Tabby v0.13.0 ने Answer Engine पेश किया, जो development team के internal data को integrate करके भरोसेमंद answers देता है.
    • 13 जून 2024: VSCode 1.7 coding experience के पूरे flow में विभिन्न chat experiences प्रदान करता है.
    • 10 जून 2024: Tabby की बेहतर code context understanding पर blog post की घोषणा.
    • 6 जून 2024: Tabby v0.12.0, Gitlab SSO, self-hosted GitHub/GitLab आदि के साथ seamless integration प्रदान करता है.
    • 22 मई 2024: Tabby VSCode 1.6 inline completion में multiple choices देता है और auto-generated commit messages को support करता है.
    • 11 मई 2024: v0.11.0 ने GitHub और GitLab integration, activity page, और Ask Tabby feature सहित बड़े enterprise upgrades दिए.
    • 22 अप्रैल 2024: v0.10.0 ने नया reports tab पेश किया, jo team-based analytics देता है.
    • 19 अप्रैल 2024: Tabby ने code completion के लिए local relevant snippets को integrate किया.
    • 17 अप्रैल 2024: CodeGemma और CodeQwen model series को official registry में जोड़ा गया.
    • 20 मार्च 2024: v0.9 ने full-featured admin UI को प्रमुखता से पेश किया.
    • 23 दिसंबर 2023: SkyPilot के SkyServe के जरिए Tabby को cloud पर आसानी से deploy किया जा सकता है.
    • 15 दिसंबर 2023: v0.7.0 team management और secure access प्रदान करता है.
    • 15 अक्टूबर 2023: RAG-based code completion, v0.3.0 में enabled हुआ.
    • 27 नवंबर 2023: v0.6.0 जारी.
    • 9 नवंबर 2023: v0.5.5 में UI redesign और performance improvements शामिल हैं.
    • 24 अक्टूबर 2023: VSCode/Vim/IntelliJ के Tabby IDE plugin के लिए बड़ा update.
    • 4 अक्टूबर 2023: Tabby द्वारा supported latest models को model directory में देखा जा सकता है.
    • 18 सितंबर 2023: Apple के M1/M2 Metal inference support को v0.1.1 में जोड़ा गया.
    • 31 अगस्त 2023: Tabby का पहला stable version v0.0.1 जारी.
    • 28 अगस्त 2023: CodeLlama 7B के लिए experimental support.
    • 24 अगस्त 2023: Tabby, JetBrains Marketplace में सूचीबद्ध हुआ.

  • शुरू करना

    • documentation में installation, IDE/editor extensions, और configuration के तरीके देखे जा सकते हैं.

  • कम्युनिटी

    • Twitter/X, LinkedIn, और newsletter के जरिए TabbyML से जुड़ा जा सकता है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-01-13
Hacker News प्रतिक्रियाएँ

  • एक उपयोगकर्ता ने कहा कि यह एक अच्छा प्रोडक्ट हो सकता है, लेकिन इंटरव्यू प्रक्रिया भयानक थी। कई दौर के इंटरव्यू हुए, लेकिन आख़िरी इंटरव्यू के बाद बिना किसी स्पष्टीकरण के संपर्क टूट गया। ब्लॉग पोस्ट लिखने के बाद भी कई महीनों तक कोई जवाब नहीं मिला, और लगातार पूछताछ करने पर ही उत्तर मिला। सभी इंटरव्यू असाइनमेंट-आधारित थे, और उन्होंने कुल 10 घंटे से अधिक समय लगाया।

  • उन्होंने कहा कि GitHub Copilot के विकल्प बताए जाने वाले टूल्स VS2022 में काम नहीं करते। उनका कहना है कि उन्हें VS2022 में इस्तेमाल किया जा सकने वाला self-hosted AI assistant चाहिए। वे सवाल उठाते हैं कि जब VS2022 plugins को सपोर्ट करता है, तो इसके विकल्प क्यों नहीं हैं।

  • एक टिप्पणी में कहा गया कि होमपेज पर findMaxElement फ़ंक्शन पूरा करने वाला डेमो वर्तमान या भविष्य का उदाहरण है। सुझाई गई 6 पंक्तियों की Python code को return max(arr) से बदला जा सकता है। उनका आकलन है कि सुझाया गया code शुरुआती स्तर का है। उन्हें चिंता है कि autocomplete फ़ीचर का अंधाधुंध उपयोग करने वाले लोग अपनी तकनीकी क्षमता में ठहराव का शिकार हो सकते हैं। स्टोरी पॉइंट्स तो मिल सकते हैं, लेकिन क्या वास्तविक कौशल बेहतर हुआ है, इस पर उन्होंने सवाल उठाया।

  • एक उपयोगकर्ता ने कहा कि उन्होंने कभी कल्पना नहीं की थी कि Tabby प्रोजेक्ट HN के पहले पेज तक पहुँचेगा। लॉन्च के बाद Tabby ने काफ़ी प्रगति की है और अब यह code completion और codebase chat जैसी क्षमताओं वाला एक व्यापक AI developer platform बन गया है। उनके अनुसार, Tabby ही एकमात्र ऐसा platform है जो self-service onboarding अनुभव देता है। उनका कहना है कि इसका performance भी बाज़ार के दूसरे विकल्पों के बराबर है। अगर जिज्ञासा हो तो इसे आज़माने की सलाह दी गई।

  • local AI से परिचित न होने वाले एक उपयोगकर्ता ने कहा कि वे Tabby को आज़माना चाहते हैं। वे जानना चाहते हैं कि "run tabby in 1 minute" की तुलना chatgpt के मुफ़्त 4o-mini से कैसी है। उन्होंने पूछा कि क्या मध्यम स्पेक वाले MacBook Pro पर Docker command चलाकर तेज़ और सक्षम AI इस्तेमाल किया जा सकता है। जवाब में कहा गया कि M1/M2 की computing power सीमित है और यह शायद केवल व्यक्तिगत उपयोग के लिए उपयुक्त होगी। यदि टीम के लिए shared instance चाहिए, तो CUDA या ROCm के साथ Docker hosting पर विचार करने की सलाह दी गई।

  • एक टिप्पणी में कहा गया कि Community Edition में IDE/Extensions telemetry को बंद नहीं किया जा सकता। उन्होंने पूछा कि इस telemetry data में क्या शामिल होता है।

  • एक उपयोगकर्ता ने कहा कि सभी उदाहरण ऐसे code हैं जिन्हें लाइब्रेरी में पाया जा सकता है। उनका मानना है कि कुछ code की गुणवत्ता संदिग्ध है। उन्हें चिंता है कि LLMs codebase में spam bots बन सकते हैं।

  • एक टिप्पणी में कहा गया कि बड़े कॉरपोरेशनों को data भेजे बिना और TOS पर भरोसा कर सकने वाला विचार अच्छा है। उनका कहना है कि coding assistant की प्रभावशीलता context length के अनुपात में होती है, जबकि कंप्यूटर पर चलाए जा सकने वाले open models आम तौर पर छोटे होते हैं। वे अधिक जटिल codebases में इसकी उपयोगिता को मापने वाले डेटा देखना चाहते हैं।

  • एक उपयोगकर्ता ने कहा कि वे काम पर self-hosted AI solutions की जाँच कर रहे हैं। उन्हें जिज्ञासा है कि यह कंपनी revenue कैसे कमाती है। उन्होंने पूछा कि free/community/open source options मौजूद होने पर "अधिकतम 5 users" की निगरानी कैसे की जाती है। वे यह भी जानना चाहते हैं कि अगर 5 से अधिक users हों तो क्या होता है।

  • एक टिप्पणी में कहा गया कि Tabby केवल single GPU उपयोग को सपोर्ट करता है। कई GPU इस्तेमाल करने के लिए कई Tabby instances शुरू करने होंगे और CUDA_VISIBLE_DEVICES या HIP_VISIBLE_DEVICES सेट करना होगा। उन्होंने पूछा कि क्या NVLink से जुड़े दो GPU का उपयोग सपोर्ट नहीं है, या NVLink दो GPU को एक की तरह मानता है, इसलिए स्थिति अलग है।