[ओपन सोर्स] iOS और MacOS को सपोर्ट करने वाला मल्टी LLM क्लाइंट - LLM Bridge

 (github.com/bipark)
11 पॉइंट द्वारा rtlink 2025-06-22 | अभी कोई टिप्पणी नहीं है. | WhatsApp पर शेयर करें

पहले मैंने iOS और MacOS के लिए अलग-अलग Ollama-विशेष LLM क्लाइंट बनाकर उन्हें ओपन सोर्स के रूप में जारी किया था, लेकिन अब Swift/SwiftUI आधारित iOS और MacOS कोड को एकीकृत करके और सपोर्ट करने वाले API जोड़कर इसे नए सिरे से फिर बनाया है.

  • लोकल LLM के रूप में Ollama और LMStudio को सपोर्ट करता है.
    • अगर उस कंप्यूटर पर, जिसमें Ollama में LLM इंस्टॉल है, port को बाहर के लिए open कर दिया जाए, तो remote से भी मुफ्त LLM इस्तेमाल किया जा सकता है.
    • LMStudio अपनी UI वाला लोकल LLM मैनेजमेंट प्रोग्राम है, जिसमें HuggingFace से models खोजकर इंस्टॉल किए जा सकते हैं, इसलिए अलग-अलग models के साथ प्रयोग किया जा सकता है.
    • LLM Bridge में ip और port सेट करके इंस्टॉल किए गए models का उपयोग करते हुए queries के जवाब प्राप्त किए जा सकते हैं.
  • OpenAI सपोर्ट
    • API key जारी करवाकर उसे ऐप में दर्ज करने और API calls के ज़रिए ChatGpt का उपयोग किया जा सकता है.
    • API का उपयोग करना हर महीने सदस्यता शुल्क(?) देने की तुलना में सस्ता पड़ सकता है.
  • Claude सपोर्ट
    • API Key का उपयोग
  • इमेज सपोर्ट करने वाले models के लिए इमेज भेजना संभव
  • PDF और TXT फ़ाइल सपोर्ट
    • PDFKit का उपयोग करके टेक्स्ट निकालने के बाद भेजना
    • टेक्स्ट फ़ाइल सपोर्ट
  • ओपन सोर्स
    • Swift/SwiftUI
  • सोर्स लिंक

संबंधित पढ़ाई

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.