FullMoon - Mac/iOS के लिए ओपन सोर्स लोकल LLM ऐप

• Apple Silicon के लिए optimized लोकल LLM और private बातचीत संभव
  • Llama-3.2-1B/3B-Instruct-4bit, DeepSeek-R1-Distill-Qwen-1.5B-4/8bit जैसे 4 मॉडल
• theme/font/system prompt को personalize किया जा सकता है
• Shortcut के साथ integration सपोर्ट
• मुफ्त/open source है, और Mac App Store तथा iOS App Store से डाउनलोड किया जा सकता है
• Swift MLX + Metal 3

[jyha81]

अभी तक यह सिर्फ़ एक ऐप ही है, लेकिन थोड़ा दिलचस्प लगा।

[dicebattle]

iOS पर भी इसे चला पाना अच्छा लग रहा है.
Mac पर तो बस lmstudio...

[laeyoung]

यहाँ तक कि Apple Vision का भी सपोर्ट है, इसलिए अगर सिर्फ Audio Input तक आ जाए तो बढ़िया रहेगा।

[yangeok]

ओह, तो यह ollama से फ़र्क है... यह एक app है, हाहा