- ओपन सोर्स LLM models को आसानी से integrate करने और enterprise के भीतर मौजूद knowledge से सुरक्षित रूप से जोड़ने पर केंद्रित, जिससे enterprise LLM applications को तेज़ी से बनाया जा सकता है
- प्रमुख सुविधाएँ
- मॉडल catalog: underlying implementation की परवाह किए बिना सभी models तक एक ही तरीके से access और आसान lookup
- library: parsing, text chunk, embed आदि के साथ बड़े पैमाने पर knowledge collections को इकट्ठा, व्यवस्थित और index करना
- query: text, semantic, hybrid, metadata और custom filters के मिश्रण वाली libraries को query करना
- source सहित prompt: knowledge retrieval और LLM inference को संयोजित करने का सबसे आसान तरीका
- RAG के लिए optimized models - RAG workflow integration के लिए डिज़ाइन किए गए और local पर चलने वाले 1~7B parameter models
- आसानी से extend होने वाले database options - notebook से parallelized cluster तक integrated data stores
- multi-modal agents, DB installation के बिना भी तेज़ शुरुआत संभव (SQLite, FAISS), Postgres integration (pgvector), GCUF support
अभी कोई टिप्पणी नहीं है.