OpenLM - कई LLM कॉल करने वाला OpenAI-संगत Python client
(github.com/r2d4)- OpenAI के API जैसे ही parameters के साथ HuggingFace, Cohere और अपने models सहित अन्य LLM को कॉल किया जा सकता है
- फिलहाल केवल Completion Endpoint समर्थित है, लेकिन Streaming/Embeddings जैसे endpoints भी जोड़े जाने की योजना है
- मौजूदा code में
import openlm as openaiकरके उसी तरह इस्तेमाल किया जा सकता है
अभी कोई टिप्पणी नहीं है.