Token Cost - 400+ LLM के लिए प्रति टोकन लागत की गणना
(github.com/AgentOps-AI)- प्रॉम्प्ट और पूर्ण उत्तर की अनुमानित लागत की गणना करके प्रमुख LLM API के उपयोग की लागत निकालना
- प्रत्येक LLM प्रदाता के नवीनतम मॉडल और कीमतों को ट्रैक करना
- प्रॉम्प्ट भेजने से पहले टोकन संख्या और जनरेट किए गए उत्तर के टोकन की संख्या मापकर, प्रत्येक LLM की प्रति-टोकन लागत के आधार पर कुल राशि की गणना करना
- अपने LLM इंटीग्रेशन सिस्टम में केवल 1 फ़ंक्शन के साथ जोड़कर उपयोग किया जा सकता है
अभी कोई टिप्पणी नहीं है.