Token Limit - AI टूल्स में code और config files द्वारा खर्च होने वाले tokens की निगरानी करें.
(github.com/azat-io)AI context files (CLAUDE.md, .cursorrules आदि) इस्तेमाल करने वाले प्रोजेक्ट्स पर काम करते समय मैं API बिल देखकर बार-बार चौंक जाता था। मुझे पता चला कि सिर्फ file size से token cost का सही अनुमान लगाना मुश्किल है.
इसलिए मैंने Token Limit नाम का एक CLI tool बनाया:
- official tokenizer का इस्तेमाल करके वास्तविक token count की गणना
- tokens या dollars में budget सेट करने की सुविधा(
"100k","$0.50") - CI के साथ integration करके production में लागू करने से पहले महंगे बदलावों का पहले से पता लगाना
- सभी नवीनतम मॉडल्स का समर्थन (GPT-4, Claude 3.5, o1 आदि)
अभी कोई टिप्पणी नहीं है.