AI context files (CLAUDE.md, .cursorrules आदि) इस्तेमाल करने वाले प्रोजेक्ट्स पर काम करते समय मैं API बिल देखकर बार-बार चौंक जाता था। मुझे पता चला कि सिर्फ file size से token cost का सही अनुमान लगाना मुश्किल है.

इसलिए मैंने Token Limit नाम का एक CLI tool बनाया:

  • official tokenizer का इस्तेमाल करके वास्तविक token count की गणना
  • tokens या dollars में budget सेट करने की सुविधा("100k", "$0.50")
  • CI के साथ integration करके production में लागू करने से पहले महंगे बदलावों का पहले से पता लगाना
  • सभी नवीनतम मॉडल्स का समर्थन (GPT-4, Claude 3.5, o1 आदि)

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.