• Python में फ़ंक्शन की जगह LLM को आसानी से कॉल किया जा सकता है, और यह वही parameters और outputs देता है जिनकी उम्मीद हाथ से implement किए गए फ़ंक्शन से की जाती है
    • LLM-आधारित फ़ंक्शन well-typed, reliable और stateless होते हैं, इसलिए इन्हें सीधे production app में जोड़ा जा सकता है
  • फ़ंक्शन जितने अधिक उपयोग किए जाते हैं, automatic model distillation के ज़रिए लागत अधिकतम 9~10 गुना तक कम हो सकती है
  • RAG और output alignment का समर्थन

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.