- LLM (बड़े भाषा मॉडल) से प्राकृतिक भाषा में क्वेरी की जा सकती है, लेकिन कभी-कभी LLM इंसानी इरादे को ठीक से समझ नहीं पाता
- स्विट्ज़रलैंड के ETH Zürich के SRIlab (Secure, Reliable, and Intelligent Systems Lab) के शोधकर्ताओं ने इसे हल करने के लिए LMP (Language Model Programming) नाम की अवधारणा पेश की
- LMP अवधारणा को लागू करने वाली भाषा और प्लेटफ़ॉर्म ही LMQL (Language Model Query Language) है
- SQL स्टेटमेंट जैसी declarative syntax
- LLM के output पर स्पष्ट constraints लगाकर, काम करने के तरीके को इस तरह नियंत्रित करता है कि अनपेक्षित परिणाम न आएं
- Python में इम्प्लीमेंट किया गया है, इसलिए AI query में Python functions या control flow का उपयोग किया जा सकता है
- OpenAI API के ज़रिए GPT-4 और लोकली होस्ट किए गए transformer models का उपयोग संभव
- token consumption बचाने के कारण paid API उपयोग लागत में 26~85% तक कमी संभव
- पेपर: https://doi.org/10.48550/arXiv.2212.06094
- दस्तावेज़: https://docs.lmql.ai/
- Playground: https://lmql.ai/playground
- Github: https://github.com/eth-sri/lmql
अभी कोई टिप्पणी नहीं है.