GPT-4 के Native JSON Output को समझना

• नई जोड़ी गई function calling सुविधा के जरिए, LLM को अपने प्रोडक्ट से जोड़ना काफी आसान हो गया है
  • functions में JSON schema के साथ function बनाया जाता है, और function_call से function कॉल करने पर JSON output लौटता है
• Prompt engineering से भी JSON output बनाया जा सकता है, लेकिन यह तरीका कहीं ज़्यादा उपयोगी है
• यह बहुत कम tokens इस्तेमाल करता है, इसलिए लागत भी कम आती है
• structured data देने वाले backend API को natural language का उपयोग करके तेज़ी से लिखा जा सकता है