23 पॉइंट द्वारा xguru 2023-03-02 | 4 टिप्पणियां | WhatsApp पर शेयर करें
  • अब ChatGPT और Speech-To-Text फीचर को अपने ऐप्स के भीतर इस्तेमाल किया जा सकता है
  • दिसंबर में ChatGPT की घोषणा के बाद optimization के जरिए 90% लागत में कमी हासिल की गई, और इसका लाभ API users को दिया जा रहा है

ChatGPT API

  • gpt-3.5-turbo मॉडल का उपयोग करता है, और यह वही मॉडल है जो अभी ChatGPT प्रोडक्ट में इस्तेमाल हो रहा है
    • 1k tokens पर $0.002, यानी मौजूदा GPT-3.5 की तुलना में 10 गुना सस्ता
    • चैट के अलावा अन्य उद्देश्यों के लिए भी यह सबसे अच्छा मॉडल है, और मौजूदा text-davinci-003 को आसानी से gpt-3.5-turbo में बदला जा सकता है (बदलने की सिफारिश)
  • API tokens से बने unstructured text को input के रूप में लेता है
    • अंदरूनी तौर पर यह ChatML नाम के token sequence के रूप में render होता है
  • gpt-3.5-turbo को लगातार नए version में upgrade किया जाता रहेगा. अभी gpt-3.5-turbo-0301 उपलब्ध है और 6/1 तक supported रहेगा
  • अप्रैल में एक नया stable version जारी करने की योजना है
  • Dedicated Instance भी अलग से उपलब्ध है (लंबे context का support और रोज़ 45 करोड़ से अधिक tokens चलाने वाले users के लिए उपयुक्त)

Whisper API

  • सितंबर 2022 में open source के रूप में जारी किया गया Speech-To-Text मॉडल
  • डेवलपर कम्युनिटी में इसे अच्छी प्रतिक्रिया मिली, लेकिन इसे operate करना कठिन था
  • large-v2 मॉडल API के रूप में उपलब्ध है, कीमत $0.006/मिनट
  • transcriptions / translations endpoints में इस्तेमाल किया जा सकता है
  • m4a, mp3, mp4, mpeg, mpga, wav, webm फॉर्मैट सपोर्ट

शुरुआती उपयोग करने वाली कंपनियाँ

  • Snap : Snapchat+ के लिए ChatGPT-आधारित My AI chatbot उपलब्ध करा रहा है. यह recommendation देता है और दोस्तों के लिए कविताएँ (haiku) लिखता है
  • Quizlet : ChatGPT को Q-Chat में लागू किया गया, जो एक adaptive AI tutor है और पढ़ाई के इतिहास के अनुसार सवाल पूछता है
  • Instacart : खाने से जुड़े सवाल पूछने और जवाब पाने वाली Ask फीचर में लागू किया
  • Shopify : Shop ऐप में shopping assistant फीचर जोड़ा
  • Speak (Korea) : Whisper API का उपयोग करने वाला language learning ऐप.

4 टिप्पणियां

 
frogred8 2023-03-02

मूल लेख में यह 1k tokens पर $0.002 लिखा है।

It is priced at $0.002 per 1k tokens

और tokens की परिभाषा क्या है, यह जानने के लिए मैंने थोड़ा और खोजा, तो लगता है कि यह input/output के अक्षरों की संख्या के अनुसार तय होता है।

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

 
xguru 2023-03-02

अरे, एक महत्वपूर्ण हिस्से में टाइपो था ;_; उसे ठीक कर दिया है

 
lukaid 2023-03-02

हर हफ्ते नई AI खबरें उमड़ रही हैं.. उत्साह भी होता है, और डर भी लगता है.. लेकिन ट्रेंड से पीछे न छूटने की कोशिश में थकान भी काफ़ी महसूस होती है।

 
functor 2023-03-02

OpenAI वाकई कमाल है।