OpenAI ने ChatGPT और Whisper API जारी किए

• अब ChatGPT और Speech-To-Text फीचर को अपने ऐप्स के भीतर इस्तेमाल किया जा सकता है
• दिसंबर में ChatGPT की घोषणा के बाद optimization के जरिए 90% लागत में कमी हासिल की गई, और इसका लाभ API users को दिया जा रहा है

ChatGPT API

• gpt-3.5-turbo मॉडल का उपयोग करता है, और यह वही मॉडल है जो अभी ChatGPT प्रोडक्ट में इस्तेमाल हो रहा है
  • 1k tokens पर $0.002, यानी मौजूदा GPT-3.5 की तुलना में 10 गुना सस्ता
  • चैट के अलावा अन्य उद्देश्यों के लिए भी यह सबसे अच्छा मॉडल है, और मौजूदा text-davinci-003 को आसानी से gpt-3.5-turbo में बदला जा सकता है (बदलने की सिफारिश)
• API tokens से बने unstructured text को input के रूप में लेता है
  • अंदरूनी तौर पर यह ChatML नाम के token sequence के रूप में render होता है
• gpt-3.5-turbo को लगातार नए version में upgrade किया जाता रहेगा. अभी gpt-3.5-turbo-0301 उपलब्ध है और 6/1 तक supported रहेगा
• अप्रैल में एक नया stable version जारी करने की योजना है
• Dedicated Instance भी अलग से उपलब्ध है (लंबे context का support और रोज़ 45 करोड़ से अधिक tokens चलाने वाले users के लिए उपयुक्त)

Whisper API

• सितंबर 2022 में open source के रूप में जारी किया गया Speech-To-Text मॉडल
• डेवलपर कम्युनिटी में इसे अच्छी प्रतिक्रिया मिली, लेकिन इसे operate करना कठिन था
• large-v2 मॉडल API के रूप में उपलब्ध है, कीमत $0.006/मिनट
• transcriptions / translations endpoints में इस्तेमाल किया जा सकता है
• m4a, mp3, mp4, mpeg, mpga, wav, webm फॉर्मैट सपोर्ट

शुरुआती उपयोग करने वाली कंपनियाँ

• Snap : Snapchat+ के लिए ChatGPT-आधारित My AI chatbot उपलब्ध करा रहा है. यह recommendation देता है और दोस्तों के लिए कविताएँ (haiku) लिखता है
• Quizlet : ChatGPT को Q-Chat में लागू किया गया, जो एक adaptive AI tutor है और पढ़ाई के इतिहास के अनुसार सवाल पूछता है
• Instacart : खाने से जुड़े सवाल पूछने और जवाब पाने वाली Ask फीचर में लागू किया
• Shopify : Shop ऐप में shopping assistant फीचर जोड़ा
• Speak (Korea) : Whisper API का उपयोग करने वाला language learning ऐप.

[frogred8]

मूल लेख में यह 1k tokens पर $0.002 लिखा है।

It is priced at $0.002 per 1k tokens

और tokens की परिभाषा क्या है, यह जानने के लिए मैंने थोड़ा और खोजा, तो लगता है कि यह input/output के अक्षरों की संख्या के अनुसार तय होता है।

The number of tokens processed in a given API request depends on the length of both your inputs and outputs. As a rough rule of thumb, 1 token is approximately 4 characters or 0.75 words for English text.

[xguru]

अरे, एक महत्वपूर्ण हिस्से में टाइपो था ;_; उसे ठीक कर दिया है

[lukaid]

हर हफ्ते नई AI खबरें उमड़ रही हैं.. उत्साह भी होता है, और डर भी लगता है.. लेकिन ट्रेंड से पीछे न छूटने की कोशिश में थकान भी काफ़ी महसूस होती है।

[functor]

OpenAI वाकई कमाल है।