AI applications के लिए नया Language Model Stack

• Sequoia जिन लगभग सभी कंपनियों में निवेश करता है, वे अपने प्रोडक्ट में ChatGPT जैसे LLM अपना रही हैं
• अपने नेटवर्क की कंपनियों के सर्वे के आधार पर उन्होंने 2 AI stacks को व्यवस्थित किया

LLM API Stack

• LLM APIs : OpenAI, Anthropic, Cohere
• Vector DB: AWS, pgvector, Pinecone, Qdrant, Weaviate, Chroma
• Frameworks: LangChain, LlamaIndex, Anarchy
• Text-To-Speech: Resemble.AI, ElevenLabs, Wellsaid
• Monitoring: DISTYL, Guardrails, Helicone, HoveHive, Autoblocks

Custom Model Training / Tuning Stack

• Compute: AWS, Azure, Google Cloud, Foundary, Lamba, MosaicML, Modal, Fireworks.ai
• Model Hub: Hugging Face, Replicate
• Frameworks: PyTorch, TensorFlow
• Experimentation: Weights & Biases
• Monitoring/Observability: Robust Intelligence, Gantry, Arthur, arise, Whylabs
• Hosting: Replicate, HuggingFace

मुख्य बिंदु

• ज्यादातर कंपनियां LLM को अपने प्रोडक्ट में बना रही हैं
• फोकस language model API, search और orchestration पर है; open source का उपयोग बढ़ रहा है
• कंपनियां language model को अपने context के अनुसार customize करना चाहती हैं
• अभी LLM API stack और model training stack अलग दिखते हैं, लेकिन समय के साथ इनके एक होने की संभावना है
• stack लगातार अधिक developer-friendly बन रहा है
• language model को पूरी तरह अपनाने के लिए उसकी reliability (quality, data privacy, security) बढ़ानी होगी
• language model applications आगे चलकर और अधिक multimodal होंगी
• अभी यह बेहद शुरुआती चरण में है

[gcback]

मौजूदा डेवलपमेंट environment की स्थिति अच्छी तरह समझ में आती है।
लेकिन हमारे देश के मामले में यह किस स्तर पर होगा?

[bigbreadguy]

Vector DB सूची में Seaviate शायद Weaviate नाम के vector database की टाइपो लग रहा है!

[xguru]

जल्दी से ठीक कर दिया h