Web LLM - WebGPU के साथ ब्राउज़र में LLM को तेज़ करके चलाना

• सर्वर के बिना ब्राउज़र में LLaMA, Vicuna जैसे LLM को WASM का उपयोग करके चलाना
• WebGPU से acceleration, लेकिन इसके अलावा Apache TVM द्वारा समर्थित GPU backends (CUDA, OpenCL, Vulkan) भी समर्थित
• MLC (Machine Learning Compilation) तकनीक का उपयोग