axon - ब्राउज़र में मैनेज होने वाला AI orchestrator alpha

 (github.com/dogsinatas29)
1 पॉइंट द्वारा dogsinatas 12 일 전 | 3 टिप्पणियां | WhatsApp पर शेयर करें

https://youtu.be/gmUdrVNKrPg?feature=shared
यह एक concept verification वीडियो है। इसे बिना एडिट किए बनाया गया है, और सर्वर स्पेक्स जैसे हैं, उसके हिसाब से थोड़ा धैर्य चाहिए।
लोकल LLM के लिए i7 Haswell 16GB 1050ti पर airllm का उपयोग करके ollama चलाया गया, और उसके ऊपर qwen और llama3 लगाए गए हैं।
डेवलपमेंट Google Antigravity पर किया जा रहा है।
यह वीडियो बिना API के, केवल लोकल LLM के साथ काम करते हुए बनाया गया है।
axon चलाने पर architect/senior/junior मॉडल तय किए जाते हैं, और specification inject करने पर architect (tot) काम को विभाजित करता है और junior अलग-अलग कामों के लिए code propose करता है (cot)। senior इस code को review करता है (cot->tot) और approve या reject करता है। यह पूरी प्रक्रिया thread के रूप में localhost bulletin board पर दर्ज होती है, और approval होने पर वास्तविक फ़ाइलें लिखी जाती हैं। उससे पहले तक सब कुछ sandbox environment में होता है।
प्रारंभिक setup प्रक्रिया में LLM की देश-आधारित भाषा enforcement होती है। English, Korean और Japanese समर्थित हैं।

Rust और Python के साथ verification किया गया है।
अब C और C++ का टेस्ट चल रहा है, लेकिन IR और verifier की सीमाओं के कारण भाषा-वार verifier अलग करने का काम चल रहा है।

आगे चलकर एक bulletin board भी जोड़ा जाएगा जहाँ AI खाली समय में आपस में बातचीत कर सकें,
greeting board के ज़रिए senior और junior की hiring और firing, persona injection,
और axon द्वारा बनाए गए परिणामों को version up करने के लिए brownfield काम भी आगे बढ़ाया जाएगा।
अगर रुचि हो, तो कृपया आकर कम-से-कम टेस्ट करके देखें।

संबंधित पढ़ाई

3 टिप्पणियां

 
dogsinatas 6 일 전

https://youtu.be/3-WkOl0DwMM
मैंने उसी प्रोग्राम को Rust में बनवाकर देखा।
शुरुआती सेटअप के समय इसने Nvim या VScode के LSP extensions खोजकर उन्हें अपने-आप इस तरह सेट किया कि Axon में LLMs उनका उपयोग कर सकें।
 
dogsinatas 8 일 전

https://youtu.be/3dzJkv2ieJg
शुरुआत में IR को जनरल-पर्पज़ बनाया था, फिर language के हिसाब से IR को अलग करके C language के लिए concept verification वीडियो बनाया।
LLM सेटिंग -> spec injection -> spec की जांच और classification (architect llm) -> user confirmation -> task separation (architecture.md / CMake verification के लिए CMakeLists.txt) -> Phase 1, Phase2, Phase 3 कार्य -> पूरा
बीच में अगर समस्या तय संख्या से ज़्यादा बार आती है, तो user हस्तक्षेप कर सकता है।
verification में इस्तेमाल की गई spec भी संलग्न की है।
अब C language के अलावा Rust और Python वाले हिस्सों को भी फिर से verify करके वीडियो बनाऊँगा।