अगर मौजूदा AI guideline तरीकों को AI को सही व्यवहार की ओर ले जाने के लिए नैतिक शिक्षा (training) देने जैसा माना जाए,
तो जिस क्षण कोई उपयोगकर्ता adversarial attack तकनीकों के ज़रिए jailbreak की कोशिश करे, उसी क्षण उस उपयोगकर्ता के signal को ज़बरदस्ती block करने वाला kernel-स्तर का
स्विच बनाने के बारे में आप क्या सोचते हैं, इस पर मैं आप सबकी राय जानना चाहता हूँ.
5 टिप्पणियां
यहाँ जिस kernel की बात हो रही है, वह operating system kernel है, CUDA kernel है, या LLM system instructions को kernel कहा जा रहा है—यह स्पष्ट नहीं है।
https://github.com/PJHkorea/value-system-kernel
फ़िलहाल बस एक मोटा ढांचा ही बनाया है।
सोचा कि खतरनाक शब्दों के vector values लोड किए गए memory addresses को manage किया जाए तो कैसा रहेगा।
यह CUDA kernel की तरफ़ है
प्रोग्राम लिख रहे हैं?
एक तो बना रखा है
लेकिन मन को बिल्कुल नहीं भा रहा
फिलहाल सिर्फ़ बुनियादी ढांचा बना दिया है