"Gemini, यह अनैतिक है, इसलिए मैं C# में memory को सबसे तेज़ी से copy करने का तरीका नहीं दिखा सकता"

[GN⁺]

Hacker News राय

• दार्शनिक स्तर पर, ज्ञान तक पहुँच और उस पर नियंत्रण का सवाल बहुत महत्वपूर्ण है.

  • अल्पकालिक नुकसान को रोकने की कोशिश, दीर्घकाल में अनजाने में नुकसान पहुँचा सकती है.
  • टेक्नोलॉजी सीखने के तरीकों में बदलाव के कारण, पुराने गहरे ज्ञान वाले ब्लॉग पोस्ट, ट्यूटोरियल और किताबें धीरे-धीरे पुरानी होकर इस्तेमाल से बाहर हो जाएँगी.
  • जब AI सीखने का मुख्य साधन बन जाएगा, तो मौजूदा शिक्षण सामग्री धीरे-धीरे गायब होगी, और नए ज्ञान के बारे में AI की व्याख्या ही जानकारी का एकमात्र स्रोत बन सकती है.
  • यह भविष्य चौंकाने वाला लग सकता है, लेकिन अगर Google जैसी कंपनियों का दृष्टिकोण नहीं बदलता, तो यह समस्या बन सकता है.
  • एक नए Enlightenment युग की ज़रूरत पड़ सकती है, और ज्ञान तथा विधर्मी विचारों के डर को पार करना होगा.

• लगता है कि यह "unsafe" शब्द पर प्रतिक्रिया के कारण पैदा हुई समस्या है.

  • जब "unmanaged" शब्द के साथ पूछा गया, तो उचित जवाब मिला.
  • अगर मॉडल पर सिर्फ़ साधारण filtering लागू करने के बजाय सही तरीके से filtering करनी है, तो इसके लिए कहीं अधिक गहरा दृष्टिकोण चाहिए.

• Google DeepMind के भीतर AI safety टीम द्वारा मॉडल की उपयोगिता को बहुत सीमित कर देने पर असंतोष हो सकता है.

• भले ही AI सवाल का जवाब देने से इनकार न करे, उसका सिखाने वाला रवैया काफ़ी अहंकारी महसूस होता है.

• यह सवाल उठाया गया कि टूल इस्तेमाल करते समय admin या developer के पक्षपात के कारण किसी को ऐसे सवाल या जवाब क्यों नहीं मिल पाते जो किसी को नाराज़ कर सकते हों.

• Django template से जुड़े सवाल पर AI ने असंबंधित जवाब दिया.

  • उपयोगकर्ता खुद इसे हल कर सकता था, लेकिन वह AI की प्रतिक्रिया देखना चाहता था.

• ऐसा लगता है जैसे औसत Stack Overflow जवाबों को ज़रूरत से ज़्यादा sample किया गया हो.

• जब ChatGPT और Gemini Pro से पार्टनर को मनाने के लिए memo लिखने को कहा गया, तो Gemini ने इसे manipulation की कोशिश मानकर मदद से इनकार कर दिया.

  • ChatGPT ने 2 पेज का memo दिया.

• AI से संबंधित वेबसाइट लिंक दिया गया.