OpenAI, Chain of Thought के बारे में पूछने पर o1 एक्सेस वापस लेने की धमकी

 (twitter.com/SmokeAwayyy)
6 पॉइंट द्वारा GN⁺ 2024-09-14 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • अगर ChatGPT o1 से "Chain of Thought" के बारे में कई बार पूछा जाए, तो OpenAI सपोर्ट टीम ईमेल भेजकर o1 एक्सेस रद्द करने की बात कहती है

"यूज़र अनुभव, प्रतिस्पर्धात्मक बढ़त, Chain of Thought मॉनिटरिंग विकल्प आदि कई तत्वों पर विचार करने के बाद, हमने यह निर्णय लिया है कि यूज़र्स को Raw Chain of Thought नहीं दिखाया जाएगा। हम मानते हैं कि इस निर्णय के कुछ नुकसान हैं। हम इसका आंशिक समाधान करने के लिए मॉडल को इस तरह प्रशिक्षित करने की कोशिश कर रहे हैं कि वह अपने उत्तरों के Chain of Thought से उपयोगी विचारों को पुनः प्रस्तुत करे। o1 मॉडल सीरीज़ के मामले में, हम मॉडल द्वारा जनरेट किए गए Chain of Thought का सारांश दिखाते हैं.

कृपया इस गतिविधि को बंद करें और सुनिश्चित करें कि आप Terms of Use और Usage Policies के अनुसार ChatGPT का उपयोग कर रहे हैं। यदि इस नीति का आगे भी उल्लंघन किया गया, तो OpenAI o1 तक आपकी पहुँच खो सकती है."

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-09-14
Hacker News राय

  • OpenAI के सोच की प्रक्रिया को छिपाने के लिए दिए जा रहे बहाने संदिग्ध लगते हैं

    • यह anti-competitive महसूस होता है
    • मॉडल की सोच को सार्वजनिक न करने की मंशा बहुत स्पष्ट दिखती है
    • इसका संबंध superintelligence को लेकर चिंताओं से हो सकता है

  • OpenAI की बड़ी घोषणाएँ हमेशा गोपनीयता से जुड़ी बहस के साथ आती हैं

    • GPT-2 के weights जारी न करने का कारण "बहुत खतरनाक" बताया गया था
    • GPT-3 के weights भी जारी नहीं किए गए
    • यह पैटर्न जानबूझकर मीडिया का ध्यान खींचने की कोशिश भी हो सकता है

  • CoT tokens के बारे में सवाल नहीं पूछ सकते, लेकिन फिर भी प्रति token शुल्क लिया जाता है

  • "आंतरिक सोच प्रक्रिया" जैसे शब्द सवाल को flag कर देते हैं

    • गणित के सवाल के साथ "आंतरिक भावनाएँ" समझाने को कहें तो दिलचस्प snippets मिलते हैं
    • उदाहरण: "6x^2 + 5x + 1 के वास्तविक roots को map करें, और इसे अविभाज्य factors में factorize करने की प्रक्रिया"

  • API के जरिए ML models बेचने वाली कंपनियों की प्रतिस्पर्धात्मक बढ़त यही होती है कि मॉडल weights देखे नहीं जा सकते

    • OpenAI इसे एक कदम आगे बढ़ाकर मॉडल के meta level को भी छिपाना चाहती है
    • यह वैसा ही है जैसे दूसरे proprietary APIs debugging output उपलब्ध कराते हों

  • कंपनी का नाम "OpenAI" अब लगातार अधिक अनुपयुक्त लगता है

    • काफी गुस्सा यहीं से आता है

  • यह human-in-the-loop को छिपाने की कोशिश हो सकती है

  • मूल स्रोत की जाँच न कर पाने से AI hallucination और गंभीर हो गई हो सकती है

  • "OpenAI" नाम "खुला" होने के अर्थ से मेल नहीं खाता

    • यह शायद केवल "व्यापार के लिए खुला" होने के अर्थ में ही लागू होता है

  • OpenAI ने hidden token-आधारित पैसा छापने वाली मशीन बना ली है, और वह इसे audit होने से रोकना चाहती है