ChatGPT Enterprise लॉन्च

 (openai.com)
1 पॉइंट द्वारा GN⁺ 2023-08-29 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कंपनियों में ChatGPT को संगठन के भीतर सुरक्षित रूप से deploy करने की मांग बढ़ने पर OpenAI ने एंटरप्राइज के लिए ChatGPT Enterprise लॉन्च किया
  • कंपनी का डेटा और बातचीत model training में इस्तेमाल नहीं किए जाएंगे, और SOC 2 compliance, stored और in-transit encryption, admin console, SSO उपलब्ध कराए जाएंगे
  • GPT‑4 usage limit हटाई गई है और इसमें अधिकतम 2 गुना तेज performance, 32k context, unlimited advanced data analysis शामिल है
  • ChatGPT लॉन्च के 9 महीनों के भीतर Fortune 500 कंपनियों में से 80% से अधिक में corporate email domain आधारित registered accounts पाए गए
  • आगे company data connection customization, छोटी teams के लिए self-serve ChatGPT Business, work analytics और browsing को बेहतर बनाना, तथा role-specific tools जोड़े जाने की योजना है

enterprise deployment को लक्ष्य बनाता ChatGPT Enterprise

  • OpenAI ने ChatGPT Enterprise लॉन्च किया
  • enterprise-grade security और privacy, ज्यादा powerful ChatGPT experience, लंबे inputs को handle करने के लिए context window, advanced data analysis, और organization-specific customization को एक product में जोड़ा गया
  • लक्ष्य यह है कि work AI assistant को संगठन के अनुसार tailor किया जाए, साथ ही company data की सुरक्षा की जाए

Fortune 500 में दिखी मांग

  • ChatGPT लॉन्च के बाद 9 महीनों में Fortune 500 कंपनियों में से 80% से अधिक में ChatGPT registered accounts पाए गए
    • यह संख्या corporate email domains से जुड़े accounts के आधार पर है
  • enterprise leaders अपने संगठनों में ChatGPT को ज्यादा आसान और सुरक्षित तरीके से deploy करने का तरीका मांगते रहे हैं
  • शुरुआती उपयोग करने वाली कंपनियों में Block, Canva, Carlyle, The Estée Lauder Companies, PwC, Zapier शामिल हैं
  • मुख्य use cases में ज्यादा स्पष्ट communication लिखना, coding work तेज करना, जटिल business questions को explore करना, और creative work में support शामिल हैं
  • Klarna, ChatGPT Enterprise integration के जरिए दुनिया भर के 150 million active users को support करने वाली employee capability और customer experience को बेहतर करना चाहता है

security, privacy, management features

  • ChatGPT Enterprise में कंपनियां business data की मालिक होती हैं और उसे control करती हैं
  • OpenAI customer के business data या conversations को model training में इस्तेमाल नहीं करता, और models भी usage history से learn नहीं करते
  • security configuration में ये शामिल हैं
    • stored data encryption: AES 256
    • in-transit encryption: TLS 1.2+
    • SOC 2 compliance
  • नया admin console large-scale enterprise deployment को support करता है
    • bulk member management
    • SSO
    • domain verification
    • usage insights के लिए analytics dashboard
  • data processing के तरीके पर अतिरिक्त जानकारी privacy page और Trust Portal पर देखी जा सकती है

GPT‑4, data analysis, workflow features

  • ChatGPT Enterprise GPT‑4 usage limit हटाता है
  • GPT‑4 performance अधिकतम 2 गुना तेज दी जाती है
  • 32k context से लंबे inputs, files, और follow-up questions handle किए जा सकते हैं
    • OpenAI इसे 4 गुना लंबे inputs या files को process करने के रूप में बताता है
  • advanced data analysis feature unlimited रूप से इस्तेमाल किया जा सकता है
    • यह feature पहले Code Interpreter के नाम से जाना जाता था
    • use cases में finance researchers द्वारा market data processing, marketers द्वारा survey results analysis, और data scientists द्वारा ETL scripts debugging शामिल हैं
  • organization-specific workflows के लिए shareable chat templates इस्तेमाल किए जा सकते हैं
  • अगर fully customized organization solutions के रूप में OpenAI को extend करना हो, तो pricing में API usage के लिए free credits शामिल हैं
  • Asana ने बताया कि ChatGPT Enterprise से teams का research time औसतन प्रति दिन 1 घंटा घटा
  • Canva ने engineers द्वारा bug resolution, data analysts द्वारा free-form data clustering, और financial analysts द्वारा spreadsheet formulas लिखने जैसे अलग-अलग use cases का उल्लेख किया

उपलब्ध features और planned expansion

  • ChatGPT Enterprise launch day से enterprise customers के लिए उपलब्ध है
  • सभी enterprise customers को मिलने वाले प्रमुख features ये हैं
    • customer prompts और company data को OpenAI model training में इस्तेमाल नहीं किया जाता
    • stored और in-transit data encryption
    • SOC 2 compliance
    • admin console, bulk member management, SSO, domain verification, analytics dashboard
    • unlimited GPT‑4 access
    • अधिकतम 2 गुना तेज GPT‑4 performance
    • unlimited advanced data analysis
    • 32k token context window
    • company के भीतर collaboration और common workflows बनाने के लिए shareable chat templates
    • fully customized solutions को extend करने के लिए OpenAI API free credits
  • तैयार की जा रही features ये हैं
    • Customization: पहले से इस्तेमाल हो रही applications को connect कर company data से ChatGPT knowledge को सुरक्षित रूप से expand करना
    • Availability for all team sizes: छोटी teams के लिए self-serve ChatGPT Business
    • Power tools: work के लिए optimized ज्यादा powerful Advanced Data Analysis और browsing
    • Solutions for your function: data analysts, marketers, customer support आदि specific roles के लिए tools
  • OpenAI आने वाले कुछ हफ्तों में जितनी संभव हो उतनी कंपनियों को onboard करने की योजना बना रहा है
  • शुरुआत करना चाहने वाली कंपनियां ChatGPT Enterprise website पर अधिक जानकारी देख सकती हैं और sales team से जुड़ सकती हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-08-29
Hacker News की राय

  • अगर वे साफ़ लिख दें कि वे enterprise data से training नहीं करेंगे और SOC 2 compliance को सामने रखें, तो कई कंपनियों के लिए निश्चिंत होकर ChatGPT को अपने work processes में अपनाना आसान हो जाएगा
    कंपनियों से LLM app platform बेचने के लिए बात करके जल्दी ही पता चल गया कि वे data sharing को लेकर कितनी संवेदनशील हैं। जिन संगठनों ने ChatGPT access block नहीं किया था, वहाँ कर्मचारी पहले से ही बहुत सारा sensitive data paste कर रहे थे, और मैंने कुछ कंपनियों को Azure के OpenAI offering के साथ chatbot-ui deploy करते भी देखा, क्योंकि Azure दावा करता है कि वह user data का इस्तेमाल नहीं करता (https://learn.microsoft.com/en-us/legal/cognitive-services/o...)
    इन कंपनियों की privacy चिंताओं को संभालने के लिए हमने अपने platform में Azure OpenAI support भी जोड़ा, और on-premises deployment support करने के लिए engine को open source भी कर दिया (LLMStack - https://github.com/trypromptly/LLMStack)

    • हमारी कंपनी Fortune 500 है और 80,000 full-time employees हैं, और हमारी policy AI या LLM tools के इस्तेमाल पर रोक लगाती है
      policy में लिखी बड़ी चिंता यह है कि training data में मौजूद दूसरों की intellectual property का अनजाने में इस्तेमाल हो सकता है। हमारा data tool में जाना भी चिंता है, लेकिन tool के data में पहले से मौजूद किसी चीज़ को हम बिना अधिकार इस्तेमाल कर बैठें, यह भी समस्या है। कैसे साबित किया जा सकता है कि ऐसा कभी नहीं होगा? मेरे दिमाग़ में एकमात्र तरीका यही आता है कि tool ने जिन सभी items पर training ली है उनकी comprehensive list दी जाए
    • जानना चाहूँगा कि आप product को commercialize करने की क्या योजना रखते हैं। ChatGPT API या Azure API के ऊपर बने chatbot-type cloud app providers बहुत ज़्यादा हैं, और मैंने ऐसे भी देखे हैं जो user से API key डालने को कहते हैं
      कंपनियाँ फिर भी ऐसे multi-tenant platforms में data डालने को लेकर बहुत सतर्क रहेंगी। encryption होने पर भी शायद पर्याप्त नहीं लगेगा। enterprise के लिए पूरी तरह isolated virtual private LLM stack की ज़रूरत लगती है
    • कई कंपनियाँ दूसरी कंपनियों का data संभालती हैं, और वे कंपनियाँ data sharing की अनुमति नहीं देतीं, इसलिए कंपनियाँ निश्चिंत होकर ChatGPT अपनाएँगी—इस बात में बड़े exceptions हैं
    • मेरी कंपनी में ChatGPT, यहाँ तक कि Bing भी firewall पर blocked है। अब अगर इस्तेमाल कर सकें तो अच्छा होगा
    • कई सालों से SOC 2 certification बनाए रखा है, और मेरी नज़र में यह ज़्यादातर दिखावे वाला है और security posture का indicator म्हणून असरदार नहीं है
      SOC 2 framework complex है और compliance की लागत भी महंगी है, जिससे संगठन meaningful security controls लागू करने के बजाय checkbox भरने पर ध्यान देने लग सकते हैं। किसी संगठन की security culture समझने के universal measure के तौर पर SOC 2 अच्छा नहीं है, और डर लगता है कि अभी हमारे पास सबसे बेहतर यही है

  • enterprise data से model train न करना enterprise machine learning products में basic requirement है। उदाहरण के लिए Google भी ऐसा ही करता है
    ज़्यादा regulated industries में consideration में आने के लिए compliance level और ऊपर जाना होगा। अभी यह HIPAA compliant तक तो नहीं लगता, और अगला कदम शायद data in transit के लिए geographic boundaries set करना होगा, यानी institution द्वारा इस्तेमाल किया जाने वाला hardware किसी specific jurisdiction के अंदर होना चाहिए। सुनने में boring लगता है, लेकिन addressable market बढ़ाने का आसान तरीका है
    हालांकि अभी शायद simple supply shortage की स्थिति है। पहली wave को ही handle करते-करते capacity भर जाएगी। यह भी दिलचस्प होगा कि क्या वे enterprise employees के सोने के समय चलने वाली batch processing service लॉन्च करेंगे

    • OpenAI कुछ customers को BAA देता है
    • मुझे पता था कि API input data पहले से ही training में इस्तेमाल नहीं होता। मेरी समझ में data training में इस्तेमाल होने वाला हिस्सा सिर्फ consumer ChatGPT product था, और API input contribution opt-in तरीके से था
      https://help.openai.com/en/articles/5722486-how-your-data-is...
      फिर भी अगर कोई company consumer product को internally इस्तेमाल कर रही है, तो input को training में इस्तेमाल न होने देने के लिए pay करके opt out करना उचित लगता है

  • मेरे हिसाब से ChatGPT model ने practically सभी open-source licenses का उल्लंघन किया है। MIT license में भी attribution चाहिए, और rebuttal देने से पहले कम से कम किसी एक open-source project का license notice दिखा दें
    Microsoft के support के साथ, अगर वे promise तोड़कर competitors या संभावित small companies के data पर selectively train करें तो क्या होगा, पता नहीं
    असल में उन्हें रोक क्या सकता है? ज़्यादातर कंपनियों के पास Microsoft-backed OpenAI से लड़ने की firepower नहीं है। इसे violate न कर सकें, इसकी guarantee कैसे दी जाए, और realistically accountability कैसे तय की जाए? मेरे लिए तो यह बस “हम पर भरोसा करो” level का है; क्या इसे अलग तरह से देखने का कोई आधार है

    • अगर आप कह रहे हैं कि copyrighted material को training data के रूप में इस्तेमाल करने के कारण ChatGPT model ने सभी open-source licenses का उल्लंघन किया, तो मुझे लगता है शुरुआत ही गलत है
      अगर मैं गलत हूँ तो सुधार दें। मेरी आखिरी जानकारी के मुताबिक copyrighted data के इस्तेमाल का मुद्दा कानूनी तौर पर बहुत unclear है और gray area में चल रहा है। इसके अलावा कई open-source licenses अपने code को training data के रूप में इस्तेमाल करने को explicitly prohibit भी नहीं करते। समस्या सिर्फ यह नहीं है कि दूसरी कंपनियों के पास Microsoft/OpenAI से लड़ने के resources नहीं हैं, बल्कि यह भी है कि resources होने पर भी यह स्पष्ट नहीं कि court Microsoft/OpenAI को गलत मानेगा या नहीं
      इसका मतलब यह नहीं कि मैं इस debate में Microsoft/OpenAI का पक्ष ले रहा हूँ, लेकिन मेरे हिसाब से मामला उतना साफ़ नहीं है जितना आप कह रहे हैं
    • Microsoft, Amazon, Google के पास cloud में पहले से competitors का data है। वे customers की disks तक access पाने के लिए encryption को fake भी बना सकते हैं
      और ज़्यादातर employees confidential files store और share करने के लिए Google Workspace या Office 365 cloud का इस्तेमाल करते हैं। OpenAI में ऐसा क्या अलग है जो ज़्यादा चिंताजनक है
    • मेरी समझ में ट्रेन पहले ही छूट चुकी है। ढीले-ढाले gray laws से इसे रोकना मुश्किल होगा

  • एंटरप्राइज ग्राहकों को दी जाने वाली चीजें—यानी ग्राहक prompts और कंपनी data को OpenAI model training में इस्तेमाल न करना, Advanced Data Analysis (पहले Code Interpreter) का unlimited access, और 4 गुना लंबे input, files व follow-up questions के लिए 32k token context window—मुझे लगा था कि ये non-enterprise ग्राहकों के लिए भी पहले से संभव थीं। शायद मैं गलत था, या शायद कुछ बदल गया है

    • असली feature मेरे हिसाब से यह हिस्सा है: “हम business data या conversations पर train नहीं करते, और हमारे models आपके usage से सीखते नहीं हैं। ChatGPT Enterprise SOC 2 compliant भी है और सभी conversations transit और rest दोनों में encrypted रहती हैं”
    • लगता है यह हिस्सा छूट गया: ChatGPT Enterprise SOC 2 compliant है और सभी conversations transit और rest दोनों में encrypted रहती हैं। नया admin console team members को आसानी से manage करने देता है, और domain verification, SSO, usage insights देता है, जिससे enterprise-scale deployment संभव होता है
      Product-market fit काफ़ी मजबूत लग सकता है। Product (ChatGPT) तैयार था, लेकिन enterprise के लिए नहीं था; अब enterprise-ready हो गया है। Sales leads बहुत बनेंगी
    • मेरी जानकारी में API की chat completions में privacy कुछ समय से guaranteed थी। ChatGPT, जो OpenAI का chat models के ऊपर चलने वाला chat application है, training में इस्तेमाल होता रहा, और मेरे हिसाब से consumers के लिए इसकी कीमत कम होने की यही वजह है
      यह announcement कंपनियों को अपने कर्मचारियों को ChatGPT इस्तेमाल करने की अनुमति देते समय data privacy concerns कम करने में मदद देती है
    • abuse monitoring के लिए prompt inputs और response outputs को कुछ दिनों तक रखने का क्या होगा? Enterprise में ऐसा नहीं करते? Microsoft Azure OpenAI Service में कुछ भी store न करने के लिए exemption लेना पड़ता है
    • customer prompts और company data को OpenAI model training में इस्तेमाल न करना अच्छी बात है। लेकिन क्या वे उस data को data brokers को resell कर सकते हैं

  • दिलचस्प है, लेकिन थोड़ा निराशाजनक है कि इस launch में enterprise document corpus पर fine-tuning शामिल नहीं है। यह बस थोड़ा ज्यादा convenient और privacy-friendly ChatGPT जैसा दिखता है। क्या मैं कुछ miss कर रहा हूँ

    • सबसे नीचे coming soon section में है: “आपके इस्तेमाल वाली applications को connect करके company data से ChatGPT की knowledge को सुरक्षित रूप से बढ़ाने वाली customization”
    • model में knowledge डालने के लिए document corpus से fine-tuning नहीं की जाती, बल्कि search इस्तेमाल होती है
      Code Interpreter के जरिए documents upload करने का तरीका पहले से supported है, और वे उन applications से connect करने वाले connectors जोड़ रहे हैं जिनमें documents हैं। इससे ज्यादा आप क्या उम्मीद करते हैं, समझ नहीं आता
    • retrieval-augmented generation देखने लायक है। करीब 1–3 हफ्ते पहले यहाँ इस पर एक ठीक-ठाक introductory article आया था

  • इस video का message समय बीतने पर साफ़ तौर पर गलत साबित हुआ: https://www.youtube.com/watch?v=smHw9kEwcgM
    संक्षेप में, इसने सच में बहुत सारे startups को खत्म कर दिया होगा

    • मुझे भी वह Y Combinator video याद आया। Prediction गलत निकली, और यह साफ़ होता जा रहा है कि OpenAI अपनी API इस्तेमाल करने वाले ज्यादातर startups का असल में direct competitor है। “मेरे data से बात करें” वाली ज्यादातर startups इस move से खत्म हो जाएँगी
    • अगर पूरा startup बस ChatGPT API के ऊपर UI चढ़ाना था, तो शायद वह शुरू से ही इतना valuable नहीं था, और उसके बंद होने से industry overall को कोई meaningful loss नहीं होगा
    • एक आम business intuition है कि बड़ी कंपनियाँ product value proposition की derivative features को खास niches के लिए बनी कई satellite companies के business opportunity के तौर पर छोड़ देंगी
      लेकिन इनमें से ज्यादातर “OpenAI API + आगे लगाया prompt + user interface + marketing” के करीब हैं। समस्या यह है कि जैसा 3 साल पहले GPT-3 API launch के समय से कहा जा रहा है, कोई भी startup API खुद जितनी value देती है, उससे बहुत ज्यादा value देना मुश्किल पाता है। इसलिए पिछले दौर में दूसरी बड़ी कंपनियों के आसपास बने मिलते-जुलते startup models की तुलना में OpenAI के लिए इस business को खुद ले लेना अपेक्षाकृत आसान है
    • जो startups internally ChatGPT इस्तेमाल कर रही हैं, वे OpenAI के लिए मुफ्त में market research कर रही हैं। जब लोग GPT-3 से code completion experiment कर रहे थे और जल्द ही Copilot ने उन्हें replace कर दिया, तब भी यही हुआ था
      अगर आप AI startup बना रहे हैं और LLM चाहिए, तो Llama या कोई दूसरा model इस्तेमाल करना चाहिए जिसे आप खुद control और host कर सकें। बाकी विकल्प असल में आत्महत्या जैसे हैं

  • “Advanced Data Analysis (पहले Code Interpreter) का unlimited access” लिखा है, लेकिन Code Interpreter नाम काफी खराब था। Computer science न पढ़े हुए व्यक्ति के लिए इसका कोई खास मतलब नहीं था
    लेकिन नया नाम क्या है? “Advanced Data Analysis” नाम से ज्यादा bullet point में लिखी feature description लगता है

    • Internet पर सुनी एक anecdote के मुताबिक, शायद Ethan Mollick के Twitter पर था, Code Interpreter ऐसे tasks में भी GPT-4 से बेहतर था जो code interpretation नहीं थे। कुछ ऐसा कि वह GPT-4.5 के ज्यादा करीब था
      शायद वह experimental preview था और अब केवल enterprises ही use कर सकते हैं। वैसे भी मेरे पास access नहीं था
    • मेरे account में अब “Code Interpreter” की जगह “Advanced Data Analysis” दिखता है। लगता है यही नया नाम है
    • पहले पुराना नाम दिख रहा था, फिर page refresh किया तो नए नाम में बदल गया। सच में बेहद खराब नाम है। इन्हें ChatGPT से recommendation पूछनी चाहिए थी

  • क्या इसका संबंध इस repository के अचानक गायब हो जाने से हो सकता है?
    https://github.com/microsoft/azurechatgpt
    पिछली चर्चा:
    https://news.ycombinator.com/item?id=37112741

    • यह एक शानदार project जैसा लग रहा था। अच्छा होगा अगर यह वापस आ जाए
      इस क्षेत्र में कुछ बेहतरीन open source projects हैं। वे बिल्कुल समान नहीं हैं, और कई projects Llama2 या पिछले हफ्ते आए Code Llama जैसे local LLM पर focus करते हैं
      https://github.com/jmorganca/ollama (LLM को local में download और run करना, मैं maintainer हूं)
      https://github.com/simonw/llm (command line से cloud और local LLM तक access)
      https://github.com/oobabooga/text-generation-webui (कई backends support करने वाला web UI)
      https://github.com/ggerganov/llama.cpp (तेज़ local LLM runner)
      https://github.com/go-skynet/LocalAI (OpenAI-compatible API उपलब्ध कराता है)
    • सारी activity कुछ हफ्ते पहले रुक गई थी। delete या private में switch किए जाने से पहले यह बहुत active था और stars/watch events लगभग 5 हजार थे
      अफसोस, मैंने code को index करके नहीं रखा। insights https://devboard.gitsense.com/microsoft/azurechatgpt पर देखे जा सकते हैं
      पारदर्शिता के लिए बता दूं, यह मेरा tool है
    • लगता है इसे move कर दिया गया है
      https://github.com/matijagrcic/azurechatgpt
    • संबंधित नहीं है। वह project सिर्फ “/chat API से मेरे data से बात करना” का reference implementation था, और नाम सच में बहुत misleading था
    • पिछली चर्चा देखें तो लगता है कि नाम और description बहुत ज्यादा misleading होने की वजह से इसे delete किया गया। लोगों ने star इसलिए दिया क्योंकि यह Microsoft द्वारा public किया गया “azurechatgpt” नाम का repository था, जबकि असल में यह OpenAI API से बात कर सकने वाले chatbot के लिए सिर्फ sample frontend UI था

  • मुझे लगा था Microsoft enterprise market में व्यस्त है, लेकिन OpenAI ने enterprise product announce कर दिया। ऐसा महसूस होता है कि दोनों के बीच सब ठीक नहीं चल रहा

    • क्या वही product दो brands के तहत साथ-साथ बेचा जा रहा है
      सबसे अच्छी business strategy है। इससे competition ज्यादा दिखता है, और decision “ChatGPT इस्तेमाल करें?” से बदलकर “कौन-सा GPT provider इस्तेमाल करें?” हो जाता है
    • Microsoft मूल रूप से mid-market company है। enterprise को भी जरूर बेचती है, लेकिन Microsoft को सच में जबरदस्त बनाती है उसकी विशाल partner network के जरिए दुनिया भर के हर small और medium business को massive scale पर बेचने की क्षमता
      OpenAI, Microsoft की तुलना में छोटी company है। उसके पास विशाल partner network बनाने की गुंजाइश नहीं है। अधिक से अधिक, छोटे customers को forum support स्तर का product suite दे सकती है, और बड़े customers को खूब supported enterprise product suite दे सकती है। लेकिन बीच का market हमेशा की तरह Microsoft के पास जाएगा
    • दोनों companies को एक-दूसरे की नकल करते देखना काफी दिलचस्प है। Bing Chat में GPT-4 with Vision, conversation history और दूसरे features हैं, और OpenAI B2B की तरफ expand कर रहा है
    • हमारी company में थोड़े समय से Bing Enterprise इस्तेमाल हो रहा है, जो ChatGPT-4 based है और data private रखने का वही वादा करता है। मेरे हिसाब से Bing Chat कई मायनों में ChatGPT-4 से बेहतर है
    • शायद उन पर operating costs को और offset करने का दबाव पड़ा हो। और जो companies पहले से Microsoft products के लिए पैसे देती हैं, वे safe रहने के लिए OpenAI को भी extra पैसे देने को तैयार होंगी

  • मुझे ठीक से समझ नहीं आता कि OpenAI का market segment कहां खत्म होता है और Azure का कहां शुरू होता है

    • OpenAI को Microsoft द्वारा political और regulatory burden के बिना चलाए जाने वाले AI R&D lab के रूप में देखें तो समझना आसान है। उस नजरिए से, असल में सब एक ही है। OpenAI का अंतिम अंजाम Microsoft का हिस्सा बनने के अलावा और कुछ समझ नहीं आता
    • overlap जरूर होगा। अगर Azure customer हैं तो Azure इस्तेमाल करेंगे, नहीं तो OpenAI — शायद ऐसा ही होगा