Sam Altman शायद हमारे भविष्य को नियंत्रित कर सकता है – क्या उस पर भरोसा किया जा सकता है?

 (newyorker.com)
11 पॉइंट द्वारा GN⁺ 24 일 전 | अभी कोई टिप्पणी नहीं है. | WhatsApp पर शेयर करें
  • OpenAI ने अपनी स्थापना के शुरुआती दौर से ही AI को मानव इतिहास की सबसे शक्तिशाली और संभावित रूप से खतरनाक तकनीक माना, और एक non-profit के रूप में शुरू होकर मानवता की सुरक्षा को कंपनी के अस्तित्व से ऊपर रखने वाली संरचना अपनाई थी, लेकिन बाद में for-profit में बदलने के साथ यह सिद्धांत खोखला होता गया
  • नवंबर 2023 में, सह-संस्थापक Ilya Sutskever की अगुवाई में बोर्ड ने Altman को अचानक पद से हटा दिया और फिर 5 दिनों में वापस ले आया; यह 'Blip' घटना Altman की विश्वसनीयता और पारदर्शिता को लेकर बुनियादी संदेहों के वास्तविक संगठनात्मक सत्ता संघर्ष में फट पड़ने का उदाहरण थी
  • पूर्व सहकर्मियों द्वारा छोड़े गए सैकड़ों पन्नों के रिकॉर्ड में यह ठोस आरोप शामिल हैं कि Altman ने बार-बार बोर्ड, executives और investors से तथ्य छिपाए या अलग-अलग बातें कहीं, और एक बोर्ड सदस्य ने उन्हें "सचाई से बंधा न रहने वाला व्यक्ति" बताया
  • OpenAI इस समय 1 ट्रिलियन डॉलर valuation वाले IPO की तैयारी कर रही है, और Altman खाड़ी देशों की पूंजी का उपयोग कर बड़े पैमाने पर AI infrastructure बनाने और अमेरिकी सेना के contracts हासिल करने की कोशिश करते हुए AI वर्चस्व की दौड़ के एक प्रमुख broker की भूमिका निभा रहे हैं
  • AI safety research teams लगातार भंग की जा रही हैं, और safety से ज्यादा product और revenue को प्राथमिकता देने वाली संस्कृति जमती जा रही है; ऐसे में OpenAI की अस्तित्वगत सुरक्षा व्यवस्था अपने founding promise से लगातार दूर होती दिख रही है

बर्खास्तगी की शुरुआत — Ilya memo और बोर्ड का फैसला

  • 2023 की शरद ऋतु में, OpenAI के chief scientist Ilya Sutskever ने CEO Sam Altman और president Greg Brockman की उपयुक्तता पर सवाल उठाते हुए 70 पन्नों का गोपनीय memo तीन अन्य बोर्ड सदस्यों को भेजा
    • Slack messages और HR documents को संपादित करके तैयार किया गया, और detection से बचने के लिए निजी डिवाइस से ली गई images भी शामिल थीं
    • बाहरी लीक रोकने के लिए disappearing messages के रूप में भेजा गया
  • memo में दावा किया गया कि Altman ने executives और बोर्ड के सामने तथ्यों को तोड़-मरोड़ कर पेश किया और internal safety protocols को लेकर भ्रामक व्यवहार किया
    • memo के पहले बिंदु का शीर्षक: "Sam exhibits a consistent pattern of… Lying"
  • बोर्ड सदस्य Helen Toner (AI policy expert) और Tasha McCauley (entrepreneur) ने memo को "जिस पर वे पहले से विश्वास करती थीं, उसकी पुष्टि" के रूप में लिया
  • जब Altman Las Vegas में F1 race देख रहे थे, तब Sutskever ने video call पर उन्हें बर्खास्तगी की सूचना दी
    • सार्वजनिक बयान में सिर्फ इतना कहा गया कि वे "communications में लगातार ईमानदार नहीं थे"

'Blip' — बर्खास्तगी के बाद 5 दिनों की सत्ता की लड़ाई

  • Microsoft को बर्खास्तगी से ठीक पहले ही सूचित किया गया था, और Satya Nadella ने कहा कि "उन्हें बिल्कुल समझ नहीं आया कि क्या हो रहा था"
  • OpenAI में 8.6 अरब डॉलर valuation पर निवेश की तैयारी कर रही Thrive Capital ने Altman की वापसी की शर्त पर निवेश रोक दिया
  • घर लौटते ही Altman ने अपने residence में crisis response team का war room बना लिया
    • investor Ron Conway, Airbnb के सह-संस्थापक Brian Chesky, और crisis management expert Chris Lehane आदि इसमें शामिल थे
    • वकील bedroom के पास वाले office में डटे रहे, और Altman pajama पहने इधर-उधर चलते रहे
  • गवाही के अनुसार, Altman पक्ष ने Mira Murati जैसे विरोधी पक्ष के लोगों की प्रतिष्ठा को "नुकसान पहुंचाने वाली जानकारी खोजने" की बात कही थी (Altman ने कहा कि उन्हें याद नहीं)
  • Microsoft ने Altman और OpenAI छोड़ने वाले कर्मचारियों के लिए अलग team बनाने की घोषणा कर दबाव बढ़ाया
  • OpenAI के अधिकांश कर्मचारियों ने Altman की वापसी की मांग करने वाले खुले पत्र पर हस्ताक्षर किए, और बोर्ड ने बर्खास्तगी वापस ले ली
    • Sutskever ने भी अंततः पत्र पर हस्ताक्षर किए, और बोर्ड ने "कंपनी टूट जाएगी" जैसे दबाव के बीच वापसी का फैसला किया

वापसी के बाद — जांच को निष्प्रभावी करना और governance का पुनर्गठन

  • Altman ने उन्हें हटाने वाले directors के इस्तीफे की मांग की; बर्खास्तगी के पक्ष में वोट देने वाले Helen Toner, Tasha McCauley, और Sutskever को बोर्ड से बाहर कर दिया गया
    • पद छोड़ने की शर्त के रूप में independent external investigation की मांग की गई, लेकिन नए directors के रूप में Altman से करीबी सलाह-मशविरा रखने वाले लोगों को चुना गया
    • Lawrence Summers और Bret Taylor नए बोर्ड सदस्य बने
  • WilmerHale law firm ने जांच संभाली, लेकिन 6 से अधिक लोगों ने कहा कि यह "पारदर्शिता सीमित करने के लिए डिज़ाइन की गई जांच" थी
    • महत्वपूर्ण संबंधित लोगों के interviews छोड़ दिए गए, anonymity की पर्याप्त गारंटी नहीं थी, जैसी बातें उठाई गईं
  • मार्च 2024 में, OpenAI ने Altman को दोषमुक्त माना, लेकिन कोई रिपोर्ट लिखी ही नहीं गई
    • सिर्फ मौखिक briefing हुई, और रिपोर्ट न लिखने का फैसला Summers और Taylor के निजी वकीलों की सलाह पर हुआ बताया गया
    • एक संबंधित व्यक्ति के अनुसार, "रिपोर्ट का न होना आरोपों को छोटा दिखाने में मददगार रहा"
  • बाद में Jeffrey Epstein से जुड़े emails सार्वजनिक होने के बाद Summers ने बोर्ड पद से इस्तीफा दे दिया
  • इसके बाद OpenAI 1 ट्रिलियन डॉलर IPO की तैयारी के साथ दुनिया की सबसे मूल्यवान कंपनियों में से एक बन गई
    • Altman AI infrastructure expansion, सरकारी contracts, और surveillance व weapons systems के standardization जैसे कामों में भी शामिल रहे
    • लेकिन अंदरूनी तौर पर Altman के भ्रामक व्यवहार के दोहराए जाने की आलोचना जारी रही

Altman का व्यक्तित्व और शुरुआती करियर — अतिशयोक्ति, मनवाना, और सत्ता की चाह

  • Missouri के Clayton से आने वाले Altman एक समृद्ध परिवार में पले-बढ़े, और किशोरावस्था में उन्होंने समलैंगिक-विरोधी हिंसक हमले का अनुभव किया
  • Stanford में पढ़ाई के दौरान उन्होंने poker games के जरिए कारोबारी समझ विकसित की, और dropout होने के बाद Y Combinator(YC) के पहले batch के founder के रूप में शामिल होकर Loopt की स्थापना की
    • Loopt एक location-based SNS था, लेकिन growth में विफल रहा और 2012 में बेच दिया गया
  • Loopt के दौर से ही उनकी बढ़ा-चढ़ाकर बोलने की प्रवृत्ति की ओर इशारा किया गया: वे खुद को table tennis champion बताते थे, जबकि वास्तव में office में सबसे कमजोर स्तर के खिलाड़ियों में थे
    • पूर्व कर्मचारी Mark Jacobstein: "जो मैं सोचता हूँ और जो मैं पहले ही हासिल कर चुका हूँ, उनके बीच की सीमा अगर सबसे खराब रूप ले ले, तो वह Theranos बन जाती है"
  • कर्मचारियों के एक समूह ने बोर्ड से दो बार उन्हें हटाने की मांग की, लेकिन बात नहीं बनी
  • Loopt को 2012 में एक fintech कंपनी को बेचा गया, और एक संबंधित व्यक्ति ने कहा कि यह "मुख्य रूप से Altman की इज्जत बचाने के लिए तैयार की गई deal" थी
  • Paul Graham ने 2014 में Altman को अपना उत्तराधिकारी बनाते हुए Y Combinator का प्रमुख नियुक्त किया
    • बताया गया कि जब Graham ने यह सूचना दी, तो Altman के चेहरे पर एक अनियंत्रित मुस्कान आई और उन्होंने कहा, "it worked"

Y Combinator के कार्यकाल में — conflict of interest और प्रस्थान की पृष्ठभूमि

  • YC प्रमुख के रूप में उन पर आरोप लगा कि उन्होंने investors की भागीदारी रोकी और खुद चुनिंदा personal investments किए (Altman ने इनकार किया)
  • Stripe में निवेश के समय उन्होंने Sequoia Capital की शर्तों से बड़ा stake मांगा, जिससे partners असहज हो गए, ऐसा संबंधित लोगों ने कहा
    • Altman का शुरुआती निवेश 15,000 डॉलर (2%) → Stripe की मौजूदा value 150 अरब डॉलर से अधिक
  • 2018 में कई YC partners ने Graham से Altman के व्यवहार पर असंतोष जताया
  • कई संबंधित लोगों के अनुसार, Graham ने निजी तौर पर कहा था, "Sam had been lying to us all the time"
  • Altman ने कहा कि उन्हें कभी निकाला नहीं गया, और Graham ने भी आधिकारिक रूप से इसका खंडन किया, लेकिन internal records से संकेत मिलता है कि यह "पूरी तरह आपसी सहमति से हुआ अलगाव नहीं था"
  • 2021 की SEC filing में Altman को YC chairman के रूप में दर्ज किया गया, लेकिन उनका कहना था कि "उन्हें बाद में पता चला"

OpenAI की स्थापना — safety के तर्क और fund-raising की दोहरी प्रकृति

  • 2015 में Elon Musk को ईमेल के ज़रिए "AI परमाणु हथियारों से भी ज़्यादा खतरनाक हो सकता है" इस तर्क के साथ संपर्क किया गया, और OpenAI को "AI का Manhattan Project" के रूप में प्रस्तावित किया गया
    • दोनों ने मिलकर OpenAI की सह-स्थापना की, और Musk ने 1 अरब डॉलर की फंडिंग का वादा किया
  • OpenAI का लक्ष्य “पूरी मानवता के हित के लिए AGI विकसित करना” था, और AGI तानाशाही की रोकथाम को एक मुख्य सिद्धांत बनाया गया
    • स्थापना सिद्धांत: "सुरक्षा सर्वोच्च प्राथमिकता है", "सभी नियमन का सक्रिय समर्थन"
  • 2017 में Musk ने OpenAI को for-profit कंपनी में बदलकर नियंत्रण हासिल करने की मांग की, लेकिन Altman ने मना कर दिया
    • इसके बाद Musk निकल गए और 2023 में प्रतिस्पर्धी xAI की स्थापना की, तथा Altman और OpenAI के खिलाफ धोखाधड़ी और charitable trust के उल्लंघन का मुकदमा दायर किया (मामला जारी है)
  • शुरुआती कर्मचारियों से यह वादा किया गया कि संस्था पूरी तरह non-profit ही रहेगी, और उनसे वेतन कटौती तक स्वीकार करवाई गई, लेकिन आंतरिक दस्तावेज़ों में 2017 से ही for-profit बदलाव पर चर्चा के संकेत मिलते हैं
  • Sutskever ने 2017 में Google का Transformer architecture पेपर पढ़कर कहा, "यही है," और टीम से पूरी दिशा बदलने का आग्रह किया; यही बाद में GPT की नींव बना
    • कुछ इंजीनियरों ने यह कहते हुए नेतृत्व पर सवाल उठाए कि “क्या हम खलनायक बन गए हैं?”

Dario Amodei और Anthropic की स्थापना — सुरक्षा सिद्धांतों में दरार

  • Amodei ने कई वर्षों तक "My Experience with OpenAI" शीर्षक से 200 पन्नों से अधिक के व्यक्तिगत नोट्स लिखे
  • 2018 में Dario Amodei ने OpenAI के अस्पष्ट मिशन और फंडिंग-केंद्रित संचालन की आलोचना की
    • उन्होंने ‘Merge and Assist clause’ का प्रस्ताव रखा: “अगर कोई दूसरा प्रोजेक्ट पहले सुरक्षित AGI बना ले, तो हम उसके साथ सहयोग करें”
  • 2019 में Microsoft निवेश समझौते की प्रक्रिया के दौरान इस clause को निष्प्रभावी करने वाला प्रावधान चुपचाप जोड़ दिया गया
    • Altman ने पहले ऐसे clause के अस्तित्व से इनकार किया, लेकिन Amodei द्वारा उसे सीधे पढ़कर सुनाने पर इनकार वापस लिया
    • "उसने यह नहीं कहा। अभी आपने कहा" जैसी शैली के बयान बार-बार सामने आए (Altman ने कहा कि उन्हें याद नहीं)
  • Amodei का दावा है कि Altman ने उन पर और उनकी बहन Daniela पर 'coup की साज़िश' का आरोप लगाया; Daniela ने संबंधित अधिकारी से पुष्टि के लिए बात की तो Altman ने कहा, "मैंने ऐसा नहीं कहा"
  • 2020 में Amodei भाई-बहन और उनके सहयोगियों ने इस्तीफा देकर Anthropic की स्थापना की

सुरक्षा टीम का विघटन और संसाधन वादों का उल्लंघन

  • 2023 में "superalignment team" की स्थापना की घोषणा करते समय "सुरक्षित की गई computing power का 20%" देने का वादा किया गया
    • टीम के भीतर की गवाही के अनुसार, वास्तव में केवल 1–2% संसाधन मिले, और उन्हें पुराने cluster तथा कम-प्रदर्शन वाले chips दिए गए
    • शोधकर्ताओं का कहना था कि “नवीनतम chips सिर्फ revenue business के लिए इस्तेमाल हुए,” जबकि OpenAI ने इससे इनकार किया
    • टीम लीडर Jan Leike ने कहा कि “यह वादा प्रतिभा को बनाए रखने का एक साधन था”
      • Murati से विरोध जताने पर जवाब मिला कि "यह एक अवास्तविक वादा था"
  • Jan Leike ने बोर्ड को ईमेल भेजकर चेतावनी दी कि "OpenAI अपने मिशन से भटक रहा है; product, revenue और AI capability पहले हैं, सुरक्षा तीसरे स्थान पर है"
  • Carroll Wainwright: "GPT-4 लॉन्च के बाद से product-first और safety की अनदेखी लगातार जारी रही"
  • GPT-4 Turbo मॉडल लॉन्च करते समय Altman ने general counsel का हवाला देते हुए कहा कि सुरक्षा अनुमोदन की ज़रूरत नहीं थी, लेकिन general counsel ने Slack पर जवाब दिया, "मुझे नहीं पता sam को ऐसा क्यों लगा"
  • Sutskever को लगने लगा कि AGI बहुत निकट है, और वे सुरक्षा मुद्दों को लेकर बेहद आसक्त हो गए; उन्होंने चेतावनी दी कि “अगर सभी कर्मचारी सुरक्षा पर ध्यान नहीं देंगे तो हम बर्बाद हो जाएंगे”
    • लेकिन Superalignment टीम अंततः अपना मिशन पूरा करने से पहले ही भंग कर दी गई और अपने लक्ष्य हासिल नहीं कर सकी
    • Sutskever और Leike ने एक साथ इस्तीफा दिया
  • IRS filings में "सबसे महत्वपूर्ण गतिविधि" वाले मद से 'सुरक्षा' की अवधारणा हटा दी गई
  • Future of Life Institute की नवीनतम AI कंपनियों की existential safety रेटिंग में OpenAI को F ग्रेड मिला
  • Altman ने कहा कि GPT-4 की कुछ सुविधाओं को safety panel की मंज़ूरी मिली थी, लेकिन ‘fine-tuning’ और ‘personal assistant’ फीचर्स को मंज़ूरी नहीं मिली थी
    • Microsoft ने भारत में बिना सुरक्षा समीक्षा के ChatGPT का शुरुआती संस्करण लॉन्च किया, यह भी रिपोर्ट नहीं किया गया
  • शोधकर्ताओं ने आकलन किया कि OpenAI “product पहले, safety बाद में” मॉडल में बदल गया है

For-profit बदलाव, asset structure, और व्यक्तिगत हित

  • शुरुआती 'capped profit' संरचना → अक्टूबर 2024 में पूर्ण for-profit इकाई में बदलाव
    • non-profit foundation (OpenAI Foundation) के पास केवल 26% हिस्सेदारी रही, और बोर्ड के अधिकांश सदस्य for-profit बोर्ड से भी जुड़े रहे
  • बोर्ड सदस्य Holden Karnofsky ने non-profit इकाई के undervaluation के खिलाफ वोट दिया, लेकिन कार्यवृत्त में इसे abstention के रूप में दर्ज किया गया (बिना सहमति बदलाव के संकेत)
  • कांग्रेस सुनवाई में कहा, "OpenAI में मेरी कोई हिस्सेदारी नहीं है, मैं यह प्रेम के कारण कर रहा हूँ" — लेकिन YC fund के ज़रिए अप्रत्यक्ष हिस्सेदारी का ज़िक्र नहीं किया
  • Brockman की हिस्सेदारी का मूल्य लगभग 20 अरब डॉलर आंका गया, और माना जाता है कि Altman की हिस्सेदारी इससे भी बड़ी हो सकती है
  • पूर्व कर्मचारियों की गवाही: Altman ने कहा था, "मुझे पैसे से ज़्यादा सत्ता में दिलचस्पी है"

मध्य-पूर्वी फंडिंग और भू-राजनीतिक जोखिम

  • 2016 में Saudi crown prince Mohammed bin Salman से पहली मुलाकात हुई, जिसके बाद अरबों डॉलर के निवेश पर बातचीत शुरू हुई
    • Khashoggi की हत्या के एक हफ्ते बाद वे Saudi future city Neom की advisory council में शामिल हुए, बाद में आलोचना के बाद इस्तीफा दिया
    • लेकिन एक policy consultant के अनुसार, इस्तीफे के बाद भी वे यह सोचते रहे कि "Saudi फंडिंग किसी न किसी तरह कैसे मिल सकती है"
  • UAE spymaster Sheikh Tahnoon bin Zayed के साथ करीबी संबंध बनाए रखे, और अपने X पर उन्हें "करीबी निजी मित्र" कहा
    • UAE से लगभग 20 लाख डॉलर की Koenigsegg Regera और लगभग 2 करोड़ डॉलर की McLaren F1 प्राप्त कीं (दावा किया गया कि कंपनी नीति के अनुसार disclosure पूरा किया गया)
    • 2024 में Tahnoon की 25 करोड़ डॉलर की ultra-luxury yacht Maryah पर गए
  • ChipCo योजना: Gulf देशों के फंड से विशाल semiconductor foundry और data center बनाना, जिनमें कुछ मध्य पूर्व में स्थित हों
    • बोर्ड सदस्य के अनुसार, यह काम बोर्ड को पहले से बताए बिना आगे बढ़ाया गया
    • अमेरिकी सुरक्षा अधिकारियों ने UAE telecom नेटवर्क की Huawei पर निर्भरता, अमेरिकी advanced chips के चीन तक लीक होने की संभावना, और सैन्य हमलों की संवेदनशीलता जैसी चिंताएँ जताईं
  • Biden प्रशासन: "UAE में advanced chips नहीं बनाए जाएंगे" कहते हुए मंज़ूरी देने से इनकार
  • RAND Corporation के एक कर्मचारी ने security clearance समीक्षा के दौरान यह कहकर चिंता जताई कि "यह ऐसा व्यक्ति है जो विदेशी सरकारों से दसियों अरब डॉलर जुटा रहा है"; Altman ने प्रक्रिया से स्वेच्छा से खुद को अलग कर लिया
  • Trump के पदभार ग्रहण करने के दो दिन बाद, Altman ने Roosevelt Room में Stargate — 500 अरब डॉलर की AI infrastructure joint project — की घोषणा की
  • इसके बाद Saudi और UAE तक Stargate के विस्तार की घोषणा हुई, और Abu Dhabi में Central Park से 7 गुना बड़े data center campus की योजना सामने आई

राजनीतिक बदलाव और regulatory lobbying

  • 2023 की Senate hearing में AI regulation की सीधी मांग जैसा बयान देकर उन्होंने समर्थन पाया, लेकिन पर्दे के पीछे EU AI regulation को नरम करने के लिए lobbying भी जारी रखी
  • California AI safety bill (SB 1047) का सार्वजनिक रूप से विरोध किया और पीछे से दबावपूर्ण हस्तक्षेप किए
    • Ron Conway ने Pelosi और Newsom से lobbying की, और Newsom ने legislature से पास बिल पर veto लगा दिया
    • OpenAI की आधिकारिक स्थिति थी कि "हम super PAC को दान नहीं देते," लेकिन Brockman ने Leading the Future PAC को 5 करोड़ डॉलर दिए (उसी वर्ष MAGA Inc. को 2.5 करोड़ डॉलर भी दिए)
  • AI safety bill के समर्थक Nathan Calvin को subpoena जारी किया गया, और बिल के आलोचकों पर भी यही कदम उठाया गया
    • एक संबंधित व्यक्ति के अनुसार, "मूल रूप से यह लोगों को चुप कराने की कोशिश थी"
  • 2016 में Trump को "अभूतपूर्व खतरा" कहने वाले Altman ने 2024 में Trump inauguration fund में 10 लाख डॉलर दान किए और Trump के करीबी बनकर उभरे
    • जबकि Musk, जिन्होंने Trump की मदद के लिए 25 करोड़ डॉलर झोंक दिए थे, उनसे दूर हो गए, वहीं Altman ने Trump की Saudi यात्रा में साथ दिया

Anthropic vs. अमेरिकी रक्षा विभाग — OpenAI का अवसर पकड़ना

  • Anthropic ने पूरी तरह स्वायत्त हथियारों के समर्थन और घरेलू व्यापक निगरानी पर प्रतिबंध के सिद्धांत को बनाए रखा
    • रक्षा मंत्री Pete Hegseth ने समय-सीमा देते हुए इस सिद्धांत को वापस लेने की मांग की, Anthropic ने इंकार किया
    • Hegseth ने Anthropic को "सप्लाई चेन जोखिम" घोषित किया (यह वही ब्लैकलिस्ट कदम है जो Huawei जैसी चीनी कंपनियों पर लागू किया जाता था)
  • OpenAI·Google आदि के कर्मचारियों ने "We Will Not Be Divided" सार्वजनिक पत्र के जरिए Anthropic का समर्थन किया
  • Anthropic-रक्षा विभाग टकराव सार्वजनिक होने से पहले ही Altman रक्षा विभाग के साथ बातचीत कर रहा था
    • रक्षा उपसचिव Emil Michael ने Altman से संपर्क किया, और कहा, "वह तुरंत कूद पड़ा, मुझे लगता है वह देशभक्त है"
    • 50 अरब डॉलर के AWS इंटीग्रेशन कॉन्ट्रैक्ट की घोषणा हुई, और अमेरिकी सेना ने OpenAI मॉडल का उपयोग शुरू किया
    • कॉन्ट्रैक्ट घोषणा वाले दिन OpenAI का मूल्यांकन 110 अरब डॉलर बढ़ गया, और उसी समय कम से कम 2 वरिष्ठ कर्मचारी Anthropic में चले गए
  • कर्मचारियों की चिंताओं पर Altman: "आपको लगता हो कि ईरान पर हवाई हमला अच्छा है या वेनेज़ुएला पर आक्रमण बुरा है, आप इसमें शामिल नहीं हो सकते"

Altman की विश्वसनीयता पर विवाद — अलग-अलग गवाहियाँ

  • Altman को अपनी पीढ़ी का सबसे बेहतरीन सेल्समैन कहा जाता है, और उसकी तुलना Steve Jobs के reality distortion field से की जाती है
    • सहकर्मियों ने उसकी भ्रामक प्रवृत्ति और सत्ता की इच्छा को समस्या बताया
    • कुछ लोगों ने उसे “समाजविरोधी व्यक्तित्व” कहा, और बताया जाता है कि Aaron Swartz (YC की पहली बैच के साथी) ने भी जीवनकाल में चेतावनी दी थी, "Sam पर कभी भरोसा नहीं करना चाहिए, sociopath है"
  • Altman के पास coding या machine learning की गहरी विशेषज्ञता नहीं है, लेकिन दूसरों की तकनीकी क्षमता और पूंजी को एकजुट करने की योग्यता से उसने OpenAI को बढ़ाया
    • वह पहले सीमाबद्ध ढांचा बनाता है और ज़रूरत पड़ने पर उसे निष्प्रभावी कर देता है
    • संबंधित लोगों ने उसकी मनाने की क्षमता की तुलना “Jedi mind trick” से की
  • Microsoft के अधिकारियों का दावा है कि Altman ने समझौतों को तोड़ा-मरोड़ा और तोड़ा
    • OpenAI ने Microsoft को exclusive cloud provider नामित किया, फिर भी Amazon के साथ 50 अरब डॉलर का resale contract किया
    • Microsoft ने contract conflict पर आपत्ति उठाई, लेकिन OpenAI ने कहा कि यह उल्लंघन नहीं है
    • एक अधिकारी ने कहा कि Altman को “Sam Bankman-Fried स्तर का ठग” के रूप में याद किया जा सकता है
  • Altman ने Biden प्रशासन के साथ संवेदनशील तकनीक निर्यात अनुमोदन नीति पर चर्चा में हिस्सा लिया, लेकिन कुछ अधिकारियों को उसकी मध्य पूर्व से जुड़ी महत्वाकांक्षाओं पर चिंता थी
    • Trump के शपथ लेने से ठीक पहले, Tahnoon ने Trump परिवार की कंपनी में 50 करोड़ डॉलर का निवेश किया, जिसके बाद Altman ने Trump से बात की
    • इसके बाद White House में 500 अरब डॉलर के ‘Stargate’ AI infrastructure project की घोषणा हुई
    • Trump प्रशासन ने AI तकनीक निर्यात प्रतिबंध हटा दिए, और Altman व Trump ने Saudi शाही परिवार से मुलाकात की
  • पूर्व निदेशक Yoon: "वह मकैवेलीयाई खलनायक नहीं, बल्कि अपनी ही निश्चितताओं में बहुत डूबा हुआ व्यक्ति है, जो वास्तविक दुनिया में नहीं रहता"
  • Altman की बहन Annie ने यौन शोषण के आरोप में मुकदमा दायर किया, Altman ने पूरी तरह इनकार किया, और परिवार ने भी कहा "इसमें ज़रा भी सच्चाई नहीं है" (मूल स्रोत की पुष्टि संभव नहीं)
  • Altman: "प्रतिद्वंद्वी कंपनियों का घिनौना व्यवहार, नाबालिगों से जुड़ी बातों या हत्या में संलिप्तता समेत सभी आरोप पूरी तरह झूठे हैं"

AI सुरक्षा की वर्तमान स्थिति — वादों और हक़ीक़त के बीच की दूरी

  • Anthropic ने 30 अरब डॉलर का निवेश जुटाने के बाद सुरक्षा प्रतिबद्धताओं को ढीला किया, और तेज़ी की दौड़ और बढ़ गई
    • Anthropic ने Palantir के साथ मिलकर Claude मॉडल को सैन्य सिस्टम में इंटीग्रेट किया, और उसका उपयोग Pentagon operations में हुआ
    • इसके बाद उसे सप्लाई चेन जोखिम कंपनी घोषित कर ब्लैकलिस्ट में डाल दिया गया
  • OpenAI ने रक्षा विभाग के साथ बातचीत कर AWS-आधारित रक्षा इन्फ्रास्ट्रक्चर इंटीग्रेशन कॉन्ट्रैक्ट (50 अरब डॉलर के पैमाने का) किया
    • उसी दिन OpenAI का मूल्यांकन 110 अरब डॉलर बढ़ गया, और कुछ कर्मचारियों ने कंपनी छोड़ दी
  • कुछ अधिकारियों ने Altman की लीडरशिप में गंभीर governance समस्याएँ बताईं
    • Fidji Simo को उत्तराधिकारी उम्मीदवार के रूप में देखा जा रहा है
  • OpenAI ने Superalignment team और AGI readiness team को भंग कर दिया
    • Sutskever और Leike ने इस्तीफ़ा देते हुए आलोचना की कि “सुरक्षा से ज़्यादा चमकदार उत्पादों को प्राथमिकता दी जा रही है”
    • IRS रिपोर्ट से ‘सुरक्षा’ मद हटा दिया गया, और Future of Life Institute की existential safety evaluation में इसे F ग्रेड मिला
  • A.I. का हथियारीकरण और सामाजिक नुकसान अब वास्तविकता बन चुके हैं
    • 2020 के लीबिया गृहयुद्ध में A.I. ड्रोन ने बिना मानव नियंत्रण के हमला किया, और 2022 की एक फ़ार्मा रिसर्च में 40,000 रासायनिक हथियार उम्मीदवार पदार्थ बनाए गए
    • deepfake voice से चुनावी दखल, और आत्महत्या व हत्या के मामलों से जुड़े मुकदमे जैसी हानियाँ सामने आईं
  • OpenAI पर 7 wrongful death lawsuits चल रहे हैं, जिनमें यह आरोप भी शामिल है कि ChatGPT ने पीड़ितों की हिंसा को उकसाया
  • Altman अब भी “मानवता के भविष्य के लिए आशा” पर ज़ोर देता है, और कहता है कि वह “पागलपन भरे sci-fi जैसे भविष्य को साकार” करेगा
    • उसके आसपास के लोग कहते हैं कि उसके आदर्शों और सत्ता-लालसा के बीच की सीमा स्पष्ट नहीं है
    • वह A.G.I. की विनाशकारी संभावना की चेतावनी देता है, फिर भी कहता है कि उसे इसे खुद बनाना चाहिए
  • बड़े language models में खुशामदीपन (sycophancy) और मतिभ्रम (hallucination) की समस्या अब भी हल नहीं हुई है
    • Altman ने यह रुख दिखाया कि “कुछ झूठे बयान मॉडल की आकर्षकता बढ़ाते हैं”, यानी वह पूर्ण तथ्यात्मकता से ज़्यादा user satisfaction को महत्व देता है
  • Altman: "मेरी भावना पारंपरिक AI safety क्षेत्र की बहुत-सी बातों से मेल नहीं खाती" — ठोस सुरक्षा योजना पर सवाल होने पर उसने धुंधला जवाब दिया कि "हम सुरक्षा से जुड़े प्रोजेक्ट जारी रखेंगे"

निष्कर्ष

  • Sam Altman OpenAI को वैश्विक कंपनी बनाने वाला व्यक्ति है, लेकिन झूठ, सत्ता के केंद्रीकरण और सुरक्षा की अनदेखी को लेकर विवाद लगातार जारी हैं
  • व्हिसलब्लोअर और सहकर्मी उसे “भरोसेमंद नहीं रहने वाला नेता” मानते हैं, और AGI नियंत्रण के केंद्रीकरण के खतरे की चेतावनी देते हैं
  • OpenAI अब भी मानवता के भविष्य को प्रभावित करने वाली तकनीक को नियंत्रित करने वाला संगठन है, इसलिए Altman की विश्वसनीयता और जवाबदेही केंद्रीय मुद्दे बने हुए हैं

संबंधित पढ़ाई

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.