SB-1047 से open source AI के कमजोर पड़ने और safety घटने की चिंता

 (answer.ai)
1 पॉइंट द्वारा GN⁺ 2024-04-30 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • SB-1047 का लक्ष्य सुरक्षित AI development है, लेकिन मौजूदा प्रावधान open source developers और छोटी कंपनियों पर अत्यधिक बोझ डाल सकते हैं
  • अगर development restrictions कड़ी होती हैं, तो transparency और collaboration घटेंगे, जिससे व्यापक expert community की safety issues खोजने और ठीक करने की क्षमता भी कमजोर हो सकती है
  • “covered model” की परिभाषा व्यापक है और mandatory shutdown, reporting व guidelines compliance की मांगें बड़ी हैं, जिससे नेक इरादे वाले open source model development भी हतोत्साहित हो सकते हैं
  • audits, legal advice, fees और civil penalties की संभावना startups और researchers के लिए entry barriers और self-censorship का दबाव बन सकती है
  • बेहतर तरीका यह है कि model development को ही regulate करने के बजाय high-risk use cases को regulate किया जाए, और साथ में open source support, industry-academia-government collaboration व government AI expertise में investment किया जाए

SB-1047 पर मूल रुख

  • यह लेख Jeremy द्वारा SB-1047 bill के authors को दिया गया व्यक्तिगत submission है, Answer.AI की आधिकारिक position नहीं
  • SB-1047 जिस safe and secure AI development के लक्ष्य को साधता है, वह अपने आप में सकारात्मक माना जा सकता है
  • समस्या यह है कि मौजूदा bill के कुछ प्रावधान open source developers, छोटी कंपनियों और पूरे AI ecosystem में innovation पर नकारात्मक असर डाल सकते हैं
  • अगर open source development सीमित होता है, तो AI safety भी साथ में कमजोर हो सकती है
    • transparency और collaboration घटने पर अधिक experts के लिए संभावित safety issues की पहचान करना और उन्हें हल करना मुश्किल हो जाता है
    • control अगर कुछ बड़े actors तक केंद्रित हो जाए, तो diversity और resilience कम होती है, और single points of failure व systemic risks की संभावना बढ़ती है

Open source development के कमजोर पड़ने की चिंता

  • open source अमेरिकी software industry की सफलता को संभव बनाने वाला एक key factor रहा है, और इसने कई लोगों को महत्वपूर्ण software tools तक access दिया है
  • modern AI के कई basic building blocks भी open source से आते हैं, और academic research व safety/security research भी लगभग पूरी तरह open source पर आधारित होकर चलती है
  • open source कमजोर होने पर developers, consumers, academia और नए startups सभी प्रभावित होंगे

  • अत्यधिक व्यापक “covered model” परिभाषा

    • bill में “covered model” की परिभाषा बहुत व्यापक है, जिससे कम जोखिम वाले कई तरह के open source models भी शामिल हो सकते हैं
    • नतीजतन, उपयोगी AI projects पर काम कर रहे नेक इरादे वाले developers की गतिविधियां अनजाने में criminalize हो सकती हैं

  • general-purpose tools के लिए liability का मुद्दा

    • AI models, word processors, calculators और web browsers की तरह कंप्यूटर पर चलने वाले general-purpose software के अधिक करीब हैं
    • जैसे web browser या calculator developers हर misuse को रोक नहीं सकते, वैसे ही model makers के लिए यह guarantee करना मुश्किल है कि model का उपयोग कभी भी नुकसानदेह काम में नहीं होगा
    • अगर ऐसी liability general-purpose tool makers पर डाली जाती है, तो पर्याप्त legal team वाली बड़ी कंपनियों को छोड़कर बाकी लोगों के लिए tools बनाना practically मुश्किल हो सकता है

  • developers पर requirements का बोझ

    • bill developers पर mandatory shutdown, व्यापक reporting और अस्पष्ट हो सकने वाले “covered guidance” compliance जैसे बोझ डालता है
    • जटिल regulatory process संभालने के लिए कम resources रखने वाले open source developers पर ये requirements और अधिक भारी पड़ते हैं
    • legal consequences और bureaucracy का डर open source development में participation को घटा सकता है, और AI की progress को आगे बढ़ाने वाली collaborative culture को कमजोर कर सकता है
    • transparency घटने पर संभावित safety issues खोजना और हल करना भी अधिक कठिन हो जाता है

छोटी कंपनियों और research ecosystem पर असर

  • प्रस्तावित regulation AI क्षेत्र में innovation करना चाहने वाली small companies और startups के लिए बड़ा entry barrier बना सकता है
  • compliance costs और legal risks founders को हतोत्साहित कर सकते हैं और competition सीमित कर सकते हैं
  • नतीजतन innovation की pace धीमी हो सकती है, और power मौजूदा बड़ी कंपनियों में और अधिक केंद्रित होने की संभावना है

  • लागत और legal risk

    • fees, audits, legal advice जैसे compliance costs छोटी कंपनियों और startups के लिए बड़ा बोझ बनते हैं
    • यह cost structure competition सीमित कर सकता है और power को मौजूदा बड़ी कंपनियों में केंद्रित कर innovation को नुकसान पहुंचा सकता है

  • research में कमी और talent migration

    • bill के प्रावधानों को अनजाने में trigger कर देने का डर researchers और developers की self-censorship तक ले जा सकता है
    • promising AI research directions से बचना scientific progress और social problems को हल करने में AI की potential को सीमित करता है
    • restrictive environment, सक्षम AI researchers और developers को California से बाहर जाने के लिए प्रेरित कर सकता है
    • इससे California की economy को नुकसान हो सकता है और AI innovation leadership कमजोर हो सकती है

California और अमेरिकी AI innovation पर व्यापक असर

  • California, खासकर technology sector में, अमेरिकी innovation को आगे बढ़ाने में महत्वपूर्ण भूमिका निभाता है
  • अगर SB-1047 AI development पर अत्यधिक बोझ डालता है, तो इस core field में California की leadership कमजोर हो सकती है
  • इसका असर पूरे अमेरिका में फैलकर AI research and development की समग्र progress को धीमा कर सकता है

प्रस्तावित विकल्प

  • AI model development को ही regulate करने के बजाय, AI applications और वास्तविक risks पर focus करने वाला approach चाहिए

  • open source development को support

    • AI models के open source development को बढ़ावा देने से collaboration और transparency बढ़ सकती है, और अधिक diverse व resilient AI ecosystem बन सकता है

  • development से ज्यादा use regulation पर focus

    • regulation का focus AI model development नहीं, बल्कि AI के use methods होने चाहिए
    • खासकर public safety और security के लिए high risk पैदा करने वाली applications पर focus करना जरूरी है
    • healthcare, criminal justice और critical infrastructure जैसे high-harm-potential क्षेत्रों में AI use को regulate करने से, harmful use के लिए accountability सुनिश्चित करते हुए AI technology की progress जारी रखी जा सकती है

  • transparency, collaboration और expertise में investment

    • industry, academia और government के collaboration के जरिए responsible AI development के लिए best practices के development और adoption को प्रोत्साहित किया जा सकता है
    • industry standards बनाना, open source development को बढ़ावा देना और AI safety research investment साथ-साथ जरूरी हैं
    • government agencies को AI expertise हासिल करने के लिए resources देने से potential risks को अधिक प्रभावी ढंग से monitor और respond किया जा सकता है
    • यह approach safety और innovation के बीच balance बनाने वाला अधिक nuanced AI regulation संभव बनाता है

चिंताजनक विशिष्ट प्रावधान

  • Section 22602 (f): “covered model” की परिभाषा अत्यधिक व्यापक है और कई तरह के open source models को शामिल कर सकती है
  • Section 22603 (b): developer requirements अत्यधिक हैं और open source development को हतोत्साहित कर सकते हैं
  • Section 22606 (a): civil penalties की संभावना research और innovation पर chilling effect डाल सकती है
  • Section 11547.6 (c)(11): fees लगाने की authority छोटी कंपनियों के लिए entry barrier बना सकती है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-04-30
Hacker News की राय

  • मॉडल बनाने वाला यह गारंटी नहीं दे सकता कि मॉडल का कभी भी हानिकारक कामों में इस्तेमाल नहीं होगा, और यही बात web browser, calculator, और word processor बनाने वालों पर भी लागू होती है
    ऐसे सामान्य प्रयोजन वाले टूल्स बनाने वालों पर ज़िम्मेदारी डालने का मतलब होगा कि व्यवहार में सिर्फ़ बड़ी कंपनियाँ, जिनके पास पर्याप्त legal team है, ऐसे टूल बना पाएँगी। यह सुनिश्चित करना कि तकनीक का इस्तेमाल “हानिकारक उद्देश्यों” के लिए न हो, लगभग असंभव है, और ऐसा प्रावधान LLM development में बड़ी कंपनियों के अलावा बाकी भागीदारों को रोकने वाली एक और बाधा बन सकता है

    • इस क़ानून को मैं ऐसा नहीं समझता कि यह किसी चीज़ की गारंटी माँगता है; बल्कि यह अभी तय की जाने वाली best practices का पालन करने और safety incidents की रिपोर्ट करने जैसी बात कहता है
      इसमें safety incident के लिए ख़ुद ज़िम्मेदारी लेने की बात भी नहीं है, सिर्फ़ रिपोर्ट करना है; थोड़ा असुविधाजनक हो सकता है, लेकिन कुल मिलाकर काफ़ी उचित लगता है
    • नया Frontier Model Division सिर्फ़ जानकारी लेने और guideline जारी करने वाला संगठन है; यह कोई licensing व्यवस्था नहीं है और न ही developers की जाँच करने वाली एजेंसी
      सिर्फ़ इसलिए कि कोई high-performance model बुरे कामों, यहाँ तक कि विनाशकारी नुकसान, में इस्तेमाल हुआ, developer अपने आप ज़िम्मेदार नहीं हो जाता; मुख्य सवाल यह है कि क्या उचित preventive measures लिए गए थे। ऐसा भी हो सकता था कि developer की लापरवाही हो या न हो, फिर भी विनाशकारी नुकसान पर strict liability लगाई जाए, लेकिन यह बिल ऐसा नहीं करता
      कुल मिलाकर, अगर कोई मॉडल विनाशकारी नुकसान पहुँचा सकता है, तो भले ही यह मौजूदा models पर लागू न हो, भविष्य के models पर हो सकता है; इसलिए उसे ऐसे तरीके से deploy नहीं करना चाहिए जिससे अनुमानित रूप से ऐसा नुकसान हो सके। इस नज़रिए से यह काफ़ी उचित लगता है
      अगर बिल की ठोस बातों में दिलचस्पी है, तो Zvi की विस्तृत पोस्ट पढ़ने लायक है। मेरे हिसाब से यह सबसे गंभीर जोखिमों पर केंद्रित काफ़ी संकीर्ण प्रस्ताव है, और उदाहरण के लिए EU AI Act से कहीं अधिक सीमित है: https://thezvi.substack.com/p/on-the-proposed-california-sb-...
    • अगर नुकसान की threshold तय नहीं की जाती, तो यह दावा अर्थहीन है
      वरना open source biological agent research, open source nuclear warheads, और open source human cloning protocols को रोकने पर भी समान रूप से आपत्ति करनी चाहिए। ये भी सभी dual-use technologies हैं और वस्तुनिष्ठ रूप से नैतिक रूप से तटस्थ हैं
    • जो लोग बहुत ख़तरनाक चीज़ें बनाते हैं, उन्हें उसकी ज़िम्मेदारी लेनी चाहिए, या फिर उनके उत्पादन पर कड़ा regulation होना चाहिए
      यह वैसा ही है जैसे सड़क के मोड़ पर grenades बेचने की अनुमति न देना। ज़िम्मेदारी से बच निकलने की कोशिश बड़ी tech कंपनियों की सबसे नापसंद बातों में से एक है
    • बिल के निचले हिस्से में छिपी हुई नुकसान की परिभाषा में बड़े पैमाने पर जनहानि करने वाले chemical, biological, radiological, या nuclear weapons का निर्माण या उपयोग, critical infrastructure पर cyberattack से 500 million डॉलर से अधिक का नुकसान, ऐसा मामला जिसमें AI model स्वायत्त रूप से ऐसा काम करे जो इंसान करता तो criminal law का उल्लंघन होता और उससे 500 million डॉलर से अधिक का नुकसान हो, और इसी स्तर के public safety या security threats शामिल हैं
      इसमें drug discovery और materials science के लिए AI, power grid और broadband traffic management के लिए AI, financial और healthcare services AI आदि शामिल हो सकते हैं। military-industrial complex की तरफ़, अगर मामला सिर्फ़ federal contracts से जुड़ा है, तो संभव है कि यह क़ानून वहाँ छू भी न सके। गोपनीय military AI development लापरवाह लगता है; जैसे किसी ने War Games देखी ही न हो
      https://technologymagazine.com/top10/top-10-military-technol...
      कम से कम open source होने पर उसकी क्षमताएँ ज़्यादा तुरंत सामने आती हैं

  • ऐसा लगता है कि राजनीतिक वर्ग open source AI को बहुत आक्रामक तरीके से निशाना बना रहा है, और यह पागलपन जैसा है
    Soros ने कहा था कि corporate AI projects और government AI projects का मेल, उन शीतयुद्धकालीन तानाशाहों से भी बड़ा ख़तरा बनाता है जो corporate innovation से दूर थे। उनका कहना था, “दमनकारी शासन और IT monopolies का गठजोड़ ऐसे शासन को open societies पर एक built-in advantage देता है। वे open societies के लिए घातक ख़तरा पैदा करते हैं”
    https://www.wired.com/story/mortal-danger-chinas-push-into-a...
    वैश्विक प्रभाव की चाह रखने वाले लोग सचमुच सभी AI पर ललचा रहे हैं। हालात यह हैं कि अगर 512GB Mac Studio आ जाए ताकि शायद जल्द ही प्रतिबंधित होने वाले बड़े llama3 models चला सकूँ, तो उसे खरीदने पर गंभीरता से सोचना पड़ेगा

    • काश कोई राजनीतिक जगत और commercial/closed AI के बीच रिश्ते की investigative reporting करके गहराई से पड़ताल करे
      OpenAI जैसी कंपनियों के investors या beneficiaries के राजनेताओं से क़रीबी रिश्ते हो सकते हैं। संभव है कोई सीधी कड़ी न हो, और शायद वे ऐसी कड़ियों को छिपाने और plausible deniability बनाए रखने में पहले से ही काफ़ी माहिर हो चुके हों
    • मुझे नहीं पता दीर्घकालिक योजना क्या है, और शायद lawmakers इस क्षेत्र की दीर्घकालिक दिशा को समझ ही नहीं रहे
      यह अभी सचमुच बहुत शुरुआती चरण में है। जब तक academia बुरी तरह असफल नहीं होती, लगभग 5 साल बाद professors के research clusters में आज के state-of-the-art स्तर के models train किए जा सकेंगे, और शायद यह सिर्फ़ R1 universities तक सीमित भी नहीं रहेगा
      लंबी अवधि में, ऐसा लगता है कि जिस किसी के पास एक library भर टेक्स्ट तक पहुँच होगी, वह उपयोगी models बना सकेगा। हमारे दिमाग़ में कोई जादुई चीज़ नहीं है, इसलिए किसी दिन कंप्यूटर को पढ़ना-लिखना सिखाने के लिए उतनी ही किताबें काफ़ी होंगी जितनी इंसान को सिखाने में लगती हैं। चाहे वह हमसे 10 गुना कम बुद्धिमान ही क्यों न हो, एक औसत अमेरिकी अपने जीवन में सैकड़ों किताबें पढ़ता है; तो क्या हज़ारों ebooks रखने के लिए भी परमिट लेना पड़ेगा?
    • अगर AI समर्थक सही हैं, तो AI स्वाभाविक रूप से एक बहुत बड़ा destabilizing threat है
      भले ही वह कमज़ोर version हो जिसमें कोई autonomy न हो और सब कुछ सिर्फ़ prompt output हो, अगर वह वादा की गई क्षमता सच में दे दे, तो भी वह गंभीर अस्थिरता पैदा करेगा। हम ऐसी दुनिया के लिए बिल्कुल तैयार नहीं हैं जहाँ लगभग शून्य लागत पर हर तरह की fake चीज़ें बनाई जा सकें
      दूसरी तरफ़, इसकी पूरी संभावना है कि यह मौजूदा ITAR की तरह ऐसे बहुत अजीब नियमों के रूप में सामने आए जिनका वास्तविक safety से लगभग कोई लेना-देना न हो
    • अगर सिर्फ़ चलना ज़रूरी है और speed मायने नहीं रखती, तो इसे Dell R720 पर भी चलाया जा सकता है। यह सैकड़ों GB RAM सपोर्ट करता है, और https://ollama.com/ से डाउनलोड करना भी आसान है
      यह Mac Studio से काफ़ी सस्ता है। मैंने कुछ सौ डॉलर में R820 खरीदा था, उसमें 256GB RAM है, और आगे और बढ़ाने की भी गुंजाइश है

  • ब्लॉग में यह नहीं था, इसलिए जोड़ दूँ: 7 फ़रवरी 2024 को सीनेटर Scott Wiener ने California State Legislature में SB-1047 पेश किया था
    इसका औपचारिक नाम Safe and Secure Innovation for Frontier Artificial Intelligence Systems Act है, और यह उन्नत AI models के विकास और उपयोग को रेगुलेट करने वाला विधेयक है। इसमें developers से अपेक्षा की जाती है कि वे AI model training से पहले कुछ विशेष safety determinations करें, कई safety requirements का पालन करें, और AI safety incidents की रिपोर्ट करें। साथ ही Department of Technology के भीतर Frontier Model Division बनाकर निगरानी की व्यवस्था की जाती है, और उल्लंघन होने पर civil fines भी शामिल हैं
    https://www.dlapiper.com/en/insights/publications/2024/02/ca...

  • चिंता है कि क्या इस तरह का regulation मौजूदा अग्रणी AI कंपनियों के पक्ष में lock-in effect पैदा करेगा और नए entrants के लिए प्रवेश लगभग असंभव बना देगा

    • इसे regulatory capture कहा जाता है, और यहाँ वही काफ़ी हद तक हो रहा हो सकता है
    • frontier models की लागत पहले ही 100 million डॉलर से ऊपर जा चुकी है, इसलिए लगता है कि वह जहाज़ पहले ही निकल चुका है
      अगर शुरुआत से ही कोई पूरी तरह पागल टीम 1 billion डॉलर के आसपास फंड नहीं जुटा सकती, तो उसके पास प्रतिस्पर्धा का मौका नहीं है
    • कुछ लोग कह सकते हैं कि यही इसका असली उद्देश्य है

  • यक़ीन करना मुश्किल है। Scott Wiener की housing policy मुझे पसंद है, लेकिन यह बिल सरकारी अत्यधिक दखल से भरा हुआ है
    विडंबना यह है कि इसका असर उसी NIMBY system जैसा होगा, जिसके ख़िलाफ़ वह लंबे समय से लड़ते रहे हैं
    बात कुछ ऐसी है कि non-derivative applied models की training शुरू करने से पहले ही ऐसा capability implement करो कि उस model को तेज़ी से पूरी तरह बंद किया जा सके, जब तक कि वह restricted duties exemption के दायरे में न आ जाए। आख़िरकार इसका मतलब यही लगता है कि आप सिर्फ़ वही train कर सकते हैं जिसे अनुमति मिली हो
    स्वाभाविक रूप से, fees वसूलने की शक्ति वाला एक नया विभाग भी साथ आता है। Frontier Model Division बनाया जाएगा, जो developer की annual certification reports की समीक्षा करेगा, उनके summary results प्रकाशित करेगा, और संबंधित fees लगाकर उन्हें एक अलग fund में जमा कर सकेगा
    और हाँ, consultants को भी पैसे देने होंगे। Department of Technology consultants को CalCompute नाम का एक public cloud computing cluster बनाने का काम सौंपता है, जिसका मुख्य उद्देश्य बड़े AI models की safe और secure deployment पर research करना और fair innovation को बढ़ावा देना बताया गया है

    • तुरंत पूरी तरह बंद कर सकने वाली capability implement करने का मतलब है कि उसे बंद किया जा सके
      यह तो आसान होना चाहिए, और फिर भी यह सुनिश्चित करना कि उसे बंद किया जा सकता है, अच्छी बात लगती है

  • लंबे समय में AI startups के लिए सबसे अच्छा state कौन सा होगा, यह सोच रहा हूँ
    पहले मैं California कहता, लेकिन अब लगता है कि ऐसे state को चुनना ज़्यादा ज़रूरी है जहाँ regulation को लेकर इतनी तेज़ी न हो। Washington में अभी तक ऐसा कोई रुझान नहीं दिखा, वहाँ state income tax नहीं है, और Seattle/Redmond में AI engineers और researchers की बड़ी संख्या है, इसलिए वह एक विकल्प है। Texas में भी अतिरिक्त regulation आने की संभावना कम है, और Austin में होने पर कुछ मिलते-जुलते फायदे हैं। अगर California regulation के ज़रिए industry को बाहर धकेलता है, तो फिर कौन सी जगह उभरेगी?

    • मुख्य बात यह है कि साल भर मौसम अच्छा हो, पहले से बड़ा metro area मौजूद हो, और कानून व taxes California से बेहतर हों
      इसी वजह से Texas और Florida के शहर बढ़ रहे हैं। Seattle का मौसम ख़राब है, Washington ठंडा है, और बड़े शहर ठीक से managed नहीं हैं, इसलिए समृद्ध परिवारों के लिए रहने के लिहाज़ से बहुत आकर्षक नहीं हैं
    • state politics महत्वपूर्ण है, लेकिन बिजली की दरें और नए data centers के लिए real estate की उपलब्धता भी अहम है
      California में बिजली की दरें खास तौर पर ऊँची हैं, और वहाँ नए industrial facilities बनाना भी मुश्किल है। अगर जगह किसी जलस्रोत के पास हो, जो cooling requirements में मदद कर सके, तो और भी। कंपनियाँ अपने कुछ employees California में रख सकती हैं, लेकिन hardware के कहीं और चलने की संभावना ज़्यादा है
    • Miami की आबादी ऐसे क़ानूनों के वैचारिक रूप से बहुत विरोध में रहने की प्रवृत्ति रखती है
    • Tennessee भी एक संभावना है। वहाँ बिजली की मांग संभालने के लिए dams हैं

  • यह लेख बहुत ख़राब है और इसमें LLM-generated चीज़ की गंध आती है
    अगर आप इस बिल को सच में समझना चाहते हैं, तो Zvi का analysis पढ़ना बेहतर होगा: https://thezvi.substack.com/p/on-the-proposed-california-sb-...

    • लगता है Zvi ने इस बिल के कुछ महत्वपूर्ण हिस्से छोड़ दिए हैं
      उदाहरण के लिए, लागू model के commercial, public, या widespread use की शुरुआत से पहले, यदि positive safety determination या restricted duties exemption नहीं है, तो developer को ऐसे reasonable safeguards और requirements लागू करने होंगे जो “किसी व्यक्ति को उस model का उपयोग करके ऐसा derivative model बनाने से रोकें जो critical harm पैदा कर सके”
      यह तो सीधा-सीधा असंभव है। अगर आप मुझे model weights दे दें, तो मैं निश्चित रूप से उसे fine-tune करके applied harm कराने लायक बना सकता हूँ। उदाहरण के लिए, मैं उसे chemical या biological weapons बनाने के निर्देश देने के लिए तैयार कर सकता हूँ। यह requirement पूरी ही नहीं की जा सकती, और अगर इसे पूरा नहीं किया गया, तो applied model deploy नहीं किया जा सकता
    • “LLM-generated की गंध” वाली बात के संदर्भ में, Answer.AI खुद को एक नए तरह की AI R&D lab बताता है जो foundational research breakthroughs के आधार पर practical end-user products बनाती है
      बहुत संभव है कि कंपनी या लेखक ने अपने internal products का सीधे उपयोग किया हो
    • अच्छा होगा अगर हम लेख की उत्पत्ति को लेकर बहस में न फँसें और मुख्य सामग्री के सार पर ध्यान दें

  • “लागू मॉडल” वह AI मॉडल है जो दो में से किसी एक मानदंड को पूरा करता है
    पहला, ऐसा मॉडल जिसे 10^26 से अधिक integer या floating-point operations के साथ train किया गया हो। दूसरा, ऐसा मॉडल जिसे इतनी बड़ी compute मात्रा के साथ train किया गया हो कि यह उचित रूप से अपेक्षित हो कि वह 2024 के मानक के अनुसार 10^26 से अधिक operations के साथ train किए गए AI मॉडल के समान या उससे बेहतर performance देगा, और इसका मूल्यांकन उन benchmarks से किया जाता है जो आम तौर पर state-of-the-art foundation models की सामान्य performance को मापने के लिए इस्तेमाल होते हैं
    CPU architecture की बुनियादी class भी पढ़ी हो तो पता होता है कि integer operations और floating-point operations का computational burden काफ़ी अलग होता है। कोई पक्ष अदालत में इस अभिव्यक्ति का इस्तेमाल करके बाद में लागू होने की सीमा को काफ़ी नीचे ला सकता है। उदाहरण के लिए, यह दावा किया जा सकता है कि 1 floating-point operation, 10 integer operations के बराबर है, इसलिए सीमा 10^26 integer operations या 10^25 floating-point operations है
    आज के benchmarks को आधार बनाकर बेहतर algorithms तक को भविष्य के लिए कवर करने की कोशिश करते-करते बात उस बिंदु तक पहुँच जाती है जहाँ effort की मात्रा खुद अब महत्वपूर्ण नहीं रह जाती। आज के benchmarks वास्तविक क्षमता को दर्शाते हों या नहीं, ऐसा लगता है मानो उन्हीं पर baseline खींच दी गई हो। छोटे models ऐसे benchmarks पर जानबूझकर कम performance दे सकते हैं, जबकि परमाणु हथियार निर्माण जैसे उन कार्यों में, जिनकी वे चिंता करते हैं, बेहद सक्षम होने के लिए train किए जा सकते हैं

    • विधेयक में एक और दिलचस्प हिस्सा भी है
      इसमें कहा गया है कि लागू मॉडल की training शुरू होने से पहले developer यह तय कर सकता है कि क्या वह मॉडल सभी benchmarks पर कम performance देगा, लेकिन training से पहले performance कैसे पता चलेगी, यह समझना मुश्किल है
    • integer operations को छोड़ भी दें, तो floating-point precision किस आधार पर तय होगी? केवल उसी से संख्या काफ़ी विकृत हो सकती है
    • एक अर्थ में यह जेब में चलने वाली सामान्य कृत्रिम बुद्धिमत्ता बनाने की दिशा भी दे सकता है
      जब एक उपयोगी upper bound तय हो जाएगा, तो मानवीय रचनात्मकता उसी सीमा के भीतर फिट होने वाली दिशा में जुटेगी। बेशक, यह सिर्फ़ अमेरिका की बात है। चीन, रूस, उत्तर कोरिया, ईरान आदि अब भी इस तकनीक का स्वतंत्र रूप से पीछा कर सकते हैं

  • पूरा लेख ऐसा लगता है मानो ChatGPT से लिखा गया हो
    उदाहरण के लिए, यह मूल विधेयक को उद्धृत भी नहीं करता और open source के मूल्य पर लगातार अस्पष्ट दावे करता रहता है

    • मुख्य बिंदुओं को bullet list में समेटने का उत्साह भी ChatGPT जैसी अभिव्यक्ति है
    • लगता है ऐसी बातों को जल्द ही साइट पर लगभग वर्जित माना जाने लगेगा
      समझ नहीं आता कि यह चर्चा में क्या जोड़ता है, और यह भी संदेह है कि क्या इसमें खंडन के रूप में काम करने वाला कोई तर्क है

  • AI models के विकास को ही regulate करने के बजाय, खासकर सार्वजनिक सुरक्षा और security के लिए उच्च जोखिम पैदा करने वाले application areas को regulate करने का प्रस्ताव मुझे पसंद है
    healthcare, criminal justice, और critical infrastructure जैसे high-risk क्षेत्रों में AI के उपयोग को regulate करने से, AI तकनीक की प्रगति जारी रखते हुए भी हानिकारक उपयोगों के लिए जवाबदेही सुनिश्चित की जा सकती है। जानना चाहूँगा कि इस approach के खिलाफ कोई अच्छा तर्क है या नहीं