“लेकिन ऐसा हो गया.” - Eric Schmidt के commencement speech पर Casey Muratori की टिप्पणी

• Eric Schmidt के भाषण का मुख्य बिंदु AI पर हुई हूटिंग से ज़्यादा, इंटरनेट के दुष्प्रभावों को स्वीकार करते हुए भी जिम्मेदारी की स्थिति को धुंधला करने वाले उनके शब्दों में है
• Google में उनके नेतृत्व का दौर उस समय से मेल खाता है जब advertising, data collection, behavior manipulation और A/B testing जैसे internet business model मज़बूती से स्थापित हुए
• “एक ही tool” के अच्छे और बुरे दोनों कामों में इस्तेमाल होने वाला फ्रेम, dark patterns को एक डिज़ाइन की गई संरचना के बजाय किसी उप-उत्पाद जैसा दिखाता है
• छात्रों से AI फैसलों वाले कमरों में जाकर अपनी आवाज़ उठाने को कहने के बावजूद, पिछली तकनीकी पीढ़ी में क्या गलत हुआ इस पर कोई failure analysis नहीं है
• अगर AI को इंटरनेट जैसी राह पर जाने से रोकना है, तो यह मानना होगा कि अतीत के बुरे हिस्से अपने-आप नहीं बने थे, बल्कि लोगों ने उन्हें बनाया था

---

commencement speech में धुंधली हुई जिम्मेदारी

• Eric Schmidt का University of Arizona commencement speech AI पर की गई टिप्पणी के बाद हुई हूटिंग के लिए जाना गया, लेकिन असल में ज़्यादा महत्वपूर्ण उसका पहला हिस्सा है, जहाँ वह इंटरनेट के दुष्प्रभावों को स्वीकार करते हैं
• Schmidt कहते हैं कि उन्हें विश्वास था कि धरती के हर व्यक्ति को जोड़ना और दुनिया की जानकारी उपलब्ध कराना, ज्ञान के लोकतंत्रीकरण, गरीबी कम करने और एक अधिक बुद्धिमान व दयालु समाज की ओर ले जाएगा
• साथ ही वह यह भी मानते हैं कि वही tools लोगों को अलग-थलग करने लगे, सबको आवाज़ देने वाले platforms ने public sphere को नुकसान पहुँचाया, और गुस्से को reward करके सबसे खराब मानवीय प्रवृत्तियों को बढ़ाया, जिससे लोगों के बात करने और एक-दूसरे से पेश आने का तरीका अधिक कठोर हो गया
• वह कहते हैं कि किसी ने भी ऐसा technology बनाने की कोशिश नहीं की थी जो democracy को polarized करे और युवा पीढ़ी को anxious बनाए; “यह हमारी योजना नहीं थी, लेकिन ऐसा हो गया”
• अच्छे नतीजों की बात वह सक्रिय भाषा में करते हैं, जबकि बुरे नतीजों को “हो गया” जैसी passive expression में रख देते हैं, जिससे जिम्मेदारी किसकी है यह धुंधला हो जाता है

Google executive के रूप में उनकी स्थिति

• Schmidt ने 2001 से 2017 तक Google में CEO और अन्य नेतृत्व भूमिकाएँ निभाईं, और यह वही समय था जब इंटरनेट business की dark patterns विकसित होकर पूरे industry में जड़ें जमा रही थीं
• Google को ऐसे company के रूप में देखा जाता है जिसने advertising, data collection, user behavior manipulation और हर चीज़ को A/B testing से चलाने जैसे internet business model को आगे बढ़ाया
• अगर Steve Wozniak शुरुआती Apple computers के समय के बारे में कहें कि उनका इरादा closed ecosystem या device control बनाने का नहीं था, तो वह बात ईमानदार लग सकती है, लेकिन Schmidt पर वही दूरी लागू करना मुश्किल है
• यह सवाल उठता है कि Schmidt खुद को सिर्फ search engine जैसे “tool” का निर्माता मानते हैं, और advertising company, data collection company, behavior modification तथा dark patterns की परतों से खुद को अलग सोचते हैं
• “एक ही tool” का उपयोग सकारात्मक X और नकारात्मक Y दोनों के लिए हुआ, यह फ्रेम बुरे नतीजों को किसी डिज़ाइन और निर्माण की गई संरचना के बजाय किसी noble purpose के side effect जैसा बना देता है

AI पर टिप्पणी और छात्रों की हूटिंग

• भाषण के बाद के हिस्से में Schmidt छात्रों से कहते हैं कि वे उन कमरों में जाएँ जहाँ AI से जुड़े फैसले लिए जाते हैं, अपनी आवाज़ रखें, और मानवीय values व judgment वहाँ लेकर जाएँ
• वह कहते हैं कि technology अपने-आप में सिर्फ एक tool है; किस चीज़ को optimize करना है यह इंसान तय करते हैं, और छात्रों के जीवनकाल में वह “कोई” स्वयं छात्र ही होंगे
• इसके बाद “freedom”, “open debate”, “उन लोगों के साथ भी जीना जिनकी राय अलग है — यह धीमा, बेतरतीब लेकिन खूबसूरत प्रोजेक्ट”, “equality” और “diverse perspectives” को चुनने का संदेश आता है
• छात्रों ने पिछली पीढ़ियों की तरह technology का कोई दूसरा रूप देखा ही नहीं है; वे केवल उसी dark-pattern वाली technology को जानते हैं जिसमें चीज़ें उनकी नहीं होतीं, data किसी और के पास रखा जाता है, behavior track किया जाता है, data बेचा जाता है और उन्हें ads के लिए target किया जाता है
• ऐसे छात्रों से, पिछली तकनीकी लहर के प्रमुख decision-maker द्वारा अगली तकनीकी लहर में पूरे उत्साह से शामिल होने को कहना, सिर्फ AI से नफरत के कारण हुई हूटिंग से कहीं अधिक जटिल अर्थ रखता है

जो गायब है: माफ़ी और failure analysis

• Schmidt यह मानते तो हैं कि अतीत के बुरे नतीजे उनके कार्यकाल और decision-making space में पैदा हुए, लेकिन वह यह नहीं बताते कि यह विफलता हुई क्यों, इस पर कोई reflection नहीं देते
• उपयोगी tools के ऊपर खराब तकनीकी और business layers बनने की अनुमति क्यों दी गई, उन्हें रोका क्यों नहीं गया, और किस हिस्से की जिम्मेदारी उन्हें लेनी चाहिए — इसकी कोई व्याख्या नहीं है
• छात्रों के लिए सचमुच मूल्यवान सलाह यह नहीं थी कि वे नई technology वाले कमरों में जाएँ, बल्कि यह थी कि पिछली technology में क्या गलत हुआ और किन फैसलों ने ऐसे नतीजे पैदा किए, इसका ठोस विश्लेषण दिया जाता
• AI को लेकर डर किसी अमूर्त technology से नहीं, बल्कि इस स्मृति से पैदा होता है कि जब Silicon Valley के decision-makers को पिछली नई technology सौंपी गई थी, तो उन्होंने उसका dark-pattern version बनाया था
• अतीत के लिए माफ़ी, जिम्मेदारी की स्वीकृति और दोहराव से बचने के तरीके के बिना, अगर सिर्फ “ऐसा हो गया” जैसी passive expression ही बचती है, तो यह अविश्वास और गहरा होता है कि AI भी इंटरनेट जैसी दिशा में जा सकता है

अगली पुनरावृत्ति रोकने की शर्त

• निष्कर्ष यह है कि इंटरनेट के बुरे हिस्से ऐसे नहीं बने कि tool जनता तक पहुँच गया और बाकी अपने-आप हो गया; वे इसलिए बने क्योंकि लोगों ने वास्तव में उन बुरे हिस्सों का निर्माण किया
• अगर AI को इंटरनेट जैसी राह पर जाने से रोकना है, तो यह स्वीकार करना होगा कि ऐसा क्यों हुआ और किन फैसलों ने ऐसे नतीजों को जन्म दिया
• सिर्फ अगली पीढ़ी के Schmidt नहीं, बल्कि आज भी Silicon Valley और Washington DC में प्रभाव रखने वाले Schmidt जैसे लोगों को यह समझना होगा कि अतीत के फैसलों ने आज का तकनीकी माहौल बनाया है
• जिम्मेदार लोगों की स्वीकृति और आत्मचिंतन के बिना, अगली technology में भी वही business models और dark patterns दोहराए जाने का जोखिम बना रहेगा
• अगली बार बेहतर करना है — यह निष्कर्ष technology optimism से नहीं, बल्कि अतीत की विफलताओं को जिम्मेदारी से संभालने के तरीके से शुरू होता है

[GN⁺]

Lobste.rs की राय

• जो लोग इसे पढ़ना चाहते हैं, उनके लिए एक प्रतिलेख है

• देखने लायक था। Casey पहले से ही एक समझदार व्यक्ति है, लेकिन इस बार का विषय उन तकनीकी बातों से कहीं ज़्यादा गंभीर था जिन पर वह आमतौर पर बात करता है

  • सहमत। समझ नहीं आ रहा था कि क्या उम्मीद करनी चाहिए, लेकिन उसने काफ़ी मज़बूत तर्क रखे।
    Schmidt छात्रों से कुछ इस तरह कहता है कि “तकनीक के बारे में फैसले जहाँ लिए जाते हैं, उन कमरों में मानवीयता लेकर जाओ”, जो सुनने में ठीक लगता है। लेकिन अभी जो हो रहा है उसे देखें तो AI जैसी, सबको प्रभावित करने वाली तकनीकों के फैसले दूसरे लोग ले रहे हैं, और बाकी लोग तो मानो उस कमरे में हैं ही नहीं

• जैसा लेख में बताया गया है, अहम बात वह हिस्सा है जहाँ अचानक उसका बोलने का तरीका पूरी तरह कर्मवाच्य में बदल जाता है। वह यह नहीं कहता, “हमने यह बनाया, बुरे नतीजे आए, और यह हमारी गलती थी”, या “हमसे भयानक गलती हुई”, या “हम इस तरह विफल हुए।”
  Joseph Weizenbaum ने भी 1976 में 『Computer Power And Human Reason』 में यही समस्या उठाई थी। वरिष्ठ प्रबंधक भी खुद को उस तकनीक के निर्दोष पीड़ितों की तरह पेश करते हैं जिसकी न तो वे ज़िम्मेदारी लेते हैं, न उसे समझते हैं, और ज़िम्मेदारी इस तरह गायब हो जाती है जैसे “त्रासदी में कर्म तो था, पर कर्ता नहीं था।” तकनीकी, राजनीतिक और सामाजिक अनिवार्यता का मिथक अंतरात्मा को सुन्न कर देता है और वास्तव में मौजूद कर्ताओं के कंधों से ज़िम्मेदारी हटाने वाली एक शक्तिशाली तसल्ली की तरह काम करता है।
  “सिस्टम ज़िम्मेदार है, इंसान नहीं” जैसी अभिव्यक्तियाँ बार-बार दोहराई जाती हैं, और यह सवाल भी ग़ायब हो जाता है कि क्या हम ऐसा भविष्य चाहते हैं। बस यही रवैया बचता है कि यह आ रहा है, इसे रोका नहीं जा सकता, और इसे पलटा भी नहीं जा सकता

  • "Mistakes were made" और "It turns out" ऐसे ही ज़िम्मेदारी से बचने वाले वाक्य हैं
  • “Moorer एडमिरल ने यह क्यों नहीं पूछा कि वे लाखों टन बम, जिन्हें कंप्यूटर वियतनाम पर गिराने को कह रहा था, क्या असर डाल रहे थे” — इस हिस्से पर कहूँ तो, उस समय भी इसे कई तरीकों से जाना जा रहा था: https://en.wikipedia.org/wiki/Sigma_war_games

• डरावना है, लेकिन इसने मेरी चिंता को बहुत अच्छी तरह पकड़ा। मैं इस दौर के इंटरनेट की उपज हूँ, इसलिए यह वीडियो उस एहसास को नाम देने जैसा लगा

• Casey ने खुद को ज़रूरत से ज़्यादा कम आँका। यह बहुत अच्छी तरह बनाया गया वीडियो है, और उस भाषण के मुख्य हिस्सों को देखते हुए मेरी अपनी प्रतिक्रिया से भी यह काफ़ी मेल खाता है।
  और I Think You Should Leave का उद्धरण भी मज़ेदार था। यहाँ “हम सब यह पता लगाने की कोशिश कर रहे हैं कि यह किसने किया” वाला माहौल बहुत ज़्यादा है

• “हम तो बस एक बेहतर दुनिया बनाना चाहते थे, लेकिन पता नहीं कैसे बुरी चीज़ें हो गईं” — इस तरह का रवैया सच में बहुत कुछ उजागर करता है। Eric Schmidt सचमुच पाखंडी है, और अपने कामों से नुकसान पहुँचाने वाले बहुत से लोगों की तरह वह भी अपने व्यवहार को सही ठहराता है।
  एक और महत्वपूर्ण धुरी पीढ़ीगत समस्या है। Schmidt की पीढ़ी के हाथों में राजनीतिक और आर्थिक शक्ति हद से ज़्यादा केंद्रित है। आज के युवा बेवकूफ़ नहीं हैं; वे देख रहे हैं कि क्या हो रहा है। उनकी ज़िंदगी पर उम्रदराज़ लोग नियंत्रण रखते हैं, और वही लोग युवाओं से कहते हैं कि वे रोजगार की असुरक्षा, आर्थिक कठिनाई, dystopian तकनीक, और पर्यावरणीय संकट को झेलें। फिर वे कहते हैं कि यह सब “बस हो गया”, लेकिन सब जानते हैं कि वही लोग इस स्थिति को लेकर आए। छात्रों का हूट करना बिल्कुल स्वाभाविक है। मैं भी उनकी जगह होता तो यही करता