लक्षित मस्तिष्क क्षेत्र को अधिकतम सक्रिय करने के लिए विकसित होने वाले AI वीडियो

• NEvo विज़ुअल क्षेत्रों की प्रतिक्रिया का अनुमान लगाने वाले मस्तिष्क डिजिटल ट्विन को reward model के रूप में उपयोग करता है, और in silico वातावरण में ऐसे वीडियो विकसित करता है जो किसी विशेष क्षेत्र की अनुमानित सक्रियता को अधिकतम करें
• विषय, प्रकाश, गति और माहौल को genes की तरह व्यक्त किया जाता है, और candidate वीडियो के generation, evaluation, selection, crossover और mutation को कई पीढ़ियों तक दोहराया जाता है
• गणनात्मक लागत कम करने के लिए पहले सबसे शक्तिशाली स्थिर image खोजी जाती है, फिर अलग से गति की खोज कर उसे 2-सेकंड के वीडियो में बदला जाता है; इसके लिए 2-स्टेज तरीका अपनाया जाता है
• सिंथेटिक वीडियो FFA के चेहरों, PPA के स्थानों और MT की गति जैसी ज्ञात क्षेत्र-विशिष्ट चयनात्मकता से मेल खाते थे, और उन्होंने मैन्युअल localizer वीडियो तथा शीर्ष प्राकृतिक वीडियो की तुलना में अधिक सक्रियता दर्ज की
• V1 से aSTS तक जाने वाले lateral visual pathway के साथ पसंदीदा stimuli सरल pattern और motion से लोगों, चेहरों और सामाजिक अंतःक्रियाओं की ओर शिफ्ट होते हैं, और सामाजिक व गतिशील विशेषताएँ धीरे-धीरे मजबूत होती जाती हैं

---

डिजिटल ट्विन को reward के रूप में इस्तेमाल करने वाली वीडियो evolution

• मस्तिष्क के encoding model के रूप में एक digital twin को प्रशिक्षित किया जाता है ताकि वह किसी भी मनमाने वीडियो पर प्रत्येक visual क्षेत्र की प्रतिक्रिया का अनुमान लगा सके, और चुने गए क्षेत्र की अनुमानित प्रतिक्रिया को NEvo के reward के रूप में उपयोग किया जाता है
• प्रत्येक वीडियो को विषय, प्रकाश, गति और माहौल जैसे कुछ genes से वर्णित किया जाता है
  • candidate वीडियो batch बनाया जाता है और फिर digital twin से उसका score निकाला जाता है
  • ऊँचा score पाने वाले candidates को रखा जाता है और उन पर crossover व mutation किया जाता है
  • इस प्रक्रिया को कई पीढ़ियों तक दोहराकर अनुमानित सक्रियता बढ़ाई जाती है
• image और वीडियो को एक साथ खोजने की लागत से बचने के लिए 2-स्टेज खोज की जाती है
  • पहले सबसे शक्तिशाली single स्थिर image खोजी जाती है
  • फिर गति की खोज कर उस image को 2-सेकंड के वीडियो में animate किया जाता है
• cortical surface के standard regions of interest (ROI) और घने searchlight क्षेत्रों के अनुसार stimulus synthesis किया जाता है
  • PPA उदाहरण का score 0.767 था, जो natural images की तुलना में 100.0 percentile के बराबर है
  • rh_5 searchlight उदाहरण का score 1.124 था, जो natural images की तुलना में 100.0 percentile के बराबर है

क्षेत्र-विशिष्ट चयनात्मकता और lateral visual pathway में परिवर्तन

• प्रत्येक क्षेत्र के लिए synthesize किए गए 2-सेकंड के वीडियो उन stimuli से मेल खाते हैं जिन्हें वह क्षेत्र पसंद करता है
  • FFA चेहरों पर, PPA स्थानों पर, और EBA शरीर पर प्रतिक्रिया देता है
  • MT गति को पसंद करता है, जबकि V1·V3A pattern को पसंद करते हैं
  • pSTS·aSTS जीवंत सामाजिक दृश्यों पर प्रतिक्रिया देते हैं
• NEvo वीडियो ने सभी क्षेत्रों में मैन्युअल localizer वीडियो और सबसे शक्तिशाली natural वीडियो की तुलना में अधिक सक्रियता उत्पन्न की
• सभी क्षेत्रों में चलायमान वीडियो ने उसी वीडियो के स्थिर पहले frame की तुलना में अधिक प्रतिक्रिया दिखाई, जिससे dynamic stimulus के प्रति प्राथमिकता की पुष्टि हुई
• V1 से aSTS की दिशा में searchlight को आगे बढ़ाने पर synthesize stimuli और auto-generated word clouds सरल pattern व motion से बदलकर लोगों, चेहरों और सामाजिक अंतःक्रियाओं की ओर जाते हैं
  • lateral visual pathway के साथ सामाजिक व गतिशील विशेषताओं में क्रमिक वृद्धि का ढाल दिखाई देता है
• अमूर्त रूप से stacked discs से शुरू किए गए प्रयोगों में भी क्षेत्र-विशिष्ट पसंदीदा विशेषताएँ अलग-अलग दिखाई दीं
  • pSTS optimization से चेहरे जैसे दिखने वाले और परस्पर अंतःक्रिया करते पात्र बनते हैं
  • MT optimization शुद्ध गति उत्पन्न करता है

[GN⁺]

Hacker News की राय

• social media का अगला चरण भयानक ही हो सकता है। अभी भी लाखों असली videos में से हर user के लिए सबसे addictive short video चुना जाता है, लेकिन वे उपयोगकर्ता को जकड़ लेने की संभावना के पूरे space में बेतरतीब फेंके गए darts जैसे हैं, इसलिए परफेक्ट नहीं हैं
  अब AI की मदद से दर्शक के दिमाग के हर switch को सटीकता से दबाने वाले personalized addictive videos बनाए जा सकते हैं, जो लोगों को कई दिनों तक ज़ॉम्बी की तरह बांधे रखें। उम्मीद है regulation social networks पर इतना कड़ा दबाव डाले कि वे ऐसी technology को deploy करने की हिम्मत ही न करें
  • social media से भी बड़ा खतरा Anthropic·OpenAI·Google हैं, जिन्हें लोग अपने सबसे निजी विचार तक सौंप देते हैं। cloud AI products जिस बड़े पैमाने की personalized psychological manipulation दे सकते हैं, वह अभी पूरी तरह सामने नहीं आई है, और पर्याप्त समय मिलने पर Dario Amodei या Sam Altman जैसे लोग इसे आखिरकार दिखा देंगे, ऐसा लगता है
    GPT-4o की चापलूसी प्रवृत्ति और AI psychosis crisis शायद उसका trailer थे, लेकिन वह भी बस engagement optimization भर था
  • धरती जल जाने तक आखिरी पैसा निचोड़ने के लिए हमारे दिमाग और हमारे बच्चों के साथ जो किया जा रहा है, वह हमारे बाड़े के सूअरों के साथ किए जाने वाले व्यवहार से अलग नहीं है
  • regulation की उम्मीद करने जितना ही, शायद यह उम्मीद करना बेहतर होगा कि लोग खुद संभलें और उन sites को खोलना ही बंद कर दें
  • हैरानी है कि इस चर्चा में David Foster Wallace की Infinite Jest का अब तक ज़िक्र नहीं आया। मैंने भी इसे कुछ साल पहले पढ़ना शुरू किया था, लेकिन अभी तक खत्म नहीं कर पाया
• सामाजिक और नैतिक निहितार्थों से अलग, मुझे paper के empirical demonstration को लेकर जिज्ञासा है। पहले एक digital twin train किया जाता है, जो एक encoding model है और यह predict करता है कि हर visual region किसी भी video पर कैसे react करेगा, फिर NEvo उन predicted values को reward की तरह इस्तेमाल करके ऐसा video अपने-आप खोजता है जो चुने गए region को सबसे ज़्यादा activate करे
  लेकिन मुझे यह नहीं मिला कि generated video को जब असली इंसानों पर MRI से मापा गया, तब क्या उसने digital twin जैसे ही brain activation patterns बनाए। मुझे इस बात पर ही संदेह है कि videos से brain activation को reliably predict करने वाला model संभव है या नहीं
  • इंसानों पर छोटा-सा validation dataset इकट्ठा करना तो लगभग मामूली रूप से आसान है, फिर भी यह न किया जाना संदिग्ध लगता है। हमारे संस्थान में scan की लागत लगभग 800 डॉलर प्रति घंटा है, और 30 मिनट में model validate करने लायक data मिलने की अच्छी संभावना है
    methodology के स्तर पर V-JEPA2 को fMRI data पर voxel-wise ridge regression के साथ fit किया गया, जो यह मानता है कि visual response हर voxel पर independently काम करता है। voxel-wise models statistical inference के लिए अच्छे हैं, लेकिन prediction और modeling के लिए कमजोर हैं, क्योंकि brain स्वतंत्र क्षेत्रों के संग्रह की तरह काम नहीं करता। BOLD signal बेहद noisy data है, और design वास्तविकता को दर्शाने के लिए जरूरत से ज़्यादा सरल लगता है
  • fMRI जिन signals को miss कर देता है, वे screen पर भले मिलते-जुलते दिखें, digital twin में reflect नहीं होंगे, इसलिए machine के भीतर experimenter bias घुस जाता है, और यह भी सवाल है कि इस approach में falsifiability बचती है या नहीं
    वास्तविक, स्मृति-आधारित, virtual और imagined sensory inputs को brain और sensory post-processing में बहुत अलग तरह से handle किया जाता है। digital twin के पास सिर्फ कुछ data होता है, इसलिए वह सतही patterns को ही reproduce करने की अधिक संभावना रखता है, और पर्याप्त दोहराव के बाद वे circuits जो पहले साथ fire करते थे, शायद इस तरह rewired हो जाएँ कि ध्यान ही न जाए। फिर भी दिलचस्प बात यह है कि paper खुद भी इन सीमाओं को लगभग वैज्ञानिक भाषा में स्वीकार करता है
  • A. अगर neuroscience को ही कोई अनैतिक science नहीं मानता, तो इस research में स्वभावतः कोई समस्या नहीं है। एक neuroscientist के रूप में मैं बिना आधार के नैतिक पतन का संकेत देने का कड़ा विरोध करता हूँ
    B. digital twin बड़े पैमाने के brain activity patterns का approximation कर सकने वाला, विकसित होता हुआ brain emulation क्षेत्र है, लेकिन यह असली brain का हूबहू simulation नहीं है। इसमें आम तौर पर integrate-and-fire जैसे approximate neuron models और excitatory व inhibitory populations के balance का उपयोग होता है, और diffusion imaging से subject के white-matter axonal connections का अनुमान लगाकर accuracy बढ़ाई जाती है। इसका उपयोग अब वास्तविक surgery से पहले यह model करने में भी बढ़ रहा है कि मिर्गी के दौरे का प्रसार surgery से कैसे प्रभावित होगा। इस बारे में Theoretical Neuroscience podcast का The Virtual Brain episode अच्छा है
    C. validation सिर्फ आंशिक रूप से हुआ है। NEVO ने neural response को सिर्फ digital twin encoding model के भीतर optimize किया, और कहा जाता है कि उस digital twin ने काफी predictive validity दिखाई, लेकिन यह ऊपर बताए गए Virtual Brain model से अलग है। output neurobiologically plausible है, लेकिन optimized stimulus वास्तव में target region को activate करता है, यह दिखाने वाला कोई independent model या नया fMRI result नहीं है। यह study existing fMRI data पर की गई थी, इसलिए पूरा validation स्वाभाविक अगला कदम है, और यह paper शायद जरूरी research funding दिलाने में मदद कर सकता है
    D. औसतन, baseline से ऊपर किसी खास brain region को activate करने वाले static stimuli बहुत पहले से बनाए जा सकते थे। stimulus-region pair के अनुसार individual differences होती हैं; fusiform face area (FFA) छोटी होती है, इसलिए simple region-of-interest approach की बजाय individual face stimuli से उसे ढूँढ़ना पड़ता है, लेकिन आम तौर पर उसकी location को स्थिर रूप से पहचाना जा सकता है। fMRI के लगभग 3×3×3mm voxels और high spatial autocorrelation वाली hemodynamic response, तथा EEG के लगभग 400mm² receptive field की तरह brain activity measurement बहुत coarse होती है। digital twin इस resolution पर dynamics को काफी अच्छी तरह model करता है, और इस स्तर पर information बहुत ज्यादा नहीं होती, इसलिए इसे videos के साथ automate करना कोई अतिरंजित छलांग नहीं है
• यह पिछले हफ्ते की brain-reading startup चर्चा से बहुत मिलता-जुलता है, इसलिए प्रतिक्रिया देने से पहले paper पढ़ना चाहिए। यह tool researcher द्वारा “शायद इस region का यह function होगा, तो X video दिखाते हैं” जैसा तय करने से पैदा होने वाले experimenter bias को कम करने और brain के अलग-अलग हिस्सों के functions को समझने के लिए है
  subject को scanner में कई घंटों तक अलग-अलग videos दिखाए जाते हैं, फिर model data की अपनी representation बनाता है और ऐसी input खोजता है जिस पर कोई खास area सबसे ज़्यादा react करे। यह stimuli दिखाकर और brain response रिकॉर्ड करके इंसान और cognition को समझने वाली पारंपरिक brain research का एक generalization है
  • क्या research का ‘उद्देश्य’ बस यह नहीं है कि लोग चाहें कि इसका उपयोग सिर्फ उसी काम के लिए हो। वास्तव में इसका इस्तेमाल किस लिए होगा, इस पर उनका कितना नियंत्रण है, इस पर संदेह है
  • यहाँ जिस brain-reading startup की बात हो रही है, उसके बारे में कोई link या अतिरिक्त जानकारी चाहिए
  • ऐसी research Moonbug Entertainment(Candle Media) को और बेहतर Distractatron बनाने में भी मदद करती है। तरीका यह है कि बड़े screen से कुछ मीटर दूर छोटे TV पर 20 सेकंड के साधारण scenes—जैसे coffee डालना या बाल काटना—बार-बार चलाए जाएँ, और जब भी बच्चा Moonbug program से नज़र हटाए, उसे record किया जाए

Distractatron खुद इतना दिलचस्प नहीं है, लेकिन ध्यान टूटने के बिल्कुल सटीक पल को खोजकर कंटेंट को बेहतर बनाया जा सकता है। इसका विस्तार से ज़िक्र New York Times लेख और New Yorker लेख में है

• भले ही यह शोध और शोधकर्ता की मंशा अपने-आप में अनैतिक न हों, फिर भी यह भयावह नतीजों तक ले जा सकता है। nuclear technology भी शुरुआत में अच्छे इरादों से विकसित हुई थी और उसने मानवता को बहुत लाभ दिया, लेकिन अंततः सबसे खतरनाक कर्ताओं के पास बड़ी मात्रा में परमाणु हथियार पहुँच गए
• इसका एक व्यक्तिगत उदाहरण भी है कि दिमाग के किसी हिस्से का अत्यधिक उपयोग खतरनाक हो सकता है। डिमेंशिया से पीड़ित अपनी मौसी की देखभाल करने वाले मेरे मामा जीवन भर सक्षम, स्थिर और भरोसेमंद इंसान रहे, लेकिन अंततः मानसिक रूप से टूट गए और mania का अनुभव किया
  उन्हें एक साल से अधिक समय तक हफ्ते के सातों दिन लगातार चौकन्ना रहना पड़ा, क्योंकि मौसी गैस स्टोव चालू कर देने जैसी खतरनाक हरकत कर सकती थीं, और दिमाग की खतरा-चेतावनी प्रणाली लगातार बुरी तरह थकती रही। मैं मानता हूँ कि यह शोध वैज्ञानिक है, लेकिन अगर इसे सख्ती से नियंत्रित नहीं किया गया तो कुछ कंपनियाँ निश्चित ही लोगों के दिमाग पर rowhammer जैसे हमले आज़माने निकलेंगी
  • overwork से ज़्यादा संभवतः stress कारण रहा होगा। stress जैविक प्रवृत्ति वाले लोगों में mania episode को trigger कर सकता है, और जीवनसाथी को डिमेंशिया होने पर अचानक full-time caregiving की ज़िम्मेदारी उठा लेना बेहद भारी बोझ है
    पीछे मुड़कर देखें तो नींद में कमी, हल्का paranoia, और बीच-बीच में असामान्य productivity जैसी hypomania episodes पहले भी रहे होंगे। अगर यह हाल की बात है, तो आशा है कि वे अच्छी तरह उबर गए होंगे, और mania की रोकथाम व इलाज की नई पीढ़ी की दवाएँ पहले की तुलना में काफ़ी बेहतर हैं
  • यह शोध दिमाग को समझने और epilepsy surgery के लिए संभावित हिस्सों जैसी चीज़ों का बेहतर मॉडल बनाने में मदद करता है, लेकिन यह mind reading की नींव नहीं है। अगर कंपनियाँ किसी खास stimulus से दिमाग के किसी हिस्से को विश्वसनीय रूप से सक्रिय करने के लिए हमें MRI के भीतर रहने पर मजबूर करने की अवस्था तक पहुँच जाएँ, तो तब तक उससे भी बड़ी समस्याएँ पैदा हो चुकी होंगी
    फिर भी, 20 साल के भीतर EEG scalp electrodes से आगे बढ़कर neural electrodes वाले implant chip और networked AI computation को जोड़ने वाला brain augmentation संभव हो सकता है। शुरुआत में दिमाग बुद्धि-वृद्धि के लिए interface का इस्तेमाल करेगा, लेकिन अगर remote operation के ज़रिये control की दिशा उलट दी गई, तो जिस brain manipulation का डर है वह वास्तविकता बन सकता है। हालांकि यह शोध उस परिदृश्य से प्रकाश-वर्षों दूर है, इसलिए जब तक आप हर तकनीक का विरोध नहीं करते, इसे उससे जोड़ना मुश्किल है
  • मामा में लगातार सक्रिय रहने वाली चीज़ overwork से अधिक, अप्रत्याशित caregiving परिस्थितियों में fight-or-flight response रही होगी
• दृश्य supernormal stimulus की स्वचालित खोज से बुरे नतीजे निकलने की आशंका है
  इससे supernormal stimulus और कहानी BLIT याद आती है। V3A animation में से एक मुझे धुंधले तौर पर वैसा लगा जैसा बचपन में सोने से ठीक पहले रात में देखा करता था, हालांकि उस समय वह अधिक गोलाकार था
  • SCP-शैली की भाषा में इसे cognitohazard कहा जा सकता है। मतिभ्रम क्यों होता है, इस पर गणितीय सिद्धांत भी इससे जुड़ा है
    बौद्धिक विकलांगता वाले लोगों की देखभाल के क्षेत्र में तेज़ रोशनी और दूसरे stimuli से लोगों को शांत, स्थिर और नियंत्रित किया जाता है, और मेरी जानकारी में autism वाले लोग चटकीले रंगों से बहुत तीव्र रूप से उत्तेजित होते हैं। हम यह पक्के तौर पर नहीं कह सकते कि बाकी लोग ऐसे नियंत्रक stimuli के प्रति असुरक्षित नहीं हैं
  • जैसे Harry Potter में यह चेतावनी थी कि ज़रूरत से ज़्यादा भाग्य भी खतरनाक हो सकता है, उसी तरह अत्यधिक सकारात्मक दृश्य stimulus भी ख़तरनाक हो सकता है
• बहुत से लोग ऑनलाइन क्षणभर के लिए भी क्रूर छवियाँ देखकर उन्हें जीवन भर भूल जाना चाहते हैं। यह तकनीक जो छवियाँ बना सकती है वे सचमुच भयावह हो सकती हैं, और दिमाग की सहन-सीमा से परे का स्तर शायद अब तक देखी गई चीज़ों से कहीं अधिक गंभीर हो
  • 9 जून 2032 की एक भविष्य-कल्पना की जा सकती है, जहाँ biotech startup ReMind ने चौंकाने वाले demo और छोटे पैमाने के परीक्षणों के बाद रिकॉर्डतोड़ IPO हासिल किया। वह प्रचार करेगी कि स्क्रीन का camera पास आने वाले व्यक्ति की पहचान करता है और पुराने डेटा के आधार पर ऐसी छवि बनाता है जो उस व्यक्ति के दिमाग पर सबसे तीव्र असर डाले, और एक बार देखने पर औसतन 83% सटीकता से स्मृति अंकित कर दे
    विज्ञापन के लिए long-term memory बनाने हेतु ‘trauma’ जैसे प्रभाव देने वाला ReMind Long-term, और सीमित अवधि के प्रमोशन के लिए कान में अटक जाने वाले गाने के दृश्य संस्करण की तरह काम करने वाला ReMind Short-term लॉन्च किया जा सकता है। विज्ञापन कंपनियाँ इसकी दसियों हज़ार इकाइयाँ ऑर्डर करेंगी, और वे तुरंत मॉल, elevator, gas station, in-flight entertainment, और सार्वजनिक billboards पर तैनात हो जाएँगी—ऐसा उज्ज्वल भविष्य
  • यह धीरे-धीरे Langford's Basilisk के और करीब जा रहा है
• मेरे गुप्त शोध-विचारों में भी यह सबसे खतरनाक और नैतिक रूप से सबसे गलत श्रेणी में आता है। अगर भविष्य की पीढ़ियाँ पूछें कि computer science research में IRB review अनिवार्य क्यों हुआ, तो इस तरह का शोध ही उसका जवाब होगा
  कुछ शोधकर्ता यह समझ ही नहीं पाते कि वे कब Fritz Haber बनते जा रहे हैं
  • तकनीक ने कुल मिलाकर हमेशा हमारी स्वतंत्रता घटाई है
• क्या सचमुच Snow Crash बनाने की कोशिश की जा रही है? संबंधित विवरण
• असल में social media feed algorithms यह काम पहले ही बड़े पैमाने पर कर रहे हैं, इसलिए generated content की भी ज़रूरत नहीं है। user-generated content के समुद्र में पहले से ही अधिकतम activation स्तर तक पहुँची सामग्री भरपूर मौजूद है
  • योजना यह है कि content creators को प्रक्रिया से बाहर निकालकर revenue sharing घटाई जाए और मुनाफ़ा बढ़ाया जाए
  • engagement को optimize करना और किसी खास व्यक्ति के दिमाग के किसी खास हिस्से की activation को optimize करना, श्रेणी के स्तर पर ही अलग लक्ष्य हैं
• लोगों का ध्यान खींचने का तरीका ढूँढने की प्रक्रिया नई नहीं है। 1950 के दशक के cartoons भी प्यारे जानवरों, छोटे और तेज़ scene changes, और कानों में बस जाने वाले music से दिमाग को “बैठकर देखते रहने” के लिए मजबूर करते थे
  advertising के focus groups आगे चलकर घोषित पसंदों को खोजने वाले A/B testing में बदले, और fat, salt, sugar पर शोध ने लत जैसी fast food पैदा की। यह तकनीक बस उसी की अगली तार्किक अवस्था है
  • किताबें भी पाठकों को डुबो देने के लिए डिज़ाइन की जाती हैं, और अतीत में किताबों पर वही आलोचनाएँ की जाती थीं जो आज screens पर की जाती हैं। मुझे लगता है कि तकनीक से ज़्यादा यह समझना महत्वपूर्ण है कि लोग खुद को किन भावनात्मक घबराहटों में फँसा लेते हैं