बेचते समय AI, बनाते समय मशीन लर्निंग कही जाने वाली तकनीक

 (theaiunderwriter.substack.com)
2 पॉइंट द्वारा GN⁺ 2023-10-12 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • ChatGPT के 2 महीनों में 10 करोड़ यूज़र जुटाने के बाद “AI for X” जैसी sales copy बढ़ने की संभावना बढ़ गई, और असली तकनीक व बढ़ा-चढ़ाकर किए गए दावों के मिश्रण से निर्णय लेना मुश्किल हो गया
  • AlphaGo की 2016 की जीत और 2017 का Transformers paper अहम प्रगति हैं, लेकिन आज की AI hype हर प्रोडक्ट की तकनीकी वास्तविकता की गारंटी नहीं देती
  • Sales में algorithm के नाम गलत इस्तेमाल करने या if-then statements को AI की तरह पेश करने, और इंसानों द्वारा किए जाने वाले काम को NLP जैसा बेचने के मामले भी हुए हैं
  • Vendor को देखते समय machine learning की category, algorithm, prediction output, objective function, performance metrics, model change cycle और human intervention ratio सीधे जांचने चाहिए
  • अगर user-facing screen GPT API को wrap करने वाला पतला wrapper है, तो सिर्फ extra cost आ सकती है और फायदा कम हो सकता है; इसलिए AI नाम से ज़्यादा उसके काम करने का तरीका और validation criteria महत्वपूर्ण हैं

“AI for X” sales copy बढ़ने की पृष्ठभूमि

  • Generative AI question answering, learning, image और video generation जैसे क्षेत्रों में पहले ही मजबूत क्षमता दिखा रहा है और तेजी से बेहतर हो रहा है
    • 2016 में AlphaGo की Go में जीत प्रभावशाली थी, लेकिन यह एक सीमित समस्या हल करने वाली machine intelligence application थी
    • 2017 में Transformers paper आया
    • 2023 में ChatGPT ने 2 महीनों में 10 करोड़ यूज़र हासिल किए
  • तकनीकी प्रगति के साथ hype भी बढ़ रही है, इसलिए GPT की लहर पर सवार होकर “AI for X” sales copy और ज्यादा दिख सकती है
    • Uber IPO के आसपास “Uber for X” startup pitches की बाढ़ आ गई थी; कुछ सफल हुए, लेकिन ज्यादा असफल रहे
    • Cryptocurrency downturn के बाद “crypto expert” का तेजी से “AI expert” में बदलने का trend भी दिखा
  • सिर्फ AI नाम होने से तकनीकी वास्तविकता की गारंटी नहीं मिलती
    • AI expertise pitch में algorithm का नाम गलत लिखने के मामले हुए हैं
    • “AI driven” product वास्तव में if-then statements से चलता था, ऐसे case भी हुए हैं
    • Documents और knowledge को NLP से तोड़कर फिर जोड़ने के रूप में बेचा गया, लेकिन वास्तविक processing Southeast Asia के office में बैठे लोग keyboard से कर रहे थे, ऐसा भी हुआ
  • नाम जानना ज्ञान नहीं है, और नाम बेचना हमेशा असली तकनीक बेचना भी नहीं होता

Vendor की विश्वसनीयता जांचने वाले सवाल

  • पूछना चाहिए कि product में machine learning की कौन-सी broad category शामिल है
    • उदाहरण: supervised learning, unsupervised learning, specific neural network architecture आदि
  • AI के पीछे मौजूद algorithm name की पुष्टि करनी चाहिए
    • उदाहरण: XGBoost, BERT आदि
  • Model क्या predict करता है, यह जांचना चाहिए
    • असली prediction output 1/0, yes/no या number में से क्या है, यह पूछना चाहिए
  • Model किस objective function को optimize करता है, यह जांचना चाहिए
    • इसे loss function या cost function भी कहा जाता है, और यह सवाल यह देखने के लिए है कि model कौन-सी error घटाने की कोशिश कर रहा है
  • Model की उपयोगिता किन metrics से measure की जाती है, यह जांचना चाहिए
    • यह unseen data पर कितना generalize करता है, इसका आकलन करने वाले criteria से जुड़ा है
  • Model कितनी बार बदला जाता है, और क्यों, यह पूछना चाहिए
  • “AI solution” में इंसानों की कितनी involvement है, यह जांचना चाहिए
    • NER या document OCR जैसे automation tasks machine learning और Mechanical Turk के बीच की किसी continuum पर हो सकते हैं
    • Machine learning और human work का ratio जांचना चाहिए
  • User-facing GUI GPT API को wrap करने वाला पतला wrapper तो नहीं है, यह जांचना चाहिए
    • ऐसा form “GPT as a service” हो सकता है, और service सिर्फ extra cost पैदा करे, extra benefit नहीं दे

Terms से overwhelm न होने का रवैया

  • Machine learning शक्तिशाली है, लेकिन अच्छे AI products के साथ low-quality products या भेड़ की खाल में भेड़िया जैसे AI products भी आ सकते हैं
  • AI field के बड़े terms को भी intuitive explanation में तोड़ा जा सकता है, इसलिए technical लगने वाली बातों से डरने या confuse होने की जरूरत नहीं है
  • जो लोग सच में कुछ build करते हैं, वे इसे आम तौर पर machine learning कहते हैं, और buyers को नाम से ज्यादा working mechanism और validation criteria पूछने चाहिए

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-10-12
Hacker News की राय

  • पता नहीं यह किसने कहा था, लेकिन मेरी पसंदीदा शानदार quote है: “जब तक वह काम न करे, उसे AI कहते हैं। autocomplete को देखो”
    जब कोई कंपनी कहती है कि वह “AI कर रही है”, तो software engineer के तौर पर यह ऐसा सुनाई देता है कि उन्हें लगभग पता ही नहीं कि वे उस AI से कहाँ पहुँचना चाहते हैं, या कौन-सी service देंगे

    • HN पर कहीं मैंने “कृत्रिम बुद्धिमत्ता तकनीक नहीं, विचारधारा है” वाला वाक्य पढ़ा था, लेकिन सही source याद नहीं
      इसलिए AI project में आने वाले “साधन लक्ष्य को सही ठहरा देते हैं” जैसे approach से मैं सावधान रहता हूँ। सबका अनुभव अलग हो सकता है
    • यह phrasing वाकई पसंद आई
      मेरी consulting company उन ideas को digital services या solutions में map करती है जिन्हें machine learning framework से solve या leverage किया जा सकता है
      अंतिम outcome को “AI” कहा जाना दुर्लभ है, लेकिन आखिर में हम फिर भी AI/machine learning ही इस्तेमाल कर रहे होते हैं। यह आज के AI hype से थोड़ा पहले से मौजूद है, और यह niche काफी दिलचस्प है
    • 20 साल पहले university की AI textbook में पर्याप्त बड़ा if-else set, यानी expert system, भी शुरुआती AI माना जाता था
      आज इसे hardcoded if-else का bunch कहा जाएगा, लेकिन 40 साल पहले यह cutting-edge AI था और 20 साल पहले textbook में शामिल करने लायक था
    • Steve Jobs ने Dropbox team से जो कहा था—“तुम्हारे पास product नहीं, feature है”—वह याद आता है। सहमत हों या नहीं, feeling मिलती-जुलती है
    • ऐसी कंपनियों से FOMO mode में deal किया है
      वे solution यानी AI से शुरू करती हैं, ताकि solve करने के लिए problem ढूँढ सकें, जबकि ideally उल्टा होना चाहिए
      लगभग तय है कि वे बेकार approach को बार-बार हड़बड़ी में आज़माते हुए खूब पैसा जलाएँगी। लगता है हर नई foundational technology के साथ ऐसा होता है, और dot-com bubble में भी ऐसी कंपनियाँ बहुत रही होंगी

  • यह classic joke से अच्छी तरह match करता है: “machine learning आमतौर पर Python में लिखी जाती है, और AI PowerPoint में”

  • “2019 में Uber के IPO से ठीक पहले, venture capital में ‘X के लिए Uber’ startup pitches की भरमार थी। जैसे parking space के लिए Uber”
    उफ। मौजूदा French president ने famously economy को “uberize” करने का सुझाव दिया था, जिसका मतलब employers के लिए कम खर्च वाली अस्थिर नौकरियाँ था
    मेरे workplace के C-level लोग भी already generative AI जैसी बातें लगातार कर रहे हैं। निकट भविष्य में हर चीज़ को AI-ify करने वाली marketing bakwaas और सुनने का खयाल उत्साहित नहीं करता

  • मज़ेदार बात यह है कि जिसे “AI” कहा जाता था, वह जैसे उस चीज़ से हटकर उन क्षेत्रों में चला गया है जिन्हें हम इंसानों को “intelligent” कहते समय कभी intelligence का हिस्सा नहीं मानते
    Boston Dynamics robots को उदाहरण लें: हम किसी इंसान को इसलिए intelligent नहीं कहते कि वह बिल्ली और कुर्सी में फर्क कर लेता है, बिना गिरे चलता है, या backflip करता है
    लेकिन अगर वह अपने data और physical abilities का creative use करके problem solve कर सके, तो हम उसे intelligent मानते हैं
    robots जैसी चीज़ों में जब हम “AI” पर हैरान होते हैं, तो मेरी समझ में वह AI ज़्यादातर perception (raw sensor data से labeled world model तक जाना) और actuation control (“1 meter आगे बढ़ो” या “backflip” जैसे instructions को actual actuator movements की sequence में बदलना) में होता है
    असली “intelligence”, यानी “peanut butter sandwich बना दो” task पूरा करने के लिए दरवाज़ा खोलना, दूसरे कमरे में जाना, peanut butter और bread लाने का फैसला, ज़्यादातर classical if-then logic होता है या human operator देता है
    ChatGPT जैसी चीज़ों में भी ऐसा ही pattern दिखता है। textbook रटकर बिल्कुल दोहरा देने वाले student की ability impressive हो सकती है, लेकिन ऐसे student को हम “intelligent” नहीं कहते
    intelligent student वह है जो theorem का proof या किसी term की exact definition भूल जाने पर भी, नई problem मिलने पर creatively सही solution तक पहुँच सके। “parrot students” आमतौर पर यहाँ बुरी तरह fail होते हैं

    • क्या AI है और क्या नहीं, यह बहस काफी व्यर्थ है। क्योंकि कोई मजबूत definition नहीं है
      पहले YouTube पर मैंने airport control tower के लिए बने किसी बेहद primitive automation system का पुराना video देखा था। शायद 70s के आसपास का था, और वह व्यक्ति उसे AI कह रहा था
      उसने software क्या करता है यह detail में समझाया और code तक दिखाया, और वह literally ढेर सारे if/else statements जैसा था
      ChatGPT जैसी चीज़ों की आदत पड़ जाने पर, शायद उसे भी AI कहना बंद कर दिया जाएगा, या अगले target के लिए “artificial general intelligence” को और broadly कहा जाएगा
      हाल तक मेरा मानना था कि अगर यह artificial general intelligence नहीं है तो इसे AI न कहें, लेकिन सच कहूँ तो किसे फर्क पड़ता है। शब्द सिर्फ विचार पहुँचाने का tool हैं
      अगर ज्यादातर लोग आज हम जो बना रहे हैं उसे AI कहना चाहते हैं, तो ठीक है, और यह गलत भी नहीं। इसमें sentience नहीं है, लेकिन कुछ standards पर इसे intelligent कहा जा सकता है, और यह साफ तौर पर artificial है। आपस में समझ हो तो काफी है
    • brain उसके ऊपर कुछ build कर सके, इसके लिए basic information retention संभव होना चाहिए
    • brain का बहुत बड़ा हिस्सा perception और motor control tasks में लगता है। यह आसान problem नहीं है
      intelligence सिर्फ reasoning नहीं है। कमरे के पार चलकर कोई चीज़ उठाने में भी काफी brain power लगती है
    • AI researchers मज़ाक में कहते हैं कि AI बस वही है जो computer अभी नहीं कर पाते

  • 90s में मेरे पास ऐसा vacuum cleaner था जिसमें उस समय का cool tech buzzword “fuzzy logic” लगा था
    असल में वह क्या करता था, कौन जाने। शायद बस इतना कि on और off के बीच medium power setting है

    • काश मेरी 2015 या 2016 model car के climate control में fuzzy logic होती
      थोड़ा गरम और पूरी तरह गरम के बीच थोड़ा फर्क लगता है, लेकिन थोड़ा ठंडा और थोड़ा गरम के बीच एक साफ switch है
      कभी-कभी मैं बस room-temperature air को fan से circulate करना चाहता हूँ, न गरम न ठंडी
    • 2010 model LG washing machine में भी fuzzy logic थी

  • यह ध्यान देने लायक है कि Apple लगातार इसे machine learning ही कहता है

  • AI हमेशा से consumer-facing term रहा है। मसलन games में भी कई चीज़ों को “AI” कहा जाता रहा है

    • यह debate history rewrite करने जैसी है
      लोग मूलतः किसी भी चीज़ को AI कहने से संतुष्ट रहे हैं[1], और जब AI natural language जैसे domains में सचमुच अच्छा करने लगता है, तभी वे language को फिर से गढ़कर उसे downgrade करते हैं
      मेरे जीवनकाल में AI का मतलब ऐसा हर software रहा है जो human-like decision making के किसी भी aspect की थोड़ी-सी भी नकल करे
      और फिर point क्या है? AI कहने से इनकार करने पर उसकी capability अच्छी या बुरी, बदलती नहीं
      यह तथ्य भी नहीं बदलता कि FAIR को छोड़कर leading capability labs वाकई real general intelligence बनाने की कोशिश कर रही हैं, और FAIR का नाम Fundamental AI Research lab होने की भी वजह है
      [1] उदाहरण: Pacman का Ghost AI — Z80 पर चलने वाली कुछ lines के code में summarize होने वाली चीज़ के लिए पूरी तरह reasonable expression। Wikipedia: “Each of the four ghosts has its own unique artificial intelligence (A.I.), or "personality": ...”
    • दिलचस्प बात यह है कि game AI अक्सर sleight of hand होता है
      developers को कई बार game AI को काफी dumb बनाना पड़ता है ताकि player को fair लगे, और फिर balance के लिए उसे bonuses दे देते हैं
      उदाहरण के लिए game AI के पास अक्सर unlimited ammo होता है, लेकिन उसकी bullets player को ज्यादा damage नहीं देतीं
    • मैं TV industry का example देना चाहूँगा। TV को पिछले साल के model से ज्यादा advanced दिखाने के लिए हर तरह के trend पर चढ़ने में यह काफी माहिर है
      मेरे Sony TV में भी कहीं AI छिड़का गया है, कहते हैं, लेकिन वह क्या करता है मुझे बिल्कुल नहीं पता। असल में मुझे तो बस बड़ा dumb display चाहिए
    • games में ऐसे agents होते हैं जिन्हें humans simulate करने के लिए बनाया जाता है

  • क्या दोनों को reconcile करके “statistical learning” नहीं कहा जा सकता?

    • “iterative statistics” ज्यादा सही नहीं होगा? पता नहीं exactly किसे “learning” कहा जा रहा है

  • “जो लोग Python में लिखते हैं, वे इसे machine learning कहते हैं, और जो लोग PowerPoint में लिखते हैं, वे इसे AI कहते हैं”

  • लोग drill के लिए नहीं, छेद के लिए पैसे देते हैं

    • मैं drill का इस्तेमाल छेद करने से unrelated कामों में भी करता हूँ, इसलिए मैंने छेद के लिए नहीं, drill के लिए पैसे दिए
    • पता नहीं। मेरे समेत बहुत से लोग ऐसी drill पर पैसे देते हैं जिसे वे बस कुछ ही बार इस्तेमाल करेंगे। trucks के साथ भी यही है