डेटा क्वालिटी के बारे में - बुनियादी सिद्धांत

डेटा में कोई जन्मजात गुणवत्ता नहीं होती, और किसी खास use case में डेटा जितनी अधिक value पैदा करता है, उसकी quality उतनी ही ऊंची मानी जा सकती है

डेटा quality चार चरणों से बनी होती है: individual data, पूरे corpus, purpose fit, और business outcome. निचले चरण ऊपरी चरणों को संभव बनाते हैं, और ऊपरी चरण निचले चरणों में निवेश का कारण देते हैं

सटीक sales data accounting के लिए उपयुक्त हो सकता है, लेकिन real-time management या future sales forecasting के लिए अनुपयुक्त हो सकता है. इसलिए एक ही डेटा की quality का आकलन user और उद्देश्य के अनुसार बदलता है

अगर ध्यान केवल attribute checks पर रहे, तो perfect data बनाने के बाद भी business value नहीं निकल सकती. उल्टा, अगर केवल outcome के पीछे भागते हुए बुनियादी quality को नज़रअंदाज़ किया जाए, तो एक unsustainable system बन सकता है

डेटा quality management केवल डेटा को साफ़ करने तक सीमित नहीं होना चाहिए, बल्कि data use → decision change → business result के रास्ते को मापने और नतीजों के अनुसार निवेश को समायोजित करने की प्रक्रिया भी इसमें शामिल होनी चाहिए

मानक परिभाषाएं पर्याप्त क्यों नहीं हैं

ISO 8000 अच्छी quality वाले डेटा को ऐसा डेटा बताता है जो निर्धारित requirements को पूरा करता है, लेकिन यह जितनी सही लगती है उतनी ही व्यावहारिक निर्णय में कम मददगार एक circular definition है

ISO 25012 accuracy, completeness, consistency आदि सहित 15 attributes के आधार पर data quality को परिभाषित करता है

यह individual data की स्थिति जांचने में उपयोगी है, लेकिन यह नहीं बताता कि वह डेटा वास्तव में उपयोग और business outcomes में योगदान देता है या नहीं

एक ही डेटा को अलग-अलग practitioners अलग तरह से इसलिए आंकते हैं क्योंकि वे quality के अलग चरणों और अलग उपयोग उद्देश्यों के आधार पर निर्णय लेते हैं

डेटा quality, data value से पैदा होती है

डेटा का कोई intrinsic value नहीं होता. उसकी value इस बात से तय होती है कि उस डेटा से क्या किया जा सकता है

डेटा asset की कीमत तय करने की विधि
में इस्तेमाल की गई logic को quality पर भी लागू किया जा सकता है

डेटा quality वह विशेषता है जो डेटा की value बढ़ाती है

क्योंकि data value, उसके उपयोग के तरीके का function है, इसलिए data quality भी उसी उपयोग के तरीके से तय होती है

quality बढ़ाने का उद्देश्य यह है कि डेटा से ज्यादा काम किया जा सके, या वही काम बेहतर, तेज़ और सस्ता किया जा सके, या ऐसे काम संभव हों जो पहले संभव नहीं थे

1वां चरण: individual data quality

granular quality, database record, sentence, question-answer pair, या labeled example जैसी individual data units का मूल्यांकन करती है

मुख्य evaluation attributes में accuracy, precision, freshness, format suitability, internal consistency, plausibility, provenance, interpretability, और reliability शामिल हैं

हर attribute का आकलन दूसरे records को देखे बिना केवल individual unit के आधार पर किया जा सकता है

लेकिन हर evaluation एक use context को मानकर चलता है

सच किस आधार पर माना जाएगा

किस समय बिंदु के आधार पर उसे current माना जाएगा

किस तरीके से उसे usable माना जाएगा

और किस context में उसे consistent माना जाएगा, यह तय करना पड़ता है

sales data की individual quality

अगर contract terms, renewals, discounts, one-time revenue और recurring revenue की गलत व्याख्या की जाए, तो individual sales items ही गलत हो सकते हैं

सही तरीके से record किए जाने पर भी marketplace revenue को gross के रूप में मानना है या net के रूप में, यह business structure पर निर्भर करता है

क्या कंपनी सीधे value देती है, pricing तय करती है और service responsibility भी उठाती है

या वह buyer और seller को जोड़ने वाले intermediary के ज्यादा करीब है, इसके आधार पर निर्णय बदलता है

auditors भी अलग-अलग निष्कर्ष पर पहुंच सकते हैं, इसलिए accuracy को भी उपयोग उद्देश्य और accounting context से अलग नहीं किया जा सकता

2वां चरण: पूरे data set की quality

भले ही सभी individual records सही हों, इससे यह तय नहीं होता कि पूरे corpus की quality भी ऊंची है

aggregate level पर इन attributes का मूल्यांकन करना चाहिए

coverage और missingness

deduplication

data granularity

representativeness और balance

records और labels के बीच consistency

distributions और aggregate statistics

data volume और sufficiency

temporal continuity

दूसरे data के साथ combinability

समय और स्थान के अनुसार drift

ये attributes individual data में नहीं दिखते, बल्कि पूरे डेटा के संबंधों और distributions में सामने आते हैं

यह जांचना ज़रूरी है कि डेटा पूरा मौजूद है या नहीं, पर्याप्त रूप से refined है या नहीं, reality को reflect करता है या नहीं, और time व space के साथ stable है या नहीं

sales data की aggregate quality

भले ही individual sales events सही तरीके से record किए गए हों, फिर भी ये समस्याएं बच सकती हैं

पुराने डेटा के बीच में revenue definition बदल गई हो

कुछ revenue गायब हो

एक ही revenue दो बार गिना गया हो

अलग-अलग aggregates आपस में मेल न खाते हों

ऐसा डेटा जो current customers को perfectly reflect करता है, accounting और reporting के लिए high quality हो सकता है. लेकिन अगर वह future customer mix से अलग है, तो expansion revenue forecasting के लिए low quality हो सकता है

data set की representativeness का आकलन खुद डेटा के आधार पर नहीं, बल्कि उस target के आधार पर होना चाहिए जिस पर उसे लागू करना है

3वां चरण: purpose fit

fitness for purpose, डेटा attributes से ज़्यादा डेटा और वास्तविक application के बीच की interaction का मूल्यांकन करता है

financial statements ad campaign के लिए उपयुक्त नहीं हैं, और customer profiles stock analysis के लिए उपयुक्त नहीं हैं. लेकिन उपयोग बदलने पर दोनों ही essential data बन सकते हैं

informational fit

यह आकलन करता है कि डेटा उस सवाल का जवाब दे सकता है या नहीं जिसे हल करना है

इसमें relevance, appropriateness, sufficiency, और necessity शामिल हैं

डेटा का accurate होना और ज़रूरी जानकारी देना, ये दो अलग बातें हैं

operational fit

यह आकलन करता है कि वास्तविक environment में डेटा का प्रभावी उपयोग किया जा सकता है या नहीं

इसमें availability, licensing और regulatory compliance, interoperability, और risk-reward शामिल हैं

जानकारी पर्याप्त होने पर भी अगर सही समय पर access न हो, या कानूनी रूप से उसका उपयोग न किया जा सके, तो वह purpose fit नहीं है

sales data में उद्देश्य के अनुसार अंतर

month-end revenue को पूरी तरह finalize करने के लिए एक अच्छी financial team को भी कुछ दिन लग सकते हैं, लेकिन CEO को उसी महीने के भीतर investment, cost cutting, hiring, या layoffs पर निर्णय लेना पड़ सकता है जब revenue expectation से भटक रहा हो

auditor के लिए high quality finalized revenue, real-time operations के लिए बहुत देर से आने वाला डेटा हो सकता है

विस्तृत financial data भी अलग-अलग users की ज़रूरत से मेल नहीं खा सकता

board एक core summary चाहता है

CMO marketing contribution चाहता है

sales team incentive payout का आकार जानना चाहती है

जो details, nuances, cautions, और multiple analysis dimensions finance team के लिए quality बढ़ाते हैं, वे दूसरे users के लिए usability घटा सकते हैं

4वां चरण: business outcome quality

individual quality, aggregate quality, और purpose fit सभी उत्कृष्ट हों, तब भी यह तय नहीं होता कि डेटा ने वास्तविक business value बनाई है

business-outcome quality यह आकलन करती है कि डेटा ने कंपनी के परिणामों को कितना बेहतर बनाया

evaluation score में सुधार

company revenue retention में सुधार

risk-adjusted return में सुधार

customer conversion rate में वृद्धि जैसे लक्ष्य इसमें शामिल हो सकते हैं

इसे तीन सवालों में बांटा जा सकता है

क्या डेटा वास्तव में इस्तेमाल हुआ

इस्तेमाल के बाद क्या बदला

और क्या वह बदलाव निवेश के लायक था

use और outcome का measurement

डेटा के इस्तेमाल को adoption rate, decision-making पर प्रभाव, और behavior change की मात्रा से मापा जाता है

outcome change का आकलन पहले और बाद के अंतर, सटीक contribution, और बदलाव के महत्व के आधार पर किया जाता है

बदलाव की value में ROI, परिणाम सामने आने का समय, उसकी sustainability, और risk को भी शामिल करना चाहिए

जब high-quality sales data भी विफल हो जाता है

सटीक, unbiased, और user requirements के अनुरूप sales data के आधार पर sales incentive system बदलने के बाद भी अपेक्षित business result नहीं मिल सकता

जब sales team नए formula को optimize करती है, तो ये व्यवहार सामने आ सकते हैं

accelerated compensation पाने के लिए future revenue को आगे खींचना

margin को नुकसान पहुंचाने वाली discounts देना

long-term high-value लेकिन कठिन deals की बजाय आसानी से बंद होने वाले low-quality deals का पीछा करना

डेटा खुद सभी निचले चरणों पर high quality हो सकता है, फिर भी उस पर आधारित system और behavior changes business value को नष्ट कर सकते हैं

सबसे ऊपरी चरण में, केवल डेटा को और refine करने के बजाय इन प्रक्रियाओं की ज़रूरत होती है

डेटा से बनने वाली value को बेहतर hypotheses के रूप में परिभाषित करना

data use से behavior और outcome तक जाने वाले path को instrument करना

वास्तविक परिणामों के अनुसार investment को घटाना या बढ़ाना

quality ladder

ये चारों चरण अलग-अलग checklist नहीं हैं, बल्कि क्रम और निर्भरता वाली एक ladder हैं

purpose fit और business outcomes तक पहुंचने के लिए पहले individual data और aggregate data quality का तैयार होना ज़रूरी है

इसके उलट, निचले चरणों की quality अपने आप value नहीं बनाती. निवेश का कारण तभी बनता है जब ऊपरी चरणों में परिणाम मिलें

निचले चरणों पर यह देखना चाहिए कि कहीं attribute checks में इतना ध्यान तो नहीं कि business use case ही भूल जाएं

ऊपरी चरणों पर यह देखना चाहिए कि कहीं outcomes पर इतना ध्यान तो नहीं कि basic data hygiene ही नज़रअंदाज़ हो जाए

मौजूदा standards किस तरह विफल होते हैं

ISO 25012 जैसी approach अनेक quality attributes को मापने के बाद भी checklist trap में फंस सकती है, जहां business में कोई सुधार नहीं होता

ISO 8000 जैसी approach इस परिभाषा पर रुक जाती है कि जो डेटा अच्छे परिणाम दे वही अच्छा डेटा है, इसलिए यह नहीं बताती कि ठोस रूप से क्या सुधारना चाहिए

quality ladder निचले चरणों की actionable checks और ऊपरी चरणों के value judgments को एक ही संरचना में जोड़ती है

अलग-अलग चरणों में पैदा होने वाले टकराव

डेटा quality पर बहस अक्सर तब होती है जब लोग ladder के अलग-अलग चरणों से बात कर रहे होते हैं

data operations engineer सही labels और record state को प्राथमिकता दे सकता है, लेकिन वही डेटा business में इस्तेमाल ही न हो

CEO ideal operating model और business outcomes को महत्व दे सकता है, लेकिन वह model ऐसे input data पर खड़ा हो सकता है जिस पर भरोसा करना मुश्किल हो

जब समस्या आती है, तो एक पक्ष detailed data fixes खोजता है और दूसरा नई strategy. लेकिन इनमें से कोई भी अकेले सारी समस्या हल नहीं करता

चरणों को छोड़कर आगे बढ़ने के तीन तरीके
launch failure

यह वह स्थिति है जहां निचले चरणों पर अत्यधिक ध्यान देकर individual quality, aggregate quality, और purpose fit को perfect बना दिया जाता है, फिर भी business value बिल्कुल नहीं निकलती

निचले चरण अधिक concrete, measurable, और सीधे improve करने में आसान होते हैं, इसलिए संगठन अक्सर सबसे अधिक इन्हीं पर ध्यान देता है

मापने योग्य चीज़ें ज़्यादा होने के कारण, वास्तविक outcome की बजाय data cleanup ही लक्ष्य बन सकता है

foundation failure

यह वह स्थिति है जहां निचले चरणों को नज़रअंदाज़ कर सीधे business value को optimize किया जाता है

अगर लक्ष्य साफ़ हो और feedback cycle काफ़ी तेज़ हो, तो यह कुछ समय के लिए काम कर सकता है

लेकिन accuracy, provenance, और freshness में समस्याओं के बावजूद केवल outcome अच्छा होने पर संतुष्ट रहने वाली approach आम तौर पर टिकाऊ नहीं होती, और अंततः बुनियादी डेटा समस्याएं सामने आ जाती हैं

source को quality के प्रमाण के रूप में इस्तेमाल करना

विश्वसनीय external source को individual data और aggregate data quality का विकल्पात्मक आश्वासन मानकर internal validation investment घटाया जा सकता है

किसी खास industry में specialized supplier चुनने से purpose fit validation का बोझ भी कम हो सकता है

लेकिन business value उस संगठन को खुद बनानी होती है जो डेटा खरीदता है

डेटा source पर भरोसा अपने आप नहीं बनता

यह समय, resources, और बार-बार मिले परिणामों से बनता है

डेटा के लगातार काम करते रहने तक बना रहता है

और अपेक्षित परिणाम न आने पर तेज़ी से कमज़ोर पड़ जाता है

अगला चरण

डेटा quality, डेटा के भीतर मौजूद कोई absolute property नहीं है, बल्कि उपयोग के उद्देश्य और value creation की प्रक्रिया में प्रकट होती है

प्रभावी quality management के लिए ज़रूरी है कि चारों चरणों की जांच की जाए और किसी एक ही चरण में अटक कर न रह जाए

अगले भाग में यह देखा जाएगा कि AI किस तरह existing data quality intuition को बदल रहा है