कंप्यूटर में पूर्णांक नहीं होने वाले वास्तविक संख्याओं को दर्शाने के लिए आम तौर पर इस्तेमाल होने वाली floating point विधि का फायदा यह है कि यह बहुत व्यापक रेंज की संख्याएँ व्यक्त कर सकती है, लेकिन क्योंकि यह केवल एक approximate representation है, इसमें त्रुटि होती है और सटीक संख्या-प्रदर्शन या गणना नहीं हो पाती। साथ ही, यह भी ध्यान रखना चाहिए कि हर भाषा में इसका व्यवहार एक जैसा होगा, इसकी गारंटी नहीं है। अलग-अलग भाषाओं में floating point handling के इन थोड़े-बहुत अंतर के उदाहरण https://0.30000000000000004.com/ पर देखे जा सकते हैं.

यह लेख बताता है कि Python (लगभग version 3.5 के बाद) में floating-point error से होने वाली समस्याओं को कैसे हल किया जा सकता है। (कोरियाई) इसमें कहा गया है कि सबसे साफ समाधान decimal module को अपनाकर decimal data type का उपयोग करना है। विचार यह है कि अगर binary floating point समस्या पैदा कर रहा है, तो इंसानों की तरह decimal में गणना करने से समस्या नहीं होगी। वास्तव में finance या accounting जैसे क्षेत्रों में, जहाँ दशमलव गणना का सटीक होना ज़रूरी है, इस तरह की विधि इस्तेमाल की जाती है.

p.s.

संदर्भ के लिए, यह जाना जाता है कि IBM mainframe में इस्तेमाल होने वाले CPU में hardware स्तर पर decimal गणना करने की क्षमता शामिल होती है। बैंक जैसी संस्थाओं में आज भी mainframe का उपयोग करने वाली जगहें काफ़ी हैं.

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.