數(shù)值修約規(guī)則方法的探討

1、數(shù)值修約規(guī)則方法的探討摘要：本文闡述了對測量數(shù)值進(jìn)行運(yùn)算的準(zhǔn)則及兩種數(shù)值修約的簡要、直觀方法，并對測得值或其計(jì)算修約值于結(jié)果報(bào)告中報(bào)出的方法進(jìn)行了探討。以期為各檢驗(yàn)機(jī)構(gòu)準(zhǔn)確描述測量結(jié)果及提高檢測報(bào)告的質(zhì)量要求提供幫助。關(guān)鍵詞：末有效數(shù)字?jǐn)?shù)值修約全數(shù)值比較法修約值比較法0、前言：測量結(jié)果的數(shù)據(jù)處理和最終表達(dá)是測量過程的最后環(huán)節(jié)，而有效數(shù)字的確定，數(shù)據(jù)的正確修約與表達(dá)對測量數(shù)據(jù)的正確處理和結(jié)果的準(zhǔn)確表達(dá)有著重要的意義。本文詳細(xì)闡述了對數(shù)值進(jìn)

2、行修約的簡要、直觀的規(guī)則的方法。1、術(shù)語：1.1（末）[1]的概念：（末）指的是任何一個(gè)數(shù)最末一位數(shù)字所對應(yīng)的單位量值。如：某長度測量值20.1mm，該測量值的（末）為0.1mm。1.2有效數(shù)字[1]：某個(gè)數(shù)測量結(jié)果的計(jì)量數(shù)字的有效數(shù)字是指從該數(shù)左邊的第一個(gè)非零數(shù)字算起直到最末一位數(shù)字為止的所有數(shù)字。測量結(jié)果的計(jì)量數(shù)字，其有效位數(shù)代表結(jié)果的準(zhǔn)確程度。有效位數(shù)不同，它們的準(zhǔn)確度也不同。同時(shí)，計(jì)量數(shù)字右邊的“0”不能隨意取舍，因?yàn)檫@些“0”

3、都是有準(zhǔn)，其他的數(shù)字比其多保留一位，多余位數(shù)應(yīng)舍去。計(jì)算結(jié)果的（末）應(yīng)與參與運(yùn)算的數(shù)中（末）最大的那個(gè)數(shù)相同。若計(jì)算結(jié)果尚需參與下一步運(yùn)算，可多保留一位。例如：18.3Ω1.4546Ω0.876Ω→18.3Ω1.45Ω0.88Ω=20.63Ω≈20.6Ω計(jì)算結(jié)果為20.6Ω。若尚需參與下一步運(yùn)算，則取20.63Ω2.2乘、除（或乘方、開方）運(yùn)算在進(jìn)行數(shù)的乘除運(yùn)算時(shí)，以有效數(shù)字位數(shù)最少的那個(gè)數(shù)為準(zhǔn)，其余的數(shù)的有效數(shù)字均比其多保留一位。運(yùn)算

4、結(jié)果（積或商）的有效數(shù)字位數(shù)應(yīng)與參與運(yùn)算的數(shù)中有效數(shù)字位數(shù)最少的那個(gè)數(shù)相同。若尚需參與下一步運(yùn)算，有效數(shù)字可多取一位。例如：1.1m0.3268m0.10300m→1.1m0.327m0.103m=0.0370m3≈0.037m3。計(jì)算結(jié)果為0.037m3。若需參與下一步運(yùn)算，則取0.0370m3。乘方、開方運(yùn)算類同。3、數(shù)值修約規(guī)則：3.1當(dāng)要求對某擬修約數(shù)進(jìn)行修約時(shí)，需確定修約數(shù)位，其表達(dá)形式有以下幾種：（1）指明具體的修約間隔（2