精確度0005啥意思,以前只見過

2021-03-03 21:30:08 字數 653 閱讀 7078

1樓:匿名使用者

1精確度

bai0.005的意義:將小數點後du的第三位數按四捨zhi五入法處理,dao最後得到乙個有兩位小

專數的近似數,這個近屬似數的誤差不超過小數點後第二位的半個單位,即誤差不超過0.01/2=0.005,這就是近似數的精確度為0.

005的意義。比如:1.

164995,按四捨五入保留兩位小數為1.16,1.16的誤差不大於0.

005,事實上1.16的誤差為0.004995<0.

005。再比如0.62501,按四捨五入近似為兩位小數0.

63,0.63的誤差為0.00499<0.

005。2精確度0.001的意義:

將小數點後第四位及其以後的數捨去,第三位加1(捨入)或不加1(捨去),這樣得到的近似數的誤差不大於小數點後第三位的乙個單位,即0.001。如π=3.

141592...,捨去小數點第四位以後的數,π≈3.141,誤差為0.

000592...<0.001;再比如0.

62999,捨去第四位以後的數同時第三位加1:0.630,誤差為0.

000001<0.001。由上可以看出,保留相同的小數字時,四捨五入法的精確度不低於單純捨去法或單純捨入法的精確度,一般情況下四捨五入法的精確度比單純捨去法和單純捨入法的精確度高。

精確度和精確到的區別,準確度與精確度的區別

精確度來是描述量具的,比如源尺子和天平等。比如某天平的精確度是0.01g就是說他就能精確到0.01g,但讀數時還要估讀一位,估讀到0.001g。普通的尺子精確度就是0.1cm 1mm 讀數時要讀到0.01cm 0.1mm 精確到多少 比如精確到0.01 就是測量和計算時要保留到0.001最後結果四捨...

018與0180的精確度一樣嗎

不一樣,0.18是精確到小數點後兩位。0.180是精確到小數點後三位。0.8公尺和0.80公尺的長度一樣,精確度也一樣。0.8公尺和0.80公尺的長度和精確度可以不一樣 0.8公尺的適用範圍為75厘公尺至84厘公尺,精度為6.26 0.80公尺的適用範圍為79.5厘公尺至80.4厘公尺,精度為0.6...

近似數3 50與3 5表示的精確度相同

3.50表示精確到百分之一,3.5表示精確到十分之一 所以精確度不同 故答案為 錯誤 a.近似數3.50與近似數3.5的精確度相同。b.近似數25.0與近似數25的有效數字相同。c.近似數6.30 10四次方 a.近似數3.50與近似數3.5的精確度相同。錯,3.50精確到了0.01,而3.5精確到...