|
例如求 0.250mm,0.236mm,0.213mm,0.220mm的實驗標準差時,X的平均值算出來是0.22975mm,應該怎樣取有效位數,是0.230mm嗎?如果單求平均值,有效位數又應該怎樣選取? 還有在計算過程中,如果各個參與計算的有效位數不同,又應該怎樣選取來進行計算,例如下面的計算題的解答正確嗎? 8.計算18.3+1.454 6+0.876,問答案是多少?如果計算結果被用于下一步運算,答案應是多少? 解答:18.3+1.454 6+0.876≈18.3+1.45+0.88 = 20.63≈20.6 即答案是20.6。若用于下一步運算,則有效數字多取一位,即答案是20.63。 9、計算:28.1+14.54+3.0007 解答:28.1+14.54+3.0007≈28.1+14.54+3.00 = 45.64≈45.6 10、計算:4.3431+3.5714+4.64 解答:4.3431+3.5714+4.64≈4.343+3.571+4.64 = 12.554≈12.55 11、計算:10+1.747—2.007+1.1 解答:10+1.747—2.007+1.1≈10+1.7—2.0+1.1 = 10.8≈11 12、計算:1.1×0.326 8×0.103 00,問答案是多少?如果計算結果被用于下一步運算,答案應是多少? 解答:1.1×0.326 8×0.103 00≈1.1×0.327×0.103 = 0.037 0≈0.037 即答案是0.037。若計算結果被用于下一步運算,則多取一位有效數字,即答案是0.0370 13、計算:2.384 7×0.76÷416 78 解答:2.384 7×0.76÷416 78≈2.38×0.76÷4.17×104 = 4.337 649 88×10-5≈4.3×10-5 14、將數據12.344,12.351,12.450,12.350取到小數點后1位。 解答:12.3,12.4,12.4,12.4。 15、 計算:4.143 2×0.33×2.427 解答:4.143 2×0.33×2.427≈4.14×0.33×2.43 = 3.32≈3.3 16、計算:4.400+0.012×18.352÷0.200 2—1.52×2.0 解答:4.400+0.012×18.352÷0.200 2—1.52×2.0 ≈4.40+0.012×18.4÷0.200—2.25×2.0 ≈4.40+1.10—4.50 = 1.00 = 1.0 17、已知圓半徑R = 3.145 mm,問周長C是多少? 解答:按公式 C=2πR =2.000×3.1416×3.145 =19.760 664
≈19.76 mm
|