国产一区国产精品,2019中文亚洲字幕,电影在线高清,欧美精品一区二区三区久久

計(jì)量論壇

標(biāo)題: 請(qǐng)問(wèn)計(jì)算時(shí)有效位數(shù)的選取問(wèn)題 [打印本頁(yè)]

作者: XCJL 時(shí)間: 2012-8-13 15:51
標(biāo)題: 請(qǐng)問(wèn)計(jì)算時(shí)有效位數(shù)的選取問(wèn)題
例如求

0.250mm，0.236mm，0.213mm，0.220mm的實(shí)驗(yàn)標(biāo)準(zhǔn)差時(shí)，X的平均值算出來(lái)是0.22975mm，應(yīng)該怎樣取有效位數(shù)，是0.230mm嗎？如果單求平均值，有效位數(shù)又應(yīng)該怎樣選取？

還有在計(jì)算過(guò)程中，如果各個(gè)參與計(jì)算的有效位數(shù)不同，又應(yīng)該怎樣選取來(lái)進(jìn)行計(jì)算，例如下面的計(jì)算題的解答正確嗎？

8.計(jì)算18.3+1.454 6+0.876，問(wèn)答案是多少？如果計(jì)算結(jié)果被用于下一步運(yùn)算，答案應(yīng)是多少？

解答：18.3+1.454 6+0.876≈18.3+1.45+0.88 = 20.63≈20.6

即答案是20.6。若用于下一步運(yùn)算，則有效數(shù)字多取一位，即答案是20.63。

9、計(jì)算：28.1+14.54+3.0007

解答：28.1+14.54+3.0007≈28.1+14.54+3.00 = 45.64≈45.6

10、計(jì)算：4.3431+3.5714+4.64

解答：4.3431+3.5714+4.64≈4.343+3.571+4.64 = 12.554≈12.55

11、計(jì)算：10+1.747—2.007+1.1

解答：10+1.747—2.007+1.1≈10+1.7—2.0+1.1 = 10.8≈11

12、計(jì)算：1.1×0.326 8×0.103 00，問(wèn)答案是多少？如果計(jì)算結(jié)果被用于下一步運(yùn)算，答案應(yīng)是多少？

解答：1.1×0.326 8×0.103 00≈1.1×0.327×0.103 = 0.037 0≈0.037

即答案是0.037。若計(jì)算結(jié)果被用于下一步運(yùn)算，則多取一位有效數(shù)字，即答案是0.0370

13、計(jì)算：2.384 7×0.76÷416 78

解答：2.384 7×0.76÷416 78≈2.38×0.76÷4.17×104 = 4.337 649 88×10-5≈4.3×10-5

14、將數(shù)據(jù)12.344，12.351，12.450，12.350取到小數(shù)點(diǎn)后1位。

解答：12.3，12.4，12.4，12.4。

15、計(jì)算：4.143 2×0.33×2.427

解答：4.143 2×0.33×2.427≈4.14×0.33×2.43 = 3.32≈3.3

16、計(jì)算：4.400+0.012×18.352÷0.200 2—1.52×2.0

解答：4.400+0.012×18.352÷0.200 2—1.52×2.0

≈4.40+0.012×18.4÷0.200—2.25×2.0

≈4.40+1.10—4.50

= 1.00 = 1.0

17、已知圓半徑R = 3.145 mm，問(wèn)周長(zhǎng)C是多少？

解答：按公式 ?。茫剑?font face="Times New Roman">πＲ

　　　　　　　　　＝2.000×3.1416×3.145

＝19.760 664

≈19.76 mm

作者: 上星亮晶晶 時(shí)間: 2012-8-13 19:22
回復(fù) 1# XCJL

17、已知圓半徑R = 3.145 mm，問(wèn)周長(zhǎng)C是多少？

解答：按公式　Ｃ＝２πＲ

　　　　　　　　　＝2×3.1416×3.145

＝19.760 664

≈19.8 mm

我是這樣認(rèn)為的

作者: XCJL 時(shí)間: 2012-8-15 11:28
請(qǐng)大家共同討論，期待各位的解答

歡迎光臨計(jì)量論壇 (http://www.bkd208.com/)

国产一区国产精品,2019中文亚洲字幕,电影在线高清,欧美精品一区二区三区久久