計(jì)量論壇

標(biāo)題: 請(qǐng)問，我們計(jì)算誤差要保留幾位小數(shù) [打印本頁]

作者: yxd192 時(shí)間: 2008-7-1 00:31
標(biāo)題: 請(qǐng)問，我們計(jì)算誤差要保留幾位小數(shù)
一塊0.5級(jí)的表，我們計(jì)算出來誤差是保留幾位小數(shù)

例如：0.14%
該怎么記錄

又如0.16%
該怎么記錄呢

請(qǐng)回答

作者: hkx7621 時(shí)間: 2008-7-1 08:02
0.5級(jí)表應(yīng)該保留3個(gè)小數(shù)才好化整
如0.140化整后是0.15
0.160化整后是0.15

作者: gao0351 時(shí)間: 2008-7-1 13:43
保留小數(shù)1位第2位修約
看標(biāo)尺格數(shù)確定修約間隔,,,1,,,,,,,,,2,,或5
看124-2005的17頁

作者: solitaryfan 時(shí)間: 2008-7-1 16:31
提示: 作者被禁止或刪除內(nèi)容自動(dòng)屏蔽

作者: yxd192 時(shí)間: 2008-7-2 00:20
對(duì)不起，樓上的各位會(huì)錯(cuò)意了

我不是說對(duì)數(shù)據(jù)的值要修約到多少格

而是對(duì)誤差的計(jì)算，是個(gè)百分比，要怎么保留位數(shù)呢

是只要保留一位小數(shù)，還是怎么的

作者: dalianfeiji 時(shí)間: 2008-7-2 22:46
標(biāo)題: 回復(fù) 5# 的帖子
相對(duì)誤差的保留位數(shù)要視被測(cè)參數(shù)技術(shù)指標(biāo)中給定的誤差位數(shù)而定，一般多給出一位小數(shù)就可以了。

作者: gao0351 時(shí)間: 2008-7-4 12:38
1 與0.5%相比,保留小數(shù)一位也就夠了,多了沒用
2 乘法和除法運(yùn)算的修約：在乘或除運(yùn)算時(shí)，積或商的有效數(shù)字的位
一般應(yīng)與參與運(yùn)算的有效位數(shù)最少的那個(gè)觀測(cè)值相同。

[ 本帖最后由 gao0351 于 2008-7-4 12:46 編輯 ]

作者: 趙子強(qiáng) 時(shí)間: 2022-2-18 12:25
多次測(cè)量:①1.2②1.3③1.5求均值是不是要多保留一位，1.33呢

歡迎光臨計(jì)量論壇 (http://www.bkd208.com/)