計量論壇

標題: 0.01級電阻箱 [打印本頁]

作者: 精靈水含笑 時間: 2017-2-13 08:28
標題: 0.01級電阻箱
請教各位量友，開關器件沒有零位檔的0.01級電阻箱的0.01盤準確度等級5級，數據修約時要保留幾位小數，規程上要求修約到各十進盤最大允許誤差的十分之一。又要求殘余電阻的數據修約到0.1mΩ。這怎么理解

作者: tinnasy 時間: 2017-2-23 10:43
以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準確度要求是5級，標稱值0.01Ω，如果誤差剛好是5%，實際值就是0.01050Ω，修約的就是到5 的下一位0.
因為沒有零位，殘余電阻也是0.01050Ω,但是規程上要求是修約到0.1mΩ，所以殘余電阻是10.5mΩ即可。
以上是我的理解。

作者: 精靈水含笑 時間: 2017-2-23 11:09

tinnasy 發表于 2017-2-23 10:43
以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準確度要求是5級，標稱值0.01Ω，如果誤差剛好是5%，實際 ...

謝謝回復也就是說0.01Ω盤檔的實際值修約后應保留到小數點后5位小數對嗎

作者: tinnasy 時間: 2017-2-23 16:36
對的。我一直都是這樣處理的

歡迎光臨計量論壇 (http://www.bkd208.com/)