0.01級電阻箱

請教各位量友，開關(guān)器件沒有零位檔的0.01級電阻箱的0.01盤準(zhǔn)確度等級5級，數(shù)據(jù)修約時要保留幾位小數(shù)，規(guī)程上要求修約到各十進盤最大允許誤差的十分之一。又要求殘余電阻的數(shù)據(jù)修約到0.1mΩ。這怎么理解

以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準(zhǔn)確度要求是5級，標(biāo)稱值0.01Ω，如果誤差剛好是5%，實際值就是0.01050Ω，修約的就是到5 的下一位0.
因為沒有零位，殘余電阻也是0.01050Ω,但是規(guī)程上要求是修約到0.1mΩ，所以殘余電阻是10.5mΩ即可。
以上是我的理解。

tinnasy 發(fā)表于 2017-2-23 10:43
以這個電阻箱的最后一盤0.01Ω盤檔的第一點為例，準(zhǔn)確度要求是5級，標(biāo)稱值0.01Ω，如果誤差剛好是5%，實際 ...

謝謝回復(fù) 也就是說0.01Ω盤檔的實際值修約后應(yīng)保留到小數(shù)點后5位小數(shù) 對嗎

對的。我一直都是這樣處理的