精度計算請教

數(shù)字萬用表
100歐姆檔   校準值99.998        一千歐姆檔999.98，精度幾級？
100MV檔     校準值99.9978       精度幾級？

麻煩大師不吝給個計算結果，不是理論解釋，看資料有些糊涂了。

計算每一檔的精度，取最低

lininggray 發(fā)表于 2016-9-16 21:58
計算每一檔的精度，取最低

(100-99.998)/100=0.000020     0.00002級
(1000-999.98)/100=0.00020     0.0002級
(100-99.9978)/100=0.00022     0.000025級

是這樣嗎?

補充內容 (2016-9-17 18:22):
（100-99.998）/100*100                 0.002級
（1000-999.98）/1000*100             0.002級
(100-99.9978)/100*100                  0.002級
不好意思，復制錯了，對不起。

周金香 發(fā)表于 2016-9-17 11:45
(100-99.998)/100=0.000020     0.00002級
(1000-999.98)/100=0.00020     0.0002級
(100-99.9978)/100=0 ...

參照JJG124-2005，萬用表最高等級0.1


補充內容 (2016-9-18 10:59):
提問之前先看規(guī)程，看不懂規(guī)程再問

萬用表級別只是針對基本量程的，其它擴展量程都不算的，基本量程夠幾級萬用表就是幾級。

lininggray 發(fā)表于 2016-9-18 06:31
參照JJG124-2005，萬用表最高等級0.1

JJG124-2005適用于模擬儀表，且是針對一般的萬用表。
我這個是6位半的數(shù)字表。

周金香 發(fā)表于 2016-9-18 17:16
JJG124-2005適用于模擬儀表，且是針對一般的萬用表。
我這個是6位半的數(shù)字表。 ...

數(shù)字表的話，沒有相應規(guī)程，只能做校準，可以參考這個帖子
http://www.bkd208.com/thread-12925-1-1.html