原帖由 chuxp 于 2008-7-10 09:12 發(fā)表
不必化成格數(shù),直接用電壓/電流值計(jì)算就可以了。請注意:差別在于從哪里讀取數(shù)據(jù),如果從被檢表讀取,得到的是格數(shù),就應(yīng)該用格數(shù)計(jì)算,而你顯然是從標(biāo)準(zhǔn)源上讀電壓數(shù)值,那就應(yīng)該直接用電壓計(jì)算誤差。
關(guān)于小數(shù)位數(shù)保留,與被檢表的 ...
歡迎光臨 計(jì)量論壇 (http://www.bkd208.com/) | Powered by Discuz! X3.4 |