數據處理疑問

在校準扭矩儀時候得到三次數據分別是40.0/39.9/39.9，最後庶算相對誤差，那麼問題來了，1.手動計算修約得到平均值得39.9，最後相對誤差=（39.9-40）/40*100%=0.25%，
2.若在EXCEL中直接算相對誤差因為在算平均值時沒有修約所以最後=0.16%，
那麼我想問大家在最後數據處理中到底按哪種方法計算，還有就是在數據處理中第一次修約就要修約到與最後結果一致，還是先多保留一位小數再到最後再修約一次，

平均值計算要修約

　　無論手工計算還是在EXCEL中計算，中間計算都應該修約至比修約后的結果規定保留位數多保留一位。
　　你的案例原始數據三位有效數字，最后計算結果要求二位有效數字，中間計算結果可比二位有效數字多保留一位，因此(40.0+39.9+39.9)/3＝39.9；(40.0－39.9)/40.0=0.250%，0.250%修約至兩位有效數字為0.25%。EXCEL應設計為中間計算結果可以保留三位有效數字，最終計算結果設計為保留兩位有效數字，不能連續計算。連續計算中(40.0+39.9+39.9)/3＝39.9333……，原始數據僅為三位有效數字，多于三位有效數字的數字0.0333……為無效數據，無效數據給最終計算結果帶來了過大的修約誤差。

規矩灣錦苑 發表于 2014-11-27 15:45
　　無論手工計算還是在EXCEL中計算，中間計算都應該修約至比修約后的結果規定保留位數多保留一位。
　　你 ...

謝謝前輩，那這樣看來在數據處理中還是以受動計算為準，不能依賴EXCEL哦

FOXCONN 發表于 2014-12-2 10:20
謝謝前輩，那這樣看來在數據處理中還是以受動計算為準，不能依賴EXCEL哦

　　不能說不能依賴EXCEL計算，而應該說手動計算和利用EXCEL計算均可。只不過在設計EXCEL時，每個空格中的有效數字個數或小數點后的位數應嚴格按近似計算的規則設定，而不能使用原始的有效數字個數和小數點后的位數，不管不問，隨它的便。