本帖最后由 都成 于 2014-7-27 20:26 編輯
回復 1# yxd192
1 常數運算 參加運算的常數如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它無誤差的數值,其有效位數可認為是無限的,在計算中需要幾位取幾位。常數的取值不影響有效位數。 2 加減運算 在加減運算中只保留各數共有的小數位數。先找出小數位數最少的值,然后將其它的值按比最少的小數位多一位進行修約,再運算,結果按小數位最少的位修約。 例:12.5+3.26+0.165,先將0.165化整為0.16,則 12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。 在減法運算中,應避免用兩個接近的值相減計算結果,因相減后其有效數字將減少。 3 乘除運算 在乘除運算中,先找出有效位數最少的值,將其它值按多一位有效位數進行修約,然后運算,最后按有效位數最少的值的位數修約。 例:0.12×11.3×15.24,先將15.24修約為15.2,則0.12×11.3×15.24=0.12×11.3×15.2=20.61=21
4 乘方與開方運算 數據經乘方與開方運算,所得結果的有效數字位數不大于該數據的位數。一般取相同的位數。 5 對數運算 運算結果應與真數的位數相同。 例:lg32.8=1.51587…=1.52 6 三角運算 三角運算的有效位數按下表: 角度誤差 | 10″ | 1″ | 0.1″ | 0.01″ | 有效位數 | 5 | 6 | 7 | 8 |
7 計算平均值 若數據的個數較多,則平均值的保留位數可增加一位。 8 混合運算 混合運算時所有中間運算比上面的運算多保留一位。 |