本帖最后由 都成 于 2014-7-27 20:26 編輯
回復(fù) 1# yxd192
1 常數(shù)運算 參加運算的常數(shù)如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它無誤差的數(shù)值,其有效位數(shù)可認(rèn)為是無限的,在計算中需要幾位取幾位。常數(shù)的取值不影響有效位數(shù)。 2 加減運算 在加減運算中只保留各數(shù)共有的小數(shù)位數(shù)。先找出小數(shù)位數(shù)最少的值,然后將其它的值按比最少的小數(shù)位多一位進(jìn)行修約,再運算,結(jié)果按小數(shù)位最少的位修約。 例:12.5+3.26+0.165,先將0.165化整為0.16,則 12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。 在減法運算中,應(yīng)避免用兩個接近的值相減計算結(jié)果,因相減后其有效數(shù)字將減少。 3 乘除運算 在乘除運算中,先找出有效位數(shù)最少的值,將其它值按多一位有效位數(shù)進(jìn)行修約,然后運算,最后按有效位數(shù)最少的值的位數(shù)修約。 例:0.12×11.3×15.24,先將15.24修約為15.2,則0.12×11.3×15.24=0.12×11.3×15.2=20.61=21
4 乘方與開方運算 數(shù)據(jù)經(jīng)乘方與開方運算,所得結(jié)果的有效數(shù)字位數(shù)不大于該數(shù)據(jù)的位數(shù)。一般取相同的位數(shù)。 5 對數(shù)運算 運算結(jié)果應(yīng)與真數(shù)的位數(shù)相同。 例:lg32.8=1.51587…=1.52 6 三角運算 三角運算的有效位數(shù)按下表: 角度誤差 | 10″ | 1″ | 0.1″ | 0.01″ | 有效位數(shù) | 5 | 6 | 7 | 8 |
7 計算平均值 若數(shù)據(jù)的個數(shù)較多,則平均值的保留位數(shù)可增加一位。 8 混合運算 混合運算時所有中間運算比上面的運算多保留一位。 |