本帖最后由 都成 于 2014-7-27 20:26 編輯
回復(fù) 1# yxd192
1 常數(shù)運(yùn)算 參加運(yùn)算的常數(shù)如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它無(wú)誤差的數(shù)值,其有效位數(shù)可認(rèn)為是無(wú)限的,在計(jì)算中需要幾位取幾位。常數(shù)的取值不影響有效位數(shù)。 2 加減運(yùn)算 在加減運(yùn)算中只保留各數(shù)共有的小數(shù)位數(shù)。先找出小數(shù)位數(shù)最少的值,然后將其它的值按比最少的小數(shù)位多一位進(jìn)行修約,再運(yùn)算,結(jié)果按小數(shù)位最少的位修約。 例:12.5+3.26+0.165,先將0.165化整為0.16,則 12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。 在減法運(yùn)算中,應(yīng)避免用兩個(gè)接近的值相減計(jì)算結(jié)果,因相減后其有效數(shù)字將減少。 3 乘除運(yùn)算 在乘除運(yùn)算中,先找出有效位數(shù)最少的值,將其它值按多一位有效位數(shù)進(jìn)行修約,然后運(yùn)算,最后按有效位數(shù)最少的值的位數(shù)修約。 例:0.12×11.3×15.24,先將15.24修約為15.2,則0.12×11.3×15.24=0.12×11.3×15.2=20.61=21
4 乘方與開(kāi)方運(yùn)算 數(shù)據(jù)經(jīng)乘方與開(kāi)方運(yùn)算,所得結(jié)果的有效數(shù)字位數(shù)不大于該數(shù)據(jù)的位數(shù)。一般取相同的位數(shù)。 5 對(duì)數(shù)運(yùn)算 運(yùn)算結(jié)果應(yīng)與真數(shù)的位數(shù)相同。 例:lg32.8=1.51587…=1.52 6 三角運(yùn)算 三角運(yùn)算的有效位數(shù)按下表: | 角度誤差 | 10″ | 1″ | 0.1″ | 0.01″ | | 有效位數(shù) | 5 | 6 | 7 | 8 |
7 計(jì)算平均值 若數(shù)據(jù)的個(gè)數(shù)較多,則平均值的保留位數(shù)可增加一位。 8 混合運(yùn)算 混合運(yùn)算時(shí)所有中間運(yùn)算比上面的運(yùn)算多保留一位。 |