計(jì)量論壇

標(biāo)題: 請(qǐng)問近似數(shù)運(yùn)算是先修約再運(yùn)算還是先運(yùn)算再修約 [打印本頁(yè)]

作者: yxd192 時(shí)間: 2014-4-19 22:34
標(biāo)題: 請(qǐng)問近似數(shù)運(yùn)算是先修約再運(yùn)算還是先運(yùn)算再修約
請(qǐng)問近似數(shù)運(yùn)算是先修約再運(yùn)算還是先運(yùn)算再修約
加
減
乘
除
運(yùn)算中

作者: yxd192 時(shí)間: 2014-4-20 21:10
哪位回答一下呀，再好舉實(shí)例

作者: 長(zhǎng)度室 時(shí)間: 2014-4-21 18:01
個(gè)別數(shù)先修約，然后計(jì)算，最后再修約。加減看小數(shù)位數(shù)，乘除看有效數(shù)字個(gè)數(shù)。加減法中，其他加數(shù)的小數(shù)位數(shù)若過多，先修約至比小數(shù)位數(shù)最少的那個(gè)數(shù)多一位小數(shù)，然后計(jì)算，最后結(jié)果小數(shù)位數(shù)與小數(shù)位數(shù)最少的那個(gè)數(shù)一致。乘除法一樣的道理。

作者: hghyelh 時(shí)間: 2014-5-9 13:50
我也覺得應(yīng)該是這樣

作者: plge 時(shí)間: 2014-5-15 15:36
例如
12.3+2.345+0.1234=12.3+2.34+0.12=14.76=14.8
24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6
2.8347×0.56=2.83×0.56=1.5848=1.6
2π/0.16=2×3.14/0.16=39.25=39

作者: 靜水流深 時(shí)間: 2014-7-26 11:57
回復(fù) 5# plge 24000+2.5×10^6=0.24×10^6+2.5×10^6=2.7×10^6?感覺不對(duì)呢？

24000=0.024×10^6

作者: 規(guī)矩灣錦苑 時(shí)間: 2014-7-27 00:14
　　加減法以參與計(jì)算的各數(shù)中小數(shù)點(diǎn)后位數(shù)最少的為標(biāo)準(zhǔn)修約，乘除法以參與計(jì)算的各數(shù)中有效數(shù)字個(gè)數(shù)最少的為標(biāo)準(zhǔn)修約，在計(jì)算過程中可適當(dāng)多保留一位。
　　24000+2.5×10^6=0.024×10^6+2.5×10^6=2.52×10^6＝2.5×10^6
　　因?yàn)檫@是加減計(jì)算，按小數(shù)點(diǎn)后位數(shù)最少的圓整，最少的位數(shù)是小數(shù)點(diǎn)后一位。5樓的示例除了24000筆誤為0.24×10^6外，都是正確的。

作者: 都成 時(shí)間: 2014-7-27 20:23
本帖最后由都成于 2014-7-27 20:26 編輯

回復(fù) 1# yxd192

1 常數(shù)運(yùn)算

參加運(yùn)算的常數(shù)如π、e、file:///C:\Users\ADMINI~1\AppData\Local\Temp\msohtml1\04\clip_image002.gif及其它無(wú)誤差的數(shù)值，其有效位數(shù)可認(rèn)為是無(wú)限的，在計(jì)算中需要幾位取幾位。常數(shù)的取值不影響有效位數(shù)。

2 加減運(yùn)算

在加減運(yùn)算中只保留各數(shù)共有的小數(shù)位數(shù)。先找出小數(shù)位數(shù)最少的值，然后將其它的值按比最少的小數(shù)位多一位進(jìn)行修約，再運(yùn)算，結(jié)果按小數(shù)位最少的位修約。

例：12.5+3.26+0.165，先將0.165化整為0.16，則

12.5+3.26+0.165=12.5+3.26+0.16=15.92=15.9。

在減法運(yùn)算中，應(yīng)避免用兩個(gè)接近的值相減計(jì)算結(jié)果，因相減后其有效數(shù)字將減少。

3 乘除運(yùn)算

在乘除運(yùn)算中，先找出有效位數(shù)最少的值，將其它值按多一位有效位數(shù)進(jìn)行修約，然后運(yùn)算，最后按有效位數(shù)最少的值的位數(shù)修約。

例：0.12×11.3×15.24，先將15.24修約為15.2，則0.12×11.3×15.24=0.12×11.3×15.2=20.61=21

4 乘方與開方運(yùn)算

數(shù)據(jù)經(jīng)乘方與開方運(yùn)算，所得結(jié)果的有效數(shù)字位數(shù)不大于該數(shù)據(jù)的位數(shù)。一般取相同的位數(shù)。

5 對(duì)數(shù)運(yùn)算

運(yùn)算結(jié)果應(yīng)與真數(shù)的位數(shù)相同。

例：lg32.8=1.51587…=1.52

6 三角運(yùn)算

三角運(yùn)算的有效位數(shù)按下表：

角度誤差 10″ 1″ 0.1″ 0.01″
有效位數(shù) 5 6 7 8

7 計(jì)算平均值

若數(shù)據(jù)的個(gè)數(shù)較多，則平均值的保留位數(shù)可增加一位。

8 混合運(yùn)算

混合運(yùn)算時(shí)所有中間運(yùn)算比上面的運(yùn)算多保留一位。

作者: yeoman 時(shí)間: 2021-5-10 15:03

@都成：有相應(yīng)的規(guī)范或標(biāo)準(zhǔn)沒？我需要明確的規(guī)定文件。

歡迎光臨計(jì)量論壇 (http://www.bkd208.com/)

<button id="ygqyw"></button>