![]() |
發布時間: 2015-10-15 17:56
正文摘要:本帖最后由 thearchyhigh 于 2015-10-15 18:01 編輯 在用EXCEL計算誤差時,發現四舍五入與手算不一致,提醒各位注意一下。示例如下:標準源輸出40,被校儀器示值40.01,用EXCEL計算相對誤差保留3個 ... |
沒看懂,問題沒解決 |
gl98 發表于 2015-10-17 09:03 該示例40及40.01兩個數據后面全是零,你可以自己試下。該漏洞的原因3樓已經解釋清楚了。 |
execl沒有錯,和你的保留位數有關系,另外execl沒有四舍六入五成雙的功能,如需要使用要自定義函數來實現。 |
hblgs2004 發表于 2015-10-16 08:24 EXCEL的四舍五入是不會奇變偶的,此計算是特例。你可以用40和40.1去算就為是0.3%而不是0.2%了 |
菩提樹 發表于 2015-10-16 08:55 恩。乘上一定倍數轉成整數再算是可以的,但必竟使用中小數位不清楚,再加上此種情況極少,沒必要為這了個去隨時設置公式,大家知道避免一下就好。至于ROUND也是4舍5入,和EXCEL上面手動調小數位數一樣的,不能避免此問題。 |
四舍五入出現問題,實際是EXCEL換算機制的問題,十進制轉換成二進制進行計算,計算完再轉換為十進制,運算過程保留位數問題,最終導致計算結果不是正好是0.025,你將小數位數保留十五位,就會出現我上傳圖中的數值,最后四舍五入就出現你這結果了 。可以用ROUND函數取整后計算,樓主的這種計算誤差的情況,基本不會出現問題,實際可以用excel函數實現四舍六入的。 |
QQ圖片20151016084902.png (658 Bytes, 下載次數: 256)
你給出的數據沒錯呀,符合奇變偶不變規則,漏洞在哪兒? |
小黑屋|Archiver|計量論壇
( 閩ICP備06005787號-1—304所 )
電話:0592-5613810 QQ:473647 微信:gfjlbbs閩公網安備 35020602000072號
GMT+8, 2025-7-20 12:23
Powered by Discuz! X3.4
Copyright © 2001-2023, Tencent Cloud.