国产一区国产精品,2019中文亚洲字幕,电影在线高清,欧美精品一区二区三区久久

計量論壇

標題: EXCEL四舍五入時的一個漏洞分享，以避免數據處理錯誤。 [打印本頁]

作者: thearchyhigh 時間: 2015-10-15 17:56
標題: EXCEL四舍五入時的一個漏洞分享，以避免數據處理錯誤。
本帖最后由 thearchyhigh 于 2015-10-15 18:01 編輯

在用EXCEL計算誤差時，發現四舍五入與手算不一致，提醒各位注意一下。示例如下：標準源輸出40，被校儀器示值40.01，用EXCEL計算相對誤差保留3個小數位數時為0.025%，但保留2位時為0.02%。 (, 下載次數: 269)
(, 下載次數: 320)

作者: hblgs2004 時間: 2015-10-16 08:24
提示: 作者被禁止或刪除內容自動屏蔽

作者: 菩提樹 時間: 2015-10-16 08:55
四舍五入出現問題，實際是EXCEL換算機制的問題，十進制轉換成二進制進行計算，計算完再轉換為十進制，運算過程保留位數問題，最終導致計算結果不是正好是0.025，你將小數位數保留十五位，就會出現我上傳圖中的數值，最后四舍五入就出現你這結果了 ?？梢杂肦OUND函數取整后計算，樓主的這種計算誤差的情況，基本不會出現問題，實際可以用excel函數實現四舍六入的。

作者: thearchyhigh 時間: 2015-10-17 08:29

菩提樹發表于 2015-10-16 08:55
四舍五入出現問題，實際是EXCEL換算機制的問題，十進制轉換成二進制進行計算，計算完再轉換為十進制，運算 ...

恩。乘上一定倍數轉成整數再算是可以的，但必竟使用中小數位不清楚，再加上此種情況極少，沒必要為這了個去隨時設置公式，大家知道避免一下就好。至于ROUND也是4舍5入，和EXCEL上面手動調小數位數一樣的，不能避免此問題。

作者: thearchyhigh 時間: 2015-10-17 08:31

hblgs2004 發表于 2015-10-16 08:24
你給出的數據沒錯呀，符合奇變偶不變規則，漏洞在哪兒？

EXCEL的四舍五入是不會奇變偶的，此計算是特例。你可以用40和40.1去算就為是0.3%而不是0.2%了

作者: gl98 時間: 2015-10-17 09:03
execl沒有錯，和你的保留位數有關系，另外execl沒有四舍六入五成雙的功能，如需要使用要自定義函數來實現。

作者: thearchyhigh 時間: 2015-10-17 10:01

gl98 發表于 2015-10-17 09:03
execl沒有錯，和你的保留位數有關系，另外execl沒有四舍六入五成雙的功能，如需要使用要自定義函數來實現。 ...

該示例40及40.01兩個數據后面全是零，你可以自己試下。該漏洞的原因3樓已經解釋清楚了。

作者: 步云風 時間: 2025-6-24 08:08
沒看懂，問題沒解決

歡迎光臨計量論壇 (http://www.bkd208.com/)

国产一区国产精品,2019中文亚洲字幕,电影在线高清,欧美精品一区二区三区久久