計量論壇

標題: 0.2單位修約和0.5單位修約的公式怎么做 [打印本頁]

作者: 李先森123 時間: 2024-12-12 19:20
標題: 0.2單位修約和0.5單位修約的公式怎么做
一支（0～300）℃的玻璃液體溫度計，分度值是2℃，按十分之一估讀，已知100℃的標準值為100.007℃，被校溫度計2次讀數分別為100.2℃和100.4℃，平均值為100.3℃，修正值為100.007-100.3=-0.293℃，考慮到最終修正值需要根據0.2修約，請問老師們-0.293修約后是多少？如何修約？

作者: 增增增 時間: 2024-12-12 20:50
根據| GB/T 8170-2008 數值修約規則與極限數值的表示和判定，中3.3.2應該從平均值開始修約，把100.3修約成100.4，再與100.007比較

作者: 彈幕 時間: 2024-12-13 09:51
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位，為-1，再乘0.2，得修約結果0.2。
至于需不需要先修約平均值，我覺得按照GB/T 8170 中4.3.1.2的說法
當標準或有關文件中,若對極限數值(包括帶有極限偏差值的數值)無特殊：規定時,均應使用全數值比較法。如規定采用修約值比較法,應在標準中加以說明。
JJG 130的7.3.3.4已經對數據處理做出了要求，僅在修正值后標明了需要修約到1/10位，所以樓主的算法應該是對的。
大部分規程應該都要求是先計算后修約。

作者: 李先森123 時間: 2024-12-29 13:54

彈幕發表于 2024-12-13 09:51
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位，為-1，再乘0.2，得修約結果0 ...

是的，我現在就是計算后再修約，僅修約一次。

作者: liuyuji 時間: 2024-12-30 09:02

增增增發表于 2024-12-12 20:50
根據| GB/T 8170-2008 數值修約規則與極限數值的表示和判定，中3.3.2應該從平均值開始修約，把100.3修約成 ...

這是依據GB/T 8170-2008 哪一條來的？

作者: 滄海一粒 時間: 2024-12-30 09:45
本帖最后由滄海一粒于 2024-12-30 09:49 編輯

單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是小數后1位數嘛）

微信圖片_20241230094910.png (79.01 KB, 下載次數: 4)

作者: 李先森123 時間: 2025-1-6 15:30

滄海一粒發表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是 ...

嗯我已經搞定了

作者: 彈幕 時間: 2025-2-12 15:45

滄海一粒發表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是 ...

你可以這么想，按0.2修約，修約后一定是0.2的倍數，我們先除以0.2，在修約到各位，本質是是求得這個倍數。至于修約到0.2，數據得到小數點后一位，這個問題在最后乘以0.2的時候就解決了

作者: lilei202 時間: 2025-2-12 17:24
買本書吧書上有講解
先給0.293 乘以5=1.465 然后進行修約修約到個位為 1
然后用 1除以5=0.2
則修約結果為 0.2

微信截圖_20250212172242.png (192.29 KB, 下載次數: 3)

微信圖片_20250212172259.jpg (638.29 KB, 下載次數: 1)

作者: 李先森123 時間: 2025-2-15 16:59

lilei202 發表于 2025-2-12 17:24
買本書吧書上有講解
先給0.293 乘以5=1.465 然后進行修約修約到個位為 1
然后用 1除以5=0.2

謝謝。問題去年解決了。當初查了不少資料，已經對很多不同分度值估讀做了修約公式了。

作者: wangyiyong7703 時間: 2025-2-16 10:16
沒有一個統一的公式去解釋，書上搞復雜了，按多少修約，待修約數除以多少，修約到個位后，再乘以多少。這個是通式。100也行50也行，0.2，0.3，0.5也行

作者: 長度室 時間: 2025-2-16 16:02
有個取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（小于0.2和0.4的一半0.3），就取0.2。

作者: 李先森123 時間: 2025-2-17 10:54

長度室發表于 2025-2-16 16:02
有個取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（ ...

這種方式杜宇個別數量少的證書問題不大，批量性的不行。我已經處理好了，謝謝。

作者: 李先森123 時間: 2025-2-17 10:55
謝謝各位老師，這個問題已經解決了。

歡迎光臨計量論壇 (http://www.bkd208.com/)