0.2單位修約和0.5單位修約的公式怎么做

一支（0～300）℃的玻璃液體溫度計，分度值是2℃，按十分之一估讀，已知100℃的標準值為100.007℃，被校溫度計2次讀數分別為100.2℃和100.4℃，平均值為100.3℃，修正值為100.007-100.3=-0.293℃，  考慮到最終修正值需要根據0.2修約，請問老師們-0.293修約后是多少？如何修約？

根據| GB/T 8170-2008 數值修約規則與極限數值的表示和判定， 中3.3.2應該從平均值開始修約，把100.3修約成100.4，再與100.007比較

單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位，為-1，再乘0.2，得修約結果0.2。
至于需不需要先修約平均值，我覺得按照GB/T 8170 中4.3.1.2的說法
當標準或有關文件中,若對極限數值(包括帶有極限偏差值的數值)無特殊：規定時,均應使用全數值比較法。如規定采用修約值比較法,應在標準中加以說明。
JJG 130的7.3.3.4已經對數據處理做出了要求，僅在修正值后標明了需要修約到1/10位，所以樓主的算法應該是對的。
大部分規程應該都要求是先計算后修約。

彈幕 發表于 2024-12-13 09:51
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位，為-1，再乘0.2，得修約結果0 ...

是的，我現在就是計算后再修約，僅修約一次。

增增增 發表于 2024-12-12 20:50
根據| GB/T 8170-2008 數值修約規則與極限數值的表示和判定， 中3.3.2應該從平均值開始修約，把100.3修約成 ...

這是依據GB/T 8170-2008 哪一條來的？

單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是小數后1位數嘛）

滄海一粒 發表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是 ...

嗯我已經搞定了

滄海一粒 發表于 2024-12-30 09:45
單純論-0.293如何按修約間隔0.2修約，是將-0.293/0.2=-1.465，然后修約到個位（題目不是保留十分之一嘛不是 ...

你可以這么想，按0.2修約，修約后一定是0.2的倍數，我們先除以0.2，在修約到各位，本質是是求得這個倍數。至于修約到0.2，數據得到小數點后一位，這個問題在最后乘以0.2的時候就解決了

買本書吧 書上有講解  
先給0.293 乘以5=1.465 然后進行修約    修約到個位  為   1
然后 用 1除以5=0.2
則修約結果為   0.2

lilei202 發表于 2025-2-12 17:24
買本書吧 書上有講解  
先給0.293 乘以5=1.465 然后進行修約    修約到個位  為   1
然后 用 1除以5=0.2

謝謝。問題去年解決了。當初查了不少資料，已經對很多不同分度值估讀做了修約公式了。

沒有一個統一的公式去解釋，書上搞復雜了，按多少修約，待修約數除以多少，修約到個位后，再乘以多少。這個是通式。100也行50也行，0.2，0.3，0.5也行

有個取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（小于0.2和0.4的一半0.3），就取0.2。

長度室 發表于 2025-2-16 16:02
有個取巧的方法，看它更接近誰，就取誰。比如0.293，按0.2單位修約，0.293介于0.2和0.4之間，更接近于0.2（ ...

這種方式杜宇個別數量少的證書問題不大，批量性的不行。我已經處理好了，謝謝。

謝謝各位老師，這個問題已經解決了。