求一道題解答

計算過程，朋友們

D,先計算10mV量程點最大允許誤差，再除以10mV， +/-（0.005%*0.010+0.005%*1）/0.010*100%=+/-0.5%

直接除以0.01

不知道怎么計算得0.5

知道是這樣算

jingbo007 發(fā)表于 2018-6-13 16:42
知道是這樣算

知道這樣算還能算不出正確結果？

jingbo007 發(fā)表于 2018-6-13 16:26
不知道怎么計算得0.5

10mV點的絕對誤差為 +/-(讀數(shù)（0.01V）*0.005%+滿量程（1V）*0.005%)，等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效數(shù)字為+/-0.5%

10mV點的絕對誤差為 +/-(讀數(shù)（0.01V）*0.005%+滿量程（1V）*0.005%)，等于+/-0.0000505V。+/-0.0000505/0.01*100%=+/-0.0505%,保留一位有效數(shù)字為+/-0.5%

用V的話可能會把腦袋搞混，那就直接單位統(tǒng)一為mV把數(shù)字簡單化，然后帶入樓上那些專家說的公式就可以了啊，找到適合自己的算法嘛不一定要用別人的思維

輪廓 發(fā)表于 2018-6-14 09:45
用V的話可能會把腦袋搞混，那就直接單位統(tǒng)一為mV把數(shù)字簡單化，然后帶入樓上那些專家說的公式就可以了啊， ...

我實際算的時候也沒有按公式一步步算，我是寫1.00000，然后在下面一行對應最后一個0的位置寫一個5，再在下一行與1.00000對齊寫0.0100005，這樣上面那個5就對到0.0100005的倒數(shù)第三位。0.5%結果就出來了

劉耀煌 發(fā)表于 2018-6-14 09:59
我實際算的時候也沒有按公式一步步算，我是寫1.00000，然后在下面一行對應最后一個0的位置寫一個5，再在 ...

你這樣也是對的，只是說每個人的算法也許不一樣，找一個適合自己的就行。

劉耀煌 發(fā)表于 2018-6-14 09:59
我實際算的時候也沒有按公式一步步算，我是寫1.00000，然后在下面一行對應最后一個0的位置寫一個5，再在 ...

我算的是0.05%但答案是0.5%

都要保留一位有效數(shù)字嗎？

jingbo007 發(fā)表于 2018-6-14 16:09
都要保留一位有效數(shù)字嗎？

保留多少位要視具體情況而定，本題給出的條件是5位半，最小量程滿量程1V，則測量１０mＶ時只能分辨到0.01mV，計算相對誤差也就只能分辨到0.1%

jingbo007 發(fā)表于 2018-6-14 16:07
我算的是0.05%但答案是0.5%

你能算出0.05%來說明你還是算錯了

劉耀煌 發(fā)表于 2018-6-14 16:30
你能算出0.05%來說明你還是算錯了

怎么算啊，朋友

劉耀煌 發(fā)表于 2018-6-14 09:59
我實際算的時候也沒有按公式一步步算，我是寫1.00000，然后在下面一行對應最后一個0的位置寫一個5，再在 ...

5位半的位置嗎？