弱弱地问一句，测量的精度是什么意思

只看该作者 · 2010-12-19 18:11

经常看到大家在哪里说，这个电路测量的精度要到多少多少位，八位呀，十位呀
小弟不才，问一下，这个多少位的精度是什么意思？
小数点后面多少位嘛？
如果是小数点后多少位的话，那八位的精度就是0.00000001了，就相当于10n了
是这样的吗？
希望大侠指点一下

只看该作者 · 2010-12-19 18:14

:o

8位代表的是 2的8次方。

只看该作者 · 2010-12-19 18:15

万用表上说的4位半是指：最大显示量程19999

只看该作者 · 2010-12-19 18:18

2# OverLook

2的8次方，256？
什么意思，能解释一下嘛？

只看该作者 · 2010-12-19 18:20

万用表上说的4位半是指：最大显示量程19999
OverLook 发表于 2010-12-19 18:15

4位半，2的4次方，16呀
19999是什么？
大侠指点一下哟

只看该作者 · 2010-12-19 18:24

别大侠，我菜鸟

万用表说的4位半或者5位半精度，是指的最大显示量程是19999或者199999

2的8次方=256；就是5V 的带宽最小识别精度是5V/256

只看该作者 · 2010-12-19 18:31

别大侠，我菜鸟

万用表说的4位半或者5位半精度，是指的最大显示量程是19999或者199999

2的8次方=256；就是5V 的带宽最小识别精度是5V/256
OverLook 发表于 2010-12-19 18:24

5V/256=0.0195？
是这个意思吗？
万用表那个，还是不是很明白，19999，难道是2*10^4-1=19999？

（兄弟，就是看到你那边问的测量不线性问题，我才来问的你说的那个八位精度是什么意思的
哈哈）

3万 · 2010-12-19 20:22

这里说的8位，是二进制的8位。
三位半或四位半(还有三又四分之三位等等)，是十进制的。
二者不可混淆。

2万 · 2010-12-19 20:33

唉~
“电路测量的精度要到多少多少位”是指ADC的位数，ADC是二进制的，所以是指二进制位数。
而“万用表的位数”是指万用表可以显示几个八段数字，比如只有3个数码管，则最大只能显示0~999，那就是3位的；像常用的万用表，最大能够显示±1999，实际上前面就多一个数码管，但这个数码管并不能显示0~9，而只能显示符号和1，这是不完全的1位数字，所以只能算半位。所以常用的“最大能够显示±1999”的万用表是3位半的。

很明显，上面两种话题中的位数是完全不同的概念，前者是只二进制位数，后者是给人看的十进制数码管位数。请不要搞混了。

对于3位半万用表，考虑正负符号需要至少12bit的ADC才能不损失精度（即每个数字都是真是有效的而不是插值出来的）
对于6位半表（很贵很贵滴说），则需要至少22bit的ADC。而实际上这么高精度的ADC的话干扰、噪声已经很难处理了，而要想末位数字不乱跳动的话至少得使用更高位数（bit）的ADC，然后丢弃低x位。
——实际工程上用24bitADC都很难做到6位半表末位不跳动的