打印

怎么利用精度公式计算精度呢?

[复制链接]
5404|7
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
hhblxm|  楼主 | 2009-5-15 22:09 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
沙发
zouxp| | 2009-5-15 22:13 | 只看该作者

后面2是跳2个字

精度范围为:200*0.5%=1个字。相当于197-203mV,都在精度范围内。

使用特权

评论回复
板凳
zouxp| | 2009-5-15 22:16 | 只看该作者

不过还要看你的小数点在什么地方了。

如果显示200.0,那么精度范围就是198.8-201.2mV

使用特权

评论回复
地板
hhblxm|  楼主 | 2009-5-15 22:37 | 只看该作者

能否仔细讲讲,不知道你是怎么算出来的。

使用特权

评论回复
5
joypan| | 2009-5-27 15:58 | 只看该作者

正确是这样计算的

请先确定是三位半的仪表,范围是0~1999共2000个数值。如果精度是+/-0.5%+2,精度计算为:2000*0.5%再加上两个数值,即2000*-0.5%-2 至 2000*0.5%+2都在正常范围。计算结果是1988~2012

使用特权

评论回复
6
iC921| | 2009-5-28 23:00 | 只看该作者

基本精度:±(0.5%+2),不是规范的写法

此种情况下,要说明基本量程是哪一个

使用特权

评论回复
7
hlb_hlb| | 2009-5-31 22:34 | 只看该作者

基本精度是指精度最高的那个量程的精度

基本精度是指这几个量程中用来做基础的那个量程,其他的量程都是经过电阻分压后得到的。也就是指精度最高的那个量程的精度是±(0.5%+2)

精度没有特殊说明的情况下是 ±(0.5%reading+2counts)

最大误差=(测量值*0.5%)与(最末位的位数的2)之和。

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

24

主题

34

帖子

0

粉丝