21ic电子技术开发论坛 › 综合技术交流 › 仪器仪表 › 问个数字表精度计算问题
返回列表 发新帖我要提问

问个数字表精度计算问题

[复制链接]
3255|7
 楼主| zgh9780 发表于 2009-1-12 12:40 | 显示全部楼层 |阅读模式
数字表, 精度, 万用表
6&nbsp;1/2的万用表,理论的精度是怎么计算的.<br />谢谢
回复

收藏 举报

相关帖子
computer00 发表于 2009-1-12 12:48 | 显示全部楼层

精度没得算...只能算显示分辨力...

那就是1/2000000
回复

收藏 举报

 楼主| zgh9780 发表于 2009-1-12 22:36 | 显示全部楼层

谢谢,长知识

  
回复

收藏 举报

qinchang 发表于 2009-1-14 00:16 | 显示全部楼层

一般来说

市场上六位半的万用表年精度都优于0.0035%
回复

收藏 举报

zyok 发表于 2009-1-14 10:51 | 显示全部楼层

似乎几位半与精度没直接联系的哦...

只是显示分辨率而已，不过一般位数多的精度相对较高，否则没意义...
回复

收藏 举报

joypan 发表于 2009-2-12 15:49 | 显示全部楼层

精度计算是有生产厂家给出来的

如果只有“6&nbsp;1/2”这个值只代表能显示到1999999，并没有给出精度。如果给出精度&nbsp;+/-0.001%，例如测量值为1999979，计算则为&nbsp;1999999&nbsp;*0.001&nbsp;/100=+/-19.9999,那么测量显示数值在1999959~1999999都是精确的。
回复

收藏 举报

qinchang 发表于 2009-2-12 21:39 | 显示全部楼层

来个图

回复

收藏 举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

zgh9780

20

主题

44

帖子

1

粉丝
快速回复 在线客服 返回列表 返回顶部