发新帖我要提问
返回列表
打印

问个数字表精度计算问题

[复制链接]
2124|7
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
zgh9780|  楼主 | 2009-1-12 12:40 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
数字表, 精度, 万用表
6 1/2的万用表,理论的精度是怎么计算的.
谢谢

使用特权

评论回复 赏

相关下载

相关帖子
沙发
computer00| | 2009-1-12 12:48 | 只看该作者

精度没得算...只能算显示分辨力...

那就是1/2000000

使用特权

评论回复 赏
板凳
zgh9780|  楼主 | 2009-1-12 22:36 | 只看该作者

谢谢,长知识

使用特权

评论回复 赏
地板
qinchang| | 2009-1-14 00:16 | 只看该作者

一般来说

市场上六位半的万用表年精度都优于0.0035%

使用特权

评论回复 赏
5楼
zyok| | 2009-1-14 10:51 | 只看该作者

似乎几位半与精度没直接联系的哦...

只是显示分辨率而已，不过一般位数多的精度相对较高，否则没意义...

使用特权

评论回复 赏
6楼
joypan| | 2009-2-12 15:49 | 只看该作者

精度计算是有生产厂家给出来的

如果只有“6 1/2”这个值只代表能显示到1999999，并没有给出精度。如果给出精度 +/-0.001%，例如测量值为1999979，计算则为 1999999 *0.001 /100=+/-19.9999,那么测量显示数值在1999959~1999999都是精确的。

使用特权

评论回复 赏
7楼
qinchang| | 2009-2-12 21:39 | 只看该作者

来个图

使用特权

评论回复 赏
返回列表
发新帖 我要提问
高级模式
B Color Image Link Quote Code 收费 Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

zgh9780

20

主题

44

帖子

1

粉丝