问答21ic问答首页 - TAG - 精度
-
模数转换芯片ADC_CJC5340 24位精度只有20位有变化 sos
在使用I2S协议读取CJC5340的值时，发现只有前20位数字有变动，剩下4位一直为零，比如最大只能到7FFFF000，不能7FFFFF00，示波器查看确实是应该为0，为什么最低四位无变动，查看波型的变化正常的10到20hz全部测试过了。
1527浏览量 0回复量 关注量 -
称重仪表的校称和分度之间的问题
问题： 许多称重仪表说明书上都说。当分度值和最大称量改变时，需要重新校称。这是为什么？ 分度值=分度间距*小数点 描述的是称重仪表的精度。而校称是为了得到称重传感器的线性度。它们两者之间有什么联系呢？
5108浏览量 11回复量 关注量 -
51单片机要是有64位双精度浮点库就好了
KEIL编译器的float和double都是单精度32位的，如果做科学计算这个精度太差了，双精度找遍全网都找不到，找到德国有一家做这个库的叫做GOFAST，但是要钱很贵，要是有免费的就好了
2597浏览量 17回复量 关注量 -
Allegro PCB designer 设计软甲的设计精度该如何选择？
关于PCB设计的时候导入DXF文件的机构图时，涉及到精度问题，有经验的大佬能不能介绍一下，上图中这个单位该选哪个比较合适，还有就是精度该选择多少呢？
707浏览量 1回复量 关注量
本周活跃用户
- 1
15601551015回答 9 次
- 2
probedog回答 4 次
- 3
classroom回答 4 次
- 4
laocuo1142回答 4 次
- 5
suncat0504回答 4 次
- 6
flycamelaaa回答 3 次
- 7
LcwSwust回答 3 次
- 8
powerantone回答 3 次
