精度问题

[复制链接]
 楼主| pangb 发表于 2013-11-3 11:53 | 显示全部楼层 |阅读模式
static unsigned long accumulator = 0;     // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned   int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高
chenjunt 发表于 2013-11-3 11:54 | 显示全部楼层
用浮点运算
ousj 发表于 2013-11-3 11:55 | 显示全部楼层
这跟硬件有关
morrisk 发表于 2013-11-3 11:55 | 显示全部楼层
什么硬件有关?
小小猫咪 发表于 2013-11-3 11:56 | 显示全部楼层
把数据类型定义成float
小小猫咪 发表于 2013-11-3 11:56 | 显示全部楼层
比如:
static float accumulator = 0.0;
司徒老鹰 发表于 2013-11-3 11:57 | 显示全部楼层
看看把数据类型变换一下试试
 楼主| pangb 发表于 2013-11-3 11:58 | 显示全部楼层
哦,知道了,我试试
 楼主| pangb 发表于 2013-11-3 11:59 | 显示全部楼层
先结贴了, 多谢大家啊
您需要登录后才可以回帖 登录 | 注册

本版积分规则

701

主题

7643

帖子

6

粉丝
快速回复 在线客服 返回列表 返回顶部

701

主题

7643

帖子

6

粉丝
快速回复 在线客服 返回列表 返回顶部