换算出的精度如何提高

发表于 2013-3-5 22:32

static unsigned long accumulator = 0;    // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

发表于 2013-3-5 22:32

用浮点运算

发表于 2013-3-5 22:34

这跟硬件有关

发表于 2013-3-5 22:35

什么硬件有关？

发表于 2013-3-5 22:36

把数据类型定义成float

发表于 2013-3-5 22:39

比如：
static float accumulator = 0.0;

发表于 2013-3-5 22:40

哦，知道了，我试试

发表于 2013-3-5 22:41

先结贴了，多谢大家啊

发表于 2013-3-6 22:22

看看把数据类型变换一下试试

发表于 2013-3-6 23:17

这程序里把浮点型的强制转化为整型数据了

换算出的精度如何提高

相关帖子

浏览过的版块

欢快之小溪

技术高手奖章

社区建设奖章

经常做客