如何提高精度

发表于 2019-10-13 10:11

static unsigned long accumulator = 0;    // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

发表于 2019-10-13 10:44

用浮点运算

发表于 2019-10-13 10:47

这跟硬件有关

发表于 2019-10-13 10:53

什么硬件有关？

发表于 2019-10-13 11:40

把数据类型定义成float

发表于 2019-10-13 11:45

比如：
static float accumulator = 0.0;

发表于 2019-10-13 11:48

看看把数据类型变换一下试试

发表于 2019-10-13 11:53

想办法把一个浮点数据分拆开存到2个、4个甚至更多的unsigned int类型里，然后计算。

发表于 2019-10-13 12:03

或者把一个数据的每一位数字挨个放到一个数组里，计算起来就像“大数计算器”一样需要逐位计算。

发表于 2019-10-13 12:06

嗯，预料中的结果，多谢大家啦

如何提高精度

相关帖子

浏览过的版块

浏览过的版块