如何提高精度

2018-7-9 19:15

static unsigned long accumulator = 0;    // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

2018-7-9 19:17

用浮点运算

2018-7-9 19:19

这跟硬件有关

2018-7-9 19:22

什么硬件有关？

2018-7-9 19:24

把数据类型定义成float

2018-7-9 19:27

比如：
static float accumulator = 0.0;

2018-7-9 19:29

看看把数据类型变换一下试试

2018-7-9 19:31

想办法把一个浮点数据分拆开存到2个、4个甚至更多的unsigned int类型里，然后计算。

2018-7-9 19:35

或者把一个数据的每一位数字挨个放到一个数组里，计算起来就像“大数计算器”一样需要逐位计算。

2018-7-9 19:37

嗯，预料中的结果，先结贴吧，多谢大家啦

专栏首页

如何提高精度