如何提高精度

发表于 2022-2-1 23:05

static unsigned long accumulator = 0;    // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高
使用特权更多操作

发表于 2022-2-1 23:09

用浮点运算

发表于 2022-2-1 23:11

这跟硬件有关

发表于 2022-2-1 23:13

什么硬件有关？

发表于 2022-2-1 23:15

把数据类型定义成float

发表于 2022-2-1 23:17

看看把数据类型变换一下试试

发表于 2022-2-1 23:20

或者把一个数据的每一位数字挨个放到一个数组里，计算起来就像“大数计算器”一样需要逐位计算。

发表于 2022-2-1 23:22

嗯，预料中的结果，多谢大家啦

发表于 2022-3-1 11:58

更改数据类型了

发表于 2022-3-1 12:09

这样比较耗费资源

发表于 2022-3-1 12:15

浮点型会拖慢速度的吧

发表于 2022-3-1 12:55

算法上要处理一下

发表于 2022-3-1 13:43

在不可以整除的情况下可以

如何提高精度

相关帖子

浏览过的版块

浏览过的版块