如何提高精度

发表于 2017-3-12 23:05

static unsigned long accumulator = 0;    // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

发表于 2017-3-12 23:07

用浮点运算

发表于 2017-3-12 23:09

这跟硬件有关

发表于 2017-3-13 13:37

你好，我這邊是希特電子（深圳）有限公司，是中國大陸笙泉MCU的代理商有需要的可以加我 QQ 328626444 詳細聊聊

发表于 2017-3-17 21:06

什么硬件有关？

发表于 2017-3-17 21:10

把数据类型定义成float

发表于 2017-3-17 21:13

比如：
static float accumulator = 0.0;

发表于 2017-3-17 21:15

看看把数据类型变换一下试试

发表于 2017-3-17 21:16

想办法把一个浮点数据分拆开存到2个、4个甚至更多的unsigned int类型里，然后计算。

发表于 2017-3-17 21:18

或者把一个数据的每一位数字挨个放到一个数组里，计算起来就像“大数计算器”一样需要逐位计算。

发表于 2017-3-17 21:20

嗯，预料中的结果，先结贴吧，多谢大家啦

如何提高精度

相关帖子

浏览过的版块

浏览过的版块