如何提高精度

[复制链接]
146|9
 楼主 | 2018-7-9 19:15 | 显示全部楼层 |阅读模式

static unsigned long accumulator = 0;     // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned   int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高
| 2018-7-9 19:17 | 显示全部楼层

用浮点运算
| 2018-7-9 19:19 | 显示全部楼层
这跟硬件有关
| 2018-7-9 19:22 | 显示全部楼层
什么硬件有关?
| 2018-7-9 19:24 | 显示全部楼层
把数据类型定义成float
| 2018-7-9 19:27 | 显示全部楼层

比如:
static float accumulator = 0.0;
| 2018-7-9 19:29 | 显示全部楼层
看看把数据类型变换一下试试
| 2018-7-9 19:31 | 显示全部楼层
想办法把一个浮点数据分拆开存到2个、4个甚至更多的unsigned int类型里,然后计算。
| 2018-7-9 19:35 | 显示全部楼层
或者把一个数据的每一位数字挨个放到一个数组里,计算起来就像“大数计算器”一样需要逐位计算。
 楼主 | 2018-7-9 19:37 | 显示全部楼层
嗯,预料中的结果,先结贴吧,多谢大家啦
扫描二维码,随时随地手机跟帖
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复

您需要登录后才可以回帖
登录 | 注册
高级模式
我要创建版块 申请成为版主

论坛热帖

快速回复 返回顶部 返回列表