打印

如何提高精度

[复制链接]
763|9
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
yufe|  楼主 | 2021-1-7 21:48 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
static unsigned long accumulator = 0;     // accumulator for averaging
static unsigned int measurements =MEASUREMENT_COUNTER;  //measurement counter
unsigned   int mV;
mV = accumulator * 3000  / MEASUREMENT_COUNTER / 1023;
这样我换算出的精度如何提高

使用特权

评论回复
沙发
llia| | 2021-1-7 21:51 | 只看该作者
用浮点运算

使用特权

评论回复
板凳
pangb| | 2021-1-7 21:54 | 只看该作者
这跟硬件有关

使用特权

评论回复
地板
wangpe| | 2021-1-7 21:58 | 只看该作者
什么硬件有关?

使用特权

评论回复
5
langgq| | 2021-1-7 22:01 | 只看该作者
把数据类型定义成float

使用特权

评论回复
6
wangzsa| | 2021-1-7 22:10 | 只看该作者

比如:
static float accumulator = 0.0;

使用特权

评论回复
7
zhuww| | 2021-1-7 22:15 | 只看该作者
看看把数据类型变换一下试试

使用特权

评论回复
8
zhanglli| | 2021-1-7 22:22 | 只看该作者
想办法把一个浮点数据分拆开存到2个、4个甚至更多的unsigned int类型里,然后计算。

使用特权

评论回复
9
lium| | 2021-1-7 22:28 | 只看该作者
或者把一个数据的每一位数字挨个放到一个数组里,计算起来就像“大数计算器”一样需要逐位计算。

使用特权

评论回复
10
yufe|  楼主 | 2021-1-7 22:44 | 只看该作者
嗯,预料中的结果,多谢大家啦

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

983

主题

10170

帖子

1

粉丝